Izraelski AI eksperimenti u ratu u Gazi izazivaju etičke dileme

IslamBosna.ba – Izrael je tokom sukoba u Gazi intenzivno koristio nove vojne tehnologije zasnovane na vještačkoj inteligenciji (AI), što je izazvalo ozbiljne etičke rasprave, izvještava The New York Times.

Krajem 2023. godine izraelska vojska je tragala za Ibrahimom Biarijem, visokorangiranim komandantom Hamasa koji je, prema tvrdnjama izraelskih obavještajnih službi, učestvovao u planiranju napada 7. oktobra. Kako nisu uspjeli locirati Biarija u kompleksnoj mreži tunela ispod Gaze, izraelski oficiri su se okrenuli novom AI alatu razvijenom unutar elitne tehnološke jedinice 8200.

Ovaj alat za analizu zvuka, koji je do tada bio eksperimentalne prirode, omogućio je izraelskim snagama da približno odrede lokaciju s koje Biari upućuje pozive. Na osnovu tih podataka, 31. oktobra 2023. izvršen je zračni napad u kojem je Biari ubijen, ali je, prema podacima organizacije Airwars, u istom napadu poginulo više od 125 civila.

Široka primjena AI tehnologije

Kako navodi The New York Times, ovo je samo jedan primjer kako je Izrael koristio rat u Gazi za brzo testiranje i primjenu AI podržanih vojnih tehnologija. Prema svjedočenjima devet američkih i izraelskih zvaničnika, Izrael je u posljednjih 18 mjeseci razvio niz sistema: od AI prepoznavanja lica za identifikaciju osoba, do razvoja arapskog AI modela koji analizira poruke i objave na društvenim mrežama.

Veliki dio inovacija nastao je kroz saradnju pripadnika jedinice 8200 i rezervista koji inače rade u tehnološkim kompanijama poput Googlea, Microsofta i Meta-e. Unutar vojske je uspostavljen centar za inovacije poznat kao „The Studio“, gdje su stručnjaci povezivani sa projektima baziranim na vještačkoj inteligenciji.

Etnički izazovi i greške

Iako je AI omogućio izraelskoj vojsci značajne tehnološke prednosti, njegova primjena dovela je i do brojnih problema. Primjeri uključuju pogrešne identifikacije osoba, pogrešna hapšenja i, u određenim slučajevima, pogibije civila. Zvaničnici su priznali da ovakvi sistemi, iako moćni, podižu ozbiljna etička pitanja.

„Hitna potreba za odgovorom na krizu ubrzala je inovacije, posebno one zasnovane na AI-u,“ rekla je Hadas Lorber, direktorica Instituta za primijenjena istraživanja u odgovornoj vještačkoj inteligenciji pri Tehnološkom institutu u Holonu, te bivša visoka savjetnica izraelskog Vijeća za nacionalnu sigurnost. Lorber je upozorila da je neophodno uspostaviti kontrole i ravnoteže u primjeni ovih tehnologija, te naglasila da konačne odluke moraju donositi ljudi, a ne algoritmi.

AI modeli na arapskom jeziku

Jedno od ključnih dostignuća izraelske vojske bilo je stvaranje velikog jezičkog modela (LLM) na arapskom jeziku, temeljenog na godinama presretnutih poruka, telefonskih razgovora i objava s društvenih mreža. Ovaj alat omogućio je izraelskim analitičarima da brzo pretražuju ogromne baze podataka i analiziraju reakcije širom arapskog svijeta na ključne događaje, poput ubistva visokog lidera Hezbollaha Hasana Nasrallaha.

Međutim, zbog kompleksnosti arapskih dijalekata i modernog slenga, AI alat je povremeno davao netačne rezultate, što je zahtijevalo ljudsku intervenciju.

Prepoznavanje lica i “Lavender”

Nakon 7. oktobra, izraelska vojska je opremila privremene kontrolne punktove kamerama koje su automatski upoređivale fotografije Palestinaca sa AI sistemom za prepoznavanje lica. Greške u sistemu dovele su do pogrešnih hapšenja i ispitivanja nevinih osoba.

Također, Izrael je upotrijebio algoritam nazvan Lavender, koji je korišten za brzo identificiranje članova Hamasa nižeg ranga, iako su zvaničnici priznali da predikcije nisu uvijek bile tačne.

Dronovi i integracija podataka

Avi Hasson, direktor izraelske neprofitne organizacije Startup Nation Central, koja povezuje investitore s kompanijama, rekao je da su rezervisti iz Meta, Googlea i Microsofta postali ključni u pokretanju inovacija u oblasti dronova i integracije podataka.

“Rezervisti su donijeli znanje i pristup ključnim tehnologijama koje nisu bile dostupne vojsci“, kazao je Hasson.

Izraelska vojska ubrzo je počela koristiti vještačku inteligenciju za unapređenje svoje flote dronova. Aviv Shapira, osnivač i direktor kompanije XTEND, koja razvija softver i dronove za izraelsku vojsku, izjavio je da su algoritmi pokretani vještačkom inteligencijom korišteni za izradu dronova sposobnih da na daljinu zaključaju metu i prate je.

“Ranije su sposobnosti navođenja zavisile od fokusiranja na sliku mete“, rekao je Shapira. “Sada AI može prepoznati i pratiti sam objekat, bilo da se radi o pokretnom automobilu ili čovjeku, s ubitačnom preciznošću.“

Shapira je dodao da su njegovi glavni klijenti izraelska vojska i Ministarstvo odbrane SAD-a, te da su obje strane svjesne etičkih dilema upotrebe vještačke inteligencije u ratovanju, o čemu se, kako je naveo, vodi odgovorna rasprava.

Dok Izrael nastavlja da razvija i koristi vještačku inteligenciju u vojne svrhe, rastuće etičke dileme i zabrinutosti za zaštitu civilnog stanovništva ostaju centralna tema međunarodnih rasprava.

IslamBosna.ba