Neki počinju dan tako što pogledaju u telefon, a neki ga uzmu u ruke tek uz kafu, ali skoro svi smo jutros pogledali prognozu, na gugl mapama pronašli najkraću rutu do posla, i na putu do tamo pustili omiljenu plejlistu, koju je algoritam pažljivo izabrao samo za nas. Na poslu malo toga možemo da uradimo bez Majkrosoftovih ili Guglovih softvera, verovatno smo čak u obavezi da koristimo upravo njih. Tehnologiju koju većina ljudi, firmi i institucija svakodnevno koristi proizvode kompanije koje bismo mogli nabrojati na prste jedne ruke. Njom se služe i države, ne samo za izdavanje dokumenata već i za vođenje ratova. Softveri tehnoloških giganata pomažu u donošenju odluka šta razoriti i koga ubiti na bojnim poljima širom sveta dok čitate ovaj tekst. Isti klaud koji čuva naše fotografije, čuva i podatke o metama. Ista veštačka inteligencija koja preporučuje koju seriju sledeću da pogledate, preporučuje i koordinate vazdušnih napada.
U danima pred američki i izraelski napad na Iran krajem februara, koji su pratila razaranja širom Jugozapadne Azije, OpenAI, kompanija koja stoji iza ChatGPT-ja, potpisala je ugovor s Pentagonom. Vlada Sjedinjenih Američkih Država još prošle godine je najavila integraciju veštačke inteligencije u vojsku, i sklopila prve ugovore s kompanijama Silicijumske doline. Jedan od pionira u tome bio je Anthropic, poznat po Claudu, četbotu sličnom ChatGPT-ju. Kompaniju su osnovali ljudi koji su napustili OpenAI, zalažući se za sigurnije i odgovornije korišćenje veštačke inteligencije, a saradnju s Pentagonom prihvatili su oberučke, verujući da su upravo oni ti koji će ovu ideju sprovesti u delo na pravi način.
Početkom ove godine klima u američkoj vladi se menja, a sa njom i uslovi ugovora s tehnološkim kompanijama. Nakon vesti da su SAD koristile Claude pri kidnapovanju bivšeg venecuelanskog predsednika, Nikolasa Madura, Anthropic zahteva odgovore od Pentagona, ali ih ne dobija, makar ne u potpunosti. Usledili su ultimatumi i jasna poruka američke vlade da privatne kompanije neće odlučivati o tome kako će se veštačka inteligencija koristiti u vojne svrhe. Ugovor vredan 200 miliona dolara sa Anthropicom propada, a u foto-finišu ga preuzima OpenAI. Sistem, kao i svaki drugi, uklonio je smetnje i nastavio da postoji.
Sistem takođe, kao i svaki drugi, greši. Uprkos njegovoj visokotehnološkoj prirodi, ovaj sistem i dalje čine i održavaju ljudi. Za bombardovanje osnovne škole u Minabu, gradu na jugu Irana, u kojem je ubijeno više od 175 ljudi, uglavnom devojčica, optužen je AI. Tačnije, u medijima je kružilo pitanje da li je Claude bio korišćen i u ovom napadu. Ono što se zapravo dogodilo jeste to da je zgrada škole ranije bila korišćena kao vojni objekat, a podaci američke obaveštajne službe nisu bili ažurirani. Ipak, brzinu s kojom je napad sproveden omogućio je Maven, sistem zasnovan na veštačkoj inteligenciji napravljen upravo u vojne svrhe.
Openhajmeri našeg doba
Iako deluje kao da se dešava u nekom drugom svetu i nekim drugim ljudima, ovo je ne samo naša budućnost već i sadašnjost, a temelji za AI ratovanje postavljeni su makar deceniju ranije. Još 2017. godine Pentagon potpisuje ugovor sa Googlom za projekat Maven. Prvi put u istoriji zvanično je primenjena tehnologija koja prikuplja i obrađuje ogromnu količinu obaveštajnih podataka iz snimaka dronova u realnom vremenu, s namerom da se oni koriste za nadzor i odbranu. Pod pritiskom protesta nekoliko hiljada zaposlenih koji su se protivili upotrebi veštačke inteligencije u vojne svrhe, Google se ubrzo povukao iz ugovora. Ugovor preuzima Palantir, kompanija koja ne pravi softvere koje koristimo za imejlove, muziku ili brojanje koraka, već AI platforme za vladine agencije, vojsku i velike korporacije. Njihovu tehnologiju, osim američkog ministarstva odbrane, koristi i ICE, američka imigraciona služba, koja je drastično pojačala deportacije i hapšenja tokom mandata predsednika Donalda Trampa, kao i Izrael, Ukrajina, Ujedinjeno Kraljevstvo i NATO.
Direktor Palantira, Aleks Karp, otvoreno se zalaže za upotrebu veštačke inteligencije u vojne svrhe, često naglašavajući da kompanije koje je proizvode imaju etičku obavezu da sarađuju sa zapadnim demokratijama. Kina i Rusija već razvijaju vojne tehnologije potpomognute veštačkom inteligencijom, a SAD moraju da pobede u novoj trci u naoružavanju. Slično viđenje je svojevremeno imao i Robert Openhajmer, otac atomske bombe. Ipak, tehnologija iza koje Karp stoji ne koristi se samo za gađanje legitimnih i legalnih vojnih meta već odnosi i živote civila. Iako tome svedoči, Karp za sebe još uvek nije rekao da je postao Smrt, uništitelj svetova.
Ni Google nije dugo čekao da ponovo uđe u slične dogovore. Krajem 2021. godine, zajedno sa Amazonom dobija od vlade Izraela više od milijardu dolara za usluge korišćenja klauda i veštačke inteligencije, uključujući i njihovu vojnu primenu. Zaposleni obe kompanije ponovo su protestovali, osnivajući inicijativu No Tech for Apartheid (nema tehnologije za aparthejd), koja se bori protiv tehnološkog militarizma. Iako je inicijativa i dalje aktivna, posebno od početka rata u Gazi, Google, Amazon, ali i Microsoft, Palantir i druge korporacije nastavljaju da rade sa Izraelom, a njihova tehnologija pomaže u ubijanju i proterivanju ljudi iz Palestine. Nakon otpuštanja preko pedeset radnika i radnica koji su učestvovali u protestima, Google je, isto kao i OpenAI, tiho uklonio odredbe iz svojih politika koje su obećavale da se njihovi softveri neće koristiti za razvoj oružja i alata za nadzor.
Kako AI ubija?
Ova tehnologija prvi put je isprobana tokom rata u Ukrajini, koji časopis Tajm naziva „prvim AI ratom”. Novinarka Vera Bergengruen izveštava da je Karp, prešavši peške granicu s Poljskom, bio prvi koji se sastao s vladom u Kijevu odmah po početku rata videvši priliku da „ispuni misiju Palantira da odbrani Zapad i uplaši neprijatelje na smrt”. Pokušavajući da se odbrani od okupacije, Ukrajina je prihvatila saradnju ne samo s Palantirom već i sa ostatkom Silicijumske doline. „Naša velika misija je da Ukrajinu učinimo svetskom tehnološkom laboratorijom za istraživanje i razvoj“, rekao je za Tajm Mihail Fedorov, tadašnji ukrajinski ministar digitalne transformacije i sadašnji najmlađi ministar odbrane u istoriji zemlje. Drugi zvaničnici s kojima je Bergengruen razgovarala objasnili su da se ova tehnologija koristi i van bojnog polja, za prikupljanje dokaza o ratnim zločinima, čišćenje mina, koordinisanje smeštaja za izbeglice i iskorenjivanje korupcije.
Isti softveri, koji su proizvele iste kompanije, koriste se i u Gazi. Teren je već bio utaban, sporazumi potpisani, a sistemi zasnovani na veštačkoj inteligenciji spremni za upotrebu, ali ovaj put mnogo smrtonosniji. Grupa palestinskih i izraelskih novinara koji vode +972, nezavisni i neprofitni onlajn časopis, na samom početku rata je izveštavala o sistemu Habsora (hebrejska reč za jevanđelje), koji automatski generiše mete, omogućavajući nesmetano, brzo i efikasno funkcionisanje izraelske „fabrike masovnog ubijanja”. Mete za koje je ranije bilo potrebno godinu dana da se pronađu Habsora je mogla da generiše za manje od jednog dana. Sistem se koristio za bombardovanje porodičnih kuća, pa čak i čitavih stambenih zgrada u kojima se sumnjalo da žive pripadnici Hamasa. Civili koji žive u tim objektima smatrani su kolateralnom štetom. „Ništa se ne dešava slučajno. Kada je trogodišnja devojčica ubijena u svojoj kući u Gazi, to je zato što je neko u vojsci odlučio da nije velika stvar da ona bude ubijena, da je to cena koju vredi platiti”, rekao je jedan od izraelskih operativaca za +972.
Pet meseci kasnije, ista ekipa novinara izveštavala je o sistemu Lavander, takođe zasnovanom na veštačkoj inteligenciji, kojim je identifikovano 37.000 Palestinaca za koje se sumnja da su deo Hamasa. Izraelski operativci su u razgovoru s novinarima priznali da su za odobravanje odluka o napadu na mete koje je identifikovao Lavander trošili svega dvadesetak sekundi. Kao što ChatGPT pogreši, izmisli i „ishalucinira” odgovor na zahtev koji smo mu dali, tako radi i Lavander, u čak 10 % slučajeva. Sistem je kao mete obeležavao i policajce, radnike civilne zaštite i obične stanovnike Gaze koji su slučajno delili ime s nekim od operativaca Hamasa.
Civilne žrtve u Gazi nisu bile samo „kolateralna šteta” i „slučajna greška”. Nakon što Lavander odredi mete, još jedan AI sistem izraelske vojske, „Where’s Daddy?” (ili „Gde je tata?”) prati označene pojedince kako bi ih bombardovao u trenutku kada uđu u sopstveni dom, zajedno sa ostatkom porodice. Da, zaista se tako zove. Da, ovaj sistem su napravili ljudi, ime su mu dali ljudi i njegovu upotrebu odobrili ljudi, a privatne kompanije čija je klaud infrastruktura čuvala podatke neophodne za njegovo funkcionisanje, i čiji su AI alati uticali na njegovu arhitekturu, iste su kompanije čije ste aplikacije otvorili jutros, čim ste se probudili.
Otpor (mora da) postoji
Upotrebi veštačke inteligencije u vojne svrhe najviše su se usprotivili upravo oni koji jedini znaju kako da je naprave. Tokom protekle decenije, različite inicijative širom tehnološke industrije prerasle su u međukompanijsko organizovanje. Istovremeno, inicijative civilnog društva i drugih grupa zagovaraju zabranu autonomnog oružja i strožu regulaciju, ukazujući da problem nije u tehnologiji koja se otrgla kontroli, već u političkim odlukama koje su doneli oni koje smo izabrali, a koji određuju kako se ovi sistemi razvijaju i koriste. Užurbani dogovor između Pentagona i OpenAI-ja pred rat u Iranu proizveo je jednako brzu i efikasnu inicijativu QuitGPT-ja. Preko 2,5 miliona korisnika otkazalo je svoje ChatGPT pretplate u samo mesec dana, zahtevajući od kompanije da javno odbije bilo kakvo učešće u razvoju alata za masovni nadzor i potpuno autonomnih sistema oružja.
Čija je naša odgovornost?
Rat je oduvek pokretao tehnološke inovacije. Tehnologija nam je omogućila upravljanje (pa i ubijanje) na daljinu, a uz fizičku distancu često dolazi i ona moralna. Inženjeri su napravili softver, kompanija ga je prodala, država kupila, nadležni izdali nalog, operativci po nalogu odobrili ubijanje čoveka kojeg je softver označio kao metu. Svi su radili svoj posao. Ipak, za ubistvo neko mora biti odgovoran, ali niko nije siguran gde ta odgovornost počinje i gde se završava.
Slušajući suđenje Adolfu Ajhmanu, oficiru nacističke Nemačke, u Jerusalimu 1961. godine, filozofkinja Hana Arent je shvatila da on, kao i mnogi drugi šrafovi tog sistema, nisu čudovišta kakvim ih zamišljamo. Zlo neshvatljivih razmera ne zahteva zle ljude, već one sasvim obične, koji obavljaju jednako obične funkcije unutar sistema čiji ukupni efekat ili ne mogu da sagledaju, biraju da ga ne vide, ili su strukturalno zaštićeni od toga da ga ikada osete. Važno je samo da je lanac koji nas povezuje dovoljno dugačak, da ne bismo bili primorani da osetimo težinu sopstvenih dela. Možda je nešto od ovoga pisalo sitnim slovima u uslovima korišćenja na koje smo i sami nekada davno pristali, jednim klikom u svega nekoliko sekundi.
tekst: Anja Anđušić
ilustracija: Zoran Svilar
