Argonauti današnjice

Milan Gnjatović
(Ovaj tekst je objavljen u magazinu Planeta br. 85, jul-avgust 2018.)

Ako verujete da su naučnici uvek nepristrasni i u pravu, možete da odahnete. Na studijskom panelu održanom u septembru 2016. na Univerzitetu Stenford, grupa renomiranih naučnika je potvrdila da veštačka inteligencija ne predstavlja pretnju čovečanstvu, i da će ostvariti pozitivne uticaje na naše društvo i ekonomiju – i to već do 2030. godine.

Kako taj pozitivni uticaj izgleda u praksi? Zaboravite na trenutak svoje pametne telefone, jer oni nisu primer veštačke inteligencije. Par ekselans primer praktične primene veštačke inteligencije je smrtonosni autonomni robot SGR-A1, koji se nalazi u demilitarizovanoj zoni između Severne i Južne Koreje. Ovaj robot, za koga tvrde da je efektivan na razdaljini većoj od tri kilometra, nadgleda zonu u kojoj je postavljen, i za svaku osobu koju uoči apriorno pretpostavlja da je neprijatelj i zahteva od nje da se identifikuje glasovno. Ako se „uljez“ ne identifikuje korektno i u dovoljno kratkom roku, robot može da aktivira zvučni alarm, ili ispali gumenu i smrtonosnu municiju na metu. Pre primene smrtonosne sile, ovaj robot traži dozvolu od ljudskog operatera, ali ovaj deo postupka nije uslovljen tehničkim zahtevima. Drugim rečima, robot je sposoban da izvede celu petlju potpuno samostalno, od detektovanja mete do primene smrtonosne sile, dok je prisustvo operatera u petlji stvar etičke i političke korektnosti. Ovaj primer nikako nije usamljen. X-47B je bespilotna letelica koja može samostalno da poleti sa nosača aviona, dopuni gorivo u drugi avion tokom leta, i vrati se na nosač. ACTUV je bespilotni brod namenjen za samostalno uočavanje i praćenje tzv. tihih podmornica. I tako dalje. Utisak o pozitivnom uticaju ovih tehnologija se drastično menja ako se nalazite na njihovom prijemnom kraju.

Čitalac se upozorava da ne treba da krivi isključivo političare i vojnike, jer ovakav stepen militarizacije veštačke inteligencije ne bi bio moguć bez naučnika. Ono što sledi je priča o „Argonautima današnjice“.

„Jason“ – pre pola veka

U starogrčkom mitu, Argonauti su grupa heroja poznata po svojoj potrazi za zlatnim runom. Ovde ih spominjemo zbog manje romantičnog osvrta na rad grupe naučnika koja je ime dobila po Jasonu, vođi Argonauta. Grupa „Jason“ je oformljena 1959. pod pokroviteljstvom Instituta za odbrambenu analizu, konsultantske firme koja je radila za američko Ministarstvo odbrane. Okupljala je približno četrdeset etabliranih naučnika, među kojima je bilo i dobitnika Nobelove nagrade.

Na inicijativu grupe uticajnih naučnika, tadašnji američki sekretar za odbranu, Robert Meknamara, je 1966. pristao da obezbedi finansijsku podršku za analizu mogućnosti upotrebe naprednih tehnologija u okviru rata u Vijetnamu. Meknamara je pozvao naučnike da razmotre mogućnost uspostavljanja „ograde“ koja bi sprečila infiltraciju ljudi i oružja iz Severnog u Južni Vijetnam, sa posebnim osvrtom na sisteme za upozoravanje, noćno nadgledanje, defolijaciju i sprečavanje pristupa. Grupa „Jason“ se sastala u leto 1966. sa namerom da pruži odgovore na ova pitanja.

U svom izveštaju, naučnici su jasno istakli da intenzivno bombardovanje Severnog Vijetnama neće proizvesti željene efekte. Međutim, pretpostavili su da vlada ne bi uvažila prost argument da bombardovanje nije opravdano, osim ukoliko ne ponude alternativu. Zato su predložili „elektronsku ogradu“ u demilitarizovanoj zoni između Severnog i Južnog Vijetnama. Elektronska ograda je uključivala različite uređaje koji su bili klasifikovani u dve grupe. Uređaji iz prve grupe su bili dizajnirani da spreče ulazak pešaka u Južni Vijetnam, poput nagaznih mina koje se aktiviraju kad ih nagazi čovek, ali ostaju neaktivne kad preko njih prelazi kamion. Predviđeno je da ovaj deo elektronske ograde bude postavljen na prostoru koji obuhvata dve hiljade kvadratnih kilometara. Drugi deo ograde se odnosio na uređaje čija je namena bila da spreče prelazak vozila, i predviđeno je da bude postavljena na prostoru od četiri hiljade kvadratnih kilometara.

Neposredni epilog ove kampanje je sledeći: predlog naučnika je prihvaćen i elektronska ograda je postavljena, a bombardovanje je obustavljeno na neko vreme. Grupa „Jason“ je naizgled ostvarila svoj cilj. Međutim, dalekosežne posledice su bile katastrofalne. Postavljanje elektronske ograde je predstavljalo začetak elektronskog ratovanja, onakvog kakvim ga danas znamo. Želeći da spreče bombardovanje, naučnici su predložili novu tehnologiju koja je ratovanje učinila još strašnijim – i jeftinijim za visoko industrijalizovane zemlje.

„Jason“ – danas

U slučaju da se pitate: starogrčki Jason je umro usamljen i nesrećan. Usmrtio ga je brod na kome je nekada plovio s Argonautima u potrazi za zlatnim runom. Trup broda je vremenom istrulio i pao na Jasona, koji je spavao ispod njega. Grupa „Jason“ i dalje postoji. I radi – između ostalog, na preporukama za razvoj veštačke inteligencije za vojne primene.

U svom izveštaju iz 2017., ova grupa ističe da je veštačka inteligencija ključna tehnologija za vojne primene koje zahtevaju brzinu reagovanja koja prevazilazi ljudsku, i donošenje odluka i asistiranje u uslovima kibernetskog i elektronskog ratovanja. Metodološki pristupi razvoju veštačke inteligencije koje predlaže „Jason“ ne razlikuju se od dominantno zastupljenih pristupa u naučnoj zajednici, uključujući dobro poznate algoritme tzv. dubokog učenja zasnovane na analizi velikih količina podataka. Međutim, za razliku od mnogobrojnih neopravdano optimističkih osvrta na stanje nauke u ovoj oblasti, članovi grupe „Jason“ u svom izveštaju jasno naglašavaju da znanja koja posedujemo iz kognitivnih neuronauka nisu dovoljna da bismo mogli da imamo poverenja u ispravnost funkcionisanja ovakvih sistema, a da postupci za tehničko verifikovanje i validiranje ovakvih sistema još nisu dovoljno zreli da bismo mogli da pokažemo ispravnost njihovog funkcionisanja.

Upravo zbog toga još više čudi činjenica da „Jason“ snažno savetuje Ministarstvo odbrane da nastavi ulaganja u razvoj ovih tehnologija i stručnog kadra. Izgleda da aktuelni „Argonauti“ ponavljaju grešku svojih prethodnika od pre pola veka. Mogli su jednostavno da se izjasne protiv upotrebe veštačke inteligencije za vojne primene. Ali nisu odoleli maglovitom, ali uzbudljivom osećaju elitizma i nagoveštaju mogućnosti da učestvuju u kreiranju istorije. Time su prihvatili ulogu arbitara života i smrti.

Istorijski gledano, mnogi naučnici (mada ne svi) koji su bili uključeni u razvoj vojnih tehnologija su se, makar deklarativno, pokajali zbog svog učešća u takvim aktivnostima. Nažalost, u profanom svetu u kom svi živimo, možemo doći do trenutka kada će biti prekasno za pokajanje naučnika.