Čekajući Golema

Milan Gnjatović
(Ovaj tekst je objavljen u magazinu Planeta br. 93, novembar-decembar 2019., pod nazivom „Apokalipsa pre večnog života“.)

Pojam veštačke inteligencije izaziva dosta zabune, čak i kod onih koji su profesionalno angažovani u ovoj oblasti. To je posledica činjenice da je veštačka inteligencija društvena institucija u kojoj ideološko odeljenje neretko funkcioniše znatno bolje od naučnog.

U jevrejskoj mitologiji, Golem je čovekoliko biće napravljeno od gline, kojem je život udahnut magičnim ritualom rečima. Kao proizvod ljudske aktivnosti kroz koju se reflektuje božanska moć stvaranja, Golem nosi višeznačnu simboliku. Na početku, on je pokorni sluga svom ljudskom tvorcu, ali kad ga nadraste, postaje podložan nekontrolisanom i destruktivnom ponašanju. Tada njegov tvorac biva prinuđen da ga uništi, pri čemu ponekad i sam gine.

Golem je snažna metafora, o čemu svedoči i velika učestalost njenog javljanja u književnosti i umetnosti, pa nije iznenađujuće što je prihvaćena i u oblasti veštačke inteligencije. Po rečima Isaka Baševisa Singera (Isaac Bashevis Singer), dobitnika Nobelove nagrade za književnost 1978.: „šta su računari i roboti našeg vremena, ako ne Golemi?”.

Kad je 1965. Geršom Šolem (Gershom Scholem), univerzitetski profesor i autoritet u oblasti jevrejskog misticizma, čuo da je Vajcmanov institut (Weizmann Institute) u Izraelu konstruisao novi računar, predložio je da ga nazovu Golem Alef (Golem Prvi). Predlog je prihvaćen, a svoje obraćanje na predstavljanju ovog računara, Šolem je završio sledećim rečima:

„Sve vreme se žalim što Vajcmanov institut nije upotrebio sredstva da napravi Institut za eksperimentalnu demonologiju i magiju, čije osnivanje sam toliko dugo predlagao. Više su voleli ono što zovu primenjenom matematikom i njene zlokobne mogućnosti od mog direktnog magijskog pristupa […] Stoga se povlačim, i poručujem Golemu i njegovim tvorcima: razvijajte se u miru i nemojte uništiti svet. Šalom.”

Veštačka inteligencija i apokalipsa

Vremenom, prijemčljiva pretpostavka o nekontrolisanoj veštačkoj inteligenciji koja se okreće protiv svog tvorca prešla je sa metaforičkog na dogmatski nivo. Izučavanje veštačke inteligencije razvilo se u neprikriveni religiozni sistem u čiju su postavku utkana mesijanska očekivanja ranih hrišćanstva i judaizma. Da li znate da je konačni cilj istraživanja u ovoj oblasti – večni život? Kome, međutim, nužno prethodi apokalipsa.

O tome već decenijama u svojim knjigama propovedaju priznati naučnici, poput Hansa Moraveka (Hans Moravec), Rejmonda Kurcvajla (Raymond Kurzweil), Hugoa de Garisa (Hugo de Garis), Kevina Vorika (Kevin Warwick), Nika Bostroma (Nick Bostrom) i mnogih drugih. Zajednička osnova njihovih predviđanja je da je nastanak bogolikih superinteligentnih mašina, ne samo mogući, već i neminovni korak u evolutivnom razvoju sveta. Intelektualni kapaciteti ovih mašina prevazići će prirodnu inteligenciju u tolikoj meri da će ljudi postati inferiorna vrsta, što će ih izložiti egzistencijalnim izazovima. Međutim, prosvećeni će dobiti priliku da evoluiraju u mašine, prevaziđu ograničenja svojih smrtnih tela, i ostvare san o večnom životu.

Jednu od najdramatičnijih verzija ove „naučne” apokalipse dao je Hugo de Garis. On predviđa da će čovečanstvo u doglednoj budućnosti uspeti da napravi „bogolike visokointeligentne mašine”. Već i sama najava mogućnosti pojave inteligentnih mašina prouzrokovaće dramatičnu podelu društva na dve ideološki sukobljene grupe. Jednu stranu ove ideološke podele činiće oni koji veruju da veštačka inteligencija predstavlja naredni korak u evoluciji, i da je sudbina čovečanstva da služi kao prelazni stadijum ka bogolikim mašinama, koje će domete intelektualnog razumevanja i praktičnog delovanja proširiti na kosmos. Drugu stranu činiće oni koji se protive stvaranju inteligentnih mašina, jer veruju da će ljudi, kao inferiorna vrsta, biti istrebljeni. To verovanje će ih izložiti pritisku da spreče razvoj inteligentnih mašina dok je još u povoju. U ratu, za koji De Garis predviđa da će se odvijati krajem XXI veka, poginuće milijarde ljudi.

Ideološka naučna praksa

Ovde nećemo razmatrati utemeljenost ovih predviđanja. Međutim, važno je uočiti da ona imaju važna obeležja religijskog sistema: otuđenje ljudi, želju za uspostavljanjem novog nebeskog carstva, i prevazilaženje smrtnih tela. U postavci judeo-hrišćanske apokalipse nalazi se dihotomija između dobra i zla, pri čemu Bog jamči konačnu pobedu dobra nad zlim, i večni život za pravednike. U religiji veštačke inteligencije prisutna je dihotomija između mašine i čoveka, pri čemu neminovna evolucija garantuje pobedu superiornih mašina nad inherentno ograničenim ljudima, i večni život za one koji se integrišu sa mašinama.

Ovakva stanovišta možda zvuče previše fantastično, ali njihov uticaj nije zanemarljiv, pogotovo jer potiču iz naučnih krugova. Iako većina naučnika posmatra veštačku inteligenciju kao praktični problem, a ne religiozni cilj, to ne znači da njihova praksa nije ideološka --- čak i kad nisu toga svesni. Naučna praksa veštačke inteligencije je bizarni spoj Dekartovog dualizma i Tjuringovog biheviorizma. Dualistički koncept se reflektuje u odbijanju da se ljudska inteligencija posmatra kao biološki fenomen. U osnovi veštačke inteligencije nalazi se verovanje da je ljudski um algoritamski organizovan, i da se može realizovati računarski. Snaga ove ideologije ogleda se u opštem zanemarivanju činjenice da nauka još nije dala ni približno konačni odgovor o tome šta je ljudska inteligencija. Nakon izmeštanja inteligencije iz biološkog domena, bihevioristički koncept, po kome je dovoljno da se sistem ponaša inteligentno da bismo ga smatrali inteligentnim, kandidovao je računare za nosioce kognitivnih procesa.

Upravo je to differentia specifica veštačke inteligencije. Za razliku od ostalih grana nauke, naučnici u ovoj oblasti oslobođeni su obaveze da razumeju suštinu fenomena koji softverski modeluju – što je koncept bez presedana u naučnoj praksi. Usvajanjem ovog koncepta, oblast se odmetnula od nauke i etike, postavši poligon za eksperimentisanje i promišljanje u pokušaju, stavljen na raspolaganje podjednako naučnicima kao i nadriprogramerima, hobistima, futuristima i revolucionarima u pokušaju (ovde se misli na tzv. četvrtu tehnološku revoluciju). Njeni ciljevi su preambiciozni i često besmisleni, stvarni naučni dometi ograničeni, finansijski resursi nesrazmerno veliki, a praktične primene sve rizičnije.

Bilo bi dobro kad bi se veštačka inteligencija, makar privremeno, vratila kući – u okvire nauke.