Elizin efekat

Milan Gnjatović
(Ovaj tekst je objavljen u magazinu Planeta br. 81, novembar-decembar 2017., pod nazivom „Računar u ulozi psihijatra“.)

Tradicionalno najuspešniji proizvod u oblasti veštačke inteligencije je društvena euforija. Jedno od konstantnih obećanja je da će istraživači u doglednoj budućnosti uspeti da naprave inteligentne mašine. Sigurno ste već čuli da postoje softverski sistemi koji mogu samostalno da upravljaju kolima, igraju šah bolje od Kasparova, komuniciraju sa ljudima i kreiraju originalna likovna dela. Najavili su vam da je samo pitanje vremena i računarskih resursa kad će računari posedovati inteligenciju ravnu ljudskoj. Upozoreni ste na rizik da će vas na poslu možda zameniti softverom. Uticaj računara na društvo je neupitan, rizici su takođe stvarni, ali koliko smo zaista blizu kreiranju veštačke inteligencije? Odgovor može da vas razočara.

Aktuelni događaji se ponekad mogu najbolje shvatiti pogledom u istoriju. Jedan od prvih programa koji omogućavaju (tekstualnu) konverzaciju na prirodnom jeziku između čoveka i mašine nastao je u periodu 1964-1966. Autor ovog programa, Jozef Vajcenbaum, je program nazvao Eliza, po ženskom liku iz drame „Pigmalion“, koju tutor uči lepom ponašanju i pravilnom govoru. Da bi konverzaciju stavio u neki kontekst, Vajcenbaum je odlučio da program simulira psihoterapeuta. Njegova namera nije bila da zaista napravi program za psihoterapiju, već samo da demonstrira tehnike sintaksne obrade teksta. Međutim, izabrani kontekst konverzacije je prouzrokovao neočekivani efekat pogrešne percepcije, tzv. Elizin efekat. Prva manifestacija ovog efekta se ogledala u tome što je znatni broj psihijatara poverovao da funkcionalnost programa može da se proširi i koristi za automatizovanu psihoterapiju. Program je pogrešno prepoznat kao preteča tehnologije koja može da bude široko primenjena u psihijatrijskim ustanovama da bi se prevazišli problemi uzrokovani nedostatkom psihijatara. Predviđalo se da bi na ovaj način programi mogli da tretiraju stotine pacijenata svakog sata.

Druga manifestacija Elizinog efekta se odnosila na činjenicu da su ljudi emotivno prihvatali komunikaciju sa programom, čak i nakon kratkotrajnog izlaganja. Kao primer, Vajcenbaum iznosi da ga je sekretarica zamolila da izađe is sobe čim je počela da komunicira sa sistemom. Čini se da bi sekretrica, koja ga je mesecima gledala kako radi na programu, morala znati da se radi samo o programu. Pa ipak, to što ga je zamolila da napusti prostoriju govori o tome da je njena percepcija programa bila drugačija. I ona nije predstavljala izuzetak. Više ljudi je učestvovalo u testiranju Elize. Ali kad je Vajcenbaum predložio da se transkripti konverzacija sačuvaju da bi mogao da ih analizira, suočio se sa optužbama da narušava tuđu privatnost. Ono što Vajcenbaum nije predvideo je da će ljudi osećati da mogu da povere svoje najintimnije misli programu – kao da se zaista radi o psihijatru. Treća manifestacija Elizinog efekta je bila nekritički optimistična reakcija naučne zajednice. Postojalo je uverenje da smo pred otkrićem rešenja opšteg problema računarskog razumevanja prirodnog jezika. Vajcenbaumova upozorenja da je Eliza samo mehanička parodija jedne tehnike vođenja dijaloga su uspešno ignorisana.

Privid inteligencije

Kad se osvrnemo na Elizin efekat, može se reći da je Eliza uspešno prevarila neke ljude. Međutim, istina je da Eliza ne razume korisnike, niti ispoljava bilo kakvu inteligenciju. Ovaj program traži ključne reči ili fraze u sagovornikovoj rečenici. Ukoliko ih nađe, program transformiše rečenicu u skladu sa pravilom vezanim za datu ključnu reč. Npr., ako korisnik napiše „mislim da sam depresivan“, Eliza može da pita „koliko dugo ste depresivni?“. U suprotnom, ako ne pronađe ključnu reč u sagovornikovoj rečenici, program koristi kontekstno nezavisnu rečenicu (poput „aha, molim Vas nastavite“) ili neku od prethodno korišćenih transformacija. Ove sintaksne transformacije nisu trivijalne, ali ipak ne uključuju nikakvo razumevanje konteksta interakcije.

Treba jasno reći da se Elizin efekat ne može objasniti samo činjenicom da je program nastao šezdesetih godina prošlog veka, kad računari još nisu bili sveprisutni u svakodnevnom životu. Čak i danas, kad smo se do ravnodušnosti navikli na računare u svom okruženju, ljudi reaguju slično kad se suoče s računarski kontrolisanim sistemima koji ispoljavaju neke aspekte društveno prihvatljivog inteligentnog ponašanja. Prividna autonomija u odlučivanju, sposobnost učestvovanja u konverzaciji i humanoidni izgled su samo neke od karakteristika sistema koje dovode do toga da programeri koji su ih napravili nestanu iz percepcije korisnika, a da se sistemi doživljavaju kao inteligentni entiteti sa kojima se može ostvariti smisleni društveni odnos. Primeri su raznovrsni, ali svi imaju zajedničku osobinu sa Elizom – i pored očiglednih tehnoloških napredaka, nijedan od njih ne implementira stvarnu veštačku inteligenciju.

Za ovo postoji ilustrativni primer. Firma IBM je 2011. odlučila da demonstrira svoj program „Votson“ tako što ga je u poznatom kvizu suočila sa ljudskim takmičarima. U većem delu svog nastupa, Votson je dominirao, dajući tačne odgovore na netrivijalna pitanja. A onda je, naizgled iznenada, napravio trivijalnu grešku rekavši da Toronto pripada Sjedinjenim Državama. Kako se potkrala ovakva greška? Odgovor leži u pristupu na kom se zasniva ovaj program. Votson nema bazu podataka sa proverenim činjenicama i dubinskim uvidima, već bira najverovatniji odgovor na postavljeno pitanje na osnovu statističke analize korpusa tekstova, poput onih sadržanih na sajtu Vikipedije. Toronto se u dovoljnom broju dokumenata pojavio zajedno sa američkim gradovima ili je referenciran kao severnoamerički grad, pa je program zaključio da se radi o američkom gradu. Kao i svi drugi programi, Votson ništa ne razume.

Na putu do čarobnjaka

Čitalac će oprostiti sledeću analogiju. Sigurno se sećate priče o čarobnjaku iz Oza. Protagonisti ove priče kreću na daleki i rizični put do čarobnjaka za koga veruju da im može pomoći. Strašilu nedostaje mozak, limenom drvoseči srce, lavu hrabrost, a devojčica Doroti ne zna kako da se vrati kući. Njihovi problemi su različiti, ali im je zajedničko verovanje u čarobnjakove moći. Ovo verovanje je okosnica cele priče – čarobnjaka iz Oza niko nikada nije video, ali svi stanovnici ove čudne zemlje veruju u njegove moći. Kad posle dosta poteškoća stignu do čarobnjaka, junaci ove priče slučajno otkrivaju da čarobnjak ne postoji. On je, u stvari, samo umešni iluzionista koji se krije iza paravana i stvara privid čarobnjaka. Međutim, čak i nakon što razotkriju prevaru, glavni akteri ostaju dosledni u svojoj zabludi. I opsenar im pruža ono što misle da im nedostaje. Zabluda koja se nalazi u centru priče je možda sasvim očigledna, ali savremeno društvo koje istovremeno gaji velika očekivanja i nekritički odnos prema veštačkoj inteligenciji se suštinski ne razlikuje od onog u priči. Umesto slamnatog mozga, nudi nam se računarski, i izgleda da ga rado prihvatamo. Izvori ove zablude su tema za naredni tekst.