Crne kutije veštačke inteligencije

Milan Gnjatović
(Ovaj tekst je objavljen u magazinu Planeta br. 89, mart-april 2019., pod nazivom „Više 'zanatska' - manje naučna oblast“.)

Istraživači u oblasti veštačke inteligencije često ne poznaju ili jednostavno ignorišu istoriju nauke. Da nije tako, primetili bi da veštačka inteligencija, kao mlada nauka, prolazi kroz dečiju bolest biheviorizma, koja u velikoj meri koči njen dalji razvoj.

Na metodološkom nivou, trenutna istraživanja u oblasti veštačke inteligencije imaju nešto zajedničko sa psihologijom u prvoj polovini dvadesetog veka. Tadašnji uticajni eksperimentalni psiholozi su redefinisali psihologiju kao nauku o ponašanju. Verovali su da kognitivni koncepti, poput memorije i jezika, nisu direktno opservabilni, pa stoga ne mogu da predstavljaju objektivne predmete istraživanja. Kognitivni koncepti su skoro u potpunosti zanemareni, a ono što je postao glavni, ako ne i isključivi, predmet istraživanja u psihologiji bile su pojavne manifestacije ponašanja koje se mogu direktno izmeriti i kvantitativno predstaviti. Tako je fenomen ljudske memorije redukovan na manifestacije učenja, a fenomen jezika na manifestacije verbalnog ponašanja, itd. Ove metodološke promene su bile temeljne, i psihologija je postala dominantno bihevioristička nauka. Tek sredinom pedesetih godina dvadesetog veka postalo je jasno da bihevioristički pristup u psihologiji ne daje očekivane rezultate, nakon čega su u psihološka istraživanja postepeno počeli da se vraćaju kognitivni koncepti i kvalitativni uvidi.

Zaboravljena lekcija

Ipak, bihevioristički impuls je preživeo. Razlog leži u očiglednoj praktičnoj prednosti ovog pristupa koja se ogleda u tome da se ljudsko ponašanje relativno lako kvantifikuje, čak i kad se ne razume. Ovo je posebno došlo do izražaja kad su računari počeli da se koriste za automatizovanu statističku analizu. Kao posledica, danas u psihologiji postoji metodološka dihotomija između kvantitativnog (tj., biheviorističkog) i kvalitativnog (tj. „kognitivnog“) pristupa. Istraživači koji primarno praktikuju kvantitativni pristup i dalje smatraju da su kvalitativna istraživanja subjektivna i neadekvatna, jer ne uključuju proveru statističke značajnosti rezultata. Sa druge strane, istraživači koji primarno praktikuju kvalitativni pristup smatraju da kvantitativnim istraživanjima nedostaju dublji uvidi, i da statistička potvrda značajnosti rezultata ne implicira obavezno validnost rezultata. Na sreću, postoje i istraživači koji prepoznaju prednosti oba metodološka pristupa i značaj njihovog kombinovanja.

Ali ono što se čini iznenađujućim, ako ne i poražavajućim, je činjenica da je oblast veštačke inteligencije zaboravila ovu negativnu istorijsku lekciju, i da se upustila u sličnu metodološku avanturu kao i psihologija pre više od sto godina.

Veštačka inteligencija je od svog nastanka polovinom dvadesetog veka bila grana nauke koja proizvodi društvena očekivanja koja po intenzitetu znatno prevazilaze stvarne rezultate. Nakon frustrirajuće četiri decenije istraživanja koje nisu dovele do razvoja zadovoljavajućih računarskih artefakata, istraživačima se pred kraj dvadesetog veka ukazalo potencijalno rešenje – posebno zloćudni oblik biheviorizma koji je poslednje tri decenije dogmatski prihvaćen u ovoj naučnoj zajednici.

Opasni biheviorizam

Manifestacije biheviorizma u istraživanjima veštačke inteligencije su sakrivene iza mnogih zvučnih fraza koje referenciraju statističke metode, poput „neuralnih mreža“, „dubokog učenja“, „skrivenih modela“, itd. Osnovni princip svih ovih pristupa je primena automatizovanih statističkih metoda na dostupne kvantitativne podatke o ljudskom ponašanju, u pokušaju da se empirijski dođe do računarski adekvatnih pravila i struktura koji opisuju kognitivne mehanizme. Ovi pristupi su bez izuzetka bihevioristički, jer analiziraju samo spoljašnje manifestacije tzv. inteligentnog ponašanja, bez pokušaja da se fenomen inteligencije suštiski razume. Kao „naučni“ kriterijum uspeha se uzima stepen u kom softverski sistem oponaša inteligentno ponašanje. Prihvativši ovaj kriterijum, koji je danas najpoznatiji pod odrednicom Tjuringovog testa, veštačka inteligencija je temeljno redefinisana kao bihevioristička nauka.

Popularnost biheviorističkog pristupa nije slučajna. Primena statističkih metoda je omogućila razvoj naprednih softverskih sistema, poput onih za prepoznavanje govora, prevođenje teksta, naprednu obradu slike, autonomno upravljanje vozilima, i mnogih drugih. Međutim, očigledne praktične prednosti zasnivaju se na manje primetnim, ali veoma ozbiljnim nedostacima na naučnom nivou. Javna je tajna modernih istraživanja u oblasti veštačke inteligencije da su programeri koji primenjuju automatizovane statističke metode oslobođeni obaveze da razumeju fenomen koji modeluju softverom. Tako je, na primer, moguće da programeri koji ne govore neki određeni jezik naprave softver koji prepoznaje dati jezik. Ili da programeri koji ne poseduju specifična medicinska znanja naprave softver koji postavlja medicinske dijagnoze pacijentima.

Primeri ovakve prakse su ne samo mnogobrojni, već zabrinjavajuće preovlađujući. Za sve njih je zajedničko da kvalitet ovakvih softverskih sistema ne zavisi od znanja programera, već od reprezentativnosti podataka nad kojima su softveri „obučavani“. Problem koji se prečesto ignoriše je taj što su ove statističke metode opšte namene, tj., nemaju nikakve inherentne veze sa fenomenom inteligencije, i rezultuju empirijskim pravilima koja su toliko kompleksna da nisu podložna ljudskom interpretiranju. Drugim rečima, programeri ne mogu zaista da razumeju ovako dobijena pravila, već ih samo integrišu u softvere. I nadaju se najboljem – jer nemaju drugog načina da provere kvalitet ovako generisanog softvera, osim da (opet) primene automatizovano testiranje na dostupnim podacima, kojim se ne unapređuje nivo suštinskog razumevanja.

Dijagnoza

Mislite o tome šta želite, ali odustajanjem od bilo kakve potrebe za specifičnom teorijom o inteligentnom ponašanju, veštačka inteligencija je postala više „zanatska“, a manje naučna oblast. Bez preterivanja se može reći da softveri koje nazivamo inteligentnim predstavljaju „crne kutije“ za koje znamo da za određene ulaze generišu očekivane izlaze. Ali ne znamo šta se dešava unutra. Razmislite o sledećim pitanjima: Šta je naučno u ovoj praksi? I koji razlog imamo da poklonimo poverenje softveru za koji ni njegovi autori ne znaju kako zaista radi?

Treba biti objektivan. Veći deo istraživanja u ovoj oblasti karakteriše jedan patološki spoj previše ambicioznih ciljeva i nedovoljno zrele naučne prakse. Ono što danas može da izgleda kao ulazak u zlatno doba veštačke inteligencije, vrlo verovatno predstavlja gubljenje vremena u naučnom kontekstu. Zanemarivanje uvida u istorijske lekcije o tome kako su se druge grane nauke izborile sa problemom dogmatskog biheviorizma samo je jedan simptom ove bolesti.