Rasizam u naučnoj oblandi

Milan Gnjatović
(Ovaj tekst je objavljen u magazinu Planeta br. 91, jul-avgust 2019., pod nazivom „Softver i fiziognomika“.)

Dva istraživača sa Univerziteta Stenford, Vong (Yilun Wang) i Kozinski (Michal Kosinski), predstavila su 2017. u uglednom naučnom časopisu softver koji na osnovu izgleda nečijeg lica prepoznaje seksualnu orijentaciju. Ovaj softverski sistem je brzo postao poznatiji pod pejorativnom jezičkom slivenicom „gejdar” (engl. gaydar), nastalom iz reči „gay” i „radar”.

Članak je, očekivano, izazvao negativne reakcije javnosti. Autori su optuženi da omogućavanjem uvida u nečiju seksualnu orijentaciju ugrožavaju privatnost i sigurnost ljudi, a Kozinski, koga profesorsko zvanje čini vidljivijim u ovom autorskom dvojcu, pravdao je svoj angažman namerom da ukaže na opasnosti koje nose moderne tehnologije. Kao što to obično biva, prašina se ubrzo slegla, a javnost je, čini se, ostala uskraćena za razrešenje ove priče.

O čemu se, dakle, radi? Kao u vicu, postoje dobra vest i loša vest. Dobra vest je da ovaj sistem ne radi ono za šta je reklamiran, a loša vest je da postoje „naučnici” koji veruju da je seksualnu orijentaciju moguće pročitati s lica. Vong i Kozinski su krivi po obe osnove: za nerazumevanje popularnih metoda veštačke inteligencije, i za bavljenje opasnom pseudonaukom.

Povratak fiziognomike

Još od antičkih vremena, mislioci – pravi i oni u pokušaju – povremeno su se bavili pretpostavkom da se karakterne i mentalne karakteristike ljudi oslikavaju na njihovim licima. Ljudska istorija je prepuna tragičnih posledica koje pokazuju koliko su ovakve ideje opasne. Ali Vong i Kozinski su iz nekog razloga mislili da ova pseudonaučna pretpostavka zaslužuje da joj se vrati naučni legitimitet.

Ono što sledi je kratki pregled konfuzne i nedosledne argumentacije kojom ovi autori pokušavaju da opravdaju svoj pristup. Na početku svog izlaganja, oni ističu da je fiziognomika „univerzalno, i sa pravom, odbačena kao mešavina sujeverja i rasizma prerušena u nauku”. A odmah nakon toga obrazlažu, referencirajući intenzivno moderne naučne izvore, da veze između karaktera i izgleda lica ipak postoje, i da su dvosmerne. Kao primer da karakter utiče na izgled lica, oni navode istraživanje koje tvrdi da žene koje su ekstrovertne u mladosti, postaju atraktivnije s godinama. A kao primer da izgled lica utiče na karakter navode istraživanje koje tvrdi da zgodni ljudi usled pozitivnog društvenog odziva postaju ekstrovertniji. Ovakva argumentacija bi bila zabavna, da nije strašna, jer se nastavlja u sledećem smeru:

„Postojanje ovakvih veza između izgleda lica i karaktera podržano je činjenicom da ljudi tačno procenjuju karakter, psihološko stanje i demografska obeležja drugih ljudi na osnovu njihovih lica.”

Sasvim je jasno, i ne baš spektakularno otkriće, da se na osnovu nečijeg lica može relativno tačno proceniti pol, starost ili emotivno stanje. Ali nijedna od ovih stvari se ne odnosi na karakter, koji Vong i Kozinski u prethodnom citatu navode kao prvi objekat prepoznavanja. I tu nije kraj. Pozivajući se opet na naučne izvore, oni ističu da ljudi mogu, sa minimalnom tačnošću, na osnovu lica neke osobe da prepoznaju njene političke poglede, poštenje, ličnost, seksualnu orijentaciju, čak i šanse da pobedi na izborima.

Autori priznaju da ova predviđanja nisu sasvim tačna, ali – pazite sad – ne zbog toga što se poštenje ili seksualna orijentacija ne reflektuju obavezno na nečijem licu, već zbog toga što ljudi ne mogu da detektuju relevantna obeležja lica. I tu izvode konačni zaključak da prepoznavanje treba prepustiti računarima.

Čovek ne može da se ne zapita da li postoji išta naučno u ovim pogledima. Odgovor je žalosno jednostavan. Radi se o predrasudama uvijenim u oblandu veštačke inteligencije, u nameri da im se pruži naučni legitimitet.

Statistika u službi pseudonauke

Za one koji ipak veruju da softveri mogu da budu u pravu čak i kad niko ne razume potpuno kako funkcionišu, korisno je pogledati kako je ovaj softver napravljen. Suprotno očekivanjima, ovo istraživanje nije tehnički napredno. Da bi ustanovili veze između lica i seksualne orijentacije, autori su, nimalo maštovito, upotrebili statističku metodu čija je učestalost upotrebe u modernoj veštačkoj inteligenciji dostigla nivo dosade, poznatiju pod neprimerenim nazivom „neuralne mreže”. Kao reprezentativni uzorak, iskoristili su više od trideset pet hiljada slika preuzetih sa veb-sajtova za upoznavanje intimnih partnera. Zbog izabrane metode, čak ni autori nisu sigurni koja obeležja lica sistem koristi za diskriminisanje, niti na koji način. U intervjuu za Gardian, Kozinki kaže:

„Bio sam prosto šokiran kad sam video da je algoritmu toliko lako da razlikuje homoseksualne od heteroseksualnih ljudi. Nisam razumeo zašto bi to bilo moguće.”

Ono što je zaista šokantno je dubina njegovog nerazumevanja, ili bar grubog zanemarivanja, činjenice da neuralne mreže nisu ni predviđene da pruže kvalitativne uvide u fenomene koje modeluju. To ga, ipak, nije sprečilo da objavi tačnost prepoznavanja: 81% za muškarce, i 71% za žene.

Ovakvi rezultati ne znače ništa bez konteksta u kom bi mogli pouzdano da se interpretiraju. Npr., Vu (Xiaolin Wu) i Čang (Xi Zhang), sa Univerziteta Ciao Tong u Šangaju, stavili su 2016. na uvid javnosti svoj nepublikovani članak u kom predstavljaju slični softverski sistem. Njihov softver, takođe zasnovan na neuralnim mrežama, prepoznaje kriminalce na osnovu analize izgleda lica. Na uzorku od 1856 slika, prijavljena je tačnost prepoznavanja od skoro 90%. Tek nakon intenzivnih i javnih kritika, autori su pojasnili rezultate, koristeći standardnu bajesovsku interpretaciju. Postoje dve verovatnoće: Ako je neko kriminalan, verovatnoća da će ga softver prepoznati kao kriminalnog je oko 90%. Ali ako softver prepozna slučajno izabranu osobu kao kriminalnu, verovatnoća da je ta osoba zaista kriminalac je svega 4%, uzimajući u obzir trenutnu stopu kriminala u Kini. Međutim, treba imati u vidu da je ovo pojašnjenje došlo tek posle izvesnog medijskog pritika.

Lažna briga

U stvari, situacija je lošija nego što je predstavljeno u medijima. Navodna briga naučnika o narušavanju privatnosti i sigurnosti zvuči licemerno kad služi da zamaskira opasne pseudonaučne pretpostavke. Ono što treba da vas zabrine više od softvera za automatizovano profilisanje – su ljudi koji ozbiljno shvataju i primenjuju ovu parodiju nauke.

Šta biste radili da softver za analizu lica presudi da vaše dete nije dovoljno pametno da upiše školu, vaš supružnik nije dovoljno pošten da se zaposli, a vi niste dovoljno pouzdani da vam se odobri bankarski kredit? Ako vam se ovo čini kao prenaglašeni scenario, postoji i konkretni primer. Firma Fejsepšn (engl. Faception) tvrdi da je u posedu softvera koji na osnovu izgleda ljudskog lica može da prepozna tipove ličnosti karakteristične za teroriste, pedofile, akademske istraživače, visokointeligentne ljude, profesionalne igrače pokera, igrače Binga, itd. Prepoznavanje pseudonaučnika nisu prijavili.