Milan Gnjatović


HOME RESEARCH PUBLICATIONS STUDENTS MEDIA BIO CV CONTACT

Jezivi roboti

Milan Gnjatović
(Ovaj tekst je objavljen u magazinu Planeta br. 90, maj-jun 2019.)

Hiroši Išiguro (Hiroshi Ishiguro), čuveni japanski robotičar i profesor na Univerzitetu Osaka, sproveo je 2002. eksperiment u kojem je svoju petogodišnju ćerku Risu izložio susretu sa njenim robotskim dvojnikom. Devojčica je od početka eksperimenta bila suzdržana, a posle nekoliko minuta provedenih sa robotom, uz povremene očeve podsticaje da stupi u interakciju sa njim, postala je uznemirena i jednostavno se – rasplakala. Time se završio prvi snimljeni susret čoveka sa modernim androidima.

Risina negativna reakcija nije sasvim neočekivana. Osećaj nesigurnosti i uznemirenosti koji se javlja u odnosima živo-neživo i ljudsko-automatizovano često je obrađivan u književnosti i umetnosti, ali je specifičnu naučnu težinu dobio početkom dvadesetog veka, kad ga je Frojd definisao kao deo šireg psihoanalitičkog koncepta. Ovaj koncept, najpoznatiji pod svojim originalnim i teško prevodivim nemačkim nazivom „das Unheimliche“, odnosi se, između ostalog, na nelagodu koju osećamo pri susretu s nečim što doživljavamo kao strano i neprijateljsko, dok nas, istovremeno, podseća na nas same. Ovaj osećaj se može iskusiti u susretu sa leševima, voštanim figurama, protetičkim šakama – i, pretpostavlja se, realističnim humanoidnim robotima.

Hipoteza „jezive doline“

Inspirisan budističkom perspektivom i Frojdovim psihoanalitičkim konceptom, Masahiro Mori, tadašnji profesor na Tokijskom institutu za tehnologiju, izneo je 1970. godine u kratkom eseju hipotezu „jezive doline“. Mori je pretpostavio da odnos između stepena sličnosti robota sa ljudima i afiniteta koji ljudi imaju prema robotima nije linearan. On razlikuje tri stepena razvoja robota. U prvom stepenu razvoja, roboti se jasno razlikuju od ljudi. Što su njihovi izgled i ponašanje sličniji ljudskim, to su ovi roboti prijemčljiviji za ljude. Drugi stepen razvoja podrazumeva robote koji su toliko slični ljudima da ispoljavaju samo mala odstupanja od ljudskih karakteristika. Ovakvi roboti, po Moriju, izazivaju jak osećaj nelagode kod ljudi, zbog čega se ovaj stepen razvoja naziva „jezivom dolinom“. Risina reakcija na robotskog dvojnika je ilustracija ovog efekta. U trećem, možda nedostižnom stepenu razvoja, roboti su sasvim slični ljudima i postaju opet prihvatljivi za njih.

Iz ove hipoteze, Mori izvodi sledeći zaključak. Da bi roboti bili društveno prihvatljivi, njihov dizajn ne sme da odgovara „jezivoj dolini”, tj., roboti se moraju jasno razlikovati od ljudi ili im biti sasvim identični. Na pitanje da li dizajneri robota treba da se zaustave pre ulaska u „jezivu dolinu”, ili da teže da pređu na njenu drugu stranu, Mori ima jasan stav. U intervjuu za časopis „IEEE Spektrum” iz 2012., on navodi sledeće:

„Uvek im kažem da se zaustave tu. Zašto morate da rizikujete i pokušate da se približite drugoj strani? Iz moje perspektive, nije čak ni interesantno razvijati robote koji izgledaju baš kao ljudi. […] Osećam da roboti treba da se razlikuju od ljudskih bića.”

S druge strane, Išiguroa ne brine mogućnost ulaska u „jezivu dolinu”. Za njega je ova hipoteza previše pojednostavljena i nedostaje joj eksplanatorna moć. Međutim, iako među naučnicima još ne postoji široko prihvaćeno slaganje da li je hipoteza tačna. važno je primetiti njen humanistički kontekst.

Mehanistički pristup čoveku

Mori i Išiguro su ljudi jakih ubeđenja, filozofskih i religioznih. Mori smatra da su Budina učenja najbolji način da se razume čovek, a posebno ljudski um, dok Išiguro, u skladu sa religijom Šinto, ne pravi razliku između ljudi i stvari, tj., veruje da stvari, poput računara, stolica, stolova, kamenja i drveća poseduju „neku vrstu duše”. Njihova ubeđenja se reflektuju na dve međusobno suprotne naučne postavke. Mori zastupa humanistički stav:

„Da biste pravili robote, morate razumeti ljude. […] Tehnologija nije samo dobra, i u određenim slučajevima će se negativni aspekti tehnologije snažno iskazati. Moramo da sačuvamo tehnologiju od toga da postane negativna.”

Za razliku od njega, Išiguro kaže da pravi robote da bi bolje razumeo ljude. Njegov stav proizlazi iz usvojenog mehanističkog razumevanja čoveka, duboko ukorenjenog u oblast veštačke inteligencije. Po ovom shvatanju, svi ljudski aspekti se mogu realizovati kroz računarsku implementaciju. Hans Moravek (Hans Moravec), profesor na Univerzitetu Karnegi Melon, je krajem dvadesetog veka pretpostavio da će uskoro sve suštinske ljudske funkcije, fizičke i mentalne, imati veštački duplikat. U narednom periodu ostao je dosledan svojoj pretpostavci, najavljujući robote „četvrte generacije” za univerzalnu namenu, koji će moći da apstrahuju i generalizuju. Marvin Minski (Marvin Minsky), profesor na Masačusetskom institutu za tehnologiju i pionir veštačke inteligencije, doživljavao je mozak kao „mašinu od mesa”, i pokušavao da objasni fenomene poput emocija i svesti kroz mehanistički pristup. (Interesantno je, a možda i indikativno, to što Minski u svom iskazu „the brain is merely a meat maschine” koristi imenicu „meat”, a ne „flesh”.) Išiguro želi da robote osposobi da poseduju intencionalnost i želje, a čuveni futurista Rejmond Kurzvajl (Raymond Kurzweil) govori o softverskoj reinkarnaciji svog preminulog oca.

Robotski lapot

Što se petogodišnje Rise tiče, otac joj je poklonio nekoliko lutki „Helo Kiti” kao nagradu za učestvovanje u eksperimentu. Po njegovim rečima, njih dvoje posle toga nisu nikad pričali o ovom „incidentu”, a on nije siguran da li je susret sa robotskim dvojnikom dugoročno uticao pozitivno ili negativno na Risu. Pa ipak, to ga nije obeshrabrilo da nastavi svoje istraživanje. Nekoliko godina kasnije, Risu je izložio eksperimentalnom susretu sa svojim robotskim dvojnikom. Devojčica je reagovala bolje nego prethodni put, jer se, po sopstvenim rečima, fokusirala na očev glas, za koga je znala da se nalazi u susednoj sobi, umesto na očevog robotskog dvojnika. Po „naučnim merilima”, eksperiment sa Risom i drugom decom koja su učestvovala je uspeo: deca su uspostavljala kontakt očima sa robotom i uključivala se u interkaciju sa njim.

Naučnici poput Išiguroa javno demonstriraju veru da će roboti jednog dana biti sposobni da funkcionišu u neposrednom ljudskom okruženju i preuzmu važne uloge poput pružanja nege starijima i bolesnima, brige o deci, podučavanja i niza drugih poslova koji su do sad bili rezervisani za ljude. Njihova pretpostavka je, po Morijevim rečima, narcisoidno vezana za ljudsko samopoimanje: ovakvi roboti moraju da liče na ljude, da bi ih krajnji korisnici prihvatili u dodeljenim ulogama.

Šta bi to govorilo o nama kad bismo brigu o bližnjima želeli da prepustimo robotima? Da li želite da se jednog dana nađete na prijemnom kraju ove tehnologije? Hipoteza „jezive doline“ je u fokus naučne pažnje dospela tek 2005., trideset pet godina nakon što ju je Mori postavio. Pravo pitanje je, međutim, koliko vremena će proći dok ne prihvatimo njenu humanističku poruku.

gnjatovic.info