Tjuringova greška

Milan Gnjatović
(Ovaj tekst je objavljen u magazinu Planeta br. 83, mart-april 2018.)

Koliko god to čudno zvučalo – veštačka inteligencija je u osnovi bihevioristička nauka, zasnovana na pretpostavci da razvoj inteligentnih mašina ne zahteva suštinsko razumevanje fenomena ljudske inteligencije, već je dovoljno da mašine uverljivo simuliraju inteligentno ponašanje. Poslednje četiri decenije istraživanja u ovoj oblasti karakteriše dogmatsko zanemarivanje činjenice da je ova pretpostavka pogrešna.

Stvari, ipak, nisu uvek onakve kako izgledaju. Autor jedne od najcitiranijih publikacija iz moderne filozofije je – sigurno ste i sami mogli da pretpostavite – matematičar. Radi se o Alanu Tjuringu, tzv. ocu modernih računara, koji je u svojoj čuvenoj publikaciji iz 1950. izložio predlog kako tretirati pitanje da li mašine mogu da misle. Pomalo iznenađujuće Tjuringovo stanovište je da je ovo pitanje besmisleno, jer su pojmovi „mašina“ i „misliti“ višeznačni, i da ga je potrebno zameniti. Tjuring predlaže test indikativnog naziva – igra imitacije.

Igra imitacije

U igri imitacije postoje tri učesnika: muškarac (A), žena (B), i ispitivač, čiji pol nije od značaja. Ispitivač se nalazi u odvojenoj sobi, iz koje postavlja pitanja učesnicima A i B. Njegov zadatak je da odredi polove ispitanika na osnovu njihovih odgovora. Pritom, osoba A se trudi da ostavi lažni utisak na ispitivača, i u svojim odgovorima može da daje i netačne informacije, dok osoba B pokušava da pomogne ispitivaču da tačno odredi polove. Interakcija se odvija u pismenoj formi, da bi se izbeglo prepoznavanje pola po glasu. Tjuring postavlja sledeće pitanje:

„Šta će se desiti ako mašina zameni učesnika A u ovoj igri? Da li će tada ispitivač doneti pogrešnu odluku podjednako često kao i u slučaju kad se igra vodi između muškarca i žene? Ova pitanja zamenjuju naše početno pitanje 'da li mašine mogu da misle'.“

U igri imitacije, sposobnost mašine da učestvuje u dijalogu sa ljudima predstavlja kriterijum za njenu inteligenciju. Ovo nije iznenađujuće, jer se jezik tradicionalno smatra fundamentalnom odlikom ljudi. U tom smislu, Tjuringovo vezivanje za jezičku kompetenciju mašine je deo tradicije Dekartove misli. U svojoj „Raspravi o metodi“, Dekart odbacuje mogućnost da bi mašine mogle da koriste jezik poput ljudi. Tjuring reformuliše Dekartovo stanovište na sledeći način: ako mašina ipak može da koristi jezik poput ljudi, možemo je smatrati inteligentnom. Sa druge strane, tema konverzacije nije ključna. U češće korišćenoj verziji igre imitacije, poznatoj pod nazivom „Tjuringov test“ (iako sam Tjuring nije koristio ovaj naziv), pol učesnika se ne uzima u obzir, a zadatak ispitivača je da odredi da li komunicira sa ljudskim bićem ili mašinom.

Predlaganjem igre imitacije, Tjuring svesno odustaje od pitanja suštine ljudske inteligencije, i prihvata spoljašnje ponašanje kao jedino objektivno merilo mašinske inteligencije. On je svestan svog biheviorističkog određenja i primedbi koje bi mu se mogle uputiti. Sledeći citat jezgrovito opisuje Tjuringovu grešku:

„Zar mašine ne bi mogle da rade nešto što se može opisati kao razmišljanje, ali što se veoma razlikuje od onoga što ljudi rade? Ova primedba je veoma jaka; međutim, najmanje što možemo reći je da, ako mašina može biti napravljena da učestvuje u igri imitacije na zadovoljavajući način, ne treba da brinemo o ovoj primedbi.“

Nažalost, ovakav bihevioristički pristup je široko prihvaćen u istraživanjima veštačke inteligencije, o čemu je već bilo reči u prethodnim brojevima „Planete“ (videti tekstove „Opasni ’samovoljni’ roboti“ u broju 82., i „Računar u ulozi psihijatra“ u broju 80.). Zapravo je čudno što čak ni kritička oštrica čuvenog Tjuringa nije ostala imuna na zavodljivu metaforu o inteligentnim mašinama. To ubedljivo svedoči o njenom visokom epidemijskom potencijalu. Problem je, naravno, u tome što je Tjuringova pretpostavka netačna.

Argument kineske sobe

Validnost Tjuringovog kriterijuma je osporena „argumentom kineske sobe“, koji je 1980. izneo filozof Džon Serl. Ovaj argument se zasniva na sledećem misaonom eksperimentu. Pretpostavimo da je Serl zatvoren u sobi. On ne razume kineski, ali ima knjigu sa uputstvima za uparivanje pitanja i prikladnih odgovora na kineskom. Posmatrač izvan sobe razume kineski, i dostavlja Serlu pitanja na kineskom, u pismenoj formi. Serl prepoznaje simbole u pitanjima po obliku, iako ih ne razume, i koristi knjigu da odredi odgovore, koje takođe ne razume. Odgovore prosleđuje posmatraču izvan sobe, koji stiče iluziju da Serl razume kineski.

Ovaj misaoni eksperiment je zamišljen tako da podrži analogiju sa računarima. Serl igra ulogu procesora, knjiga koju koristi je računarski program, a posmatrač izvan sobe je korisnik. Argument kineske sobe pokazuje da Serl (čitaj: računar) može da zadovolji kriterijum Tjuringovog testa za kineski jezik, iako ne razume kineski. Drugim rečima, činjenica da računarski kontrolisana mašina simulira inteligentno ponašanje ne implicira da je mašina zaista inteligentna.

I pored brojnih pokušaja, zagovornici veštačke inteligencije do danas nisu uspeli da ospore Serlov argument. Pa je veći deo naučne zajednice u ovoj oblasti jednostavno odlučuo da ga ignoriše – baš kao što je Tjuring svojevremeno predložio.

Predviđanja

Da li ovo znači da je veštačka inteligencija nemoguća? Ono što sa sigurnošću možemo da kažemo je da trenutni razvoj nauke i računarske tehnologije ne uključuje ništa što bi moglo makar da nagovesti pojavu prave (tzv. „jake“) veštačke inteligencije. Čak ni da će mašine uspeti da prođu Tjuringov test. Nemojte se zavaravati pričama o inteligentnim telefonima i vozilima. Ti artefakti mogu biti korisni, ali samo simuliraju inteligenciju (tzv. „slaba“ veštačka inteligencija).

Za nekritičke i blagonaklone posmatrače koji ipak veruju da je nastanak veštačke inteligencije samo pitanje vremena i računarskih resursa, korisno je osvrnuti se na prethodna i aktuelna predviđanja. Tjuring je 1950. predvideo da će za 50 godina računari moći da učestvuju u igri imitacije toliko uverljivo da verovatnoća da prosečni ispitivač nakon petominutne interakcije utvrdi da komunicira sa mašinom neće biti veća od 70%. Svedoci smo da 2000. godine mašine nisu bile ni izbliza toliko uverljive. Erik Šmit iz Gugla je 2013. godine izneo predviđanje da će mašine proći Tjuringov test 2018. godine, što se sasvim izvesno neće desiti. Rejmond Kurcvajl, eksponirani futurolog, je rok pomerio na 2028., a poznati fizičar Stiven Hoking čak na 2115. Da li vam ova predviđanja zaista deluju pouzdano? I verujete li da možemo da predvidimo razvoj tehnologije u narednih sto godina? Ako su odgovori potvrdni, predlažem opkladu.