Stanislav Lem, Kineska soba

EKSPERIMENT KINESKA SOBA - objašnjenje

Ukoliko bi mašina uspela da uverljivo simulira inteligentan razgovor, da li to nužno znači da ga i razume? Ovo pitanje je iniciralo i danas atraktivan misaoni eksperiment američkog filozofa Džona Serla. U eksperimentu iz 1980. godine nazvanom Kineska soba, Serl je zamislio sebe kako u jednoj prostoriji, oponašajući računar, izvršava nekakav program. Taj program simulira ponašanje čoveka koji govori na kineskom, i koji oponaša čoveka kome je kineski jezik maternji. Ispred prostorije u kojoj je Serl nalaze se ljudi koji mu pod vrata ubacuju papire sa kineskim slovima, a on, iako mu to izgleda kao nekakav švrakopis, zahvaljujući programu uspeva da im odgovori na pitanja s papira na savršenom kineskom.
Da li mašina bukvalno razume kineski ili samo simulira sposobnost da razume kineski? Ova prva pozicija bila bi, kako je Serl zaključio, "jaka veštačka inteligencija", dok je druga "slaba veštačka inteligencija". Serl se onda zapitao i da li veštačka inteligencija zaista postoji, ukoliko kompjuter samo zahvaljujući odgovarajućem programu navodno razume i može da misli. Ako Serl ne razume kineski, a govori ga, to bi onda trebalo da znači da ni kompjuter ne razume to što radi. Serl je zaključio da računar nema ni um ni sposobnost razumevanja, bez obzira na to koliko inteligentno deluju njegovi odgovori ili ponašanje. Program, prema Serlu, ne stvara um, niti je dovoljan za um
___________________________________

Stanislav Lem 

1. 

Džon Serl izazvao je knjigom Minds, Brains and Programs objavljenom u The Behavioral and Brain Science, tom III (Cambridge Press, 1980, odnosno pre petnaest godina) istinski strah, ili ako neko voli lagodnije određenje, veoma kontroverznu buru među američkim istraživačima okupljenim oko Artificial Intelligence. Iznoseći na operacijski sto clous njegovog teksta -termin odgovara naslovu pomenutog eseja - neću navoditi oko 28 replika i pamfleta, kojima su istraživači iz AI u SAD pokušavali da „ponište" zaključke koji, prema Serlu, proističu iz njegove knjige. Takođe ne želim da ostavljam utisak da sam pametniji od svih istraživača takoreći svih univerziteta, jer se držim amicus Plato, sed magis amica veritas. Ako bilo ko vidi mogućnost rušenja mojih zaključaka u korist Serla, biću istovremeno iznenađen i zadovoljan, jer nije baš prijatno dominirati nad gomilom mudraca.

     Zbog toga na stvar prelazim ad rem. Serl je hteo da dokaže kako je moguće apsolutno oponašanje RAZUMEVANJA teksta od strane onog koji bi trebalo taj tekst da sklopi, a u suštini ga ne razume. Da bih sasvim shvatio stvar čitao sam GA dva puta: jednom originalno delo D. R. Hofštatera i D. Dineta The Minds I, a drugi put dobar nemački prevod Einsicht ins Ich (KlettCotta, Verlag, 1981).


2.

Stvar stoji sledeće. Seri koji zna engleski, ali nimalo kineski, zatvoren je u jednoj sobi, gde zaredom dobija TRI paketa kartica ispisanih znacima kineskog pisma. U njegovim očima ti znaci NIČIM se ne razlikuju od gomile proizvoljnih škrabotina. Dobivši prvi paket, dobija na engleskom i uputstva kako da znake iz drugog paketa uskladi sa znacima iz prvog. Konačno, dobija i treći paket sa kineskim simbolima, koji treba da mu omoguće usklađivanje znakova trećeg paketa s prva dva. Serl ne zna da onaj koji mu je dao sve, prvi paket naziva „pismo" {Script, Schift), drugi - _pripovest", a treći „pitanja" koja se odnose na tu pripovest. Postupajući čisto formalno ili usklađujući jedne znake s drugima i trećima, dobija sam zapis koji TAKOÐE uopšte ne razume. Međutim, za one koji znaju kineski jezik i pismo u sobu je prispela pripovest, a iz sobe su izašli smisleni odgovori na pitanja koja se odnose na Sadržaj te pripovesti, sve skladno i sa smislom; IAKO čovek koji manipuliše znacima-karticama UOPŠTE ne poznaje i ne razume kinesko pismo. Iz toga proizlazi da manipulator u sobi deluje kao kompjuterski hardware, dok su upustva na engleskom PROGRAM (sofware), iz čega se već vidi da se logično može odgovarati na kineska pitanja koja se odnose na kinesku pripovest uopšte ne znajući kineski, što bi trebalo da bude model za delovanje kompjutera.

      Hofštater precizno rekapitulira „eksperiment" s kineskom sobom, prateći u svojoj knjizi Serla u stopu, osim toga lično ga komentariše, rezimira najbitnije kontraargumente (protiv izjednačavanja sistema „soba plus čovek plus uputstva" s kompjuterskim hardwareom, a uputstva na engleskom s programom, tj. softwareom) koje su poslali najpoznatiji timovi naučnika koji ispituju mogućnosti AI, između ostalih na univerzitetima: Berkli („sistemski" odgovor: čovek ništa ne razume, ali čovek plus uputstva plus soba „razume kineski"), Jejl (odgovor uobličuje radnje u stilu „robota") Institut za tehologiju u Masačusetsu, uz pomoć Berklija i replika koja se temelji na simulaciji mozga), Stenford (kombinovana replika), Jejl (pokušaj redukcije ad absurdum: odnekud je poznato da postoje neki DRUGI koji razumeju kineski?   Iz njihovog ponašanja, jer se u mozak ne može zaviriti, dakle bihejvioristički „soba" je istovetna * Kinezom", a opet Berkli itd. Multipliciranje replika bilo bi dosadno. Hofštater pokušava da obori Serlov „dokaz" koji se temelji na njegovom misaonom eksperimentu", ističući da Serl kao vest maioničar prikriva stvarne teškoće, jer bi, na primer, konfrontiranje stotina i stotina kineskih simbola trajalo možda mesecima (po meni, to nije kontraargument već izvrdavanje) i isticalo „sinološku" stranu stvari. To više ima smisla, jer SAMO onaj koji o kineskom NIŠTA ne zna, mimo volje pretpostavlja da je to jezik sazdan od posebnih „znakova-kockica" koji ne znaju ni za deklinaciju, ni za konjugaciju, ni za idiomatiku. S obzirom da ne želim da ulazim ni u kakav spor, ni u kakvu diskusiju sa „kineskom sobom", dopustio bih sebi prevođenje ovog misaonog eksperimenta na drugi, daleko jednostavniji, koji sasvim solidno demaskira „tajnu".


3.

Uzmimo, na primer, puzzle, koje kao rasklopljiva celina prikazuju neku naturalističku sliku ili fotografiju. To može biti kopija Rembrantovog Viteza ili fotografija Ajfelove kule, svejedno je šta jeste, ŠTA se tamo vidi, samo da POSTOJi naturalistička očiglednost slike. Ta slika se zatim iseca u male, pokretne smicalice-komadiće, od kojih se takve igračke (puzzle) obično sastoje, pazeći isključivo na to da se svaki komadić po formi razlikuje od ostalih do te mere da se ne mogu sklopiti u skladnu celinu, stavljajući elemente na pogrešna mesta. Na kraju okrećemo sliku naopačke, protresemo kutiju u kojoj se nalaze komadići i dugo ih mešamo. Zatim dolazi naš eksperimentator koji vidi sve „leve strane" tih kartonskih komadića, ali mora da sastavi celinu, u kojoj će se komadić naći na pravom mestu. To će potrajati malo duže, ali je zadatak ostvarljiv, iako je zamena mesta onemogućena oblicima koji su im dati individualno. Ako sada sliku okrenemo na lice, videćemo Rembrantovu sliku, Ledu s labudom ili Ajfelovu kulu, iako onaj koji je sastavljao komadiće pojma nije imao da u celinu slike slaže besmislene forme, već je smatrao da reprodukuje određenu jasnu i jednoznačnu SLIKU. Uostalom, to je krajnje očigledno i ne zahteva bilo kakve dodatne informacije. Umesto slike tamo se takođe može nalaziti natpis na poljskom, albanskom, kineskom ili nekom drugom od 5000 jezika koji postoje na našoj planeti: tamo se može pojaviti natpis „Ko rano rani dve sreće grabi", ili „Čija je sila onoga je i carstvo", ili „Ich weiss nicht, was soll es bedeuten, dass ich so trauring bin" (Heine, Lorelei) itd. Svejedno je šta će se pojaviti kada se okrene leva strana komadića odgovarajuće poredanih na pravu, odnosno na „desnu" stranu, mada je evidentno da onaj koji je redao poput „kompjuterskog programa" nije znao NIŠTA, odnosno nije imao pojma, nije pretpostavljao ŠTA će se pojaviti na poleđini, DA će se tamo pojaviti bilo kakva koherentna celina. Da li je to argument protiv suda da bi kompjuter ipak mogao da razume čoveka, odnosno šta on radi, čineći sledeće korake na koje ga usmeravaju uputstva? Po meni, to ima toliko zajedničkog s „rušenjem" teze o AI, koliko i teza o tome da se od kolača s kremom može složiti natpis koji negira mogućnost eksplozije vulkana Etna. Jedno nema ničeg zajedničkog s drugim.


4.

Serlov eksperimet s kineskom sobom može se, naravno, napasti i drugačije, umesto puzzle-a možemo postulirati da se kineski jezik i pismo mogu odbaciti u korist grčkog, hebrejskog, arapskog, latinskog i sl. Ako se taj jezik makar malo pokaže sličnim našem (recimo, rumuński, jer se temelji na latinskom alfabetu, ili ćirilica, jer je derivat grčkog) jasnije će se videti da PITANJA koja se odnose na PRIPOVESTI određuju te odgovore i ako bi neko (Serl) i dalje insistirao na kineskom, mogu mu se suprotstaviti. Zahvaljujući pomoći sinologa koji dobro zna kineski, „paketu pitanja" priključio bih nešto specifično: na primer, pripovest se odnosi na poznatu bajku iz Priča o 1001 noći, odnosno o Sezamu i Sezamovom blagu. Pitanje glasi: zašto se stena /pećina otvara kada se glasno izgovore reči .Sezame, otvori se"? Odgovori se mogu različito razumeti.
A) Stena se otvara, jer je pripovest BAJKA, u kojoj se događa ono što se u realnosti ne događa.
 B) Stena se otvara, ako je maketa sagrađena u Holivudu, za snimanje serije „Priče iz hiljadu ijedne noći".
C) Stena je plastična tvorevina, koju pokreće skriveni elektromotor, dok glas aktivira specijalne akustičke „senzore". I tako dalje, do kraja sveta. - Po meni, PRVI odgovor, dat genološkim redosledom, ili koji se poziva na osnovnu paradigmu svojstvenu bajkama kao književnom žanru (dopuštene „magije i čuda"), kao NE-tehnički ima više smisla, ali otkud možemo znati da će se naći među onima koji služe za slaganje „kineskih okolnosti" u „sobi"?

5.


Uostalom, moguće je da se među pitanjima nađu i ona koja „demaskiraju osnovno NERAZUMEVANJE" svih tekstova kroz „kinesku sobu", što je. kao što vidim, dopušteno, jer se Džonu Serlu i njegovim respondentima činilo neobično (u mojim očima) da takozvana strong AI ili hipoteza o mogućnosti rešavanja Tjuringovog testa pomoću mašine u okviru tajne kineske sobe" ispada negativna: mašina koja simulira sobu ne razume ništa, iako odgovara na pitanja kao da ih razume.

    Ključ TOG pitanja je u „paketu pitanja". Recimo da je priča koja se priča na kineskom bajka Aladinova lampa.. Pitanja glase: „Da li je lampa bila električna ili na baterije?" „Da li je to bila petrolejka napunjena gasom, koja zahvaljujući fitilju i šibicama daje svetio?" Ako postoje pitanja koja A PRIORI isključujemo, jer nas odvode na stranputicu, onda nema govora o nekakvoj analogiji s Tjuringovim testom.  Sada bih u skraćenom vidu naveo autentičan i očigledan primer, koji bih primenio argumentum ad hominem, pri čemu bi taj čovek bio ja. Prilično sam nagluv, bez aparata uključenih u oba uha gotovo ništa ne razumem (s obzirom da ne čujem) od onoga što mi se govori. Ako mi se u pekari, u kojoj kupujem pecivo nepoznati čovek, koji me je prepoznao, jer me je video na televiziji, obrati, a ja nisam u stanju da zbog celokupne situacije posegnem za kutijom sa slušnom protezom, trudim se na osnovu onoga što mi govori, da razaznam makar reč dve. To obično uspeva, ako ne uspevali, on ponavlja ili izgovara glasnije, usmeravajući me na opšti, mada ne sasvim jasan smisao svog iskaza. Prirodno je što često dolazi do nesporazuma u razgovorima s gluvima, ali tada niko, čak kada je nesporazum stoprocentni, ne smatra da se obraća manekenu ili robotu s kompjuterom u lobanji koji „radi čisto formalno". Čisto formalno radi onaj koji sastavlja sliku (puzzle), onaj koji sastavlja nerazumljive kineske simbole. Kada pogreši, Kinez će pre pomisliti daje to obična greška a ne stoprocentno nerazumevanje. Uostalom, smatram da smisao određuje situacija, zbog toga me niko u pekari neće pitati za broj zvezda u sazvežđu Andromede ili za najbolji recept za pravljenje medenjaka s bademima. S obzirom da pitanja „usmeravaju" tekst pripovesti, ona su široko postavljana, ili su probabilistički unapred determinisana u okviru fuzzya, odnosno nejasnog skupa, koji ima strelicu za usmeravanje, pomoću koje se a priori orijentiše u nekakvom ,,razumevanju". Međutim, nisam u stanju da shvatim sve muke i nejasnoće koje su univerzitetski mudraci prosipali pred Seriom. Umesto da opisuje misaone eksperimente koji ruše tobožnji mit o pametnim kompjuterima, neka se Serl zatvori u sobu, neka mu tamo daju ona „skripta" i pripovest, čija se sadržina svodi na skromne stihove: „Na plot se popela maca i žmirka, kratka je ovo, a ne duga pesmica", zbog toga neka postavljaju pitanja o (na kineskom i na karticama) vrsti plota, rasi mačaka ili o tome kako mačka žmirka, da li to žmirkanje ima neko posebno značenje ili je nevažno, recimo na poljskom samo zbog rima. I neka Seri odgovori koliko-toliko prikladno. Uopštene tekstove te vrste, ne hvaleći se, mogu da proizvodim u tonama i da iz njih ništa ne proizlazi. Kao što znamo, Vels je u svojoj kasnijoj knjizi o budućnosti opisao buduće ratove u vazduhu, u kojima navođeni baloni treba mamuzama da cepaju neprijateljske avione , odnosno ne na način na koji su ratne fregate nekada uništavale neprijateljske brodove. Postavlja se pitanje da li danas dolazi do ratnih okršaja u vazduhu? Naravno da dolazi. Da li su, PREMA Velsu, nastale leteće mašine veće i lakše od vazduha? Naravno da jesu, bili su to cepelini (uglavnom nemački). Da li su neprijateljske letilice mamuzama cepale omotače? Nikada, ali na pitanje „zbog čega nisu", međutim, ne može se odgovoriti lakonski. Ljudi koji se bave AI shvataju da za igru pitanja i odgovora treba stvarati pristojne OKVIRE (frames) situacija, mada je iz svakodnevnih iskustava poznato da se, na primer, kuvarici može postaviti pitanje kako se pravi zaprška, ali se od nje ne može očekivati smislen odgovor na pitanje zbog čega klipni motori novijih modela automobila nemaju dva ventila (usisni i izduvni), već tri, četiri. Ona na to neće odgovoriti, jer o tome nema pojma, niti to ima išta zajedničko s „razumevanjem" ili „nerazumevanjem" gramatike, idiomatike, sintakse jezika. Da bi se iskaz razumeo, valja uhvatiti njegov smisao i značenjski opseg, las but not kasti njenu specifičnu designativnu orijentaciju.


     Serlova kineska soba, slično kao i puzzle, ništa jednom zauvek ne rešava, ništa ne razjašnjava, ništa ne predodreduje, niti „sređuje". Dodao bih nešto što se uklapa u stvar, da na istaknutom mestu u svojoj biblioteci imam knjigu nemačkog DOKTORA (ne medicine) iz 1924. godine, koji matematički, hemijski i fizički dokazuje nemogućnost kosmičkih letova, jer, po njemu, raketa ne može da postigne brzinu koja može savladati gravitaciju i izaći u orbitu van zemlje. To je „lep" dokaz izveden čisto formalnim sredstvima". Protivnici veštačke inteligencije ne bi smeli nikako da ga ispuštaju iz vida. Osnovna zamerka mom svođenju „tajne kineske sobe" na elemente tipa puzzle jeste preterano uprošćavanje stvari. Zbog toga ih sada komplikujem. Na aversu puzzle ne nalazi se slika, već stihovi iz Otela, koji govore o tome kako je udavio Dezdemonu. Onaj koji sastavlja delove o tome ništa ne zna. Dobija dva paketa komadića „pitanja" i „odgovara na pitanja". Sve ih vidi kao haotično rasute kartonske deliće, od kojih treba sastaviti celinu tako što će se njihovi zubići, udubljenja i ispupčenja jednoznačno uklapati. Kada se ova tri paketa redalica okrenu, vidi se da pitanja glase: „Zbog čega Otelo davi Dezdemonu?" „Da li je imao razloga za to?", a odgovori glase: -Darije zbog ljubomore." „Na to ga je naveo Jago." Celina teksta, pitanja i odgovori, sastoji se od ENGLESKIH izraza, Kinez koji je sastavlja a ne zna ni reči engleskog, zahvaljujući formalnim postupcima (rešavanju ukrštenih reči) dobija mešovit tekst, mešovita pitanja i adekvatne odgovore na njih. Serije prethodno u glavama onih kojima je svoj eksperiment opisao, napravio pometnju, da se radi o „kineskom" i si. Sada se. međutim, vidi da se eksperiment može izvesti, ako se koriste čisto formalni postupci (komadići se sastavljaju prema svom OBLIKU, a ne smislu). Istovremeno se vidi, ovoga puta veoma jasno, da Kinez u „engleskoj sobi" u stvari NIŠTA ne razume. Prema tome, KO tekstove razume u OBA slučaja, u mom i Serlovom? Naravno, onaj koji je čitav eksperiment - i prvi i drugi - izmislio, sastavio i programirao. „Razumevanje" se ne nalazi ni u jednoj sobi, ni u „kineskoj" s Englezom, ni u „engleskoj" s Kinezom, u oba slučaja programi se razlikuju po tome što se jednom znaci jednog kineskog pisma FORMALNO prilagođavaju znacima drugog kineskog pisma, a u mom pak slučaju FORMALNO se prilagođavaju oblici isečaka od kartona. Razlika je nevažna, jer je bitno isključivo ponašanje onog koji slaže, koji ne razume tekst, odnosno nije važno što tekst vidi, ali ga ne razume, jer ne zna kineski, ili tekst ne vidi (Kinez), tj. kao da ga ne vidi, JER GA TAKOÐE NE BI RAZUMEO, s obzirom da povezuje oblike, a ne simbole. Ukratko rečeno, eksperiment nas uvodi u polje, što i Hopfštater u svojoj knjizi konstatuje, mada je svoje objašnjenje nepotrebno iskomplikovao. Nije problem u tome što je kinesko pismo neuporedivo teže prilagoditi (ignorant PISANA slova može razlikovati kao grafički veoma različita latinska slova - da li je recimo ,,f formalno identično sa „F") kineskom pismu, već u tome što je taj rad uvek asemantički formalan. Prema tome, „razumevanje" u samim tekstovima uopšte ne učestvuje i a fortiori nema govora o nekakvoj „svesti". Budućnost će pokazati da li je veštačka inteligencija moguća. Jer, ta budućnost NEMA NIČEG ZAJEDNIČKOG s razmatranim reductio ad absurdum .

[Stanisław Lem: Tajemnica chińskiego pokoju- Rraków, Universitas, 1996, str. 201-207]

izvor