Stel u voor dat u geen Chinees kent, maar toch in het Chinees correspondeert. Wat betekent dat dan? Aflevering 2 van onze filosofische zomerserie.

Zo. Daar bent u dan. Helemaal alleen in een reusachtige ruimte die tot aan het plafond is volgestouwd met boeken. Welkom in de Chinese kamer. Of zeg maar: de Chinese loods. De boekenplanken strekken zich uit zover het oog reikt. Het lijkt de bibliotheek van Babel wel, die we in het vorige nummer van Knack in ogenschouw namen.

Gelukkig is er een elektrisch vorkheftruckje voorhanden waarmee u de ruimte kunt doorkruisen en ook in de hoogte bij alle boeken kunt. Vlak bij de deur staan bed, tafel, stoel en twee gigantische koelkasten met mondvoorraad voor minstens een paar weken. Maak het u gemakkelijk, want het kan hier een tijdje duren.

Uw opdracht is zwaar maar tegelijk erg simpel. Door de gleuf in de deur zult u om de zoveel tijd een papier toegeschoven krijgen met daarop een korte tekst. Van die tekst zult u niets begrijpen, want het is Chinees. En u kent geen Chinees, dat was de voorwaarde om aan dit experiment te kunnen meedoen.

Toch is het de bedoeling dat u zelf, door dezelfde gleuf, berichten terugstuurt, waarin u op een zinvolle manier antwoordt op de berichten die u hebt gekregen. En ook die antwoorden moeten in het Chinees worden geformuleerd. U gaat, in het Chinees, corresponderen!

Onmogelijk? Toch niet. Tijdrovend, dat wel. Alles wat u moet doen, staat stap voor stap beschreven in al die boeken. In het Nederlands. U hoeft alleen maar de instructies te volgen. Let wel, u krijgt geen snelcursus Chinees. In de hele kamer staat geen enkel vertaalwoordenboek. U zult dus geen enkel bericht kunnen ontcijferen, het is en blijft Chinees voor u.

Wat wel in de boeken staat, zijn algoritmen: procedures die u zonder daar verder bij na te denken moet volgen om op een binnenkomend bericht een antwoord te formuleren. Eerst wordt het binnenkomende bericht geanalyseerd.

Begint een tekst met teken X? Zo ja, kijk dan naar het tweede teken. Is dat tweede teken een Y? Zo niet, is het dan een Q? Zo niet, is het dan een M? Enzovoort. Tot u het tweede teken hebt gevonden. Waarna u overgaat naar de volgende stap. Zo ja, kijk dan naar het derde teken. Is dat derde teken een Y? Enzovoort.

Het zal soms even duren voor u alle stappen hebt doorlopen, u zult voortdurend van het ene boek naar het andere moeten, dat maakt deze opdracht ook zo zwaar. Daarom staan hier ook zoveel boeken: het aantal combinaties is in principe oneindig – zoals in elke taal. Maar de afspraak is dat de binnenkomende berichten kort en eenvoudig zijn, zodat uw opdracht nog een beetje overzichtelijk blijft.

Als u alle stappen hebt gevolgd om het binnenkomende bericht te analyseren, begint u aan uw antwoord. Ook daarvoor volgt u gewoon de instructies: eerst teken S, dan teken K, dan teken L, enzovoort. Het resultaat is een tekst in vlot en feilloos Chinees, die een begrijpelijk en perfect antwoord is, waarmee de verzender van het bericht tevreden zal zijn.

Die verzender, dat is natuurlijk de echte proefpersoon van dit experiment. Het is een Chinees die u berichten stuurt en die de antwoorden leest. Hij correspondeert trouwens niet alleen met u, maar ook met een andere deelnemer aan dit project: de Chinees in de kamer naast de uwe. U bent verzeild geraakt in een zogenaamde Turing-test.

Een Turing-test?

De Britse wiskundige Alan Turing (1912-1954) maakte zich sterk dat er op een dag geen enkel verschil meer zou bestaan tussen mens en computer. Geavanceerde computers zouden even intelligent zijn als mensen, ze zullen zelfs over een bewustzijn beschikken.

Maar hoe zouden we weten wanneer het zover is? Wanneer zouden we van een computer zeggen dat hij de mens evenaart? Om daarvoor een goed criterium te hebben, bedacht Turing het imitatiespel dat naar hem is genoemd: de Turing-test.

Men neme twee kamers. In de ene kamer: een computer. In de andere kamer: een mens. Door een gleuf in de deur worden aan beide partijen schriftelijke vragen gesteld die ze schriftelijk moeten beanwoorden. Als de vragensteller op basis van die antwoorden niet kan zeggen in welke kamer de computer zit en in welke kamer de mens, dan is de computer geslaagd voor de test – dan is hij aan de mens gewaagd. Met andere woorden: dan kunnen we niet anders dan concluderen dat de computer op menselijk niveau kan denken.

Turing geloofde dat computers die glansrijk zouden slagen voor zijn test ooit de normaalste zaak van de wereld zouden zijn. Het is nog bijlange niet zover, maar gelet op de exponentiële groei van het rekenvermogen van onze computers is het misschien ook niet uitgesloten.

Maar had Turing gelijk? Volstaat het om je te gedragen als een denkende mens om perfect vergeleken te kunnen worden met een denkende mens? Zouden we van een computer die slaagt voor de Turing-test echt zeggen dat hij kan dénken? Dat hij een bewustzijn heeft?

Nee, vindt de nu 77-jarige Amerikaanse filosoof John Searle. Formele bewerkingen uitvoeren, wat een computer doet, is iets hélemaal anders dan denken, wat een mens doet. Om dat verschil duidelijk te maken, formuleerde Searle in 1980 – in het artikel Mind, Brains and Programs – een beroemd gedachte-experiment: de Chinese kamer.

Men neme twee kamers. In de ene kamer: een Chinees. In de andere: iemand die geen Chinees kent – u dus, in dit voorbeeld. Een proefpersoon mag aan beide deelnemers vragen stellen en moet aan de hand van hun antwoorden zien te achterhalen waar die echte Chinees zit. Maar dat zal dus niet lukken, want de instructies die u volgt, zijn zo goed dat het voor de proefpersoon niet mogelijk is om het onderscheid te maken tussen de echte Chinees en u, die niets begrijpt van wat u leest of schrijft maar dankzij een uitgekiende procedure toch in staat bent om begrijpelijk Chinees te produceren.

Als u perfect de instructies volgt, slaagt u dus voor de Turing-test. U kunt zo goed een Chinees imiteren dat niemand het verschil merkt. Toch kent u, zelfs na een wekenlang verblijf in de Chinese kamer, nog altijd geen Chinees. U kunt een Chinees imiteren, maar de Chinese taal blijft voor u een ondoorgrondelijk mysterie.

Welnu, zegt John Searle, dat geldt ook voor die computer. Het is niet omdat je je kunt gedragen als een denkende mens, dat je ook echt kunt denken. Met andere woorden: de Turing-test is een slecht criterium om uit te maken of computers kunnen denken. Denken is iets anders dan berekeningen maken. Het menselijk bewustzijn is veel meer dan een complex algoritme.

Neem nu een schaakcomputer. Zo’n ding kan weliswaar een grootmeester verslaan, maar is die computer ook echt aan het schaken? Is hij zich bewust van het feit dat hij aan het schaken is? Ervaart hij zichzelf als een schakende computer? Of ervaart die computer helemaal niets, en is dat ding gewoon – zonder enige vorm van bewustzijn – een programma aan het uitvoeren?

Over het geest-lichaamprobleem wordt al eeuwenlang gestreden tussen dualisten en materialisten. De Franse filosoof René Descartes introduceerde in de zeventiende eeuw het filosofische dualisme: geest en lichaam zijn twee verschillende substanties, respectievelijk ontstoffelijk en stoffelijk van aard. Het lichaam is een machine. Het bewustzijn is een geest in de machine.

Daartegenover staat het materialisme, dat stelt dat er maar één soort substantie bestaat: de stoffelijke materie. Volgens de harde materialisten, in de lijn van Alan Turing, is ons bewustzijn een verschijnsel dat helemaal kan worden gereduceerd tot de materie waaruit het tevoorschijn is gekomen. Als je een netwerk maar complex genoeg maakt, dan ontstaat er op den duur haast automatisch zoiets als bewustzijn. Zo zou niet alleen een computer, maar ook het internet zich bijvoorbeeld ooit bewust kunnen worden van zichzelf.

John Searle verdedigt een verfrissende tussenpositie: die van het biologisch naturalisme. Dat wil zeggen: uiteraard bestaat er alleen materie, maar de geest is niet volledig reduceerbaar tot het brein, zoals de regenboog wel volledig reduceerbaar is tot vocht in de lucht waardoor het zonlicht wordt gebroken.

Die regenboog hebben we onder de knie. Het bewustzijn niet, dát blijft volgens Searle tot nader order een groot mysterie – Chinees voor beginnelingen, zeg maar.

Volgende week in aflevering 3

De sluier der onwetendheid

DOOR JOëL DE CEULAER / ILLUSTRATIE KIM DUCHATEAU

Reageren op dit artikel kan u door een e-mail te sturen naar lezersbrieven@knack.be. Uw reactie wordt dan mogelijk meegenomen in het volgende nummer.

Partner Content