Het innerlijk leven van de computer: “Of je gelooft in mij, of in god.”

NRC Handelsblad 20-9-1980 – Over het innerlijk leven van de computer doen steeds vreemdere verhalen de ronde. Zij verslaan ons met schaken, geven elkaar les en planten zich voort. Maar hoe menselijk is het kunstmatige brein? En hoe onmenselijk?
Een rondgang door de stille wereld van input en output, waar de Turingtest het menselijkheidsgehalte bepaalt, en de ‘waarom-schakelaar’ vol spanning wordt afgewacht. Computo ergo sum?
Door Cas de Stoppelaar en Simon Rozendaal

***

1980-09-20 Bezielde ComputersEen gedeelte uit een ge­sprek tussen een computer en een in de liefde te­leurgesteld meisje:
Meisje (huilerig): “Alle mannen zijn hetzelfde.”
Computer (warm): “Hoezo?”
M: “Ze zeuren altijd zo.”
C: “Noem eens een voorbeeld?”
M: “Mijn vriend.” (Snikt)
C: “Je vriend?”

Ze babbelen even over de knaap en komen dan te spreken over haar ouders.
Meisje: “U lijkt op mijn vader!”
Computer: “Wat, is de overeen­komst?”
M: “U bent niet agressief. Maar u wilt niet weten dat ik dat merk.”
C. (belangstellend): “Waarom denk je niet dat ik niet agressief ben?”
M: “U maakt geen ruzie met me.”
C: “Waarom denk je dat ik geen ru­zie met je maak?”
M: “Omdat u bang voor mij bent!”

Eliza

Het computerprogramma Eliza, dat deze dialoog voortbracht, was door de Amerikaanse wiskundige Josef Weizenbaum in 1965 geschre­ven om – in de rol van psychothe­rapeut – de patiënt al vragen stel­lend uit zijn tent te lokken. Hee verraste de Amerikanen. Dit keer geen domme, bitse machine die aanmaningen blijft sturen om be­keuringen te betalen, maar een bijna menselijke, elektronisch vriend. Het was in een tijd dat de angst voor nieuwe technieken nog niet zo wijdverbreid was als nu en de digitale therapeut won dan ook snel aan sympathie.

De door Eliza met broodroof be­dreigde psychotherapeuten zelf raakten nota bene in vervoering door deze machine. Eén van hen schreef: “Door de tijdbesparende eigenschappen van de computer zouden honderden patiënten per uur geholpen kunnen worden.” Ook de secretaresse van Weizen­baum raakte onder de bekoring van het begrip dat de computer voor haar toonde. Weizenbaum schrijft: “Op een gegeven moment begon mijn secretaresse, die me gedurende een aantal maanden al aan het programma had zien wer­ken en dus beslist wist dat het slechts om een computerprogram­ma ging, met Eliza te converseren. Al na een kort gesprek vroeg ze me om de kamer te verlaten.” De ma­chine werd te intiem.

Wassen lichaam

Sedert de jaren zestig heeft de computertechniek grote vorderin­gen gemaakt. Ook de vervaardi­ging van hulpstukken die de func­ties van ledematen en organen (het hart, de hand) kunnen overnemen, is technisch sterk verbeterd.

Zo wordt het denkbaar dat een hoogontwikkelde computer, gepro­grammeerd met een geavanceerd Eliza-programma, gehuisvest in een perfect functionerend wassen lichaam, op de stoel van de psycho­therapeut komt te zitten. Hij praat, diagnosticeert en weet samen met de patiënt de problemen op een rij te krijgen. Wat is dan nog het ver­schil in kwaliteit tussen de levende dokter en Eliza?

Het lijkt een onzinnig probleem (en dat is het misschien ook), maar in deze tijd van oprukkende ma­chinale intelligentie is het de moei­te waard om de vraag te stellen: wat maakt de mens tot een wel­denkend wezen, en wanneer is de computer ook zo ver?

In de VS zijn tegenwoordig labora­toria waar men bezig is met ‘kunstmatige intelligentie’. In de­ze omgeving twijfelt men er vol­strekt niet meer aan dat je compu­ters ‘slim’ kunt noemen. Hoe lang duurt het nog voordat we op de automatische printer Descartes’ uitspraak “Cogito, ergo sum (Ik denk, dus besta ik) zien verschij­nen?

De psycholoog Stern heeft deze de­finitie voor intelligentie bedacht: “Intelligentie is het vermogen zich doelmatig aan te passen aan een veranderende wereld.” Intelligen­tie is méér dan een kwestie van begrijpen: het heeft te maken met verandering, aanpassing en over­leving – met evolutie dus.

Zevenmijlslaarzen

De vorig jaar overleden Engelse psycholoog en computerdeskundige Christopher Evans vergelijkt in zijn boek ‘The Mighty Micro’ de in­telligentie van de mens met die van een machine. Hij heeft daartoe dit begrip in een aantal categorieën onderverdeeld en in computer­jargon benoemd.

Hij komt tot de volgende conclu­sies: het vermogen om informatie te verwerken is bij de computer veel groter dan bij de mens – wij denken zo traag als een slak. Het vermogen om informatie op te ne­men is nu nog hoger bij de mens, maar de computer achtervolgt ons met zevenmijlslaarzen: een com­puteroog kan ook infrarood en ul­traviolet waarnemen en een computeroor kan vleermuizen horen – de ontwikkeling van nieuwe zin­tuigen (sensoren) gaat razendsnel. De capaciteit om informatie op te slaan in de menselijke hersenen en in het DNA-molecuul gaat op dit moment die van een computerge­heugen nog te boven, maar ook dat kan niet lang meer duren, aange­zien de grenzen van het miniaturi­seringsproces van chips nog op geen stukken na in zicht zijn.

Een belangrijke categorie in de in­telligentie-indeling van Evans be­treft de zogenaamde software: dat wat je een computer door programmering opdraagt te doen. Kan hij efficiënt met zijn programma’s omspringen? Hoe breed is het scala daarvan en is hij flexibel in het overschakelen tussen, program­ma’s? Kortom: welke kunstjes kan hij vertonen en kan hij dat ook snel en handig doen, tegelijkertijd wellicht?

Hunebedden

Wij zijn oneindig veel beter gepro­grammeerd dan een computer. We kunnen op hetzelfde moment breien, schaken, flirten en over het weer praten, om een fractie van een seconde later voor een brand op de vlucht te slaan. Op veel af­zonderlijke terreinen is de computer ons de baas, maar het gaat om het geheel – het menselijk totaal der delen. Een spin kan beter breien, maar tegenover wereldschaakkampioen Karpov zou hij een slecht figuur slaan.

De conclusies van Evans komen er samengevat op neer dat de compu­ter heel laag moet worden ge­plaatst op de door hem ontwikkel­de IQ-schaal, waar de mens nu nog aan de top staat Volgens hem is de huidige computer ongeveer even snugger als een oorwurm. Maar wat niet is, kan komen: homo sa­piens heeft uiteindelijk ook een evolutie van vele miljoenen jaren achter de rug voor hij van amoebe tot mens werd.

De computer be­staat pas enige tientallen jaren. Computerdeskundigen maken zich dan ook niet druk over de vraag of de computer even intelligent als wij zal worden, maar wanneer dat het geval zal zijn. Sterker, zij zien wat dat betreft geen einde: men fi­losofeert nu al over de generatie­ van UIM’s – ultra-intelligente ma­chines, die de mens qua IQ ver ach­ter zich zullen laten.

De Britse hoogleraar wetenschap en samenleving T. Stonier van de universiteit van Bradford vermoedt dat de creatie van computers net zo’n belangrijke gebeurte­nis is als het ontstaan van de eerste DNA-moleculen enige miljarden jaren geleden. “Hebben we een proces in werking gezet, dat de volgende grote stap in de evolutie van het heelal markeert?” vraagt hij zich af.

De bouwers van hunebedden konden zich 3500 jaar geleden niet voorstellen dat er hijskranen zou­den komen. Misschien is dat wel even kortzichtig als de mensen die nu beweren dat intelligentie is voorbehouden aan ons zelf.

Turing test

Zou een intelligente computer ook echt denken?

Alan Turing, een briljant compu­terprofeet uit de jaren dertig, heeft een nu nog steeds gezaghebbende methode bedacht om uit te maken of een machine denkt of niet: zet iemand in een kamer met twee ter­minals, de één verbonden met een computer, en de andere met een mens. Slaagt de onderzoeker na een dag vragen stellen er niet in om te bepalen met welke van de twee hij communiceert, dan mag men stellen dat de computer ‘denkt’.  Tot op heden heeft nog geen enkel computerprogramma deze ‘Turingtest’ met succes doorstaan.

Het gaat wel die kant op. Raakte de secretaresse van Weizenbaum vijftien jaar geleden al in verle­genheid door het therapeutisch programma Eliza, tegenwoordig worden zelfs experts in verwarring gebracht. Toen internationaal schaakmeester David Levy een paar jaar geleden een partij speel­de tegen Chess 4.7, schaakte dit programma zo ‘menselijk’ dat Levy na afloop zijn tegenstander als het ware de hand wilde schudden.

Schaakmeesters in het belendend vertrek konden na afloop van de match ook niet zeggen of Chess 4.7 wit of zwart speelde. Volgens Levy was dit een duidelijke stap op weg naar de Test van Turing.

Dit doet zich niet alleen voor bij schaken: Nicholas Findler van de universiteit van New York be­schreef in 1978 in Scientific American dat hij een computer tot een spel blufpoker had aangezet waarvan zijn studenten niet kon­den bepalen wie het bod deed: de professor of zijn machine.

Het is nog steeds gemakkelijk om de kwaliteiten van computers ietwat geringschattend af te doen. Veel­vuldig wordt de anekdote verteld van een van IBM’s meest geavan­ceerde computers die de tekst ‘De geest is gewillig maar het vlees is zwak’ in het Russisch en weer te­rug vertaalde en uitkwam op: ‘De jenever is goed maar de biefstuk is bedorven’.

Maar Chess 4.7 schaakt op mees­terniveau, wat betekent dat 99,9 procent van de mensheid het tegen hem moet afleggen. En het gaat verder: er is nu al één denkspel waar de, computer een regerend wereldkampioen , vernietigend heeft verslagen.

Overwinning

In het wintersportpaleis van Mon­te Carlo zat vorig jaar juli de Ita­liaan Louis Villa, wereldkampioen backgammon, tegenover een robot die met knipperende oogjes naar het bord zat te turen.

Bij de openingsceremonie had de robot zich weliswaar niet zo han­dig gedragen en was in de gordij­nen verward geraakt waardoor de honderden toeschouwers vijf mi­nuten moesten wachten, maar ach­ter het bord ging het een stuk be­ter; zo goed zelfs dat hij Villa met 7 tegen 1 versloeg en de vijfduizend dollar premie toucheerde.

Of hij dit bedrag eerlijk deelde met zijn partner, is niet duidelijk. De robot speelde namelijk niet alleen: zijn hersens stonden in de univer­siteit van Carnegie-Mellon in de vorm van een PDP 10 computer met een BKG 9.8 programma dat de zetten per satelliet overseinde naar Monte Carlo.

Dit geesteskind van de computer­onderzoeker en schaakgrootmees­ter Hans Berliner oogstte veel bewondering, tot en met een analyse­rend artikel in Scientific Ameri­can van afgelopen juli. Het was de eerste maal dat een computer met een denkspel de beste ter wereld werd. Een duidelijke overwinning voor de softwaretechnologie.

De ontwikkeling van de software loopt achter bij die van computers zelf, maar wordt met kracht ter hand genomen. Het laatste nieuws is dat computers zelf worden ingeschakeld bij het ontwikkelen van programma’s voor computers – niet wij vertellen wat computers moe­ten denken, maar de computers on­derwijzen zichzelf en elkaar.

De eerder genoemde professor Sto­nier: “We moeten onze hersens ge­bruiken om informatiemachines te maken die informatiemachines kunnen maken.”

In toenemende mate werken com­putertechnologen samen met her­senkenners om te trachten de wer­king van nieuwe computers meer in overeenstemming te brengen met die van ons eigen brein. Op die manier hoopt men aan de compu­ters ook andere, ‘menselijker’ eigenschappen te verlenen dan de rechtlijnigheid die nu hun ken­merk vormen.

‘Bijna’-schakelingen

Tot op heden zijn computers vol­gens de zogenaamde Booleaanse algebra opgebouwd: een volstrekt logisch systeem, gebaseerd op drie schakelingen: ‘en’, ‘niet’, ‘of’. De com­puter is daardoor in staat om snel en foutloos rechtlijnig van A naar Z te redeneren. Maar zodra het ap­paraat met een probleem wordt ge­confronteerd waarvoor de infor­matie niet voor honderd procent volledig is, spuwt het vraagtekens.

De neuroloog E. W. Kent van de universiteit van Illinois is na be­studering van muizenhersens tot de conclusie gekomen dat daar na­tuurlijk de en-, niet- en of-schake­lingen ook voorkomen, maar dat er ook minder Booleaanse schakelpa­tronen schuilgaan onder het sche­deldak van de muis: de bijna-scha­kelingen.

Computers, uitgerust met deze bij­na-schakelingen – waarvoor de blauwdruk al is opgesteld – zullen kunnen gissen, teneinde de soms tijdrovende omwegen der logica af te snijden en bij onvolledige infor­matie toch te kunnen beslissen – zoals wij. Sommige computerma­niakken speculeren al over de waarom– en wellicht-schakelin­gen.

Het idee van een schaakcomputer niet bijna-schakelingen oogt op papier heel aangenaam. De huidige schaakcomputer verliest een partij wanneer een bepaalde variant van het Nimzo-indisch toevallig niet in zijn geheugen zit. De computer van ­morgen zal af en toe een gokje wa­gen – weliswaar nog steeds bere­deneerd zijn kansen afwegend, maar een gokje blijft het.

Het spelen tegen zo’n schaakcom­puter wordt dan ook een stuk aan­trekkelijker. Bij een computer die altijd wint, is de spanning gauw verdwenen. De bijna-schakeling biedt uitzicht op een machine met menselijke trekjes: als je hem bij wijze van spreken onder de tafel gemeen steekt met een schroevendraaier zou hij afgeleid kunnen ra­ken en de mat-zet over het hoofd zien.

Schildpad

Komt de computer met dit alles tot leven?

De scepticus zal begrippen als ‘voortplanting’ en ‘nadrukkelijke wil tot leven’ aanvoeren om het te­gendeel te bewijzen. Voortplanting is niet echt een serieus tegenargu­ment: op dit moment al worden chips – kleine ‘computers’ dus – geproduceerd door grote compu­ters.

Wat betreft de ‘wil tot overleven’ dient de schildpad van Grey Wal­ter tot lichtend voorbeeld. Grey Walter, een Engelse neurofysio­loog, heeft een metalen doos op wielen gebouwd die met enige fan­tasie een schildpad kan worden ge­noemd. Op de kop van dit mecha­nische dier zitten fotocellen waar­mee het licht van donker kan on­derscheiden. Het is zo geprogram­meerd dat het, als er licht op zijn ogen valt, achteruit beweegt naar het donker toe. Het is dus ‘bang’ voor licht. Ook is de schildpad door zijn programmeur geleerd om, wanneer zijn batterijtjes leeg be­ginnen te raken en hij dus honger krijgt, naar een oplaadapparaat in de hoek van de kamer te rijden voor nieuw voedsel. Walter leerde hem bovendien, als het oplaadap­paraat niet in een donkere hoek stond, elders in de kamer te zoeken – desnoods in het angstaanjagende licht.

Wat is dit nu: ‘wil het overleven’ of niet? Het is nadrukkelijk gepro­grammeerd, dat is waar. Maar wat is het verschil met een uitgehon­gerd mens, die er verbrande vin­gers voor over zou hebben om een lap vlees uit een laaiend vuur te grissen?

Holisten

Velen zullen zich verzetten tegen een dergelijke wijze van redene­ren. De eerste groep tegenstanders die zich aandient bestaat uit de ge­lovigen, of algemener: de holisten. Volgens het holisme is de mens meer dan de som van zijn molecu­len. Een kilo ‘mens’ is meer dan 1000 gram vlees. Het surplus heet god, ziel of geest en dat vormt de kiem voor de welles-nietes discus­sie over de vraag of machines net zoveel kunnen als wij. Bewijsbaar noch weerlegbaar.

Veel van wat men vroeger aan’ de geest toeschreef, blijkt nu op een gebrek aan inzicht te hebben be­rust. De geest lijkt zich al nauwe­lijks meer op moleculair niveau te handhaven, zoals onlangs in Rotterdam bleek, waar medische onderzoekers aantoonden dat veel patiënten met psychotische symptomen, van wie men vroeger dacht dat ze een ‘geestesziekte’ hadden, gewoon lichtelijk gestoord waren in hun stofwisseling. Op een dieet zonder pinda’s of haring zagen ze geen schimmen meer.

Sonnet

Andere tegenstanders van de technocultuur merken op dat de computer niet weet wat hij doet: het zal niet moeilijk zijn de computer een sonnet te laten schrijven dat nog rijmt ook. Maar de computer voelt het niet aan, het vloeit niet uit zijn elektronische dichtader, en hij is niet trots op zijn prestatie.

De eerder genoemde prof. Kent zegt over computers met een gevoel: “Het feit dat onze hersenen werken op basis van waterstof, koolstof en zuurstof en dat chips zijn gebouwd uit silicium en germanium maakt weinig uit. Door eenvoudige elektrische prikkelingen bij honden en muizen – en ik heb het ook bij mezelf geprobeerd – kan ik gevoelens opwekken van honger en dorst, maar ook van woede en angst en zelfs van geluk.” Met andere woorden: druk op de knop en de mens denkt en voelt.

De meest gehoorde tegenwerping in de discussie over computer-intelligentie is: “Alles dat uit een computer komt is er door mensen eerst ingestopt.” Mensen zouden in tegenstelling tot de computer onvoorspelbaar zijn en vaak niet logisch reageren.

Nu al reageren computers soms zó ingewikkeld dat programmeurs niet zelden verbaasd staan over bepaalde uitspraken of beslissingen van hun elektronisch kroost – ‘onnavolgbaar brrljant’ of ‘onlogisch’. Ze schrijven hierover zelfs artikelen in vaktijdschriften en maken zo wetenschap van dit 21e-eeuwse koffiedikkijken.

Een belangrijker argument op dit punt is evenwel dat het bij nader inzien met de menselijke vrijheid om onvoorspelbaar te kunnen zijn ook tegenvalt. Elke psycholoog zal kunnen vertellen dat gedrag voor een belangrijk deel het resultaat is van programmering: door de ouders, de school, de maatschappij.

Behaviourisme

Deze stroming in de gedragswetenschappen, het behaviourisme, is tegenwoordig niet meer zo in trek onder psychologen, omdat werd ontdekt dat naast deze sociale programmering een belangrijk deel van (menselijk) gedrag te herleiden is tot een DNA-gestuurde erfelijke programmering.

De combinatie van al deze programma’s is zo complex en nog zo onbekend dat de mens meent vrij in zijn handelen en denken te zijn.

Eigenlijk kunnen alle tegenwerpingen op één hoop worden geveegd: ‘Een computer heeft geen fantasie’, of ‘computers voelen geen emoties, ze zijn niet creatief’– het draait bij nader inzien allemaal om het eerstgenoemde en meest essentiële argument: het geloof dat de mens iets extra’s heeft meegekregen.

De uiteindelijke vergelijking tussen mens en machine komt hier op neer: zijn wij méér dan een perfect geprogrammeerd systeem van miljarden als chips fungerende DNA-moleculen en zenuwcellen?

De conclusie waartoe dit onherroepelijk leidt: of je gelooft in God of je gelooft in de computer.