NRC Handelsblad 20-9-1980 – Over het innerlijk leven van de computer doen steeds vreemdere verhalen de ronde. Zij verslaan ons met schaken, geven elkaar les en planten zich voort. Maar hoe menselijk is het kunstmatige brein? En hoe onmenselijk?
Een rondgang door de stille wereld van input en output, waar de Turingtest het menselijkheidsgehalte bepaalt, en de ‘waarom-schakelaar’ vol spanning wordt afgewacht. Computo ergo sum?
Door Cas de Stoppelaar en Simon Rozendaal
***
Een gedeelte uit een gesprek tussen een computer en een in de liefde teleurgesteld meisje:
Meisje (huilerig): “Alle mannen zijn hetzelfde.”
Computer (warm): “Hoezo?”
M: “Ze zeuren altijd zo.”
C: “Noem eens een voorbeeld?”
M: “Mijn vriend.” (Snikt)
C: “Je vriend?”
Ze babbelen even over de knaap en komen dan te spreken over haar ouders.
Meisje: “U lijkt op mijn vader!”
Computer: “Wat, is de overeenkomst?”
M: “U bent niet agressief. Maar u wilt niet weten dat ik dat merk.”
C. (belangstellend): “Waarom denk je niet dat ik niet agressief ben?”
M: “U maakt geen ruzie met me.”
C: “Waarom denk je dat ik geen ruzie met je maak?”
M: “Omdat u bang voor mij bent!”
Eliza
Het computerprogramma Eliza, dat deze dialoog voortbracht, was door de Amerikaanse wiskundige Josef Weizenbaum in 1965 geschreven om – in de rol van psychotherapeut – de patiënt al vragen stellend uit zijn tent te lokken. Hee verraste de Amerikanen. Dit keer geen domme, bitse machine die aanmaningen blijft sturen om bekeuringen te betalen, maar een bijna menselijke, elektronisch vriend. Het was in een tijd dat de angst voor nieuwe technieken nog niet zo wijdverbreid was als nu en de digitale therapeut won dan ook snel aan sympathie.
De door Eliza met broodroof bedreigde psychotherapeuten zelf raakten nota bene in vervoering door deze machine. Eén van hen schreef: “Door de tijdbesparende eigenschappen van de computer zouden honderden patiënten per uur geholpen kunnen worden.” Ook de secretaresse van Weizenbaum raakte onder de bekoring van het begrip dat de computer voor haar toonde. Weizenbaum schrijft: “Op een gegeven moment begon mijn secretaresse, die me gedurende een aantal maanden al aan het programma had zien werken en dus beslist wist dat het slechts om een computerprogramma ging, met Eliza te converseren. Al na een kort gesprek vroeg ze me om de kamer te verlaten.” De machine werd te intiem.
Wassen lichaam
Sedert de jaren zestig heeft de computertechniek grote vorderingen gemaakt. Ook de vervaardiging van hulpstukken die de functies van ledematen en organen (het hart, de hand) kunnen overnemen, is technisch sterk verbeterd.
Zo wordt het denkbaar dat een hoogontwikkelde computer, geprogrammeerd met een geavanceerd Eliza-programma, gehuisvest in een perfect functionerend wassen lichaam, op de stoel van de psychotherapeut komt te zitten. Hij praat, diagnosticeert en weet samen met de patiënt de problemen op een rij te krijgen. Wat is dan nog het verschil in kwaliteit tussen de levende dokter en Eliza?
Het lijkt een onzinnig probleem (en dat is het misschien ook), maar in deze tijd van oprukkende machinale intelligentie is het de moeite waard om de vraag te stellen: wat maakt de mens tot een weldenkend wezen, en wanneer is de computer ook zo ver?
In de VS zijn tegenwoordig laboratoria waar men bezig is met ‘kunstmatige intelligentie’. In deze omgeving twijfelt men er volstrekt niet meer aan dat je computers ‘slim’ kunt noemen. Hoe lang duurt het nog voordat we op de automatische printer Descartes’ uitspraak “Cogito, ergo sum (Ik denk, dus besta ik) zien verschijnen?
De psycholoog Stern heeft deze definitie voor intelligentie bedacht: “Intelligentie is het vermogen zich doelmatig aan te passen aan een veranderende wereld.” Intelligentie is méér dan een kwestie van begrijpen: het heeft te maken met verandering, aanpassing en overleving – met evolutie dus.
Zevenmijlslaarzen
De vorig jaar overleden Engelse psycholoog en computerdeskundige Christopher Evans vergelijkt in zijn boek ‘The Mighty Micro’ de intelligentie van de mens met die van een machine. Hij heeft daartoe dit begrip in een aantal categorieën onderverdeeld en in computerjargon benoemd.
Hij komt tot de volgende conclusies: het vermogen om informatie te verwerken is bij de computer veel groter dan bij de mens – wij denken zo traag als een slak. Het vermogen om informatie op te nemen is nu nog hoger bij de mens, maar de computer achtervolgt ons met zevenmijlslaarzen: een computeroog kan ook infrarood en ultraviolet waarnemen en een computeroor kan vleermuizen horen – de ontwikkeling van nieuwe zintuigen (sensoren) gaat razendsnel. De capaciteit om informatie op te slaan in de menselijke hersenen en in het DNA-molecuul gaat op dit moment die van een computergeheugen nog te boven, maar ook dat kan niet lang meer duren, aangezien de grenzen van het miniaturiseringsproces van chips nog op geen stukken na in zicht zijn.
Een belangrijke categorie in de intelligentie-indeling van Evans betreft de zogenaamde software: dat wat je een computer door programmering opdraagt te doen. Kan hij efficiënt met zijn programma’s omspringen? Hoe breed is het scala daarvan en is hij flexibel in het overschakelen tussen, programma’s? Kortom: welke kunstjes kan hij vertonen en kan hij dat ook snel en handig doen, tegelijkertijd wellicht?
Hunebedden
Wij zijn oneindig veel beter geprogrammeerd dan een computer. We kunnen op hetzelfde moment breien, schaken, flirten en over het weer praten, om een fractie van een seconde later voor een brand op de vlucht te slaan. Op veel afzonderlijke terreinen is de computer ons de baas, maar het gaat om het geheel – het menselijk totaal der delen. Een spin kan beter breien, maar tegenover wereldschaakkampioen Karpov zou hij een slecht figuur slaan.
De conclusies van Evans komen er samengevat op neer dat de computer heel laag moet worden geplaatst op de door hem ontwikkelde IQ-schaal, waar de mens nu nog aan de top staat Volgens hem is de huidige computer ongeveer even snugger als een oorwurm. Maar wat niet is, kan komen: homo sapiens heeft uiteindelijk ook een evolutie van vele miljoenen jaren achter de rug voor hij van amoebe tot mens werd.
De computer bestaat pas enige tientallen jaren. Computerdeskundigen maken zich dan ook niet druk over de vraag of de computer even intelligent als wij zal worden, maar wanneer dat het geval zal zijn. Sterker, zij zien wat dat betreft geen einde: men filosofeert nu al over de generatie van UIM’s – ultra-intelligente machines, die de mens qua IQ ver achter zich zullen laten.
De Britse hoogleraar wetenschap en samenleving T. Stonier van de universiteit van Bradford vermoedt dat de creatie van computers net zo’n belangrijke gebeurtenis is als het ontstaan van de eerste DNA-moleculen enige miljarden jaren geleden. “Hebben we een proces in werking gezet, dat de volgende grote stap in de evolutie van het heelal markeert?” vraagt hij zich af.
De bouwers van hunebedden konden zich 3500 jaar geleden niet voorstellen dat er hijskranen zouden komen. Misschien is dat wel even kortzichtig als de mensen die nu beweren dat intelligentie is voorbehouden aan ons zelf.
Turing test
Zou een intelligente computer ook echt denken?
Alan Turing, een briljant computerprofeet uit de jaren dertig, heeft een nu nog steeds gezaghebbende methode bedacht om uit te maken of een machine denkt of niet: zet iemand in een kamer met twee terminals, de één verbonden met een computer, en de andere met een mens. Slaagt de onderzoeker na een dag vragen stellen er niet in om te bepalen met welke van de twee hij communiceert, dan mag men stellen dat de computer ‘denkt’. Tot op heden heeft nog geen enkel computerprogramma deze ‘Turingtest’ met succes doorstaan.
Het gaat wel die kant op. Raakte de secretaresse van Weizenbaum vijftien jaar geleden al in verlegenheid door het therapeutisch programma Eliza, tegenwoordig worden zelfs experts in verwarring gebracht. Toen internationaal schaakmeester David Levy een paar jaar geleden een partij speelde tegen Chess 4.7, schaakte dit programma zo ‘menselijk’ dat Levy na afloop zijn tegenstander als het ware de hand wilde schudden.
Schaakmeesters in het belendend vertrek konden na afloop van de match ook niet zeggen of Chess 4.7 wit of zwart speelde. Volgens Levy was dit een duidelijke stap op weg naar de Test van Turing.
Dit doet zich niet alleen voor bij schaken: Nicholas Findler van de universiteit van New York beschreef in 1978 in Scientific American dat hij een computer tot een spel blufpoker had aangezet waarvan zijn studenten niet konden bepalen wie het bod deed: de professor of zijn machine.
Het is nog steeds gemakkelijk om de kwaliteiten van computers ietwat geringschattend af te doen. Veelvuldig wordt de anekdote verteld van een van IBM’s meest geavanceerde computers die de tekst ‘De geest is gewillig maar het vlees is zwak’ in het Russisch en weer terug vertaalde en uitkwam op: ‘De jenever is goed maar de biefstuk is bedorven’.
Maar Chess 4.7 schaakt op meesterniveau, wat betekent dat 99,9 procent van de mensheid het tegen hem moet afleggen. En het gaat verder: er is nu al één denkspel waar de, computer een regerend wereldkampioen , vernietigend heeft verslagen.
Overwinning
In het wintersportpaleis van Monte Carlo zat vorig jaar juli de Italiaan Louis Villa, wereldkampioen backgammon, tegenover een robot die met knipperende oogjes naar het bord zat te turen.
Bij de openingsceremonie had de robot zich weliswaar niet zo handig gedragen en was in de gordijnen verward geraakt waardoor de honderden toeschouwers vijf minuten moesten wachten, maar achter het bord ging het een stuk beter; zo goed zelfs dat hij Villa met 7 tegen 1 versloeg en de vijfduizend dollar premie toucheerde.
Of hij dit bedrag eerlijk deelde met zijn partner, is niet duidelijk. De robot speelde namelijk niet alleen: zijn hersens stonden in de universiteit van Carnegie-Mellon in de vorm van een PDP 10 computer met een BKG 9.8 programma dat de zetten per satelliet overseinde naar Monte Carlo.
Dit geesteskind van de computeronderzoeker en schaakgrootmeester Hans Berliner oogstte veel bewondering, tot en met een analyserend artikel in Scientific American van afgelopen juli. Het was de eerste maal dat een computer met een denkspel de beste ter wereld werd. Een duidelijke overwinning voor de softwaretechnologie.
De ontwikkeling van de software loopt achter bij die van computers zelf, maar wordt met kracht ter hand genomen. Het laatste nieuws is dat computers zelf worden ingeschakeld bij het ontwikkelen van programma’s voor computers – niet wij vertellen wat computers moeten denken, maar de computers onderwijzen zichzelf en elkaar.
De eerder genoemde professor Stonier: “We moeten onze hersens gebruiken om informatiemachines te maken die informatiemachines kunnen maken.”
In toenemende mate werken computertechnologen samen met hersenkenners om te trachten de werking van nieuwe computers meer in overeenstemming te brengen met die van ons eigen brein. Op die manier hoopt men aan de computers ook andere, ‘menselijker’ eigenschappen te verlenen dan de rechtlijnigheid die nu hun kenmerk vormen.
‘Bijna’-schakelingen
Tot op heden zijn computers volgens de zogenaamde Booleaanse algebra opgebouwd: een volstrekt logisch systeem, gebaseerd op drie schakelingen: ‘en’, ‘niet’, ‘of’. De computer is daardoor in staat om snel en foutloos rechtlijnig van A naar Z te redeneren. Maar zodra het apparaat met een probleem wordt geconfronteerd waarvoor de informatie niet voor honderd procent volledig is, spuwt het vraagtekens.
De neuroloog E. W. Kent van de universiteit van Illinois is na bestudering van muizenhersens tot de conclusie gekomen dat daar natuurlijk de en-, niet- en of-schakelingen ook voorkomen, maar dat er ook minder Booleaanse schakelpatronen schuilgaan onder het schedeldak van de muis: de bijna-schakelingen.
Computers, uitgerust met deze bijna-schakelingen – waarvoor de blauwdruk al is opgesteld – zullen kunnen gissen, teneinde de soms tijdrovende omwegen der logica af te snijden en bij onvolledige informatie toch te kunnen beslissen – zoals wij. Sommige computermaniakken speculeren al over de waarom– en wellicht-schakelingen.
Het idee van een schaakcomputer niet bijna-schakelingen oogt op papier heel aangenaam. De huidige schaakcomputer verliest een partij wanneer een bepaalde variant van het Nimzo-indisch toevallig niet in zijn geheugen zit. De computer van morgen zal af en toe een gokje wagen – weliswaar nog steeds beredeneerd zijn kansen afwegend, maar een gokje blijft het.
Het spelen tegen zo’n schaakcomputer wordt dan ook een stuk aantrekkelijker. Bij een computer die altijd wint, is de spanning gauw verdwenen. De bijna-schakeling biedt uitzicht op een machine met menselijke trekjes: als je hem bij wijze van spreken onder de tafel gemeen steekt met een schroevendraaier zou hij afgeleid kunnen raken en de mat-zet over het hoofd zien.
Schildpad
Komt de computer met dit alles tot leven?
De scepticus zal begrippen als ‘voortplanting’ en ‘nadrukkelijke wil tot leven’ aanvoeren om het tegendeel te bewijzen. Voortplanting is niet echt een serieus tegenargument: op dit moment al worden chips – kleine ‘computers’ dus – geproduceerd door grote computers.
Wat betreft de ‘wil tot overleven’ dient de schildpad van Grey Walter tot lichtend voorbeeld. Grey Walter, een Engelse neurofysioloog, heeft een metalen doos op wielen gebouwd die met enige fantasie een schildpad kan worden genoemd. Op de kop van dit mechanische dier zitten fotocellen waarmee het licht van donker kan onderscheiden. Het is zo geprogrammeerd dat het, als er licht op zijn ogen valt, achteruit beweegt naar het donker toe. Het is dus ‘bang’ voor licht. Ook is de schildpad door zijn programmeur geleerd om, wanneer zijn batterijtjes leeg beginnen te raken en hij dus honger krijgt, naar een oplaadapparaat in de hoek van de kamer te rijden voor nieuw voedsel. Walter leerde hem bovendien, als het oplaadapparaat niet in een donkere hoek stond, elders in de kamer te zoeken – desnoods in het angstaanjagende licht.
Wat is dit nu: ‘wil het overleven’ of niet? Het is nadrukkelijk geprogrammeerd, dat is waar. Maar wat is het verschil met een uitgehongerd mens, die er verbrande vingers voor over zou hebben om een lap vlees uit een laaiend vuur te grissen?
Holisten
Velen zullen zich verzetten tegen een dergelijke wijze van redeneren. De eerste groep tegenstanders die zich aandient bestaat uit de gelovigen, of algemener: de holisten. Volgens het holisme is de mens meer dan de som van zijn moleculen. Een kilo ‘mens’ is meer dan 1000 gram vlees. Het surplus heet god, ziel of geest en dat vormt de kiem voor de welles-nietes discussie over de vraag of machines net zoveel kunnen als wij. Bewijsbaar noch weerlegbaar.
Veel van wat men vroeger aan’ de geest toeschreef, blijkt nu op een gebrek aan inzicht te hebben berust. De geest lijkt zich al nauwelijks meer op moleculair niveau te handhaven, zoals onlangs in Rotterdam bleek, waar medische onderzoekers aantoonden dat veel patiënten met psychotische symptomen, van wie men vroeger dacht dat ze een ‘geestesziekte’ hadden, gewoon lichtelijk gestoord waren in hun stofwisseling. Op een dieet zonder pinda’s of haring zagen ze geen schimmen meer.
Sonnet
Andere tegenstanders van de technocultuur merken op dat de computer niet weet wat hij doet: het zal niet moeilijk zijn de computer een sonnet te laten schrijven dat nog rijmt ook. Maar de computer voelt het niet aan, het vloeit niet uit zijn elektronische dichtader, en hij is niet trots op zijn prestatie.
De eerder genoemde prof. Kent zegt over computers met een gevoel: “Het feit dat onze hersenen werken op basis van waterstof, koolstof en zuurstof en dat chips zijn gebouwd uit silicium en germanium maakt weinig uit. Door eenvoudige elektrische prikkelingen bij honden en muizen – en ik heb het ook bij mezelf geprobeerd – kan ik gevoelens opwekken van honger en dorst, maar ook van woede en angst en zelfs van geluk.” Met andere woorden: druk op de knop en de mens denkt en voelt.
De meest gehoorde tegenwerping in de discussie over computer-intelligentie is: “Alles dat uit een computer komt is er door mensen eerst ingestopt.” Mensen zouden in tegenstelling tot de computer onvoorspelbaar zijn en vaak niet logisch reageren.
Nu al reageren computers soms zó ingewikkeld dat programmeurs niet zelden verbaasd staan over bepaalde uitspraken of beslissingen van hun elektronisch kroost – ‘onnavolgbaar brrljant’ of ‘onlogisch’. Ze schrijven hierover zelfs artikelen in vaktijdschriften en maken zo wetenschap van dit 21e-eeuwse koffiedikkijken.
Een belangrijker argument op dit punt is evenwel dat het bij nader inzien met de menselijke vrijheid om onvoorspelbaar te kunnen zijn ook tegenvalt. Elke psycholoog zal kunnen vertellen dat gedrag voor een belangrijk deel het resultaat is van programmering: door de ouders, de school, de maatschappij.
Behaviourisme
Deze stroming in de gedragswetenschappen, het behaviourisme, is tegenwoordig niet meer zo in trek onder psychologen, omdat werd ontdekt dat naast deze sociale programmering een belangrijk deel van (menselijk) gedrag te herleiden is tot een DNA-gestuurde erfelijke programmering.
De combinatie van al deze programma’s is zo complex en nog zo onbekend dat de mens meent vrij in zijn handelen en denken te zijn.
Eigenlijk kunnen alle tegenwerpingen op één hoop worden geveegd: ‘Een computer heeft geen fantasie’, of ‘computers voelen geen emoties, ze zijn niet creatief’– het draait bij nader inzien allemaal om het eerstgenoemde en meest essentiële argument: het geloof dat de mens iets extra’s heeft meegekregen.
De uiteindelijke vergelijking tussen mens en machine komt hier op neer: zijn wij méér dan een perfect geprogrammeerd systeem van miljarden als chips fungerende DNA-moleculen en zenuwcellen?
De conclusie waartoe dit onherroepelijk leidt: of je gelooft in God of je gelooft in de computer.