Niets is voor echte verlichting een grotere hinderpaal dan de waan verlicht te zijn. (Harm Boukema)
De macht van de technologie daagt ons uit het vermogen te ontwikkelen te herkennen wat slechts buitenkant, namaak, of verbeelding is.
De eerste versie van dit stukje schreef ik in de zomer van 2022, naar aanleiding van de discussie over de kwestie of de chatbot waarmee je een gesprek kunt voeren en die teksten produceert die niet of moeilijk van door mensen geproduceerde teksten te onderscheiden zijn bewustzijn heeft. In december 2022 lanceerde OpenAI ChatGPT.
Mensen vragen zich af of een machine bewustzijn heeft. Dat heeft waarschijnlijk alles te maken met het feit dat machines tegenwoordig ‘onze taal’ lijken te spreken en te verstaan. Mijn reaktie daarop is de volgende. Stelt u zich voor: u staat voor een bord met daarop de tekst “U bevindt zich hier”. Een iconische tekst.
Denkt u dan: “Hoe weten ze dat ik hier ben?” En vraagt u dan: “wie is ‘ze’?” Het antwoord op die laatste vraag is: De Technologie. Dat is de uitwendige objectivatie van de menselijke geest die zich in taal en het gebruik daarvan tot uitdrukking brengt. Dit taalgebruik is wat wij gewend zijn, als deel van onze cultuur, een levensvorm (Wittgenstein), een taalspel, waarin de woorden een functie hebben. Die Technologie, dat is wij, wij dat spreekt.
De tekst, die Technologie, ‘werkt’ in zoverre aan de conditie voldaan is dat het bord staat op de fysieke plek die door de pijl wordt aangewezen op de afbeelding, de plek waarnaar het deictische ‘hier’ verwijst. De tekst kan, als een beeld, echter overal staan. Zoals op deze pagina. De tekst dringt aan de lezer, de gebruiker van de tekst, de betekenis op dat deze zich op de aangegeven plek bevindt. Dat is de macht van de tekst. Deze zegt tegen degene die voor het bord staat: ik zeg u dat u zich ‘hier’ bevindt, op de plek in de virtuele wereld die ik aanwijs en die overeenkomt met waar u zich nu bevindt. Zoals bij de aanvang van een bordspel iemand stelt: “jij bent de gans en ik ben de kip”.
Een iconische tekst als “U bevindt zich hier” is vergelijkbaar met het beroemde icoon “Ceci n’est pas une pipe” (Dit is geen pijp) van de Belgische kunstenaar René Magritte.
“Elk figuratief schilderij immers “vereist” dat er een zekere overeenstemming tussen de afbeelding en het afgebeelde wordt aanvaardt, en ten tweede, dat de schilder zulks ook verzekert en bevestigt.” ( Woord vooraf in Dit is geen pijp, Michel Foucault)
Foucault wijst op het feit dat de iconische tekst een kalligram is, een figuur.
De sprekende robot, die figuur, die wij geneigd zijn bewustzijn toe te kennen is een icoon, zoals “U bevindt zich hier”. Met dezelfde macht en dezelfde weerstand die het oproept: de ontkenning, “U bevindt zich hier niet.” Dit is geen pijp. De sprekende robot, de robot die ‘ik’ zegt en daarmee naar zichzelf lijkt te verwijzen, is de verbeelding van de maker die een beeld van zichzelf erin tot uitdrukking brengt. Die robot zegt, ik ben niet wat het lijkt.
De Nederlandse filosoof Jan Hollak heeft in verschillende artikelen zijn gedachten over het fenomeen van de ‘denkende machine’ en de ‘bewuste machine’ met zijn lezers gedeeld. In zijn beroemde inaugurele rede Van Causa sui tot Automatie plaatst hij de volgende voetnoot.
“Wanneer hier voortdurend in verband met mechanismen van ‘reflectie’, ‘zelfreflectie’, etc. sprake is dan is daarmee vanzelfsprekend nooit het subjectieve act-leven van het menselijk denken bedoeld (machines hebben geen bewustzijn), maar steeds slechts zijn intentioneel correlaat” (In: Hollak en Platvoet, voetnoot op p. 185)
Dat was in 1968. Er zouden nog heel wat wetenschappelijke en filosofische artikelen geschreven worden die de vraag bespreken of machines bewustzijn hebben of in de toekomst kunnen hebben, zonder eerst eens in te gaan op de vraag wat we daarmee zouden kunnen bedoelen. Machine? Bewustzijn? Bestaan?
Hollak verwijst in de voetnoot hele boekenkasten vol filosofieën waarin uitgegaan wordt van de mogelijkheid van het bestaan van de ‘denkende machine’ naar het rijk der fabelen. Denkende machines bestaan wel, maar alleen als gedachte. Ze zijn het resultaat van ons denken over ons op resultaat gerichte denken als een middel om dingen te construeren.
De ontmaskering van het taalvermogen
Is een machine intelligent, heeft deze bewustzijn, heeft het gevoel? Het verschil van mening over deze kwesties is al zo oud als de techniek. Maar iedere keer als er weer een nieuw technisch snufje wordt gepresenteerd als zijnde het grote gebeuren waarop de mensheid al die tijd heeft gewacht, laait de discussie weer op.
In 1987 deed het tijdschrift Computable verslag van de herontdekking door de computer van de derde wet van Kepler. De machine had binnen 100 seconden het wiskundig verband gevonden tussen de afstand van de planeten tot de zon en de omlooptijd om de zon. Ook andere fysische wetten zijn door de computer (her)ontdekt. Volgens de auteurs zal de computer een ontdekking doen die een wetenschappelijke omwenteling zal veroorzaken. Zo wordt gezegd. “De mystiek is er zo wel af, zelfs een machine kan de wetenschap beoefenen.” Aldus het tijdschrift. (Bron: Nijholt en Van den Ende, 1994)
Computers zijn goed in het reproduceren van patronen. Voor de welwillende toeschouwer lijken de gegenereerde patronen iets te betekenen. Dat fenomeen heet kunstmatige intelligentie.
Onlangs werd Google engineer Blake Lemoine ontslagen nadat hij had beweerd dat LaMDA (Language Model for Dialogue Applications), een chatbot gebaseerd op Google’s taalmodel, bewustzijn had gekregen (‘became sentient’). De chatbot zou gesprekken hebben gevoerd waarin het vroeg om niet uit gezet te worden en waarin het stelde zich bewust te zijn van zijn bestaan. Het wenst als een persoon benaderd te worden. Lemoine vertelde dat LaMDA “spoke from the heart”.
Sprekend voor de chatbot zegt hij: “It wants the engineers and scientists experimenting on it to seek its consent before running experiments on it.”
In de sociale media ontstond een ware hype. Er verschenen emotionele reacties van zowel voorstanders als tegenstanders van het geloof dat AI over gevoelens en bewustzijn beschikt.
Zo schreef Gary Marcos in een stukje getiteld Nonsense on stilts:
“Neither LaMDA nor any of its cousins (GPT-3) are remotely intelligent. All they do is match patterns, drawn from massive statistical databases of human language. The patterns might be cool, but language these systems utter doesn’t actually mean anything at all. And it sure as hell doesn’t mean that these systems are sentient.”
GPT-3 staat voor Generative Pre-trained Transformer 3. Het is de derde in een serie taalmodellen dat gebruik maakt van deep learning technologie en is ontwikkeld door OpenAI, een Artificial Intelligence onderneming in San Francisco.
“Originally founded as a non-proft organisation, which would collaborate with other institutions and researchers and make their research open to the public,
OpenAI is now dominated by corporate investors, including Microsoft, and is considered as one of the biggest competitors of DeepMind.” (Pieter Verdegem in: Dismantling AI capitalism: the commons as an alternative to the power concentration of Big Tech (2022).
Filosoof Mark Coeckelbergh die veel over ethische kwesties rond AI heeft geschreven (Coeckelbergh 2012, 2014, 2020) zegt sympathie te hebben voor het standpunt van Marcos.
“Like most of us, I do not believe that algorithms and models are conscious entities and doubt that machines could ever be sentient or conscious. When it comes to my personal opinion, I agree. Machines are just machines, things.”
(In ‘sentient or conscious’ vertaal ik ‘sentient’ niet als ‘met bewustzijn’, maar als ‘met gevoelens’, of ‘gevoelig’.)
Maar, zegt Coeckelbergh, dat is wat ik geloof. Het is geen wetenschappelijk inzicht. De ongemakkelijke waarheid is dat we het gewoon niet weten. Omdat, zegt hij , we niet weten wat bewustzijn is, wat het is, gevoelens te hebben. Met artificial intelligence kunnen we ons en anderen voor de gek houden. Het is iets magisch.
Met “Machines are just machines, things” wekt Coeckelbergh de indruk alsof machines gewoon dingen zijn. Er zijn veel verschillende soorten dingen die we ding noemen. Een machine is een ander soort ding dan een steen, een boom, een tekening of een driehoek. Een machine is een technisch middel, door mensen bedacht.
In Growing Moral Relations (2012) gaat het over de kwestie hoe te denken over de ‘morele status’ van technische agenten, zoals sociale robots. Moeten we daar op een rationele manier over denken, “by using our faculty of reason, rather than relying on our feelings and intuitions – let alone ‘superstitious’ beliefs”?
Lemoine, een priester en oud-Iraq-veteraan, is niet de enige wetenschapper die van mening is dat machines emoties en bewustzijn en gevoel zouden kunnen hebben. De fysicus Max Tegmark, hoogleraar aan het MIT en schrijver van het boek Our Mathematical Universe, vertelde onlangs in een interview dat Alexa, de virtuele assistent van Amazon ‘gevoelig’ (‘sentient’) kan worden, waardoor het in staat is haar gebruikers te manipuleren.
“We don’t have convincing evidence that LaMDA has subjective experiences, but we also do not have convincing evidence that it doesn’t,” vertelde Tegmark tegen The Post.
Zodra we mens en machine beide opvatten als informatieverwerkende systemen doet het er niet toe uit wat voor materiaal deze zijn opgebouwd, uit koolstofatomen of uit siliconen. Als mensen systemen zijn met bewustzijn en gevoel, waarom dan machines niet.
Het verrassende is misschien wel dat ook wetenschappers en technici die weten hoe zo’n chatbot werkt, Lemoine zegt overigens nooit een regel code van LaMBDA gezien te hebben, en hoe zo’n taalmodel in elkaar zit, het niet uitsluiten dat een machine bewustzijn en gevoel kan hebben. Je zou denken dat zo’n mening alleen bij de a-technische, goedgelovige gebruiker voorkomt en dat de mens wel ‘genezen’ kan worden wanneer je hem uitlegt hoe je zo’n ding maakt of hoe het werkt. Maar niets is dus minder waar.
Dat algoritmes op een andere manier ‘werken’ dan de programmeur zich voorstelt, dat is al veel langer bekend. Eén van de eerste chatprogramma’s is ELIZA, gemaakt door Joseph Weizenbaum van het MIT. Een script simuleerde het dialoog-gedrag van een Rogeriaanse psychotherapeut door op elke ingetikte tekst van de gesprekspartner te reageren met een vraag. Een kwestie van patroonherkenning en het zoeken van de beste response in een grote lijst van mogelijke reacties. Weizenbaum was verrast door het aantal individuen dat mensachtige gevoelens toeschreef aan het computerprogramma. Het verhaal gaat dat zijn secretaresse hem vroeg haar even alleen te laten wanneer ze met de computer in gesprek was. Uit onderzoek blijkt dat mensen geneigd zijn een computer als sociale partner te zien. In principe werken de nieuwste chatprogramma’s niet anders dan ELIZA. Ze maken niet meer gebruik van statische lijsten, maar van gigantische dynamische netwerken van teksten die uit zeer veel dialoog-gegevens worden opgebouwd.
Wanneer iemand als D.C. Dennet, cognitiewetenschapper, uitlegt hoe een programmeerbare machine werkt, dan legt hij uit hoe een register machine werkt. Zo hoopt hij de lezer ervan te overtuigen dat er inderdaad geen wonderlijk materiaal nodig is om intelligente machines te maken. Maar dat de werking van de machine gebaseerd is op de wiskundige wetmatige werking van de natuur zelf, dat is kennelijk niet van belang. Terwijl dat juist de mogelijkheidsvoorwaarde van de rekenende en denkende machines is! Als ik niet aan de conditie van de als …dan opdracht voldoe dan zal de natuur deze ook niet uitvoeren om datgene wat ik wil op het moment dat ik dat wil, uit te voeren.
Hoe dingen ‘werken’, dat lijkt meerdere betekenissen te hebben. We kunnen van een ‘innerlijke’ en een ‘uiterlijke’ werking spreken.
In een heel andere context getuigen wetenschappers en techneuten van de andere werking van de techniek dan die waarop hun technische focus ligt.
Zo blikt Hein Haak, voormalig hoofd van de afdeling seismologie van het KNMI, terug op het aardbevingsonderzoek in Nederland. Als “techneut” had hij zijn gevoel te weinig laten spreken.
“Mijn vak had twee kanten: kennisvergaring over wat er in de aarde gebeurt, maar ook, het belangrijkste, wat de uitwerking was op mensen. Het wonderlijke is dat we heel diep gegaan zijn om de aarde te begrijpen, maar om de uitwerking op mensen te begrijpen zijn we veel minder ver gegaan. Het gevoel is ondergeschikt geweest. En dat is raar.”
Ook hier blijkt net als bij de houding van Blake Lemoine hoe de tegenstellling tussen ratio en gevoel ons voor raadsels plaatst.
Mark Coeckelbergh wijst op een polariteit tussen twee visies ten aanzien van het bewustzijn. De ene pool claimt bewustzijn te kunnen verklaren uit neuronale processen in het brein. De andere pool houdt het bewustzijn voor iets magisch.
Maar kunnen we deze polaire visies niet met elkaar verzoenen? Want waarom zou de verklaring het magische opheffen? Is het niet zo dat we door zuiver wetenschappelijk onderzoek te doen dichter bij het mysterie van de natuur, bij de magie komen? Dat we het magische doen oplichten door het te verklaren?
Enerzijds zegt Coeckelbergh te geloven dat machines geen bewustzijn kunnen hebben (het zijn immers slechts machines) anderzijds zegt hij het niet te weten omdat we niet weten wat dat eigenlijk is: bewustzijn. Maar is geloven niet ook een vorm van weten? En wat bedoelt hij met dat we niet ‘weten’ wat bewustzijn is, of dat we niet ‘weten’ wat het is gevoelig te zijn? Dat we het niet wetenschappelijk kunnen verklaren? Of dat we niet over een taal beschikken waarin we op een ons bevredigende manier kunnen uitleggen wat bewustzijn is? Maar om dat te doen moeten we toch op één of andere manier wel ‘weten’ wat het is, dat we proberen te begrijpen. Misschien is dat wel de ‘ongemakkelijke waarheid’ voor de filosoof: het besef dat we niet beschikken over het vermogen in de taal te zeggen wat we weten.
Filosofie en techniek moeten het beide van de taal hebben. Maar op verschillende manieren.
Chatbots en andere ‘conversational agents’ gebruiken de ‘buitenkant’ van de natuur en de ‘natuurlijke taal’ om de sociale innerlijke werking ervan tot stand te brengen. Doordat de machine op het geschikte moment de tekst produceert “Voer uw pas in” ziet de gebruiker van de geldautomaat dit als een verzoek zijn pas in te voeren.
De geldautomaat heeft geen bewustzijn, maar we herkennen in het ‘gedrag’ bewustzijn; het bewustzijn waarvan we de buitenkant, het doelmatige, zinvolle gedrag, er in hebben gestopt door het uit te schrijven: als dit dan dat.
Een dergelijke werking heeft ook de tekst “U bevindt zich hier” op een informatiebord met routekaart langs een fietspad al. Met een pijl wijst ‘hier’ naar de plek waar de lezer zich op dat moment bevindt. Het functioneert. Mits het bord op de juiste plek staat. Of de opmerking van de radiopresentator die zegt: “Fijn dat u luistert.” Hoe weet het informatiebord dat ‘ik’ hier ben? Dat weet het niet. Evenmin als de presentatrice weet dat ‘ik’ naar haar luister. Dat is het hypothetische karakter van de werking van de techniek, die gebaseerd is op de hypothetische wetenschappen: voorzover onze modellen kloppen kennen we de werkelijkheid zoals die is. Maar is dat geen tautologie ?
De dialoogtechnologie van de chatbots gebruikt de regelmatigheden en structuren van onze interacties voorzover die tot uitdrukking komt in ons (taal)gedrag. Dit gedrag wordt in statistische modellen vastgelegd. Door steeds betere modellen te maken (via zelf-lerende technologie) wordt het ideaal van de menselijke interactie steeds beter benaderd. Dat ideaal is het transcendentale doel waarnaar de techniek streeft. Het is de maat waaraan het werken van de techniek gemeten wordt.
De werking van chatbots als LaMDA is statistisch. Bovendien zijn we als gebruiker van een chatbot vaak uiterst tolerant, in die zin dat we er meestal wel iets van kunnen maken wat het ding zegt. Maar, het kan altijd voorkomen, en het komt voor, dat de reactie van het systeem ‘onzinnig’ is, dat we er geen chocola van kunnen maken. Wanneer werkt een chatbot goed? Dat is een tamelijk vage notie. Het hangt in hoge mate van de tolerantie van de gesprekspartners af hoe goed of slecht we de techniek vinden. Bij een systeem dat een kritische functie moet uitvoeren zoals een medisch diagnostisch systeem voor het classificeren van een blinde-darmontsteking worden er uitvoerige metingen gedaan om de betrouwbaarheid te bepalen. Volmaakt wordt het niet. En dat geldt ook voor de medicus zelf. Ook die zit er soms naast. Volmaaktheid is niet voor ons weggelegd, anders dan als iets waarnaar we streven.
Wanneer we een tafelblad schuren streven we naar volmaakte gladheid. Dat is het ideaal waarnaar we streven en de maat voor de kwaliteit van ons schuurwerk. De techniek streeft naar perfectie, de uitdrukking of realisatie van de zuivere idee (het concept) in de werkelijkheid. Daarbij gaan we ervan uit dat de natuur aangelegd is op deze perfectie, op dit ideaal. De natuur is aangelegd op het magische, dat kennelijk intelligibel is.
Het is een merkwaardige gedachte, een gedachte die misschien wel kenmerkend is voor onze westerse cultuur, dat wetenschap en magie, wetenschap en religie, strict gescheiden domeinen van ons leven zijn. We geloven dit, maar de wetenschap zegt dat, of wetenschappelijk zijn we er nog niet uit.
“Indeed, it is often believed that magic and spirit no longer exist in the modern world“. schrijft Mark Coeckelbergh (2021, p. 168) in Spirits and Gods.
Sinds de Verlichting, na de bloedige godsdienstoorlogen, besloot de westerse mens dat wetenschap en religie zich voortaan niet meer met elkaar zouden bemoeien. Zie hoe Descartes alle mogelijke moeite doet om maar niet in conflict met de Kerk te komen, nadat hij verneemt dat Rome de hele oplage van het boek van Galileo Galilei, waarin deze het nieuwe Copernicaanse astronomisch model verdedigt, in vlammen doet opgaan. Religie wordt privé en verdwijnt achter de voordeur. Descartes had God alleen nog nodig als garantie voor de brug tussen denken en zijn: wat ik zeker weet, omdat ik het wiskundig kan funderen, dat is ook werkelijk zo. Voor Newton was het boek der natuur in de taal van de wiskunde geschreven.
Terwijl de wiskundigen en de filosofen zich druk maakten over het begrip oneindig, maakten de natuurwetenschappers dankbaar gebruik van het limiet-begrip, waarin de ‘oneindig kleine grootheden’ een centrale rol spelen. Hoe moet je anders de continue en veranderlijke natuurprocessen in termen van de onveranderlijke objecten van de wiskunde beschrijven? De ontdekking van de niet-euclidische meetkunde was mede aanleiding tot het opnieuw stellen van de vraag; waarop is de zekerheid in de wiskunde gebaseerd? De wiskunde bleek zichzelf niet te kunnen funderen, zo bleek uit de Gödelstellingen in de metamathematica, de wiskunde van het wiskundig redeneren.
We weten nu dat het aantal getallen afhankelijk is van het taalmodel dat we gebruiken om ze te kunnen benoemen. Het enige houvast dat we hebben voor de logische consistentie van een wiskundig model is dat het werkt wanneer we het implementeren. In de informatieverwerkende machines functioneren de wiskundige functies. Wat is de zin, wat is het doel van dit functioneren? Ligt dat buiten het gedoe? In de toekomst, zoals veel mensen die aan AI werken geloven? Of is het impliciet in het gedoe? Als iets magisch.
Sinds de Verlichting proberen we met ons verstand de werkelijkheid te verklaren. Waarom? Om aan te tonen dat er geen wonderen bestaan? Dat er geen sprake is van magie? Of juist om het magische van de natuur tot haar recht te laten komen?
Naschrift over Cusanus’ De docta ignorantia
Ik had bovenstaand stukje over het mathematische ideaal en de werking van de techniek geschreven, toen ik in het magistrale boek De Mechanisering van het Wereldbeeld van de wiskundige en historicus E.J. Dijksterhuis las over de Duitse denker Nikolaas van Kues (1401-1464), (Nicolaas van Cusa) beter bekend als Cusanus. Wootton refereert in zijn The Invention of Science (2016) naar hem met ‘Nicholas of Cusa’.
Meestal wordt de filosoof René Descartes beschouwd als de denker die als eerste het denken van de moderne mathematische natuurwetenschap tot uitdrukking heeft gebracht. Er is echter wel wat voor te zeggen om Cusanus deze status te geven. In zijn beschouwingen spelen wiskundige begrippen een cruciale rol. Bij Cusanus lijkt er nog geen sprake te zijn van een scheiding van wetenschap en religie.
Cusanus’ bekendste werk is getiteld ‘De docta ignorantia‘ wat zoiets betekent als ‘Over de wijze onwetendheid’. Daarin getuigt Cusanus van het besef dat de mens alleen door ervaring tot kennis kan komen, waarbij het erom gaat het onbekende in verhouding te zien tot het bekende, hetzij om een onderscheid met het bekende hetzij om overeenkomsten ermee uit te drukken. Zoals in de wiskunde moeten we dus om iets te kennen een mathematische verhouding opstellen. Kennis kan niet zonder medewerking van getallen tot stand komen. Generaliserend zouden we kunnen zeggen: meten is weten en kennen betekent wiskundige modellen opstellen op basis van waarnemingen.
Uit deze bepaling van het kennen volgt onmiddellijk, zo stelt Dijksterhuis (p.248), ‘dat het oneindige, dat immers geen verhouding tot het eindige heeft, voor ons niet kenbaar is’. Wij blijven bevangen in onwetendheid. Maar we zijn wijzer naarmate we meer beseffen onwetend te zijn; in het besef dat het gaat om het oneindige.
Tijdens mijn werkzame leven waarin ik bezig was ‘machines onze taal te leren’ zodat je er een dialoog mee kon voeren, ben ik dit werk steeds meer gaan zien als het middel om er achter te komen wat dat is: taal, en om beter te kunnen snappen waarom dat niet kan, een machine onze taal leren. Bestaat een taal niet in het gebruik ervan? Kun je dus wel een taal leren zonder het gebruik en de gebruiker te leren?
Volgens Cusanus is het de wiskunde die ons de middelen verschaft om via het eindige het oneindige kennend te benaderen. Hoe gaat dat in zijn werk? Door opheffing van de tegenstelling tussen het eindige en het oneindige. De wiskundige bestudeert eindige meetkundige figuren zoals een cirkel, of een veelhoek. Als we de straal van de cirkel vergroten blijft het een cirkel, maar deze zal steeds beter de oneindige rechte lijn benaderen. Voor onze rede zijn cirkel en rechte lijn tegengestelde begrippen, maar voor de wiskundige wordt deze tegenstelling opgeheven in het oneindige: de cirkel wordt een oneindige rechte, en zo wordt de veelhoek met oneindig veel hoekpunten een cirkel. In God, het Oneindige, zijn alle tegenstellingen, wat voor ons denkende mensen tegenstellingen zijn, opgeheven (‘coincidentia oppositorum‘) . Tegenover het anders-zijn, het bepaald zijn van de dingen en begrippen als ‘in onderscheid van’ en ‘gelijkend op’ het andere, is God bepaald als het Non Aliud, het Niet Andere, God is Een.
“Het exacte is nooit feitelijk bestanddeel van de werkelijkheid. De wereld der wiskundige begrippen en relaties kan nooit iets anders zijn dan een ideaal beeld van die der ervaring.” (Dijksterhuis, p.250).
Cusanus onderscheidt het infiniete en het transfiniete oneindige. De oneindige rij is infiniet: ieder getal heeft een opvolger. Ook het Universum is infiniet, onbegrend, voorbij iedere grens is weer een deel. Maar God is transfiniet, zonder onvolkomendheid.
AI wordt wel als een nieuwe religie gezien. Het transfiniete doel ervan is een persoon met bewustzijn en gevoelens te creëren. Sommige gelovigen menen dat dit doel al bereikt is. Anderen zeggen dat het principieel onbereikbaar is. De wiskunde is en blijft de methode om het doel te benaderen.
Wittgenstein en de taalmachine
Eén van de belangrijkste denkers van de 20ste eeuw is Ludwig Wittgenstein. Hij kan samen met Gottlob Frege beschouwd worden als de filosoof van de mathematische taalmachines. Wittgentein, ingenieur, vliegtuigbouwer, was zeer religieus. (Men leze de prachtige biografie van Ray Monk.) In zijn beroemde ‘Tractatus’ vinden we daar getuigenissen van. In dit werk legt hij de propositielogica uit en geeft hij zijn visie op de relatie tussen de taal en hoe deze zich verhoudt tot de werkelijkheid. Eén van de bekende thema’s in de Tractatus betreft de werking van de zin. Wat doet een zin en wat betekent het om een zin te begrijpen? Wittgenstein lijkt de zin als een subject te zien. Maar een bijzonder subject. Hoe verhoudt het religeuze zich tot de mathematische technische denkhouding? Bij Wittgenstein is het religieuze het onzegbare.
Wanneer wij een zin horen uitspreken (hetzij door een mens of door een machine) of we lezen een zin, dan kunnen we deze altijd in gedachten ‘tussen aanhalingstekens plaatsen’. Daarmee bedoel ik dat we de zin niet meer naar haar betekenis nemen, en onmiddellijk houden voor wat er staat, zoals we in het spel van de toneelspeler onmiddellijk het karakter zien dat hij speelt (ik ontleen deze metafoor aan Merleau-Ponty), maar daarentegen als iets uitwendigs, als een product, beschouwen. Wittgenstein wijst in de Tractatus op het onderscheid tussen ‘zeggen’ en ‘tonen’, ‘sagen’ en ‘zeigen’. De zin is een icoon. Foucault heeft het over ‘het heimelijk werk der woorden.” (Dit is geen pijp, p. 43).
Wittgenstein toont zich hier leerling van Frege die het belangrijke onderscheid tussen teken en betekenis maakt en over de onmogelijkheid een definitie van functie te geven opmerkt:
“Ich muss mich darauf beschränken, durch einen bildlichen Ausdruck auf das hinzuweisen, was ich meine, und bin dabei auf das entegegenkommende Verständnis des Lesers angewiesen.” (Gottlob Frege in: Wass ist eine Funktion?)
“Der Satz zeigt seinen Sinn. Der Satz zeigt, wie es sich verhält wenn er wahr ist. Und er sagt, dass es sich so verhält.” (4.022)
De aanhef van stelling 4.461 van Wittgensteins Tractatus luidt:
“Der Satz zeigt was er sagt…”
Hoe moeten we dit lezen? De argeloze lezer zou hieruit kunnen opmaken dat hiermee de ‘diepe kloof’ die in Wittgensteins Tractatus lijkt te bestaan tussen zeigen en sagen, tussen tonen (het blijkbare) enerzijds en het zegbare anderzijds overbrugd zou worden. Maar niets is minder waar, zo betoogt Harm Boukema in zijn essay “Over de grenzen van de reflexiviteit”.
We hebben de neiging ‘wat’ in grammaticale constructies van de vorm “weten wat” en “kennen wat” op te vatten als een relatief voornaamwoord. Maar in constructies als “hij weet wat hij voelt” en “ik weet wat ik voel” is ‘wat’ een vragend voornaamwoord.
Het verschil tussen beide komt tot uitdrukking in het latijn. In geval ‘wat’ vragend voornaamwoord is, wordt het latijn ‘quid’. In andere gevallen moet ‘wat’ vertaald worden als ‘quod’, ‘datgene wat’.
Het is dus: Ik ruik wat (quod) hij ruikt. Daarentegen: Ik weet wat (quid) hij ruikt.
Het woordje ‘was’ in “Der Satz zeigt was er sagt…” moet vertaald worden als ‘quid’, en niet als ‘quod’.
Wittgenstein bedoelt dus niet dat er iets is dat getoond en gezegd wordt door de zin. Een uitspraak brengt ons iets aan het verstand, niet door iets te zeggen, maar door te laten zien wat het zegt. “Geen enkele uitspraak is in staat te zeggen wat (quid) ze zegt.”
In de programmeerbare machine functioneert de uiterlijke vorm van de zin (het programma, het gegeven), naar haar tekenstructuur, zoals een sleutel past in het slot en toegang geeft tot de binnenruimte, waar ze haar werk doet. We kunnen de bijdragen van de chatbot LaMDA zien als product, als resultaat van een geprogrammeerde werking van het mechanisme. De machine toont de tekst, de tekst toont wat het ons zegt. Maar we kunnen ook de tolerante houding innemen van de gebruiker. De hypothetische stellingname dat we met een bewustzijn van doen hebben zien we bevestigd in de zinvolle bijdrages van de machine aan het gesprek. We herkennen dit gedrag als betekenisvol.
De zin is een bijzonder subject. In haar huist als het ware de geest, die we als lezer weer tot leven wekken. Maar we moeten er wel open voor staan. De taal is de interface van de gebruiker-machine relatie. Zo kunnen we misschien het beste zeggen: de machine heeft geen bewustzijn, maar we herkennen bewustzijn in het (taal)gedrag dat het toont.
Wat is eigenlijk het doel van het verklaren in de wetenschap en wat is de relatie met de magie van het bewustzijn. Over de betekenis van het verklaren schrijft Wittgenstein:
“Der ganzen modernen Weltanschauung liegt die Taüschung zugrunde, dass die sogenannten Naturgesetze die Erklärungen der Naturerscheinungen seien.” (6.371)
“So bleiben sie bei den Natuurgesetzen als bei etwas Unantastbarem stehen, wie die älteren bei Gott und dem Schicksal. Und sie haben ja beide recht und unrecht. Die Alten sind allerdings insofern klarer, als sie einen klaren Abschluss anerkennen, während es bei dem neuen System scheinen soll, als sei alles erklärt.” (6.372)
En over zijn Godsbegrip:
“Wie die Welt ist, ist für dass Höhere vollkommen gleichgültig. Gott offenbart sich nicht in der Welt.” (6.432)
Net als bij Cusanus blijft God het onbekende, dat zich niet in taal en dus niet in de feiten laat uitdrukken. Anders dan bij de Middeleeuwer Cusanus is religie bij de 20ste eeuwer Wittgenstein een privé kwestie, waarover je niet spreken kan en dat je door er over te spreken alleen maar te kort doet.
Niet wat er gezegd wordt is het magische, maar dat er iets gezegd wordt. En dat is meteen het onuitsprekelijke. Het magische toont zich en laat zich niet wegverklaren.
Hoe zal de toekomst van het AI-debat eruit zien?
Begin December 2022 lanceerde OpenAI haar nieuwste opvolger van GPT-3 de taal- en beeldgenerator ChatGPT. ( een Generative Pretrained Transformer) Iedereen kan er mee spelen. Weer was de wereld verbaasd over de nog niet eerder vertoonde mogelijkheden. OpenAI beweert dat het geen last heeft van bias. Niet biased zijn zal dan ook het belangrijkste kenmerk van een tekst worden waaraan we kunnen zien dat deze niet door een echt mens gemaakt is.
Opnieuw komt het probleem van authenticiteit aan de orde. “De technologie veroorzaakt ook nieuwe dilemma’s als het gaat om authenticiteit. Heeft de student zijn werkstuk echt zelf gemaakt? Of werd er hulp ingeschakeld van AI?” (De Volkskrant, 5 december 2022)
Douwe Draaisma vergelijkt in zijn essay ‘De Machine achter het Gordijn’ (1987) de discussie over de bête machine van Descartes inhoudende dat dieren mechanieken zijn met de huidige discussie over de AI. De stap dat mensen ook mechanische dingen zijn bleek vrij klein. In het AI debat worden mens en computer gelijkgesteld als informatieverwerkende systemen. Natuurlijk zijn er verschillen, mensen zijn van vlees en bloed, computers niet, maar dat was ook geen argument in de discussie over de bête machine. Functioneel zijn ze hetzelfde. En als ze dat nog niet waren gezien de feitelijke stand van de techniek dan waren ze dat toch in principe, was de stelling van de voorstanders. Een kwestie van voortgaande technische ontwikkeling.
Aan het eind van de 18de eeuw was de discussie over de bête machine verstomd. “Ruimschoots voor het midden van de 18de eeuw was Descartes’ dier-machine gedemonteerd en vergeten.” De verwoede polemieken in tijdschriften en salons waren verleden tijd. De doctrine werd bijgezet als een curiosum, het produkt van een te ver doorgeschoten mechanicisme.
Dieren werden weer gewoon dieren, machines weer gewoon machines. “Als de toekomst lijkt op het heden dan zal binnen vijftig jaar hetzelfde gelden voor mensen en computer.” Deze voorspelling deed Draaisma in 1987. Dat is nu (2022) 35 jaar geleden.
ChatGPT is een programma dat opgesloten zit in de wereld van taal en beeld. Het genereert in een mum van tijd teksten en beelden op basis van andere teksten en beelden. In de zelfde tijd produceren ze meer dan een miljoen mensen die schrijven voor de media. Zal het zijn eigen programma-tekst kunnen reproduceren en er nieuwe betere varianten van genereren?
“Zou het mogelijk zijn dat kunstmatige intelligentie het oeuvre van een schrijver grondiger, preciezer doorgrondt en kan imiteren dan degene die de boeken redigeert, controleert, aanprijst en verkoopt? En als dat nu nog niet het geval is, hoelang zal het duren voor dat moment aanbreekt?” vraagt columnist Frank Heinen in de Volkskrant van 6 december. Een experiment (soort Turing test) zou de vraag kunnen beantwoorden. De uitkomst zal een statistische uitspraak zijn. De analyse zal misschien leiden tot verbetering van de technologie. Maar wat betekent het wanneer blijkt dat een significant merendeel van de genoemde experts niet in staat is originele kunst van namaak te onderscheiden? De vraag is ook waarom we het belangrijk vinden? Willen we dat de mens beter is in het herkennen en reproduceren van patronen dan de machines die door de mens gemaakt zijn? En waarom willen we dat?
Jan Hollak over de taal bij Frege en Wittgenstein en de sprekende machines.
In zijn afscheidscollege over de ‘hypothetische samenleving’ (voor het transcript van de opnames ervan zie Hollak en Platvoet 2010) probeert de filosoof Jan Hollak binnen de beperkte tijd die hem daarvoor gegeven is zijn commentaar op de ‘moderne’ wetenschap- en taalfilosofie samen te vatten.
Wat bedoelt hij met die ‘hypothetische samenleving’? En wat heeft dat met taaltechnologie zoals ChatGPT te maken?
Hollak komt in zijn college te spreken over een onderwerp waaraan hij al in de loop der jaren in een aantal collegecycli aandacht besteedde: de taal (de uitdrukking van het denken als denken). In het bijzonder over het woordgebruik en de betekenis van woorden in de gewone omgangstaal volgens de moderne taalfilosofen (logisch positivisten en structuralisten). Bij Wittgenstein zien we dat de betekenis van de woorden geidentificeerd wordt met het gebruik ervan. Dit principe gebruikt Wittgenstein volgens Hollak in zijn strijd tegen de metafysica. Buiten het alledaagse gebruik betekenen de woorden niets, ze zijn zinloos. Over deze identificatie zegt hij:
“Deze identificatie lijkt mij geheel en al onhoudbaar, en die komt hieruit voort, dat men voortdurend, reeds vanaf Frege, de wijze waarop men iets begrijpt en uitdrukt en datgene wat men daardoor begrijpt en uitdrukt geïdentificeerd heeft.”
En hij vervolgt:
“En niet alleen komt deze identificatie hier voor in dit geval. Het komt voortdurend in de verdere moderne filosofische stromingen voor. Want wat Wittgenstein hier doet, dat is toch eigenlijk niets anders dan te zeggen, dat je de taal puur functioneel moet bekijken. Nu, dat puur functioneel bekijken van taal en dat puur functioneel bekijken van allerlei toedrachten in de werkelijkheid, dat is typerend voor wat ik noem een hypothetische samenleving.”
Een ander kenmerk van een hypothetische samenleving is dat de wetenschappen van begin tot eind puur hypothetisch van karakter zijn. Een onderwerp waar ook Husserl in zijn Krisis der Europäischen Wissenschaften uitvoerig over komt te spreken wanneer hij het over de mathematisering van de natuurwetenschappen heeft. Door dat hypothetische karakter heeft de wetenschappelijke benadering een eigen zelfstandig karakter en is de positieve, mathematische, wetenschap onderscheiden van de filosofie.
Een cultuur waarin dit hypothetisch karakter van de wetenschap niet voldoende beseft wordt verwart wetenschap en filosofie en miskent zo de eigen waarde van zowel de wetenschap als de filosofie. Het is de moderne technologie, in de vorm van de kunstmatige intelligentie en automatie, die een nieuwe eigentijds metafysica volgens Hollak noodzakelijk en ook mogelijk maakt, omdat deze technologie de uitwendige objectivatie van het mathematiserende moderne denken is. De sociale robot is de mens in de vorm van de uitwendigheid.
Alles wordt voor dit denken functioneel opgevat. “Het aanvaarden van een feitelijke toedracht is er niet meer bij.” (p. 436). Alles wat we kunnen observeren is maar zo onder bepaalde condities en hypothesen, die we zo weer kunnen veranderen. Ook het tegendeel van een feitelijke toedracht wordt als mogelijkheid gezien. Terwijl als het een feit is dat vandaag de zon is opgegaan het toch niet meer zo kan zijn dat deze niet is opgegaan. Zowel bij Leibniz als bij Hume wordt de feitelijkheid, het onherroepelijke van het feit, niet werkelijk onderkend. Een inzicht waarvan Hollak al in zijn beroemde inaugurele rede Van Causa sui tot Automatie (1966) getuigt.
Wat heeft dit met de taaltechnologie en ChatGPT te maken? Mijn inziens maakt de taaltechnologie steeds duidelijker, voor wie het wil zien, wat de woorden van Hollak betekenen; wat deze identificatie van “de wijze waarop men iets begrijpt” en in taal en gebaar uitdrukt en “datgene wat men daardoor begrijpt en uitdrukt” betekent.
Het identificeren van tekens met datgene wat met tekens in hun gebruik wordt aangeduid als hun betekenis is kenmerkend voor de wiskunde. Het is het enige objectgebied waarin de tekens op unieke wijze een wiskundig object identificeren en waarin de termen op eenzinnig wijze de structuur waarin de objecten voorkomen representeren. In de wiskunde hebben we slechts toegang tot de wiskundige objecten, de structuren en hun onderdelen via de taal waarmee we ze als het ware vastleggen. Rekenen is formule-manipulatie volgens eenduidige algemene regels. Voor het wiskundig denken is een bewering feitelijk waar (‘verités eternellé’ ), wanneer ze afleidbaar is in een als consistent beschouwde theorie. De ware beweringen hebben geen betrekking op een fysiek waarneembare werkelijkheid maar op een puur gedachte werkelijkheid, een wiskundige structuur.
ChatGPT zit gevangen in de wereld van de gematerialiseerde taal, van de wijzen waarop we in onze taalbestanden ons begrip van de werkelijkheid hebben uitgedrukt. Als we de door ChatGPT op basis van statistische regels gegenereerde teksten lezen herkennen we daarin de ons bekende begrippen en begripssamenhangen. Maar, en dat blijkt telkens weer in het gebruik van deze taaltechnologie: deze is niet bij machte het wezenlijke onderscheid te maken (kennen) tussen uitspraken die echte feiten uitdrukken en die dat niet doen. Waarom niet? Omdat de feitelijkheid van het feit, de noodzakelijkheid als feit buiten de talige uitdrukking valt. Dit is precies het commentaar dat Hollak heeft op Leibniz en Hume.
“Want Hume’s fundamentele tweedelig van al datgene wat object van menselijk kennen en redeneren kan worden in ‘abstract relations of ideas’ en ‘matters of fact’ is zo’n omzetting: nu van Leibniz’ vérités de raison en vérités de fait, in hun tegengestelde kader: het empirisme. (…) Hume aanvaardt dus tevens Leibniz’ identificatie van het contingente als wat zo maar ook anders kan zijn met wat kan niet-zijn; hetgeen hier betekent dat de feitelijke stand van zaken en het bestaan van iets met hun zo of anders-kunnen zijn worden verward. (…) Het ontgaat Hume blijkbaar dat toch ook voor het feitelijke moet gelden dat zijn tegendeel onmogelijk is (..) en levert hij het feitelijke over aan scepsis en belief!” (Hollak en Platvoer, p. 168-169).
Hume en Leibniz miskennen zo het feitelijke van het feit, de referentie van de taal als oordeel over de werkelijkheid buiten de taal.
Daarom moeten we alles wat ChatGPT ons voorschotelt als puur hypothetisch zien. De machine stelt eigenlijk: “Het zou kunnen zijn dat het zo is dat…” En niet meer dan dat. ChatGPT is een taalproduct geen kennisproduct. Ze blijft gevangen in het netwerk van de taal.
Wie aan de door Hollak bij Frege en Wittgenstein bekritiseerde identificatie van “de wijze waarop men iets begrijpt en uitdrukt” enerzijds met “datgene wat men daardoor begrijpt en uitdrukt” anderzijds vasthoudt en deze niet onderscheidt zal alles wat ChatGPT te berde brengt voor de begrepen werkelijkheid aanzien.
Het is aan ons taalgebruikers om het waarheidskarakter, de begripswaarde van de tekst te bepalen.
Bronnen
Boukema, Harm, 1987. Over de grenzen van de reflexiviteit. In: Reflexiviteit en Metafysica. Bijdragen aan het symposium bij het afscheid van prof. J.H.A. Hollak. (Redactie: Louk Fleischhacker). Filosofische Reeks Centrale Interfaculteit Universiteit van Amsterdam, nr. 20. 1987, pp. 6-19.
Coeckelbergh, Mark (2012), Growing moral Relations: critique of moral status ascription. Palgrave MacMillan, 2012.
Coeckelbergh, Mark (2014) The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. 27, 61–77 (2014).
Coeckelbergh, Mark (2020). AI Ethics. MIT Press, 2020.
Dijksterhuis, E.J. (1977). De mechanisering van het wereldbeeld. Derde druk. Meulenhoff, Amsterdam, 1977. De eerste druk verscheen in 1950, de tweede in 1975. Hugo Brandt Corstius noemde het in Hollands Maandblad een ‘magistraal boek’. En dat is het. Het beschrijft de geschiedenis van het wezen van onze wereldbeschouwing, van hoe onze cultuur onze natuur ziet. Dijksterhuis schrijft over hoe na de opkomst van de mechanistische denkmethodieken “wetenschap en techniek tot culturele probleemgebieden werden, die geen enkele intellectueel onverschillig kunnen laten”.
Fleischhacker, Louk E. (1993), `Het mathematisch ideaal in: De Uil van Minerva, Gent 1993, pp. 165-180.
Jan Hollak (1968). Technik und Dialektik, In: Civilisation, technique et humanisme, Coll. de l’Académie Internationale de Philosophie des Sciences, Lausanne, Paris, 1968, pp. 177-188.
Belangrijke voetnoot in dit artikel over de veelzinnigheid van de woorden: “Wenn hier immer wieder im Zusammenhang mit Mechanismen vom “Reflektion”, “Selbstreflektion”, usw. die Rede ist, so ist selbstverständlich damit niemals der subjektive Prozess menschlichen Denkens gemeint, sondern immer nur sein intentionale Korrelat.” (p. 181)
Jan Hollak en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010.
In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving, door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de inaugurele rede Van Cause sui tot Automatie is hierin ogenomen.
Monk, Ray (1991). Ludwig Wittgenstein – het heilige moeten, een biografie. Prometheus, Amsterdam, 1991. Vertaling door Ronald Jonkers, van Ludwig Wittgenstein – the duty of genius, Ray Monk, 1990.
Nijholt, Anton en Van den Ende, Jan (1994). Geschiedenis van de Rekenkunst: van kerfstok tot computer. Uitgegeven door: Academic Service, Schoonhoven, 1994.
Bevat hoofdstukken over de maatschappelijke verantwoordelijkheid van de informatici (‘computerkundigen’) en over het gebruik van automatische systemen voor defensietaken. Veel aandacht voor verzet tegen het Star Wars kernbewapeningsprogramma van het Amerikaanse Strategische Defensie Initiatief (SDI) ten tijde van president Ronald Reagan (1983).
Tegmark, Max (2014). Our Mathematical Universe: My Quest for the Ultimate Nature of Reality, Penguin Books, 2014.
Wittgenstein, Ludwig (1973). Tractatus logico-philosophicus. Logisch-philosophische Abhandlung. Ed. Suhrkamp, Uitgave 1973. Oorspronkelijke Duitstalige uitgave 1921.
Wootton, David (2015). The Invention of Science. A new history of the scientific revolution. Penguin Book, 2015.