De nieuwste toepassingen van de taaltechnologie: sociale robots, conversational agents, de op grote taalmodellen gebaseerde textgeneratieprogramma’s zoals ChatGPT, blijven de gemoederen bezig houden. Waren we van machines gewend dat ze voor ons de vervelende rekenarbeid konden overnemen, het heeft er nu alle schijn van dat machines betekenisvolle teksten kunnen genereren en dat we er een zinnig gesprek mee kunnen voeren. Maar waren taal en taalgebruik niet voorbehouden aan de mens? Was het niet zo dat de taal de mens als redelijk denkend dier een status gaf boven de andere zijnden? Stoot de nieuwste technologie de mens van de troon? Ook filosofen staan met verbazing naar de intelligente technologie te kijken. Wat gebeurt hier? Hoe moeten we dit fenomeen duiden?
Volgens de filosofen Marc Coeckelbergh en David Gunkel moeten we voor het goede begrip van deze technologieën vraagtekens plaatsen bij een aantal fundamentele begrippen en tegenstellingen die kenmerkend zijn voor het West-Europese denken. Deze tegenstellingen, zoals die van mens tegenover machine, teken tegenover betekenis, van verschijning tegenover realiteit, beheersen het debat over de betekenis en de mogelijkheden van deze ‘intelligente’ machines voor de samenleving. Dat zou niet moeten want in feite gaat het hier om verouderde tegenstellingen, waar beide partijen in het debat aan vasthouden. In plaats daarvan moeten we onze aandacht richten op de vraag wie er belang hebben bij het in stand houden van de oude metafysica en ontologieën en hoe de machthebbers de politiek en de grote techbedrijven het speelveld voor het debat bepalen. Wijst ChatGPT ons op het einde van de moderne westerse metaphysica?
Het debat gaat onder meer over auteurschap van de door machines geproduceerde teksten. Deze vraag doet zich al voor bij ‘eenvoudiger’ al lang geaccepteerde vormen van technisch taalgebruik. Want wie is de ‘taalgebruiker’ als de geldautomaat de tekst doet verschijnen “Wilt u het saldo weten?” Wie is de auteur van de tekst “U bevindt zich hier.” op het informatiebord langs de weg, waarop een plattegrond en een pijl wijzend naar de locatie die overeen zou komen met de fysieke locatie waar de lezer zich bevindt? Hoe weet de maker van de tekst op het informatiebord dat ik, die de tekst lees, ‘hier’ ben?
Met de vraag naar de auteur van de tekst hangt samen de vraag naar de verantwoordelijkheid voor wat er ‘gezegd’ of ‘geschreven’ wordt. Wat weer de vraag oproept of machines en teksten ‘in eigenlijke zin’ wel iets kunnen zeggen. Maar wat bedoelen we met ‘in eigenlijke zin’ iets zeggen? Is er dan ook een afgeleide of on-eigenlijke zin van zeggen?
Sommige mensen houden het voor mogelijk dat deze machines die op een zinvolle manier taal gebruiken al een (primitieve) vorm van bewustzijn hebben, in die zin dat ze te kennen geven de situatie van de lezer te ‘kennen’. En sommigen gaan zo ver te beweren dat er eigenlijk geen wezenlijk verschil meer bestaat tussen de mens en de intelligente machine. De laatste moet misschien nog wat verder leren door te interacteren met de sociale media, maar de ontwikkelingen gaan snel. Anderen beweren dat deze textgenererende machines ‘slechts tools’ zijn die geen enkele kennis hebben van de werkelijkheid, en dus ook het onderscheid tussen ware en onware beweringen niet kennen. “ChatGPT kent de feiten niet.” “Ze zit opgesloten in de taal”. Is de intelligentie die de machine toont slechts schijn of geldt ook hier het woord ‘zoveel schijn zoveel zijn’?
In een recent verschenen artikel “ChatGPT: deconstructing the debate and moving it forward” proberen de auteurs Marc Coeckelbergh en David J. Gunkel het debat vlot te trekken door te wijzen op een aantal aannames waar beide partijen het over eens lijken te zijn. Welke zijn die aannames? Voor het antwoord op die vraag moeten we terug naar oude bronnen. Een duik in de geschiedenis van hoe wij westerse mensen de wereld ordenen en verwoorden.
Het verhaal van De Echte Moeder
Volgens de Hebreeuwse Bijbel was Salomon, de derde en laatste koning van het Verenigd Koninkrijk Israël, een wijs man. Hoe wijs Salomon was daarvan getuigt de Bijbel. Een samenvatting van het verhaal uit Koningen 3:16-27 luidt als volgt.
“Twee vrouwen komen bij Salomon met een kind waarvan beiden beweren dat het van hen is. Ze kunnen niet allebei de waarheid spreken, want de moeder-kind relatie is een ondeelbare realiteit. Salomon laat een dienaar een zwaard halen om het kind in tweeën te hakken, zodat elke vrouw een deel van het kind kan krijgen. De echte moeder roept ontsteld: ‘Doe dat niet, geef het dan maar aan haar’, maar de andere vrouw zegt: ‘Ja hak het maar in tweeën, dan krijgen we het geen van beiden.’ “
Toen antwoordde de koning, en zei: “Geeft aan die het levende kind, en doodt het geenszins, want die is zijn moeder.” Waarmee hij het kind toewees aan de vrouw die voor het leven van het kind koos.
Het commentaar luidt dat dit een slimme zet was van Salomon, want “daardoor wist hij dat de eerste vrouw de echte moeder is”.
In Koningen 3:25. heeft de tekst het over “de vrouw, welker zoon de levende was“. Daarmee geeft de verteller (wij weten niet wie de auteur is, maar doet het er toe?) aan al te weten wie de rechtmatige moeder van het kind is. En dat staat juist ter discussie. Nu kun je zeggen dat het verhaal is geschreven nadat het oordeel door Salomon is uitgesproken en dat de verteller in retrospect de vrouwen op grond van dit oordeel kon waarmerken als de echte en de onechte moeder van het kind.
Maar op grond waarvan oordeelde Salomon dat de vrouw die zei: “geef haar het kind en doodt het niet” de moeder was van het nog levende kind? Dat kon Salomon helemaal niet weten. Waarom zou de andere vrouw niet kunnen vinden dat de jongen in leven moest blijven ook al zou deze haar niet toebehoren? Hoe kan Salomon met het oordeel “die is zijn moeder” bedoeld hebben een waarheid uit te spreken, een waarheid die buiten dat oordeel al vast lag? De vrouw die het kind in leven wilde houden kreeg door Salomons oordeel de rechtmatige status van moeder van het levende kind. Niet omdat ze de “ware moeder” is, want die waarheid blijft voor de wijze koning verborgen, maar omdat ze voor het leven van het kind koos.
Dat deze vrouw, die volgens Salomon de echte moeder is, voor het leven van het kind koos, dat is een conclusie die Salomon trok vanwege haar uitspraak “Och, mijn heer! Geef haar dat levende kind, en dood het geenszins.”. Maar was het niet een list van deze vrouw die van deze redenering gebruik maakte als middel om de koning tot zijn conclusie te doen komen, de redenering namelijk dat een vrouw die dit zegt wel de echte moeder moet zijn. Alsof het hier om een ‘eerlijk signaal’ (‘honest signal’) gaat, een teken dat niet gesimuleerd kon worden en daarom onmiddellijk tot Salomons inzicht en oordeel moest leiden.
We weten het niet. We moeten vertrouwen op de autoriteit van Koning Salomon die volgens de Hebreeuwse Bijbeltekst de wijsheid immers van God had ontvangen.
Maar ook Salomon had eerst de reactie van de vrouwen op zijn voorstel nodig om te bepalen wie de echte moeder is. Hetgeen ons er op wijst dat ook Koning Salomon maar een gewoon mens is en geen onmiddellijke toegang heeft tot de Waarheid. Daarvoor had hij een list, een middel, nodig. De mens heeft evenzeer een list nodig om te misleiden als om de misleiding te ontmaskeren.
Machine of mens?
Zo’n 2500 jaar later (in 1950) stelt Alan M. Turing, bij velen bekend van het kraken van de code van de Enigma machine, een spel voor om te bepalen of machines kunnen denken. De vraag “Can machines think?” suggereert dat we weten wat een machine is en wat denken is. Maar wat bedoelen we daar precies mee? Om die moeizame kwesties te omzeilen stelt hij een spel voor, de Imitation Game.
Het spel wordt gespeeld met drie mensen: een man (A), een vrouw (B) en een interviewer (C). Deze bevinden zich in gescheiden ruimtes. Het doel van C is te bepalen wie de man is en wie de vrouw, door vragen te stellen aan A of aan B. Ze communiceren via teksten. De opdracht aan de man (A) is de interviewer te misleiden door te doen alsof deze de vrouw is. De vrouw (B) moet de interviewer helpen. Het spel wordt een aantal keren gespeeld en er wordt gekeken hoe vaak de man (A) in staat is de interviewer te misleiden en tot de onjuiste conclusie te brengen dat hij de vrouw is. De vraag is vervolgens wat er zal gebeuren als we in dit spel de man (A) vervangen door een machine. Zal C net zo vaak de foute beslissing nemen als in het geval waarin een man de rol van A speelt? En dit is de vraag die in de plaats komt van de vraag of machines kunnen denken. Het kunnen voeren van een gesprek is immers bij uitstek een teken van de mogelijkheid te denken.
Maar daarmee is het probleem niet opgelost.
Want, vraagt Turing, wat komt er allemaal in aanmerking om de rol van machine te mogen spelen? Een machine is iets dat door mensen (ingenieurs) ontworpen is: “we wish to exclude from the machines men born in the usual manner”. Bedoeld wordt de methode van geslachtelijke voortplanting die in 1950 en daarvoor ‘usual’ was. Turing verwijst naar de state of the art: de digitale computer is de beoogde gegadigde voor de rol van machine. Maar uiteindelijk gaat het hem niet om de vraag hoe de machines anno 1950 presteren wanneer ze het spel spelen, maar of er in de toekomst machines gemaakt kunnen worden die goed zouden kunnen presteren. Turing had een wiskundig model van een rekenmachine ontwikkeld (de later naar hem genoemde Turing machine) waarop alle mogelijke machinale berekeningen kunnen worden uitgevoerd, op wat voor machine ook. De digitale machine is een fysische realisatie van dit model. Op dit machine type kunnen dus alle functies die op een programmeerbare machine berekend kunnen worden (de ‘berekenbare functies’) gerealiseerd worden. De taak voor de toekomst was dus om slimme algoritmes te bedenken om het spel met succes te kunnen spelen.
Turing heeft het niet over de kwestie wie allemaal de rol van mens mag spelen. Hij heeft het niet over de toekomstige wijze waarop mensen zouden kunnen worden voortgebracht. En mag degene die de rol van mens speelt gebruik maken van een machine om te bepalen wat hij zal zeggen? Mag de mens gebruik maken van de data verzameld in opnames van eerdere gesprekken volgens de opzet van het spel?
In die toekomst van de kunstmatige intelligentie zijn we nu, zo’n 75 jaren later: de tijd van deep fake en conversational agents en ChatGPT. De tijd waarin ook de medische technologie aan de betekenis van de term ‘usual manner’ morrelt. Het debat gaat nog steeds over de vraag of deze machines in staat zijn te denken. Een vaak gehoord standpunt is: misschien nu nog niet, maar in de toekomst wellicht wel. Want het gaat uiteindelijk niet om de aktuele digitale machines van nu en om de mens van nu, maar om de potentie van de machine, om het concept, de Idee Machine. En om het concept, de Idee Mens. Maar waar komen die vandaan? Waar hebben we het over?
Plato’s Idee van de Echte Moeder
Volgens Plato, één van de bronnen van ons westerse denken, bestaat de Echte Moeder als Idee of Vorm in de intelligibele wereld die gescheiden is van de wereld van de zintuiglijk waarneembare objecten. In die laatste wereld is er chaos en verandering. De mens kan alleen meningen hebben over wat zich in deze wereld afspeelt. Ware kennis betreft de onveranderlijke ideeën. De grote vraag is hoe wij daar toegang toe hebben. Volgens Plato op grond van herinnering (wij komen daar vandaan). Volgens Aristoleles door abstractie van de waarneembare zijnden.
Voor Plato waren de wiskundige objecten, getallen en meetkundige figuren, paradigmatisch voor het bestaan van de zuivere vormen buiten het denken en de taal. Hij noemt naast zaken als het goede, de tafel of het bed, ook regelmatig de driehoek als voorbeeld van een Idee. De ideeën of vormen zijn de echte werkelijkheid: ze zijn onveranderlijk, tijdloos, zoals de wiskundige objecten en waarheden. De aardse dingen zijn slechts imperfecte verschijningsvormen van de perfecte Ideeën.
Er is echter een belangrijk verschil tussen de Ideeën en de mathematische objecten. Van de Ideeën is er slechts één: er is maar één Idee ‘bed’, maar één Idee ‘moeder’, maar de ideële wiskundige objecten hebben een individualiteit: er zijn vele natuurlijke getallen en vele driehoeken en er zijn vele gelijke exemplaren van. Die kunnen we alleen onderscheiden door ze een eigen naam, een identifier, te geven. Het is door die naam dat de mathematische objecten voor ons een eigen individualiteit krijgen.
Het rekenende denken
De mathematische objecten moeten we voorstellen door middel van tekens om er over te redeneren en om er mee te rekenen. Hun individualiteit ontlenen ze aan het teken dat we gebruiken wanneer we erover redeneren: de driehoek D, de hoek A, het natuurlijk getal x, etc. Het is niet de getekende driehoek waar we in de wiskunde over redeneren, maar over het mathematische object dat er door wordt voorgesteld. De wiskunde gaat in zijn algemeenheid over structuren, die in axiomatiseerbare theorieën worden gedefinieerd, geconstrueerd en beschreven.
Wat een wiskundig object is wordt bepaald door de plaats of functie ervan in een structuur, waarin de relaties met andere objecten vastligt. Het getal drie ontleent zijn bepaaldheid volledig aan de relaties met andere getallen. Drie is de opvolger van twee en de som van twee en één. Maar ook de helft van zes. Ieder getal veronderstelt voor zijn bepaaldheid het geheel. In de wiskunde zijn twee objecten compleet verschillend of exact gelijk. Er is geen tussenweg mogelijk.
In de oudheid was de wiskunde gericht op praktische problemen. Tellen is waarschijnlijk de oudste wiskundige handeling. Het doel ervan is te vergelijken. Het verhaal gaat dat de herder voor elk schaap dat ‘sochtends de stal verliet een steentje bewaarde. Wanneer de kudde ‘s avonds weer de stal opzocht pakte hij voor elk schaap een steentje. Zo wist hij of er een schaap ontbrak. De vraag hoeveel schapen zijn kudde telt zou de herder kunnen beantwoorden met te wijzen op de verzameling steentjes. Ook werden kerfjes in hout gesneden gebruikt als teken van aantallen.
Zodra de verschillende aantallen steentjes of streepjes een eigen naam krijgen: 1, 2, 3, … kan de herder ook zeggen uit hoeveel schapen de kudde bestaat. Zo ontstaan de getallen, zelfstandige abstracte objecten. We zien in de ontwikkeling van de wiskunde ‘taal’ een overgang van het symbool, waar nog een relatie bestaat tussen de visuele vorm (de streepjes of de driehoek) en de betekenis, naar de abstractere tekens waarin de relatie tussen teken en betekenis willekeurig (‘arbitrair’) is. In een volgende fase verschijnen er notatiesystemen. Zo’n systeem, zoals voor de telwoorden van het tientallig stelsel is zelf een wiskundige structuur. Het aantal natuurlijke getallen wordt potentieel oneindig. Er zijn er zoveel als we nodig hebben om te tellen.
Wie telt gebruikt de namen van een getalsysteem, een tekensysteem waarvan de tekens op eenzinnige wijze verwijzen naar … ja naar wat eigenlijk? Waarom denken we de getallen als betekenissen los van de tekens? Getallen zijn eigenlijk negatieve dingen. We weten dat de cijfers en in het algemeen de tekens waarmee we rekenen niet de getallen zelf zijn. Die beschouwen we als te bestaan in een eigen niet voor onze zintuigen eigen intelligibele wereld. Zonder die tekens hebben we er geen toegang toe, kunnen we er niet mee redeneren en rekenen.
Op basis van de door de Arabieren ontwikkelde theoretische getaltheorie, de algebra, kan de slimme herder de grootte van zijn kudde berekenen door het aantal steentjes op handige wijze te herordenen. Bijvoorbeeld in groepjes van 10. Omdat ieder steentje staat voor een schaap kan hij zo het aantal schapen te weten komen. Mechanische hulpmiddelen worden ontwikkeld en gebruikt om de steentjes te ordenen, zoals de abacus.
Het rekenende denken is net als het wiskundig bewijzen van stellingen ‘een uitwendig gedoe’ (zoals Hegel opmerkt in de Inleiding van de Phänomenologie). Het resultaat staat los van de weg die er toe leidt. Er zijn vele manieren om een berekening uit te voeren, of om een stelling te bewijzen: het resultaat is hetzelfde. Bovendien staat het denkende subject bij het rekenen buiten de aktiviteit die het verricht. Deze is mechanisch, volgens regels. Hegel merkt op dat de woorden (‘namen’) in het algemeen het denken programmeren. “Es ist in Namen dass wir denken”.
Een belangrijk verschil tussen wiskunde taal en natuurlijke taal is dat de woorden van de natuurlijke taal veelzinnig zijn. In de wiskunde zijn de tekens éénzinnig. In het eerste deel, sectie 1 van De sophisticis elenchis wijst Aristoteles op de analogie tussen het redeneren met woorden en het werken met rekensteentjes (calculi).
“Want omdat het niet mogelijk is, bij het redeneren de dingen zelf mee te brengen, maar wij in plaats van de dingen de woorden als symbolen gebruiken, menen wij dat wat voor de symbolen geldt ook voor de dingen opgaat, zoals dat bij de rekenaars met de rekensteentjes het geval is. Maar die vergelijking gaat niet op, want de woorden en de uitspraken zijn begrensd, de dingen echter zijn oneindig in aantal. Het is derhalve onvermijdelijk dat één en dezelfde uitdrukking en één en hetzelfde woord meer dan één ding aanduidt. Zoals derhalve de in het hanteren van de rekensteentjes onbedrevenen door de daarin bedrevenen worden beetgenomen, zo misrekenen ook zij zich die niet op de hoogte zijn van de draagwijdte van uitdrukkingen en van de woorden, zowel wanneer ze zelf redeneren als wanneer ze anderen aanhoren.“ (vertaling door E.W. Beth)
De Stagiriet waarschuwt hier voor de sofist die bedreven in de taal de luisteraar misleidt door misbruik te maken van de verschillende betekenissen van de woorden en uitdrukkingen.
Ook de uitdrukking ‘taalgebruik’ is dubbelzinnig en kan derhalve tot verwarring leiden. Wanneer we het hebben over het ‘taalgebruik’ door ChatGPT dan bedoelen we daarmee iets heel anders dan wanneer we het hebben over het ‘taalgebruik’ door mensen.
De toegang tot de betekenissen
In het begin van De Interpretatione legt Aristoteles de relatie uit die de woorden hebben tot de ziel. Hij zegt daar dat wat we met de stem uiten, de gesproken woorden, symboliseert wat de ziel ervaart. Een onmiddellijke uitdrukking van het emotionele zieleleven. Het geschreven woord staat op zijn beurt voor het gesproken woord. Woorden komen dus in diverse media voor. Maar wat ook duidelijk is is dat er een soort van hiërarchische relatie bestaat. Het gesproken woord is primair, de tekst is secondair. Ook bij Plato is dit het geval. Daarbij komt dat in de spraak de spreker zelf aanwezig is (er was nog geen spraakopnametechnologie, de meeste mensen konden niet lezen en het was gebruikelijk teksten hardop te lezen) terwijl die in de geschreven tekst afwezig is. Je kunt als lezer de tekst die tot ons spreekt dan ook niets vragen. De auteur is niet aanwezig.
Volgens moderne filosofen hebben we dat hele idee van de auteur van de tekst helemaal niet meer nodig. Het schijnt ook een tamelijk recente vondst te zijn. Net zoals ‘particulier eigendom’. Sinds wanneer bezit een schaapherder schapen, een veeboer koeien en is het van belang de grootte van de kudde te weten in verband met allerlei maatschappelijke regels en wetten?
De moderne filosofen hebben ook kritiek op het primaat van de gesproken woorden boven de geschreven woorden. Inderdaad worden gebarentalen niet gesproken. Maar er is wel een auteur en actor aanwezig. De wiskunde kent tekens en formules die niet gesproken worden. Maar dan zitten we al in het domein van de technologie, waarin teken en betekenis bijna niet meer te onderscheiden zijn.
Hoe lastig dat is blijkt wanneer we ons afvragen wat het verschil is tussen een computer die gewoon schaakt en eentje die blind schaakt.
Computers kunnen goed schaken, maar kan een computer ook blind-schaken? Wat is het verschil tussen een computer die wel en een die niet blind schaakt? Een vreemde vraag. In de wereld van de machine is er immers geen onderscheid meer tussen de echte fysische wereld van het schaakbord en de representatie ervan in de virtuele wereld van de wiskunde. Op de inhoudelijke structurele correspondentie van die twee is immers de informatica gebaseerd. Die correspondendtie is het principe van de informatica. Model en werkelijkheid zijn uitwisselbaar. Zodra we het verschil willen beschrijven blijken de twee hetzelfde. Het verschil bestaat wel, maar slechts buiten de beschrijving ervan.
Anders gezegd, de zintuiglijke waarneming, waar ‘blind’ naar verwijst, veronderstelt het fysieke onderscheid tussen het zelf en het andere. Maar de grens tussen de machine zelf en het ‘andere’ (de fysieke omgeving met het schaakbord) is niet een grens van de machine zelf. Het is geen fysieke grens. Die grens is door de constructie door de mens van buiten af opgelegd. Het is aan ons, te bepalen waar die grens ligt. Is de visuele sensor deel van de machine? Het is een mathematische grens en die heeft als zodanig iets willekeurigs. De constructie veronderstelt een beschrijving van de grens en van het andere. Maar door die beschrijving van het andere, die voorwaarde is voor de constructie van de machine, is het andere niet meer het andere. Dat is de fundamentele reden waarom blindheid, en zintuiglijke waarneembaarheid, geen geschikte begrippen zijn als het over machines gaat.
In de technologie komen mathematische en fysische objectiviteit samen, maar we moeten ze goed onderscheiden.
Het instrumentaal
Het lijkt soms misschien wel zo, maar we zitten niet gevangen in de taal. Je kunt niet serieus zeggen/bedoelen dat de taal niet over iets gaat dat buiten de taal ligt. Vaak wordt het gebruik van het woord en de betekenis ervan uit elkaar gedacht alsof de betekenis van het woord buiten het gebruik bestaat, zoals de echte pijp buiten de afbeelding ervan bestaat. Verwoorden is geen afbeelden.
Het beeld alsof de betekenis van de woorden iets is dat bepaald wordt door de differenties met andere woorden is een typisch mathematische reconstructie. Inderdaad, als een woord al iets is, dan is het een historisch gegroeide bundel van relaties met andere woorden. Relaties die de weerslag zijn van de verschillende gebruiken ervan in een bepaalde cultuur. Dit geheel is in zekere zin de taal. Die bestaat, net als de woorden, in verschillende media. Wiskundigen en taaltechnologen coderen de woordbundels in ‘word embeddings’, veel-dimensionale vector-structuren waarin elk woord een plaats heeft in de taal. De mogelijke functies of rollen die een woord kan hebben worden vastgelegd in zo’n structuur. Deze netwerken worden gebruikt in LLMs, de grote taalmodellen. De posities van de woorden in het netwerk worden bepaald op basis van de analyse van grote hoeveelheden teksten, de neerslag van het woordgebruik in een bepaalde cultuur. Wanneer we zeggen dat ChatGPT taal ‘gebruikt’, dan bedoelen we dat het gebruik maakt van deze netwerken om als reaktie op ‘prompts’ van de menselijke ‘gesprekspartner’ teksten te genereren die, volgens een statistische maat het beste past bij de opdracht in de vorm van een tekst die de gebruiker aanbiedt. Wie de (betekenis/functie van de) woorden identificeert met de positie die ze in de mathematische reconstructie hebben, verontachtzaamt de gastvrijheid en openheid van de taal.
De resultaten van de nieuwe taaltechnologie zijn soms verbluffend. Maar wat is dat resultaat precies en hoe is dat tot stand gekomen? Het resultaat van het machinale proces dat op het beeldscherm verschijnt herkennen we als een tekst die ons als lezer iets zinvols zegt. Daarin verschilt het soort resultaat niet wezenlijk van de tekst die de geldautomaat toont of de tekst “U bevindt zich hier” op het informatiebord.
Laten we nog even stilstaan bij dit informatiebord. Iedereen bevindt zich op elk moment ‘hier’ dat is: op de plek waar hij zich op zeker moment bevindt. Het antwoord “Ik ben hier.” op de vraag “Waar ben je?” zegt dus niets. Daar is immers net zo goed een hier als hier. Dit is de zuivere ruimtelijke uitgebreidheid: onverschilligheid, er is geen verschil. Er is in de uitwendigheid geen betrokkenheid van het ene hier op het andere. Analoog aan het nu dat vele nu’s kan zijn (nu is het dag, nu is het nacht) kan het hier veel hiers zijn. Om iets te zeggen moet er een onderscheid gemaakt worden: ik ben hier, dat is: daar waar ik nu naar wijs op de kaart of door woorden (‘ik ben thuis’). Dit onderscheid wordt tegelijkertijd weer opgeheven door de identiteit van de beide onderscheiden momenten (hier en thuis) uit te drukken. Ik ben hier, op de plek die ik op de kaart of op andere wijze, in taal, aangeef. De pijl wijst een locatie op de kaart aan die een andere is, maar ook overeenkomt met het werkelijke hier dat bedoeld wordt.
Merk op dat de tekst “U bevindt zich hier.” alleen dan als zinvol taalgebruik wordt ervaren als het bord inderdaad op de plek staat die correspondeert met de virtuele plek waar de pijl op de plattegrond naar verwijst. Die moet bovendien overeenkomen met de fysieke locatie waar de lezer, die zich met het deictische ‘U’ weet aangesproken, zich bevindt.
Ook hier gaat het dus, net als bij ChatGPT, om de juiste inbedding van het tekstgebruik in de wereld van de gebruiker om de ervaring van zinvol tekstgebruik bij de gebruiker te realiseren. Alleen dan werkt de tekst. Er is nóg een belangrijke overeenkomst. De mededeling “U bevindt zich hier” kan en zal vaak opgevat worden als die van een autoriteit die de gebruiker zijn plaats in de werkelijkheid van de plattegrond aanwijst. Het is zó. De naïeve lezer gaat er vanuit dat aan bovengenoemde voorwaarden voor zinvol taal en techniek-gebruik voldaan is. Hij geeft de macht aan de tekst.
Dat er altijd sprake is van een co-produktie van ‘tekstproducent’ en gebruiker/lezer blijkt wanneer niet aan de gebruiksvoorwaarden voldaan is. Bijvoorbeeld als de plattegrond niet op de fysieke locatie staat die overeenkomt met de virtuele locatie die de tekst op de kaart aanwijst. Het verschil tussen de communicatietechnologie van het informatiebord en die van op taalmodellen gebaseerde tekstproducenten als ChatGPT is dat het bij de laatste aan de gebruiker wordt overgelaten te bepalen wat de bijdrage van de tekst is aan het doel dat de gebruiker van de technologie heeft. De woorden van de tekst moeten ook ingebed worden in het kennisnetwerk (en de feitenwereld) van de aktuele gebruiker. Het is de gebruiker uiteindelijk die de zin van de tekst uitmaakt. Woorden worden soms wel als gereedschap gezien. Daar zit iets in. Met dien verstande dat het gebruik niet vast ligt. De schroevendraaier blijkt zich ook te lenen voor het openen van een blik. Zo leggen ook de woorden niet vast waarvoor ze gebruikt kunnen worden.
Mathematisering van taal
Coeckelbergh en Gunkel spreken over een ‘non-representational view of language’. Een tekst, of deze nu door een machine of door een mens geproduceerd is (het auteurschap is een ouderwetse notie), krijgt een betekenis, niet door te verwijzen naar ‘some transcendental signified’ (nog zo’n ouderwets idee), een betekenis die buiten de tekst zou bestaan. “It comes to enact and perform meaning by way of interrelationships to other texts and contexts in which it is already situated and from which it draws its discursive resources.” Dit is precies de mathematische reconstructie die ik hierboven beschreef. De auteurs wijzen dan ook op de functie van deze ‘non-representational view’ om te begrijpen waarom de door LLMs geproduceerde teksten “can make sense at all (to humans)”. “For the text of an LLM to make sense, the texts (and the contexts to which they refer) are enough. For this purpose, nothing more is needed.”
Vanuit de techniek gezien zijn tekst en gebruiker abstracte entititeiten. Ze krijgen pas betekenis voor de bijzondere gebruiker (degene die door ‘u’ wordt aangesproken) in het concrete bijzondere gebruik. Tekst en gebruiker zijn variabelen waarvan de waarde in en door het gebruik wordt ingevuld door de aktuele gebruiker. Ik ben als die aktuele gebruiker hier en nu de waarde van de variabele ‘u’ en wat ik in de tekst lees dat maakt voor mij de waarde van deze tekst uit.
Betekent dit dan toch dat we ‘imprisoned in language’ zijn? Nee, het betekent dat we altijd weer de taal nodig zullen hebben om als gebruiker/lezer onze positie ten opzichte van wat de tekst ons zegt te bepalen. Het betekent niet dat er niets buiten de tekst, buiten de taal, zou bestaan. Want waar hebben we het dan eigenlijk over als we dat zeggen?
Het debat over de betekenis van LLMs en ChatGPT zou volgens de auteurs niet moeten gaan over kwesties die gebaseerd zijn op oude metafysische dichotomieën en concepten, zoals auteurschap, betekenis en over ontologische kwesties als wat is een machine in onderscheid van een mens. De aandacht moet meer gaan naar de macht van de grote techbedrijven die met de taalnetwerken het speelveld bepalen waarbinnen we als gebruikers het spel van de taal met de technologie spelen.
Niet over de vraag wat een echte moeder is, maar over de macht van Koning Salomon. Waaraan ontleent hij de wijsheid die hem als autoriteit laat bepalen wie de echte moeder is?
Bij Plato en bij Aristoteles is de technische aktiviteit van het maken paradigmatisch voor het metafysische onderscheid tussen materie en vorm: de pottenbakker, de timmerman. Het technisch concept, de idee tafel, of stoel is leidend voor het proces van het maken dat tot het resultaat moet leiden. Wat deze metafysica vergeet is dat het resultaat zonder waarde is als het niet zinvol gebruikt wordt. Het is uiteindelijk de gebruiker die het produkt maakt door het te gebruiken. Die gebruiker wordt in het technische ontwerp, als abstracte gebruiker, mede ontworpen. De gebruikers- en installatiehandleiding programmeert de gebruiker hoe hij de nieuwe techniek moet inbedden in zijn leefwereld en hoe er mee om te gaan. De machine veronderstelt de programmeerbaarheid van de gebruiker. In het praktische gebruik komen de abstracte gebruiker en de concrete gebruiker bijelkaar. Tegenwoordig kan de introductie van nieuwe technologie niet zonder de verhalen (media, reklame) die de consument moet vertellen bij welke behoefte het produkt aansluit. De mens is van nature nieuwsgierig, maar heeft geen natuurlijke behoefte aan de televisie of aan ChatGPT. Die moet gecreëerd worden.
Op deze wijze grijpen de grote machtige techniekproducenten diep in in de leefwereld van de burgers. Niet alleen in de fysieke leefwereld, maar ook steeds meer via de taaltechnologie, in de denkwereld. De publicaties in de media over bijvoorbeeld ChatGPT zijn onderdeel van de nieuwe technologie. En dat op twee manieren. Allereerst omdat ze deze technologie in de markt zetten. Zo stimuleren ze het gebruik. En ten tweede omdat de teksten van deze debatten weer als voedsel gebruikt worden om taalmodellen up-to-date te houden.
Het debat werkt de grote techbedrijven in de hand, omdat ze volgens de auteurs de macht aan de politiek van het grootkapitaal laten.
“Currently Platonic metaphysics is used to justify and legitimate the exercise of power by both big tech companies and those who criticize them. Our proposed interventions recognize this power dimension and enable us to shift the problem from the metaphysical query “Is this real?” to more specific and critical ethical and political questions. What kind of performances and processes are good? Who has power over these processes, and who has already been excluded or marginalized?”
De auteurs besteden ook aandacht aan het gevaar dat de nieuwe technologie de arbeid van de mens overneemt en deze uit het arbeidsproces stoot. Na het werk van de rekenaars, is ook veel lichamelijke arbeid overgenomen door machines. Veel arbeid bestaat voor een deel uit het produceren van teksten. Dit lijkt nu ook door machines te worden overgenomen. Zodra machines de ‘mechanische werkzaamheden’ kunnen overnemen wordt het inhumaan om dit nog door de mens te laten doen. Tenzij misschien als contemplatieve bezigheid.
Ook de filosofie moeten het van de taal hebben. Maar of de schrijfarbeid van de filosofen door de machine kan worden overgenomen? Dat zou wellicht het einde van de metafysica betekenen. Filosofische teksten zeggen nooit wat ze zeggen. Wat de vorm betreft lijkt het alsof de filosofische tekst je als lezer iets meedeelt, maar dat blijkt niet het geval. Het typische van filosofische teksten is dat je ze altijd meerdere keren moet lezen voordat je ze begrijpt. De lezer vermoedt dat er iets gezegd wordt dat hij bij eerste lezing niet meekrijgt, maar dat op de achtergrond meespeelt. Er blijft altijd iets impliciet. En toch verschilt de filosofie van de poëzie. Dat verschil is betrekkelijk, niet strict. In de filosofie ligt het primaat bij de rede, de logica, in de poëzie bij de emotie en de associatie.
Aan het onderscheid tussen mens en machine kunnen we als mens niet ontkomen omdat het machinale een aspect van het bestaan van de mens is. Anderzijds is de machine zonder de mens geen machine. De mens gaat vooraf aan de techniek. Het is de ‘transcendentale voorwaarde’ voor de machine. Mens en machine verhouden zich als binnenkant en buitenkant, als het zelf en het andere. Net als bij de ouder kind verhouding gaat het om de relatie. We zouden kunnen zeggen dat de opposities tussen mens en machine, teken en betekenis, relatief zijn. De correlatieven worden volledig bepaald door de relatie die ze tot elkaar hebben. De ‘aanwezigheid’ van de mens die vooraf gaat aan de machine is essentieel. Zonder dit voorafgaande in de machine geen machine.
Het einde van de metaphysica is in de afgelopen paar eeuwen door verschillende filosofen aangekondigd, om plaats te maken voor een nieuwe eigentijdse metafysica. Zo werden Plato en Hegel door anderen op de kop gezet (Kant, Frege, Marx, Nietzsche, Heidegger, Deleuze, Derrida).
Jan Hollak is van mening dat de informatietechnologie, de technologie in haar zelf-reflexieve vorm, de objectivering van de technische idee als zodanig is (zie zijn Hegel, Marx en de Cybernetica (1963) en Van Cause sui tot Automatie (1966)). Dat zou betekenen dat een volgende fase in de technologische ontwikkeling het technische overstijgt. Sommige mensen zien dit mogelijk gebeuren in de vorm van een artificiële persoon. Zolang de sociale robots niet zelf verantwoordelijkheid nemen, lijkt dit niet een echt bruikbare optie. De techniek overstijgt zichzelf in iets anders dan techniek. Ze moet dienstbaar zijn aan de mens, en niet aan een selecte klasse van mensen. Volgens Louk Fleischhacker vraagt de technologie om controle over de technologie. Dat vraagt om een andere verhouding tot de natuur dan een technologische benadering waarin de mens zich als heerser tegenover een als levenloos opgevatte natuur plaatst.
Coeckelbergh, M., and Gunkel, D. 2023. ‘ChatGPT: Deconstructing the Debate and Moving It Forward‘ in AI & Society. Online first 21 June 2023.