“GTP-4 is exciting and scary” (New York Times, 2023)
“Op heel veel gebieden is kunstmatige intelligentie al slimmer dan menselijke intelligentie.” Het is een vaak gehoorde bewering, die vooral komt uit de koker van de ICT-ondernemingen die zich bezig houden met de ontwikkeling van artificial intelligence. Gaat het hier om meer dan een ordinaire reklameslogan; het ophemelen van een produkt (AI) om het in de markt te zetten en om financiering te verwerven voor de verdere ‘beloftevolle’ ontwikkeling ervan?
In het programma Buitenhof van zondag 9 november j.l. werd VU hoogleraar Felienne Hermans door de presentratice Maaike Schoon om commentaar gevraagd op deze bewering. Is AI al slimmer dan de mens? Hermans reaktie is een wedervraag: wat bedoelen we eigenlijk met ‘slim’? Is de machine slim omdat deze van de beste schaker kan winnen?
Hoe kunnen we mens en machine vergelijken? Kunnen we de (vermeende) superioriteit van de mens verdedigen door een taak aan te geven waarin hij beter is dan iedere machine? Hoe zouden we een mens-machine-contest moeten inrichten om te kijken wie beter is? In zijn essay Meeting on neutral ground. A reflection on man-machine contests beargumenteert Albert Visser (2020) dat een vergelijkende test tussen mens en machine een succes-criterium vereist dat neutraal is. Neutraal in die zin dat het geen vooronderstellingen doet met betrekking tot de aard van de mens noch van de machine. Iedere vorm van antropologie en machinologie moeten we achterwege laten om het gevaar van een petitio principii, een circelredenering, te vermijden. Volgens Visser is zo’n ‘neutrale’ test echter niet mogelijk.
Door zo’n neutrale contest zien we precies af van wat ons menselijk maakt, eigenschappen die niet kunnen worden beschreven in neutrale termen. Zo’n contest is welbeschouwd een tactiek om serieuse filosofie te vermijden, terwijl er geen ontsnappingsweg is om aan serieuse filosofie te doen. “We do need both philosophical anthropology and philosophical machinology. We have to deal both with homo absconditus and machina abscondita.” De vraag naar het verschil tussen mens en machine komt uiteindelijk neer op de vraag naar wat mens-zijn is en wat het betekent machine te zijn.
Kort gezegd komt het erop neer dat de vergelijking in de vraagstelling “wie is slimmer, de mens of de machine?” uitgaat van de idee dat kunstmatige intelligentie en menselijke intelligentie zelfstandigheden zijn van een zelfde soort die je als zelfstandigheden tegenover elkaar kan plaatsen en zo kunt vergelijken. Hier heb je de machine en daar de mens. En de vraag is dan: welke van de twee is slimmer (in een bepaalde situatie of op een bepaald domein)? In die vooronderstelde tegenoverstelling van twee als onafhankelijk van elkaar beschouwde entiteiten zit een fundamentele denkfout. Menselijk denken en machinaal denken of menselijke slimheid en kunstmatige slimheid bestaan zo niet tegenover elkaar als zelfstandige zijnden. De relaties die mens en machine tot elkaar hebben is wezenlijk voor hun eigen aard. En die relaties zijn niet symmetrisch. Zeggen we er meteen maar even bij. Anders dan de ideale relatie van persoon tot persoon.
Natuurlijk bestaat de machine in zekere zin, als ding, ook buiten de mens. Het gaat echter om dat wat het ding tot machine maakt en niet om het fysieke ding. Vergelijk het met de relatie ouder-kind. De ouder en het kind zijn zelfstandige personen, maar de ouder is ouder in relatie tot het kind en wat het kind kind maakt is de relatie tot de ouder. Het gaat hier op een relatieve oppositie.
Buiten de relatie tot de mens die de machine heeft bedacht, gemaakt, gebruikt en (soms) aanbidt is de machine, de kunstmatige intelligentie, niet wat het is. De machine is niet een zelfstandige entiteit los van de mens voor wie de machine machine is. De zelfstandigheid van de machine is wezenlijk een relatieve zelfstandigheid. En die zelfstandigheid is een andere dan die van een menselijke persoon, zoals mijn zoon. De relatie zoon zijn van mij maakt niet zijn zelfstandigheid die hij is. Anders bij de machine: die is slechts wat het is in relatie tot de mens voor wie het ding machine is. De zelfstandige eigen aard van de machine is ook van een andere soort dan de zelfstandigheid van de natuur welks krachten de mens gebruikt om technologie te maken. De machine is een intelligente constructie, die een praktische werking heeft. Merk op dat het bij de mens-machine-contest niet gaat om de particuliere (schaak)partij tussen deze mens en deze specifieke machine. Het gaat om dat wat de machine intelligent maakt, de technologie. Het gaat in wezen om de software, de programma’s. Wat vergelijken we eigenlijk? Vergelijken we de ‘kale’ mens, zonder gebruik van enige technologie (zonder telraam, rekenmachine?) met de kunstmatige intelligentie? Maar wat is die ‘kale’ mens? Bestaat die in de praktijk wel?
“Onder de conditie dat een computer een technisch produkt is, kun je niet zinvol de vraag stellen of hij net zo intelligent is als de mens.” (Louk Fleischhacker in Ta! Jaargang 2, Nr 3. 1994)
We moeten dus voor het juiste begrip van de kunstmatige intelligentie naar die relaties kijken: bedenken (creatie), gebruiken en verafgoden (verkopen). Waar we hier naar zoeken is begrip en begrijpen vereist een ander vermogen dan slimheid. Omdat machines in principe slechts kunnen rekenen – een schaakcomputer berekent wat de beste zet is – en omdat we alleen iets aan machines hebben inzover we er op kunnen rekenen zijn we op de goede weg als we zoeken naar de relatie van het rekenen. Rekenen is een heel bijzondere vorm van denken. Het is een machinale, nogal onpersoonlijke, wijze van denken. Een wijze van denken waarbij iedere vorm van subjectiviteit en emotie uitgeschakeld is.
De vraag of machines beter kunnen rekenen dan mensen zal door de meesten van ons met een volmondig ‘ja’ worden beantwoord. En dat is niet omdat machines slimmer zouden zijn dan mensen, maar omdat rekenen nu eenmaal iets mechanisch is waar je niet meer bij hoeft na te denken. Dat nadenken is al gedaan en uitgedrukt in de vorm van regels. Rekenen is immers het manipuleren van tekens volgens hun betekenis. En die betekenissen zijn eenduidig vastgelegd volgens de regels van de wiskunde. Zoals de betekenis van de schaakstukken vastliggen met de regels van het spel. Rekenen is een vorm van denken dat mechanisch verloopt. Als we leren rekenen op school, te beginnen met het tellen, maken we onzelf even tot een machine die aangeleerde schoolse rekenregels volgt om een som op te lossen. We programmeren onszelf door ons te laten programmeren.
Als we het begrip slimheid in onze vergelijking reduceren tot het vermogen te rekenen dan vergelijken we een gereduceerd mensbeeld met het machinebeeld. Dat is geen eerlijke vergelijking. Mensen kunnen meer dan rekenen. En het is tevens de vraag of het rekenen dat een mens doet wel hetzelfde is als het rekenen van een machine.
“The problem is, of course, that computing power cannot be detached from the human.” (Visser, 2020)
Een schaakcomputer rekent omdat de regels van het spel exact vastliggen en het doel bekend is. Mijn stelling is nu: zonder die tekens die we manipuleren kan de mens niet rekenen. Omdat rekenen iets mechanisch is, kan dit door een machine worden gedaan. Wat de machine echter niet uit zichzelf weet is wàt er berekend moet worden en wat de betekenis is van de uitkomst. De machine weet niet eens wat invoer en uitkomst is. De mens gebruikt de machine door een programma te schrijven dat deze moet uitvoeren, volgens eenzinnige regels. Ook het uitvoeren van een programma is een rekenproces. Wie wel eens een Turing-machine heeft geprogrammeerd weet dat er geen wezenlijk verschil bestaat: ook de uitvoering van een programma gaat volgens een programma. Uiteindelijk is het de hardware, zijn het fysische processen, die werken, volgens natuurwetten.
In hoeverre kunnen we zeggen dat in een partij schaak tussen een mens en een machine de menselijke schaker en machine-schaker hetzelfde spel spelen? Is er niet alleen dan sprake van ‘hetzelfde spel’ wanneer we het spel reduceren tot het kale verloop van de zetten die volgens de regels van het spel zijn gezet? Waarbij we afzien van de subjectieve beleving, de moeite, de stress door de gevoelde tijdsdruk, de concentratie, de strijd tegen de afleiding. Al die zaken die het spel tot een strijd maken en die de heroiek van de behaalde winst uitmaken. De machine kent geen stress, heeft geen zenuwen en kent de vreugde van de winst, de smart van het verlies niet. Voor de mens heeft het spel een existentiele betekenis. Voor de machine bestaat zoiets niet, omdat het begrip machine de notie ‘voor zich zijn’ uitsluit. De werkelijke machine-spelers in de schaakcontest zijn de programmeurs, de makers van het programma. Zij zijn degenen die de spanning van het spel ervaren en die de winst of het verlies mee naar huis nemen. Niet de machine.
Visser begint zijn essay met een fragment uit de Noorse sage over de held Beówulf. “The Beówulf saga can be read as an internal reflection on the ethos of the warrior.” Wat maakt de strijder een held? Is het louter een kwestie van kracht? Nee, zegt Visser.
“The answer to our problem should be that what truly makes the warrior is not strength taken in isolation. It is strength in combination with something essentially human: the acceptance of death, the acceptance of wyrd. The fact that strength can be embodied in an almost mindless monster shows that strength is, in a sense, neutral.”
Wyrd staat voor het lot. De held tart het lot. Bij het spel waarin het er echt om gaat, hoort de ‘suspense’ die voorafgaat aan het nemen van een beslissing. Ook Derrida noemt die suspense als wezenlijk om van een echte beslissing te kunnen spreken. Machines kennen geen suspense en nemen dus ook geen beslissingen. Volgens Victor Kal is het wezenlijk voor de wilsvrijheid. Niet te verwarren met keuzevrijheid, de vrijheid om uit een vooraf gegeven aantal opties te moeten kiezen.
De sprekende machine
Maar hoe zit het dan met de sprekende machines, zoals ChatGPT, waarmee je een gesprek kan voeren? Het zijn met name deze taalmachines die ons verbaasd doen staan over de intelligentie van de machine. En toch is wat deze machines doen niets anders dan rekenen. Ook al is de uitkomst soms ‘onberekenbaar’ en verrassend. Wat is er zo bijzonder aan deze produkten van taaltechnologie dat ze ons doen vergeten dat het ‘maar machines’ zijn en dat we ze menselijke intelligentie toedichten?
Een technisch instrument is uitgevonden, een resultaat van creatief denkwerk. Of het nu om een muizenval, een nietmachine, een benzinemotor of een rekenmachine gaat, deze slimme, nuttige, constructies zijn uitdrukking van denkwerk. De menselijke slimheid komt in deze originele constructies op basis van natuurlijke krachten en materiële eigenschappen tot uitdrukking. Het bijzondere aan de taalmachines, en de progammeerbare machines is dat ze gebruik maken van taal. En taal is bij uitstek de uitdrukking van het denken als denken. Het is niet voor niks dat we denken dat een apparaat dat onze taal spreekt denkt zoals wij denken. Een machine zit ‘logisch’ in elkaar maar een denkende machine die werkt met ‘logische schakelingen’ is in expliciete zin logisch. In de informatieverwerkende machine maken we gebruik van de correspondentie tussen wiskundige denkprocess en natuurprocessen.
Het mooie van taal is de vrijheid die het biedt om van alles en nog wat te zeggen. Het problematisch van taal is de keerzijde van deze vrijheid: dat je aan de zinnen niet kunt zien hoe ze zich verhouden tot de waarheid. ChatGPT produceert met hetzelfde gemak zinnen die ware beweringen uitdrukken als onware of zinloze beweringen. Voor ChatGPT is de waarheid bullshit.
Voor Alan M. Turing, die wel de vader van de informatica wordt genoemd, is het voeren van een gesprek bij uitstek intelligent gedrag. Hij bedacht een experiment om te bepalen of de door hem bedachte programmeerbare (Turing) machine intelligent genoemd mag worden. In de Turingtest moet een mens door een conversatie te voeren met een onbekende beslissen of hij met een machine of met een ander mens te maken heeft. Wanneer in een significante hoeveelheid gesprekken het niet mogelijk blijkt de juiste beslissing te nemen, dan moeten we volgens Turing de machine intelligent noemen.
Dus, terwijl iedere machine, ieder technisch ding, uitdrukking is van menselijke intelligentie en denken is de taalsprekende machine uitdrukking van de mens als denkend wezen. En toch is het een machine. Dus hij kan in wezen alleen rekenen: het machinale denken is de machine eigen. Hoe kan dat samengaan?
De zogenaamde ‘denkende’ taalsprekende machine waarmee we hele gesprekken kunnen voeren, is het resultaat van een slimme vondst. Die vondst maakt gebruik van het feit dat de mens zijn denken en intelligentie in taal tot uitdrukking brengt.
De mens denkt talig, hij schrijft taal, hij spreekt taal. En die taal is aangeleerd, niet zoals de regels van de wiskunde, maar in en door het gebruik. Ook verandert de taal in en door het gebruik. Dat gebruik van taal dat neergelegd is in een snel groeiend aantal documenten, het corpus van de taal, wordt door machines gebruikt als trainingsmateriaal om het gebruik van woorden en zinnen zoals de mensen dat doen in hun gesprekken en boeken te leren. Hoe heeft de taalkundig onderlegde wiskundig ingenieur dat voor elkaar gekregen? Door de ordening van de onderdelen van een tekst te leren op basis van heel veel voorbeelden. Wiskundige maken modellen. In een wiskundig taalmodel worden de regelmatigheden van de taal vastgelegd. Deze statistische modellen bepalen met welke kans een woord voorkomt op een bepaalde positie in een gegeven contekst van woorden. De taalsprekende machine berekent de best passende voortzetting van een tekst op basis van statistische rekenregels.
Ook kunstmatige intelligentie komt neer op het uitvoeren van programma’s. Dat de uitkomst ervan vaak onzeker is komt doordat de invoer van het proces ons onbekend is. Zo’n computer is ingebed in een omgeving, met fysieke sensoren, die op elk moment de invoer van het proces bepaalt. De complexiteit van het gehele systeem maakt het onmogelijk voor de mens om te voorspellen wat de machine zal doen. En dat ‘onberekenbare’ is er mede de oorzaak van dat we zeggen dat de machine een eigen zelfstandigheid heeft.
Het woord ‘berekenbaar’ is dubbelzinnig. Het kan wijzen op het technische begrip programmeerbaar. Maar ook informeel op betrouwbaar. In een interview met De Correspondent beweert Hermans: ‘Programmeren is meer dan computational thinking. Ik kan een programma maken dat willekeurige noten speelt of willekeurige woordjes voor me uitkiest.’ Maar hoe ‘willekeurig’ is de keuze die de computer maakt? Ongetwijfeld maakt het programma gebruik van een pseudo-randomgenerator. Een programma dat een getal kiest uit een voorafgegeven verzameling mogelijke getallen. Welk getal het kiest is voor de gebruiker niet te voorspellen. In die zin is de uitkomst ‘onberekenbaar’. Op dezelfde manier is de uitkomst van een worp met een dobbelsteen niet ‘berekenbaar’.
Wat bedoelt Hermans precies? Ze vervolgt: “Dan kan ik de computer vragen om melodieën te maken die zo min mogelijk op elkaar lijken of drie woorden die geen letter met elkaar gemeen hebben, zoiets geks. Na wat spelen heb je dan misschien een mooie melodie of een mooi gedicht! Daar heb je helemaal geen computational thinking skills voor nodig, maar het levert iets moois op wat niet zo makkelijk zonder computer te maken is. Dat creatieve proces dat gun ik ieder kind.” Het argument betreft dus niet het programmeren van de computer die willekeurige woordjes kiest, maar het ‘creatieve’ gebruik ervan, waarvoor helemaal geen ‘rekenkundige programmeer’ (‘computational’) vaardigheden nodig zijn. Veel computersystemen rekenen met onzekerheden, uitgedrukt in waarschijnlijkheden. We kunnen daar vrede mee hebben zolang de werking ervan in de meeste gevallen bruikbare resultaten oplevert.
Wij weten niet hoe ChatGPT ertoe komt de tekst te produceren die het aan ons voorlegt. Wanneer die tekst door ons als een zinvolle bijdrage aan de conversatie wordt gezien, ervaren we de machine als slim. Dat wij het zijn die uiteindelijk bepalen of de bijdrage zinvol is, dat blijkt vooral wanneer ChatGPT bullshit presenteert of hallucineert. Het gebruik van ChatGPT vereist wel enige vaardigheden in het formuleren van de relevante prompts en het geven van contextinformatie, wil je er iets zinvols mee bereiken.
ChatGPT werkt op basis van statistische taalmodellen, Large Language Models, die gebruik maken van neurale netwerktechnieken. Als er al logica, denkkracht, in zit, dan is dat impliciet in de statistische ordening van de taal die het genereert. Het statistisch complexe karakter maakt het onmogelijke te traceren hoe een dergelijk systeem aan zijn antwoorden komt. Sommige AI experts, zoals Judea Pearl, de uitvinder van de causale netwerken, beschouwden deze systemen dan ook niet als kunstmatige intelligentie: “ze redeneren niet”. Ze kunnen dus ook geen verantwoording afleggen op basis waarvan ze tot een antwoord komen. Deze systemen kunnen alleen verwijzen naar documenten die ze hebben geraadpleegd. Grote taalmodellen (LLM’s) zijn recentelijk geëvolueerd en omvatten nu gespecialiseerde varianten die expliciet zijn ontworpen voor redeneertaken: grote redeneermodellen (LRM’s) zoals OpenAI’s o1/o3, DeepSeek-R1, Claude 3.7 Sonnet Thinking en Gemini Thinking. Deze modellen worden gekenmerkt door hun “denk”-mechanismen zoals een lange redeneerketen (‘Chain-of-Thought’). Ze simuleren ‘zelfreflectie’. Deze modellen hebben al veelbelovende resultaten laten zien in verschillende benchmarks voor redeneren. Sommige onderzoekers beschouwen LRM’s als een belangrijke stap in de richting van General Intelligence, intelligentie die de toepassing van taal en logica in specifieke domeinen overstijgt. In een recent artikel, The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity, analyseren experts van Apple hoe deze nieuwste ‘logische’ modellen tot de oplossing komen van complexe en minder complexe problemen. Door LRM’s te vergelijken met hun standaard LLM-tegenhangers komen de onderzoekers tot de volgende drie probleemcategorieën: (1) taken met lage complexiteit, waarbij de standaard LLM modellen de LRM’s verrassend goed overtreffen, (2) taken met gemiddelde complexiteit, waarbij aanvullend denken in LRM’s voordelen oplevert, en (3) taken met hoge complexiteit, waarbij beide modellen volledig instorten. Verder bleek dat LRM’s beperkingen hebben in exacte berekeningen: ze maken geen gebruik van expliciete algoritmen en vertonen ‘inconsistent gedrag’ bij het oplossen van verschillende problemen.
Intelligentie is meer dan de slimheid waarmee in een bepaald domein de juiste beslissing wordt genomen. Intelligentie duidt op het vermogen in te zien wat in een gegeven situatie zinvol is om te doen. Het nemen van de juiste beslissing is dan ook meer dan het resultaat van een berekening het resultaat van een intuïtie, het inzicht in wat nu moet gebeuren. Wat juist is, ligt niet helder vast zoals bij wiskunde. Het nemen van een beslissing vraagt om lef. Een echt besluit wordt in suspense genomen. Daar hoort het nemen van verantwoordelijkeheid bij.
In feite getuigt de vraag wat we met die kunstmatige intelligenties, zoals ChatGPT, aanmoeten al van het feit dat we zoeken naar de zin van deze technologische ontwikkeling. Vraagt het antwoord op die vraag niet om een aspect van menselijke intelligentie die juist niet in een berekenbare, machinale vorm kan worden uitgedrukt? Gebruiksvriendelijkheid is een belangrijk criterium voor het gebruik van nieuwe technologie. Hoe zinvol en gebruiksvriendelijk zijn onze intelligente computersystemen? Er bestaat een direct verband met de vraag naar de verantwoordelijkheid voor de effecten van het werken ermee. Want we kunnen de machines wel zelfstandigheid verlenen, onbemande raketsystemen zelf hun doel laten zoeken en laten beslissen wanneer ze moeten vuren, maar wie is verantwoordelijk voor dit ‘gedrag’? Wie is aansprakelijk wanneer een zelfrijdende taxi betrokken is bij een verkeersongeval? Wetgeving blijkt altijd achter te lopen bij de introductie van nieuwe technologie. Hoe zou dat komen? Het is een constante in de geschiedenis dat de introductie van nieuwe technologie onvoorziene gevolgen met zich brengt. Ze introduceert gebruikswijzen die niet van te voren bedacht zijn.
“De grootste onvriendelijkheid van de systemen bestaat erin dat ze nog minder verantwoordelijkheidsgevoel bezitten dan de ergste buraucraat!” (Louk Fleischhacker, Arbeid en Kunstmatige Intelligentie, 1989)
Kunnen we de rechtspraak volledig overlaten aan machines? Kunnen we het landsbestuur, de politieke besluitvorming, volledig overlaten aan machines? Of, om een wat eenvoudiger kwestie te noemen, kunnen we het ontwikkelen van wetten, methoden en technieken voor de oplossing van de klimaatproblematiek aan machines overlaten? Het is onzinnig om het technische aspect van het handelen te scheiden van de zin en het morele aspect van de verantwoordelijkheid die hoort bij het nemen van beslissingen, zowel op het persoonlijke als op het maatschappelijke vlak.
“Als ik maar trap gaat mijn fiets vanzelf” zei mijn oom Jan toen tante Griet hem vroeg of het niet eens tijd werd een auto aan te schaffen. Want die ging vanzelf. Bovendien hoefde hij dan niet meer iedere dag in weer en wind naar het werk te fietsen. Inderdaad gaat een fiets niet zonder meer ‘vanzelf’. Je moet wel zelf trappen om hem in beweging te krijgen. Wat de uitspraak van oom Jan zegt is dat de fiets ook vanzelf gaat, net als de auto; als je maar afziet van wat je zelf als fietser doet opdat deze ‘vanzelf’ werkt. Net als de auto, want wat is er wel niet allemaal voor nodig voordat een auto ‘vanzelf’ rijdt? Op dezelfde wijze is ook de machine een zelfstandig werkend ding, dat vanzelf werkt, in zoverre we afzien van de relatie die deze tot ons heeft en die in het uitvinden, maken en het zinvol gebruik ervan tot uitdrukking komt.
Het streven een kunstmatig evenbeeld van de mens te maken is van alle tijden. De mens verafgoodt zijn eigen creatie omdat deze het spiegel- en ideaalbeeld is van hemzelf. Ook deze verafgoding is van alle tijden. De mens objectiveert zijn zelf in kunst en techniek. Volgens de overlevering werd de beeldhouwer Pygmalion verliefd op een door hemzelf gemaakt ivoren beeld, dat daarna in een levend meisje verandert. “Het lijkt een echte jonge vrouw, je zou geloven dat zij leeft en, als fatsoen dat toestond, graag bemind wil worden – zozeer gaat kunst in eigen kunde schuil.” (Ovidius, Metamorphosen, Boek X, p. 254) In de roman De Procedure van Mulisch beschikt de opperrabbijn van Praag over het geheime recept om, in opdracht van de keizer, een mens, de Golem, te maken.
Er bestaat een zekere angst dat ons werk door de machine wordt overgenomen zodat we zelf geen werk meer hebben. Je zou je af kunnen vragen of ons werk nog wel menswaardig is, wanneer het, gegeven de stand van de techniek, volledig door machines kan worden overgenomen. Volgens Marx werd de mens door de kapitalistische ondernemer tot ‘aanhangsel van de machine’ gemaakt (denk aan de lopendebandwerker). Zijn kritiek berust op het morele kriterium dat “de mens in zijn arbeid als oorsprong van de waardeschepping in het produktieproces erkend moet worden” (J.H.A. Hollak, Marx’ wetenschaptheorie en zijn kritiek van het kapitalisme, 1976)
Evenmin als we de aktiviteit van het schaakspel kunnen reduceren tot het uitvoeren van een programma volgens de regels van het spel, kunnen we de arbeid reduceren tot een machinaal produceren. Maar wie is de waardescheppende oorsprong van het produktieproces? Is het de ontwerper, de ondernemer, de gebruiker? Zelfs wetenschappers en kunstenaars worden door de oprukkende kunstmatige intelligentie bedreigd. De waardescheppende macht lijkt steeds meer in handen te liggen van een paar grote ondernemingen, BigTech. Zij heersen in de wereld van media en AI.
Aanvankelijk meenden we een scheiding te kunnen aanbrengen tussen het technisch-wetenschappelijke werk en het praktische werk, het ‘modderen op de werkvloer’, dat dan slechts als uitvoering van het theoretische denkwerk gezien kon worden. Waarbij tevens een verschil hoorde in waardering en loon. Daarvan zijn we nu wel teruggekomen. De intelligente computer neemt ook in het technisch-wetenschappelijke domein steeds meer taken over. Bovendien groeit het inzicht dat de beste, want meest praktische en zinvolle, ideeën hun voedingsbodem vinden in dat ‘modderen op de werkvloer’ en niet in de ivoren torens van de technocratische bestuurders. Hoeveel onuitvoerbare, niet implementeerbare, onbruikbare regels worden er ‘in Den Haag’ niet verzonnen, doordat de bestuurders te ver afstaan van de werkvloer!
Taalmodellen, hoe groot ook, hebben altijd een zekere bias, vanwege de geselecteerde trainingsdata. Dat is geen onbelangrijk bijverschijnsel, maar een principieel tekort van taaltechnologie. Hoewel de mens in zekere zin afhankelijk is van de taal en de tijd waarin hij woont en leeft moet ieder mens zelf uitmaken wat hij te zeggen heeft en wat hij zinvolle taal vindt. Dat moet hij niet aan de technocraten van de industrie of de overheid overlaten. Onze taal is wezenlijk open en gastvrij. Dat hoort bij de vrijheid van mensen.
De AI-markt-koopmannen van BigTech wil graag doen voorkomen alsof kunstmatige intelligentie de oplossing is van alle menselijke kwalen, nu en in de toekomst. Alsof de toekomst een extrapolatie van het verleden is. Dat te denken, daarin schuilt de voornaamste bedreiging van de kunstmatige intelligentie: dat we AI zeggenschap toekennen over onze toekomst en haar een macht en zelfstandigheid toekennen die haar niet toekomt.
Sommige mensen zijn van mening dat weliswaar nu kunstmatige intelligentie nog niet zo slim is als menselijke intelligentie, maar dat dat in de toekomst wel zal zijn.
Chalmers (2023) overweegt de kwestie of machines over tien jaar bewustzijn kunnen hebben. Het lijkt me een onbeantwoordbare vraag. Omdat we niet goed weten wat de vraag precies is en hoe we die zouden kunnen beantwoorden. Het zal uit bovenstaande duidelijk zijn dat voor mij de vraag of er een verschil bestaat tussen menselijke en machinale intelligentie een metafysische vraag is, die het wezen van mens-zijn en tijd raakt. De vraag of een Turing machine intelligent is, kan niet door middel van een ‘fair’ (‘neutraal’) experiment, zoals de Turing test, beantwoord worden. Metafysica is geen experimentele wetenschap. De vraag vraagt om een vorm van intelligentie die voorbij het machinale ligt. De machine kan zichzelf niet uitvinden, noch kan deze uitmaken wat zinvol gebruik ervan is. Heeft de machine bewustzijn? Wat gaat er om in het brein van de machine? Het antwoord is wellicht: helemaal niets.
“The monster in John Gardner’s fantastic novel Grendel is amazed by the great emptiness he discerns in Beówulf.” (Visser, 2020)
“Computers waarvan we altijd hebben gedacht dat ze volgens precies vooraf geprogrammeerde regels moesten werken, kunnen nu dealen met wat ooit het laatste bastion van menselijkheid leek – ongeveer.” schrijft Hermans in een column in de Volkskrant. “Het is alsof er een soort epistemische wereldraad heeft plaatsgevonden waarin softwarebedrijven voor iedereen hebben besloten dat we vanaf nu allemaal afscheid moeten nemen van die gekke neiging om woorden precies te willen wegen, en genoegen moeten nemen met uitvoer van de misschien-machien. Zelfs Sam Altman geeft inmiddels toe dat hallucinaties er altijd bij zullen horen, zo werkt een stochastisch taalmodel nu eenmaal.” (VK, 6 nov. 2025)
Fuzzyness, vaagheid, wordt hier echter verward met waarschijnlijkheid. ‘Ongeveer goed’ is immers niet hetzelfde als ‘soms goed’. De ‘misschien-machien’ is iets anders dan de ‘ongeveer-machien’. We hebben meer aan een uurwerk dat altijd ongeveer de juiste tijd aangeeft, dan aan eentje die soms de juiste tijd aangeeft. ChatGPT geeft soms een correct antwoord. Ook al weten we hoe groot de kans is dat de informatie die het geeft correct is, dan nog weten we niet of dit antwoord, het antwoord dat hij nu op een vraag van ons geeft, correct is. Wat is trouwens een antwoord dat ‘ongeveer‘ goed is? Veronderstelt dat niet een kwantitatieve maat?
De taal is de uitwendigheid van het denken. Wie de aandacht richt op de taal en deze op zich beschouwt in abstractie van het denken en het sprekend subject waarvan het de uiting is, die mathematiseert het denken. Deze gemathematiseerde taal wordt zo een programmeertaal waarmee de technologie (BigTech) de gebruiker programmeert door middel van zijn stochastisch gegenereerde taal, die deze aan hem opdringt.
Feliene Hermans: “Het indrukwekkendste van LLM’s is dus misschien niet dat ze menselijke taal zo goed kunnen nadoen, maar dat mensen nu LLM’s gaan nadoen en de precisie van taal niet meer waarderen.” (VK, 6 nov, 2025)
Dat is behalve een indrukwekkende ook een bedenkelijke ontwikkeling.
Bronnen
David J. Chalmers (2023). Could a large language model be conscious? Within the next decade, we may well have systems that are serious candidates for consciousness. Boston Review, 9 Augustus 2023.
Jacques Derrida (1989). Force of Law: The ‘Mystical Foundation of Authority’, Cardozo Law Review 11 (1989-1990), 920-1046. The first part of a colloquium on Deconstruction and the Possibility of Justice, held at the Cardozo Law School in 1989.
Victor Kal (2023). Poetins Filosoof – Alexander Doegin. Uitgeverij Prometheus, 2023.
Albert Visser (2020). Meeting on neutral ground. A reflection on man-machine contests. In: Studia Semiotyczne (Semiotic Studies) t. XXXIV, nr. 1 (2020), pp. 279-294.
