“The unspoken is present in all speech.” (Louk Fleischhacker)
“If we ask the question “What is it Derrida is trying to say, here?” that very question—a mode of inquiry which seeks to discover what an author is saying in and by the writing—is logocentrism par excellence.” (David J. Gunkel In: Does writing have a future)
De stripfiguur Ollie B. Bommel eindigde zijn betoog vaak met de woorden: “Als je begrijpt wat ik bedoel”. Wat zou de heer Bommel moeten doen als het antwoord zou zijn: “Nee, ik begrijp het niet”? Nog eens hetzelfde zeggen, maar met andere woorden? Kan dat? Hetzelfde zeggen, maar dan precieser? Waarom kunnen we niet alles meteen zo helder en precies mogelijk zeggen?
Ik toon u hier niet wat woorden om u iets te lezen te geven. Ik heb u wat te zeggen. Het is alledaags, maar daarom niet minder opmerkelijk: dat wij door elkaar woorden aan te bieden iets voor elkaar kunnen betekenen. Kennelijk gaat er een werkelijkheid schuil achter dat aanbieden van woorden. Iets dat ter sprake gebracht wordt door de woorden.
“Dieses Buch wird viellecht nur der verstehen, der die Gedanken, die darin ausgedrückt sind – oder doch ähnliche Gedanken – schon selbst einmal gedacht hat.”
Met deze woorden begint Ludwig Wittgenstein het voorwoord van zijn beroemde Tractatus. Misschien kunnen alleen zij mijn woorden begrijpen die de gedachten die erin uitgedrukt zijn – of vergelijkbare – al eens zelf hebben gedacht.
In Plato’s Phaedrus vinden we een dergelijke gedachte. De tekst kan alleen de lezer herinneren aan iets dat hij al weet. ‘Hij die gelooft iets essentieels in geschrifte na te laten en anderzijds hij die dat aanvaardt alsof er enige klaarheid en vastheid uit lettertekens kan voortkomen, is wel erg naïef, want hij gelooft dat geschreven woorden iets meer vermogen dan hem, die reeds wéét datgene, waarop ze betrekking hebben, daar nog eens aan te herinneren.’ (Phaedrus 275c).
Wat heeft het voor zin een boek te schrijven als je denkt dat enkel die lezers het zullen begrijpen die zelf al eens hebben gedacht wat je ze wil vertellen?
En wat zijn dat eigenlijk: ‘Gedanken’ die in woorden en zinnen uitgedrukt zijn en die verschillende individuen kunnen denken en via de woorden kunnen delen met anderen?
Wittgenstein had toch kennelijk ons iets te zeggen. Het gaat over de wereld (‘alles wat het geval is’) en over de taal die deze in een systeem van zinnen afbeeldt. Om het daarover te kunnen hebben heeft hij de taal nodig. Maar waar gaat die dan over? Hij besluit zijn stellingen met:
“Meine Sätze erläutern daduch, dass sie der, welcher mich versteht, am Ende als unsinnig erkennt, wenn er sie – auf ihnen – über sie hinausgestiegen is. (Er muss sozusagen die Leiter wegwerfen, nachdem er auf ihr hinausgestiegen ist.) Er muss diese Sätze überwinden, dann sieht er die Welt richtig.” (6.54).
De filosoof moet de woorden die hem enig zicht op de werkelijkheid hebben verleend weer weggooien als de ladder waarmee hij naar boven is geklommen om van boven de wereld te kunnen beschouwen.
Wie de weg van de Tractatus gegaan is, die moet aan het eind gekomen wel inzien dat:
“Wovon man nicht sprechen kann, darüber muss man schweigen.” (7).
In het woordje ‘muss’ komt de ethische en mystieke lading van deze slotconclusie en daarmee van de Tractatus tot uitdrukking: we moeten respect hebben voor de diepere dimensie van het bestaan door er niet over te spreken zoals we over de feiten spreken. De paradoxale slotzin van de Tractatus heeft tot heel wat discussie geleid. Had de schrijver zich niet wat ondubbelzinniger kunnen uitdrukken, vraag je je af.
“Ik vind dat dit resultaat precies de onzinnigste uitspraak is van de hele Tractatus” zegt Jan Hollak erover in zijn Afscheidscollege. Daarin gaat hij in op Wittgensteins stellingname tegen de metafysica, diens opvatting dat de taal van de metafysica onzinnig is. “Want”, vervolgt Hollak, “waarover men niet spreken kan, daarover kan men ook niet zwijgen. En het heeft dan geen zin te eisen dat men erover moet zwijgen. (…) Omdat men eenvoudig niets ziet. Er wordt hier betoogt door Wittgenstein dat wij door die houding aan te nemen zien wat we niet zeggen kunnen. In werkelijkheid zien we helemaal niets; dat is het resultaat van deze Tractatus.” Zo fulmineert Hollak tegen Wittgenstein. En zijn kritiek geldt niet alleen de Tractatus. “Ook in de Philosophische Untersuchungen zien we hetzelfde probleem optreden.”
Wat is dat probleem dat Hollak met de taalopvatting van Wittgenstein heeft? Welke is ‘die houding’ die Wittgenstein aanneemt waardoor we “zien wat niet gezegd kan worden”?
De taak van de filosofie is eigenlijk een onmogelijke, namelijk een logische taal ontwerpen die zegt wat in de dagelijkse taal op verhullende wijze wordt gezegd. Onmogelijk; want hoe leg je uit wat de relatie is tussen de uitdrukkingen in de formele taal en in de gewone taal? In Over de grenzen van de reflexiviteit vergelijkt Boukema dit met de functie van een oorlog die aan alle oorlogen een eind zou moeten maken. (Boukema, 1987, p. 14). Wittgenstein zag het als zijn taak een einde te maken aan de filosofie die toch eigenlijk een onmogelijke taak heeft. Het resultaat van deze ‘onmogelijke taak’ is de Tractatus.
Het is de mathematische houding in de Tractatus dat Wittgenstein een scheiding aanbrengt tussen ‘Sagen’ en ‘Zeigen’, tussen het feitelijke en het mystieke, tussen dat waarvan we kunnen spreken en dat waarover we moeten zwijgen. Maar die twee kún je niet van elkaar scheiden. “The unspoken is present in all speech and we cannot get rid of speech when trying to concentrate on the unspoken, and that is exactly the paradox of the last sentence of the Tractatus.” (Fleischhacker, 1995, p. 82)
Het spreken is een vorm van wijzen. Zolang je de aandacht richt op de wijzende vinger, snap je niet waar het om gaat. De laatste zin van de Tractatus drukt de interne spanning uit van het filosofisch taalgebruik, waarvan Wittgenstein pretendeerde voor altijd een einde te hebben gemaakt.
“Ich bin also der Meinung, die Probleme im Wesentlichen endgültig gelöst zu haben.”
Waarmee overigens, zo voegt hij toe, weinig verandert is. (Hetzelfde idee dat je hebt wanneer je een bewijs van het (niet) bestaan van God wordt geleverd.)
In de Philosophische Untersuchingen (PU) gaat het over de taal als sociaal medium, als onderdeel van een levensvorm. Eerst was het idee dat de logicus nodig was om te zeggen wat de mensen precies bedoelen wanneer ze een zin uitspreken, op grond van de logische structuur van de werkelijkheid. De zoektocht is nu naar de regels van het dagelijkse taalgebruik zelf, waarbij het feitelijk gebruik van de taal leidend is. “De filosofie mag het feitelijk gebruik van de taal op geen enkele manier aantasten, zij kan dit gebruik uiteindelijk dus alleen beschrijven. Zij kan er ook geen reden voor geven. Zij laat alles zoals het is.” (PU 124). Het gaat echter ons zelf om het ophelderen van verwarringen die door het gebruik, de werking, van onze taal ontstaan.
In PU 7: “We kunnen ons ook indenken dat het hele proces van het gebruik van de woorden in (2) een van die spelen is waardoor kinderen hun moedertaal leren. Ik zal deze spelen ‘taalspelen’ noemen, en van primitieve taal soms spreken als een taalspel. (…) Ik zal ook het geheel: de taal en de activiteiten waarmee ze verweven is, het ‘taalspel’ noemen.”(PU 7)
Dit idee ‘taalspel’ en ‘spel’ in het algemeen zal de nieuwe tijd meer en meer beheersen. De opkomst van de ‘games’ industrie, de opvatting dat het leven een soort spel is. De verwarring en vervaging van het onderscheid tussen leven en spelen is een gevolg van het identificeren van de wijze waarop we het leven van buiten af beschrijven en beregelen in wetenschap en praktijk met het spontane ongereflecteerde leven zelf, het leven zoals we dat beleven. Het leven is een project binnen een zelfgekozen spelvorm met winnaars en verliezers.
De kern van de kritiek van Hollak is dan ook dat er in de Tractatus een formele identiteit is tussen de ideale taal en de feiten. Daardoor kan over de verhouding tussen beide niet meer zinvol gesproken worden. De taal zou geen ruimte bieden voor reflectie. In de Untersuchungen komt dit hierin tot uitdrukking dat de taal, en dat is de gewone omgangstaal, die als norm genomen wordt van zinvol taalgebruik, behoort tot een levensvorm en een taalspel. De betekenis van de woorden wordt bepaald door het gebruik ervan in een taalspel. Dat we in taal onze belevingen en ervaringen verwoorden, dat is een aspect van taal dat bij Wittgenstein uit het zicht is verdwenen. Weliswaar hebben we de taal nodig om onze Gedanken in uit te drukken, maar we moeten een onderscheid blijven maken tussen de uitdrukking in woorden en dàt wat verwoord wordt.
In plaats van een verklaring te bieden van wat nou de betekenis van de woorden is, biedt Wittgenstein een algemene methode, namelijk dat je naar het gebruik moet kijken, om te zien wat de woorden betekenen. En dat gebruik speelt zich af in ‘Sprachspiele‘. Die bepalen dus feitelijk de betekenis. De taal moet puur functioneel bekeken worden, als een instrument waarmee we gedachten communiceren. Gedachten die dezelfde structuur hebben als de zinnen waarmee ze overeenkomen. De verschillende taalspelen en hun talen zouden disjunct zijn, volledig gescheiden.
Volgens Hollak is deze houding van Wittgenstein, net als de ‘Gedanke’, en het begrip ‘waarheidswaarde’, een erfenis van Frege: de identificatie van de wijze waarop men iets begript en uitdrukt met datgene wat men daardoor begrijpt en uitdrukt. Zoals we bij het maken van wiskundige berekeningen geen onderscheid maken tussen de tekens, de cijfers en de formules enerzijds en de mathematische objecten, de getallen en structuren waar ze naar verwijzen anderzijds. Deze identificatie van de talige kant en de inhoudelijke kant zien we ook in het begrip informatie, de vorm waarin we ‘de feiten’ communiceren, door ze in de schemas van de taal vast te leggen.
Filosofische teksten communiceren geen informatie aan de lezer. Het is de bedoeling dat de lezer meedenkt en de woorden slechts als verwijzers ziet naar datgene wat niet gezegd kan worden: “the unspoken that is present in all speech.”.
Wat expliciet gezegd wordt moet begrepen worden tegen een achtergrond die niet gezegd wordt. En deze verhouding tussen het gezegde en het niet-gezegde is een andere dan de formele relatie volgens welke de hoeveelheid informatie in een bericht kwantitatief bepaald wordt door het veld van mogelijke berichten waaruit het bericht geselecteerd is. Het mathematische van de Tractatus is precies de identificatie van deze twee verhoudingen. Dat verklaart het vermoeden door Wittgenstein uitgesproken in het voorwoord dat de lezer, de ontvanger van de boodschap, de Gedanken ervan bekend moet voorkomen. De spreker, schrijver, toont woorden die voorkomen in een systeem van zinnen. Zoals je een computer een programma toont.
Waar het Hollak om te doen is, is de filosofie in haar eigen waarde te laten tegenover de positieve wetenschap, tegen de moderne stromingen in waarin filosofie en positieve (natuur- zowel als geestes-)wetenschappen voortdurend door elkaar lopen. En dat heeft volgens Hollak alles te maken met het feit dat men het hypothetische karakter van de wetenschap niet voldoende onderkent.
Wat bedoelt Hollak daar mee? Ik zal in het vervolg een recent voorbeeld geven van recent hypothetisch onderzoek om mijn antwoord op deze vraag te presenteren.
Wat dat ‘hypothetische karakter van de wetenschap’ betreft onderscheid ik fundamenteel hypothetisch en methodisch hypothetisch. Met het fundamenteel hypothetische karakter van de wetenschap wordt bedoeld dat de wetenschap uitgaat van de aanname dat de werkelijkheid door ons denkend te begrijpen is en in theoretische structuren te vatten is. Feiten worden niet op zich, als feit, genomen maar beschouwd als functies van zekere condities: als dit en dit dan gebeurt er dat. Met het methodisch hypothetisch karakter bedoel ik dat de bijzondere wetenschap voor haar onderzoek hypotheses opstelt die vervolgens door experimenteel onderzoek getoetst worden (falsificatie) en eventueel aangepast. Vaak worden deze hypotheses mathematisch uitgedrukt en statistisch getoetst aan de hand van (experimenteel verkregen) data.
Merk op dat een succesvol geslaagd experiment een methode/regel geeft (van de vorm “als A dan B”) die eventueel technisch gebruikt kan worden: om B te realiseren moeten we condities A realiseren. De werkende techniek levert een pragmatisch ‘bewijs’ voor de ‘waarheid’ van de theorie. Het doet er niet toe hoe we de (statistische) theorieën moeten interpreteren, waar de theoretische noties in de werkelijkheid naar refereren. Is licht een golf of deeltje? Het hangt af van de hypothese die we opstellen en het meetsysteem hoe de natuur zich toont. Als het experiment, maar reproduceerbaar is dan hebben we een bruikbare regel. (zie de discussie Einstein/Bohr over de onzekerheidsrelatie in de kwantummechanica) . “De kwantumtheorie werkt”, zei de fysicus Gerard ‘t Hooft. (Zie Hiroshima, zie kerncentrales). En dat is voldoende bewijs van de ‘waarheid’ van de kwantumtheorie. Waarheid is gedefinieerd in termen van technisch/economisch succes.
De hypothetische machine. Heeft AI bewustzijn?
Is het dier een machine, een soort uurwerk, zoals Descartes dacht. De cartesianen hebben in de discussie over de geloofwaardigheid van het mechanisch uurwerk als model voor het dier een argumentatiestrategie benut die ook in het AI debat met betrekking tot de vraag of AI bewustzijn heeft wordt gehanteerd. Ze gaven toe dat de bestaande machines geen plausibel model voor het dier waren, maar “de werkelijk interessante vraag was volgens de cartesianen of het denkbaar is dat ooit een nog te bouwen machine een geschikte simulatie van het dier zal zijn.” (Draaisma, 1986).
De discussie werd verplaatst van het niveau van de feitelijkheid naar het niveau van de denkbaarheid, de hypothetische machine. Dat het denkbaar is werd door de cartesianen verdedigd door te wijzen op het feit dat de mens in staat is steeds complexere machines te bouwen. Het extrapolatie-argument werd ingebracht te samen met de aanname dat het slechts om een verschil in complexiteit van het systeem gaat: de meeste dieren tonen complexer gedrag dan met bestaande machines kan worden gesimuleerd. Dat is het verschil: niet wezenlijk, maar kwantitatief, bijkomstig.
De vraag of AI bewustzijn heeft, of misschien beter: of we een AI systeem als een bewust wezen moeten beschouwen, is weer aktueel nu kunstmatige intelligente ‘machines’ steeds beter in staat zijn aktiviteiten te verrichten waarvan sommigen vinden of vermoeden dat ze die alleen kunnen wanneer er sprake is van bewustzijn. Sociale robots worden door sommigen als ‘levenspartners’ beschouwd en mensen voeren geanimeerde gesprekken met AI programma’s zoals ChatGPT. De sprekende robot zou als juridisch persoon moeten worden opgenomen in de ‘morele cirkel’ van statushouders, die beschermd moeten worden en verantwoordelijke gehouden voor hun ‘handelen’.
Naast de treffende overeenkomsten in argumentatie is er ook een verschil in argumentatie tussen het debat over de bête-machine en het huidige debat over bewustzijn van AI systemen. Neurologisch onderzoek naar de werking van het brein heeft allerlei theorieën en modellen opgeleverd die een verband aangeven tussen verschillende neurale structuren en hersenfuncties, en bepaalde ‘gedragingen’ die we bij de mens constateren en waarvoor we bewustzijn als noodzakelijke voorwaarde zien.
Onlangs verscheen in het arXiv preprint repository het artikel Consciousness in Artificial Intelligence: Insights from the Science of Consciousness (2308.08708). Het gaat over de vraag of AI bewustzijn heeft of kan hebben. Onder de negentien auteurs zijn neurowetenschappers, cognitiewetenschappers, computerwetenschappers en filosofen.
Het artikel presenteert op basis van neuro-wetenschappelijk onderzoek een checklist van ‘bewustzijnsindicatoren’, eigenschappen waaraan een entiteit moet beantwoorden opdat er een kans is op de aanwezigheid van bewustzijn. Het team heeft onderzocht of huidige AI systemen voldoen aan genoeg indicatoren om te kunnen stellen dat er van bewustzijn sprake is.
Computationeel functionalisme als werkhypothese
Als ‘werkhypothese‘ zijn de auteurs uitgegaan van de stelling dat het voor bewustzijn noodzakelijk en voldoende is dat het systeem ‘het juiste soort van berekeningen maakt’ (“the thesis that performing computations of the right kind is necessary and sufficient for consciousness”). Het gaat er dus om hoe een systeem informatie verwerkt; niet om wat voor materiaal daarvoor wordt gebruikt. Deze hypothese, ‘computationeel functionalisme’ genoemd, wordt vaak aangenomen door philosophers of mind, maar staat sinds jaar en dag ook onder felle kritiek (o.a van Hubert Dreyfus, John Searle, die zich baseren op werk van o.a. Heidegger en Merleau-Ponty. Zie ook het werk van Maarten Coolen, De Machine Voorbij.
Bijvoorbeeld wordt ‘self-attention’ in deze doctrine gedefinieerd als een “process in AI in which information about multiple input tokens is integrated through pairwise interactions between functional units”.
Een tweede uitgangspunt van de onderzoekers is dat neuro-wetenschappelijke theorieën over bewustzijn functies hebben opgeleverd die noodzakelijke en voldoende indicatoren zijn voor de aanwezigheid van bewustzijn. Deze functies, of vergelijkbare, zouden vanwege de hypothese ook toepasbaar zijn op AI systemen. Omdat er veel neurologische theorieën over bewustzijn bestaan, zijn uit elk van de belangrijkste theorieën een aantal indicatorfuncties genomen. Het idee is dat naarmate een systeem aan meer van deze functies voldoet de kans des te groter is dat er bewustzijn is. Zo lijkt het onderzoek dus een (voorlopige: de neuro-wetenschap kan in de toekomst betere indicatoren opleveren) operationele definitie op te leveren voor de kans dat een systeem over bewustzijn beschikt. Waarbij bewustzijn in termen van een aantal functionaliteiten is vastgelegd.
Een alternatieve methode van onderzoek zou zijn om het interaktief ‘gedrag’ van AI systemen te onderzoeken op de mogelijke ‘aanwezigheid van bewustzijn’. Maar, zo stellen de auteurs, AI systemen zoals ChatGPT zijn erg goed in het simuleren van menselijk gedrag, daarom is zo’n gedragstest geen goede test op aanwezigheid van bewustzijn. In hun conclusie merken ze nog op dat ze niet uitsluiten dat een beslissende gedragstest in de toekomst mogelijk is.
We zien hier nog een verschil met de situatie ten tijde van de discussie over de bête-machine drie eeuwen geleden. Gedragsimulaties worden inmiddels zo goed bevonden dat het machine gedrag op zich niet als indicatie van bewustzijn wordt gezien. Terwijl dat gedrag juist voor mensen de reden is om te denken dat de AI robot cognitief bewustzijn en gevoelens heeft. Simulatie door een machine wordt dus door de wetenschap onderkend als ‘slechts simulatie’. De wetenschapper weet immers dat de robot door technologen (mede-auteurs) op basis van de wetenschappelijke modellen gemaakt is, niettemin wordt de vraag gesteld of de robot bewustzijn heeft. De enige manier om hier achter te komen is door ‘onder de hoed’ te kijken en het systeem ‘inwendig’ te onderzoeken.
Wat denken ze daar te vinden? Zou je denken. Hegel wist wel wat je aantreft als je de hersenpan licht op zoek naar de geest: “nur Knochen”.
Het testen van een AI systeem op de aanwezigheid van bewustzijn komt er op neer voor elk van de theoretische modellen te analyseren of het AI systeem dit geimplementeerd heeft. Bijvoorbeeld, volgens de Global Workspace Theory zou een bewust systeem een modulaire opbouw moeten hebben waardoor het verschillende taken parallel kan uitvoeren, maar waarbij er ook sprake is van het verdelen van de schaarse aandacht over de te verrichten taken. Typische functies die we bij mensen ook tegen komen en die gezien worden als bewustzijnsindicatoren.
De uitkomst van het onderzoek “suggereert” dat geen van de geteste AI systemen bewustzijn heeft. “This work does not suggest that any existing AI system is a strong candidate for consciousness.” De auteurs zien echter geen barrières die de verwerkelijking van bewuste AI systemen in de toekomst in de weg zouden kunnen staan. Met andere woorden: het is volgens de wetenschappers (en filosofen) denkbaar dat een technisch systeem bewustzijn heeft.
In het onderzoek dat een antwoord moet geven op de vraag of huidige AI systemen bewustzijn hebben is de methodische hypothese dat mens en machine onder de zelfde categorie van informatieverwerkende systemen vallen. Kortgezegd: de ‘werkhypothese’ is: een mens is een informatieverwerkend systeem, net als een programmeerbare automaat. Dit houdt in dat de mens geïdentificeerd wordt met een wetenschappelijk systeem, dat is een systeem dat gebaseerd is op de correspondentie tussen denkprocessen en fysische processen (zie Herz). De fundamentele aanname van de wetenschap dat de werkelijkheid door het verstand begrepen kan worden, wordt hier nog eens ‘overruled’ door de hypothese dat deze twee identiek zijn. Deze identificatie werd door Hegel uitgedrukt met de beroemde woorden:
Was vernüftig ist, das is wirklich;
und was wirklich ist, das ist vernünftig.
(G.W.F. Hegel. Grundlinien der Philosophie des Rechts, Vorrede, 1820)
Althans in principe, als idee. Over de kwestie of Hegel zelf aanhanger was van de doctrine van het absoluut idealisme, inhoudende de identificatie van werkelijkheid en redelijkheid, verenigd in een Absoluut Wezen, is het laatste woord nog niet gesproken. Hans Küng merkt op dat velen van mening zijn dat “alles weliswaar nog niet verstandig is, maar dat het wel verstandig kan worden”. (Küng, p. 190).
Hetzelfde optimisme dat we bij de auteurs van het artikel tegen komen. Hetzelfde grenzeloze geloof in de technologie.
“Het zelfbewustzijn bereikt zijn bevrediging alleen in een ander zelfbewustzijn” (Hegel). Is het misschien de behoefte aan zelferkenning dat de mens een zelfbewustzijn zoekt in de intelligente machine? Maar de mens weet toch dat hij de machine gemaakt heeft voor zichzelf als instrument. Zo lijkt de technische mens verscheurd tussen geloven en weten.
Hoe vaak lezen we niet in de krant koppen inhoudende dat AI intelligenter is of een taak beter kan uitvoeren dan de mens. Dan wordt ‘AI’ niet meer gezien als een instrument, dat door de mens gebruikt wordt, maar als een zelfstandige entiteit.
“Onder de conditie dat een computer een technisch produkt is, kun je niet zinvol de vraag stellen of hij net zo intelligent is als de mens.” (Louk Fleischhacker in Ta! Jaargang 2, Nr 3. 1994) En ook niet of de machine bewustzijn heeft.
Met betrekking tot de mogelijkheden en de prestaties van de techniek worden de meest onzinnige vragen gesteld en onzinnige beweringen gedaan. Onzinnig omdat niet goed onderscheiden wordt de normale dagelijkse betekenis van de woorden en de betekenissen die de woorden hebben gekregen door de wetenschappelijke reconstructie ervan. We projecten de wetenschappelijke structuren op de werkelijkheid en doen alsof ze van die werkelijkheid zelf zijn.
Maar waarheid en bewijsbaarheid in een formeel systeem zijn twee totaal verschillende begrippen, ook al heeft de wetenschap bewijsbaarheid in de plaats gesteld van waarheid. Ook al hebben we een machine kunnen maken die de facto ‘goede zinnen’ produceert volgens een bepaald algoritme, dan nog zijn ‘goede zin’ en een ‘goede zin zoals geproduceerd’ niet synoniem. De machine kan kapot gaan, het algoritme of het onderliggende model kan een fout bevatten.
Het formele systeem heeft alleen betekenis voor ons als formalisering van het inhoudelijke intuïtieve gedoe. De maat is als maat van een andere orde dan dat wat er mee in de realiteit gemeten wordt. De ‘goede zin’ is maat waaraan de goede zinnen uit de machine gemeten worden. Het is de mens die uiteindelijk de betekenis van de woorden die de ‘AI spreekt’ bepaalt. Wij mensen zijn zoals de Jehova getuige die zei: “En God zei terecht dat het goed was.”.
Te geloven dat de machine kan denken, is net zo (on)zinnig als te geloven dat de appel die uit de boom valt al vallend met behulp van de wetten van de Newtonse mechanica berekent met welke snelheid hij op de grond moet neerkomen. Maar zijn wij het niet die de appel gebruiken om bijvoorbeeld de cumulatieve rente op ons kapitaal of de toename van het aantal deeltjes te berekenen?
We hebben de neiging waarheid af te leiden uit succesvol zijn. Wanneer een methode ‘werkt’ dan gaan we er vanuit dat we de werkelijkheid kennen, dat is: op correcte wijze hebben gemodelleerd. Ook al weten we uit ervaring hoe voorlopig dit ‘werken’ van onze methodes en technieken is. Omdat het op contingente feiten berust en niet op noodzakelijke inzichten.
De wereld zoals die in onze wetenschappelijke beschouwingen aan ons verschijnt is niet dezelfde als de belevingswereld, de wereld van onze relaties met de dingen en de anderen.
Door alles door een wetenschappelijke, technische bril, functioneel te zien verdwijnt de mogelijkheid om nog iets in zijn eigen waarde te begrijpen. Iets is mathematiseerbaar precies in zoverre we abstraheren van de eigen aard ervan. Dat is de voorwaarde onder welke de natuurwetenschap werkt. Afzien van de eigen waarde, de eigen aard van de natuur, door deze te objectiveren en ons er tegenover, er buiten te plaatsen.
De kritiek op het functionele, mathematiserende, denken treft volgens Hollak ook de ecologie.
“Die huidige ecologie wil natuurlijk wel dat de natuur tot zijn recht komt, maar die moet in zoverre tot zijn recht komen, dat wij kunnen bestaan en omwille van ons moet zij zo beheerst worden, die natuur.” (Hollak, Afscheidscollege, p. 442). De natuur zou volgens de ecologen aanvaard moeten worden in zoverre wij kunnen bestaan.
De natuur laat echter niet met zich experimenteren. We kunnen nog zo ons best doen om de randvoorwaarden zo in te richten dat ze naar onze pijpen danst, uiteindelijk doet die verdomde wolf gewoon wat zijn natuur hem ingeeft. “De wolf is niet af te brengen van zijn kijk op de dingen en vreet het schaap op.” (Kaube, p. 160)
We staan niet buiten de natuur, we maken net als de wolf en het schaap, deel uit van die natuur. Dat we als zelfbewuste, redelijke mensen ook boven de natuur staan doet niets af aan het feit dat we er onderdeel van zijn. De wolf verwerft geen zelfbewustzijn in de confrontatie met het schaap. Het ziet daarin geen ander, geen werkelijkheid, waaraan hij zich kan spiegelen als aan een ander zelfbewustzijn. De mens daarentegen kan zich verplaatsen in de ander. In principe. De ervaring leert hoe moeilijk het is de mens af te brengen van zijn ‘grensoverschrijdend’ gedrag. Het opstellen van gedragsregels en wetten helpt niet. Mensen zijn niet programmeerbaar. Regels waaraan de mens zich bij de ontwikkeling van technologie zou moeten houden werken alleen als mensen overtuigd zijn van het perspectief van waaruit die zijn geformuleerd en dat zich eigen hebben gemaakt. Er moet een (biologisch) ‘systeem’ zijn waarin die regels geimplementeerd kunnen worden, om het in de taal van de ingenieur uit te drukken. De mens gedraagt zich niet zoals de technicus denkt die het gedrag van de mens wil simuleren door een robot. Om het onderliggend ‘systeem’ te veranderen, moeten we de diepte in. Tastend naar dat waarover men niet spreken kan.
Bronnen en noten
Boukema, Harm, (1987). Over de grenzen van de reflexiviteit. In: Reflexiviteit en Metafysica. Bijdragen aan het symposium bij het afscheid van prof. J.H.A. Hollak. (Redactie: Louk Fleischhacker). Filosofische Reeks Centrale Interfaculteit Universiteit van Amsterdam, nr. 20. 1987, pp. 6-19.
Over de taal bij Wittgenstein.
Butlin, P. et al. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness Preprint at https://arxiv.org/abs/2308.08708 (2023).
Dit artikel bespreek ik als recent voorbeeld van het ‘hypothetische’ karakter van de wetenschap. Filosofie en positieve wetenschap worden verward. Of iets bewustzijn heeft, bestaat, een feit is dat wordt door de wetenschapper als vraag gezien waarop door (experimenteel) onderzoek naar de feiten een antwoord kan worden gevonden.
Coeckelbergh, M., and Gunkel, D. 2023. ‘ChatGPT: Deconstructing the Debate and Moving It Forward‘ in AI & Society. Online first 21 June 2023.
Maarten Coolen (1992). De machine voorbij: over het zelfbegrip van de mens in het tijdperk van de informatietechniek. Boom Meppel, Amsterdam, 1992.
René Descartes (1937). Vertoog over de methode . Vertaling Helena Pos, Inleiding Prof. Dr. H.J.Pos. Wereldbibliotheek Amsterdam-W. 1937. Oorspronkelijke Franse uitgave: Discours de la méthode, 1637.
Douwe Draaisma (1987). De Machine achter het Gordijn – drie eeuwen debat over bewustzijn en mechanicisme. In Geest Computer Kunt (Peter Hagoort & Rob Maessen , red.) Uitgave van Stichting Grafiet, Utrecht, 1986.
De historicus Draaisma vergelijkt de discussie over de bête machine van Descartes inhoudende dat dieren mechanieken zijn met de huidige discussie over de competenties van AI.
Hij voorspelt hierin dat net als de salondiscussies over de bête machine, de academische discussies van tegenwoordig over een tijdje uitgewoed zijn met als resultaat dat dieren weer gewoon dieren, mensen gewoon mensen, machines machines en robots weer gewoon robots zijn. Hij lijkt gelijk te krijgen. Zie (Gunkel 2023).
Albert Einstein, B. Podolsky, and N. Rosen. (1935). “Can Quantum-Mechanical Descriptions of physical Reality Be Considered Complete?” Physical Review 47: 777-80.
“Every element of the physical reality must have a counterpart in the physical theory” Dit geldt niet voor de kwantum-mechanica. Deze kan daarom niet als volledig worden beschouwd. We moeten zoeken naar een aanvulling van de theorie.
Einstein kon niet accepteren dat de werkelijke toestand van een systeem pas door het observeren (meten) ervan bepaald wordt, zoals Niels Bohr beweerde. Volgens Bohr kun je de werkelijkheid niet beschrijven zonder de meetmethode te beschrijven. Het geeft een recept voor de reproduceerbaarheid van het meten.
Fleischhacker, Louk (1987). Het wiskundig teken. In: Reflexiviteit en Metafysica. Bijdragen aan het symposium bij het afscheid van prof. J.H.A. Hollak. (Redactie: Louk Fleischhacker). Filosofische Reeks Centrale Interfaculteit Universiteit van Amsterdam, nr. 20. 1987, pp. 20-37.
Louk Fleischhacker (1994). “De menselijke geest zit eigenlijk helemaal niet in elkaar.” Interview met Eric Oltmans in thema nummer Enschede – een technische blik op computerlinguïstiek. Ta! studentenblad computationele taalkunde, nr 3. jaargang 2, voorjaar 1994.
“Ik geloof niet zo erg in die geïsoleerdheid van culturen. Het is veel eerder een continuüm.”
“Het idee van vertalen gaat al uit van een discrete veelheid van talen, van een mathematisch model van wat een taal is. En als je dat nou houdt voor de werkelijkheid en dus denkt dat die verschilende culturen niets met elkaar te maken hebben, moet je wel tot de conclusie komen dat vertalen onmogelijk is. Dat was ook de fout van Wittgenstein die zei dat er verschillende taalspelen waren.”
Fleischhacker, Louk E. (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.
Zodra we bedenken dat taal ergens over gaat, maken we een onderscheid tussen het gebruik van taal en waar het over gaat. Maar deze twee komen niet gescheiden voor in werkelijkheid. We kunnen taal niet eens gebruiken zonder dat het ergens over gaat. Natuurlijk kunnen we ook naar de buitenkant, de structuur van de taal kijken, naar de woorden en zinnen van taal als op zich zelf staande objecten. Maar de taal die we zo bekijken is juist niet de taal als gebruikte taal. Dan is de taal onderwerp waar we het in taal over hebben.
Taal gaat ergens over. De woorden verwijzen naar een wereld buiten de taal. We kunnen het niet over taal hebben en over wat dan ook zonder taal te gebruiken. De mens zit echter niet gevangen in de taal. “If language is not considered to be about something, it cannot even be about itself, and we are no longer able to say that language is not about something.” (Fleischhacker 1995, p59-60). Het is dus logisch onmogelijk te ontkennen dat de taal over iets gaat dat buiten het spreken zelf ligt. Deze ontkenning is immers onmogelijk en zinledig zonder ervan uit te gaan dat ze ergens over gaat.
Begrijpelijk (intelligibel) zijn betekent dat het verstand (het intellect) er toegang toe heeft. De enige manier waarop dat zich kan manifesteren is dat er iets over gezegd kan worden dat zin heeft (makes sense). De taal is de wijze waarop de werkelijkheid intelligibel schijnt.
Fleischhacker, Louk (1999). De Henide als Paradigma: Otto Weiningers invloed op Ludwig Wittgenstein. In: De Uil van Minerva 15 nr. 3 (Lente 1999), pp. 161-178.
Frege, Gottlob (1892). Uber Sinn und Bedeutung. Opgenomen in: Gottlob Frege: Funktion, Begriff, Bedeutung, Uitgave: Vandenhoeck & Ruprecht in Gottingen, pp. 40-65, 1975.
Frege voert de term ‘Gedanke’ in voor de inhoud van een oordeelszin: ”Ein solcher Satz enthält einen Gedanken.” “Ich verstehe unter Gedanke nicht das subjektive Tun des Denkens, sondern dessen objektiven Inhalt, der fähig ist, gemeinsames Eigentum von vielen zu sein.” (Voetnoot p. 46).
“Warum genügt uns der Gedanke nicht? Weil und soweit es uns auf seinen Wahrheitswert ankommt. Nicht immer ist dies der Fall. Beim Anhören eines Epos z.B. fesselen uns neben dem Wohlklange der Sprache allein der Sinn der Sätze und die davon erweckten Vorstellungen und Gefühle. Mit der Frage nach der Wahrheit würden wir der Kunstgenuss verlassen und uns einer wissenschaftlichen Betrachtung zuwenden.” (Frege, Über Sinn und Bedeutung, 1892, p. 48)
Of het ons “gleichgultig” is dat ChatGPT ons een werkelijkheid voorstelt die waar is of niet, hangt daarvan af of we deze machine als kunstwerk dan wel ‘wetenschappelijk’ beschouwen.
“Ich verstehe unter dem Wahrheitswerte eines Satzes den Umstand, das er wahr oder das er falsch ist.” (Frege, 1892, Über Sinn und Bedeutung) De waarheidswaarde is iets dat als het ware van buiten af aan een oordeel toekomt. Het zijn de omstandigheden die een zin waar maken, zoals ze de feiten feitelijk maken.
Gunkel, David J. (2012). The machine question: Critical perspectives on AI, robots, and ethics. Cambridge: MIT Press.
Gunkel, David J. (2014). The Rights of Machines–Caring for Robotic Care Givers. Presented at AISB 2014. Chapter in the Intelligent Systems, Control and Automation: Science and Engineering book series (ISCA,volume 74).
Gunkel, David, Does Writing Have a Future? (September 2, 2023). Available at SSRN: https://ssrn.com/abstract=4578778 or http://dx.doi.org/10.2139/ssrn.4578778
Dit gaat over Logocentrisme. “Logocentrism identifies the assumed primacy and importance of the spoken word.” Volgens Derrida is de dichotomie tussen schrijven en spreken, prototypisch voor alle dichotomieen die het westerse denken sinds Plato’s Phaedrus beheersen. Het primaat van het spreken over het schrijven. Volgens Gunkel wijzen LLMs, en taalmachines als ChatGPT op deze overheersing van het logocentrisme. 1) Schrijven is een techniek, kunstmatig. 2) Schrijven is secuntair, spreken is primair 3) De schriijven/spreken dichotomie is prototypisch
“Plato thinks of writing, and tries to comprehend it, to dominate it, on the basis of opposition as such. In order for these contrary values (good/evil, true/false, essence/appearance, inside/outside, etc.) to be in opposition, each of the terms must be simply external to the other, which means that one of these oppositions (the opposition between inside and outside) must already be accredited as the matrix of all possible opposition.” And writing, Derrida concludes, “far from being governed
by these oppositions, opens up their very possibility without letting itself be comprehended by them.”
Wenen is belangrijk vanwege Weininger en Wittgenstein, de dichotomie in anti-semistisme, vanweg de henide, de bron van alle dichotomieën. Het onuitgesprokene als de afgrond van het spreken. Niet Derrida’s dichotomie spreken/schrijven, maar de relatie van het spreken met het onuitgesprokene is de bron van de dichotomieén in de westerse samenleving.
Zie (Fleischacker 1999) over de henide.
Gunkel, David J. (2023). Person, Thing, Robot A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.
“Ultimately, then, this is not really about robots, AI systems, and other artifacts. It is about us. It is about the moral and legal institutions that we have fabricated to make sense of Things. And it is with the robot— who plays the role of or occupies the place of a kind of spokesperson for Things— that we are now called to take responsibility for this privileged situation and circumstance.” (p. 184)
Heinrich Hertz (1894). Die Prinzipien der Mechanik in neuen Zusammenhange dargestellt. Mit einen Vorworte von H. von Helmholtz
De correspondentie tussen denkproces en natuurproces werd geformuleerd door de fysicus Heinrich Herz in de Inleiding van zijn Prinzipien der Mechanik.
Deze correspondentie is tot principe gemaakt in de informatietechnologie. Denkprocessen en fysische processen zijn uitwisselbaar. Ze zijn elkaars model geworden.
De AI (en iedere informatietechnologie is kunstmatige intelligentie) is gebaseerd op het principe van eenzinnige correspondentie tussen denkinhouden en fysische toestanden. De machine is zodanig gemaakt dat causale gevolgen van instellingen ervan die corresponderen met denkinhouden (ingevoerde gegevens, informatie) volgens fysische processen die zich in de machine voltrekken, resulteren in informatietoestanden die corresponderen met de denknoodzakelijke gevolgen van de ingestelde toestanden.
Hollak, J.H.A. (1968). Betrachtungen über das Wesen der heutigen technik. Kerygma und Mythos VI Band III, Theologische Forschung 44, 1968, Hamburg, Evangelischer Verlag, pp 50-73. Dit is de vertaling van het Italiaanse artikel (Hollak 1964) Ook opgenomen in de bundel Denken als bestaan, het werk van Jan Hollak (Hollak en Platvoet, 2010).
Hollak, J.H.A. (1964). Considerazioni sulla natural della tecnica odierna, l’uomo e la cirbernetica nel quadro delle filosofia sociologica, Tecnica e casistica, Archivo di filosofia, 1/2, Padova, 1964 pp. 121-146, discussie pp 147-152.
Hollak, Jan en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de inaugurele rede Van Causa sui tot Automatie is hierin opgenomen.
Volgens Hollak wordt alles tegenwoordig functioneel opgevat. “Het aanvaarden van een feitelijke toedracht is er niet meer bij.” (p. 436). Alles wat we kunnen observeren is maar zo onder bepaalde condities en hypothesen, die we zo weer kunnen veranderen. Feiten zijn functie-waarden van bepaalde aannames. Ook het tegendeel van een feitelijke toedracht wordt als mogelijkheid gezien. Terwijl als het een feit is dat vandaag de zon is opgegaan het toch niet meer zo kan zijn dat deze niet is opgegaan.
Ook al onze ‘leefverhoudingen’ worden volgens Hollak door de moderne wetenschap tot puur hypothetische, logisch mogelijke ietsen gemaakt. Het is niet zo dat onze wetenschap ons leven verheldert. Dezelfde aanklacht tegen de wetenschap zien we bij Husserl in zijn Krises der Europäischen Wissenschaften.
De moderne wetenschap is niet uit op in wezensinzichten. Factische en wezensinzichten sluiten nog altijd hun tegendeel uit.
“Ook de factische, niet waar, als Ceasar de Rubicon overtrekt, dan kan hij haar niet tegelijkertijd niet overtrekken. Hier wordt voortdurend gesteld: dit factische is mijn hypothese, het had net zo goed anders kunnen zijn. Het contingente bij een factsiche toedracht wordt hier gemaakt tot een puur formeel logische mogelijkheid: het kan evengoed zo en anders zijn. Het aanvaarden van een feitelijke toedracht is er niet meer bij.” (Hollak, Afscheidscollege, p. 436)
Jürgen Kaube (2022). Hegel – een biografie. Uitgeverij Ten Have, 2022.
Hans Küng (1978). Bestaat God? Uitgeverij Gooi en Sticht b.v., Hilversum. Vertaling van Existiert Gott? Verschenen bij R.Piper & Co. Verlag München/Zürich.
Het heimwee naar zekerheid blijft bestaan. “Het is niet verwonderlijk, dat juist wiskundigen buitengewoon veel belang bleken te hechten aan een onvoorwaardelijke, absolute zekerheid op het terrein van leven en het kennen. (…) De zekerheid van de wiskunde, die iedere twijfel uitsluit, werd in de moderne tijd het heimwee van de filosofen.” (Deel A. Verstand en geloof, Hoofdstuk I. Ik denk, dus ben ik? p, 23)
Albert Visser (1986). Kunnen wij elke machine verslaan? Beschouwingen rondom Lucas’ Argument. Dit artikel verscheen in 1986 in de bundel Geest, Computers en Kunst, een uitgave van de Stichting Grafiet.
“Het hele eiereten is dat ‘waarheid’en ‘bewijsbaarheid’ begippen zijn in termen waarvan we cognitief succes formuleren, terwijl een formeel systeem je een proces geeft waarmee je eventueel bewijzen kunt produceren. Vergelijk het met een stenenfabriek: aan de ene kant heb je de criteria waaraan een goede steen moet voldoen, aan de andere kant een produktieproces dat zulke goede stenen oplevert. Ook al levert het proces de facto goede stenen, nog steeds zijn ‘goede steen’ en ‘steen geproduceerd volgens het proces’niet synoniem: we kunnen ons voorstellen dat om een of andere reden die we totaal over het hoofd hebben gezien, het proces plotseling slechte stenen zou gaan opleveren. ‘Goede steen” correspondeert hier met bewijs, ‘proces’met ‘formeel systeem’.
Hier wijst Visser op het wezenlijke verschil tussen het formele systeem, zoals een grammatica of machine, enerzijds en het informele gedoe, de taal zoals we die spreken, ons werken, anderzijds. Het formele systeem heeft alleen betekenis voor ons als formalisering van het inhoudelijke intuïtieve gedoe. De maat is als maat van een andere orde dan dat wat er mee in de realiteit gemeten wordt. De ‘goede steen’ is maat waaraan de goede stenen van de fabriek gemeten worden.
Ook de ideale argumentatie in een formele logica is maat voor de feitelijke argumentatie die we in een argument geven. We kunnen ons best vergissen als we redeneren. We geloven dat we het goed doen.
Wittgenstein, Ludwig (1973). Tractatus logico-philosophicus. Logisch-philosophische Abhandlung. Ed. Suhrkamp, Uitgave 1973. Oorspronkelijke Duitstalige uitgave 1921.
Wittgenstein droeg de Tractatus (1921) op aan zijn vriend David Pinsent. In het voorwoord waarschuwt Wittgenstein zijn lezer: de stellingen in dit boek zullen vermoedelijk alleen begrepen kunnen worden door die lezer die zelf al eens dergelijke gedachten gehad heeft. Waarmee hij misschien wel een kerngedachte van zijn denken uitdrukt, namelijk dat de taal niet geschikt is om wezenlijke dingen mee te communiceren.
Wittgenstein, L. (1967). Philosophical Investigations. Transl. by Anscombe, G.E.M. Oxford: Blackwell