Pas op voor de wiskundige !

Laat ik vooropstellen dat ik wiskunde een leuke bezigheid vind. Het heeft me veel slapeloze nachten, maar ook veel plezier gebracht en ik heb vele jaren met veel enthousiasme het vak gedoceerd. Het gevoel van zekerheid, dat iets klopt dat je overkomt als je na veel geploeter een bewijs rond heb gekregen! Wanneer ik hier waarschuw voor de wiskundige dan is dat vanwege zijn produkten, de wiskundige modellen. Wiskundigen zijn creatieve geesten die modellen construeren. Ze maken modellen van delen van de werkelijkheid. Natuurkundige modellen, economische, ecologisch, biologische, neurale modellen en ook taalmodellen. Dat zijn bijzondere abstracties van de werkelijkheid. Gebaseerd op data verzameld via het monitoren van de gedragingen van individuen wordt een persoonlijkheidsprofiel gemaakt, een objectieve versie, een model, van het individue.

Met die modellen en profielen worden we in ons leven geconfronteerd als ze in de informatiesystemen aan het werk worden gezet om onze werkelijkheid en daarmee ons gedrag te voorspellen, te besturen en te controleren. “When abstractions circulate and are materialized (i.e., when the profiles are ‘applied’) they have powerful effects.” (Weiskopf 2020).

De ‘zuivere wiskundige’ houdt zich bezig met de onschuldige studie van de creaties van de wiskunde, de wiskundige structuren, zelf. Ze maken stellingen en werken aan het bewijzen ervan. Ze zijn vooralsnog ongevaarlijk. Waar ik voor waarschuw zijn de modellenmakers die het model voor de werkelijkheid houden. De statische modellen – in de werkelijkheid van de wiskunde komt verandering niet voor – nemen voor de wetenschapper de plaats in van de veranderlijke werkelijkheid. Buiten hun modellen is er geen wetenschappelijke, objectieve kennis van de werkelijkheid. Kennis is pas echt kennis als het in wiskundige modellen is uitgedrukt. Dat is het wijdverbreide idee.

Wiskundigen leven met hun gedachten in een wereld die niet bestaat op de wijze waarop iets bestaat dat voor onze zintuigen waarneembaar is. Wiskunde gaat weliswaar in zekere zin over het waarneembare, ‘maar niet als waarneembaar,’ zoals Aristoteles het uitdrukte.

Wanneer je aan de man in de straat vraagt wat wiskunde is, dan hoor je vaak: wiskunde is een taal. Hier spreekt de ervaring met het schoolwiskundeboek. Een boek vol vreemde taal die eerst geleerd moet worden voordat je weet waar het over gaat. En het bijzondere is: dat waar het over gaat (getallen, driehoeken) bestaat buiten die taal helemaal niet. We leren op school rekenen, wat een soort manipuleren met tekens is. Of met een rekenmachine.

In de wiskunde maken we kennis met een bijzondere verhouding tussen het omgaan met taal en het omgaan met de materiële werkelijkheid buiten ons.

De eigen taal van de wiskunde en het maken van modellen horen bij elkaar. Met die taal beschrijft de wiskundige de objecten in zijn model. Die modellen staan voor dingen en verschijnselen uit onze dagelijkse werkelijkheid. De wiskundigen maken daar echter wat anders van. Ze creëren een eigen werkelijkheid, zodat ze ermee kunnen rekenen. Soms gebruikt de wiskunde voor de wiskundige objecten bekende namen zoals ‘verzameling’, ‘relatie’ of ‘kans’, terwijl ze er heel andere dingen mee bedoelen dan in het dagelijkse taalgebruik. De dichter Johann Wolfgang von Goethe (1749-1832) drukte deze eigenschap van de wiskundige uit in zijn beroemde:

Die Mathematiker sind eine Art Franzosen. Spricht man zu ihnen, so übersetzen sie alles in ihre eigene Sprache, und so wird es alsobald etwas ganz anderes.”

Van Goethe is ook de volgende uitspraak over de wiskunde.

Ich ehre die Mathematik als die erhabenste und nützlichste Wissenschaft, solange man sie da anwendet, wo sie am Platze ist.”  

Tegenwoordig schijnt men te denken dat de wiskunde overal op haar plaats is. De wiskundige kan overal terecht om de werkelijkheid te modelleren en vervolgens in de computer te stoppen. Maar hoe werken die modellen in de informatieverwerkende systemen? Om het bijzondere verband tussen de taal van de wiskunde en het werken van de modellen in de computer aan te geven bekijken we ons bekende getalsysteem.

Getallen zijn wiskundige objecten. Het zijn geen dingen zoals stoelen en tafels. Het zijn zuivere gedachtedingen, denkmaaksels. Maar anders dan fantasiefiguren hebben deze objecten een abstracte relatie met de waarneembare werkelijkheid. Met de werkelijkheid als telbaar of meetbaar; in het algemeen: structureerbaar. We gebruiken de getallen om dingen te tellen of te meten.

Om met die dingen te werken, dat is: om er mee te rekenen en erover te communiceren, hebben we tekens nodig. Zonder tekens kunnen we ze niet uit elkaar houden, want ze komen niet in onze waarneembare werkelijkheid voor. De tekens identificeren de objecten uniek. Er zijn veel hondjes die Fikkie heten, maar in het redeneren van de wiskundige heeft ieder object een eigen naam: getal x, getal y, driehoek ABC, etc.

Ons notatiesysteem voor de getallen is een tekensysteem dat we gebruiken om de getallen aan te duiden. We kunnen het getal dat bijvoorbeeld door de notatie ‘234’ wordt aangewezen berekenen door op deze tekenrij een algoritme, een rekenvoorschrift, los te laten. Dat algoritme leren we op school, ook al werd het daar misschien nog geen algoritme genoemd. In de rekenkunde bestaat er op deze manier een eenzinnig verband tussen de notatie en de betekenis ervan. Die betekenis is het getal zelf (dat is in dit voorbeeld het getal 234).

Zo’n notatiesysteem werd nodig toen de schaapherder aan iemand door wilde geven hoeveel schapen hij had. Zo’n tekensysteem bestaat in eerste instantie uit een bak met steentjes, voor elk schaap één steentje. Dat is handig wanneer de herder wilde weten of het aantal schapen dat ‘s avonds de stal inging hetzelfde was als het aantal dat ‘s ochtends de stal uitging. Voor elk schaap legde hij een steentje in een bak. Maar zo’n bak met steentjes is onhandig als de herder het aantal moet doorgeven aan een ander. Het steentje wordt vervangen door een streepje, een kerf op een stok, een kras in een steen. Het is het begin van een notatiesysteem. Later werd het tientallig positionele stelsel bedacht, waar de positie van de cijfers in een cijferrijtje de waarde (de betekenis) bepaalt. Dit systeem gebruiken we in West-Europa vanaf de 15de eeuw. Bij 234 heeft de 3 de waarde 30 vanwege de positie van de 3 in het rijtje.

Het is nog een kleine stap om de machine ook de waarde van tekenrijtjes (formules) als (12+5) x 23 te laten berekenen. Ook daar is een algoritme voor. Rekenen doen we met tekens en denken doen we in taal. Om de computer te laten denken moeten we het denken wiskundig modelleren, zodat het rekenen wordt. De vorm of structuur van het denken wordt gescheiden van de inhoud en de wiskundige neemt de vorm als inhoud. Zoals hij ook de taaltekens als wiskundige objecten ziet die staan voor hun inhoud, de eigenlijke wiskundige objecten. Als de wiskundige het over een ‘taal’ heeft bedoelt hij vaak een formele taal, een wiskundig taalmodel.

In zijn essay Over de zogenaamde ‘denkmachine’ wijst de bekende logicus en filosoof Evert W. Beth (1909-1964) er op dat Aristoteles reeds bekend was met de analogie tussen rekenen en redeneren. In De sophisticis elenchis (On Sophistical Refutations) wijst Aristoteles op de verschillende denk- en redeneerfouten die mensen maken veroorzaakt door de veelzinnigheid van teksten en de ambiguiteit van de woorden.

Beth geeft de Nederlandse vertaling van een passage uit het eerste deel, sectie 1 van De sophisticis elenchis waarin Aristoteles wijst op de analogie tussen het redeneren met woorden en het werken met rekensteentjes (calculi).

Want omdat het niet mogelijk is, bij het redeneren de dingen zelf mee te brengen, maar wij in plaats van de dingen de woorden als symbolen gebruiken, menen wij dat wat voor de symbolen geldt ook voor de dingen opgaat, zoals dat bij de rekenaars met de rekensteentjes het geval is. Maar die vergelijking gaat niet op, want de woorden en de uitspraken zijn begrensd, de dingen echter zijn oneindig in aantal. Het is derhalve onvermijdelijk dat één en dezelfde uitdrukking en één en hetzelfde woord meer dan één ding aanduidt. Zoals derhalve de in het hanteren van de rekensteentjes onbedrevenen door de daarin bedrevenen worden beetgenomen, zo misrekenen ook zij zich die niet op de hoogte zijn van de draagwijdte van uitdrukkingen en van de woorden, zowel wanneer ze zelf redeneren als wanneer ze anderen aanhoren.

De Stagiriet waarschuwt voor de sofist die bedreven in de taal de luisteraar misleidt door misbruik te maken van de verschillende betekenissen van de woorden en uitdrukkingen.

Aristoteles wijst op de handigheid van de woorden. Je hoeft de leeuw niet mee te nemen om het erover te hebben. Daar zijn woorden voor. Hij waarschuwt er echter voor dat anders dan in de wiskunde, de woorden niet eenduidig zijn. De sofist maakt misbruik, zo stelt Aristoteles, van de verwarring door te doen alsof de woorden eenduidig betekenen, alsof het wiskundige tekens zijn.

Dit lijkt me een wijze les die van toepassing is nu veel mensen denken dat generatieve AI (zoals ChatGPT) onze woorden spreekt terwijl de teksten die het produceert resultaat zijn van wiskundige berekeningen. Het verwarrende is dat de woorden die als tekens voor de wiskundige objecten door de makers, de wiskundigen, gebruikt worden, lijken op onze woorden, de woorden die wij dagelijks gebruiken. En dat is natuurlijk niet voor niets. Daar is het juist om te doen bij deze taaltechnologie: dat de gebruiker, de lezer, betekenis kan geven aan de tekens, door ze te herkennen. Het wiskundig model is een model van onze taal en de tekens die de wiskundigen gebruiken om de objecten in het model aan te duiden zijn de woorden waar de wiskundige objecten voor staan. Om het object dat staat voor het woord leeuw aan te duiden wordt het teken ‘leeuw’ gebruikt. Niet zo vreemd natuurlijk dat dit gemakkelijk leidt tot de gedachte dat de woorden en de wiskundige objecten waar ze voor staan gelijk aan elkaar zijn. Toch zijn het twee verschillende dingen. Net zo goed als de tekening van een pijp zelf geen pijp is, ook al lijkt deze er nog zo op.

In onze wereld kunnen we met het woord leeuw in verschillende situaties gebruikt verschillende dingen aanduiden. En daarin zijn wij creatief. Onze taal is gastvrij; een taal die open staat voor nieuwe woorden en nieuwe woordgebruiken. In de modellenwereld van de wiskundige is dat niet het geval. Daarin legt de statistische structuur precies vast in welke contexten het woord gebruikt kan worden. Die structuur (de ‘Large Language Models’) heeft de machine gebouwd uit heel veel woordgebruiken zoals die in documenten op het internet te vinden zijn. In die modellen wordt door de wiskunde onze taal vastgelegd.

Teksten dringen zich op aan ons lezers. De kritische vraag aan de lezer van de geproduceerde tekst is dan ook of hij de betekenis die hij erin leest als waarheid ziet omdat hij de waarheid erin herkent, of dat hij de tekst voor de waarheid zelf houdt, omdat het de computer, dat is de wiskundige, is die het zegt. We noemen deze figuur tegenwoordig vaak AI, kunstmatige intelligentie. De wiskundige kaapt onze taal. Zoals hij de werkelijkheid kaapt door deze in zijn modellen vast te leggen en deze voor ‘de werkelijkheid’ te houden.

We gaan nog even terug gaan naar de herder met zijn bak met steentjes, voor elk schaap eentje. Wanneer hij de bak meeneemt naar de markt neemt elk steentje de plaats in van een schaap. Het schaap is de concrete waarde van het steentje. Als hij een schaap verkoopt geeft hij een steentje aan de koper. Zo wordt het steentje geld. Het schaap is de waarde van een geldstuk. De relatie tussen de steentjes die teken zijn van de waarde enerzijds en de kudde die de werkelijke waarde is anderzijds, is abstract. Het geld is de abstracte waarde, zoals de getallen de abstracte aantallen zijn. In de geldeconomie wordt er met geld gehandeld alsof het zelfstandige waarden zijn. Het geld wordt verplaatst van de ene bankrekening naar de ander door computers die tekens manipuleren. Het zicht op de werkelijke wereld van de waren is uit het zicht verdwenen, zoals de werkelijke wereld van alledag voor de wiskundige wetenschapper achter zijn modellen verdwenen is. En zoals de taalgenererende machines de abstracte ‘woorden’ manipuleren, waarbij het zicht op de oorspronkelijke waarden, de gedachten van de mens die er zijn relatie tot de werkelijkheid in verwoordde, is verdwenen. Waarheid is niet meer wat gemodelleerd wordt. De modellen, die door de overheden en bedrijven op de markt worden gebruikt, definiëren wat waar is.

Vanwege de typisch afstandelijke houding van de mathematicus brengt mathematisering het gevaar van dehumanisering met zich mee. “When the person appears on screen as a result of algorithmic visualization, the Other as a “face” (in Levinas’ sense of “an authority without force” that demands a moral response) disappears completely and moral responsibility for the Other is suspended and rendered ineffective.” zegt Weiskopf (2020) in een artikel over het effect van ‘algorithmic governmentality’ op de wijze waarop vanuit de onpersoonlijke ander (het systeem) de persoon verschijnt. De ambtenaar van de belastingdienst ziet op zijn beeldscherm slechts gedataficeerde burgers, elk met hun eigen BSN, geen mensen van vlees en bloed. Het toeslagenschandaal is mede gevolg van deze abstracte werkwijze volgens procedures in mathematische virtuele werelden.

Daarom zeg ik: pas op voor de wiskundige! Verwar zijn produkten niet met de werkelijkheid.

Bronnen:

D’Amato, K. (2024) ChatGPT: towards AI subjectivity. AI & Soc (2024). https://doi.org/10.1007/s00146-024-01898-z

“A fundamental theme organising much current scholarship in the ethics of AI is the so-called alignment problem, or “the challenge of ensuring that AI systems pursue goals that match human values or interests rather than unintended and undesirable goals”

“I will argue that we may be on the verge of enacting not the death of the Author (or Man), but the birth of a nonhuman subjectivity, and that to make intellectual and practical progress we must interrogate this subjectivity as such.”

“In contrast with Coeckelbergh and Gunkel (2023), I will not be arguing whether technology is or is not human, but whether this particular instance of technology can relate to knowledge and power in a way that can plausibly be thought of as a new subjectivity.”

“The ability to respond to the concrete other is a precondition for exercising
or enacting moral responsibility” (Weiskopf 2020).”

“A technology conceived as purely instrumental to human objectives cannot be responsible for the consequences of its actions.”

The paper suggest four linked research themes that would help take us towards a self-conducting AI subjectivity: 1) embodied self-care 2) embodied intentionality 3) imagination 4) reflexivity: the ability to interrogate one’s knowledge and attitudes.

“An AI system that fulfils these criteria would therefore be at once inventive,
participating, self-forming and responsive. In short, it would be a “self-conducting AI subject” that is sensitive to its social and historical milieu.”

“That is, ethics requires freedom, but it is also more than that: ethics
“is the conscious [réfléchie] practice of freedom” (Foucault 1997, 284; emphasis added). That is, ethics and the practice of freedom are analytically inseparable; although freedom may constitute an ontological condition of ethics, the practice
of freedom is ethical in and of itself. This suggests one potential diagnosis for the failure of the analytic project to specify the preconditions of responsibility: in isolating distinct, prior conditions one erects a false dichotomy between these conditions and morality and, as it were, commits violence to the concepts being discussed. Foucault further qualifies the practice of freedom: it is a conscious practice of freedom. This reflexivity is in part an epistemic process of “knowing thyself”—gnōthi seauton—as noted by Foucault in the context of Greek ethics. Indeed, Deleuze interpreted Foucault’s ethics as “nothing else than the reflexive work of the self upon self” (Villadsen 2023).

Vergelijk Meeuwissen Inleiding in de Rechtsfilosofie: ethiek is de sfeer waarin het gaat om de verwerkelijking van de vrijheid, de mens als persoon, de samenleving als open.

“… a moral AI subject must be one that can craft itself.”

Een keyword in dit paper is ‘dispositif’. Wat is het?

“This concept of apparatus or dispositif can be explicated as a “system of relations” (dat is een structuur, RodA) formed between elements of a “heterogeneous ensemble” organised around a strategic function or “urgent need”; it consists of discourses, institutions, techniques, practices, architectures, legislation, and so on.” (Foucault 1980).

“Das Wahre ist das Ganze” (Hegel)

The dispositif is a key analytical tool in Foucault’s thought that ties together various parts of his work and presents a framework for the analysis of societal problems. It is a systematism that cuts across categories, involving large swaths of social reality.

“An important observation is that the dispositif is not fixed or deterministic, but a “moving ‘battlefield’ shaped by perpetual struggle, unfolding through the tactics that individuals pursue in their self-constitutive practice” (Villadsen 2023).

Dit is de kern van Coeckelberghs ‘growing moral relations’.

Evert W. Beth (1969). Moderne Logica. Uitgeverij Van Gorkum & Comp. N.V. Assen, 1969. Hoofdstuk V: ‘Over de zogenaamde denkmachine.’

Villadsen, K. (2023). Goodbye Foucault’s ‘Missing Human Agent’? Self-formation, Capability and the Dispositifs. European Journal of Social Theory, 26(1), 67–89. https://doi.org/10.1177/13684310221125350

Over Foucaults verschillende opvattingen betreffende de relatie subject-machtsstructuren.

Vwb ‘bio-power’ vergelijk L Fleischhacker over Kapteins metafysische onderbouwing van René Girard’s mimesis theorie. (In: Hegel, zelfbewustzijn, begeerte en de ander)

Weiskopf, Richard (2020). “Algorithmic Decision-Making, Spectrogenic Profiling, and Hyper-Facticity in the Age of Post-Truth.” Le foucaldien 6, no. 1 (2020): 1–37. DOI: https://doi.org/10.16995/lefou.62

Meten en kwantificeren heeft een nieuwe dimensie gekregen in de vorm van ‘dataficatie’ (dataïsme, Harari, Homo Deus, 2019). Dit artikel onderzoekt de aannames die ten grondslag liggen aan de transformatie van het nemen van besluiten naar een rekenprocedure. Deze leidt tot demoralisering en ontpoliticering.

Cambridge Analytica verzamelde persoonsgegevens en gegevens over het (internet) gedrag voor het maken van ‘persoonlijkheidsprofielen’. Deze werden gebruikt door commerciële en politieke organisaties om het (koop- of kiezers-) gedrag van burgers te sturen.

“A theoretical basis for Cambridge Analytica‘s work can be found in a paper published in 2015. Here, the authors attempt to show “that computer’s judgments of people’s personalities based on their digital footprints are more accurate and valid than judgments made by their close others or acquaintances (friend, family, spouse, colleagues).”

“I start with a discussion of “algorithmic decision-making” in the context of Derrida’s view on decisions that deserve the name. This opens the space for problematizing assumptions on which algorithmic decision-making and profiling rely. In transforming decisions into calculations, they create “ghostly demarcations” that discriminate and sort in/out based on abstractions and make the ethics and politics involved in these processes disappear.”

“In fact, algorithmic procedures that produce a decision (or rather a yes/no switch) as the outcome of a calculated series of steps (e.g. decision trees) reframe ethical and political questions as technical problems of systems engineering.”

“For Derrida, a decision that deserves the name presupposes “undecidability” and requires going through the “ordeal of the undecidable.” Algorithmic decisions are in his sense not decisions at all since “a decision that didn’t go through the ordeal of the undecidable […] would only be a programmable application or unfolding of a calculable process.”

“Derrida reminds us that the undecidability is “not a moment to be traversed and overcome.” It continues to inhabit the decision “as an essential ghost.””

Ik denk dat de substitutie van het begrip vrijheid door keuzevrijheid ten grondslag ligt aan de idee dat ‘machines (algoritmes) beslissingen kunnen nemen’.

Algorithms are performative. They generate objects of knowledge that loop back and shape the world. Profiling and classification algorithms make up people.

However, such fictions (created by the mathematicians, RodA) are not simply illusions, but rather social objects and artefacts that have concrete material effects in the world.

“… taking some inspiration from Derrida’s analysis of the ghost and the “ghost effect” in The Specters of Marx, I suggest that profiles can be understood as ghosts that are the outcome of a “spectrogenic process.”

In Specters of Marx, Derrida explains that the production of the ghost, or the “constitution of the ghost effect” is more than the autonomization of thoughts, ideas, data, etc. “For there to be ghost, there must be a return to the body, but to a body that is more abstract than ever. The spectrogenic process corresponds therefore to a paradoxical incorporation. Once ideas or thoughts (Gedanken) are detached from their substratum, one engenders some ghost by giving them a body. Not by returning to the living body from which ideas and thoughts have been torn loose, but by incarnating the latter in another artifactual body, a prosthetic body

Dit is precies wat de mathematische houding doet: structuren abstraheren van de werkelijkheid en deze als zelfstandige objecten aan andere materialen en processen opleggen (implementeren).

… it can also be argued that the emerging regime of truth creates conditions that are related to a specific mode of subjectification which Žižek has called “proto-paranoiac”:

“My very awareness of the fact that ‘the truth is out there’, that files on me circulate which, even if they are factually ‘inaccurate’, none the less performatively determine my socio-symbolic status, is what gives rise to the specific proto-paranoiac mode of subjectivization characteristic of today’s subject: it constitutes me as a subject “inherently related to and hassled by an elusive piece of database in which, beyond my reach, ‘my fate is writ large’. ( Žižek 1999, p. 260)

Slavoj Žižek (1999), The Ticklish Subject: The Absent Centre of Political Ontology. London: Verso, 1999.

Dit is het meest geciteerde artikel ooit, ofwel: wat is er met de taal gebeurd?

“Every element of the physical reality must have a counterpart in the physical theory” (Einstein, Podolsky, Rosen, 1935)

Wat is er met onze taal gebeurd?

Dat er iets met onze taal gebeurd is, dat is wel duidelijk nu machines ons taalgebruik hebben overgenomen en de mens de taal steeds meer als een instrument is gaan beschouwen, een gereedschap dat klaar ligt en waar je van alles mee kan doen. Niet alleen in de interactie met (intelligente) machines, maar ook in interactie met elkaar.

We hebben de taal tussen aanhalingstekens geplaatst, geobjectiveerd. Wat betekent dat en hoe is dat zo gekomen? Om die vraag te beantwoorden moeten we de geschiedenis in, naar de oorsprong van de taal. Want de geschiedenis van het fenomeen is essentieel voor het begrip ervan. De taal wordt gevoed en is de neerslag van taalgebruik. Taalgebruik in sociale ontmoetingen is veranderd met de ontwikkeling van technieken voor communicatie.

De taal is waarschijnlijk zo oud als de mens. De mens gebruikt taal met een vanzelfsprekendheid dat het lijkt alsof het duidelijk is wat taal is en hoe taal werkt. Niets is echter minder waar. Hoewel in Mesopotamië vanaf 3200 voor Christus geschreven taal voor kwam, begint volgens historicus en taalwetenschapper Rens Bod (2019) de studie van de taal – ‘het verzamelen, analyseren en interpreteren van taaldata’ – pas rond 1600 voor Christus in Babylonië. Bod gaat het in zijn historisch onderzoek om de geschiedenis van de ontdekking van patronen en principes in zeer diverse ‘kennisactiviteiten’, zowel in de wiskunde, in de natuurwetenschappen als in de geesteswetenschappen, waaronder de taalwetenschap. Mij gaat het hier om de mechanisering van het taalgebruik als redeneermiddel en als communicatiemiddel, om de functionalisering van de taal. Bod (2019) gaat tot ongeveer 1800. Ook daarvoor vonden ontwikkelingen plaats die voor de programmeerbare machine van belang zouden zijn.

Maar na 1800 zien we een verdere toenadering tussen taal en techniek. Zoals de toepassing van patronen bij het weven die leidden tot het machinale weefgetouw van Jacquard. Bij Charles Babbage komen wiskundige patronen en weefpatronen samen in de ponskaarten voor zijn Analytische Machine (1836). Dergelijke ontmoetingen (de Engelsman Babbage bezocht Lyon waar hij kennis maakte met de Jacquard) die zouden leiden tot de programmeerbare rekenmachines worden door Nijholt en Van den Ende uitvoerig beschreven.

Een patroon is een regelmatigheid in gegevens, in gebeurtenissen, in natuurverschijnselen. Kennis van deze regelmatigheden is van belang voor het voorspellen en maken van nieuwe dingen. Het aantrekkelijke van het gebruik van (vaste) patronen is de zekerheid die ze bieden. Een machine die volgens vaste patronen werkt, maakt geen fouten. Mensen maken fouten doordat ze afgeleid en vermoeid worden. Machines hebben daar geen last van. Althans dat was het idee.

Het gebruik van taal leidt vaak tot misverstanden. Niet iedereen is het altijd eens over de betekenis van de woorden die gesproken of geschreven worden. Bedoelt de spreker of schrijver letterlijk wat hij zegt of schrijft? Doen woorden er toe? De taal blijkt in het gebruik als middel tot communicatie ook een bron van misverstanden, van miscommunicatie. Is dat eigen aan taal? Of: bestaat de mogelijkheid van een taal die deze nare eigenschap niet heeft? Die zo helder en doorzichtig is dat elk misverstand over de betekenis ervan uitgesloten is? Verschillende pogingen tot zo’n taal te komen zijn ondernomen. Zonder succes. Dat geeft te denken. Heeft de veelzinnigheid en de openheid van de taal wellicht met onze vrijheid te maken? De vrijheid die ons zo dierbaar is.

Wat bedoelen we met ‘betekenis’ van de woorden? Is dat iets buiten de taal waar we toegang toe hebben buiten de taal om? Of bestaat dat alleen in het gebruik van taal? Bestaat taal eigenlijk wel echt buiten de concrete situaties, de ontmoetingen tussen taalgebruikers als onderdeel van hun sociaal handelen en gedrag.

Letten we niet teveel op de woorden die de ander schrijft, en reageren we dan niet te snel op de betekenis die wij daar in leggen, in plaats van eerst ons af te vragen hoe de schrijver of spreker de woorden bedoeld zou kunnen hebben? Vooral de snelle sociale media nodigen uit tot dit gedrag, vanwege de weinig context die het biedt en de onbekendheid van de schrijver. De relatie tussen de woorden, en dat waar hun gebruik in een specifieke situatie naar verwijst is uiterst complex en niet zonder meer uit de ‘betekenis’ van de gebruikte woorden alleen te destilleren.

Taalgebruik hoort bij een leef- en denkwereld. Het taalgebruik van iemand verwijst naar en is voor ons uiting van een bepaalde sociale leefwereld en een gedachtegoed. Een leefwereld en gedachtegoed waar we wel of niet ons in kunnen vinden. Onze samenleving en daarmee onze taal en leefwereld zijn sterk beïnvloed door wetenschappelijke kennis en technologie. Ze bepalen in sterke mate ons wereldbeeld en mensbeeld. Ons wereldbeeld en de wijze waarop we ons in taal uitdrukken zijn twee kanten van een zelfde zaak. In taal verwoorden wij onze relatie tot de werkelijkheid om ons heen, onze leefwereld. De taal creëert als het ware onze werkelijkheid.

Taalgebruik als sociaal gedrag

De geschiedenis van de verschillende vormen van taalgebruik kan niet los gezien worden van de ontwikkeling van de technische middelen waarvan mensen gebruik maken om met elkaar te communiceren. We spreken van programmeertalen. We zien nu dat machines in de vorm van sociale robots zijn gaan behoren tot de gemeenschap van taalgebruikers.

De term ‘taalgebruik’ suggereert dat taal een instrument is dat klaar ligt om gebruikt te worden. Die taal is ontstaan als weerslag van terugkerende sociale gedragingen tijdens ontmoetingen; gebaren die herkend worden als tekens, verwijzingen naar elementen in de door deelnemers gedeelde situatie. Allereerst kennen we het onderscheid in de wijze van productie van de gebaren: door lichaamstaal, expressies. Daarmee corresponderen het visuele en auditieve communicatiekanaal tussen zender en ontvanger. Dan is er de dimensie willekeurig-onwillekeurig. De onwillekeurige lichaamshoudingen en gezichtsexpressies van de deelnemers leveren vaak een belangrijke bijdrage aan de uitgewisselde boodschap. De productie van woorden is gewild. De toon waarop de woorden worden uitgesproken is vaak een onwillekeurige expressie van de emotie. De ander kan iets zien in je houding, je gebaren, je woorden, dat je er niet zelf ingelegd hebt. Anderzijds beschikt de mens over de kunst te acteren, waarin hij vrij beschikt over het tonen van gebaren en expressies.

Met het ontstaan van verschillende technische platformen worden verschillende vormen van communicatie mogelijk: real-time of offline: Telefoon, briefpost, e-mail, sms-bericht, video-gesprek, boek, krant, rapport, chat, blog posts, radio, televisie, sociale media. Elk van deze platformen hebben hun eigen voor- en nadelen. Deze betreffen de beperktheid van de kanalen en het real-time of offline karakter.

Naast het produktieplatform dat gebruikt wordt voor de sociale ontmoeting onderscheiden we van iedere bijdragen aan de ontmoeting het produktieformat en het participatieraamwerk. Niet iedereen spreekt altijd voor zichzelf en niet iedereen spreekt altijd zijn eigen tekst. Het produktieformat betreft de wijze van betrokkenheid van de spreker bij de bijdrage. De spreker kan animator zijn, auteur en/of principaal, degene namens wie gesproken wordt. De sprekende machine kan behalve animator ook auteur zijn, maar geen principaal. De sociale robot spreekt niet namens zichzelf.

Het participatieraamwerk van een uiting of bijdrage aan de conversatie beschrijft wie er allemaal betrokken zijn bij de bijdrage en welke rol de betrokkenen spelen in die bijdrage. Naast de spreker zijn er luisteraars. Deze kunnen de status hebben van legale en niet legale, deelnemende en niet deelnemende (luistervinken). De spreker kan zowel met zijn bijdrage één of meerdere luisteraars adresseren of iets in het midden (op tafel) werpen, zonder iemand specifiek als geadresseerde te selecteren. In een face-to-face gesprek wordt de geadresseerde door de huidige spreker geselecteerd en aangewezen. Hij wordt geacht op de bijdragen van de spreker te reageren.

Soms zijn de luisteraars of lezers voor de spreker schrijver onbekend: ze vormen het gehoor, het publiek (‘audience’), of de volgers (Twitter). In de uiting “Fijn dat u luistert.” door een radio-presentatrice verwijst ‘u’ naar de anonieme luisteraar. Bij sociale media zoals Twitter doen soms kunstmatige deelnemers (chatbots) mee aan de interactie. Algoritmes bepalen mede wie welke berichten te zien krijgt op zijn ‘tijdlijn’. De deelnemer kan private messages versturen en anderen van deelname aan zijn netwerk (‘vrienden’) uitsluiten (blokkeren, negeren).

De taal die de participanten in een conversatie gebruiken wordt mede bepaald door de sociale rol die ze spelen en de persoonlijke of formele relaties die ze hebben. Leerlingen die op gelijke voet staan spreken onderling een andere taal (een ander register) dan wanneer ze met de docent spreken. ‘Footing’ is de Engelse term die Goffmann gebruikt voor de wijze waarop de spreker betrokken is bij de andere deelnemers en bij het gezegde.

Vooral een verandering in ‘footing’ wordt waargenomen. Wanneer president Nixon tijdens een ceremonie in het Witte Huis een opmerking tegen een secretaresse maakt over haar kleding. “Helen, are you still wearing slacks? Do you prefer them actually? Every time I see girls in slacks it reminds me of China.” (Goffman, Footing, p.1) , dan vindt er een verandering van footing plaats. Voor Goffman is deze gebeurtenis een teken dat de vrouw altijd bereid moet zijn voor een verandering van rol opgedrongen door iemand die meer macht heeft. Hier van een formele rol naar een seksuele rol. De vrouw moet elk moment een opmerking verwachten over haar uiterlijk. Verandering van footing houdt hier een verandering in van zowel register, als van participatieraamwerk, als van gespreksonderwerp.

De scene speelde in 1973, maar er is sindsdien niet veel veranderd, gezien het veelvuldig voorkomen van ‘grensoverschrijdend gedrag’ door autoriteiten tegenover anderen die door hen beschouwd worden als onderdanige objecten.

Zolang de taal bestaat heeft deze de aandacht van de filosofen. Aristoteles schreef erover in De Interpretatione, Plato in zijn Phaedrus. Terwijl er altijd al belangstelling was voor de taal in de vorm van literatuuronderzoek, rond 1900 kwam ‘de taal zelf’ in het centrum van de aandacht van filosofen te staan. Men spreekt wel van een ‘linguistic turn’. De zin werd object, eerst van logische analyse. Eerst beperkte de aandacht zich tot de bewerende zin, waarin een oordeel wordt uitgesproken: “deze roos is rood”.

Deze nieuwe wetenschappelijke en filosofische aandacht voor de ‘gewone’ taal ging parallel met een ‘zelf-reflectie’ in de wiskunde, onder andere veroorzaakt door de ontdekking van het hypothetische karakter van de meetkunde in de 19de eeuw. Als er meerdere meetkundes, Euclidische en niet-Euclidische, bestaan, wat is dan de relatie met de fysische ruimte? De waarheid van de wiskunde stond op het spel. Die was niet meer geborgen in de Natuur zelf. Er was sprake van een grondslagencrisis.

De relatie tussen wiskundige theorie en fysische werkelijkheid stond ter discussie.

Na 1800 ontstond er een scheiding: het begin van de ‘zuivere’ wiskunde en de toegepaste wiskunde. Gerard Alberts beschrijft in zijn Syllabus Wiskunde en praktijk in historisch perspectief de opkomst van het concept wiskundig model aan het eind van de 19de eeuw. Zo’n model hoefde niet een correct, volledige weergaven van de werkelijkheid te zijn. “Het kon doelmatig en correct zijn om welbewust af te zien van gedetailleerde weergave van de werkelijkheid en toch over te gaan tot een wiskundige formulering. Men kan dus bewust streven naar uiterlijke beschrijving -nu zeggen we “black box benadering”- en die vrijheid bood het oude toegepaste-analyse-paradigma van toegepaste wiskunde niet.” (Gerard Alberts, p.56)

De zelf-reflectie van het wiskundig denken kreeg vorm in de meta-mathematica, een wiskundige theorie van wiskundige theorieën en hun ‘semantische’ modellen (heel andere ‘modellen’ dan die waar de toegepast wiskundige, en fysici het over hadden!), en in de mathematische logica, een wiskundige theorie van het logisch redeneren. De Duitse wiskundige en filosoof Gottlob Frege wordt vaak als de grondlegger van de laatste beschouwd. De Duitse wiskundige David Hilbert is de ontwerper van het project van de meta-mathematica. In deze zelf-reflectie-projecten vinden we de begripsmatige basis-technieken die van groot belang geweest zijn voor de automatisering en de kunstmatige intelligentie (AI). Daarin speelt taal (‘Natural Language Processing’) een centrale rol.

De AI (en iedere informatietechnologie is kunstmatige intelligentie) is gebaseerd op het principe van eenzinnige correspondentie tussen denkinhouden en fysische toestanden. De machine is zodanig gemaakt dat causale gevolgen van instellingen ervan die corresponderen met denkinhouden (ingevoerde gegevens, informatie) volgens fysische processen die zich in de machine voltrekken, resulteren in informatietoestanden die corresponderen met de denknoodzakelijke gevolgen van de ingestelde toestanden.

Door de ‘getallen’ (cijfers eigenlijk) drie en vier in te toetsen op de rekenmachine breng je de machine in een begintoestand. Door op plus te drukken breng je een fysisch proces op gang dat tot een nieuwe toestand leidt die voor ons correspondeert met het resultaat van de optelling van de twee getallen die corresponderen met de ingestelde begintoestand. Deze correspondentie tussen denkproces en natuurproces werd geformuleerd door de fysicus Heinrich Herz in de Inleiding van zijn Prinzipien der Mechanik.

In het citaat van Einstein, Podolsky en Rosen uit het meest geciteerde artikel verschenen in de Physical Review, dat ik bovenaan deze tekst heb geplaatst, stellen de auteurs dat een volledige theorie aan de eis moet voldoen dat met ieder element in de theorie een element in de natuur correspondeert. Dit was de reden waarom Einstein de kwantumtheorie onvolledig noemde. In de kwantumtheorie was allerminst duidelijk wat de termen van de theorie in werkelijkheid beduiden. Dat was in 1937. Merk op dat dit ‘werkelijkheidsgehalte’ voor een pragmaticus als Herz helemaal niet van belang was.

De kwantumtheorie is nog steeds onvolledig. Maar ze werkt, aldus onder andere onze Nobelprijswinnaar, de fysicus Gerard ‘t Hooft. Ze werkt in de technologie die erop gebaseerd is. Het gaat er niet (meer) om wat de elementen van de theorie voorstellen. Het gaat niet om de betekenis van de woorden. Het gaat erom dat de theorie functioneert. De objectiviteit, de waarheid van de wiskundige gelijkheden zit hem in de reproduceerbaarheid van de experimenten en de toepassing van de resultaten daarvan. Dit komt overeen met wat Niels Bohr in debatten met Einstein voorstelde. Er is geen fysische werkelijkheid buiten de (taal van de) theorie en de van die theorie afgeleide meetinstrumenten, experimenten en technologie om.

Het begrip als functie

Bij Frege komen begrip, betekenis, en waarheid op een nieuwe manier samen in zijn Begriffschrift, een formele logische taal, waaruit de predikatenlogica, een onderdeel van de mathematische logica, zou voortkomen.

Frege was een revolutionair denker. Hij draaide de Aristotelische subject-predicaat-verhouding van de klassieke logica om: hij vatte ‘is rood’ op als een functie die toegepast wordt op een object, ‘deze roos’. Het resultaat is een waarheidswaarde, een object, waar of onwaar. De bewering “Deze roos is rood” als expressie van een formele taal is zelf geen bewering maar een object. Een bewering heeft een subject nodig dat iets beweert. Dat subject is verdwenen. Frege voerde een teken in dat daarvoor in de plaats kwam: het beweringsteken I– . Later zullen we gaan schrijven M I– “Deze roos is rood”, waarbij M staat voor een agent. Dat kan zijn een theorie, een model, of een machine.

Beweren is een activiteit en deze kan na de revolutie van Frege ook door machines worden uitgevoerd. Althans dat denken sommige mensen. Moeten we de machine serieus nemen? Machines zijn ook door mensen gemaakt om voor ons denkwerk te doen. Het is dus niet zo gek dat mensen denken dat ze denken. En dat ze denken komt tot uitdrukking in het feit dat ze (onze) taal gebruiken.

Wat we met woorden doen: “U bent ontslagen…”

De Engelse filosoof Austin wees erop dat we veel meer dingen doen met taal dan beweren. De term ‘speech act’ werd populair als object van onderzoek. In Nederland werd dit vertaald als ‘taalhandeling’. (wel te onderscheiden van de onder Nederlandse significi als Frederik van Eden, gebezigde term ‘taaldaad’). “How to do things with words” werd de treffende titel van een bundel door studenten van Austin uitgebrachte collegeaantekeningen. Een hele dierentuin aan soorten taalhandelingen werd ontdekt en bestudeerd: naast beweren, komen erin voor: beloven, informeren, feliciteren, vragen, groeten, danken, …

De term performatief kwam in zwang. Sommige taalhandelingen hebben het bijzondere karakter dat de handeling verricht wordt door het uitspreken: zoals beloven of groeten. Met het uitspreken van “Ik beloof dat ik morgen kom”, beloof ik wat ik zeg te zullen doen. Zonder dat uitspreken is er geen beloven. De filosoof Searle wees er in navolging van o.a. Ludwig Wittgenstein (de grootste taalfilosoof van de vorige eeuw) op dat je ook iets kan zeggen zonder dat je meent wat het zegt. Bijvoorbeeld als een (geheime) sleutel om toegang te krijgen tot een systeem. Hij voerde de term ‘sincerity conditions‘ in. Hij doelde daarmee op de condities waaraan de spreker en de spreeksituatie moeten voldoen op dat het uitspreken van de zin werkt. Ik kan wel zeggen dat ik beloof morgen te komen, maar als ik niet eerlijk ben, beloof ik dat dan nog wel? De uiting van de zin “hierbij doop ik u” of “u bent ontslagen” vereisen speciale condities om als onderdeel van een doopritueel te gelden. De woorden “U bevindt zich hier.” voorzien van een pijl op een routekaart, kunnen alleen hun werk doen als de kaart op de fysieke plek staat die correspondeert met de plek die op de kaart wordt aangewezen. Bijzonder is het gebruik van deictische woorden, zoals ‘u’ en ‘je’ in “radio talk”. Wanneer de presentatrice zegt: “Fijn dat u luistert.” zou de luisteraar zich af kunnen vragen hoe ze weet dat hij luistert. Omdat we gewend zijn aan dit soort taalgebruik, weten we dat dit een rare vraag is. Net als de vraag ‘wie’ de woorden gesproken door de geldautomaat spreekt. Er is niet een iemand die de woorden spreekt. Woorden hebben geen spreker meer nodig.

Heel bijzonder is de relatie tussen de taalhandeling en het effect dat er door tot stand komt wanneer je tegen iemand die slaapt, roept: “wakker worden!”. Of als iemand “test, test, test” roept in een microfoon om te doen wat hij zegt: testen. Het is de fysische werking, het geluid dat gepaard gaat met het uitspreken van de woorden, dat het beoogde effect van de handeling realiseert. En dat is precies wat de woorden betekenen.

De woorden programmeren ons denken. Dat zag de jonge Hegel al. In de Jenaer Realphilosophie (1805/06) spreekt hij van het “mechanische” gebruik van woorden. Hegel was volgens Bemelmans uitstekend op de hoogte was van de stand van zaken in de natuurwetenschappen van zijn tijd. (Bemelmans, 2006, p.2).

“Die Veröffentlichung verschiedener Auslegungen der Naturphilosophie hat deutlich gemacht, daß er (Hegel, roda) über einen Zeitraum von etwa dreißig Jahren immer wieder bereit war, die empirische Grundlage seines Systems im Licht der sich verändernden Tatsachen der Naturwissenschaften zu korrigieren.” schrijft Michael John Petry in het voorwoord van Hegel und die Naturwissenschaften (1987).

Hij had veel waardering voor de resultaten van de mathematische natuurwetenschap, maar vond er te weinig begrip omdat het niet duidelijk is, waarom de wiskundige formules eruit zien zoals ze eruit zien. De ontwikkelingen in de moderne fysica, zoals de kwantummechanica, tonen aan dat de vraag hoe we de relatie tussen de wiskundige modellen van de fysica en de natuur moeten denken nog niet is opgehelderd.

Filosofen zijn net als wiskundigen denkers en denken doe je in taal. Wie over taal denkt die heeft te maken met de taal waarin hij denkt en de taal waarover hij denkt. De filosoof, die het om het begrip van de taal gaat, zal zich pas tevreden stellen wanneer de taal die hij denkt te beschrijven overeen komt met de taal die hij actueel bezigt. Maar de taal, de woorden en zinnen die ik mij in mijn denken als object voorstel, is niet de taal die ik als denkend gebruik. De taal bestaat primair in het gebruik. In het reflecteren over taal wordt de taal in gebruik (van het subject) taal als object. De taal komt als het ware tussen aanhalingstekens te staan.

Wittgenstein had zijn hoofd al gepijnigd met de vraag: of we iets kunnen zeggen, beweren, zonder het te menen. Hij voerde het belangrijke onderscheid in tussen de handelingen ‘zeggen’ en ‘tonen’. Zodra een zin een object is, kunnen we dit ook laten zien, tonen. Dat is iets anders dan zeggen wat de zin zegt. De zin zegt zelf ook iets aan de lezer, omdat en voor zover deze het zeggen van de zin in de getoonde zin herkend. Bij gebaren zien we iets dergelijks. Wanneer is het opsteken van een arm en het zwaaien een groeten? Gedrukte en geschreven woorden en zinnen zijn plaatjes. De Belgische kunstenaar Magritte gebruikte ze soms als onderdeel van zijn schilderijen. “Schilderen is niet bevestigen” schrijft Michel Foucault in zijn essays over het gebruik van de kalligrafie bij Magritte (Foucault, 1988).

Plato had er in de Phaedrus al op gewezen dat de geschreven tekst zich niet kan verantwoorden tegenover de lezer. Je kunt de tekst niets vragen. Hij zag dit als groot verschil en nadeel vergeleken met gesproken tekst, omdat daarbij de spreker zelf aanwezig is. Tegenwoordig is dat niet meer zo. De technologie heeft het mogelijk gemaakt spraak op te nemen en weer af te spelen in situaties waarin de spreker niet aanwezig is. Hier geldt dus hetzelfde probleem als bij de geschreven tekst. Je kunt er niet mee inter-acteren.

Achter de taal- en spraak-technologie en de technologie van sociale robots gaat een onderscheid schuil dat fundamenteel is voor de betekenis ervan. Reconstructie van het onderscheid in de techniek kan eenvoudig verward worden met de oorspronkelijke eenheid in de werkelijkheid waaraan het onderscheid ontleend is. Een formele grammatica van een natuurlijk taal is een wiskundige structuur, waarvan de elementen, de ‘woorden’ constanten zijn die we als naam (identifier) de naam geven die overeenkomt met de woorden van de natuurlijke taal. Maar de formele taal is niet de natuurlijke taal. De natuurlijke taal is geen wiskunde taal.

De werking van de computer als woordprocessor of spraakmachine is gebaseerd op de aanname van de gebruiker dat de woorden die op het scherm verschijnen of de klanken die uit de speaker komen de woorden en klanken van de taal zijn zoals hij die gewend is te gebruiken. Zonder deze idee werkt de taaltechnologie niet.

Onderscheiden versus scheiden

Zodra we bedenken dat taal ergens over gaat, maken we een onderscheid tussen het gebruik van taal en waar het over gaat. Maar deze twee komen niet gescheiden voor in werkelijkheid. We kunnen taal niet eens gebruiken zonder dat het ergens over gaat. Natuurlijk kunnen we ook naar de buitenkant, de structuur van de taal kijken, naar de woorden en zinnen van taal als op zich zelf staande objecten. Maar de taal die we zo bekijken is juist niet de taal als gebruikte taal. Dan is de taal onderwerp waar we het in taal over hebben.

De taalhandelingentheorie gaat over het gebruik. De vraag is wat de gebruiker met de uitdrukking bedoelt. Het gaat niet zozeer om waar het over gaat maar wat de bedoeling is van wat hij zegt. En over wat hij ermee doet.

Eén van de moeilijkste problemen van het denken is dat het verstand niet zonder onderscheidingen kan. Om te zeggen wat iets is, moeten we het onderscheiden van andere dingen, die het niet zijn. Veel van die onderscheidingen komen in de werkelijkheid echter niet gescheiden voor. In de filosofie zijn er legio van dit soort onderscheidingen: materie/vorm, subject/object, oorzaak/gevolg, deel/geheel, eenheid/veelheid. Filosofen hebben de neiging te vervallen in hetzij een dualisme, waarin de twee als gescheiden werkelijkheden worden gezien, hetzij een monisme, waarin de twee als eenheid worden beschouwd en het onderscheid wordt ontkend.

Dit zien we ook als we kijken naar het actuele probleem van taal en werkelijkheid. Volgens Fleischhacker is dit in zekere zin hetzelfde probleem als dat van de intelligibiliteit (de begrijpelijkheid, of bepaalbaarheid) van de wereld waarin we leven. Begrijpelijk (intelligibel) zijn betekent dat het verstand (het intellect) er toegang toe heeft. De enige manier waarop dat zich kan manifesteren is dat er iets over gezegd kan worden dat zin heeft (makes sense).

Bij het meetprobleem in de deeltjesfysica duikt dit probleem ook op. Einstein kon niet accepteren dat de werkelijke toestand van een systeem pas door het observeren (meten) ervan bepaald wordt, zoals Niels Bohr beweerde. Volgens Bohr kun je de werkelijkheid niet beschrijven zonder de meetmethode te beschrijven. Het geeft een recept voor de reproduceerbaarheid van het meten.

Is de verdeling van stemmen al bepaald, vóór dat alle stemmen geteld zijn? Of wordt deze pas bepaald door het tellen? Ligt voor het tellen al vast of rood wint of blauw wint? Of zijn beide ook na het tellen nog steeds mogelijk? Volgens de fysicus Max Tegmark bestaan beide in parallelle werelden van ons Mathematisch Universum. In de ene is als het ware Trump president van de Verenigde Staten, in de andere wereld Biden. Ze leven in parallelle universa.

Volgens Plato was de Sofist van mening dat het niet nodig was dat de woorden die gesproken worden betekenis hebben (‘make sense’), als je het publiek er maar mee kan overtuigen. De retorica is de kunst van het overtuigen; een kunst waaraan door de politicus, de advocaat, de ondernemer, die het erom gaat hun goed aan de man te brengen, meer waarde wordt gehecht dan aan de waarheid. In een democratie wordt de politieke waarheid bepaald in het stemhokje.

Plato was één van de eerste denkers die tegen de Sofist in opstand kwam. De wereld is begrijpelijk; de woorden verwijzen naar op zich bestaande realiteiten, buiten de taal. Voor Plato waren de wiskundige (vooral meetkundige) objecten paradigmatisch voor de buiten het denken bestaande realiteiten. Niet in de materiële wereld van onze dagelijkse ervaring, maar in de immateriële wereld van de wiskundig objecten vinden we volgens Plato de objecten waar we in de taal naar verwijzen. Begrijpelijk, zegt Fleischhacker, want de meningen van de Sofist zijn veranderlijk evenals de wereld van de verschijnselen, maar de waarheden van Euclides’ meetkunde zijn bestand tegen de tijd, ze hebben eeuwigheidswaarde. Ze zijn onveranderlijk en dus zijn ze werkelijk. Want het werkelijke is onveranderlijk.

Plato zag het verschil tussen wiskundige objecten en de Ideeën. Een Idee is uniek, Van elk Idee is er maar één exemplaar: hebt er niet meerdere van, zoals van wiskundige objecten. Je kunt vele cirkels hebben, vele getallen. Maar er is maar één Idee cirkel en maar één Idee getal. De wereld van de wiskunde zit tussen die van de waarneembare dingen en de wereld van de Ideeën in. Mathematisme is het verschijnsel waarin deze werelden verward worden. Veel hedendaagse filosofen en wetenschappers denken in die zin nog steeds mathematisch. Ook als het over dagelijkse dingen gaat. Ze hebben het over hun wiskundige modellen en doen alsof het over de werkelijkheid zelf gaat.

Maar kunnen we het wel over ‘de werkelijkheid zelf’ hebben?

Wat is er met de taal gebeurd?

“Wat is er met de taal gebeurt?” vroeg Martin Heidegger. Heidegger is de (post-)moderne filosoof van zowel de taal als van de techniek. De vraag komt o.a. voor in één van de meest leesbare essays van de Duitse filosoof: Hebel, der Hausfreund. Wie was Hebel ?

Johan Peter Hebel (1760-1826) was schrijver, dichter, theoloog en pedagoog. Een liefhebber van volksverhalen die hij noteerde, bewaarde in een schatkist, bundelde en uitgaf in het Wiesentaler dialect. Bekend is het verhaal Kannitverstan over een timmerman uit Tuttlingen die voor het eerst over de grens gaat en Amsterdam bezoekt, niet beseffend dat men hem daar niet kan verstaan en op iedere vraag als antwoord krijgt kannietverstaan. Het verscheen in 1808 in Der Rheinländische Hausfreund. Je kunt het verhaal vast wel vinden en beluisteren op Youtube. In Tuttlingen staat ter ere van Hebel een standbeeldje dat Kannitverstan heet. 

Het beeldje Kannitverstan in het Zuid-Duitse Tuttlingen

De taal is niet meer wat het ooit was, onze moedertaal, de taal die in ons spreekt. De taal die hoort bij onze leefwereld en cultuur. Een echte Fries spreekt fries, een Limburger limburgs. Horen wij nog de taal uit Hebels schatkist? Vraagt Heidegger. De taal is, net als alles om ons heen, instrument geworden, een middel om informatie over te brengen, een besturingsmiddel. We zijn daar dagelijks getuige van in deze tijd van sociale media, denkende machines, deepfake en sprekende robots. Heidegger wijst op de sprekende machine die meer is dan een bandopnameapparaat. De spraakmachine spreekt als het ware zelf; ze maakt zelf zinnen. Wat is de zin hiervan? En wie is dat zelf? Mensen zien het gebeuren maar ze zien niet wat het betekent, schrijft Heidegger. (H. gebruikt hier het woord Sinn, wat ook betekenis kan betekenen.)

Spreken computers onze taal? Als we vinden dat onze computers spreken, hoe vatten we dan onze relatie tot de taal op? Daarover gaat dit stukje. Over onze mathematische, technische cultuur waarin de taal primair functioneel, als instrument, wordt opgevat. Het verwoordingskarakter, de wijze waarop we onze verhouding tot onze ervaren leefwereld tot uitdrukking brengen, is verdwenen volgens Jan Hollak in zijn afscheidscollege over de moderne hypothetische, kapitalistische samenleving, waarvan de kenniseconomie draait op de hypothetische wetenschap.

De betekenis zit in het gebruik. Wat de woorden deeltje en golf betekenen, of ze naar realiteiten verwijzen en of dat wiskundige objecten zijn, of naar mogelijkheden en kansen in een werkelijkheid achter de verschijnselen, het doet er niet toe, de kwantummechanica werkt, omdat en in zoverre de resultaten ‘objectief’, dat is reproduceerbaar, zijn. De toepasbaarheid van de kennis van de mathematische fysica in technologie om in onze groeiende behoefte aan energie (kernfusie, kernenergie) en informatie (kwantumcomputers) te voorzien is in onze cultuur van het hoogste belang. Het draait om de functie van de natuur, niet om de ‘natuur van de natuur’ (zoals Karen Barak het uitdrukt in haar boek over de kwantummechanica).

“I seek some way to trying to understand the nature of nature and the interplay of the material and the discursive” (Karen Barak, p.42)

De ecologische problemen die de op groei gerichte kenniseconomie met zich meebrengt houden we het liefst voor nevenverschijnselen van onze technologie, terwijl ze ons lijken te wijzen op een grens van het mathematisch technische denken. Hebben we niet iets over het hoofd gezien, iets dat we vergeten zijn in onze modellen van interaktie met de natuur op te nemen? Onze eigen rol als makers, misschien?

We hebben de taal, ons middel tot interactie, geobjectiveerd. Communiceren, dat doen machines.

Wanneer we over de woorden van de taal schrijven en we de woorden willen aanwijzen gebruiken we aanhalingstekens.

De operatie tussen aanhalingstekens plaatsen

De operatie ‘tussen aanhalingstekens plaatsen’ heeft een belangrijke rol gespeeld in de uitwerking van de zelf-reflectie van de wiskunde en de taal. Ze is van wezenlijk belang voor het begrip van de automatie en de kunstmatige intelligentie waarvan de natuurlijke taalverwerking (‘Natural Language Processing’) een centraal onderdeel is.

Let op het verschil tussen:

Amsterdam, die mooie stad, met hoeveel letters schrijf je dat?

en

Amsterdam, die mooie stad, met hoeveel letters schrijf je ‘dat’?

In de eerste zin wordt ‘dat’ gebruikt as verwijzend naar ‘Amsterdam’, niet naar de stad zelf. In de tweede zin, wordt met ‘dat’ het woord dat zelf bedoeld. Het antwoord op deze tweede vraag is dus drie.

Dubbele aanhalingstekens worden gebruikt om aan te geven dat een tekst letterlijk is overgenomen (vaak voorzien van een bron-vermelding), zoals in een recente tweet van de politicus Pieter Omtzigt :

Voordat je tot Kamerlid beëdigd wordt, leg je de eed/gelofte af. Onderdeel daarvan is: “Ik zweer (beloof) trouw … aan de Grondwet.”

Mijn reactie erop was:

Helaas staat dat tussen aanhalingstekens. Er is een groot verschil tussen wat getoond wordt en wat gezegd wordt. (Wittgenstein).

Waarop Omtzigt reageerde met:

Het staat tussen aanhalingstekens omdat het een letterlijk citaat is uit de eed. Dat is namelijk de originele functie van aanhalingstekens in de Nederlandse taal.

Waarop ik probeerde mijn reactie te verduidelijken met:

Het gaat erom dat het een formule is die uitgesproken wordt volgens een formeel protocol. En dat is net zo hol als de woorden die een computer uitspreekt.

Ik bedoel daarmee het volgende. Wanneer iemand de zin uitspreek “Ik beloof trouw aan de Grondwet” dan zegt dat niets over de oprechtheid van de spreker. Hij kan het als een formule zien die voor hem of haar niets anders betekent dan het bewerkstelligen van de functie die het uitspreken ervan volgens het formele protocol heeft. De tekst is een sleutel, zoals een wachtwoord, om binnen te komen.

Even wat meer context:

De tweet waarop Pieter Omtzigt met zijn eerste tweet reageerde was:

ALARMEREND: Forum kamerlid Gideon van Meijeren hoopt op een bestorming van de Tweede Kamer en realiseert zich dat daarbij ook (dodelijke) slachtoffers kunnen vallen.Wie grijpt in? #fvdstaatsgevaarlijk#fvd

Het Tweede-Kamerlid Van Meijeren had in een interview met de Belgische website Compleetdenkers gezegd dat hij hoopt op een revolutionaire beweging “waarbij het zo urgent wordt voor mensen die niks meer te verliezen hebben, dat ze bij wijze van spreken naar het parlement trekken en zeggen: wij gaan hier gewoon niet meer weg totdat de regering weg is.”

Er zijn video opnames van het interview waarop het fragment te beluisteren is zodat iedereen kan zien en horen wat er precies gezegd wordt. Maar dat betekent niet dat iedereen het eens is over hoe we deze handeling moeten beoordelen.

Wat de spreker hier doet riekt volgens sommigen naar opruiing. Het OM (Openbaar Ministerie) is gevraagd te kijken of er sprake is van een strafbaar feit. De geleerden zijn het er niet over eens.

Bij opruiing moet er sprake zijn van concrete bewoordingen, zegt Sackers. ,,Van Meijeren moet specifiek tegen de kijkers zeggen massaal naar het parlement te trekken en daar strafbare feiten te plegen. Maar dat doet hij niet. Hij legt ergens een flauwe link met de bestorming van het Capitool, maar daar zal een rechter hem niet voor veroordelen.” Strafrechtadvocaat Geert-Jan Knoops sluit zich daar bij aan. ,,Van Meijeren zegt het zodanig dat het niet te kwalificeren is als directe opruiing. Om daarvoor veroordeeld te worden moet je direct en concreet oproepen tot gewelddadig optreden tegen het openbaar gezag: dat bewijs zie ik hierin niet direct.” (uit het Algemeen Dagblad van 14 November 2022).

Mijn stelling was dat het denkbaar is dat het Forum voor Democratie lid de tekst heeft uitgesproken omdat dat nu eenmaal vereist was om toegang te krijgen tot de Tweede Kamer, zoals je een tekst gebruikt als sleutel om toegang tot een systeem te krijgen. De moderne mens denkt en handelt functioneel. Van Meieren laat een donkere kant van onze functionele cultuur zien.

Dialogue act herkenning

De uitspraak in mijn tweet over de computer is misschien wat cryptisch. De crypte wil ik proberen te ontsluiten.

De speech act theorie van Searle, die voortborduurde op het werk van Austin, heeft toepassing gevonden in de technologie van de dialoogsystemen. Dat zijn computersystemen die het mogelijk maken met de computer een gesprek (dialoog) te voeren. In Nederland heeft Harry Bunt een belangrijke bijdrage geleverd aan een formele semantiek van ‘dialogue acts’, zoals speech acts daar genoemd worden. Wanneer je een gesprek met een computer, zeg een sociale robot, voert is het van belang dat deze begrijpt wat voor type taalhandeling de gebruiker (gesprekspartner) uitvoert. Stelt deze een vraag of doet deze een suggestie of doet deze weer iets anders met de woorden die hij spreekt? De grammaticale structuur van de uiting kan belangrijke informatie geven over het soort taalhandeling. Zo kent het Nederlands inversie van persoonsvorm en onderwerp in vraagzinnen ten opzichte van de bewerende zin: “Gaat Jan naar school?”. Maar het is niet altijd zo eenvoudig. Veel moeilijker is het om bijvoorbeeld te onderkennen of iemand letterlijk bedoelt wat hij zegt of dat hij het ironisch bedoelt. De computer heeft immers niets anders dan de letterlijke tekst of spraak.

Tijdens een workshop over dialoogsystemen in Stockholm (het was in 2009) was een zoöloog uitgenodigd om te vertellen over de evolutie van taal in het dierenrijk. Sverre Sjölander, zo heet hij, had onze presentaties aangehoord en vertelde verbaasd te zijn over de wijze waarop wij technici over semantiek van taal spraken en hoe ver dit afstond van de oorsprong van de taal, de communicatie in het dierenrijk. De titel van zijn praatje was:  “Animal communication – bluffing, lying, impressing, and sometimes even information”. Het gaat in het dierenrijk niet om informatie die uitgewisseld wordt, maar om expressies die als functie hebben op de ander indruk te maken, deze te waarschuwen, of te misleiden. Zaken waar wij als technici, informatici, helemaal niet naar keken.

Een andere bron van de gebarende sociale robot

In 1967 verscheen Argyle’s The Psychology of Interpersonal Behaviour, waarin hij een ‘new model of man’ presenteert, een theorie over ‘social signals’ die wij dieren gebruiken tijdens sociale interactie met de ander. De theorie zou later gebruikt worden om sociale robots ‘social skills’ te leren, het gebruik van ‘kleine gebaren’ zoals gezichtsuitdrukkingen, kijkgedrag, wanneer ze met mensen communiceren. Het is een functionele theorie waarin gebaren als instrumenten worden gezien die klaar liggen voor gebruik in sociale interactie. Net als de woorden en uitingen van de taal. Woorden zijn een speciaal soort gebaren. In onderscheid van verbale communicatie spreekt Argyle van non-verbal communication. De socioloog Erving Goffman is de grondlegger van de Interaction Analysis, een theorie over verbaal ritueel gedrag, waarin we talige constructies gebruiken als sociale signalen. Goffman gebruikt de term ‘agenten’ die moeten leren participeren in sociale ordeningen.

Sociale robots moeten zich houden aan de sociale rites, zoals de regels voor beurtwisselgedrag. Ze moeten beleefd zijn, niet interrumperen en de ander de beurt gunnen. Ze moeten rekening houden met de ‘face’ van de gesprekspartner. Zoals autonome auto’s zich moeten houden aan de verkeersregels. Het moeten morele agenten worden.

Het zijn de aktiviteiten waarmee we dagelijks te maken hebben op de sociale media, zoals op Twitter: fake berichten, beledigingen, opruiend taalgebruik. Soms zouden we ze niet meer willen zien. Maar kun je ze herkennen, voordat je ze ziet, en voordat ze kwaad kunnen doen. Sommige mensen denken dat je algoritmes kunt maken die dergelijk ongerief uit kunnen filteren. Is humor berekenbaar? Kun je het specificeren? Kan de computer bepalen of iets ‘letterlijk’ moeten worden opgevat als wij nog niet eens kunnen bepalen wat dat betekent?

Wat zegt de computer? Van rekenen naar redeneren

Guiseppe Peano had in de loop van de 19de eeuw een axiomatische theorie van de natuurlijke getallen geformuleerd. Hilbert vroeg of de rekenkunde volledig is, dat wil zeggen of je alle en alleen die beweringen over getallen kunt bewijzen die waar zijn. Gödel bewees dat als de theorie consistent is (dat is: geen tegenspraken bevat) dat hij dan onvolledig is. Dat wil zeggen er zijn beweringen in de taal van de rekenkunde die waar zijn maar niet bewijsbaar. Gödel gaf een wiskundig bewijs van deze stelling, door een bewering te construeren die als het ware van zich zelf zegt dat deze niet bewijsbaar is.

Zinnen die iets over zichzelf zeggen zoals:

Deze zin is niet bewijsbaar

en

Deze zin is niet waar

hebben iets paradoxaals. Neem de tweede zin. Is deze waar? Dan is hij niet waar, want dat is wat de zin zegt. Maar als hij niet waar is dan is hij waar want dat is precies wat de zin zegt. Een paradox. Kunnen we zeggen dat de zin tegelijk wel en niet waar is. Of is het een onzin?

De methode van zelf-reflectie die Gödel gebruikte in zijn bewijs van de onvolledigheid van de rekenkunde is gebaseerd op dezelfde redenering als die we tegenkomen bij de paradox van de leugenaar. De methode wordt wel diagonalisatie genoemd, vanwege Cantor’s bewijs van de overaftelbaarheid van het continuum. De vraag was wat het aantal reële getallen tussen 0 en 1 of het aantal punten op een lijnstuk is. Zijn er daar meer van dan het aantal natuurlijke getallen: 1, 2 ,3 , etc.?

Deze wiskundige techniek van zelf-reflectie kan volgens Fleischhacker beschouwd worden als “a kind of mathematical image of philosophical self-reflection.” (Fleischhacker 1995 p. 101). Daarom kan inzicht in deze methode helpen het verschil te zien tussen wiskunde en filosofie, zodat de valkuil van het mathematisme in de metafysica kan worden vermeden.

Zelf-verwijzing is essentiëel ingredient in het bewijs van Gödels onvolledigheid stelling. Maar hoe kan een bewering in de rekenkunde naar zichzelf verwijzen? Die zeggen immers iets over getallen (bijvoorbeeld: “3 + 2 = 5” of “6 is deelbaar door 3”), niet over beweringen. De oplossing bestaat erin de woorden en de zinnen te coderen in getallen, en wel zodanig dat je uit de code de zin weer kunt terug berekenen (decoderen). Maar er is nog een probleem en dat is de verwijzing met ‘deze’.

W.V. Quine heeft een truc bedacht om de verwijzing, die met het woordje ‘deze’ wordt uit gedrukt, te omschrijven (zie: Albert Visser 1986).

Deze zin is leuk.

wordt met deze truc:

“geeft iets leuks wanneer je het achter zijn eigen aanhaling zet.” geeft iets leuks wanneer je het achter zijn eigen aanhaling zet.

Deze zin zegt van zichzelf (dat is de zin tussen aanhalingstekens) dat deze leuk is.

Maar kan een zin wel iets zeggen?

Karakteristiek voor het mathematisch denken is dat het zich relateert aan iets dat extern is aan het subject dat denkt. Dat wil zeggen dat de onderscheidingen die het maakt onverschillig staan tegenover de eenheid van het object als ook tegenover zijn eigen activiteit van onderscheiden. De onderscheidingen die het denkt zijn slechts in gedachten. Of ik de appel nu denk als in twee delen verdeeld of niet, het blijft dezelfde appel en ik blijf dezelfde. Ik sta daar onverschillig en volstrekt buiten. Mathematisch denken is zuiver dualistisch denken: subject en object staan onverschillig tegenover elkaar. Descartes’ metafysica van de twee substanties (res cogitans en res extensa) is een mathematische metafysica. Sinds Descartes’ tijd werd de wiskundig methode dé methode van de natuurwetenschap. De wetenschap streefde ernaar haar kennis in mathematische formules en modellen uit te drukken.

Dit ideaal heeft geresulteerd in de vergelijkingen van Maxwell voor het electromagnetisme en van Schrödinger in de kwantummechanica. Deze theorie werkt, de resultaten zijn reproduceerbaar (wat volgens Niels Bohr maakt dat deze ‘objectief’ is) en worden gebruikt in de technologie. Maar de vraag leeft nog steeds: wat betekenen die gelijkheden eigenlijk? Een fundamentele onzekerheid over de betekenis van de wiskundige gelijkheden heerst in de fysica.

Kennelijk is ‘het werken’ niet voldoende om tevreden te zijn. Naast het theoretische probleem van de interpretatie, hebben we praktisch te maken met nevenverschijnselen van de toepassingen. Kernfusie en kernenenergie zijn niet ideaal. Ook het gebruik van kunstmatige intelligentie brengt een praktisch probleem met zich mee. Wie is er verantwoordelijk voor het gebruik ervan? Is de computer verantwoordelijk voor wat deze zegt? Is wat de machine zegt niet een formule, een zin tussen aanhalingstekens. een subjectloze, holle frase?

We proberen te begrijpen wat het theoretische probleem van de interpretatie van de wetenschappelijke theorie met het praktische probleem van de op die theorie gebaseerde technologie met elkaar te maken hebben. Zijn ze twee kanten van een zelfde fundamenteler probleem?

De computer toont een zin, maar zegt niets. De termen ‘tonen’ en ‘zeggen’ verwijzen naar het onderscheid dat Wittgenstein in zijn Tractatus maakt tussen ‘Zeigen’ en ‘Sagen’. De zin kan niets zeggen, want hij ziet niets. Omdat er niets gezien wordt kan er geen sprake zijn van verwoorden. Wanneer de betekenis van taal puur in en door het gebruik wordt bepaald is het verwoordingskarakter, het uitdrukken van een doorleefde werkelijkheid door een subject, verdwenen. De taal is puur functioneel, een instrument, geworden.

Is er een God die ons nog kan redden?

De grondslagencrisis in de wiskunde en de zelf-reflectie in het denken, de metamathematica in de wiskunde en logica, de ‘linguistic turn’ in de filosofie, de functionalisering van de sociologie en de psychologie, komen tot uitdrukking in de kunstmatige intelligentie. Maar wat moeten we er mee aan, met al die intelligentie? Alleen een God kan ons nog redden, stelde Heidegger in een beroemd postuum verschenen interview met Der Spiegel “Nur noch ein Gott kann uns retten”. Maar is die er wel?

De God van de filosofen is dood. De kunstmatige intelligente technologie lijkt zijn rol te hebben overgenomen als objectificatie en zelf-projectie van het moderne wetenschappelijke autonoom denkend subject dat zijn kennis van de natuur theoretisch in wiskundige formules en praktisch in de intelligente machines probeert uit te drukken. De sociale robot houdt de mens een spiegel voor. Het lukt de mens echter niet zich daarin volledig te herkennen. Ze dwingt hem opnieuw tot zelf-reflectie en zelf-inkeer.

Descartes had God nodig om de brug tussen beide, het denken en de natuur te garanderen. Zelfs van de waarheid van de wiskundige gelijkheden kon Descartes niet zeker zijn, zonder zijn geloof in een God die hem niet voor de gek hield. Zijn God, de God van de moderne filosofen is een voluntaristische God. Wat hij postuleert als waar of niet-waar, dat is daarmee ook waar of niet waar. God is de grote Mathematicus. Bij Leibniz zien we hetzelfde: God heeft uit alle mogelijke werelden volstrekt willekeurig (althans voor ons) eentje uitgezocht die werkelijk is.

We leven in de beste van alle mogelijke wereld, zei Leibniz. “Maar, we moeten wel ons tuintje wieden.” reposteerde Voltaire in zijn Candide.

Als het daarbij gebleven was, dan zou het nog meevallen. De conditie van ‘ons tuintje’ vraagt iets meer aandacht dan het wieden van wat onkruid her en der.

Het zal uit bovenstaande duidelijk zijn geworden dat de Artificial Intelligence en daarmee de sociale robot alles te danken heeft aan de zelf-reflectie van de taal en van het wiskundig denken waarin deze zelf-reflectie de taal als object, tussen aanhalingstekens plaatst. Noch een God, noch de technologie zal ons redden. Beide zullen zich niet verantwoorden. Zelf-begrip is een dure morele plicht. De moraliteit is volstrekt vreemd aan de sociale robot, die slechts teksten toont, maar niets zegt, omdat ze niet ziet waar het in de wereld om gaat. Dat zullen we telkens opnieuw zelf moeten uitvinden en bepalen.

Bronnen

Gerard Alberts (1994). Wiskunde en praktijk in historisch perspectief : syllabusCWI syllabus. CWI.

Michael Argyle (1967/ 1993). The psychology of interpersonal behavior. Penguin Books, 1993.

Karen Barad (2007). Meeting the universe halfway. Quantum physics and the entanglement of matter and meaning. Duke University Press, 2007.

Petrus Bemelmans (2006). Tijd en reflexiviteit. Onderzoek naar de eenheid en het onderscheid van de natuurtijd en de tijd van de menselijke ervaring aan de hand van Hegels filosofie. Proefschrift. Universiteit van Nijmegen, 2006.

Rens Bod (2019). Een wereld vol patronen – de geschiedenis van kennis. Prometheus Amsterdam.

Mark Coeckelbergh (2014). The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. (2014) 27:61–77.

Maarten Coolen (1992). De machine voorbij: over het zelfbegrip van de mens in het tijdperk van de informatietechniek. Boom Meppel, Amsterdam, 1992.

René Descartes (1937). Vertoog over de methode . Vertaling Helena Pos, Inleiding Prof. Dr. H.J.Pos. Wereldbibliotheek Amsterdam-W. 1937. Oorspronkelijke uitgave Discours de la méthode, 1637.

Albert Einstein, B. Podolsky, and N. Rosen. (1935). “Can Quantum-Mechanical Descriptions of physical Reality Be Considered Complete?” Physical Review 47: 777-80.

Louk E. Fleischhacker (1993), `Het mathematisch ideaal’ in: De Uil van Minerva, Gent 1993, pp. 165-180.

Louk Fleischhacker (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.

Een must voor iedereen die zich afvraagt in hoeverre mathematische fysica mogelijk is als wetenschap van de natuur en wat de grenzen ervan zijn als het gaat om kennis van onze natuur. Moet natuurwetenschap mathematisch zijn?

Michel Foucault (1988). Dit is geen pijp. Aramith Uitgevers, 1988.

Gottlob Frege (1879). Begriffschrift, a formula language, modeled upon that of arithmetic, for pure thought. Engelse vertaling opgenomen in: Jean van Heijenoort, From Frege to Gödel, a source book in mathematical logic. Harvard University Press, Cambridge , Mass.(1967).

Erving Goffman (1967). Interaction Rituals: essays on face-to-face behavior. 1967.

David J. Gunkel (2012). The machine question: Critical perspectives on AI, robots, and ethics. Cambridge: MIT Press.

Georg W.F. Hegel (1969). Jenaer Realphilosophie – Vorlesungsmanuskripte zur Philosophie der Natur und des Geistes von 1805-1806. Uitgave Johannes Hoffmeister, Verlag von Felix Meinder, Hamburg, 1969.

Martin Heidegger (1957). Hebel, der Hausfreund. Pfullingen, Günther Neske, 1957.

Martin Heidegger (1976), “Nur noch ein Gott kann uns retten,” Der Spiegel 30 (Mai, 1976): 193-219. Trans. by W. Richardson as “Only a God Can Save Us” in Heidegger: The Man and the Thinker (1981), ed. T. Sheehan, pp. 45-67. Nederlandse vertaling: Alleen nog een God kan ons redden: Heidegger in gesprek met Der Spiegel (Rudolf Augstein, 2006), Klement, Kampen

Heinrich Hertz (1894). Die Prinzipien der Mechanik in neuen Zusammenhange dargestellt. Mit einen Vorworte von H. von Helmholtz

“Die Ubereinstimmung Geist und Natur läBt sich also vergleichen mit der
Ubereinstimmung zwischen zwei Systemen, welche Modellen von einander sind,
und wir können uns sogar Rechenschaft ablegen von jener Ubereinstimmung,
wenn wir annehmen wollen, daB der Geist die Fähigkeit habe, wirkliche
dynamische Modelle der Dinge zu bilden und mit ihnen zu arbeiten” (Hertz, p. 199).

Jan Hollak (1966). Van Causa sui tot automatie. Inaugurele rede Nijmegen. Also in Hollak en Platvoet (2010).

Jan Hollak (1968). Technik und Dialektik, In: Civilisation, technique et humanisme, Coll. de l’Académie Internationale de Philosophie des Sciences, Lausanne, Paris, 1968, pp. 177-188.

Belangrijke voetnoot in dit artikel over de veelzinnigheid van de woorden: “Wenn hier immer wieder im Zusammenhang mit Mechanismen vom “Reflektion”, “Selbstreflektion”, usw. die Rede ist, so ist selbstverständlich damit niemals der subjektive Prozess menschlichen Denkens gemeint, sondern immer nur sein intentionale Korrelat.” (p. 181)

Jan Hollak en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010.

In deze bundel is opgenomen het transcript van de opname van het Afscheidscollege over de hypothetische samenleving, door Jan Hollak, gehouden in Nijmegen op 21 februari 1986.

Nijholt, Anton en Van den Ende, Jan (1994). Geschiedenis van de Rekenkunst: van kerfstok tot computer. Uitgegeven door: Academic Service, Schoonhoven, 1994.

Harvey Sacks; Schegloff, Emanuel A.; Jefferson, Gail (1974). A Simplest Systematics for the Organization of Turn-Taking for Conversation. Language50 (4): 696–735.

Sverre Sjölander (2009): “Animal communication – bluffing, lying, impressing, and sometimes even information” (Abstract), In DiaHolmia-2009, 15.

Max Tegmark (2014). Our Mathematical Universe: My Quest for the Ultimate Nature of Reality, Penguin Books, 2014.

Albert Visser (1986). Kunnen wij elke machine verslaan? Beschouwingen rondom Lucas’ Argument. Dit artikel verscheen in 1986 in de bundel Geest, Computers en Kunst, een uitgaven van de Stichting Grafiet.

Ludwig Wittgenstein (1973). Tractatus logico-philosophicus. Logisch-philosophische Abhandlung. Ed. Suhrkamp, Uitgave 1973. Oorspronkelijke Duitstalige uitgave 1921.

Ludwig Wittgenstein (2006). Filosofische Onderzoekingen. Vertaling Maarten Derksen en Sybe Terwee. Boom, Amsterdam, 2006. Oorspronkelijk Duitse tekst verscheen in 1953 bij Basil Blackwell te Oxford.