Laat ik vooropstellen dat ik wiskunde een leuke bezigheid vind. Het heeft me veel slapeloze nachten, maar ook veel plezier gebracht en ik heb vele jaren met veel enthousiasme het vak gedoceerd. Het gevoel van zekerheid, dat iets klopt dat je overkomt als je na veel geploeter een bewijs rond heb gekregen! Wanneer ik hier waarschuw voor de wiskundige dan is dat vanwege zijn produkten, de wiskundige modellen. Wiskundigen zijn creatieve geesten die modellen construeren. Ze maken modellen van delen van de werkelijkheid. Natuurkundige modellen, economische, ecologisch, biologische, neurale modellen en ook taalmodellen. Dat zijn bijzondere abstracties van de werkelijkheid. Gebaseerd op data verzameld via het monitoren van de gedragingen van individuen wordt een persoonlijkheidsprofiel gemaakt, een objectieve versie, een model, van het individue.
Met die modellen en profielen worden we in ons leven geconfronteerd als ze in de informatiesystemen aan het werk worden gezet om onze werkelijkheid en daarmee ons gedrag te voorspellen, te besturen en te controleren. “When abstractions circulate and are materialized (i.e., when the profiles are ‘applied’) they have powerful effects.” (Weiskopf 2020).
De ‘zuivere wiskundige’ houdt zich bezig met de onschuldige studie van de creaties van de wiskunde, de wiskundige structuren, zelf. Ze maken stellingen en werken aan het bewijzen ervan. Ze zijn vooralsnog ongevaarlijk. Waar ik voor waarschuw zijn de modellenmakers die het model voor de werkelijkheid houden. De statische modellen – in de werkelijkheid van de wiskunde komt verandering niet voor – nemen voor de wetenschapper de plaats in van de veranderlijke werkelijkheid. Buiten hun modellen is er geen wetenschappelijke, objectieve kennis van de werkelijkheid. Kennis is pas echt kennis als het in wiskundige modellen is uitgedrukt. Dat is het wijdverbreide idee.
Wiskundigen leven met hun gedachten in een wereld die niet bestaat op de wijze waarop iets bestaat dat voor onze zintuigen waarneembaar is. Wiskunde gaat weliswaar in zekere zin over het waarneembare, ‘maar niet als waarneembaar,’ zoals Aristoteles het uitdrukte.
Wanneer je aan de man in de straat vraagt wat wiskunde is, dan hoor je vaak: wiskunde is een taal. Hier spreekt de ervaring met het schoolwiskundeboek. Een boek vol vreemde taal die eerst geleerd moet worden voordat je weet waar het over gaat. En het bijzondere is: dat waar het over gaat (getallen, driehoeken) bestaat buiten die taal helemaal niet. We leren op school rekenen, wat een soort manipuleren met tekens is. Of met een rekenmachine.
In de wiskunde maken we kennis met een bijzondere verhouding tussen het omgaan met taal en het omgaan met de materiële werkelijkheid buiten ons.
De eigen taal van de wiskunde en het maken van modellen horen bij elkaar. Met die taal beschrijft de wiskundige de objecten in zijn model. Die modellen staan voor dingen en verschijnselen uit onze dagelijkse werkelijkheid. De wiskundigen maken daar echter wat anders van. Ze creëren een eigen werkelijkheid, zodat ze ermee kunnen rekenen. Soms gebruikt de wiskunde voor de wiskundige objecten bekende namen zoals ‘verzameling’, ‘relatie’ of ‘kans’, terwijl ze er heel andere dingen mee bedoelen dan in het dagelijkse taalgebruik. De dichter Johann Wolfgang von Goethe (1749-1832) drukte deze eigenschap van de wiskundige uit in zijn beroemde:
“Die Mathematiker sind eine Art Franzosen. Spricht man zu ihnen, so übersetzen sie alles in ihre eigene Sprache, und so wird es alsobald etwas ganz anderes.”
Van Goethe is ook de volgende uitspraak over de wiskunde.
“Ich ehre die Mathematik als die erhabenste und nützlichste Wissenschaft, solange man sie da anwendet, wo sie am Platze ist.”
Tegenwoordig schijnt men te denken dat de wiskunde overal op haar plaats is. De wiskundige kan overal terecht om de werkelijkheid te modelleren en vervolgens in de computer te stoppen. Maar hoe werken die modellen in de informatieverwerkende systemen? Om het bijzondere verband tussen de taal van de wiskunde en het werken van de modellen in de computer aan te geven bekijken we ons bekende getalsysteem.
Getallen zijn wiskundige objecten. Het zijn geen dingen zoals stoelen en tafels. Het zijn zuivere gedachtedingen, denkmaaksels. Maar anders dan fantasiefiguren hebben deze objecten een abstracte relatie met de waarneembare werkelijkheid. Met de werkelijkheid als telbaar of meetbaar; in het algemeen: structureerbaar. We gebruiken de getallen om dingen te tellen of te meten.
Om met die dingen te werken, dat is: om er mee te rekenen en erover te communiceren, hebben we tekens nodig. Zonder tekens kunnen we ze niet uit elkaar houden, want ze komen niet in onze waarneembare werkelijkheid voor. De tekens identificeren de objecten uniek. Er zijn veel hondjes die Fikkie heten, maar in het redeneren van de wiskundige heeft ieder object een eigen naam: getal x, getal y, driehoek ABC, etc.
Ons notatiesysteem voor de getallen is een tekensysteem dat we gebruiken om de getallen aan te duiden. We kunnen het getal dat bijvoorbeeld door de notatie ‘234’ wordt aangewezen berekenen door op deze tekenrij een algoritme, een rekenvoorschrift, los te laten. Dat algoritme leren we op school, ook al werd het daar misschien nog geen algoritme genoemd. In de rekenkunde bestaat er op deze manier een eenzinnig verband tussen de notatie en de betekenis ervan. Die betekenis is het getal zelf (dat is in dit voorbeeld het getal 234).
Zo’n notatiesysteem werd nodig toen de schaapherder aan iemand door wilde geven hoeveel schapen hij had. Zo’n tekensysteem bestaat in eerste instantie uit een bak met steentjes, voor elk schaap één steentje. Dat is handig wanneer de herder wilde weten of het aantal schapen dat ‘s avonds de stal inging hetzelfde was als het aantal dat ‘s ochtends de stal uitging. Voor elk schaap legde hij een steentje in een bak. Maar zo’n bak met steentjes is onhandig als de herder het aantal moet doorgeven aan een ander. Het steentje wordt vervangen door een streepje, een kerf op een stok, een kras in een steen. Het is het begin van een notatiesysteem. Later werd het tientallig positionele stelsel bedacht, waar de positie van de cijfers in een cijferrijtje de waarde (de betekenis) bepaalt. Dit systeem gebruiken we in West-Europa vanaf de 15de eeuw. Bij 234 heeft de 3 de waarde 30 vanwege de positie van de 3 in het rijtje.
Het is nog een kleine stap om de machine ook de waarde van tekenrijtjes (formules) als (12+5) x 23 te laten berekenen. Ook daar is een algoritme voor. Rekenen doen we met tekens en denken doen we in taal. Om de computer te laten denken moeten we het denken wiskundig modelleren, zodat het rekenen wordt. De vorm of structuur van het denken wordt gescheiden van de inhoud en de wiskundige neemt de vorm als inhoud. Zoals hij ook de taaltekens als wiskundige objecten ziet die staan voor hun inhoud, de eigenlijke wiskundige objecten. Als de wiskundige het over een ‘taal’ heeft bedoelt hij vaak een formele taal, een wiskundig taalmodel.
In zijn essay Over de zogenaamde ‘denkmachine’ wijst de bekende logicus en filosoof Evert W. Beth (1909-1964) er op dat Aristoteles reeds bekend was met de analogie tussen rekenen en redeneren. In De sophisticis elenchis (On Sophistical Refutations) wijst Aristoteles op de verschillende denk- en redeneerfouten die mensen maken veroorzaakt door de veelzinnigheid van teksten en de ambiguiteit van de woorden.
Beth geeft de Nederlandse vertaling van een passage uit het eerste deel, sectie 1 van De sophisticis elenchis waarin Aristoteles wijst op de analogie tussen het redeneren met woorden en het werken met rekensteentjes (calculi).
“Want omdat het niet mogelijk is, bij het redeneren de dingen zelf mee te brengen, maar wij in plaats van de dingen de woorden als symbolen gebruiken, menen wij dat wat voor de symbolen geldt ook voor de dingen opgaat, zoals dat bij de rekenaars met de rekensteentjes het geval is. Maar die vergelijking gaat niet op, want de woorden en de uitspraken zijn begrensd, de dingen echter zijn oneindig in aantal. Het is derhalve onvermijdelijk dat één en dezelfde uitdrukking en één en hetzelfde woord meer dan één ding aanduidt. Zoals derhalve de in het hanteren van de rekensteentjes onbedrevenen door de daarin bedrevenen worden beetgenomen, zo misrekenen ook zij zich die niet op de hoogte zijn van de draagwijdte van uitdrukkingen en van de woorden, zowel wanneer ze zelf redeneren als wanneer ze anderen aanhoren.“
De Stagiriet waarschuwt voor de sofist die bedreven in de taal de luisteraar misleidt door misbruik te maken van de verschillende betekenissen van de woorden en uitdrukkingen.
Aristoteles wijst op de handigheid van de woorden. Je hoeft de leeuw niet mee te nemen om het erover te hebben. Daar zijn woorden voor. Hij waarschuwt er echter voor dat anders dan in de wiskunde, de woorden niet eenduidig zijn. De sofist maakt misbruik, zo stelt Aristoteles, van de verwarring door te doen alsof de woorden eenduidig betekenen, alsof het wiskundige tekens zijn.
Dit lijkt me een wijze les die van toepassing is nu veel mensen denken dat generatieve AI (zoals ChatGPT) onze woorden spreekt terwijl de teksten die het produceert resultaat zijn van wiskundige berekeningen. Het verwarrende is dat de woorden die als tekens voor de wiskundige objecten door de makers, de wiskundigen, gebruikt worden, lijken op onze woorden, de woorden die wij dagelijks gebruiken. En dat is natuurlijk niet voor niets. Daar is het juist om te doen bij deze taaltechnologie: dat de gebruiker, de lezer, betekenis kan geven aan de tekens, door ze te herkennen. Het wiskundig model is een model van onze taal en de tekens die de wiskundigen gebruiken om de objecten in het model aan te duiden zijn de woorden waar de wiskundige objecten voor staan. Om het object dat staat voor het woord leeuw aan te duiden wordt het teken ‘leeuw’ gebruikt. Niet zo vreemd natuurlijk dat dit gemakkelijk leidt tot de gedachte dat de woorden en de wiskundige objecten waar ze voor staan gelijk aan elkaar zijn. Toch zijn het twee verschillende dingen. Net zo goed als de tekening van een pijp zelf geen pijp is, ook al lijkt deze er nog zo op.
In onze wereld kunnen we met het woord leeuw in verschillende situaties gebruikt verschillende dingen aanduiden. En daarin zijn wij creatief. Onze taal is gastvrij; een taal die open staat voor nieuwe woorden en nieuwe woordgebruiken. In de modellenwereld van de wiskundige is dat niet het geval. Daarin legt de statistische structuur precies vast in welke contexten het woord gebruikt kan worden. Die structuur (de ‘Large Language Models’) heeft de machine gebouwd uit heel veel woordgebruiken zoals die in documenten op het internet te vinden zijn. In die modellen wordt door de wiskunde onze taal vastgelegd.
Teksten dringen zich op aan ons lezers. De kritische vraag aan de lezer van de geproduceerde tekst is dan ook of hij de betekenis die hij erin leest als waarheid ziet omdat hij de waarheid erin herkent, of dat hij de tekst voor de waarheid zelf houdt, omdat het de computer, dat is de wiskundige, is die het zegt. We noemen deze figuur tegenwoordig vaak AI, kunstmatige intelligentie. De wiskundige kaapt onze taal. Zoals hij de werkelijkheid kaapt door deze in zijn modellen vast te leggen en deze voor ‘de werkelijkheid’ te houden.
We gaan nog even terug gaan naar de herder met zijn bak met steentjes, voor elk schaap eentje. Wanneer hij de bak meeneemt naar de markt neemt elk steentje de plaats in van een schaap. Het schaap is de concrete waarde van het steentje. Als hij een schaap verkoopt geeft hij een steentje aan de koper. Zo wordt het steentje geld. Het schaap is de waarde van een geldstuk. De relatie tussen de steentjes die teken zijn van de waarde enerzijds en de kudde die de werkelijke waarde is anderzijds, is abstract. Het geld is de abstracte waarde, zoals de getallen de abstracte aantallen zijn. In de geldeconomie wordt er met geld gehandeld alsof het zelfstandige waarden zijn. Het geld wordt verplaatst van de ene bankrekening naar de ander door computers die tekens manipuleren. Het zicht op de werkelijke wereld van de waren is uit het zicht verdwenen, zoals de werkelijke wereld van alledag voor de wiskundige wetenschapper achter zijn modellen verdwenen is. En zoals de taalgenererende machines de abstracte ‘woorden’ manipuleren, waarbij het zicht op de oorspronkelijke waarden, de gedachten van de mens die er zijn relatie tot de werkelijkheid in verwoordde, is verdwenen. Waarheid is niet meer wat gemodelleerd wordt. De modellen, die door de overheden en bedrijven op de markt worden gebruikt, definiëren wat waar is.
Vanwege de typisch afstandelijke houding van de mathematicus brengt mathematisering het gevaar van dehumanisering met zich mee. “When the person appears on screen as a result of algorithmic visualization, the Other as a “face” (in Levinas’ sense of “an authority without force” that demands a moral response) disappears completely and moral responsibility for the Other is suspended and rendered ineffective.” zegt Weiskopf (2020) in een artikel over het effect van ‘algorithmic governmentality’ op de wijze waarop vanuit de onpersoonlijke ander (het systeem) de persoon verschijnt. De ambtenaar van de belastingdienst ziet op zijn beeldscherm slechts gedataficeerde burgers, elk met hun eigen BSN, geen mensen van vlees en bloed. Het toeslagenschandaal is mede gevolg van deze abstracte werkwijze volgens procedures in mathematische virtuele werelden.
Daarom zeg ik: pas op voor de wiskundige! Verwar zijn produkten niet met de werkelijkheid.
Bronnen:
D’Amato, K. (2024) ChatGPT: towards AI subjectivity. AI & Soc (2024). https://doi.org/10.1007/s00146-024-01898-z
“A fundamental theme organising much current scholarship in the ethics of AI is the so-called alignment problem, or “the challenge of ensuring that AI systems pursue goals that match human values or interests rather than unintended and undesirable goals”
“I will argue that we may be on the verge of enacting not the death of the Author (or Man), but the birth of a nonhuman subjectivity, and that to make intellectual and practical progress we must interrogate this subjectivity as such.”
“In contrast with Coeckelbergh and Gunkel (2023), I will not be arguing whether technology is or is not human, but whether this particular instance of technology can relate to knowledge and power in a way that can plausibly be thought of as a new subjectivity.”
“The ability to respond to the concrete other is a precondition for exercising
or enacting moral responsibility” (Weiskopf 2020).”
“A technology conceived as purely instrumental to human objectives cannot be responsible for the consequences of its actions.”
The paper suggest four linked research themes that would help take us towards a self-conducting AI subjectivity: 1) embodied self-care 2) embodied intentionality 3) imagination 4) reflexivity: the ability to interrogate one’s knowledge and attitudes.
“An AI system that fulfils these criteria would therefore be at once inventive,
participating, self-forming and responsive. In short, it would be a “self-conducting AI subject” that is sensitive to its social and historical milieu.”
“That is, ethics requires freedom, but it is also more than that: ethics
“is the conscious [réfléchie] practice of freedom” (Foucault 1997, 284; emphasis added). That is, ethics and the practice of freedom are analytically inseparable; although freedom may constitute an ontological condition of ethics, the practice
of freedom is ethical in and of itself. This suggests one potential diagnosis for the failure of the analytic project to specify the preconditions of responsibility: in isolating distinct, prior conditions one erects a false dichotomy between these conditions and morality and, as it were, commits violence to the concepts being discussed. Foucault further qualifies the practice of freedom: it is a conscious practice of freedom. This reflexivity is in part an epistemic process of “knowing thyself”—gnōthi seauton—as noted by Foucault in the context of Greek ethics. Indeed, Deleuze interpreted Foucault’s ethics as “nothing else than the reflexive work of the self upon self” (Villadsen 2023).
Vergelijk Meeuwissen Inleiding in de Rechtsfilosofie: ethiek is de sfeer waarin het gaat om de verwerkelijking van de vrijheid, de mens als persoon, de samenleving als open.
“… a moral AI subject must be one that can craft itself.”
Een keyword in dit paper is ‘dispositif’. Wat is het?
“This concept of apparatus or dispositif can be explicated as a “system of relations” (dat is een structuur, RodA) formed between elements of a “heterogeneous ensemble” organised around a strategic function or “urgent need”; it consists of discourses, institutions, techniques, practices, architectures, legislation, and so on.” (Foucault 1980).
“Das Wahre ist das Ganze” (Hegel)
The dispositif is a key analytical tool in Foucault’s thought that ties together various parts of his work and presents a framework for the analysis of societal problems. It is a systematism that cuts across categories, involving large swaths of social reality.
“An important observation is that the dispositif is not fixed or deterministic, but a “moving ‘battlefield’ shaped by perpetual struggle, unfolding through the tactics that individuals pursue in their self-constitutive practice” (Villadsen 2023).
Dit is de kern van Coeckelberghs ‘growing moral relations’.
Evert W. Beth (1969). Moderne Logica. Uitgeverij Van Gorkum & Comp. N.V. Assen, 1969. Hoofdstuk V: ‘Over de zogenaamde denkmachine.’
Villadsen, K. (2023). Goodbye Foucault’s ‘Missing Human Agent’? Self-formation, Capability and the Dispositifs. European Journal of Social Theory, 26(1), 67–89. https://doi.org/10.1177/13684310221125350
Over Foucaults verschillende opvattingen betreffende de relatie subject-machtsstructuren.
Vwb ‘bio-power’ vergelijk L Fleischhacker over Kapteins metafysische onderbouwing van René Girard’s mimesis theorie. (In: Hegel, zelfbewustzijn, begeerte en de ander)
Weiskopf, Richard (2020). “Algorithmic Decision-Making, Spectrogenic Profiling, and Hyper-Facticity in the Age of Post-Truth.” Le foucaldien 6, no. 1 (2020): 1–37. DOI: https://doi.org/10.16995/lefou.62
Meten en kwantificeren heeft een nieuwe dimensie gekregen in de vorm van ‘dataficatie’ (dataïsme, Harari, Homo Deus, 2019). Dit artikel onderzoekt de aannames die ten grondslag liggen aan de transformatie van het nemen van besluiten naar een rekenprocedure. Deze leidt tot demoralisering en ontpoliticering.
Cambridge Analytica verzamelde persoonsgegevens en gegevens over het (internet) gedrag voor het maken van ‘persoonlijkheidsprofielen’. Deze werden gebruikt door commerciële en politieke organisaties om het (koop- of kiezers-) gedrag van burgers te sturen.
“A theoretical basis for Cambridge Analytica‘s work can be found in a paper published in 2015. Here, the authors attempt to show “that computer’s judgments of people’s personalities based on their digital footprints are more accurate and valid than judgments made by their close others or acquaintances (friend, family, spouse, colleagues).”
“I start with a discussion of “algorithmic decision-making” in the context of Derrida’s view on decisions that deserve the name. This opens the space for problematizing assumptions on which algorithmic decision-making and profiling rely. In transforming decisions into calculations, they create “ghostly demarcations” that discriminate and sort in/out based on abstractions and make the ethics and politics involved in these processes disappear.”
“In fact, algorithmic procedures that produce a decision (or rather a yes/no switch) as the outcome of a calculated series of steps (e.g. decision trees) reframe ethical and political questions as technical problems of systems engineering.”
“For Derrida, a decision that deserves the name presupposes “undecidability” and requires going through the “ordeal of the undecidable.” Algorithmic decisions are in his sense not decisions at all since “a decision that didn’t go through the ordeal of the undecidable […] would only be a programmable application or unfolding of a calculable process.”
“Derrida reminds us that the undecidability is “not a moment to be traversed and overcome.” It continues to inhabit the decision “as an essential ghost.””
Ik denk dat de substitutie van het begrip vrijheid door keuzevrijheid ten grondslag ligt aan de idee dat ‘machines (algoritmes) beslissingen kunnen nemen’.
Algorithms are performative. They generate objects of knowledge that loop back and shape the world. Profiling and classification algorithms make up people.
However, such fictions (created by the mathematicians, RodA) are not simply illusions, but rather social objects and artefacts that have concrete material effects in the world.
“… taking some inspiration from Derrida’s analysis of the ghost and the “ghost effect” in The Specters of Marx, I suggest that profiles can be understood as ghosts that are the outcome of a “spectrogenic process.”
In Specters of Marx, Derrida explains that the production of the ghost, or the “constitution of the ghost effect” is more than the autonomization of thoughts, ideas, data, etc. “For there to be ghost, there must be a return to the body, but to a body that is more abstract than ever. The spectrogenic process corresponds therefore to a paradoxical incorporation. Once ideas or thoughts (Gedanken) are detached from their substratum, one engenders some ghost by giving them a body. Not by returning to the living body from which ideas and thoughts have been torn loose, but by incarnating the latter in another artifactual body, a prosthetic body“
Dit is precies wat de mathematische houding doet: structuren abstraheren van de werkelijkheid en deze als zelfstandige objecten aan andere materialen en processen opleggen (implementeren).
… it can also be argued that the emerging regime of truth creates conditions that are related to a specific mode of subjectification which Žižek has called “proto-paranoiac”:
“My very awareness of the fact that ‘the truth is out there’, that files on me circulate which, even if they are factually ‘inaccurate’, none the less performatively determine my socio-symbolic status, is what gives rise to the specific proto-paranoiac mode of subjectivization characteristic of today’s subject: it constitutes me as a subject “inherently related to and hassled by an elusive piece of database in which, beyond my reach, ‘my fate is writ large’. ( Žižek 1999, p. 260)
Slavoj Žižek (1999), The Ticklish Subject: The Absent Centre of Political Ontology. London: Verso, 1999.
