De communicatiemiddelen hebben de mensen wel sneller, maar niet dichter bij elkaar gebracht. (naar een uitspraak van Joseph Roth)
Onlangs toonde de politica, het was meen ik tweede kamerlid Caroline van der Plas van de partij voor de boeren – uiteraard voor de camera’s van de landelijke nieuwszenders – zich geïrriteerd vanwege het feit dat ze via de media had moeten vernemen dat een collega-politicus waarmee ze al dagen in politieke besprekingen over de formatie zat, het was Pieter Omtzigt van de partij voor een Nieuw Sociaal Contract, zich uit het overleg terugtrok. Ze vond dat dit niet kon. Ze wilde daarvan persoonlijk op de hoogte gesteld worden en niet via een of ander medium. Omtzigt bood later zijn excuses aan: hij gaf toe dat het niet erg chique was.
Het komt vaker voor dat iemand via een of ander publiek medium door iemand geinformeerd wordt over een kwestie waarbij hij of zij als ontvanger zelf direct persoonlijk betrokken is. Zo hoort een voetbaltrainer via de web-site of de lokale krant dat hij ontslagen is. Wat is daar mis mee?
Er is kennelijk een verschil tussen informeren en geinformeerd worden enerzijds en mededelen anderzijds. Een verschil dat er toe doet. Over dat verschil gaat het hier.
Ik heb me daarbij laten inspireren door het mooie artikel Intersubjectief verkeer en lichamelijkheid; de bemiddeling van het lichaam van de Thomas-kenner Dr. B.A.M. Barendse (1951), dat gaat over de intersubjectiviteit van de ken-relatie.
Persoon zijn is wezenlijk sociaal-zijn. Een persoon is en wordt persoon in relaties tot andere personen. Persoon zijn is vrij willen zijn en zelf willen zijn. Het menselijk subject is vanaf de aanvang intersubjectief. De sociale relatie is niet iets wat extra, van buiten af, aan het wezen van de persoon wordt toegevoegd. Zo is het ook met de intersubjectiviteit van de mens. Deze is constituerend voor het menselijk subject. Intersubjectiviteit zegt meer dan één subject. Ze bestaat in een veelheid van subjecten. Deze veelheid berust volgens Barendse op een ‘relatieve oppositie’. Die veelheid is niet een gebrek van de eenheid, het is fundament van de concrete eenheid. Dat ze ‘de eenheid op haar best’ is: “dat blijkt uit de aard van het intersubjectief verkeer.” (Barendse 1982, p. 85). Een gemeenschap is meer dan een verzameling individuen. Ze is eenheid en veelheid.
Als concreet voorbeeld kijken we naar de intersubjectieve aktiviteit van de mededeling. De mededeler is mededeler ten aanzien van de ontvanger, en deze is ontvanger ten aanzien van de mededeler. De ontvanger deelt het ontvangen mee aan de mededeler, wat door de mededeler ontvangen wordt. Het onderscheid tussen mededeler en ontvanger is gebaseerd op een ‘relatieve oppositie’. Barendse voegt hieraan het volgende toe.
“Bij het echte (symmetrische) intersubjectief verkeer geschiedt de mededeling niet om te voorzien in een behoeftigheid van het ontvangend subject.” Een voorbeeld: als u iemand, een bekende, iets belangrijks te vertellen hebt, iets dat u is overkomen of hem direct aangaat, dan laat u niet na hem/haar daar persoonlijk mededeling van te doen. Ook als u denkt dat deze mogelijk er al weet van heeft. Het gaat niet om de informatie, het gaat erom dat u hem persoonlijk erover mededeelt. Het gaat om “de mededeling als mededeling” en deze is tevens altijd een zelf-mededeling, reflexief.
Wat is dus het verschil tussen mededelen en informeren? Dat verschil zit hem in de wijze van betrokkenheid van mededeler bij ontvanger en van beide aan de zaak waar het om gaat. Bij informeren hoort afstand, onbetrokkenheid. Informatie is een geobjectiveerde vorm van kennen en wordt via een medium, taal overgedragen. Informeren, informatie uitwisselen is een technische activiteit. Je stuurt iemand informatie omdat je denkt dat dit een functie heeft, omdat er behoefte aan bestaat bij de ander vanwege zijn functioneren. De mens is geen informatie-verwerkend systeem, zoals sommige neurofysici, informatici en technisch ingestelde filosofen ons willen doen geloven. Anders dan mededelen is informeren niet zelf-reflexief.
Die reflexiviteit van het (zich-)mededelen toont zich in het zich zo veel mogelijk lichamelijk aanwezig stellen voor de ander. Je zoekt iemand op om je medeleven te betuigen. Je bent daar geheel en al bij aanwezig. Je zoekt iemand op om hem iets persoonlijks mee te delen. Als respect voor de persoon van de ander. En daar zit hem de irritatie van degene die op afstandelijke wijze geinformeerd wordt waar hij verwacht persoonlijk medegedeeld te worden: hij voelt zich niet als persoon door de ander gerespecteerd. Hij of zij is geen subject betrokken in een intersubjectieve relatie van persoon tot persoon, maar object, een ontvanger van een bericht, dat hem als het ware bij toeval betreft.
Onlangs was er in het tv-programma Buitenhof een interview met Derk Sauer, uitgever en schrijver in ballingschap van de The Moscow Times, een kritisch dagblad. Sauer is een goede bekende van Alexei Navalny, de russische opposieleider, die een paar dagen daarvoor door het Kremlin in gevangenschap was vermoord. Op een gegeven moment, na het zien van beelden van Navalny waarin hij de mensen oproept toch vooral te blijven hopen en vechten voor de vrijheid en tegen de onderdrukking, werd het Sauer te machtig. Door emoties overmand kon hij niet meer uit zijn woorden komen. De interviewer kon niet anders dan het einde aan het gesprek aankondigen en de volgende gast aan zijn talkshow-tafel uitnodigen. Het was een emotionele en ook wel enigszins genante vertoning. Presentator Toine Huijs, was zichtbaar in verlegenheid gebracht door het moment.
Het verschil tussen mededelen en informeren is dat het bij de laatste gaat om het presenteren van het gebeuren, terwijl het mededelen bij het gebeuren zelf betrokken is. De mededeler deelt mee, is deelnemer aan het mededelen. De media hebben het zich als taak gesteld te informeren en te presenteren en een vorm daarvan is een gesprek met betrokkenen. En daar toont zich het onsympathieke, onbetrokkene van de media die zelfs bij de presentatie van de meest intieme uitingen van menselijke betrokkenheid onbetrokken blijft omdat het als medium nu eenmaal om de presentatie, om het informeren, gaat. Ze blijft er buiten staan, neemt waar, geeft weer en presenteert.
Dat is het hoerige van de media. Het informatiekanaal dat zich overal voor leent en volstrekt onverschillig staat tegenover de inhoud van de informatie die het presenteert. Doet ze dat wel dan wordt dat meteen als ‘niet objectief’ gezien.
Dat de media bij uitstek het domein is dat zich leent voor overname door kunstmatige intelligentie, chatbots, virtuele presentatoren, dat kan ons gezien de onbetrokkenheid en waardeloosheid, die de technologie eigen is, niet verbazen. De media maken het nieuws waar je bij staat. Daarmee creëren ze het beeld van onze werkelijkheid, zoals de AI ons de taal voorhoudt waarmee we onze werkelijkheid moeten beschrijven.
Hoe gaan we met die werkelijkheid die wél, maar tegelijk ook níet de onze is, om?
Bronnen en noten over moraliteit en techniek
Barendse, B.A.M, 1951. Intersubjectief verkeer en lichamelijkheid. In: Zich door het leven heen denken: keuze uit het werk van prof.dr. B.A.M. Barendse. Kok, Kampen.
Prof. dr. B.A.M. Barendse o.p. (1906-1977) was hoogleraar in de Thomistische wijsbegeerte aan de Universiteit van Amsterdam. Barendse heeft een aantal Nederlandse filosofen, waaronder Jan Hollak (1915-2003), beïnvloedt.
Volgens Louk Fleischhacker (1937-2006) die bij Hollak promoveerde was Barendse de eerste die de ‘klassieke doctrine van de relatieve oppositie toepaste op de menselijke intersubjectiviteit’ (Fleischhacker 1995, p. 178). Barendse verwijst in zijn artikel naar Thomas van Aquino Ia qu 28, a.3.
In het denken over de kwestie of we de robot een morele status moeten verlenen, spreken Coeckelbergh en Gunkel van een ‘relational turn’, een perspectiefwijziging van een intrinsieke bepaaldheid van de morele status van entiteiten naar een externe bepaaldheid. De relationele benadering wordt gesteld tegenover de ‘properties approach’ volgens welke naar ‘interne’ (wezenlijke) eigenschappen wordt gekeken die als criteria zouden moeten gelden voor het moreel zijn van een subject. Zo’n eigenschap zou bijvoorbeeld zijn: ‘ de robot heeft bewustzijn’. Het hele betoog getuigt van een oppositioneel denken, terwijl het juist bedoeld is als pleidooi tegen de verzelfstandiging van de relata. Zo wordt gesteld dat niet de relata eerder zijn dan de relatie, maar dat het juist andersom is: de relatie gaat vooraf aan de relata. Dit oppositionele denken, kenmerkend voor mathematiek en techniek, vinden we ook terug in het stricte onderscheid tussen ‘moral agency’ en ‘moral patiency’. Alsof er entiteiten zijn die wel morele patient, maar niet morele agent zijn. Ook in de tegenstelling ‘natuurlijk persoon’ en ‘rechtspersoon’ (‘legal person’), waarbij de laatste door Gunkel geidentificeerd wordt met ‘artificial person’, zien we een abstracte oppositie die onrecht doet aan de spanningsrelatie die het positieve recht heeft met de op de idee van vrijheid gebaseerde rechtsidee. Waarom zouden we de robot rechten verlenen wanneer deze daar van zichzelf geen recht op heeft? Er is geen sprake van een ‘vindication’ als er geen inzicht is in de rechtmatigheid van het verlenen van recht. Het gaat bij ‘vindication’ immers om erkenning van de rechtstatigheid van het subject.
Bij Gunkel lijkt het positieve recht gereduceerd te worden tot een systeem van spelregels (‘social constructs’) voor een bepaald speldomein waarin ook robots mee kunnen spelen. Als die regels niet willekeurig zijn of slechts pragmatisch, functioneel gemotiveerd zijn, dan moet het gaan om ‘vindication’, om erkenning van recht waar het subject volgens de huidige inzichten altijd al recht op had.
Nu is het misschien juist als het om de ‘rechten’ van een technische constructie, zoals een sociale robot gaat, wél zo dat dat ‘recht’ neerkomt op een constructie van regels waaraan het technische ding en de eigenaren ervan zich moeten houden. Het gebruik van een technische constructie vindt altijd plaats binnen een specifiek praktisch domein, waarin specifieke spelregels gelden. Zo gelden voor delivery robots (pakjes bezorgers) de verkeersregels en daar hebben de andere spelers/deelnemers mee te dealen. Het is echter aan de eigenaren, gebruikers, ervoor te zorgen dat het ding geschikt is om op verantwoorde wijze aan het sociale verkeer deel te nemen.
Rechten zijn geen presentjes die je aan iemand geeft. Alsof het in de macht van de gever ligt en alleen van diens wil afhangt of de ontvanger iets krijgt. Recht wordt erkend, niet gegeven. Het presentje blijft, ook als het ontvangen is een presentje ván de schenker. Recht is daarentegen niet van degene die het recht verleend heeft. Dat recht wordt erkend. Daar gaat een strijd aan vooraf waarbij het subject zelf aktief rechten opeist, zoals het kind dat pubert en volwassen wordt, of, en dat is geen tegenstelling, waarbij de anderen voor de rechten van het subject opkomen (zoals dat bij dierenrechten het geval is). De ouders erkennen uiteindelijk de rechten van het kind dat het als persoon altijd al toekwam. Het kind moet het echter nog wel zelf bewijzen. Robots doen dat vooralsnog alleen in fantasieverhalen. Wanneer ooit een leger ‘robots’ het Witte Huis bestormt of Het Torentje in Den Haag om hun rechten op te eisen, dan zijn het waarschijnlijk heel andere entiteiten dan op dit moment.
Gunkel neemt een voorschot op de toekomst (zie de ondertitel van zijn recente boek) en bekijkt het heden vanuit een beeld van de toekomst in plaats van vanuit het heden. Het is precies de kritiek die het historicisme van Hollak heeft op Heidegger.
Mark Coeckelbergh (2014). The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. (2014) 27:61–77.
Mark Coeckelbergh (2018). Why Care About Robots? Empathy, Moral Standing, and the Language of Suffering. Kairos. Journal of Philosophy & Science 20, 2018 Center for the Philosophy of Sciences of Lisbon University
Coeckelbergh, M., and Gunkel, D. 2023. ‘ChatGPT: Deconstructing the Debate and Moving It Forward‘ in AI & Society. Online first 21 June 2023.
Fleischhacker, Louk E. (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.
Het doel van het onderzoek waarvan dit boek een verslag is, is de ‘deconstructie’ van het mathematisme, de visie op de werkelijkheid die de structuur ervan voor het wezenlijk houdt. De metafysica van onze wetenschappelijke cultuur is mathematisch. We menen de werkelijkheid pas dan te begrijpen wanneer we het in wiskundige, berekenbare, modellen hebben kunnen beschrijven.
In het denken over techniek en ethiek blijkt hoe lastig het relatie-begrip is. Dat komt bijvoorbeeld naar voren als het over de eigen aard van de kunstmatige intelligentie gaat (heeft de machine bewustzijn? en: kan de machine denken?) of als het over de autonomie van de robot gaat. Zie bijvoorbeeld het werk van Gunkel en Coeckelbergh over de ‘Machine Question’, de vraag of we robots rechten moeten verlenen. De zelfstandigheid van de machine is een relatieve, in relatie tot de mens. Buiten die relatie met de mens voor wie de machine of de AI iets betekent, is een machine slechts een fysisch proces. De robot arbeidt niet zelf. Dat is een groot verschil met de mens die arbeidt, en daarin zichzelf als instrument inzet voor ‘de economie’. Het werken van de robot moeten we dus in relatie zien tot het werk van de mens, die als het ware zichzelf als arbeider, er is ook denkarbeid, in de robot geobjectiveerd heeft. De robot is geen collega, geen medewerker, hoe ‘automatisch’ deze ook allerlei klusjes kan doen. Uiteindelijk blijft de robot onder regime van de mens staan.
Hollak zegt daarover: als we het over de ‘denkende machine’ hebben, dan bedoelen we altijd het ‘intentionele correlaat’. De robot is uitwendige objectivatie van het zelfbeeld van de mens als arbeider. De programmeerbare computer is de uitwendige realisatie van de ontwerper die aan fysische processen betekenissen verleent, zodat ze volgens die betekenissen een door de ontwerper gesteld doel realiseren.
Gunkel, David J. (2012) The Machine Question: Critical Perspectives on AI, Robots and Ethics. MIT Press, USA (2012).
“On the horizon looms the question of whether intelligent machines should have moral standing.” The following responds to this final question—what we might call the “machine question” in ethics—in the affirmative, arguing that machines, like robots, AI, and other autonomous systems, can no longer and perhaps never really could be excluded from moral consideration. Toward that end, this paper advances another “vindication discourse,” following in a tradition that begins with Mary Wollstonecraft’s A Vindication of the Rights of Men (1790) succeeded two years later by A Vindication of the Rights of Woman and Thomas Taylor’s intentionally sarcastic yet remarkably influential response A Vindication of the Rights of Brutes.”
Gunkel stelt voor de robot als moral patient te bekijken.
Moral patiency looks at the ethical relationship from the other side. It is concerned not with determining the moral character of the agent or weighing the ethical significance of his/her/its actions but with the victim, recipient, or receiver of such action.
Het actie-model is analoog aan het communicatie-model van Shannon: een morele agent die een actie uitvoert zendt deze als het ware naar de ontvanger, de ‘moral patient’. Floridi and Sanders stelden voor dat er agenten zijn die weliswaar geen morele agent zijn maar wel morele patient. Deze kunnen iets aangedaan worden.
“The model for this kind of transaction can be found in animal rights philosophy. Whereas agent-oriented ethics have been concerned with determining whether someone is or is not a legitimate moral subject with rights and responsibilities, animal rights philosophy begins with an entirely different question—”Can they suffer?”
Dieren die pijn kunnen lijden zijn potentieel ‘moral patient’.
Dit is een nogal technische benadering van de moraliteit zoals deze zich in de werkelijkheid voordoet. Morele patient en morele agent zijn objectiveringen, of zelfs personificeringen, van twee aspecten van de intersubjectieve ontmoeting van twee personen. Het gaat om de wijze waarop de subjecten betrokken zijn bij de aktiviteit waarin waarden (vrijheid) in het geding zijn. Het hand-geven is een beter model. Wie iemand een hand geeft die ontvangt ook van de ander die hij een hand geeft het ontvangen van zijn hand geven. Het hand-geven is pas werkelijk geslaagd wanneer de hand door de ander is ontvangen en beantwoord door het geven van de hand. En zo is het bij iedere begroeting en ontmoeting van personen. Moraliteit is aan de orde zodra er meerdere subjecten betrokken zijn bij een aktiviteit waarbij waarden, zoals vrijheid, in het geding zijn. Het positieve recht is een uitwerking in de vorm van regels en procedures van de rechtsidee, gefundeerd in de vrijheid van personen en een gemeenschap.
Gunkel, David J. (2014). The Rights of Machines–Caring for Robotic Care Givers. Presented at AISB 2014. Chapter in the Intelligent Systems, Control and Automation: Science and Engineering book series (ISCA,volume 74).
Gunkel, David J. (2017). The Other Question: Can and Should Robots have Rights? In: Ethics and Information Technology, 2017.
Gunkel, David J. (2018). Robot Rights. Cambridge, MA: MIT Press.
Gunkel, David, J. (2022). The Symptom of Ethics: rethinking ethics in the face of the machine. Human-Machine Communication Vol. 4, pp. 67-83,2022.
Symptom refereert naar een begrip van S. Zizek. Het is dat wat buiten het zicht. Voor Gunkel is de machine het symptom of ethics. De term ‘face of the machine’ refereert naar de morele betekenis die het menselijk gelaat (de Ander) in de ethiek van E. Levinas inneemt. Gunkel rekt Levinas face op (“anything might take on a face”) tot de ontmoeting met de ander en ziet de sociale ontmoeting met de ander als het morele gebeuren. Gunkel spreekt van face of faceplate van de machine en lijkt daarmee een basis aan te geven voor een ethiek die ook de machine insluit. Anderzijds stelt hij vast dat een machine weliswaar een interface heeft, maar geen face dat om een ethiek vraagt. Het blijft dus onduidelijk waar toe deze overwegingen leiden.
Gunkel, David J. (2023). Person, Thing, Robot – A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.
“Im jedem Ding als Erscheinung denken wir zwar unvermeidlich dieses X mit…” (M.Heidegger)
‘Eo igitur deus se habet ad omnia sicut visus ad visibilia’ (Nikolaus van Kues)
Ik ken ‘David Gunkel’ van het taalmedium X, voorheen Twitter. Als ik zijn berichten op X lees, denk ik daar een persoon bij. Maar ik ken hem niet. Ik zie “moments, not the man” zoals Erving Goffman het uitdrukt in de Introduction van Interaction Rituals. Onze omgang met anderen op social media is fragmentarisch. Voor mij is deze Amerikaanse academicus en Presidential Teaching Professor of Communication Studies aan de Northern Illinois University: Mr. X.
Op een gegeven moment was daar de twijfel. Zonder dat daar een andere reden voor was dan dat de mogelijkheid zich voordeed: de vraag of David Gunkel wel bestond. Hoe weet ik dat Mr. X een persoon is? Ik bedoel: een werkelijk bestaand persoon en niet een taalsprekend ding (een ‘Sprachmachine’)?
Nu wil het toeval dat Mr. X over precies deze kwestie of een daaraan sterk verwante kwestie, maar dan in algemene academische vorm gesteld – zoals een zichzelf respecterende geleerde betaamt – onlangs een boek heeft gepubliceerd. In Person, Thing, Robot (MIT press, 2023) is de centrale kwestie of de sociale sprekende robot een ding is of een persoon.
Is het boek door Gunkel geschreven of door een tekstgenererend programma als ChatGPT? vraagt de lezer zich wellicht af. “Maakt het uit?” zou zijn wedervraag zijn. De ‘dood van de auteur’ is een thema dat hem wel aanspreekt, maar ik weet niet of die dood ook op hemzelf slaat of alleen op de academische ander.
De vraag is of er nog wel een onderscheid gemaakt moet/kan worden tussen Mr X als een soort van taalbron en de taal die er als een stroom van woorden uit voortkomt. Zijn die twee niet hetzelfde ding? Zoals de kracht en de werking van de kracht toch ook in zekere zin hetzelfde zijn.
Al in 2007 was Gunkel er op uit om ‘binary oppositions’, radicale tegenstellingen die tot vastgelopen morele conflicten aanleiding geven, te bevragen. Waarover zijn de conflicterende partijen het wel eens, is zijn vraag, en zit daar al niet de kern van het conflict? In Thinking Otherwise (Gunkel, 2007), bespreekt hij “The Machine Question”: wat is de morele status van de machine? De technologie confronteert ons met nieuwe middelen, nieuwe dingen, zoals virtuele werelden waarin we spelenderwijs virtuele vijandige legers uit moorden. Hoe moeten we deze aktiviteiten moreel waarderen, is de vraag die gesteld wordt. Er zijn voor- en tegenstanders van gewelddadige video-games, afhankelijk van het antwoord dat ze geven op de vraag of deze een negatief effect hebben op het gedrag van de gamers in de echte wereld. Het lijkt een onoplosbaar probleem, dat zich niet door experimenteel onderzoek alleen laat beantwoorden. Gunkel stelt een alternatief voor, “a qualitatively different way of considering the philosophical dimensions of information and communication technology (ICT), our responsibilities in the face of what can only amount to other forms of otherness, and a mode of critical thinking that is able to operate and proceed otherwise.” Het gaat Gunkel om de morele status van ‘andere vormen van andersheid’ dan de mens. Hoe gaan we op een moreel verantwoorde manier met de verschillende vormen van andersheid om? Wat is ‘moreel verantwoord’ als het gaat om onze omgang met robots? Moeten we, om deze vraag te beantwoorden, het dan niet eerst eens worden over wat dit voor dingen zijn?
De structuur van Gunkels nieuwste boek Person, Thing, Robot is als volgt.
Eerst wordt in hoofdstuk 1 op het belang van de kwestie gewezen: als een robot een persoon in morele zin is dan moeten we deze rechten geven: ‘robot rights’. Vervolgens wordt de aktualiteit van de kwestie bevestigd: sommige mensen beweren dat de machines waarmee ze communiceren bewustzijn of gevoel hebben, anderen dat dat slechts schijn is; dat de taalsprekende sociale robot slechts een machine is, een tool, een ding. Er zijn ook mensen die vinden dat het hele idee van ‘robot rights’ maar academisch geneuzel is, dat ons afhoudt van de echte politiek relevante zaken, zoals het indammen van de macht van de grote AI bedrijven. We weten immers, zo zeggen ze, dat een robot een machine is en geen persoon; ook al weten we het verschil kennelijk niet goed onder woorden te brengen. (Niet zo gek natuurlijk, wanneer je je bedenkt dat we de machine juist naar ons mensbeeld definiëren.) Ook die deelnemers aan het debat worden door Gunkel van repliek gediend. Vervolgens wordt er op gewezen dat de voor- en tegenstanders, die voor hun standpunt in eindeloze discussies verschillende argumenten aanvoeren, het over minstens één fundamenteel ding, een ‘organiserend principe’, eens zijn: de klassieke ontologie die een onderscheid kent tussen de categorieën ding en persoon, tussen subject en object. Gunkel ziet zich als taak deze ontologie, die een ethische en politieke lading met zich draagt, onder kritiek te stellen. Persoon en ding vormen een niet-neutrale hiërarchisch orde. Hetzelfde geldt voor de subject-object dichotomie. Gunkel zet vraagtekens bij de antropocentrische houding van de mens (het ‘moderne autonome subject’ is het zelfbeeld van deze mens) tegenover de werkelijkheid. Hij is begaan met de natuur. Sommige rivieren en dieren worden erkend als rechtspersoon, waarom robots niet? “The task before us is to question our (man’s) privileges.” Gunkel heeft zich ten doel gesteld de polaire dichotomieën van de klassieke ontologie, deze machtsstructuren van de westerse metafysica, op te heffen. Een onderneming die hij in navolging van Derrida ‘deconstructie’ noemt. Het bestaan van robots (soms wat slordig vereenzelvigd met AI, Artifical Intelligence, in het algemeen), vraagt er als het ware om.
“Robots are a queer sort of things. They deconstruct the existing logical order that differentiates persons from things”.
De ondertitel van Person, Thing, Robot: ‘A Moral and Legal Ontology for the 21st Century and Beyond‘ getuigt van het constructivistische karakter van de moderniteit, waar Gunkels project – dit is het derde boek in een serie over robot rights – een bijdrage toe levert. Ook een ontologie voor de technologie is op de toekomst gericht.
In de hoofdstukken 2 tot en met 6 worden pogingen gedaan uit de veelheid van opvattingen en onderscheidingen in de literatuur bevredigende definities van ding en persoon te vinden. Na veel heen en weer gelaveer tussen de beide polen ding en persoon komt in het slothoofdstuk 7 de aap uit de mouw van de deconstructie: Ding (Thing). Nu geschreven met een hoofdletter om het onderscheid aan te geven met de categorie van het ding (thing).
Wat is dat ‘Thing’?
“The Thing”- met een hoofdletter! – “deconstructs the person-thing dichotomy”.
Gunkel is uit op een deconstructie van de opposities van subject en object, van person en thing, karakteristiek voor de metafysica. Deze lijkt hij in navolging van Heidegger te identificeren met de moderne mathematische metafysica die ten grondslag ligt aan het wezen van de technologie, het Ge-stell. (Wiskunde is de wetenschap van het stelbare, vroeger in Nederland ook wel Stelkunde genoemd.) Via Kant’s noumenale werkelijkheid van de Dinge-an-sich, komt Gunkel op het spoor van het onbepaalde zijn; dat wat achter de bepalingen van ons rationele denken en onze taal ligt: het Ding.
“It escapes the conceptual grasp of existing categories and remains entirely and disturbingly otherwise.” (p. 167).
Het Thing is het verontrustend andere. Dat ‘andere’ verwijst soms ook naar het Andere van de frans-joodse filosoof Levinas. De Ander wiens aangezicht (gelaat) ons aanspreekt op onze moraliteit en ons uit het centrum van de werkelijkheid rukt. De ontologie is gefundeerd door de moraliteit. Niet andersom.
De westerse metafysica, zo klinkt Gunkel, is een machtsdenken, een doctrine in strijd met het idee van vrijheid. Het is een bekend geluid: In het Cartesiaanse ego cogito gaat volgens de critici van het westerse imperialisme en kolonialisme schuil: ik denk, dus ik heers. (zie bijvoorbeeld Houria Bouteldja, Witte, mensen, Joden en wij. Naar een politiek van revolutionaire liefde. Editie Leesmagazijn 2020.)
Op zoek naar een alternatief voor de vaste opposities van de metafysica, dreigt echter een relativisme, “anything goes”. Het dilemma waarvoor de kritiek op de systematische metafysica zich geplaatst ziet lijkt uit te lopen op het enig alternatief: een ‘noodzakelijke constructie’, hetgeen uiteraard een paradoxale notie is: iedere constructie heeft immers iets willekeurigs, het is gemaakt. De deconstructie van deze onmogelijke ‘noodzakelijke constructie’ leidt dan tot een oneindige veelheid van alternatieven.
“Unlike heady metaphysical speculation about who is a person and what is a thing, law needs to make decisions—literally, a cut in the fabric of being—to divide between who counts as a legitimate legal subject and what does not as an object. The trick is not to find a single, common truth that is universally valid in all times and places, but to recognize how any proposed “universal truth” is itself already part of the same game—a particular way of understanding Things that is raised to the standpoint of a universal through the imposition of power.”
Heidegger introduceerde de notie van ‘Seinsvergessenheit‘ als kritiek op de gefixeerde oppositie van subject en object. Een dergelijke fixatie is typisch kenmerk van mathematische reflectie: het subject stelt het object tegenover zich: zo is het; dit en dat. Voor Heidegger is de moderne technologie die gebaseerd is op de mathematische, experimentele natuurwetenschap de realisatie van een mathematische metafysica. Fleischhacker schrijft hierover in zijn boek over de deconstructie van het mathematisme in de filosofie:
“The ‘Verdinglichung des Seins’, the blurring of the ontological difference, reminds us of what is done in mathematical reflection: creating ideal entities as actualizations of a potency. This potency – structurability – is of another order than its ideal actualizations – the mathematical objects -, and it is indeed ‘forgotten’ and inexpressible in mathematical thought.” (Fleischhacker, p. 146, voetnoot 172)
Het structureerbare wordt het verborgene in de structurering. Het wordt vergeten.
Gunkel:
“The Thing (Gunkels oplossing van de deconstructie van de gefixeerde klassieke metafysische dichotomy van persoon en ding) comprises an alternative category of being that is situated outside of and anterior to the person-thing-dichotomy.”
Het Ding bestaat buiten de denkbare orde, buiten de orde die zich in de taal door ons laat verwoorden.
Wat betreft het tekortkomen van de taal als uitdrukking van het zuivere zijnde (Thing) citeert Gunkel met instemming Esposito: “The naming of thing has the character of a violent intrusion.”
Gunkel: “The linguistic sign, despite initial appearances, is not just some neutral tool that represent things as they really are. Instead, language violates and domesticates things.”
Het benoemen van de dingen is al een objectivering, een machtsovername. “Es ist in Namen dass wir denken”, schrijft Hegel. Met de woorden eigenen we ons de dingen geestelijk toe.
Wat ons rest is een uiterst terughoudende houding, door Heidegger aangeduid met de term ‘Gelassenheit’. Het heeft iets fatalistisch, iets nihilistisch ook.
Maar de afwezigheid van het mathematisch zijnde in de mathematische reflectie kan niet op het conto van de klassieke metafysica geschreven worden, zoals Gunkel lijkt te doen. Het is een kenmerk van de moderne, mathematische metafysica, zoals die door Heidegger bekritiseerd wordt. Gunkels deconstructie kan dan ook beter verstaan worden als een poging aan het mathematisme van de moderne metafysica te ontkomen. Het mathematisme houdt de structuur van de dingen, het systeem van zijnden, de structuur van de taal, voor het wezen ervan. Het vergeet de structuur te zien als een uiting en werking van de kwaliteit van het zijnde door deze op zich te objectiveren waardoor deze in de plaats komt van het zijn zelf. De structuren, de objecten van de wiskunde, worden op zich gesteld en kunnen in willekeurig andere materialen geimplementeerd worden. Onze taal als wiskundige, statistische, structuur opgevat en geobjectiveerd kan door natuurprocessen worden overgenomen: de machine is een werkend teken. Voor de gebruiker van de machine, de mens die met de taalmachine in gesprek is verschijnt het vergeten subject weer in de herinnering; treedt het onvermijdelijk weer uit de achtergrond naar voren.
“In jedem Ding als Erscheinung denken wir zwar unvermeidlich dieses X mit; aber in Wahrheit bestimmbar und in seiner Weise als Ding erkennbar ist nur das erscheinende Naturding.” (Heidegger, Die Frage nach dem Ding, p. 100)
Kenmerkend voor de mathematische houding is het afzien van de eigen aktiviteit van het denkend, stellend, subject. Die eigen inbreng van het subject wordt afgestoten in de vorm van functies, procedures en methodes. De werkelijkheid die zo voorgesteld verschijnt, in de vorm van mathematische modellen, wordt niet gerelateerd aan de methode. Het produkt van dit ‘rekenende’, voorstellende, denken wordt gefixeerd.
Uitdrukkingen bij Gunkel als “using language into an object of reflection” en “things become objects by being names, so through language” wijzen op het mathematische en het mathematiseren. Namen, wiskundige tekens, zijn ‘rigid designators’ (Kripke). Ze verwijzen in hun gebruik uniek en hun functie ligt vast in het teken-systeem waar ze onderdeel van zijn. Maar dan hebben we het niet over de taal als verwoording van de door de mens ervaren werkelijkheid, een taal die openheid is en vatbaar voor vele interpretaties.
De moreel onaanvaardbare kolonisatie, het ‘gevaar’ van de technologie (Heidegger), zit hem in het verwarren van de gemathematiseerde taal zoals die door AI (‘conversational agents’) ‘gebruikt’ wordt en de oorspronkelijke taal; de verwarring van de taal die functioneert in een taalspel (Wittgenstein), met de taalvaardigheid van de mens, die voeling houdt met de werkelijkheid.
Mijn conclusie is dat de structureerbaarheid, de kwantitatieve potentie van de natuur, overeenkomt met de nog onbepaalde potentialiteit van Gunkels Thing, dat wat in de achtergrond, afwezig is in iedere structurering. Wat Gunkel presenteert als een deconstructie van de gefixeerde metafysische oppositie van ding en persoon (“the standard operating presumptions and shared values of the debate”) kan beschouwd worden als een (impliciete) kritiek op de overheersing van het mathematisch technische denken als het gaat om het uitdrukken van de aard van het technisch artefact.
Wie of wat is nu dat Thing ? Het is de Noumenale Werkelijkheid van Kant (Heidegger’s X), het is dat waarover men niet spreken kan (Wittgensteins Tractatus), het is de Deo Abscondito van Cusanus, de voor onze mathematische en technische benaderingen onbereikbare Transcendentale Oneindigheid van het wezenlijke. Het is de God van het ontologisch Godsbewijs van Anselmus wiens werkelijk bestaan we maar niet vanuit ons rationele denken kunnen bevestigen, hoeveel (modale) logica we er ook bij halen. Het Thing is het Zelfbewuste-zijn, de Homunculus in de intelligente machine waarnaar de positivistische filosofen en neurofysici naarstig op zoek zijn, en die ze maar niet kunnen vinden. Het bewustzijn dat ze slechts kunnen specificeren en uitspreken in de metaforen van de informatica. Het Thing is het onderwerp van de nieuwe tak aan de theologie-boom: de AI theologie. Het is de Toekomst van de AI: de wereld van de onbeperkte technische mogelijkheden.
Zoveel namen heeft het Ding. Zoveel verschillende namen vanuit evenveel verschillende perspectieven.
Wat is een persoon? Volgens Aristoteles is een persoon προς ολον – in zekere zin alles. “Een persoon constitueert een perspectief op al het zijnde.” Fleischhacker wijst erop dat het deze karakteristieke eigenschap gemeen heeft met een ‘principe’, zoals het principe van structureerbaarheid, een kernbegrip in zijn kritiek van het mathematisme in de moderne metafysica. Hij wijst op een zekere analogie tussen de filosofie als de aktiviteit waarin we dealen met de eenheid en veelheid van principes enerzijds en het sociale leven, als de aktiviteit waarin we dealen met de eenheid en veelheid van personen, de intersubjectiviteit, anderzijds. De belangrijkste overeenkomst tussen intersubjectiviteit en principes is het relationele karakter van hun eenheid. Uiteindelijk is het onmogelijk het gezichtspunt van de buitenstaander in te nemen. Je bent een persoon en je begrijpt de dingen vanuit een zeker perspectief. Vanuit dat perspectief ontmoet je anderen, met hun perspectief. Je kunt niet onpartijdig zijn, maar je kunt wel er wel bewust van zijn en dit proberen te begrijpen.
Ook Gunkel wijst op het feit dat ieder individu gebonden is aan zijn ‘subject position’ en op de onmogelijkheid een bovenmenselijke positie in het debat in te nemen.
“To expect that any form of knowing would be able to escape from these human (all too human) conditions of possibility and operate from some superhuman position of transcendental objectivity is a metaphysical fantasy that is reserved for the gods.” (p. 175-176)
Is Mr. X nu een persoon of een taalsprekend ding? Ik weet het niet. Moet ik een antwoord geven? Is er een antwoord? Als iemand me zou zeggen dat hij echt bestaat, zou ik hem moeten geloven? En als ik hem geloof zou het wat uitmaken? Ja, wat maakt het eigenlijk voor mij uit of Mr. X een persoon is of een taalsprekend ding? Niets. Net zo min als het een verschil maakt of de teksten die ik lees door hemzelf of door een spraakmachine zijn gegenereerd. Er is – vooralsnog – geen verschil. Of moeten we zeggen: voor het denken is er weliswaar een verschil, maar dat verschil heeft geen enkele inhoud; het is slechts een formaliteit. En toch..
De vergeten lichamelijkheid
… er is een grens aan dit denkend bestaan. Er is een grens aan het denken, een fysieke grens. De lichamelijkheid is het besef, het onmidddellijk weten, van deze fysieke grens. Ik kan wel denken dat dit blok hout deelbaar is in delen die weer op dezelfde manier deelbaar zijn tot in het oneindige, maar dat is slechts een voorstelling, de kwantiteit waar de mathematiek bij aansluit. Ik moet het blok met veel moeite met een kloofbijl in stukken hakken voor het in de kachel kan en ik weet uit ervaring dat er een fysieke grens is aan deze deelbaarheid.
Waar vraag ik naar als ik vraag of Mr. X wel een persoon is die ‘werkelijk bestaat’? Is dat niet of Mr. X een lichamelijk bestaand persoon is zoals ik? Waar ik, als ik twijfel aan het bestaan van de schrijver, juist niet aan twijfel is het beeldscherm en de tekens die daarop voor mij verschijnen, die mijn bestaan binnendringen en iets voor mij betekenen. Waarom niet? Waar ik niet aan twijfel is mijn moeizaam werken aan deze tekst, een lichamelijke bezigheid die van mij uitgaat. De mathematiek sluit aan bij de sensibele waarneembare werkelijkheid, maar niet als sensibel. Van het zintuiglijke, lichamelijke, van het zintuiglijk waarneembare abstraheert de wiskunde om de mathematische structuur op zich te stellen. Die structuren van de gedragingen, de woorden en gebaren, zijn op fysieke, uitwendige wijze door ons nagemaakt en hebben de vorm gekregen van een robot, een machine met menselijke trekjes. Die machine heeft geen lichaam. Of beter: de machine is geen lichamelijk geestelijke bestaanswijze zoals de mens. In de machine heeft de relatie tussen intelligentie en body een zuiver uitwendig karakter. Die relatie is niet iets persoonlijks, iets dat in de ontwikkeling van het individu tot stand is gekomen en dat zich uit in persoonlijke vermogens en vaardigheden.
Heeft de robot rechten? vragen filosofen. Pijn, lichamelijke pijn, is het meest onmiddellijke besef van onze lichamelijkheid en ons contact met de fysieke werkelijkheid. Het feit dat de ‘autonome’ robot de mens pijn kan doen (‘can do harm’) wordt dan ook vaak genoemd als een motief de robot als juridisch subject te beschouwen. Maar een appel die op je kop terecht komt kan ook pijn doen. Er is een wezenlijk verschil of de filosoof zich voorstelt dat een leger robots het Capitool in Washington of Het Torentje in Den Haag bestormt om hun rechten op te eisen en de macht over te nemen, of dat dit in werkelijkheid gebeurt. Als het ergens in de toekomst in werkelijkheid gebeurt, dan zullen die robots niet meer dezelfde robots zijn als die we nu kennen. We zullen deze wezens misschien niet meer ‘robots’ noemen, maar androids, of iets dergelijks. Nu is dat slechts fantasie, een beeld uit een film of een roman. Maar de kwetsbare mens, het kind, het slachtoffer van de welvaartstaat, dat ons moreel aanspreekt wordt groot en neemt op een dag de wapens ter hand zodat we er niet meer aan kunnen voorbijgaan, omdat het onze intellectuele technocratische welvaartstaat fysiek bedreigt. Het is die lichamelijkheid van de mens, die fysieke kwetsbaarheid, die een grens stelt aan het academische geneuzel van de filosofen, theologen en futorologen en van de media en ondernemers die belang hebben bij het in stand houden van de beloftes van de AI religie. Wanneer we een rivier of de Waddenzee tot rechtspersoon verklaren gebeurt dat omdat er mensen zijn die hun macht aanwenden om de politiek ervan te overtuigen dat er iets wezenlijks, namelijk onze natuur waar we als lichamelijke wezens onderdeel van zijn, dreigt verloren te gaan. Daarom hebben we alle begrip voor critici als Abebe Birhane and Jelle van Dijk (2020) die onder verwijzing naar de kwestbaren en gekwetste slachtoffers van de mateloze kenniseconomie oproepen om ons te richten op de macht van de grote tech ondernemingen. Zij zijn het die onze robots ‘aansturen’ en als ‘autonome’ intelligente wezens aan onze werkelijkheid opdringen door ze aan ons voor te stellen als de beloftevolle toekomst waar we niet omheen zouden kunnen.
De technische ontwikkeling doet ons steeds weer versteld staan van de indrukwekkende mogelijkheden die ze ons biedt. Maar onder de indruk van de technologie en bezig gehouden door de technologie dreigt voortdurend het gevaar dat we vergeten waar het ons om te doen is.
De finale vraag
Is de auteur van Person, Thing, Robot er in dit werk in geslaagd zich te bevrijden van de macht van het mathematische denken, de macht van het denken van de technologie? Die vraag speelt bij mij voortdurend op de achtergrond mee, maar komt bij Gunkel zelf niet expliciet aan de orde. Terwijl de bevrijding van de mathematiserende denkhouding vraagt om er zich van bewust te zijn, en voortdurend ervan bewust te zijn. Maar is het wel eerlijk om een boek te beoordelen aan de hand van een vraag die de auteur zelf niet als de vraag ziet waarop hij in het boek een antwoord probeert te vinden? Welke is de vraag die de auteur zich stelt? In eerste instantie is de vraag of een robot een ding is of een persoon. Het gaat hem daarbij om de morele status van het technische artefact. Om vervolgens vraagtekens te zetten bij de oppositie ding/persoon. Geïnspireerd door de post-moderne ‘denkers van het verschil’ met name Derrida werkt hij aan een ‘deconstructie’ van de klassieke metafysische opposities. Uiteindelijk komt hij uit bij iets dat buiten deze (hiërarchische) ontologische orde staat: Thing. Daarmee probeert hij te ontsnappen aan deze orde. Maar dat bevredigt het denken niet, want wat betekent dat nu voor onze morele houding tegenover de robot? Omdat we denkend niet tot een verschil kunnen komen tussen ding en persoon dat een antwoord levert op de vraag, kunnen we niet anders dan het antwoord overlaten aan het gebeuren zelf, aan de interaktie tussen de diversiteit van verschillende perspectieven die voor- en tegenstanders hebben.
De wet eist echter dat er na al het gedebateer een beslissing wordt genomen (“the law needs decisions.”) Die interaktie wordt echter door de grote tech-ondernemingen, zoals Google, Microsoft, Amazon beheerst. Zij zetten immers de taaldata om in zogenaamde intelligente chat programma’s die de grammatica en de woorden van de taal bepalen waardoor we ons als deelnemers aan die taal medeschuldig maken aan het vormgeven van hún werkelijkheid. Het zijn immers de internet-bedrijven die de bandbreedte van onze communcatiekanalen bepalen en daarmee van het perspectief dat onze werkelijkheid bepaalt. Het zijn dezelfde bedrijven die via de media ons, het goedgelovige volk, over de onbeperkte mogelijkheden van de AI rapport uitbrengt: de verlossing van de mensheid ligt in handen van de superintelligente Artificial General Intelligence.
De vraag die ik aan het boek stel is in zoverre een eerlijke vraag als ik er in slaag duidelijk te maken dat deze vraag de kwestie die de auteur zelf aan de orde stelt verheldert; dat deze vraag de vraag is die op de achtergrond speelt. Door deze uit de achtergrond naar voren te halen. Je kunt je alleen bevrijden van een bepaalde denkhouding wanneer je je bewust bent van deze denkhouding, van de impliciete vooronderstellingen.
Wat is het resultaat van de deconstructie? De bewustwording van het niet bestaan van het verschil. De klassieke opposities tussen ding en persoon, tussen zijn en schijn, tussen origineel en namaak, worden opgeheven, nadat blijkt dat hun rollen omkeerbaar zijn gebleken. Iedere poging tot het bepalen en benoemen van de dingen moet als een egocentrische machtsovername van het denkend subject gezien worden. Door de taal ontstaat het verschil. Het Thing is het nog niet bepaalde, het wezenlijk onbepaalde Ding. Het Thing ís, maar het is ook niet, want het behoort niet tot onze orde van het zijn, niet tot de orde van onze taal. Het is de Kantiaanse X (Heidegger) die we erbij moeten denken als de ware werkelijkheid achter de verschijnselen. Dat Thing is ook de persoon die we erbij denken als zijnde de bron die achter de door ChatGPT en de sociale robot gegenereerde teksten en andere gebaren zou zitten: het is het bewuste zelfzijn van de machine die ‘ik’ zegt.
Het mathematische denken is het denken dat volstrekt onverschillig staat tegenover de werkelijkheid. Het mathematisch denken boeit het niet of iets ‘werkelijk bestaat’ of dat het slechts gedacht wordt. Mathematische objecten zijn zuivere gedachteconstructies, dingen die bestaan in een eigen denkwereld, objecten van de ‘Zuivere Denker’ (David Chalmers). Het subject van dit denken heeft zich radicaal onderscheiden van de werkelijkheid en heeft zijn eigen werkelijkheid gemaakt in de vorm van de op zich gestelde mathematische structuren. Die bepalen wat iets is. Vanuit het mathematische perspectief is wát het is ook het zijnde zelf: bestaande structuren, bestaande constructies. Het verschil tussen wát iets is en dát iets is, is er niet. Of de structuur door het denken bedacht is, of door de zintuiglijke waarneembare werkelijkheid van de natuur aan het denken is opgedrongen, dat doet er niet toe. (Denk aan Kants uitspraak over de ware inhoud van de natuurwetenschappen: dat is het mathematische). Alles wat is is door het denken gesteld zoals het is: dit en dat. Wat de objecten zijn is volledig bepaald door de structuur, het systeem, waar ze deel van zijn, door de relaties die ze tot elkaar hebben; relaties die van buiten af aan de objecten zijn toegekend. In de mathematische wereld zijn alle (tegen)stellingen strict, absoluut.
Wie ding en persoon, wie machine en mens, wie subject en object, zó tegenover elkaar denkt, als objecten tegenover het denken zelf, als iets dat daarvan strict onderscheiden is (Descartes), en als objecten naast elkaar, die denkt mathematisch. Die vergelijkt de mens en de machine alsof het zelfstandige zijnden zijn, die onafhankelijk van elkaar kunnen bestaan. Alsof ze een oppositie vormen in absolute zin, in het zijn. In plaats van in relatieve oppositie: de correlatieven van de relatie sluiten elkaar uit in het tot-het-andere-zijn, niet in het absolute zijn. Ander dan bij de intersubjectieve relatie tussen mensen gaat het bij de mens machine relatie om een a-symmetrische relatieve oppositie: die nog overheerst wordt door de subject-object-verhouding van de verstandelijke ken-relatie.
Het relatiebegrip in de ‘relational turn’
Een sleutel-begrip in Gunkels notie van de sociale robot is dat wat de robot is wordt bepaald door de wijze waarop we een relatie tot de robot uitoefenen. Ook Mark Coeckelbergh wijst daarop.
Coeckelbergh en Gunkel spreken van een ‘relational turn’ in ons denken over de relatie met de ander. Het is niet zo dat we verstandelijk redeneren vanuit de door ons eerste onderkende aanwezigheid van bepaalde eigenschappen (zoals het hebben van bewustzijn) of de ander tot onze morele cirkel behoort. Het is juist omgekeerd.
“In social situations, then, we always and already decide between who counts as morally significant and what does not and then retroactively justify these actions by “finding” the essential properties that we believe motivated this decision-making in the first place. Properties, therefore, are not the intrinsic prior condition for moral status. They are products of extrinsic social interactions with and in the face of others.” (David J. Gunkel, 2022)
In een uitvoerig review van Person, Thing, Robot door Abootaleb Saftari lezen we:
“Finally, the concept of ‘relation’ remains largely unexplored in Gunkel’s argument. It feels like a mystery, a “black box,“ with only a faint outline suggesting its social nature. This lack of clarity provides ground for further critique. One could argue that even if we agree with Gunkel’s relational perspective, our tendency to treat things as objects, to objectify them, might itself stem from our relational interactions with them.”
Hierboven hebben we de relatieve oppositie, die een correlatie is, onderscheiden van de stricte absolute oppositie, de gefixeerde tegenstelling van person en ding, van subject en object, die voortkomt uit de mathematiserende denkhouding.
We moeten twee ken-relaties onderscheiden. Wanneer we in de aanhef van dit stuk lezen: ‘ik ken David Gunkel’ en even later: ‘ik ken David Gunkel niet’, dan hebben we daarbij twee verschillende ken-relaties in gedachten. De eerst betreft een subject-object-ken-relatie, over het daarin gekende object heb ik informatie en neem ik allerlei signalen waar. De tweede duidt op een subject-subject-ken-relatie waarin ik de ander als subject denk. Wanneer we van deze relatie zeggen dat deze er niet is, dan bedoelen we dat er geen werkelijke intersubjectieve relatie bestaat. Om het onderscheid aan te geven zeggen we ook wel dat we iemand persoonlijk kennen, dan wel alleen ‘van horen zeggen’, via de media. In dat geval hebben we informatie over iemand. De machine bevat informatie over personen. maar kent deze niet.
In het mooie artikel Intersubjectief verkeer en lichamelijkheid; de bemiddeling van het lichaam van de Thomas-kenner Dr. B.A.M. Barendse (1951) gaat het over de intersubjectiviteit van de ken-relatie. De veelheid der intersubjectiviteit berust op een ‘relatieve oppositie’. Die veelheid is niet een gebrek van de eenheid, het is fundament van de concrete eenheid. Dat ze ‘de eenheid op haar best’ is: “dat blijkt uit de aard van het intersubjectief verkeer.” (Barendse 1982, p. 85). De mededeler is mededeler ten aanzien van de ontvanger, en deze is ontvanger ten aanzien van de mededeler. Het onderscheid tussen mededeler en ontvanger is gebaseerd op een ‘relatieve oppositie’. Van belang is de opmerking die Barendse hieraan toevoegt.
“Bij het echte (symmetrische) intersubjectief verkeer geschiedt de mededeling niet om te voorzien in een behoeftigheid van het ontvangend subject.” Een voorbeeld: als u iemand, een bekende, iets belangrijks te vertellen hebt, iets dat u is overkomen of hem direct aangaat, dan laat u niet na hem/haar daar persoonlijk mededeling van te doen. Ook als u denkt dat deze mogelijk er al weet van heeft. Het gaat niet om de informatie, het gaat erom dat u hem persoonlijk erover mededeelt. Het gaat om “de mededeling als mededeling” en deze is tevens een zelf-mededeling.
De inzichten van Barendse over de aard van de correlatie en bovenstaande analyse van de symmetrische en a-symmetrische ken-relaties beogen licht te brengen in het begrip van de relatieve oppositie, deze “black box”.
Met de ontwikkeling van de sociale, taal-sprekende en sociale gebaren makende robot ging in het midden van de vorige eeuw het ontstaan gepaard van de objectivering van de sociale gedragingen die de dagelijkse ontmoetingen, de face-to-face interakties van mensen, kenmerken. Zie het werk van Goffman over face, de introductie van Michael Argyle’s van een nieuwe ‘social science’ in The Psychology of Interpersonal Behaviour, Yngve’s ontdekking van het backchannal en turn-taking-gedrag (‘Getting a word on edge-wise‘). Goffman eindigt zijn introductie van Interaction Rituals (1967) met wat Schegloff noemt “one of his most telling dicta“: “Not, then, men and their moments. Rather moments and their men.” Vier jaar na Yngve’s voordracht in Chicago (1970) over backchannel en turn-taking verschijnt een artikel van een drietal gerenommeerde sociologen (‘het SSJ-paper’) : Harvey Sacks, grondlegger van de conversatie-analyse; de socioloog Emanuel Schegloff, student van Goffman, en Gail Jefferson, die in Amerika in de zestiger jaren begon als student van Sacks en later naar Nederland verhuisde. Jefferson inspireerde veel vrouwelijke onderzoekers in de socio-linguïstiek onderzoek te doen naar hoe man-vrouw-machtsverhoudingen tot uitdrukking komen in kwantitatieve analyses van conversatiegedrag in ‘small group’ ontmoetingen.
Resultaten van deze taal-sociologische onderzoeken werden input voor de ontwikkeling van artificiële ‘conversational agents’ die zich op een moreel acceptabele manier gedragen in ontmoetingen met de mens (‘social signal processing’ werd een populaire uitbreiding van onderzoek op het gebied van de spraak-herkenning en spraak-generatie) nu ingebouwd in AI om gedrag van mensen te classificeren, die toepassing vindt in security, predictive policing.
Zo is ook de intersubjectiviteit via de sociale relatie van de ‘relational turn’ van Gunkel en Coeckelbergh cognitief geobjectiveerd en geimplementeerd in de sociale robot. Het zal ons niet meer verbazen dat Gunkels ‘Machine Question’: moet de sociale robot rechten verleend worden?, uiteindelijk zijn antwoord vindt in de intersubjectiviteit.
De kernvraag blijkt dan ook te zijn die naar de verhouding van de beide hierboven onderscheiden ken-relaties: de subject-object- en de subject-subject-kenrelatie. Wat is die robot, dat object, voor een subject?
Het mag duidelijk zijn dat het fysieke aspect, het onmiddellijk ervaren zintuiglijke en lichamelijke, wezenlijk is voor de ken-relatie en de intersubjectiviteit. De zuiver verstandelijke, mathematische subject-object relatie is onwerkelijk en bevredigt de behoefte aan fundament in de werkelijkheid niet. Dat blijkt ook uit het volgende.
De informaticus is niet tevreden met de mathematische structuren waarvan de wiskundige zelf niet kan bewijzen dat ze consistent zijn, dat ze een zin hebben (Gödelstellingen). Iedere programmeur kent dat: dat je er pas van overtuigd bent dat je programma ‘het doet’ als je het in een programmeertaal hebt uitgeschreven en het op een machine ‘draait’, zodat je het voor je ziet ‘werken’ (zelfs als je de correctheid van het programma zou kunnen bewijzen is dat niet overtuigend genoeg). De werking van wiskundige tekens in de vorm van een machinaal proces dat werkt volgens de betekenis die deprogrammeur er aan opgelegd heeft, dat is de ultieme bevrediging van de ‘compulsive programmer’. Het werkt! De programmeur deelt deze behoefte en deze bevrediging met de moderne fysicus. Hoe we de Schrödinger vergelijkingen moeten interpreteren, of de werkelijkheid een deeltje is of een golf, het doet er niet toe. Wat van belang is, is dat het experiment herhaalbaar is en een bruikbare technologie oplevert. “De kwantumtheorie werkt!” zei de Utrechtse Nobelprijswinnaar Gerard van ‘t Hooft. Zie: Hiroshima!
Met de wiskunde die zo onverschillig staat tegenover de waarde van de werkelijkheid kunnen we alle kanten op. Mathematiseren is afzien van de eigen waarde van de dingen. Ze is volstrekt a-moreel, zoals de zuivere techniek. De morele kwestie wordt opgeworpen door het gebruik van de techniek, door de economie en de politiek.
Nu is het nieuwe van de informatietechnologie dat het oude onderscheid uit de fase van de klassieke machinetechniek tussen ontwerper enerzijds en gebruiker van het technische ding anderzijds langzaam aan het verdwijnen is. Het is als met de primitieve techniek van het handgereedschap dat door en in het gebruik van de interaktie met het middel zich verder ontwikkeld, in een hydride samenwerking tussen instrument en haar gebruiker. De mens gebruikt de zelfstandige werking van het instrument, dat ‘leert’ van dit gebruik. Bij nader inzien is het altijd zo geweest. Het oude beeld van de mens die tegenover de natuur staat en deze beheerst klopt niet. Je kunt de natuur nu eenmaal niet beheersen, wanneer je je niet aan de krachten, de eigen waarde, van de natuur houdt. We moeten onze eigen mathematiserende denkkracht kennen om deze te kunnen beheersen. Dat kan alleen door ons de vraag te stellen waar het ons om te doen is, als het ons niet om de technologie zelf is en we het niet aan de technologen over willen laten.
Volgens een thomistisch-metafysische visie (De Petter, 1964) op de oppositie ding-persoon betreft deze een oppositie tussen de zijnden die hun zijn buiten zichzelf hebben en de zijnden die hun zijn zelf uitoefenen. De robot nodigt uit deze metafysische visie opnieuw te overdenken.
Gunkel on the debate about wether the robot can and/or should be considered a natural person:
“For those on one side of the debate, everything depends on prior assertion and acceptance of the “fact” or “belief” (and word choice is not immaterial in this context) that there is a clear and unquestioned difference separating living beings from technological artifacts. The category ‘person’ is applicable to the former; it is not even a question for the latter.
For those on the other side of the debate, the arguments speak to and mobilize our sense of equal treatment for equivalent status. And here there is a fork in the road.
For some, the determining factor consists of ontological properties. If something possesses the requisite person-making qualities or capabilities (however those actually come to be defined and operationalized), then it can and should be considered a person.
For others, who recognize the epistemological complications involved in what Nyholm calls ‘mind reading’, the appearance of things is what ultimately matters. If something looks and acts like a person, then we should probably treat it as such. Doing otherwise would be either logically inconsistent or insensitive to the very real social situations and circumstances in which we find ourselves always and already alongside others.” (David Gunkel, 2023, p.99)
De Europese Commisie vroeg of robots als (juridisch) persoon beschouwd moeten worden en welke rechten en plichten ze dan hebben.
The motion, titled Civil Law Rules on Robotics, was eventually adopted on February 16, 2017, and included the following stipulation: “Ultimately, robots’ autonomy raises the question of their nature in the light of the existing legal categories—of whether they should be regarded as natural persons, legal persons, animals or objects—or whether a new category should be created, with its own specific features and implications as regards the attribution of rights and duties, including liability for damage.”
Nieuwe ervaringen in interaktie met nieuwe dingen werpen volgens Coeckelbergh de vraag op naar de ‘morele status’ van de dingen. Deze vraag betreft de sociale verhoudingen, het betreft hoe we met de dingen (moeten) omgaan. Morele status kennen we impliciet toe aan de dingen binnen een onze leefwijze (‘form of life’, Wittgenstein). Het is uiteindelijk de cultuur, onze geschiedenis, onze taal, die de voorwaarden inhoudt voor het toekennen van morele status. Het veranderen van de morele status van de dingen komt neer op het veranderen van de cultuur, van onze leefwijze. Gunkels Machine Question naar de morele status van robots en welke rechten robots hebben, komt uiteindelijk neer op de vraag wat voor ‘kennis’ we ‘gebruiken’ in onze moreel verantwoorde omgang met de dingen. Deze kennis is van een ander soort dan de wetenschappelijk technische kennis die we in regels en techniek expliciteren. Deze morele kennis is impliciet in de manier waarin we leven met de natuur en met de anderen. Dit weten van de eigen waarde van de dingen, wat ons gedrag bepaalt, is niet door middel van regels of wetten af te dwingen, noch in algemene regels te beschrijven, omdat het door de unieke concrete situatie bepaald wordt. Het doet beroep op een vorm van kennis die radicaal verschilt van de mathematisch technische kennis die onverschillig staat tegenover de eigen waarde van de realiteit en die erop gericht is deze te controleren ten behoeve van onze doelen.
Bronnen en Noten
Over kwantiteit en kwaliteit: de mathematische denkhouding
Deze hoop zand kunnen we wellicht een ding noemen, een substantie, iets dat zelfstandig bestaat en niet alleen als eigenschap van iets. Met een ‘hoop’ drukken we de kwaliteit van deze hoop uit, dat wat het in wezen is. Deze kwaliteit die zich uit in de hoogte, de grootte, een hoedanigheid die onmiddellijk in onze lichamelijk-zintuiglijke ervaring gegeven is. De kwaliteit vormt een directe eenheid met het gegeven ding. Ze is er de onvervreemdbare hoedanigheid van. Een hoop kan in de weg liggen als deze op je pad komt.
Iemand die nauwkeurig kijkt zal ontdekken ‘dat deze hoop uit zandkorrels bestaat’. Hij vraagt zich af uit hoeveel zandkorrels de hoop bestaat. Of hoeveel scheppen nodig zijn om de hoop te verplaatsen. Hij is al begonnen met tellen. Hó, hó, zegt Aristoteles, wacht ‘ns even. Voor we iets wezenlijks vergeten. Kwaliteit is de onmiddellijk gegeven hoedanigheid van iets. Kwantiteit is wat verdeelbaar is in individuele samenstellende delen. Dat wil zeggen: dat in gedachten de delen in het geheel precies dezelfde zijn als los van het geheel. Het zou voor deze verdeling niet uit maken of deze slechts gedacht is of werkelijk wordt uitgevoerd. Maar dat is het ideale geval. Bij een chemische verbinding bijvoorbeeld hebben de delen andere eigenschappen buiten het geheel dan in de chemische samenstelling. Zo is het ook bij de delen van ons lichaam.
Bij nader inzien blijkt dat eigenlijk niets in de ervaarbare werkelijkheid zuiver uit ‘onverschillige’ delen bestaat. Als de hoop werkelijk op zo’n onverschillige manier uit een aantal zandkorrels zou bestaan, dan konden we met recht vragen waar precies de kwantitatieve grens ligt tussen wat nog een hoop is en wat niet meer een hoop mag heten (de klassieke sorites paradox: uit hoeveel zandkorrels bestaat een hoop?). Maar ook al is de hoop niet iets puur kwantitatiefs, geen verzameling zandkorrels, we kunnen deze wel als zo iets kwantitatiefs denken.
En dat is precies wat we doen vanuit een mathematische denkhouding: we vatten de werkelijkheid als een structureerbare werkelijkheid op en maken deze tot een structureel geheel, een systeem, bestaande uit delen in vastgestelde relaties tot elkaar. Daarbij verdwijnt de werkelijkheid van de hoop, deze kwaliteit zelf, uit het zicht. De kwantiteit, in de vorm van structuur, kan in tegenstelling tot de kwaliteit aan een andere realiteit op precies gelijke wijze voorkomen.
De vraag wat nu het belangrijkste is: de kwaliteit of de kwaliteit, is om een of andere reden in de loop van de moderne geschiedenis, gedurende de Renaissance, beslecht in het voordeel van de kwantiteit. De moderne wetenschap werd mathematisch, experimenteel. Mathematiseren houdt in: afzien van de eigen waarde, de eigen kwaliteit van iets. Zoals we bij het gebruik van iets afzien van de eigen waarde van iets om het als middel voor ons doel aan te wenden. Dat begint al met het meten, waarin we onze maat opleggen aan de werkelijkheid die we als meetbaar, telbaar opvatten. Het resultaat is informatie: deze hoop is zoveel zandkorrels, zoveel scheppen zand. Vanuit de mathematische denkhouding staan we onverschillig tegenover die kwaliteiten en leggen er onze structuur aan op door aan te sluiten bij hoe de realiteit er ‘van buiten’ af uitziet.
“Only because modern physics is a physics that is essentially mathematical can it be experimental.” en “Experiment begins with laying down with a law as a basis”. (Heidegger, The Age of the World Picture, p. 121).
Experiment en technisch middel zijn twee kanten van dezelfde instelling: een geslaagd experiment resulteert in een bruikbaar middel: onder die en die condities verkrijgen we dit effect. “Hypothesis non fingo” (Newton), de wetten en mechanismen van de natuur zijn de wetten en mechanismen van de natuur.
Het kwantitatieve is de structureerbaarheid van onze ervaringswereld, een reëel principe. Die wereld kan op verschillende manieren door ons gestructureerd gedacht worden. We zien dat bijvoorbeeld terug in de vele klimaatmodellen die soms tot geheel verschillende toekomstverwachtingen aanleiding geven. Het wetenschappelijk model is de grondslag voor het technisch ingrijpen in de wereld.
Hoe gaan we met de andere dingen om?
Het mathematische denken houdt een specifieke benadering van de werkelijkheid in. Bij de mathematische denkhouding hoort een bepaalde objectivering van de werkelijkheid. De werkelijkheid is vanuit deze houding meetbaar, structureerbaar, (re)construeerbaar. Deze houding is afstandelijk, uitwendig en kenmerkt zich door een stricte scheiding tussen subject (het denkende subject) en object. Het is een houding waarop het beheersen berust van alles wat zo beschouwd wordt. Dat beheersen dient de vooruitgang, de economischegroei, de kolonisatie, de militaire macht, technologisch prestige.
De technicus moet behalve theoreticus ook praktisch zijn, maar kenmerkend voor de technische houding is het afstand nemen tot de praktijk. Daarbij wordt afgezien van de eigen waarde van de dingen om de aandacht te richten op het structurele, het functionele aspect. Het gaat er in de techniek om een abstract bedacht concept te construeren dat te verwerkelijken is. Het concept staat daarbij buiten het proces van verwerkelijking en wordt door die verwerkelijking niet aangetast.
Het fascinerende van de programmeerbare, informatieverwerkende automaten en van de robot, is niet zozeer dat het bijzondere technische produkten zijn, maar dat ze representatie zijn van alle mogelijke techniek, van het technische idee als zodanig. Die technische idee is immers het realiseren van een abstract concept (ontwerp) tot een werkwijze die als realisatie van dat concept begrepen kan worden.
Idealiteit (denken) en realiteit (natuur) komen in het technische idee samen.
“Het mathematisch theoretisch structureren van de realiteit is haar technische beheersing van één kant bekeken, namelijk van de ideële kant. De technische beheersing is anderzijds het mathematisch structureren van de realiteit , maar nu van de praktische kant bekeken.” (Fleischhacker 1992, p. 31)
Hollak drukt deze twee kanten uit in de ‘technische idee’: de theoretische en de praktische kant die in de natuurbeheersing liggen, zijn niet van elkaar los te maken. Door de wereld op een bepaalde manier te begrijpen, gaan we ook al op een bepaalde manier met de natuur om en andersom: in de wijze waarop we met de dingen omgaan ligt een manier besloten waarop we de dingen begrijpen.
Om de computer te laten denken, moeten we eerst het denken zelf in rekenen hebben omgezet. Een technische concept (ontwerp) berust op een logische redenering: ‘als ik de werkelijkheid zo en zo inricht, als ik deze zo en zo construeer, dan werkt het zoals ik het wil.‘ Die logische redenering gaat over construeerbare toedrachten, Het gaat dus over structureerbaarheid van iets. In de mathematische logica wordt op theoretische wijze uitgedrukt wat in de informatietechnologie praktisch wordt gerealiseerd: de structureerbaarheid van het mathematische denken zelf. De informatietechnologie is de zelf-reflectie van de technische idee: de grondslag van deze techniek is het inzicht in de technische idee, de verwerkelijking van een abstracte verstandsvorm tot een werkend systeem.
De mathematische, technische denkhouding is afstandelijk, onbetrokken, a-moreel. De groeiende belangstelling voor ethische vragen is een reaktie op de overheersende mathematische denkhouding in de moderne westerse cultuur. De ‘Machine Question’ is de vraag naar de onoverbrugbare kloof tussen het mathematische, technische enerzijds en het morele aspect van het handelen anderzijds. De machine, deze objectivering van het technische denken, wordt weer als subject gedacht. Wat hier wordt vergeten is dat de zelfstandigheid van de machine een relatieve zelfstandigheid is: ze is realisatie van een ontwerp door de mens bedacht, het is weergave van een technisch idee. Zonder die relatie tot de mens, voor wie de werking betekenis heeft, is de machine slechts een fysisch (natuurlijk) gebeuren.
De Machine Question (Gunkel) botst tegen de grenzen van het wetenschappelijk denken en het wereld- en mensbeeld dat impliciet in onze cultuur aanwezig is. De vraag betreft de relatie tussen het technische (instrumentele) en het ethische (morele) aspect van het handelen. De term ‘goed’ heeft zowel een technische als een morele betekenis. Het eerste goed betreft de relatie met het doel, het nuttige. Het tweede betreft de relatie tot de waarden: het betreft ‘de goede wil’ (Kant). Door het zedelijk of morele bewustzijn kan de mens de sfeer van de materiële behoeften overstijgen en rekening houden met de vrijheid en eigen waarde van de dingen (natuur, andere mensen, eigendommen) waarmee hij omgaat.
Gunkel en veel andere ethici van de techniek beschouwen de machine, de robot, vanuit de wijze waarop de gebruiker deze op basis van hun beleving als gebruiker denken, namelijk als iets zelfstandigs dat hun ter beschikking staat en dat buiten het gebruik ervan als iets zelfstandigs zou bestaan. Ze zien in de robot een persoon omdat deze dingen doet die ze als iets van mensen herkennen. Zo lijkt de machine de taal van de mens te spreken. De ontwerper laat zich echter niet bedotten omdat hij weet dat de machine gemaakt is zodat de gebruiker denkt met een echte spreker van doen te hebben. Voor de ontwerper is de machine de uitwendige objectivatie van zijn eigen technische ontwerp-houding. Als de gebruiker op een humane manier met zijn robot omgaat is dat omdat hij daarin iets humaans ziet. Het is dus de idee van humaniteit die zijn omgaan met het ding bepaalt. Dit idee wordt als het ware getriggerd door de wijze waarop het ding zich aan de gebruiker presenteert. De Machine Question zegt ons dat de ‘fragmentarische omgang’ met de robot als gebruiker geen onwankelbare basis biedt voor de ‘morele status’ van de robot. Als ontwerper weten we van de onoverbrugbare kloof tussen technologie en moraliteit.
In de wijze waarop we met de dingen omgaan zien we direct hoe het staat met de moraliteit. Dit zien is niet een theoretisch, wetenschappelijk zien. Het is een waardevoelend zien. In het morele handelen toont zich het morele, zedelijke bewustzijn. Als kennen wetenschappelijk kennen is, kennen dat in mathematische modellen kan worden uitgedrukt, dan is het kennen dat we in onze praktische morele omgang met de dingen uitoefenen geen werkelijk kennen. Maar is dat niet ook een vorm van kennen?
Kennend weten we wat kennen is. Kennen is het expliciteren van wat we al impliciet weten, wat iets is. Kennen en zijn zijn onlosmakelijk met elkaar verbonden. Descartes stelde ze tegenover elkaar, als denkend subject en gedacht object. Dat stricte onderscheid beheerst het mathematische denken, waarin de kenner buiten het gekende staat.
Gebruiken we de dingen en zien we alleen structuren en functies, of hebben we oog voor de eigen waarde van de dingen? De mathematische houding is afstandelijk en ziet af van de eigen kwaliteit, de eigen waarde van de dingen. In de praktijk komt het neer op de omgang met de dingen, rekening houdend met de eigen waarde van de natuur. De eigen waarde van het instrument ontleent het ding aan de mens voor wie het instrument is.
De kritiek die Gunkel in navolging van o.a. Derrida heeft op de ‘binaire opposities’ van de (klassieke) metafysica richt zich op een bijzondere historische eigentijdse vorm van metafysica, de mathematische metafysica (Descartes, Leibnitz, Hume, Kant) die de basis vormt voor het mathematisch wetenschappelijk denken van de moderne westerse cultuur. De Machine Question kan niet binnen deze metafysica beantwoord worden omdat het mathematische altijd al afziet van de moraliteit, de eigen waarde van de dingen. Die eigen waarde is niet iets dat je theoretisch achteraf aan de dingen kunt toekennen. De term ‘moral status ascription’ (Coeckelbergh) verwijst naar deze denkhouding.
Begrip en werkelijkheid moeten in relatie tot elkaar begrepen worden. Dat is de les die we van Hegel kunnen leren. Je hebt niet eerst een werkelijkheid die vervolgens nog eens gekend wordt.
“Nur innerhalb des Begriffs gibt es etwas das ausserhalb des Begriffes existiert.” (Bruno Liebrucks, Sprache und Bewusstsein, 1964-1968).
Het unieke van het mathematische kennen is dat wat daarin gekend wordt binnen deze ken-relatie het tegengestelde is van het kennen zelf, namelijk pure uitwendigheid. Het mathematische kennen kan daarom geen rekenschap afleggen van zichzelf: het kan slechts kennis van zijn tegendeel tot stand brengen. Zelfreflectie van de wiskunde is dan ook altijd slechts uitwendig en leidt tot contradicties via diagonaalconstructies, zoals in de Russel-paradox.
We hebben de neiging morele kwesties op een technische wijze te benaderen. We denken dat we door regels voor gedrag op te stellen, moreel gedrag af kunnen dwingen. Het probleem van de ‘handhaving’ is dat regels en wetgeving niet genoeg zijn. Er moet een macht zijn (politie, ordebewaarders) die afdwingt dat de regels worden nageleefd. Dit is een teken van deze technische afstandelijke benadering, die gebaseerd is op een beheers- en fysieke machtsrelatie. Het blijkt echter dat wat we zien dat anderen doen een veel grotere invloed heeft op ons gedrag dan de formele voorschriften. Regels hebben geen zin wanneer we niet uit kunnen gaan van het bestaan van een moreel bewustzijn, dat rekening houdt met de eigen waarde (vrijheid) van de dingen waarmee we omgaan.
Over de dood van de auteur
In zijn post “The Future of Writing Is a Lot Like Hip-Hop” in The Atlantic of 9 may 2023 brengt Stephen Marche rapport uit van zijn ervaringen met het in cooperatie met ChatGPT schrijven van hun essay Death of an Author. In dat rapport geeft hij commentaar op de manier waarop gebruikers ChatGPT opdrachten geven. “Quite quickly, I figured out that if you want an AI to imitate Raymond Chandler, the last thing you should do is ask it to write like Raymond Chandler.” Why not? Because “Raymond Chandler, after all, was not trying to write like Raymond Chandler.”
Dit verwijst naar een kerninzicht in wat AI is en waarom het niet menselijk is. AI gedraagt zich namelijk als mensen. AI berust op een reconstructie, een model van gedrag. Maar mensen proberen zich niet te gedragen zoals mensen zich gedragen. Mensen gedragen zichzelf niet ‘als mensen’. De mens verhoudt zich als subject tot zichzelf als mens in zijn gedrag. Wie het gedrag niet ziet als uiting van deze relatie tot zichzelf die neemt de toevallige buitenkant voor het wezen van het gedrag.
Wat ik bedoel is dat we de reconstructie als reconstructie moeten zien en niet als het orgineel. Het origineel als origineel verdwijnt namelijk in en door de formalisering, door de reconstructie. De mens is geen ‘sociale agent’. Dan zouden we de mens vereenzelvigen met een bepaalde historische vorm ervan. Dat is de kern van de discussie over allerlei vormen van bias (gender, culture) van open AI systemen zoals ChatGPT. Het trainingsmateriaal is historisch materiaal en als zodanig is het biased! Daarom wijst deze technologie de mens indirect op zijn historiciteit.
Veel oorlogen en andere conflicten in de wereld zouden verdwijnen als mensen zich bewust werden, en naar dit bewustzijn leefden, dat hun meningen bepaald zijn door hun toevallige persoonlijke verleden, hun geboorteplaats, de rituele, historische verhalen die hun identiteit en geschiedenis bepalen.
Over ‘taalgebruik’ en ChatGPT:
De taal louter functioneel, als instrument, zien en het verwoordingskarakter van de taal uit het zicht verliezen, dat is kenmerkend voor de idee die ten grondslag ligt aan die opvattingen die de AI machine in de vorm van ChatGPT zien als een werkelijk intelligente, denkende machine, een machine die bewustzijn zou hebben. Het motief is dat ze immers taal gebruiken en de taal bij de mens de uitdrukking is van het denken als denken. Maar de machine ‘gebruikt taal’ niet zoals de mens taal ‘gebruikt’. De mens tracht de werkelijkheid zoals hij deze ervaart te verwoorden. Machines kunnen dat niet. Ze zijn weerslag van het historische produkt van die pogingen tot verwoording, zonder dat historische in ogenschouw te nemen, en als historisch te begrijpen.
Argyle, Michael (1967/1994). The Psychology of Interpersonal Behaviour. Fifth Edition. Penguin Books, 1994.
Een belangrijke toepassing van Argyles nieuwe ‘model of social interaction’ is ‘social skill training’. In de Epiloog van het boek bespreekt Argyle ‘mogelijke gevaren van deze nieuwe wetenschap’. “It is possible that, when people become trained to interact better, their behaviour may become contrived and insincere, more like acting.” Dit zien we inderdaad bij veel publieke optredens van politici, de media-training lekt door hun slechte akteer-talenten heen.
“How exactly does one love one’s neighbour, or treat people as ends in themselves?” en: “How can we love our enemies?” (antwoord: “try to see their point of view.”) zijn vragen die Argyle opwerpt. (p. 313-314)
Barendse, B.A.M, 1951. Intersubjectief verkeer en lichamelijkheid. In: Zich door het leven heen denken: keuze uit het werk van prof.dr. B.A.M. Barendse. Kok, Kampen.
Aristoteles onderscheidde in zijn Categorieën vier types oppositie: contradictief, privatief, contrair en relatief. De oppositie tussen correlatieven is relatief, zoals deel-geheel. Volgens Fleischhacker was Barendse de eerste die de klassieke doctrine van de relatieve oppositie toepaste op de menselijke intersubjectiviteit. Barendse verwijst naar Thomas van Aquino Ia qu 28, a.3. Barendse heeft een aantal Nederlandse filosofen, o.a. Jan Hollak en Th. van Velthoven beïnvloedt.
Abebe Birhane and Jelle van Dijk (2020). Robot Rights? Let’s talk about human welfare instead. In: AIES ‘20: Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 207–213. New York: ACM. https://doi.org/10.1145/3375627.3375855
Birhane en Van Dijk zijn van mening dat de dicussie over rechten van robots filosofische onderonsjes zijn die de aandacht afleiden van de morele problemen die met de robotisering gepaard gaan. Robots zijn artifacten, geen zaken waaraan rechten gekoppeld zijn. Het zou moeten gaan over de praktijk waarin ze gebruikt worden. Robots zijn ook geen slaven, zoals Bryson beweert, want slaven zijn mensen die niet als vrije mens, maar als bezit, worden gezien en robots zijn geen mensen.
“Our starting point is not to deny robots ‘rights’, but to deny that robots are the kinds of beings that could be granted or denied rights.”
“Our position is that the entire discussion is completely misguided. At best, robot ethics debates are FirstWorld philosophical musings, too disengaged from actual affairs of humans in the real world. In the worst case, it may contain bad faith the white, male academic’s diminutive characterization of actually oppressed people and their fight for rights, by appealing to ‘reason’.”
David J. Chalmers (2023). Could a large language model be conscious? Within the next decade, we may well have systems that are serious candidates for consciousness. Boston Review, 9 Augustus 2023.
Mark Coeckelbergh (2012), Growing moral Relations: critique of moral status ascription. Palgrave MacMillan, 2012.
Coeckelbergh wijst erop dat de moraliteit een aspect is van de relatie die we met de dingen hebben. Deze ‘dynamische morele relatie’ groeit met het groeien van de relatie tussen subjecten.
Mark Coeckelbergh (2014). The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. (2014) 27:61–77.
Mark Coeckelbergh (2018). Why Care About Robots? Empathy, Moral Standing, and the Language of Suffering. Kairos. Journal of Philosophy & Science 20, 2018 Center for the Philosophy of Sciences of Lisbon University
Coeckelbergh, M., and Gunkel, D. 2023. ‘ChatGPT: Deconstructing the Debate and Moving It Forward‘ in AI & Society. Online first 21 June 2023.
“Broadly speaking, deconstruction means here in this paper that one questions the underlying philosophical assumptions and core concepts, rather than merely engaging with the existing arguments.” (Coeckelbergh en Gunkel, 2023).
Over weten en geloven
“Diegene moet voor wetend gehouden worden die weet dat hij niet weet” laat Cusanus de gelovige zeggen in zijn Dialoog over de Verborgen God.
Geloof is gebaseerd op een inzicht, een receptiviteit, waardevol en onmisbaar voor ware kennis. Het is typische modern wetenschappelijk om te denken dat kennis te danken is aan onze verstandelijke constructies. Het receptieve moment van het weten is in vergetelheid geraakt.
“Like most of us, I do not believe that algorithms and models are conscious entities and doubt that machines could ever be sentient or conscious. When it comes to my personal opinion, I agree. Machines are just machines, things.”
Zo geeft de filosoof Mark Coeckelbergh toe. Maar, zegt Coeckelbergh, dat is wat ik geloof. Het is geen wetenschappelijk inzicht. De ongemakkelijke waarheid is dat we het gewoon niet weten.
Maar ook een geloof is niet noodzakelijk gespeend van inzicht.
In 1444 begint Cusanus zijn ‘Dialoog over de verborgen God’ met de woorden: “Omdat ik niet weet, aanbid ik.”
Dat waren andere tijden. Hoewel …
Kardinaal en filosoof Nicolaus von Kues (Cusanus 1401-1464) is misschien wel de eerste die het nieuwe kentheoretische perspectief van de verlichte mens onder woorden heeft gebracht. De menselijke geest kan door een symbolische stelsel van begrippen weliswaar niet tot het wezen der dingen doordringen, maar het wel steeds beter benaderen. Dit benaderingsproces is bevordelijk voor de houding van de docta ignorantia, de geleerde onwetendheid. In het besef dat we niet de illusie moeten koesteren ooit de oneindigheid van de schepping en de Schepper te kunnen doorzien zijn we in dit proces van benadering zinvol daarop betrokken. (zie Fleischhacker, 1995).
Maarten Coolen (1992). De machine voorbij: over het zelfbegrip van de mens in het tijdperk van de informatietechniek. Boom Meppel, Amsterdam, 1992.
Coolen benadrukt het belangrijke onderscheid tussen het technische en het economische aspect aan het handelen. Het technische betreft het ontworpen doelmatige middel-karakter van het handelen. Een ding is een technisch instrument voorzover we het zien als een bruikbare realisatie van een abstract bedacht ontwerp. De techniek stelt de dingen beschikbaar. Het economische betreft het gebruik van de beschikbare dingen door de mens ten behoeve van de bevrediging van zijn behoeften. In het gebruik vindt de techniek haar voltooiing.
In hoofdstuk 15, Vragen voorbij autonomie en zelfreflectie analyseert Coolen de betekenis van de historiciteit van de mens. De historicus moet de begrippen die deze hanteert ‘historiseren’, dat wil zeggen ze inbedden in de context van de eigen tijd, de tijd waarin de begrippen betrokken zijn, niet op de hedendaagse inkleuring van het begrip. (zie ook Beatrice de Graaf, Tegen de Terreur, p. 23-24). De historische wetenschappen komen volgens Coolen niet toe aan de vraag wat de historische dimensie van het bestaan van de mens uitmaakt. Ook teleologische opvattingen van de geschiedenis (Whigs history) doen geen recht aan de historiciteit. De mens moet zijn historiciteit positief willen. Coolen legt dit uit aan de hand van de milieuproblematiek en onze verhouding tot de natuur.
“Wil de mens ook in relatie tot de natuur zijn historiciteit als zodanig verwerkelijken, dan moet hij in het heden een beleving van de waarde en de eigenheid van de natuur kunnen vinden die de grondslag vormt voor zijn omgang ermee.” Een voor altijd geldende milieunorm, zoals volgens het ‘overdrachtsprincipe’ wordt aangenomen, is een illusie. Ons handelen nu moet niet bepaald worden door een voor eens en altijd vastgelegd toekomstbeeld.
Maarten Coolen (1987). Philosophical Anthropology and the Problem of Responsibility in Technology. In P. T. Durbin (Ed.), Philosophy and Technology, Vol. 3: Technology and Responsibility (pp. 41-65). Dordrecht: Reidel.
“Information technology must be conceived of as the objectification of the modern self-concept of man as an autonomous being.”
Nicolai de Cusa (Cusanus) (1444/1980). Dialogus de deo abscondito. Dialoog over de verborgen God. Nikolaus van Kues. Inleiding en vertaling van Theo van Velthoven. Uitgave van Richard Tummers boekverkoper, Oudemanhuispoort Amsterdam, 1980.
Een dialoog tussen een christen en een heiden bestaande uit 15 alinea’s. In alinea 14 is de christen aan het woord. Hij geeft antwoord op de vraag van de heiden: “Waarom noemen jullie hem ‘God’ terwijl jullie zijn naam niet kennen?” Het antwoord luidt:
De naam ‘deus’ (God) komt van ‘theoro’, wat betekent ‘ik zie’. Want God is in de wereld zoals het zien in de wereld van de kleur. De kleur kan slechts waargenomen worden door het zien: en om elke kleur ongehinderd te kunnen waarnemen, is het centrum van het zien vrij van kleur. In de wereld van de kleur is dus het zien niet te vinden, omdat het vrij is van kleur. Vandaar is vanuit de wereld van de kleur het zien eerder niets dan iets. Want de wereld van de kleur bereikt buiten haar eigen wereld geen zijn, maar ze beweert, dat alles wat is, zich binnen haar wereld bevindt. Daar treft ze het zien niet aan. Het zien, dat zonder kleur bestaat, is onnoembaar voor de wereld van de kleur, omdat geen enkele kleurnaam er op van toepassing is. Het zien heeft aan elke kleur haar naam gegeven door te onderscheiden. Vandaar hangt van het zien elk naamgeving af in de wereld van de kleur, maar zijn eigen naam, waarvan iedere naam stamt, wordt eerder als niets dan als iets opgevat. God verhoudt zich dus zo tot alles als het zien tot het zichtbare.
‘Eo igitur deus se habet ad omnia sicut visus ad visibilia’
Louk Fleischhacker (1991). Syllabus Wijsbegeerte van het Wiskundig Denken en van de Informatietechnologie. Universiteit Twente, Faculteit WMW, vakgroep Systematische Wijsbegeerte, 1991.
Louk Fleischhacker (1993), `Het mathematisch ideaal’ in: De Uil van Minerva, Gent 1993, pp. 165-180.
Het moderne ideaalbeeld van een vrij zijn wereld construerend autonoom subject en dat van een structureerbare, mathematiseerbare wereld hangen nauw met elkaar samen.
De moderne objectiviteitsvorm is die van het mathematische object, resultaat van een objectiverende allesdoordringende mathematische denkhouding.
“Het humanistische ideaal van de menselijke zelfstandigheid in relatie tot de natuur en de maatschappelijke traditie wordt veelal in verband gebracht met de filosofische idee van de menselijke geest als autonoom subject. In onze tijd wordt deze idee van vele zijden onder kritiek gesteld. Daarbij wordt echter over het hoofd gezien dat met deze idee ook een zekere visie op de tegenover de subjectiviteit gestelde objectieve wereld correspondeert. Het gevolg is, dat de kritiek op de autonomie-idee zich des te steviger nestelt in de juist met die idee overeenkomende, even eenzijdige, objectiviteitsvorm: die van een structureerbare wereld. Deze objectiviteitsvorm is vooral in de toenemende mathematisering van de natuurwetenschappen en van de techniek tot ontwikkeling gekomen. De invloed ervan strekt zich echter heden ten dage tot het gehele menselijke denken uit. In het volgende zal ik naar voren brengen dat het ideaalbeeld van een vrij zijn wereld construerend subject en dat van een structureerbare, mathematiseerbare wereld nauw met elkaar samenhangen. De eenzijdigheid van deze ideaalbeelden zal blijken te zijn, dat ze de intuïtieve ontvankelijkheid die aan hun verwerkelijking ten grondslag moest blijven liggen in toenemende mate aan de aandacht onttrekken.”
Het autonoom kennend subject “staat in beginsel buiten de wereld die het kent, wordt er niet door beïnvloed buiten zijn weten om, drijft niet op de sociale en psychische stroom van zijn tijd mee en is niet gevangen in een ongeweten symbolische orde.”
Het autonoom kennend subject staat tegenover een wereld die maximaal objectiveerbaar is, uitwendig, niet slechts aan het kennend subject, maar ook aan zijn eigen onmiddellijke verschijningsvorm.
Zo’n wereld is analyseerbaar en structureerbaar, primair kwantitatief, dat is: structureel, en haar kwalitatieve verschijningsvorm moet als mogelijke schijn gewantrouwd worden.
Fleischhacker, Louk E. (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.
“The enterprise, of which this book is a report, consists of an attempt towards a systematic ‘deconstruction’ of mathematism.”
Over de term deconstructie:
Bij Derrida wijst ‘deconstructie’ op de poging de context-afhankelijke geschiedenis van de filosofische teksten te tonen. Deze teksten worden beschouwd als de sporen van gedachtenconstructies veeleer dan als de namen van transcendentale principes. De deconstructie van een denkwijze komt dus neer op het laten zien hoe deze tot stand is gekomen. (Fleischhacker, Beyond Structure, noot op pagina 17).
Goffman, Erving (1967). Interaction Rituals: essays on face-to-face behavior. 1967.
De taal- en performance-socioloog Goffman (bekend van The presentation of self in everyday life) definieert hierin het onderwerp van de Interaction Analysis: de ‘tiny behaviors’ die mensen ‘tonen’ tijdens een ontmoeting met de ander. Zoals het wegkijkgedrag, het ophalen van de schouders, het knipperen met de ogen, het liften van een wenkbrouw. Maar ook de rituele verbale gedragingen. Het zijn deze algemene dagelijkse gedragingen die geobjectiveerd worden en op zich gesteld, in abstraktie van de persoon die ‘dit gedrag toont’. Het gaat om de ‘moments, not the man’. Deze behaviors, ‘social signals’, zouden later worden overgeplant op de sociale robot.
Erving Goffmans sociologische studies On Face-work hebben als onderwerp ‘face’ (denk aan ons ‘gezichtsverlies’) ‘politeness’, respect voor de ander in sociale interactie, en gaan over hoe je een morele ‘agent’ kunt maken zo dat deze kan deelnemen aan het sociale verkeer. Terugkijkend zien we hier ‘voorstudies’ voor het maken van de sociale robots.
Gunkel, David J. (2007). Thinking otherwise – philosophy, communication, technology. Purdue University Press / West Lafayette, Indiana, 2007.
“The Machine Question” asks about the moral status of those other forms of otherness, most notably the animal and the machine, which have been, even in Levinas’s own work, systematically excluded from the rank and file of ethics. An example might help to illustrate this rather abstract characterization. In a now well-known and often reproduced New Yorker cartoon by Peter Steiner, two dogs sit in front of an Internet-connected PC (personal computer).” (zie het plaatje)
“On the Internet, nobody knows you’re a dog.” (source: wikipedia)
Wat de cartoon zegt is volgens Gunkel niet zozeer dat de gebruiker van sociale media anoniem kan blijven en zich kan voordoen als wie dan ook, maar dat de gebruiker zonder meer aanneemt dat hij met een ander mens te maken heeft, een persoon die zich eventueel verbergt achter een of andere gekozen representatie.
“What the cartoon demonstrates is not the anonymity and indeterminacy of others in ICT but the unquestioned assumption that despite this anonymity, users assume that the other with whom they interact online is another human. The other who confronts us in cyberspace is always, it is assumed, another human being, like ourselves.”
Als lezer van een zinvolle tekst nemen we aan dat deze door een mens is geschreven met een bepaalde bedoeling. Met het bestaan van ChatGPT is dat echter maar de vraag. Teksten zijn opzichzelf staande objecten die gerepoduceerd kunnen worden, zoals iedere technische constructie.
Gunkel, David J. (2023). Person, Thing, Robot – A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.
Een disclaimer van de auteur:
“You have perhaps come to this book wanting answers to what seemed to be important and timely questions: Are robots just things? Can they be persons? Or should they be characterized and understood as something like a slave, occupying an in-between position that is both/and? And rather than answering these questions with a simple “yes” or “no” and taking sides in the existing disputes, the book has identified, documented, and questioned the standard operating presumptions and shared values of the debate itself. So instead of answering the questions and providing the analysis with some sense of finality or closure, we appear to be caught in a kind of proliferation of inquiry,…” (p.178)
Waar het eigenlijk over gaat:
“Ultimately, then, this is not really about robots, AI systems, and other artifacts. It is about us. It is about the moral and legal institutions that we have fabricated to make sense of Things.”
Over wat naamgeving met de dingen doet:
“The naming of things on the part of language, is anything but a neutral act: rather it has the character of a violent intrusion.” (Esposito). Naming therefore is not a nominal operation. The linguistic sign, despite initial appearances, is not just some neutral tool or instrument that represents things as they really are. Instead, language violates and domesticates things. It discloses and shapes the objective reality that we assume it merely represents.” (p. 164).
Heidegger, Martin (1977). The Question Concerning Technology and Other Essays. Trans. William Lovitt. New York: Harper & Row (1977).
“The essence of technology is by no means anything technological.”
In The origin of the Work of Art zegt Heidegger over “the mere thing”. “The ‘mere’, afterall, means the removal of the character of the usefullness and of being made.” (p. 30).
Heidegger, Martin (1962/1975). Die Frage nach dem Ding. (1. Auflage 1962) Max Niemeyer Verlag Tübingen 1975.
Over het mathematische karakter van de moderne metafysica:
De grondtrek van de moderne wetenschap is de arbeidzame omgang (“Arbeitsumgang’) met de dingen en het metafysische ontwerp van de dingheid van de dingen. Hoe moeten we deze grondtrek verstaan? (p. 52)
“Wir brengen diesen gesuchten Grundcharakter der neuzeitlichen Wissenhaltung auf einen Titel, wenn wir sagen: Der neue Wissensanspruch ist der mathematische. Von Kant stammt der oft angeführte, aber noch wenig begriffende Satz: “Ich behaupte aber, dass in jeder besondere Naturlehre nur so viel eigentliche Wissenschaft angetroffen werden könne, als darin Mathematik anzutreffen ist” (Kant, Vorrede zu “Metaphysisiche Anfangsgründe der Naturwissenschaft“).” (p. 52)
Heidegger stelt de belangrijke vraag:
“Welcher Art ist die Entstehung der neuzeitlichen Metaphysik aus dem Geiste des Mathematischen? ”
Hollak, J.H.A. (1968). Betrachtungen über das Wesen der heutigen technik. Kerygma und Mythos VI Band III, Theologische Forschung 44, 1968, Hamburg, Evangelischer Verlag, pp 50-73. Dit is de vertaling van het Italiaanse artikel (Hollak 1964) Ook opgenomen in de bundel Denken als bestaan, het werk van Jan Hollak (Hollak en Platvoet, 2010).
Hollak, J.H.A. (1964). Considerazioni sulla natural della tecnica odierna, l’uomo e la cirbernetica nel quadro delle filosofia sociologica, Tecnica e casistica, Archivo di filosofia, 1/2, Padova, 1964 pp. 121-146, discussie pp 147-152.
Hollak, Jan en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de beroemde inaugurele rede Van Causa sui tot Automatie is hierin opgenomen.
Volgens Hollak wordt alles tegenwoordig functioneel opgevat. “Het aanvaarden van een feitelijke toedracht is er niet meer bij.” (p. 436). Alles wat we kunnen observeren is maar zo onder bepaalde condities en hypothesen, die we zo weer kunnen veranderen. Feiten zijn functie-waarden van bepaalde aannames. Ook het tegendeel van een feitelijke toedracht wordt als mogelijkheid gezien. Terwijl als het een feit is dat vandaag de zon is opgegaan het toch niet meer zo kan zijn dat deze niet is opgegaan.
Ook al onze ‘leefverhoudingen’ worden volgens Hollak door de moderne wetenschap tot puur hypothetische, logisch mogelijke ietsen gemaakt.
Levinas, E (1951). L’ontologie est-elle fondamentale? In: Revue de Métaphysique et de Morale 56 (1951) 88-98.
“Kunnen de dingen een gelaat krijgen? Is de kunst niet een aktiviteit die de dingen een gezicht verleent?” Deze vraag stelt Levinas in zijn opstel “Is de ontologie fundamenteel?” Geheel in de geest van Levinas moet het antwoord ontkennend zijn. Want wie kan de dingen die van zichzelf geen gelaat hebben een gelaat geven? Het gelaat is niet iets dat na de ontmoeting met de ander aan ons verschijnt. Een gelaat geef je niet. Alsof we daar de macht toe hadden! Het gelaat betekent de weerstand tegen de macht van de technologie, die de dingen een gezicht wil verlenen ten behoeve van het functioneren van het bedrog. Want zonder de suggestie iets voor de mens te betekenen werkt de machine niet.
D.M. De Petter o.p., mag. dr. (1964). Begrip en werkelijkheid – aan de overzijde van het conceptualisme. Paul Brand, Hilversum/Antwerpen, 1964. Een bundel artikelen van De Petter.
Hierin opgenomen: Persoon en personalisering: het persoon-zijn onder thomistisch-metafysische belichting.
“Bij alle stoffelijke wezens buiten de mens, ook bij planten en dieren, staat de activiteit in het teken van een wezenlijke relativiteit.” Het principe van de activiteit ligt niet bij deze wezens zelf maar is hen in zekere zin vreemd, het determineert hun in hun actief optreden als het ware van buiten af. Bij de persoon is de activiteit van het zijnde zelf. Het woord zelf kan in eigenlijke zin niet van de dingen gezegd worden. Een dier is geen persoon. De Petter beschouwt de lagere zijnden vanuit de hogere.
D.M. De Petter o.p. mag. dr. (1964). Het metafysisich karakter van het Godsbewijs en het hedendaagse denken. In de bundel Begrip en werkelijkheid (1964).
Sacks, Harvey; Schegloff, Emanuel A.; Jefferson, Gail (1974). A Simplest Systematics for the Organization of Turn-Taking for Conversation. Language. 50 (4): 696–735.
Over de context-vrije organisatie van het gesprek dat bestaat uit bijdragen in beurten die volgens bepaalde regels worden afgewisseld.
Yngve, Victor (1970), On getting a word in edgewise. Computational Linguistics Symposium 1970, pp 567-577, University of Chicago.
Yngve (MIT) ontdekte backchanneling (hmm, yeah,…) en turn-taking-gedrag in conversaties.
