“Die Welt ist die Gesamtheit der Tatsachen, nicht der Dinge.” (Wittgenstein, Tractatus)
“Pain, in particular, gives us the most compelling awareness of the power or force of reality.” (Hermann Helmholtz, The Facts of Perception, 1878)
Hoe weten we dat iemand pijn heeft?
Deze vraag is weer aktueel nu er sprake is van ‘kunstmatige intelligentie met gevoel of bewustzijn’, ‘sentient AI‘. Het vermogen pijn te ervaren wordt door sommigen gezien als een noodzakelijke voorwaarde waaraan een (sociale) robot moet voldoen opdat het zinvol is daaraan een morele of juridische status toe te kennen. Hoe kan iemand die niet weet wat het is om pijn te hebben enig moreel besef hebben? Hoe kun je iemand bestraffen die geen pijn kan ervaren?
In hun review vonden Harris and Anthis (2021) dat ‘sentience’ één van de meest genoemde criteria is om te bepalen of aan AI een morele status kan of moet worden toegekend. Met als gevolg, in zover de basis voor het toekennen van een legale status gebaseerd is op het hebben van een zekere morele status, dat sentient AI in aanmerking zou kunnen komen voor een juridische status (als juridisch ‘persoon’).
Uit recent veldonderzoek van Martinez and Winter (2021) blijkt dat de meeste mensen vinden dat de techniek nog niet zo ver is. Ongeveer een derde van de ondervraagden meenden dat ‘sentient AI’ (voorzover het bestaat) wettelijke status zou moeten hebben en dat een systeem met gevoelige AI als digitale persoon zou moeten worden beschouwd. Binnen de Europese Unie is de kwestie of we aan AI de juridische status van een persoon moeten toekennen omstreden. Daarbij speelt ook de kwestie of het hebben van bewustzijn en het hebben van gevoel voorwaarden zijn voor de morele status en juridische status van een entiteit. Zie voor een recent overzicht over het debat met betrekking tot de morele en legale status van robots en andere humanoïde artefacten die vanwege hun uiterlijke vorm of gedrag iets menselijks hebben (Schröder 2021).
De vraag “hoe weten we of een ‘intelligente sociale robot’ pijn heeft?” roept opnieuw de vraag op “hoe weten we of een ander, een soortgenoot van ons, pijn heeft?”
De dagelijkse ervaring leert ons dat de zintuiglijke ‘gevoeligheid’, en in het bijzonder de pijnbeleving per individu nogal kan verschillen. Deze hangt af van de aandacht voor en de betekenis van de situatie. (Buijtendijk, Prolegomena van een antropologische fysiologie, Spectrum, 1965). Maar dan gaat het over de eigen pijn beleving. Hoe weten we dat de ander pijn heeft?
Dat iemand zegt dat hij pijn heeft is geen voldoende bewijs dat hij ook pijn heeft. Maar wat kan ons daarvan dan wel overtuigen? Zijn het specifieke waarneembare tekens die ons doen vermoeden of concluderen dat iemand pijn heeft?
De Britse filosoof John L. Wisdom schreef over deze en aanverwante vragen een serie artikelen (het eerste in 1940) later verzameld in zijn boek Other Minds. De algemene vraag is hoe we op grond van uiterlijke tekens kunnen besluiten wat er ‘in iemand omgaat‘. De scepticus zegt: “dat kunnen we niet. Ik vraag me wel eens af of andere mensen geen automaten zijn.” Waarbij ‘automaat’ zijn staat voor iets waar niets in om gaat; iets dat slechts buitenkant is. Met de term ‘uiterlijk teken’ moeten we oppassen. Het van pijn vertrokken gezicht is iets anders dan een gezichtsuitdrukking van iemand die doet alsof hij pijn heeft. De pijn is onwillekeurig, zoals het krampachtig samentrekken van de spieren.
Onlangs werd in hoger beroep beslist dat Dier&Recht in het kader van een publiekscampagne gericht tegen consumptie van zuivel niet als feit mag presenteren dat het weghalen van kalveren bij de moeder direct bij de geboorte ernstig dierenleed veroorzaakt. Uit onderzoek blijkt onvoldoende steun voor de bewering dat het weghalen van het kalf bij de moederkoe ernstig leed veroorzaakt. Oordeelt de rechter. Wat de vraag opwerpt of onderzoek (en welk onderzoek) aan kan tonen dat een dergelijk verband er w`el is. Nu is pijn nog niet altijd ‘ernstig leed’, maar er is geen wezenlijk verschil. Pijn hebben is lijden. En dat dieren pijn kunnen ervaren is wel zeker. Dat is een verworvenheid van onze cultuur.
Ik vermoed dat als we een ander als soortgenoot beschouwen dit impliceert dat we erkennen dat deze gevoelens heeft zoals wij. Dat betekent niet dat deze bij alle soortgenoten ook even sterk ontwikkeld zijn. Empathie is een vermogen dat aangeleerd moet worden. Maar zonder aanleg is niets aan te leren.
Academische kwesties zijn het. Raadsels. ‘Filosofische twijfels’ noemt Wisdom het. Maar deze Cambridge filosoof, een bewonderaar van Wittgenstein, is academicus genoeg om er vele pagina’s over vol te schrijven. Terwijl gewone mensen (‘ordinary people’) gewoon zien dat iemand pijn heeft en dan ook weten dat diegene pijn heeft. Ook al heeft vader ook wel eens het vermoeden dat het kind ‘zich een beetje aanstelt’. Maar dat het pijn heeft is ook dan zo goed als zeker. De vraag hoe de moeder weet dat haar kind pijn heeft komt niet bij de moeder op. Dat zie je toch! Zeker is in elk geval dat het kind pijn kan ervaren.
Wisdom benadert de vraag: ‘hoe weet ik dat iemand pijn heeft? door deze te vergelijken met vragen als: ‘hoe weet ik dat het water kookt?’, of ‘hoe weet ik dat er een feestje is bij de buren?’. We zeggen wel dat iemand ‘kookt van woede’. Maar een ketel water kookt niet van woede.
Je weet niet dat je pijn voelt. Je hebt pijn. En daar is geen twijfel over mogelijk. Het verschil in weten betreft een verschil in wijze van zijn tussen een ketel die kookt en iemand die pijn heeft, of kookt van woede. Met een ketel kokend water hebben we een andere verhouding dan met een kind dat met zijn fietsje tegen de straat klettert en het op een brullen zet. Een ketel is niet een gevoelig iets, zoals wij dieren. Voor planten is het nog maar de vraag of deze gevoelig zijn. Het kruidje-roer-me-niet (waarvoor Descartes bijzondere interesse had omdat de Filosoof had beweerd dat planten geen gevoel hebben) lijkt weliswaar gevoel te hebben, waaraan het de naam sentient herb ontleent, maar of dit werkelijk zo is. Het blijft een lastige kwestie.
Every inch a gentleman, prijst de Oxford professor J.L. Austin in zijn artikel Other Minds Wisdoms bijdrage over de kwestie. Maar hij meent nog wel iets toe te kunnen voegen; een deel van het probleem ‘where it seems that a little more industry still might be of service.’ Austin spreekt de wens uit dat het om meer dan een detail gaat, maar daarvan is hij niet helemaal zeker, zegt hij.
Het lijkt een grammaticale kwestie, die Austin te berde brengt, maar dat is het zeker niet alleen. Er is nu eenmaal een intieme relatie tussen de grammatica van onze taal en de wijze waarop we onze relatie tot de werkelijkheid in de taal tot uitdrukking brengen. Daar is een soort van wisselwerking tussen: taal en onze verhouding tot de werkelijkheid beïnvloeden elkaar.
Quid of quod ?
Austin wijst in zijn kritiek op Wisdom op het verschil tussen het gebruik van ‘wat‘ in zinnen als “Ik weet wat hij voelt” en “Ik ruik wat hij ruikt.”. Met “Ik weet wat hij voelt” wordt niet bedoeld dat er iets is waarvan ik weet heb en dat hij voelt. Daarentegen is er bij “Ik ruik wat hij ruikt” wel iets dat zowel ik als hij ruikt.
Uitdrukkingen van Wisdom zoals “We kennen niet een ander zijn pijn op dezelfde manier als hij het kent” of “Hij kent zijn pijn op een manier zoals wij het niet kunnen.” zijn volgens Austin dan ook ‘barbaars’. De ander kent zijn pijn niet. We hebben de neiging ‘wat’ in grammaticale constructies van de vorm “weten wat” en “kennen wat” op te vatten als een relatief voornaamwoord. Maar in constructies als “hij weet wat hij voelt” en “ik weet wat ik voel” is ‘wat’ een vragend voornaamwoord.
Het verschil tussen beide komt volgens Austin tot uitdrukking in het latijn. In geval ‘wat’ vragend voornaamwoord is, wordt het latijn ‘quid’. In andere gevallen moet ‘wat’ vertaald worden als ‘quod’, ‘datgene wat’.
Het is dus: Ik ruik wat (datgene wat, dus: quod) hij ruikt. Maar: Ik weet wat (quid) hij ruikt. “Ik weet wat hij voelt” betekent ik weet het antwoord op de vraag: “Wat voelt hij?”
Het verschil komt aan de orde in een essay van de filosoof Harm Boukema over Wittgensteins Tractatus.
De aanhef van stelling 4.461 van de Tractatus luidt:
“Der Satz zeigt was er sagt…”
Hoe moeten we dit lezen? De argeloze lezer zou hieruit kunnen opmaken dat hiermee de ‘diepe kloof’ die in Wittgensteins Tractatus lijkt te bestaan tussen zeigen en sagen, tussen tonen (het blijkbare) enerzijds en zeggen (het zegbare) anderzijds overbrugd zou worden. Maar niets is minder waar, zo betoogt Harm Boukema in het essay “Over de grenzen van de reflexiviteit“. Het punt is dat het Duitse woordje ‘was’ hier vertaald moet worden als ‘quid’, en niet als ‘quod’.
Wittgenstein bedoelt dus niet dat er iets is dat getoond en gezegd wordt door de zin. Een uitspraak brengt ons iets aan het verstand, niet door iets te zeggen, maar door te laten zien wat het zegt. “Geen enkele uitspraak is in staat te zeggen wat (quid) ze zegt.” Daarom: de zin toont wat ze zegt. En niet: de zin toont datgene wat ze zegt. Het antwoord op de vraag “Wat zegt deze zin?” zou volgens Wittgenstein zijn: “Kijk dan!”
De stricte scheiding tussen sagen en zeigen bij Wittgensteins is het gevolg (of: teken) van zijn mathematische denkwijze, waarin de betekenis van taal bepaald wordt door het gebruik, een puur functionele kijk op taal. In de realiteit van het taalgebruik zijn beide momenten altijd aanwezig. In de techniek van de taalproducerende machines wordt de taal getoond om het zeggen te simuleren; een poging de oorspronkelijke eenheid te reconstrueren in het hoofd van de lezer. De taalproducerende machine suggereert een binnenkant (spreken) door middel van het tonen van de buitenkant van taal aan de hoorder of lezer. Het is alsof de machine spreekt.
Een visie op de werkelijkheid
Austin oppert een interessante verklaring voor het ‘onkritische gebruik’ van het direct object van kennen of weten in constructies van de vorm “knows what”. Hij brengt dit taalgebruik in verband met een bepaalde visie op de werkelijkheid, de visie namelijk alsof sense-data, dingen, kleuren, geluiden en de rest, van nature spreken, of anders gezegd: van nature voorzien zijn van een label, zodat ik letterlijk kan zeggen wat (datgene wat, quod) ik zie. Het lijkt alsof we de dingen herkennen, ze hebben al een naam. Wat het woord toont is wat deze betekent. Het is alsof de dingen zelf woorden zijn.
“It is as if sensa were literally to ‘announce termselves’ or to ‘identify themselves’, in the way we indicate when we say ‘It presently identified itself as a particluarly fine white rhinoceros’. But surely this is only a matter of speaking (…): sensa are dump, and only previous experience enables us to identy them.” (Austin, p. 97)
Het is de visie op de relatie tussen taal en werkelijkheid zoals Augustinus die beschrijft in zijn Belijdenissen en die Wittgenstein in de aanvang van zijn Filosofische Onderzoekingen bekritiseert. Alsof de appel in een laatje zit met daarop het woord appel, zodat we weten wat we bedoelen als we zeggen “breng me vijf rode appels”.
Wat ik zeg en wat ik zie is hetzelfde wanneer dat wat ik zie voorzien is van de tekst die ik uitspreek (zeg te zien).
Alsof de dingen letterlijk zichzelf presenteren. De theepot zegt: ik ben een theepot, de rhinoceros, ik ben een rhinoceros.
Een zin is volgens Wittgenstein niet in staat te zeggen wat (quid) ze zegt. Ze toont wat (quid) ze zegt.
Is deze wijze van spreken, meer dan alleen een wijze van spreken? Als de dingen zichzelf presenteren dan moeten we ze volgens Austin ook dezelfde geboorterechten geven als andere sprekers. Kan een machine mij iets zeggen of kan ze alleen woorden, zinnen en teksten tonen? Misschien is juist de wereld van de machine wel de wereld waarin Wittgensteins onoverbrugbare kloof tussen zeigen en sagen bestaat. De machine zegt ons iets door ons de zin te tonen. Maar hij zegt in feite niets. Er is geen noodzakelijk verband tussen wat de machine zegt en wat hij feitelijk toont. De relatie tussen de buitenkant van de taal en de betekenissen is puur conventioneel, toevallig. Het is deze willekeur die Magritte tot uitdrukking brengt in Les Mots en les Images.
De visie waar Austin van spreekt betreft een dieper liggende zienswijze die geleidelijk aan in de loop van de geschiedenis meer en meer in ons denken en onze taal post heeft gevat. De metafysische opvatting dat ‘alles informatie is’ (Luciano Floridi), lijkt daarvan de meest expliciete uitdrukking.
Onze kennen van de werkelijkheid wordt in taal uitgedrukt en als gekend op de werkelijkheid geprojecteerd, alsof de werkelijkheid in de door ons gekende vorm zichzelf is.
Een aktueel voorbeeld van deze zienswijze zien we in de biochemie. Delen van het RNA worden gezien als codes die voortdurend ‘boodschappenbriefjes’ naar cellen in het lichaam sturen. De strijd tegen virusinfecties bestaat uit het maken van moleculen die instructies bevatten voor het aanmaken van anti-stoffen door het lichaam. De nieuwe mRNA-coronavaccins (de m staat voor messenger) bevatten synthetisch mRNA dat de ‘code’ draagt van een bepaald eiwit van het coronavirus. Die ‘code’ wordt door de lichaamscellen van de ‘gastheer’ omgezet in eiwit van het coronavirus. Dat eiwit wordt door het immuunsysteem ‘herkend’ als lichaamsvreemd, waardoor deze antistoffen en andere afweercellen tegen het coronavirus vormt. Biochemie is bioinformatica geworden.
De dingen zeggen niet meer alleen hoe ze heten, maar ook hoe ze functioneren. De deurkruk vertelt ons hoe deze gehanteerd moet worden en waartoe deze dient.
Wat voor zichzelf spreekt, dat zijn feiten.
Maar wat is een feit? We kunnen het ons nauwelijks voorstellen, maar feiten zijn een vrij recente uitvinding. Volgens historicus David Wootton bestonden feiten niet voor 1700.
“We take facts so much for granted that there have been few attempts to write their history, and none of them satisfactory. Yet, our culture is as dependent on facts as it is on gasoline. It is almost impossible to imagine doing without facts, and yet there was a time when facts did not exist.” (Wootton, 2016, p.252)
In het hoofdstuk Facts gaat Wootton op zoek naar de oorsprong van het feit. Wat zijn dat voor dingen?
Wat is een feit? In het Latijn wordt het meestal vertaald met ‘res’ (ding), maar een ding is geen feit. Volgens Wittgenstein bestaat de wereld niet uit dingen, maar uit feiten (Tatsachen). Een ding bestaat zonder woorden, een feit is tweezijdig: het is zowel iets taligs, een statement, als een realiteit.
Over ‘fact’ zegt Ronald Barthes (citaat uit Wootton, 2015):
“The fact can only have a linguistic existence, as a term in a discourse, and yet it is exactly as if this existence were merely the ‘copy’, purely and simply, of another existence situated in the extra-structural domain of the ‘real’. (Barthes, The Discourse of History, 1967).
“Het feit kan alleen maar een talig bestaan hebben, als een term in een tekst.”
Maar, voegt Barthes toe: het is exact alsof dit bestaande object, slechts een ‘copy’ is, puur en simpel, van een ander bestaand iets, iets dat gesitueerd is in het buiten-structurele domein van de ‘realiteit’.
Feiten zijn ware beweringen. Feiten kunnen niet onwaar zijn. Een feit is een feit omdat we het als feit presenteren. “Het is een feit dat …”
Ian Hacking spreekt in zijn The Emergence of Probability van een historische transformatie die plaats vond in de periode van het ontstaan van het feit, de periode waarin de experimentele wetenschap zoals we die kennen ontstond. Het is de transformatie waarin tekens (signs) de plaats innamen van oorzaken. Met Hume’s sceptische houding tegenover het inductief redeneren werd het onderscheid tussen meningen en wetenschappelijke kennis nog slechts gradueel. De plausibiliteit of probabiliteit van de empirische kennis kon nu nog slechts vergroot worden door meer tekens, wij zouden tegenwoordig zeggen: data, te verzamelen die een statement ondersteunen.
Ian Hacking concludeert dat tekens en oorzaken dezelfde functie moesten krijgen voordat Hume zijn sceptische houding tegenover inductieve kennis kon formuleren. Tekens werden oorzaken (Hacking, p. 183). Volgens Berkeley, die het pad vereffende voor Humes scepsis, zijn de dingen die normaliter gehouden werden voor oorzaken, geen echte oorzaken, maar tekens. De oorzaak-gevolg relatie is een relatie tussen ideeën, niet tussen gebeurtenissen in de wereld.
Tekens worden gelezen alsof het teksten, getuigenissen, zijn. Volgens Wootton is de nieuwe functie van de tekens in de natuurwetenschap afkomstig uit de rechtspraak. In de rechtspraak moet de aanklager het bloed op de jas van de verdachte tot getuige maken.
“Berkeley had said (in his Essay Towards a New Theory of Vision, 1709) that the things we commonly take for causes – such as the fire (that would cause the pain) – are not really causes. They are signs uttered by the Author of the universal language, and that Author is himself the effective cause.” (Hacking, p. 183).
En Hume zorgt voor het laatste stapje: het vuur is bij nader inzien weliswaar de efficiënte oorzaak van de pijn, maar zoals met alle efficiënte oorzaken is de pijn slechts een teken.
Matters of fact vormen sinds Hume de basis voor empirische kennis in de experimentele wetenschappen. Deze zoekt niet naar oorzaken als noodzakelijke relaties tussen ideeën maar naar algemene wetten en regelmatigheden.
Die experimentele wetenschap is wezenlijk hypothetisch en mathematisch. De hypothese zijn bedachte wetmatigheden die idealiter als wiskundige relaties tussen variabelen van een model worden uitgedrukt. De feiten vormen de voedings- en testbodem voor de inhoud van de modellen.
Door de relevante kenmerken van de situatie waarin het kind met zijn fietsje tegen de straat klettert en met een van pijn vertrokken gezichtje het op een brullen zet, in een model te vangen en de robot-pop te voorzien van een realistisch uiterlijk van een kind kunnen we de vallende robot gedrag laten vertonen zodat dit in de naïeve toeschouwer die in de gepaste omstandigheden van dit gebeuren getuige is die ‘Darwiniaanse’ knoppen beroerd waardoor deze even de indruk heeft dat de robot pijn heeft.
Waarom denkt de toeschouwer dat de robot die met zijn fiets tegen het asfalt klettert pijn heeft? Gewoonte, zegt Hume. Gebaseerd op oppervlakkige gelijkenissen. Wie echter weet wat een robot is die zou zich niet door de uitwendige gelijkenissen moeten laten misleiden.
Ik betwijfel echter of het weten wat een robot is en hoe deze gemaakt wordt iets kan inbrengen tegen de overtuiging van diegenen die geloven (of tenminste: zeggen) dat de robot gevoel heeft. De personificatie van de robot valt niet te rijmen met de technische, op natuurwetenschap en wiskunde berustende beschrijving van zijn werking. Hier botsen twee verschillende ‘levensvormen’. De wetenschapper speelt op een ander bord dan de gelovige. Informatici die het over ‘sentient AI’ hebben lijden aan schizofrenie. Ze springen van het ene bordspel naar het andere.
Bronnen
Austin, J.L., 1962. How to do things with words, the William James Lectures delivered at Harvard University in 1955. ed. by Urmson, J.O. and Sbisa, Marina, Oxford, 2e druk.
Austin, J.L. 1956. Other Minds. In: Philosophical Papers, Third Edition, Edited by Urmson, J.O. and Warnock, G.J., Oxford University Press, 1979.
Boukema, Harm, 1987. Familiegelijkenissen – Wittgenstein als criticus en erfgenaam van Frege. Tijdschrift voor Filosofie, 49ste Jaarg., Nr. 1, Ludwig Wittgenstein (Maart 1987), pp. 42-70.
Boukema, Harm, 1987. Over de grenzen van de reflexiviteit. In: Reflexiviteit en Metafysica. Bijdragen aan het symposium bij het afscheid van prof. J.H.A. Hollak. (Redactie: Louk Fleischhacker). Filosofische Reeks Centrale Interfaculteit Universiteit van Amsterdam, nr. 20. 1987, pp. 6-19.
E.J. Dijksterhuis (1977). De mechanisering van het wereldbeeld. Derde druk. Meulenhoff, Amsterdam, 1977.
Fleischhacker, Louk E. (1993), `Het mathematisch ideaal’ in: De Uil van Minerva, Gent 1993, pp. 165-180.
Fleischhacker, Louk E. (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.
Hacking, Ian (2006). The Emergence of Probability: a philosophical study of early ideas about probability, induction and statistical inference. Second Edition, Cambridge University Press, 2006.
Harris, J., and Anthis, J. R. (2021). The Moral Consideration of Artificial Entities: A
Literature Review. Sci. Eng. Ethics 27-53, 2021.
Martinez, Eric and Winter, Christoph (2021). Protecting Sentient Artificial Intelligence: A Survey of Lay Intuitions on Standing, Personhood, and General Legal Protection. In: Frontiers in Robotics and AI Vol. 8, 2021.
Schröder, Wolfgang (2021). Robots and Rights: Reviewing Recent Positions
in Legal Philosophy and Ethics. In: Robotics, AI, and Humanity (J. von Braun et al.,eds.) 2021.
Wisdom, John L. (1940). Other Minds (I). In: Mind, a quarterly review of psychology and philosophy. VOL. XLIX. No. 196. OCTOBER, 1940.
Wisdom, John L. (1952). Other Minds. Philosophical Library, New York, 1952.
Wittgenstein, Ludwig (1973). Tractatus logico-philosophicus. Logisch-philosophische Abhandlung. Ed. Suhrkamp, Uitgave 1973. Oorspronkelijke Duitstalige uitgave 1921.
Wittgenstein, Ludwig (2006). Filosofische Onderzoekingen. Vertaling Maarten Derksen en Sybe Terwee. Boom, Amsterdam, 2006. Oorspronkelijk Duitse tekst verscheen in 1953 bij Basil Blackwell te Oxford.
Wootton, David (2015). The Invention of Science. A new history of the scientific revolution. Penguin Book, 2015.