Month: September 2023

De meeste wetenschappelijke disciplines maken zich niet zo druk om de notie die als het ware hun domein afbakent. De bioloog niet om de notie leven, de informaticus niet om de notie informatie, de gedragswetenschapper niet om de notie gedrag. Die bepalen als het ware stilzwijgend waar de wetenschapper zich in een bepaald domein mee bezig houdt. Traditioneel behoort het denken over deze grondbegrippen en over de demarcatie van de verschillende disciplines tot de filosofie. Conceptual engineering lijkt zich als algemene technologie, als soort van unified science en als soort van positivistische, post-moderne filosofie niets van traditionele grenzen aan te trekken. Het pretendeert een onderdeel van de filosofie te zijn. Maar wel een praktische filosofie, één die de mensen de juiste richting wijst. Betere begrippen zouden (ook) in morele zin beter zijn.

Wat is conceptual engineering?

“Als gevolg van sociale en conceptuele verstoringen gebruiken ethiek en filosofie mogelijk niet altijd een optimaal conceptueel raamwerk.” (..) “… als contingente constructies hebben concepten altijd gebreken en beperkingen en kunnen ze worden verbeterd.” (Van de Poel, 2023, vertaling uit het Engels)

Conceptual engineering is de tak van sport die zich bezig houdt met het opsporen van ‘gebreken en beperkingen’ in conceptuele structuren met het doel deze te verbeteren en eventueel te vervangen door nieuwe begrippen. En omdat het denken zich als denkend noodzakelijk in taal uitdrukt zal dat gepaard moeten gaan met de introductie van nieuwe woorden en nieuwe uitdrukkingen, met veranderingen van de betekenis van bestaande woorden en uitdrukkingen, en met nieuwe metaforen. Conceptual engineering is dan ook linguistic engineering.

Het gaat bij Conceptual Engineering over hoe we omgaan (en zouden moeten omgaan) met nieuwe wetenschappelijke ontdekkingen en technische creaties. Er is dus overlap met werk op het gebied van Human Media Interaction, Human Computer Interaction en Human Robot Interaction. Wat indeling in aktiviteiten betreft: ontwerp (‘design’), implementatie en evaluatie, heeft conceptual engineering veel weg van software engineering. Waar de laatste betrekking heeft op het programmeren van machines, zou je kunnen zeggen dat CE betrekking heeft op het programmeren van mensen en samenlevingen. Dat die vergelijking mank gaat is duidelijk voor wie mens en samenleving niet als een soort van systeem ziet. Daar ligt dus een punt van aandacht.

Een paar voorbeelden van disruptieve technologie

De introductie van intelligente sprekende machines, zoals sociale robots, is aanleiding tot ‘conceptuele disruptie’. Moeten we deze robots niet in morele en juridische zin als persoon beschouwen? Het verschijnsel dat machines teksten, audio en video genereren die niet van die door mensen gemaakte onderscheiden kunnen worden zet vraagtekens bij de begrippen auteur, acteur en regisseur. Maar ook conceptuele dichotomieën als origineel-namaak, kunstmatig-natuurlijk en ding-persoon leiden tot revisie en ‘deconstructie’ (Derrida) van heersende metafysica en bestaande ontologieën. (Gunkel, Coeckelbergh)

Nieuwe ‘medische’ technologie, denk aan de pil, aan transplantatie van lichaamsonderdelen, is sociaal en conceptueel disruptief. Ze doen iets met onze verhouding tot onze lichamelijkheid, zoals de introductie van weefmachines en andere machines die het werk van de mens overnamen de relatie tot de arbeid verandert. Van de Poel (2023) bespreekt de disruptieve gevolgen van externe-baarmoeder-technologie op de betekenis van ‘moederschap’.

Uit evaluatie van de Corona-app die door de overheid voor bestrijding van de pandemie in Nederland werd ontwikkeld blijkt dat veel mensen niet wisten hoe deze werkt of een verkeerd beeld hadden hoe deze werkt en van wat de privacy implicaties van het gebruik ervan zijn. Voor velen betekenden de medische en sociale overheidsmaatregelen (avondklok, corona-pas, het verbod bezoek te ontvangen) een onacceptabele aantasting van de individuele vrijheid en het zelfbeschikkingrecht over eigen lichaam en leven. De relatie individu en gemeenschap stond opnieuw ter discussie. Autonoom betekent niet onafhankelijk van anderen.

De analyse van conceptuele disrupties en het zoeken naar oorzaken daarvan is niet een doel op zich is (Van de Poel 2023). Conceptual engineering wordt wel gezien als een onderdeel van filosofie. Het is ook een technische aanpak die ten dienste staat van de filosofie en de ethiek; en dan met name ten dienste van de filosofie en de ethiek van de techniek. Het is een soort technologie van de technologie. Een volgende stap in de ontwikkeling van de technische idee. Maar is dit nog wel technologie?

Wat wordt er met het begrip ‘concept’ bedoeld door de wetenschappers en filosofen die zich bezig houden met conceptual engineering?

Begrippen zijn in deze conceptie constructies die een bepaalde functie hebben en die kunnen fouten bevatten.

De notie ‘optimaal conceptueel framework’ roept de vraag op naar het doel dat conceptual engineering voor ogen staat: in welke zin ‘optimaal’? “Nieuwe tijden vragen om nieuwe begrippen”. Maar waarom? Wat is het uiteindelijke doel? Is dat beter begrip, betere technologie, een beter mens, een betere samenleving? Betere begrippen om beter te begrijpen? En zijn niet alle constructies noodzakelijk  contingent, zodat ons niets rest dan toe te zien hoe de tijd bepaalt wat zin en wat onzin is? Zo roept een eerste kennismaking met conceptual engineering vele vragen op. Laten we ons richten op die ene vraag. Wat bedoelen we met de notie begrip?

Over de notie begrip

De filosoof Manuel Gustavo Isaac onderscheidt een psychologische en een filosofische notie van concept (Isaac 2023). In conceptual engineering wordt volgens Isaac de ‘filosofische’ notie van concept gebezigd. “The primary function of concepts on this view is to pickout or denote objects in its extension.” (Westerblad, p.3). Cappelen (Fixing Language) stelt dat ‘the only universal, i.e. stable, function of a concept “C” is to denote Cs’.” (op cit. Westerblad p.3). Het begrip stoel verwijst naar concrete stoelen. Die vallen onder dat begrip.

Maar de psychologische notie van concept zou volgens Isaac geschikter zijn voor conceptual engineering.

“Concepten worden vanuit deze visie geïndividualiseerd op basis van de functionele rollen die ze spelen in verschillende cognitieve taken en worden verder geëvalueerd op basis van hun efficiëntie in de contekst van die taken. In tegenstelling tot de duidelijke stabiliteit van het filosofische concept, lijken psychologische concepten flexibeler te zijn, omdat een concept gespecificeerd wordt en kan worden herzien op basis van het soort rol dat het speelt. Hoewel het filosofische concept misschien de stabiliteit heeft die nodig is om hetzelfde te zeggen, maakt het CE moeilijk, aangezien elke verandering in het concept een verandering in de extensie van het begrip zal vereisen.” (mijn vertaling uit het Engels). Het werkwoord stoelen betekent ook ondersteunen in algemene zin. En de uitnodiging ‘pak een stoel’ betekent niet dat de stoel waarnaar verwezen verplaatst moet worden, noch dat deze draagbaar is.

De filosofische notie van concept zou te star zijn, heeft weinig te maken met “the cognitive lives of humans”, terwijl concept engineering gericht is op het veranderen van hoe mensen denken: “it makes it actionable and useful, since changing a concept will be a matter of changing minds.”

Het psychologisch begrip is “based on the kind of functional-informational role that concepts play in people’s thoughts and activities” (Westerblad, p.10)

“The psychologistic notion of concept is going to be too varied for the kinds of uses that we want to identify of concepts in Conceptual Engineering.”

Westerbald acht de psychologische notie ‘te psychologisch’ en ziet meer in de notie van concept zoals hij dat bij Dewey aantreft. Deze zou geschikter zijn voor een ‘actionable’, meer pragmatische invulling van conceptual engineering. Deze moet actief op zoek naar de tekorten van bestaande begrippen.

(Westerblad 2023) bekijkt conceptual engineering vanuit Dewey’s pragmatistische notie van concept als ‘means-consequence relation’.

Concepten worden in CE getest door experimenteren. Het experimentele in het filosofisch onderzoek naar de ‘vruchtbaarheid’ (Carnap) van abstracte begrippen kan het beste begrepen worden als de implementatie van de begrippen in de verschillende praktijken waarin het relevant is. Voor Dewey gaan de consekwenties van de nieuwe begrippen verder dan ‘slechts filosofische’ problemen. Vandaar zijn reconstructies van noties als kennis (‘knowledge’), waarheid (‘truth’), werkelijkheid (‘reality’), en het goede (‘the good’), die hij alle wil relateren aan specifieke activiteiten en aan praktische deelname aan experimenten. Als het gaat om praktische, ethische, of politieke concepten, zijn volgens deze doctrine experimenteren en implementeren twee aspecten van hetzelfde proces.

“For Dewey, ethical and political goods were subject to revision in much the same way that scientific concepts were.” (Westerblad, p. 21)

Conceptual engineering heeft enerzijds betrekking op hoe er feitelijk door mensen gedacht wordt, anderszijds gaat het over de begrippen die gehanteerd worden en betreft het dus de logische kennis-inhoud van het denken.

Frege’s logicisme was een reaktie op het in zijn tijd heersende psychologisme. Frege voert de term ‘Gedanke’ in voor de inhoud van een oordeelszin: ”Ein solcher Satz enthält einen Gedanken.” “Ich verstehe unter Gedanke nicht das subjektive Tun des Denkens, sondern dessen objektiven Inhalt, der fähig ist, gemeinsames Eigentum von vielen zu sein.” (Voetnoot p. 46).

Wat Frege hier ‘das subjektive Tun des Denkens‘ noemt is wat Metzger in Automation und Autonomie ‘das einsame Denken‘ noemt wanneer hij het over de automaat, de ‘denkende machine’ heeft. “Gewiss es ist nicht das einsame Denken in seiner imaginativen Produktivität, von dem hier gesprochen wird, sondern das rechnend beweisende, konstuierende Denken, das in seiner formalisierten Sprache in der symbolische Logik sein Thema findet … (Metzger, p. 9)

Wanneer Westerblad in navolging van Dewey de psychologische notie van Isaac te psychologisch noemt dan wijst dit mogelijk op het verschil dat Frege en Metzger aangeven tussen Gedanken enerzijds en het subjectieve denken van het individu anderzijds. Begrip kent een psychisch, een logisch en een talig aspect. Conceptual engineering kan niet afzien van het psychologische aspect, van hoe de mens feitelijk denkt en begrijpt en hoe dit zijn gedrag bepaalt. CE is meer een sociologie van het denken en communiceren in een bepaalde (sub-)cultuur of levenvorm (‘form of life’).

Over een geschikte notie van begrip voor conceptual engineering is men het nog niet eens. Het filosofische en het psychologische begrip voldoen beide niet.

Drie soorten van begrip

In On the notion of life onderscheidt Fleischhacker drie soorten van begrip (zie ook Beyond Structure).

1. De alledaagse begrippen. Deze drukt een ordening van de ervaren werkelijkheid uit die inherent is aan een specifieke cultuur. Dit zijn de noties die Wittgenstein in gedachten had wanneer hij opmerkingen maakte over ‘familiegelijkenissen’ en over betekenis als gebruik. Zie bijvoorbeeld zijn speurtocht naar het gemeenschappelijke van ‘spelen’ in de Filosofische Onderzoekingen.
2. Wetenschappelijke begrippen. Deze zijn definieerbaar door middel van een mathematisch model van het domein waar ze voor gebruikt worden. Ze zijn afhankelijk van de wetenschappelijke reconstructie van de ervaringswereld en alleen dan exact wanneer ze beschouwd worden in relatie tot de specifieke gekozen reconstructie.
3. Filosofische begrippen. Deze wijzen op een zeker perspectief gebaseerd op principes die voorondersteld worden bij het maken van zekere onderscheidingen in – of reconstructies van – de ervaringswereld.

Wat Fleischhacker onder ‘filosofisch’ verstaat wijkt dus af van wat Isaac en Westerblad eronder verstaan. Wat beide laatsgenoemden eronder verstaan is meer wat Fleischhacker ‘wetenschappelijk’ noemt. Het onderscheid tussen wetenschappelijk en filosofisch begrip is van belang.

Met de ontwikkeling van het Duitse idealisme vanaf Kant is volgens Fleischhacker een volledig nieuwe draai gegeven aan het gebruik van de filosofische begrippen. Ze onderscheiden zich niet alleen qua inhoud van de alledaagse en de wetenschappelijke begrippen maar ook wat betreft hun vorm. Hegel noemde ze speculatief. Ze drukken een orientatie uit, veeleer dan een onderscheid. Door ze toe te passen ontstaan twee tegengestelde perspectieven op het onderhavige onderwerp. Beide zijn mogelijk en valide en ze moeten in relatie tot elkaar worden begrepen. Wanneer de antipoden als zelfstandige bepalingen worden beschouwd verdwijnt het werkelijke begrip. Een voorbeeld is eenheid en veelheid. Beide gezichtspunten zijn legitiem en het is een verabsolutering om iets alleen als het ene of alleen als het andere te zien. We kunnen de wereld nu eenmaal niet in eenheden en in veelheden verdelen. Een andere dichotomie is mens-machine. Om grip te krijgen op de eigen aard van de zelfstandigheid van mens en machine moeten deze in verhouding tot elkaar gezien worden. Hoe tegenstrijdig dat ook mag klinken. Cantors verzamelingbegrip is speculatief. Het kan niet zelf als mathematisch begrip worden beschouwd. De verzameling van alle verzamelingen is paradoxaal. Een definitie van het begrip begrip is problematisch, wanneer dit beschouwd wordt als het vastleggen van de extensie ervan.

‘Wetenschappelijk’ staat voor velen voor ‘mathematisch’. Niet alleen in de natuurwetenschappen, ook in de menswetenschappen is het streven vaak kennis in wiskundige (zoals statistische) modellen en termen uit te drukken. Fleischhacker wijst op de neiging van filosofen tot mathematisme, de opvatting dat structureerbaarheid het wezen van alles is en dat iets kennen betekent dat je het een structuur kunt geven en er een wiskundige model van kunt maken. Een goed voorbeeld vinden we in Our Mathematical Universe van de fysicus Max Tegmark die alle parallelle levens in een complex mathematische model stopt.  Anderzijds lijkt Fleischhacker het wetenschappelijke en het mathematische vaak te identificeren. Dat is overigens geheel in lijn met de moderne westerse opvatting over wetenschappelijkheid. Kant getuigde van de opvatting dat de natuurwetenschap van zijn tijd alleen in zoverre waarheid bevat als het wiskundige inhoud heeft. Paradigmatisch voor wetenschap voor Kant was de Newtonse mechanica.

Beyond Structure is een poging tot ‘systematische deconstructie van het mathematisme’, waarbij Fleischhacker er op wijst dat deconstructie zelf ook een metafysische positie inhoudt, die niet impliciet mag blijven.

Wiskunde is op alles toepasbaar. Tegmark zocht een antwoord op de vraag hoe dat komt en zijn antwoord was: omdat de werkelijkheid een mathematische structuur ís (niet hééft, maar ís). Om dat aan te tonen moet hij uit gaan van een hypothese, de External Reality Hypothese. Die luidt:

Er bestaat een externe fysische werkelijkheid onafhankelijk van ons mensen.

De hypothese drukt expliciet het onderscheid uit tussen twee aspecten van de kenrelatie die bij Descartes als twee gescheiden substanties tegenover elkaar komen te staan: het denkend subject (res cogitans) enerzijds en anderzijds de natuur, waaruit alle emotie en verandering onttrokken is: pure zielloze uitgebreidheid (res extensa). De wiskunde ziet af van haar eigen activiteit. Ze stelt iets en keert nooit op haar schreden terug. Ze kan ook geen verantwoording afleggen voor haar eigen stellingname, zonder in tegenspraken te vervallen. Ze kan zich wel buigen over haar eigen activitiet, maar slechts van buiten af, formeel genomen, niet als eigen aktiviteit.

Wiskunde is op alles toepasbaar in zoverre het verdraagt dat van de eigen aard ervan wordt afgezien. We vermoeden hier een probleem voor CE, omdat deze enerzijds wil afzien van de eigen aard van het begrip en dit op een wetenschappelijke wijze wil onderzoeken, anderzijds juist met die eigen aard van het alledaagse begrip van doen zegt te hebben. Hoe kun je het alledaagse begrip op wetenschappelijk experimentele wijze onderzoeken zonder de alledaagse eigen aard ervan te niet te doen?

Willen we iets van de eigen aard van een concrete werkelijkheid begrijpen dan zullen we het begrip ‘begrip’ zo moeten opvatten dat de algemeenheid, de grens (definitie, bijzonderheid) en het unieke, de enkelheid alle drie tot hun recht komen. (Fleischhacker, Inleiding Logika) Dat kan volgens Hegel alleen speculatief, dat is: door deze drie momenten in verhouding tot elkaar te ontwikkelen. Dat is een dynamisch (dialectisch) proces waar we zelf als denkend en begrijpen subject dat in verstandelijke onderscheidingen denkt en deze weer opheft, niet buiten kunnen blijven staan. Het is een wordingsproces waar we voor open staan en waarin ons inzicht tot zelfbewustzijn komt.

Filosofie is denken gericht op de concrete werkelijkheid. Niet op een abstract algemeen begrip ervan.

Wat we gewoonlijk een begrip noemen. Bijvoorbeeld kleur in “alles heeft een kleur” (algemeen, zonder iets te zeggen over de specifieke kleur), als specifiek bepaald begrip, kleur tegenover vorm of materiaal, of als uitdrukking van een concrete inhoud van de beleving (“waar je sprakeloos geniet van de kleuren die je ziet”)

Bij Hegel is de eigenheid van het begrepene een moment van het begrip. In het begrijpen verwijst het begrip naar de werkelijkheid.

Wanneer we de denkbeweging, het logische, formele denken, op zich nemen dan zien we af van het verwijzingskarakter van het eigenlijke denken naar onze werkelijkheid. Begrijpen is concreet iets wat een mens doet.

Hegels denken is speculatief in die zin dat het zijn bedoeling is dat we met hem meedenken in een levende verwijzing naar de werkelijkheid van ons bestaan die we trachten te begrijpen.

Aan dat inzicht ontleent het begrip haar algemeenheid.

Taal en begrip

De relatie tussen het alledaagse en het filosofische taalgebruik is een centraal onderwerp in het denken van Ludwig Wittgenstein. Hij moest niets hebben van wezens en wezensinzichten en kon niet anders dan de eenheid van alles wat we ‘spel’ noemen zien als een ‘familiegelijkenis’, of als een touw dat uit draadjes bestaat waarvan niet één zo lang is als het touw zelf. De betekenis van het woord is niet een referentie naar een wezensinzicht, maar die is functie van het gewone alledaagse gebruik van de woorden. Kijk naar wat de mensen met de woorden doen! zou de conceptual engineer Wittgenstein na kunnen zeggen.

De definitie drukt het ingeziene principe uit in een algemeen begrip en geeft de grens aan van wat wel en niet onder het begrip valt. Het werkelijke ingeziene principe en werkzame begrip bestaat echter in de unieke concrete ontwikkeling waar het begrip het principe van is. Het ware begrip bestaat alleen in het begrijpen van een concrete toedracht.

Mathematisch zouden we dit als ‘het toepassen van het begrip’ in een concrete situatie zien. Maar die situatie moet dat wel gezien worden als iets waar dit begrip op toepasbaar is. Het toepassen van een regel of wet in de rechtspraak bijvoorbeeld is niet hetzelfde als het toepassen van een functie op een argument volgens een computeralgoritme. De concrete toepassing doet namelijk iets met de algemene regel.

Hier botsen het technische en het filosofische karakter van conceptual engineering. Techniek gebruikt een mathematische functioneel functie-begrip, filosofie is juist, in tegenstelling tot de betekenis die Isaac en Westerblad er aan geven, ‘flexibel’.

Volgens Frege is begrip een functie. De functie zelf is de grens of definitie die aangeeft waarop het begrip betrekking heeft en waarop niet, de Gegenstand waar het begrip op toegepast wordt is het unieke, concrete. De waarheidswaarde drukt het algemene van het begrip uit. Alles waarop de functie toegepast wordt, wordt op hetzelfde object afgebeeld. Wiskundig worden deze drie als mathematische objecten gedacht, waardoor hun verhouding tot elkaar te niet is gedaan. Functie en argument zijn uitwisselbaar geworden omdat ze niet in verhouding tot elkaar worden opgevat. Wanneer we de verhouding mens machine niet als verhouding zien worden beide uitwisselbaar. Dat is wat we zien gebeuren als mensen AI als zelfstandig bewustzijnde zijnden zien. Het spiegelbeeld en het orgineel worden niet meer als verschillende zijnswijzen opgevat, maar volledig geïdentificeerd.

Niet zo vreemd dus dat in de intersubjectiviteit – van mens enerzijds en de als autonoom subject gedachte machine anderzijds – een transcendentie van de technische verhouding wordt gezien.

Dan zou niet conceptual engineering, maar de intersubjectiveit van mens en technisch artefact de nieuwe fase zijn in de ontwikkeling van de technische idee.

Relatie mathematiek en techniek

Het mathematisch denken is bij uitstek geschikt voor technologie: bij beide gaat het om uitvinden, maken en testen van nieuwe constructies. Technologie maakt gebruik van wetten van de natuur. Maar technologie vereist niet per sé dat de wetten die ze gebruikt mathematisch exact in kwantitieve relaties zijn uitgedrukt. Praktische intuïtie blijft in alle fasen van de ontwikkeling van de technologie een belangrijke rol spelen, zowel bij de primitieve handwerktechniek als bij software design. De machinetechniek is gebaseerd op expliciet uitgedrukte mathematische wetten. Bij de informatietechnologie hoeven we niet meer te weten hoe de machine mathematisch-fysisch werkt. Het is juist de bedoeling dat we, programmeur en gebruiker, daarvan af kunnen zien. We communiceren ermee in ‘onze’ taal.

Taalgebruik in de filosofie is reflexief. Het doel is niet – wat de vorm suggereert – een communiceerbare inhoud, een feit of stelling mede te delen. In een filosofisch vertoog gaat het niet om informatieoverdracht. Het gaat erom een denkbeweging mee te voltrekken waarin een impliciet inzicht verwoord wordt.

Vanwege haar praktische doelstelling houdt conceptual engineering er een functionele notie van begrip op na. Begrip heeft een sociale, politieke en morele functie die buiten het begrijpen zelf valt. Het gaat de conceptuele ingenieur altijd om een (morele) preoccupatie met de waarde die een bepaalde zaak voor hem/haar heeft. Conceptual engineering probeert tot filosofische begrippen te komen en deze op een wetenschappelijke wijze te gebruiken om het dagelijke gebruik van de begrippen in de praktijk te beïnvloeden, zodat mensen ze beter begrijpen.

We hebben hier dus te maken met alle drie door Fleischhacker genoemde soorten van begrip die elk hun eigen rol spelen in het conceptual engineering project.

Het begrip als verplichtend

Technologie staat buiten de waarde van het doel dat het dient. Technologie is waarde-neutraal. Het a-morele is meteen het problematische van de technologie: ze dwingt op zich niet af het goede te doen, wat de goede bedoelingen van de uitvinder ook waren, omdat het technische op zich buiten de sfeer van het goede staat. De ethische problematiek komt pas met de concrete (economische) toepassingen van de techniek. Conceptual engineering is de poging het goede gebruik van de technologie in het technische ontwerp van het gebruik in te bouwen door de ‘juiste conceptuele denkkaders’ te ontwerpen. Hoe gebruiken we het verstand, dat volgens het beroemde woord van Descartes ‘het best verdeelde goed ter wereld’ is, goed?

Wittgenstein schreef in een brief aan zijn vriend Paul Engelman:

“Ik wou dat ik een beter mens was en een beter verstand had. Eigenlijk is dat het zelfde.” (Ludwig Wittgenstein, 1917)

Het uiteindelijke doel van de conceptual engineer, of hij of zij zich nu als filosoof, wetenschapper, technicus, of kunstenaar ziet, is een goed mens te zijn. Een goed mens die “de juiste begrippen ontwerpt en gebruikt”. Of kunnen we gewoon zeggen: die logisch nadenkt? Met een open blik op wat zich in de wereld afspeelt.

Het door Wittgenstein bewonderde en verguisde genie Otto Weininger zei het in zijn Geschlecht und Charakter (1903) zo:

“Logica en ethiek komen in wezen op hetzelfde neer – verplichting tegenover zich zelf” 

Het is de technologie zelf, in al haar verschillende uitingsvormen, die de conceptual engineer verplicht verplichting af te leggen tegenover zich zelf.

Bronnen en noten

Austin, J.L. 1956. Other Minds. In: Philosophical Papers, Third Edition, Edited by Urmson, J.O. and Warnock, G.J., Oxford University Press, 1979.

“It is as if sensa were literally to ‘announce termselves’ or to ‘identify themselves’, in the way we indicate when we say ‘It presently identified itself as a particularly fine white rhinoceros’. But surely this is only a matter of speaking (…): sensa are dump, and only previous experience enables us to identy them.” (p. 97)

P. de Bruin S.J. (1937). Philosophie der Techniek. Studia Catholica 13 (1937),pp 437-464.

Butlin, P. et al. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness Preprint at https://arxiv.org/abs/2308.08708 (2023).

Chalmers, David. (2020). ‘What is conceptual engineering and what should it be?’, Inquiry, https://doi.org/10.1080/0020174X.2020.1817141

Mark Coeckelbergh (2012). Growing Moral Relations: Critique of Moral Status Ascription. New York: Palgrave MacMillan (2012).

Ethics and moral practices are parts of our ‘form of life’. Meta-ethics cannot escape from this. But this shouldn’t lead to relativism. We can’t not take part. Moral stance is implicit in our way of life, in the relations we practice, in the language we use to order our world.

Mark Coeckelbergh (2014). The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. (2014) 27:61–77.

Coeckelbergh, M., and Gunkel, D. (2023). ‘ChatGPT: Deconstructing the Debate and Moving It Forward‘ in AI & Society. Online first 21 June 2023.

Maarten Coolen (1992). De machine voorbij: over het zelfbegrip van de mens in het tijdperk van de informatietechniek. Boom Meppel, Amsterdam, 1992.

Maarten Coolen (1987). Philosophical Anthropology and the Problem of Responsibility in Technology. In P. T. Durbin (Ed.), Philosophy and Technology, Vol. 3: Technology and Responsibility (pp. 41-65). Dordrecht: Reidel.

“Information technology must be conceived of as the objectification of the modern self-concept of man as an autonomous being.” 

Louk Fleischhacker (1992). Wijsbegeerte van het Wiskundig Denken en van de Informatietechniek, syllabus van het collegejaar 1990/91. Faculteit der Wijsbegeerte en Maatschappijwetenschappen, Universiteit Twente, 1992.

Louk E. Fleischhacker (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.

Louk E. Fleischhacker (1998). On the notion of life. Theory of Bioscience. 117:139-160. In dit artikel geeft Louk een eigentijdse ‘vertaling’ van de natuurfilosofie van Hegel opgevat als een kritische filosofische theorie van het leven.

Frege, Gottlob (1892). Uber Sinn und Bedeutung. Opgenomen in: Gottlob Frege: Funktion, Begriff, Bedeutung, Uitgave: Vandenhoeck & Ruprecht in Gottingen, pp. 40-65, 1975.

Frege voert de term ‘Gedanke’ in voor de inhoud van een oordeelszin:”Ein solcher Satz enthält einen Gedanken.” “Ich verstehe unter Gedanke nicht das subjektive Tun des Denkens, sondern dessen objektiven Inhalt, der fähig ist, gemeinsames Eigentum von vielen zu sein.” (Voetnoot p. 46).

“Warum genügt uns der Gedanke nicht? Weil und soweit es uns auf seinen Wahrheitswert ankommt. Nicht immer ist dies der Fall. Beim Anhören eines Epos z.B. fesselen uns neben dem Wohlklange der Sprache allein der Sinn der Sätze und die davon erweckten Vorstellungen und Gefühle. Mit der Frage nach der Wahrheit würden wir der Kunstgenuss verlassen und uns einer wissenschaftlichen Betrachtung zuwenden.” (Frege, Über Sinn und Bedeutung, 1892, p. 48)

Of het ons “gleichgultig” is dat ChatGPT ons een werkelijkheid voorstelt die waar is of niet, hangt daarvan af of we deze machine als kunstwerk dan wel als wetenschappelijk beschouwen.

“Ich verstehe unter dem Wahrheitswerte eines Satzes den Umstand, das er wahr oder das er falsch ist.” (Frege, 1892, Über Sinn und Bedeutung)

Erving Goffman (1967). Interaction Rituals: essays on face-to-face behavior. 1967.

Gunkel, David J. (2012). The machine question: Critical perspectives on AI, robots, and ethics. Cambridge: MIT Press.

Gunkel, David J. (2014). The Rights of Machines–Caring for Robotic Care Givers. Presented at AISB 2014. Chapter in the Intelligent Systems, Control and Automation: Science and Engineering book series (ISCA,volume 74).

Gunkel, David J. (2017). The Other Question: Can and Should Robots have Rights? In: Ethics and Information Technology, 2017.

Gunkel, David J. (2023). Person, Thing, Robot A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.

“Ultimately, then, this is not really about robots, AI systems, and other artifacts. It is about us. It is about the moral and legal institutions that we have fabricated to make sense of Things. And it is with the robot— who plays the role of or occupies the place of a kind of spokesperson for Things— that we are now called to take responsibility for this privileged situation and circumstance.” (p. 184)

Hacking, Ian (2006). The Emergence of Probability: a philosophical study of early ideas about probability, induction and statistical inference. Second Edition, Cambridge University Press, 2006.

Georg W.F. Hegel (1830/1970), Enzyklopädie der Philosophischen Wissenschaften, Zweiter Teil, Die Naturphilosophie. Theorie Werkausgabe 9, Suhrkamp, 1970.

Georg W.F. Hegel (1969). Jenaer Realphilosophie – Vorlesungsmanuskripte zur Philosophie der Natur und des Geistes von 1805-1806. Uitgave Johannes Hoffmeister, Verlag von Felix Meinder, Hamburg, 1969.

Gert-Jan van der Heiden (2021). Metafysica: van orde naar ontvankelijkheid. Boom uitgevers, Amsterdam, 2021.

Hollak, J.H.A. (1968). Betrachtungen über das Wesen der heutigen technik. Kerygma und Mythos VI Band III, Theologische Forschung 44, 1968, Hamburg, Evangelischer Verlag, pp 50-73. Dit is de vertaling van het Italiaanse artikel (Hollak 1964) Ook opgenomen in de bundel Denken als bestaan, het werk van Jan Hollak (Hollak en Platvoet, 2010).

Hollak, J.H.A. (1964). Considerazioni sulla natural della tecnica odierna, l’uomo e la cirbernetica nel quadro delle filosofia sociologica, Tecnica e casistica, Archivo di filosofia, 1/2, Padova, 1964 pp. 121-146, discussie pp 147-152.

Hollak, Jan en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de inaugurele rede Van Causa sui tot Automatie is hierin ogenomen.

Vincent Icke (2021). Licht – tussen waarheid en wetenschap. Prometeus, Nieuw Licht, Amsterdam, 2021.

Begrip is iets anders dan intelligentie, zegt Icke. Intelligentie betekent bedenken wat de gevolgen zouden kunnen zijn van een bepaalde oorzaak. “Begrijpen werkt andersom: bedenken wat de oorzaak kan zijn van een waargenomen gevolg.” Maar dat bedenksel moet wel getest worden. Begrip is er pas wanneer het bedenksel juist blijkt te zijn. Begrip is van een hogere orde dan kennis, zegt Icke. Daarbij vat hij ‘kennis’ op als het resultaat van het vergaren van gegevens, het doen van experimenten en het vastleggen van resultaten. “Maar uit een stapel resultaten volgt geen begrip”. (p.43).

Manuel Gustavo Isaac (2023). Which Concept of Concept for Conceptual Engineering? Erkenntnis (2023) 88:2145–2169. https://doi.org/10.1007/s10670-021-00447-0

Jürgen Kaube (2022). Hegel – een biografie. Uitgeverij Ten Have, 2022.

Olya Kudina (2019), “The technological mediation of morality: Value dynamism, and the complex interaction between ethics and technology”, PhD dissertation, University of Twente, Enschede.

Levinas, E. (1987). Collected Philosophical Papers. Trans. Alphonso Lingis. Dordrecht: Martinus Nijhoff.

Emmanuel Levinas (1971). Het menselijk gelaat. Vertaald en Ingeleid door O. de Nobel en A. Peperzak. Ambo, 1969, Bilthoven. Hierin: Betekenis en zin, pp.152-191. (Vertaling van La signification et le sens. in: Revue de Métaphysique et de Morale 69 (1964), 125-156.)

Levinas, E (1951). L’ontologie est-elle fondamentale? In: Revue de Métaphysique et de Morale 56 (1951) 88-98.

Arnold Metzger (1964). Automation und Autonomie. Das Problem des freien Einzelnen im gegenwärtigen Zeitalter, Neske, 1964.

Ray Monk (1991). Ludwig Wittgenstein – het heilige moeten, een biografie. Prometheus, Amsterdam, 1991. Vertaling door Ronald Jonkers, van Ludwig Wittgenstein – the duty of genius, Ray Monk, 1990.

Mulisch, Harry (1998). De Procedure. Uitgeverij De Bezige Bij, Amsterdam. 1998.

Navon, Mois (2023). Let us make man in our image‑a Jewish ethical perspective on creating conscious robots. AI and Ethics, 2023.

Van de Poel, Ibo, et al. (editors) (2023). Ethics of Social Disruptive Technologies. Open access boek van het ESDIT consortium.

Toivakainen, Niklas (2015). Machines and the face of ethics. In: Ethics and Information Technology, Springer, 2015.

Otto Weininger (1903/1920). Geschlecht und Charakter – eine prinzipelle Untersuchung. 19de druk, Wien/Leipzig, 1920.

“Dieses Buch unternimmt es, das Verhältnis der Geschlechter in ein neues, entscheidendes Licht zu rücken.” (voorwoord, eerste druk)

Otto Weininger (1984). Geslacht en karakter: een principieel onderzoek, (Vert. Tineke Davids) Amsterdam, De Arbeiderspers, 1984

Wittgenstein over Weiniger:

“Het is waar dat hij fantasie heeft, maar een grootse fantasie. Je hoeft het niet
met hem eens te zijn, of beter, je kunt het niet met hem eens zijn, maar het
grootse ligt in datgene waar we het mee oneens zijn. Het is zijn enorme vergissing
die groots is. Ik bedoel, globaal gezegd, als je een ~ (bedoeld wordt het teken voor de logische negatie uit de mathematische logica – RodA) voor het hele boek zet, drukt het een belangrijke waarheid uit.” (Monk, The Duty of Genius)

Over het centrale thema van Weiningers boek dat vrouwen de bron van
alle kwaad waren, gaf Wittgenstein tegenover Drury toe: “How wrong he was, my
God he was wrong.” (zie Fleischhacker, De Henide als paradigam, Otto Weiningers invloed op Ludwig Wittgenstein.)

Westerblad, Oscar (2023). Deweyan conceptual engineering: reconstruction, concepts, and philosophical inquiry. Inquiry https://doi.org/10.1080/0020174X.2022.2118163

Wittgenstein, Ludwig (1973). Tractatus logico-philosophicus. Logisch-philosophische Abhandlung. Ed. Suhrkamp, Uitgave 1973. Oorspronkelijke Duitstalige uitgave 1921.

Wittgenstein droeg de Tractatus (1921) op aan zijn vriend David Pinsent. In het voorwoord waarschuwt Wittgenstein zijn lezer: de stellingen in dit boek zullen vermoedelijk alleen begrepen kunnen worden door die lezer die zelf al eens dergelijke gedachten gehad heeft. Waarmee hij misschien wel een kerngedachte van zijn denken uitdrukt, namelijk dat de taal niet geschikt is om wezenlijke dingen mee te communiceren.

Wittgenstein, Ludwig (2006). Filosofische Onderzoekingen. Vertaling Maarten Derksen en Sybe Terwee. Boom, Amsterdam, 2006. De oorspronkelijk Duitse tekst verscheen in 1953 bij Basil Blackwell te Oxford.

Waarom leven wij niet korter dan wij doen? Dat is de vraag waarop ik een antwoord heb gevonden. Zonder dat ik het zocht. In dit stukje leg ik uit hoe dat zit. Ik zal proberen dat zo kort mogelijk te doen, zodat we zo snel mogelijk bij het eindpunt zijn. (1)

Laat dit het beginpunt zijn.

Ons leven bestaat uit momenten, de punten op onze levenslijn, de lijn die ons beginpunt verbindt met dit moment, nu.

Een rechte lijn is de kortste lijn tussen twee punten. (‘Kortste’ zegt dat je lengtes kunt vergelijken. Ik kom daar later, in noot 7, op terug.)

Als onze levenslijn een rechte lijn is dan is dat de kortste lijn.

Ik moet dus alleen nog aantonen dat onze levenslijn een rechte lijn is. Dan volgt uit de vorige stelling dat ons leven niet korter kon dan het is.

Om aan te tonen dat onze levenslijn een rechte lijn is gaan we terug naar een oude tekst. Daarin wordt uitgelegd wat een rechte lijn is.

Zo’n 300 jaar voor onze jaartelling legt de Griekse filosoof Euclides de basis voor de meetkunde (2). In deze tekst, de Elementen, zegt hij eerst wat hij onder een punt verstaat: “Wat geen delen heeft” en wat hij onder een lijn verstaat: “Een lijn is een lengte zonder breedte”.

En vervolgens lezen we wat hij onder ‘een rechte lijn’ verstaat.

Een rechte lijn is een lijn “die gelijk ligt met de punten erop“.

Een “raadselachtige omschrijving”, zoals de psychiater J.H. van den Berg in zijn geschiedenis van de niet-Euclidische meetkundes opmerkt.

Ligt niet iedere lijn gelijk met zijn punten erop? Het antwoord kan kort zijn: ja.

Maar dan zou volgens Euclides iedere lijn recht zijn. Dat zou de eigenschap ‘recht zijn’ niet een beperkende bepaling zijn. Er zijn echter ook kromme lijnen; lijnen die niet recht zijn.

Euclides eerste postulaat luidt: Van elk willekeurig punt naar elk ander punt kan precies één rechte lijn getrokken worden.

Het heeft alleen zin dit op te merken als er andere lijnen tussen twee punten zijn die niet recht zijn. Euclides zegt niet: als er twee lijnen tussen twee punten recht zijn dan vallen ze samen. Er ís er maar één. En voor die lijn geldt dat die “gelijk ligt met de punten er op“.

Wat we uit de woorden van Euclides opmaken is dat hij de punten van de lijn onderscheidt van de lijn zelf. Anderzijds vormen de punten van de lijn natuurlijk samen de lijn. De punten zijn de discrete eenheden; de lijn is de continue eenheid. Door te stellen dat de punten van een rechte lijn ‘gelijk liggen met de lijn’ drukt hij de eenheid van beide onderscheiden momenten van de lijn uit: veelheid en eenheid. Maar waarom zou die eenheid nu het recht zijn van de lijn kenmerken?

Hoe moeten we nu zijn raadselachtige definitie van de rechte lijn begrijpen?

Bij de wiskundige en historicus E.J. Dijksterhuis vinden we de volgende definitie van de rechte lijn. Die wijst ons naar de oplossing van dit raadsel.

“Een rechte lijn is een lijn die, wanneer het oog twee punten ervan doet samenvallen, alle punten voor dat oog in het samenvallende punt brengt.”

Je ziet het de timmerman doen. Om te bepalen of een lat recht is houdt hij deze op ooghoogte in het verlengde van de kijkrichting en beweegt deze zo dat het eindpunt samenvalt met het beginpunt ervan. Als er geen tussenliggende punten van de lat zichtbaar zijn is de lat recht.

Deze definitie maakt gebruik van een zichtlijn en veronderstelt dat de zichtlijn recht is. Mogen we dat zomaar aannemen? Volgt het licht een rechte lijn? Volgens de huidige inzichten in de fysica niet. De materie zou de ruimte krom trekken. We kunnen niet zeggen welke weg een individueel lichtdeeltje gaat. Het gaat ‘zijn eigen weg’ (3).

Euclides had heel goed in de gaten dat hij geen fysica bedreef, maar wiskunde. Daarom stelde hij ook zo nadrukkelijk dat een punt geen delen heeft. Dat doet hij om aan te geven dat een punt niet verward mag worden met een zichtbaar materiëel iets, zoals een stip op papier. (4)

Euclides kon dus geen beroep doen op zoiets als een zichtlijn. Hoe redde hij zich hier uit? Door gebruik te maken van een middel waarvan in zijn tijd wel vaker door de filosofen gebruik was gemaakt (5).

Euclides redeneerde namelijk zo (6). Een stel punten, die een lijn vormen, vormen een rechte lijn wanneer voor elke twee punten ervan geldt dat als je er een rechte lijn tussen trekt, de andere er allemaal op liggen.

Ik hoor u al denken: dat is een cirkel. En geldt niet het gebod dat een definitie van een begrip geen gebruik mag maken van datzelfde begrip? Tegenwoordig noemen wij zo’n definitie recursief. Ze zijn zeer populair en zelfs onmisbaar voor het programmeren van de machine. Die heeft immers ook niets anders buiten de woorden van het programma; de woorden die zeggen wat de machine moet doen.

We begrijpen nu wat Euclides voor ogen stond toen hij een rechte lijn definieerde als een lijn “die gelijk ligt met de punten erop“. Er liggen geen punten van de lijn naast de lijn want het zijn de punten van de lijn.

Resumerend. Als u accepteert dat de momenten van uw leven, de punten van uw levenslijn zijn, dan is die lijn een rechte lijn, de enige en daarmee de kortste lijn vanaf uw beginpunt tot nu. Ofwel elk leven kan niet korter zijn dan het is. (7)

Euclides had gelijk: er is maar één rechte lijn die twee punten verbindt. Dat is de lijn die je hebt afgelegd, de lijn waarop alle momenten van de lijn liggen.

Elk mens loopt “het kronkelpaadje af dat achteraf de kortste weg naar de bestemming blijkt te zijn.” (8)

Dit is het eindpunt van dit verhaal. Korter kon ik het niet maken.(9)

Noten

1. Voetnoten en eindnoten zijn dè truc om een lang verhaal kort te maken.
2. Wat Euclides doet is wiskunde bedrijven. In een tijd waarin het voor de mens nog alles behalve gesneden koek is dat wiskundige objecten niet op dezelfde wijze bestaan als de waarneembare dingen om hem heen. Getallen zijn geen dingen zoals stoelen en tafels. Het zijn ‘gedachtedingen’. Een punt is niet een waarneembaar object, zoals een steen of een appel. Een appel is deelbaar, uitgebreid. Een punt is dat niet. Een lijn is een lengte zonder dikte. Negatieve bepalingen. Dit is geen fysica! Van een ‘fysische’ lijn kunnen we soms zeggen dat de dikte verwaarloosbaar is, maar niet dat deze geen dikte heeft. Het is een vorm van mathematisme (zeer populair overigens) te denken dat de mathematische lijn door een ‘limietproces’ uit een fysische lijn kan ontstaan, namelijk door de dikte naar nul af te laten nemen. Fysische objecten en mathematische objecten behoren tot verschillende zijnsordes. Zolang de wiskunde bestaat is het een probleem hoe die twee zich tot elkaar verhouden; hoe het komt dat wiskunde toepasbaar is, maar ook wat de grenzen aan die toepasbaarheid zijn. Zie daarover het proefschrift van L.E. Fleischhacker, Over de grenzen van de kwantiteit (Mathematisch Centrum, Amsterdam, 1982)
3. Euclides’ Geometrie is het begin van de moderne wiskunde. Een wiskundige stelling moet bewezen worden door logische conclusies uit voor waar aangenomen axioma’s of eerder bewezen stellingen te trekken. Met cijfers en cijferrijtjes duiden we getallen aan. Een cijfer is zelf geen getal. Dit onderscheid tussen de voorstelling, zoals een teken of een tekening, en dat wat het voorstelt, het wiskundig object, houden we consequent vast wanneer we wiskunde bedrijven. Een getekende lijn is slechts een voorstelling van een wiskundige lijn. Maar waar kunnen we de wiskunde beginnen? Uit niets komt niets. De wiskundige stelt iets. Zo is het.
4. Wat bepaalt welke richting een lichtdeeltje op zeker moment neemt? “Het antwoord dat de Natuur ons opdringt is verbluffend, namelijk niets.” zegt Vincent Icke in De Principes van Huygens. Dat is onbepaald. Je kunt pas achteraf beschrijven welke weg het heeft afgelegd.
5. Zie bijvoorbeeld de paradox van Zeno volgens welke Achilles de schildpad niet in kon halen. Lewis Carroll legt de relatie uit met de formele logica, de basis van de programmeerbare machine. In: “What the Tortoise Said to Achilles,” Mind 4, No. 14 (April 1895): 278-280. Snappen we wel hoe die werkt?
6. Eureka! Dit is hoe ik Euclides definitie nu begrijp.
7. Het predikaat ‘korter’ vergelijkt afstanden tussen punten. Als drie punten op een rechte lijn liggen dan kun je ze zo benoemen met de namen A, B en C dat de afstand tussen A en C gelijk is aan de som van die tussen A en B en die tussen B en C. Bij de punten van een rechte lijn, dat zijn er oneindig veel!, geldt deze eigenschap voor iedere drie punten. Omgekeerd kun je de rechte lijn definiëren als een verzameling punten zodanig dat er een ordening op alle punten bestaat waarvoor deze eigenschap geldt. Merk op dat het niet nodig is de afstand tussen punten te bepalen als een getal. Het is de ordening die de afstand oplegt aan de punten die van belang is voor het bepalen wanneer de punten op een rechte lijn liggen. Ze liggen ‘in elkaars verlengde’. We kunnen het begrip rechte lijn dus wel definiëren zonder het begrip zelf te direct gebruiken, maar niet zonder het begrip afstand dat een ordening op de punten bepaalt. Je kunt dan zeggen dat de punten een rechte lijn vormen wanneer je ze ‘lineair’ kunt ordenen. De functie afstand moet voldoen aan drie voorwaarden. (1) Ieder paar heeft een afstand. (2) De afstand tussen een punt en zichzelf is 0. (3) Ieder paar ongelijke punten heeft een afstand die groter is dan 0.
8. Met dank aan de fysicus en Minister van Onderwijs en Wetenschappen Robbert Dijkgraaf die in zijn nota Inzet Werkagenda mbo over het Middelbaar Beroeps Onderwijs (20 oktober 2022) opmerkt: “Voor mij staat voorop dat elke student een duurzame toekomst met perspectief verdient. Ongeacht achtergrond, sociaal-economische positie van hun ouders of ondersteuningsbehoefte moet iedereen mee kunnen doen in de maatschappij en op de arbeidsmarkt. Iedereen heeft bij zijn studie de rust en ruimte nodig om z’n eigen weg te vinden. Om het kronkelpaadje af te lopen dat achteraf de kortste weg naar de bestemming blijkt te zijn.” Daarmee wil hij, denk ik, zeggen dat hij liefst geen lijn (curriculum) zou willen opleggen voor de levenslijn (studie) die de student zou moeten volgen en die zou moeten dienen als maat om te bepalen of deze succesvol (recht en daarmee de kortste) is. ‘De bestemming’ wordt door iedere student zelf tijdens zijn leven bepaald en is niet een punt in de toekomst dat al van te voren vastgelegd kan worden. Dat geldt niet alleen voor studenten en schoolse curricula. Het zal duidelijk zijn dat de stelling ethische consekwenties heeft voor het beoordelen van het ‘nut’ van de momenten van een mensenleven.
9. Henri Poincaré over de definitie van de rechte lijn: “Men heeft er veel onjuiste van gegeven, maar de juiste is diegene die stilzwijgend verondersteld wordt in alle bewijzen waarin de rechte lijn optreedt. “Het kan voorkomen dat een onveranderlijke figuur zodanig bewogen wordt, dat alle punten van een lijn die tot die figuur behoort op hun plaats blijven, terwijl alle punten die buiten die lijn liggen verplaatst worden. Een dergelijke lijn heet een rechte lijn.” (Uit: De niet-euclidische meetkunden. Opgenomen in de bundel Wetenschap en Hypothese, Boom Meppel, 1979, p.78). De timmerman moet de lat om zijn as draaien om zich ervan te overtuigen dat deze recht is. Bij een ideale mathematische lijn zonder dikte hoeft dat niet. Door een vlak te draaien om een as door twee punten in het vlak blijven de punten van de draai-as op hun plaats, terwijl alle andere punten van plaats veranderen. De aanname dat een onveranderlijk star lichaam bewogen kan worden is volgens Poincaré wat betreft waarheidsgehalte gelijkwaardig met het postulaat van Euclides dat zegt dat men door een punt slechts één rechte lijn kan trekken die evenwijdig is aan een gegeven rechte lijn.

“Tussen de werkelijkheid die de receptiviteit gegeven is, en de betekenis die deze werkelijkheid kan krijgen, schijnt een onderscheid te bestaan.”

(Emmanuel Levinas, La signification et le sens)

Onlangs verscheen Ethics of Social Disruptive Technologies een Open Book publicatie van het ESDiT Research Consortium, een onderzoekgroep werkzaam op het gebied van de ethische vragen rond maatschappij-ontwrichtende technologieën. (Van de Poel et al. 2023). Naast een inleidend hoofdstuk bevat de bundel hoofdstukken over aktuele onderwerpen zoals sociale media en democratie (hoe bedreigen de sociale media de democratie?), sociale robots (zijn robots morele agenten?), climate engineering en externe zwangerschaptechnologie. In al deze hoofdstukken ligt de focus op de disruptieve gevolgen van nieuwe technologie en de begripsmatige, filosofische, en dan met name ethische vragen die deze oproepen. In het hoofdstuk over ‘ectogestatieve’ technologie gaat het bijvoorbeeld om de vraag wat het voor het moederschap betekent wanneer de eerste levensfase van het nog ongeboren kind zich in een kunstmatige baarmoeder voltrekt. Wat is een ‘echte’ moeder nog? is de vraag die deze techniek in ontwikkeling oproept. Het hoofdstuk bevat een mooi schema van soorten moederschap in relatie tot verschillende voorplantingstechnologieën. Technologie verandert de betekenis van de woorden. Elk hoofdstuk bevat verwijzingen naar podcasts met presentaties en discussies over de besproken onderwerpen. In het laatste hoofdstuk: Conceptual disruption and the ethics of technology, gaat het over conceptual engineering, een onderzoekgebied waar experimentele wetenschap, engineering, filosofie en ethiek van technologie elkaar ontmoeten.

Hoe verhouden deze verschillende disciplines zich tot elkaar? Is conceptual engineering een nieuwe fase in de begripsmatige en historische ontwikkeling van de technologie, een soort van meta-technologie? Of is het oude wijn in nieuwe zakken: een herbenoeming van historische disrupties in het filosoferen over de mens en zijn door mathematiek en technologie vormgegeven (relaties tot de) werkelijkheid?

Waarom is conceptual engineering een interessant fenomeen?

Wanneer de informatietechnologie de technologie van de technologie is, de technologie in haar zelf-reflexieve vorm, zoals wel beweerd wordt, en wanneer de technische idee ‘als zodanig’ expliciet tot uitwendige objectivatie is gekomen in de programmeerbare automaat en wanneer de moderne westerse mens als autonoom subject dat zich als heerser tegenover de natuur plaatst in de zelfstandige humanoide intelligente artefacten, zoals de sociale robots, zijn zelfbeeld ziet voorgespiegeld, waarmee de historische en begripsmatige ontwikkeling van de technische idee in haar eindstadium is gekomen (Hollak, Metzger, Coolen, Fleischhacker), dan rijst de vraag wat er daarna komt. Is er een technologie die de technologie overstijgt? Een technologie van de technologie?

De informatietechnologie als de zichzelf begrepen zelf-reflexieve vorm van technologie zou niet getranscendeerd en opgevolgd kunnen worden in de vorm van een nieuwe technologie. Deze moet dan over gaan in een andere vorm die de technologie als zodanig overtreft en ‘opheft’. In de kunst misschien? Of in de religie?

Volgens Hegel gaat de technologie over in de relatie tussen ‘man’ en ‘vrouw’ (Jenenser Philosophie des Geistes, ‘Das Sich-Erkennen in Andern’). Bij hem vinden we teksten waarin het biologische onderscheid tussen de geslachtskenmerken van de man en vrouw als bijna vanzelfsprekend metafysische betekenis wordt verleend.

“De man is dus door dit onderscheid (de splitsing bij de man in de producerende hersenen en het hart) het actieve; de vrouw is echter het ontvangende (de uterus), omdat ze in haar onontwikkelde eenheid blijft”.

“De voorplanting moet men niet reduceren tot de eierstok en het zaad alsof het nieuwe leven (‘Gebilde’) slechts een samenstel uit de vormen of delen van beide zijden waren. Daarentegen ligt in het vrouwelijke wel het materiële element, in de man echter de subjectiviteit besloten.” (Hegel, Enz. Phil. W’schaften, par. 369 Zusatz, p. 519).

“Het vrouwelijke wordt verbonden met de materie en het mannelijke met de vorm, zodat in de mens het vrouwelijke de natuur en het mannelijke de geest vertegenwoordigt.” (Fleischhacker over De Henide bij Weininger)

De geslachtelijke voorplanting is een soort van informatietechniek, het vorm geven aan de materie.

Volgens sommige AI-fanatici is het ultieme doel van de technologie het maken van een persoon, waarmee de mythe van Frankenstein en de mythe van de Golem een moderne opvolger hebben (Navon 2023). Gaat de technologie over in een vorm van ‘intersubjectiviteit’, interaktie tussen de mens en zijn in de vorm van de uitwendigheid geprojecteerde evenbeeld? Is dat beeld wel een ‘echt’ subject? Dan zouden we volgens sommigen in de sociale robots een morele agent moeten herkennen, zoals we als Westerse koloniale overheersers ooit in onze slaven mensen herkenden. Het verschil met de menselijke slaaf is dat de machine nooit een mens is geweest, zoals de filosoof Niklas Toivakainen (2015) terecht opmerkt. Die status van morele agent moeten we van buiten af aan de robot toewijzen. Ze dwingt deze niet zelf af door middel van demonstraties of protestakties. De morele en juridische constructie lijkt eerder een onderdeel te zijn van de sociale constructie die de robot is. Ook zouden we de robot een smoel (face) moeten geven ten teken dat deze tot onze ‘morele cirkel’ is toegelaten. Want is het niet het menselijk gelaat (Levinas) dat ons aanspreekt en dat paal en perk stelt aan de macht van het ik over de Ander? Anderen vragen zich af wat het voor nut kan hebben om een persoon te maken in een wereld die al vol mensen en gezichten is (Niklas Toivakainen). Te vol, volgens sommigen. En is het economische nut niet dat waarin de techniek haar ultieme waarde vindt: in het gebruik voor de bevrediging van een menselijke behoefte. Laten we het technische en het economische niet met elkaar gelijk stellen, zoals veel filosofen lijken te doen. Zie (P. de Bruin, 1937) en ook mijn stukje Het instrumentaal: wat woorden doen.

Het is niet zo vreemd dat in de intersubjectiviteit – van mens enerzijds en de als autonoom subject gedachte machine anderzijds – een transcendentie van de technische verhouding wordt gezien. Wie de robot als persoon ziet ziet hem niet meer als puur technisch middel, maar wenst rekening te houden met de eigen aard ervan.

Social disruptive technology, technologie die tot sociale ontwrichting aanleiding blijkt te geven is vaak niet zo bedoeld (zoals de autonome drones als wapens in een oorlog). De ontwrichting is een onbedoeld neveneffect. Het is een ‘toegiftverschijnsel’ in de zin van (Coolen, 1992): de esthetische en ethische aspecten die kleven aan (het gebruik van) de technische constructie zijn niet een beoogd resultaat van de technische constructie. Vaak zijn die onbedoelde neveneffecten van de introductie van een nieuwe technologie ongewenst, omdat het gebruik ervan tot ongewenst gedrag leidt of gewenst gedrag belemmert. Om dat te voorkomen is het van belang om te onderzoeken hoe sociale ontwrichting door technologie ontstaat. Misschien kunnen we er dan bij het ontwikkelen van nieuwe technologie rekening mee houden: responsible design. De wens ontstaat om de ontwikkeling van de technologie zelf te sturen. “Power over the power over nature” zou de technologie zijnde “power over nature”, transcenderen (Fleischhacker).

Maar kan dat op een technische wijze, dat is: van buiten af, via technische middelen? Kunnen we de ontwikkeling van nieuwe technologie wel stop zetten of afremmen zoals recentelijk werd voorgesteld de ontwikkeling van nieuwe AI tijdelijk te stoppen.

“Een nieuwe technologie breed beschikbaar maken voor het publiek, dat doen we toch ook niet met kernenergie en genetische manipulatie? Ja, ik schaal AI – artificial intelligence – op hetzelfde risiconiveau in, van dingen die onze hele samenleving kunnen verstoren, kunnen disrupten.”

Dit zei hoogleraar ethiek & technologie Jeroen van den Hoven van de TU Delft in een interview met de Ingenieur (30 maart 2023). Hij is medeondertekenaar van een oproep van tech-ondernemers waaronder Elon Musk en AI wetenschappers ‘om even een denkpauze in te lassen op het onderwerp AI.’. In een cultuur die zo beheerst wordt door technologische vernieuwingsdrang heeft zo’n oproep veel van een poging de klok een tijdje stil te zetten.

Er zijn legio historische voorbeelden, maar een bekend voorbeeld van hoe ontwrichtend technologie kan zijn voor de sociale (arbeids)verhoudingen, wordt beschreven in Karl Marx ‘Het Kapitaal’. De machinetechnologie leidde tot het ontstaan van de arbeidersklasse, een nieuwe klasse van mensen die uit hun noaberskap op het land de steden in werden gedreven om daar als slaven van de machinerie van het groot-kapitaal onder onmenselijke omstandigheden de kost te verdienen. Die machines waren ook het resultaat van een conceptuele revolutie, een rationalisatie die tot een ‘verlichting’ van het werk leidde. Het werk dat overgenomen werd door de zelfstandig werkende cybernetische machine, werkend op waterkracht, windkracht, en steenkool. Met de machinale industriële produktie kwamen ook de begrippen arbeider, arbeidersklasse en kapitalisme tot stand. De technologie is de motor van het kapitalisme. De automatisering zou de arbeider het Rijk der Vrijheid brengen. Het einde van de kapitalistische uitbuiting.

Marx heeft zijn positie tegenover de werkelijkheid van zijn tijd tot uitdrukking gebracht in de ‘elfde These über Feuerbach’: “Die Philosophen haben die Welt nur verschieden interpetiert; es kommt darauf an, sie zu veranderen.”

In plaats van het ‘Reich der Freiheit’ (Marx) heeft de Verlichting voor velen een ‘Gehäuse der Hörigkeit’ (Weber) opgeleverd, waarin het individu als een moderne slaaf als onderdeel functioneert in een gebureaucratiseerd systeem, bestuurd door algoritmes waarvan gezegd wordt dat ze beter weten wat het wil dan het zelf denkt te weten.

Hollak ziet twee mogelijke alternatieven als reaktie op de automatisering waarin de mens-machine relatie een radikale omwenteling heeft gemaakt ten opzichte van de eerdere fase van de technologie – omdat het cybernetische principe van zelf-regulatie in de automatie expliciet als zodanig is uitgedrukt. Die alternatieven zijn: “óf toe te geven dat de moderne machine ‘denkt’ en dat dus onze traditionele opvatting over het wezen van het ‘mechanisme’ vals was, óf te ontkennen dat dit mogelijk is en dus te aanvaarden dat ons begrip van de menselijke geest, zoals in de moderne wijsbegeerte sedert Descartes zich vorm gaf en in de Hegelse filosofie haar hoogtepunt bereikte, onvolledig was.”

Het zal duidelijk zijn dat we al voor het laatste alternatief gekozen hebben. Uit de zinvragen die de automatisering en de kunstmatige intelligentie oproepen blijkt de mens meer te zijn dan het beeld van het autonome subject dat zich tegenover de natuur plaatst en arbeidend zichzelf realiseert, het beeld dat tot uitwendige objectivatie is gekomen in de zichzelf sturende ‘intelligente machine’.

De moderne Westerse mens is consument, de burger is klant van de overheid. Het individualistisch idealisme waarin ieder leven een eigen project is, wordt beheerst door een ‘kunnen-bewustzijn’ (zie Kaube’s Hegel biografie): je doet iets niet om iets te verwerven maar omdat het mogelijk is. Dit gaat gepaard met een grenzeloos vertrouwen in de technische mogelijkheden: wat denkbaar is, is maakbaar.

De ethische bezwaren die de kritische Pugwash beweging in de jaren zeventig aantekende tegen de ontwikkeling van sprekende machines (die misleiden immers de mensen door te doen alsof ze begrijpen wat ze zeggen) zijn niet erg succesvol gebleken. Het verzet van de eerste luddieten tegen de spin- en weef-machines lijkt zich nu te herhalen in het verzet van auteurs, acteurs en musici tegen de kunstmatige intelligentie. AI-programma’s als ChatGPT produceren teksten die vaak niet verschillen van door mensen geschreven teksten. Ook beeldmateriaal wordt machinaal geproduceerd door remix van bestaand materiaal. Wordt het creatieve werk van de schrijver, kunstenaar overgenomen door de technologie of gaat het slechts om een nieuw stuk gereedschap dat hen ter beschikking staat?

Aan alle werkelijkheid zit een uitwendige kant. Vanuit technisch perspectief is arbeid slechts werk, een functie, iets uitwendigs. Het koppelt het werk van de mens los van de mens die er zijn zelf in verwerkelijkt. ChatGPT daagt het begrip ‘auteur’ uit. De auteur heeft zijn tijd gehad. Aan deze abstractie, deze ontkoppeling, ligt dezelfde mathematische houding ten grondslag die de getallen abstraheerde van de concrete aantallen dingen en ze als zelfstandige pseudo-objecten creëerde en hun een naam gaf. De wiskundige objecten zouden als quasi-substanties als gedachte constructies vervolgens gebruikt worden om er de werkelijkheid de maat mee te nemen. Die mathematische denkhouding is de denkhouding van de Verlichting waarin het primaat van het economisch geldt. ‘Alles is nuttig’. Want niet alleen aan de arbeid zit een uitwendige kant, maar aan alle aktiviteit, zowel aan denken als aan communiceren. kenmerk van onze cultuur is dat alles als functioneel wordt gezien. Ook het denken en de taal.

De Taal van Conceptual Engineering

Het laatste hoofdstuk in het boek Conceptual Disruption and the Ethics of Technology is gewijd aan conceptual engineering. Sociale disruptie gaat altijd gepaard met het door elkaar schudden van oude, bestaande, begrippen en zienswijzen. Techniek zet de filosoof aan het denken. Er zijn ethische vragen. De techniek creëert nieuwe mogelijkheden. Maar moet alles maar mogen wat in ons technisch vermogen ligt? Als het al mogelijk zou zijn uit ‘dood’ materiaal op technische wijze een persoon te maken ‘naar het beeld van de mens’, mogen we dat dan doen? Waarom zouden we ons tegenwoordig nog iets aantrekken van oude joods-christelijke teksten waarin ons dat verboden wordt? Teksten waarvan we niet eens met zekerheid kunnen zeggen wie de auteur ervan is. Zijn Adam en de Golem niet volgens dezelfde procedure gemaakt; de procedure zoals die geschreven staat in de amper vijf kantjes van de Sefer Jetsirah, ‘Het Boek der Schepping’, een boek dat er al voor de schepping moet zijn geweest (zoals het computerprogramma er voor de intelligente robot moet zijn geweest). (zie Mulisch, De Procedure, 1998) Waarom zouden we dat kunstje niet nog eens mogen herhalen?

De macht van de techniek is de macht van het begrip, de technische idee, waarin de macht over de natuur wordt uitgedrukt in een nieuwe werkwijze. Conceptual engineering is een poging grip te krijgen op het ontwerp, de implementatie en de evaluatie van nieuwe begrippen. Omdat we nieuwe begrippen met nieuwe woorden aanduiden is conceptual engineering ook altijd linguistic engineering. Oude woorden krijgen nieuwe betekenissen of er worden nieuwe woorden gemaakt, vaak door varianten of verwijzingen naar bestaande woorden. Conceptual engineering houdt er een bepaalde maar impliciete opvatting over de relaties tussen taal, begrip en werkelijkheid op na. Een engineering-opvatting waarin begrip en taal primair functioneel bekeken worden.

De filosoof David Chalmers noemt een hele reeks voorbeelden van conceptual engineering, met name uit de ‘philosophy of mind’ en de filosofie van de taal (Chalmers 2020): Frege’s ‘sense’, Grice’s ‘implicature’, Kripke’s ‘rigid designator’; ‘vruchtbare’ filosofische begrippen die veel stof hebben doen opwaaien omdat het om begripsmatig lastige begrippen gaat die een sleutelrol spelen in een bepaalde filosofische stroming en die om een conceptuele perspectiefwisseling vragen, een andere kijk op het zelf en de werkelijkheid.

Ik denk dat in retrospectief Frege, vanwege zijn onderscheid tussen Sinn en Bedeutung, een onderscheid waarop de mathematische functionalisering van het begrip berust, en Wittgenstein, vanwege zijn onderscheid tussen het ‘Sagen’ en ‘Zeigen’ en de begrippen ‘taalspel’ en ‘levensvorm’, beschouwd kunnen worden als voorlopers van de conceptuele ingenieurs. Hun succes blijkt uit de impact van hun denkwerk op het westerse functionele denken over de relatie tussen begrip, taal, en werkelijkheid. Begrip werd een functie en taal werd een werktuig, waarvan de betekenis het gebruik ervan is.

Dat een machine iets kan zeggen, zoals sommigen denken, dat is een vreemde gedachte. Frege wijst in zijn Begriffschrift op het onderscheid tussen de zin en de bewering. De zin op zich beweert niets. Een machine kan wel een zin produceren maar beweert niets. De lezer die met de zin geconfronteerd worden denkt het beweerd zijn erbij. (En dan moet er ook wel een subject zijn dat beweert.) Dat er iets beweerd wordt, is slechts schijn, buitenkant. De zin is een voorstelling, iets dat getoond wordt. Het verschil tussen ‘sagen’ en ‘zeigen’ is een belangrijk thema in Wittgensteins filosofische onderzoekingen.

Het denken opereert in taaldomeinen waarvan de woorden lastig zo niet onmogelijk vertaald kunnen worden in andere taaldomeinen. Neem bijvoorbeeld het woord ‘belief’ zoals in ‘belief-update’ of het woord ‘mind’. Ze hebben een technische functie in een bepaald filosofisch domein als in een Wittgensteiniaans taalspel. In de wetenschappen krijgen alledaagse woorden een formele betekenis, ze verwijzen daar naar het mathematische begrip (ding) waarvoor het alledaagse begrip model stond: ‘gebeurtenis’ of ‘event’ en ‘normaal’ zijn voorbeelden daarvan uit de statistiek. Neem het woord ‘waarheidswaarde’. Deze 19-de eeuwse constructie behoort tot een domein dat ontstond door de hele Griekse filosofie over de subject-predikaat-verhouding in het oordeel op zijn kop te zetten. Een waarheidswaarde is mathematisch het resultaat van het toepassen van een functie. Die functie is het substantiële.

Traditioneel is het de filosofie die aan begripsanalyse doet en waar nieuwe begrippen worden geintroduceerd. Niet met een vooropgezet doel, niet als resultaat van ‘engineering’, maar vanuit het denken zelf, zoals de dichter op een nieuw woord komt dat een bepaalde beleving verwoordt. De taal is niet uitwendig aan de beleving of de gedachte, maar constitueert deze. De gedachte in haar uitdrukking zouden we nog weer moeten onderscheiden van datgene wat we begrijpen en uitdrukken. Doen we dat niet en identiferen we dat wat we begrijpen en trachten uit te drukken met de woorden waarin we ons begrip uitdrukken dan wordt de betekenis van het woord een functie van het gebruik in een ‘taalspel’. Daarmee verdwijnt het verwoordingskarakter van de taal.

Over de rol van de taal schrijft Olya Kudina in haar proefschrift over hoe we nieuwe technologie betekenis geven in ons leven:

“Reality becomes intelligible to us through language, where it functions as a medium, or a lens that sharpens the perception of reality and brings it into focus. In particular, it is through speaking with others or engaging in a mental conversation with the self that a particular meaning comes to being.” (Kudina, 2019, p. 115).

In het gesprek komt “een specifieke betekenis van de realiteit tot stand”. Dit roept de vraag op of de woorden die in het gesprek gebruikt worden met hun betekenissen al klaar liggen of dat dit gesprek het karakter heeft van een verwoorden. Anders gezegd: Is het gesprek een mededelen, een uitwisseling van informatie, van een bestaand reeds verwoord inzicht (‘speaking with others’) of is het een inwendige dialoog waarin getracht wordt tot inzicht te komen door dit te verwoorden (‘a mental conversation with the self’)? Kudina lijkt die twee heel verschillende aktiviteiten hier te identificeren. De werkelijkheid spreekt ons echter niet aan zoals een ander mens ons aanspreekt. De filosoof Austin wijst ons in zijn Other Minds op dit belangrijke onderscheid.

Woorden veranderen van betekenis als gevolg van of als uitdrukking van sociale veranderingen.

De auteurs noemen de introductie van de filosofische notie van natuurlijke gelijkheid in de zeventiende eeuw door Hobbes en Locke, die vervolgens werd vertaald in morele en politieke gelijkheid en gelijkheid voor de wet, de hele sociale contract traditie van de politieke filosofie mogelijk gemaakt, evenals de traditie van het liberalisme en de opvatting van individuele rechten. De introductie van het begrip privacy aan het einde van de negentiende eeuw heeft filosofen in staat gesteld een dimensie van menselijke autonomie en welzijn te verwoorden en te bestuderen die ze anders misschien niet zo goed hadden kunnen onderscheiden en bestuderen.

De geschiedenis van het feit laat zien dat we het ‘feit’ zoals we dat nu kennen volgens Wootton (2020) niet bestond voor 1700. Niet in de zin van Hume’s ‘matters of fact’. Niet in de zin van Wittgensteins ‘Tatsachen’. Volgens Hacking ontstond er geleidelijk een nieuw begrip feit dat nog slechts gradueel verschilt van een mening; namelijk in de hoeveelheid gegevens dat het feit of de mening ondersteunt. De nieuwe betekenis van feit is volgens Hacking onlosmakelijk verbinden met Hume’s scepsis en empirisme. Kennis werd statistisch. En daarmee moesten we ons ook in haar toepassingen tevreden stellen met statistische prestaties. De techniek werkt meestal zoals bedoelt; de computer heeft het meestal goed.

Conceptual disruption

De introductie van een nieuw technologisch artefact (de sociale robot) of het doen van een nieuwe ontdekking (de ontdekking van het virus) leidt vaak tot onzekerheid over welke concepten we moeten gebruiken of toepassen bij de interactie ermee of het classificeren ervan. Dit is een vorm van conceptuele verstoring (‘conceptual disruption’). Er is sprake van een conceptuele verstoring als we ofwel geen concepten hebben om iets te classificeren, ofwel als twee of meer conflicterende concepten min of meer even goed van toepassing lijken te zijn, zodat we een conceptueel besluit moeten nemen. Is het virus een levende cel of niet? Voor de aanhanger van het informaticisme, volgens welke alles wat is informatie en informatieverwerking is, is het lood om oud ijzer en is er hoogstens een verschil in complexiteit tussen een systeem dat opgebouwd is uit natuurlijk levend celmateriaal en een systeem dat opgebouwd is uit silicium of ander anorganisch materiaal.

Conceptual engineering onderzoekt de ins en outs van het ontwerpen van nieuwe concepten, die een oplossing kunnen bieden voor dergelijke conceptuele verstoringen. De soort van aktiviteiten van conceptual engineering heeft veel weg van die van software engineering: ontwerp, implementatie, evaluatie, maar bij de laatste gaat het om het programmeren van de computer, bij conceptual engineering gaat het om het (her-)programmeren van het denken en, omdat de taal de uitdrukking is van het denken als denken, daarmee ook van de taal, linguistic engineering (zie Cappelen, Fixing Language). Aangezien we de handleiding voor het omgaan met een nieuw apparaat kunnen zien als het programmeren van de gebruiker: ze zegt hoe deze moet handelen in het gebruik van het apparaat, kunnen we conceptual engineering zien als een voortzetting van de technologie van mens-machine interaktie. Daarbij is het introduceren van nieuwe metaforen een belangrijk onderdeel, want die zijn het mentale beeld dat de gebruiker nodig heeft om met de nieuwe techniek om te gaan.

Een goed voorbeeld van een technologie die vraagtekens zou plaatsen bij oude ontologieën is die van de sociale converserende robot. Daarover gaat hoofdstuk 3 van de bundel, Social Robots and Society. In het inleidende hoofdstuk wordt daar al even op vooruit gelopen.

In het vervolg van deze wat uit de hand gelopen boekbespreking zal ik daar wat dieper op in gaan omdat het ook een goede illustratie is van hoe nieuwe technologie aanleiding is tot conceptuele ‘herprogrammering’.

De morele status van sociale robots en de nood van conceptual engineering

De ‘Machine Question’ is de vraag “Is een robot een ding of een persoon?” (David J. Gunkel, 2022/2023). Beschouw de volgende redenering in hoofdstuk 1 (Van der Poel 2023, p. 19) die typisch is voor hoe er over deze vraag wordt gedacht.

“Consider humanoid artificial agents like social robots and voice assistants that can evoke affective reactions (…) People can feel upset when a robot is kicked or when a voice assistant is abused. Yet are such responses appropriate? They would be if the social robot and voice assistant were considered to be a ‘person’ or ‘agent’: after all, if a person is harmed, this calls for an empathetic response. Yet concepts like ‘personhood’ or ‘agency’ have traditionally been reserved for humans, and it is not yet established whether they can be extended to humanoid artificial agents, which may lack other relevant features of ‘agency’ and ‘personhood’, such as ‘intentionality’ or ‘free will’. One solution would be to extend attributions of ‘personhood’ and ‘agency’ to humanoid robots. But doing so also requires us to rethink what these concepts mean, and what their application conditions are, given the distinct characteristics of new digital technologies.” (p. 19)

Het gaat hier over ‘sociale robots’, een ‘humanoide kunstmatige agent’, waarvan we niet goed weten wat we allemaal onder dat begrip ‘sociale robot’ moeten verstaan. Het is een technisch idee dat vele verschillende bestaande en (nog) niet bestaande constructies dekt. Vervolgens wordt een situatie gepresenteerd waarin iemand ziet dat een robot wordt geschopt of geslagen en daarover nogal ontdaan is. Het is niet duidelijk waaruit het ontdaan zijn in dit geval blijkt, maar uit allerlei onderzoeken blijkt dat mensen inderdaad tijdens interakties met ‘intelligente machines’ gedrag vertonen dat lijkt op sociaal gedrag met andere mensen. Dat gedrag heeft daarom meteen een morele kant.

Terzijde. Ik spreek uit eigen ervaring wanneer ik zeg dat je een (weliswaar) kort gesprek kunt voeren dat achteraf blijkt een gesprek met een machine te zijn geweest, terwijl je tijdens dat gesprek niet anders wist dan dat het een gesprek met een echt persoon was. Zo groet je bijvoorbeeld beleefd zoals je een persoon groet die je aan de telefoon hebt. Later werd ik er op gewezen dat ik een antwoordmachine aan de lijn had gehad. Nadat me dat werd meegedeeld heb ik geprobeerd het gesprek te reconstrueren. Aan het gesprek kun je niet zien of het met een echt persoon was of met een machine die zich als echt persoon gedroeg. Griezelig of unheimisch (‘uncanny’) is de term voor de gewaarwoording van zo’n ‘grenservaring’. Je hebt iets beleefd waarvan je ‘achteraf’ weet dat het niet werkelijk was zoals je het hebt beleefd.

Ik heb in diverse onderzoekprojecten aan de technische ontwikkeling van sociale robots en conversational agents bijgedragen en onderzoek gedaan naar hoe mensen met deze artefacten om gaan, meestal in lab oratoriumsettings. Uit onderzoek is gebleken dat bekendheid met de technische mogelijkheden op het gebied van de sociale robots je niet beletten dat je een gesprek met een machine als een gesprek met een echte gesprekspartner beleeft.

Einde terzijde. Verder met de tekst.

De vraag wordt vervolgens gesteld of de reaktie die het zien van het agressieve gedrag tegenover de robot gepast (‘appropriate’) is. Dat zou zo zijn, zegt de wetenschapper, als de robot als een persoon werd gezien, want – zo is de redenering -, als het een persoon is dan is de reaktie op het zien van het agressieve gedrag gepast. Maar, is dan de vraag: is een sociale robot wel een persoon? Dan zou die toch ook andere eigenschappen moeten hebben (‘intentionaliteit’, ‘vrije wil’) die we aan persoon zijn verbinden. De redenering stapt over van de concrete beleving die iemand heeft naar de algemene vraag naar waar een robot aan moet voldoen opdat het gedrag ‘gepast’ is.

Is het gepast om een antwoordapparaat ‘goede morgen’ te wensen wanneer je deze aan de telefoon krijgt? Misschien niet. Maar mensen die dat doen die beleven de ontmoeting als die met een mens, wanneer ze niet in de gaten hebben dat het niet een mens is maar een antwoordapparaat. De reaktie past dus bij de beleving met een mens te maken te hebben, omdat het in de beleving een mens is.

“One solution would be to …” . Er wordt een oplossing voorgesteld. Maar wat is het probleem? Waarom zou het gedrag leiden tot de vraag of de sociale robot wel een persoon is? Wat vervolgens tot de vraag leidt wat we dan onder een persoon verstaan en of we dan, om een robot als persoon te kunnen beschouwen, dat begrip persoon wellicht wat moeten oprekken, zodat robots daar ook onder vallen.

Wat is hier nu feitelijk aan de hand? Het komt er op neer dat iemand een bepaalde beleving heeft en geëmotioneerd is bij het zien dat een afbeelding van een geliefd persoon wordt verscheurd. Een afbeelding is een beeld waarin het afgebeelde aanwezig wordt gesteld. Een wetenschapper vraagt zich af of de reactie wel gepast is. Dat zou zo zijn, stelt deze, als in de afbeelding een persoon werd herkend. En dat is het geval. Maar, zo redeneert hij, de afbeelding is geen persoon, want er ontbreken veel kenmerken aan de afbeelding. Kenmerken die we normaal toekennen aan een persoon. Een oplossing zou zijn het begrip persoon op te rekken. Ook afbeeldingen die we als afbeelding van een persoon herkennen en waar we op reageren alsof we met een persoon te maken hadden vallen in het vervolg onder het opgerekte begrip, zeg persoon2.0.

Is de reaktie op het zien van het schoppen van een robot ‘gepast’? Dat was de vraag die de wetenschapper stelde. Die reaktie is simpelweg een feit en toont dat er emotionele betrokkenheid is bij wat er in deze situatie wordt afgebeeld. In de emotie is het afgebeelde aanwezig, zoals deze aanwezig is in het beeld. De kunstenaar maakt gebruik van de werking van de verbeelding. De converserende sociale robot produceert de voor de gebruiker herkenbare woorden, zoals het informatiebord langs de weg de tekst “U bevindt zich hier” gebruikt om iemand te zeggen waar deze zich bevindt of zoals de geldautomaat de woorden “Voer uw pas in” gebruikt om de gebruiker te vragen zijn pas in te voeren. Of zoals een sociale robot zijn hand opsteekt om iemand te begroeten. Het zijn rituele gebaren die passen in standaard situaties en daarin een sociale functie hebben.

Voor de wetenschapper is de hele situatie aanleiding om zich af te vragen of we de sociale robot, de agent, als een soort van persoon moeten gaan zien, een morele agent. Een entiteit die we in onze morele cirkel moeten opnemen. Waarom? Omdat we ons tegenover de afbeelding gedragen alsof het de identiteit van het afgebeelde heeft. Maar wat hier aanwezig wordt gesteld is niet een reëel bestaand iets, maar slechts een technische constructie. Anders dan bij een afbeelding van een echt persoon, of een bandopname van een familielid, is de machine niet iets dat we anders kennen dan als een instrument dat functionele belevingen genereert. Het is een abstracte technische constructie, waarbij elementen van gedragingen zijn nagemaakt.

De ‘gedragingen’ zijn de ‘tiny behaviors’ (Erving Goffman, Interaction Rituals) die we bij de analyse van de sociale interactie van mensen waarnemen, abstraheren en objectiveren, als elementen van een (lichaams)taal: het afwenden van het hoofd, het aankijken, als onderdelen van het turn-taking-gedrag, het opheffen van de schouders, de oog-bewegingen, etc.

Achteraf blijkt dat degene waarmee we dachten te communiceren een heel abstracte, uitgeklede, entiteit is, een denkmaaksel, een fantasiebeeld. De afbeelding komt slechts in enkele kenmerken overeen met het erin afgebeelde. Is het voldoende voor het toekennen van een ‘morele status’ aan ‘het artefact’ dat interaktie ermee bij de mens soms dezelfde emotionele en morele reakties oproept dan bij de ontmoeting met een echt mens het geval is? Deze vraag doet zich voor zolang het niet om concrete interakties gaat met een concreet ‘individu’, een instantie van de soort sociale robot, maar om een abstract idee, een constructie. Om daarnaar te verwijzen is de term ‘agent’ in gebruik genomen.

We moeten de beleving van de mens die in de afbeelding een geliefd persoon ziet of die in het zien slaan van de robot een pijnlijke handeling ervaart respecteren. Omdat het om de beleving van deze mens gaat die getuigt van de moraliteit van de situatie. Maar dat betekent niet dat het ‘intentionele object’ van deze ervaring bestaat zoals de afgebeelde of de gesimuleerde mens bestaat.

“The question of social and moral status does not necessarily depend on what the other is in its essence but on how she/he/it (and the pronoun that comes to be deployed in this situation is not immaterial) supervenes before us and how we decide, in “the face of the other”. (Gunkel, 2017).

De robot agent doet alsof deze de taal van de gebruiker verstaat en spreekt. De techniek doet intelligent niet om de gebruiker te misleiden, maar omdat het werkt. Het doen alsof is functioneel. De gebruiker moet in het gedrag dat de machine produceert iets zinvols, iets menselijks, herkennen. Antropomorfisme is een functioneel aspect van de technologie.

Het technische instrument is een uitwendige objectivatie van de idee. Het gaat om uitwendigheid die, om als uiterlijkheid te worden gezien (wat het pretendeert te zijn), de innerlijkheid van het begrijpend en waarderend subject blijft vooronderstellen. Zonder die innerlijkheid is het teken zonder betekenis en derhalve geen teken, is de robot niet wat het pretendeert te zijn, en is de AI niet intelligent.

De muizenval is een slim instrument omdat het slim bedacht is: het is functioneel in relatie tot een bepaalde levenswijze en mensenpraktijk. De moraliteit van dit instrument is de moraliteit (zedelijkheid) van de mensenpraktijk en de levensvorm waarbinnen dit instrument een functie heeft, zoals de moraliteit van de mobiele telefoon of de echoscopie de moraliteit is van de mensenpraktijk waarin deze technologieën functioneren.

De vraag of het artefact een morele agent of morele actor is wordt vaak in verband gebracht met de vraag wie verantwoordelijk is voor het ‘gedrag’ van deze instrumenten. Een persoon onderscheidt zich volgens sommige denkers (Kant) van het ding hierin dat de persoon verantwoordelijk is (ter verantwoording kan worden geroepen) voor de handelingen die deze uit vrije wil verricht. Maar hoe kan een abstract concept dat slechts in de verbeelding van de gebruiker een concreet zelfstandig bestaan heeft verantwoordelijk zijn? Er is immers niet een substantie, een entiteit, een body, die we als werkelijk bestaande actor kunnen beschouwen van het gebeuren.

De mathematisch/technische denkwijze is wezenlijk dualistisch. Deze denkt een stricte scheiding tussen het object en het subject van het construerende denken. De gemaakte objecten: getallen, mathematische structuren, technische constructies, worden als quasi-substanties, als zelfstandige entiteiten, buiten het denken, gedacht. De fysische realisatie van de constructie geeft de bedachte quasi-substantie nog weer een fysische objectiviteit in de zintuiglijk waarneembare realiteit waardoor deze deel gaat uitmaken van de belevingswereld van de mens. In de belevingswereld waarin de mens het technische artefact ontmoet worden vele inhouden aan de constructie toegevoegd die al dan niet door de fysische presentatie worden opgewekt. Sommige zijn bedoeld, ze maken dat het artefact functioneert zoals bedoeld, andere niet. Die kunnen de bedoelde werking zelfs belemmeren. De wetenschappelijke modellen bepalen steeds meer hoe we de werkelijkheid zien en ervaren. Maar de belevingswereld is een andere wereld en die lijkt strikt gescheiden te zijn van de wereld van de wetenschapper. De vraag is dan ook of je op de openheid die de beleving kenmerkt als ontwerper van nieuwe technologie kunt anticiperen. De beleving is niet programmeerbaar. Die ligt buiten het technisch maakbare, programmeerbare. Dat de gebruiker die met de robot een gesprek voert dit beleeft alsof hij met een echt mens praat is een toegiftverschijnsel.

Mensen hebben de neiging de techniek als norm te zien. Vergelijk een techniek met een regelsysteem zoals de grammatica van de moedertaal, de taal die je van huis uit hebt leren schrijven en spreken. Die grammatica legt vast hoe de taal in elkaar zit, maar die leert je niet hoe je moet schrijven en spreken. Dat kon je immers al voordat er een grammatica werd gemaakt en voordat je op school met de regels kennis maakte. We zeggen dat de machine zich gedraagt, spreekt en denkt, zoals een mens. Maar de mens gedraagt zich niet, noch spreekt, noch denkt hij, ‘zoals een mens’. De wetenschap en de technologie hebben de neiging de mens z’n eigen reconstructie van het menselijk gedrag, een grammatica, als norm op te leggen. Zoals ze het spreken van grammaticaal correct Nederlands als norm opleggen voor echt Nederlands. Die norm wordt gepersonificeerd in het technische instrument: “De computer zegt het.”. De techniek wordt een subject, de ander van ons zelf. Ons zelfbewustzijn.

Omdat de techniek als norm wordt gezien wordt deze ook verantwoordelijk gehouden voor de norm die ze oplegt aan de werkelijkheid en aan de mens die ermee omgaat.

Het verlenen van een morele status aan sociale robots lijkt een machtspolitieke kwestie. Hoe hoger de status van het produkt des te hoger is de status van de producent ervan. Het wordt als een teken van macht gezien wanneer je in staat bent om een intelligente robot te maken met bewustzijn en gevoel (zie de legende van de Praagse rabbi Leib en zijn creatie, de Golem). AI is een media spektakel geworden waarin de mythe in stand wordt gehouden van de reële mogelijkheid van het bestaan van een superintelligent wezen dat alle hedendaagse en toekomstige problemen oplost. Wetenschappers en filosofen die beweren dat AI bewustzijn heeft of kan hebben (meestal is de waarheid nog niet werkelijk, maar iets toekomstigs) houden deze mythe in stand (zie bijvoorbeeld Butlin, P. et al. 2023). De politieke en commerciële propaganda rondom AI is een onderdeel van de AI waarin het er om gaat de schijn van bewuste en morele AI hoog te houden. Het gaat hier om een vorm van vervreemding die religieuze trekken heeft en die de leemte opvult die na ‘de dood van God’ ontstaan is: de superintelligente AI als verlosser.

Of als bedreiging. Moeten we bang zijn voor een toekomst waarin de computers de macht grijpen? In plaats van een gewaagde gedachte, ingegeven door de hedendaagse technische mogelijkheden lijken de science-fictionachtige scenarios eerder een terugval in een 19de eeuwse idealistische geesteshouding, waarin de menselijke geest slechts één kant van de ‘absolute geest’ is die zich in de wereldgeschiedenis verwerkelijkt, zoals Hegel dat voorstelde. Volgens die 19de eeuwse geesteshouding zijn wij immers niet meer de zelfstandige auteur van de informatiemaatschappij, (het dualistische onderscheid tussen subject en object, mens en natuur, is ‘opgeheven’ in de relatie die de absolute geest is) en kan de AI, als de realisatie van die relatie van mens en natuur, evengoed als onze erfgenaam de geschiedenis overnemen. (Zie Hollak over hoe de AI als ‘uitwendige’ realisatie van het Hegelse absolute idealisme gezien kan worden; ook Fleischhacker 1992).

De muizenval is een natuurlijk ding. Alles wat er aan is, is natuur. Maar de natuur komt niet zelf ertoe een muizenval te maken. De natuur komt niet zelf op het idee van de muizenval, de idee die uitgedrukt wordt in de ordening van de onderdelen. waardoor de natuur gedwongen wordt te werken zoals het door het verstand bedacht is. Tenzij we ook de intelligente, behoeftige mens als onderdeel van die natuur begrijpen. Wat deze uiteraard ook is. Het is als met de vraag naar de aard van een wiskundige stelling. Is dat een ontdekking van een natuurlijke eigenschap of is het een creatie van het verstand? Bedekken we met onze technische creaties de natuurlijke werkelijkheid of ontdekken we door de creaties de natuur waardoor deze tot zichzelf komt?

Het blijft lastig de aard van zelfstandigheid van het technische ding in relatie tot de mens te begrijpen, maar de mens moeten we vooralsnog een ‘hogere’ zijnswijze toekennen dan zijn technische producten, juist omdat het zijn technische producten zijn.

En dat heeft gevolgen voor de kwestie of sociale robots morele agenten zijn, Gunkel’s Machine Question.

“Ultimately, then, this is not really about robots, AI systems, and other artifacts. It is about us. It is about the moral and legal institutions that we have fabricated to make sense of Things. And it is with the robot— who plays the role of or occupies the place of a kind of spokesperson for Things— that we are now called to take responsibility for this privileged situation and circumstance.” (Gunkel 2023, p. 184)

Het lijkt er op dat Gunkel in de robot die we een face hebben gegeven een woordvoerder ziet die niet voor zichzelf rechten opeist maar die de mens als het ware oproept verantwoordelijkheid te nemen voor haar creaties.

“With great power comes great responsibility.” (Spider-Man, source: David Gunkels Thing, Person, Robot, note 8 on page 197).

De makers van AI verschuilen zich gesteund door de media achter hun produkt door hun produkt zelfstandigheid en moreel actorschap toe te dichten. Wie de machine zelfstandigheid verleent is echter zelf daarvoor verantwoordelijk. De machine is niet uit zichzelf zelfstandig. Het gevaar van AI zit hem dan ook niet in de mogelijkheid dat AI in de toekomst de macht over de wereld zal overnemen, het gevaar van AI is nu en bestaat erin dat mensen onder invloed van Big Tech ondernemingen en de media AI capaciteiten toedichten die ze helemaal niet waar kan maken.

Informatie is smeerolie en brandstof van de informatiemaatschappij en de kennis-economie. De macht van de Big Tech en sociale media-bedrijven die de informatie productie en distributiekanalen in handen hebben kan niet makkelijk overschat worden. Ze hebben een grote invloed op de politieke besluitvorming en kunnen het democratisch proces zodanig sturen dat het uitgehold wordt. In het boek komt dit onderwerp aan de orde in het hoofdstuk over sociale media en de democratie.

“socio-technical systems within sociale media platforms carry values, commercial motives, and political intentions. These do not just affect individual private decisions (denk aan de functie van ‘gebruikersprofielen’ ) but can also influence society’s ability to exercise collective decision-making.” (p. 38).

Voor Hegel was de aanvankelijk door hem bewonderde Napoleon de ‘Weltgeist’ in eigen persoon.

“Ik zag de keizer – deze wereldziel – op verkenning de stad uit rijden. Het is inderdaad een prachtige sensatie om zo iemand te zien, die, hier geconcentreerd op één punt, schrijlings op een paard, zich over de wereld uitstrekt en deze beheerst. Wat het lot van de Pruisen betreft, kon er in werkelijkheid geen betere prognose worden gegeven.” schreef Hegel aan Niethammer op 6 September 1806, de dag dat Napoleon Jena binnentrok.

Wat zich eens als de grote bevrijder van de burger presenteerde ontpopte zich als een tiranniek heerser. Niet Hitler, noch Putin is de huidige erfgenaam van Napoleon, maar eerder een Elon Musk, de schatrijke ondernemer die de democratische besluitvorming marginaliseert en naar eigen goeddunken de ‘informatiebanen’ en communicatiekanalen van de strijd om de wereldhegenomie beheerst. Wat drijft deze figuur, anders dan Wille zur Macht, een Nietzschiaanse macht om de macht?

Waar gaat het bij conceptual engineering uiteindelijk om?

Zoals gezegd ligt voor mij de waarde van deze artikelenbundel in de bijdrage die het levert een antwoord te vinden op de vraag naar de transcendentie van het mathematiserende en technologische denken.

In het slothoofdstuk merken de auteurs op dat de analyse van conceptuele disrupties en het zoeken naar oorzaken daarvan niet een doel op zich is. Conceptual engineering wordt wel gezien als een onderdeel van filosofie. Het is ook een technische aanpak die ten dienste staat van de filosofie en de ethiek; en dan met name ten dienste van de filosofie en de ethiek van de techniek.

Begrippen zijn in deze conceptie constructies die een bepaalde functie hebben en die kunnen fouten bevatten. Geheel volgens de westerse mode van leven en filosoferen waarin alles functioneel wordt bekeken.

“Due to social and conceptual disruptions, ethics and philosophy may not always be using an optimal conceptual framework.“ (..) “… as contingent constructs, concepts always have flaws and limitations and can be improved upon.”

De notie ‘optimaal conceptueel framework’ roept de vraag op naar het doel dat conceptual engineering voor ogen staat: in welke zin optimaal? “Nieuwe tijden vragen om nieuwe begrippen”. Maar waarom? Wat is het uiteindelijke doel? Is dat beter begrip, betere technologie, een beter mens, een betere samenleving? Betere begrippen om beter te begrijpen. Zijn niet alle constructies noodzakelijk contingent? Zodat ons niets rest dan toe te zien hoe de tijd bepaalt wat zin en wat onzin is.

Technologie staat buiten de waarde van het doel dat het dient. Technologie is waarde-neutraal. Het a-morele is meteen het problematische van de technologie: ze dwingt op zich niet af het goede te doen, wat de goede bedoelingen van de uitvinder ook waren, omdat het technische op zich buiten de sfeer van het goede staat. De ethische problematiek komt pas met de concrete (economische) toepassingen van de techniek. Conceptual engineering is de poging het goede gebruik van de technologie in het technische ontwerp van het gebruik in te bouwen door de ‘juiste conceptuele denkkaders’ te ontwerpen. Hoe gebruiken we het verstand, dat volgens het beroemde woord van Descartes ‘het best verdeelde goed ter wereld’ is, goed?

Wittgenstein schreef in een brief aan zijn vriend Paul Engelman:

“Ik wou dat ik een beter mens was en een beter verstand had. Eigenlijk is dat het zelfde.” (Ludwig Wittgenstein, 1917)

Het uiteindelijke doel van de conceptual engineer, of hij of zij zich nu als filosoof, wetenschapper, technicus, of kunstenaar ziet, is een goed mens te zijn. Een goed mens die “de juiste begrippen ontwerpt en gebruikt”. Of kunnen we gewoon zeggen: die logisch nadenkt? Met een open blik op wat zich in de wereld afspeelt.

Het door Wittgenstein bewonderde en verguisde genie Otto Weininger zei het in zijn Geschlecht und Charakter (1903) zo:

“Logica en ethiek komen in wezen op hetzelfde neer – verplichting tegenover zich zelf” 

Het is de technologie zelf, in al haar verschillende uitingsvormen, die de conceptual engineer verplicht verplichting af te leggen tegenover zich zelf.

Wij worden geworpen in een wereld die geordend is door begrip en taal. Maar al snel blijft er van die ordening niets meer over. De werkelijkheid blijkt een chaos te zijn. En de mensen chaotische gekken. Tijd voor deconstructie, voor reconstructie. Maar welke kant op, en hoe daar te komen? Hoe moeten we, gekken die we zijn, deze chaos begrijpen? Zit er nog enige logica in deze chaos? Welke principes gelden nog? Wat is nog van waarde om na te streven?

Gelukkig staan we er niet alleen voor. Elke gek heeft zijn gebrek. Maar elke gek brengt ook zijn eigen perspectief waarvanuit hij wel íets van waarde ziet. Vanuit die gedachte moeten we het gesprek aangaan. Niet alleen met die andere gekken, die schuldig zijn aan de chaos, maar ook met de onschuldigen, met de dingen en de andere dieren.

Bronnen en noten

Austin, J.L. 1956. Other Minds. In: Philosophical Papers, Third Edition, Edited by Urmson, J.O. and Warnock, G.J., Oxford University Press, 1979.

“It is as if sensa were literally to ‘announce termselves’ or to ‘identify themselves’, in the way we indicate when we say ‘It presently identified itself as a particluarly fine white rhinoceros’. But surely this is only a matter of speaking (…): sensa are dump, and only previous experience enables us to identy them.” (p. 97)

P. de Bruin S.J. (1937). Philosophie der Techniek. Studia Catholica 13 (1937),pp 437-464.

Butlin, P. et al. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness Preprint at https://arxiv.org/abs/2308.08708 (2023).

Chalmers, David. (2020). ‘What is conceptual engineering and what should it be?’, Inquiry, https://doi.org/10.1080/0020174X.2020.1817141

Mark Coeckelbergh (2012). Growing Moral Relations: Critique of Moral Status Ascription. New York: Palgrave MacMillan (2012).

Ethics and moral practices are parts of our ‘form of life’. Meta-ethics cannot escape from this. But this shouldn’t lead to relativism. We can’t not take part. Moral stance is implicit in our way of life, in the relations we practice, in the language we use to order our world.

Mark Coeckelbergh (2014). The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. (2014) 27:61–77.

Coeckelbergh, M., and Gunkel, D. (2023). ‘ChatGPT: Deconstructing the Debate and Moving It Forward‘ in AI & Society. Online first 21 June 2023.

Maarten Coolen (1992). De machine voorbij: over het zelfbegrip van de mens in het tijdperk van de informatietechniek. Boom Meppel, Amsterdam, 1992.

Maarten Coolen (1987). Philosophical Anthropology and the Problem of Responsibility in Technology. In P. T. Durbin (Ed.), Philosophy and Technology, Vol. 3: Technology and Responsibility (pp. 41-65). Dordrecht: Reidel.

“Information technology must be conceived of as the objectification of the modern self-concept of man as an autonomous being.” 

Louk Fleischhacker (1992). Wijsbegeerte van het Wiskundig Denken en van de Informatietechniek, syllabus van het collegejaar 1990/91. Faculteit der Wijsbegeerte en Maatschappijwetenschappen, Universiteit Twente, 1992.

Louk E. Fleischhacker (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.

Het project dat Fleischhacker hier ter hand neemt is de deconstructie van het mathematisme. Deze deconstructie houdt noodzakelijk een nieuwe metafysica in.

Louk E. Fleischhacker (1998). On the notion of life. Theory of Bioscience. 117:139-160. In dit artikel geeft Louk een eigentijdse ‘vertaling’ van de natuurfilosofie van Hegel opgevat als een kritische filosofische theorie van het leven.

Frege, Gottlob (1892). Uber Sinn und Bedeutung. Opgenomen in: Gottlob Frege: Funktion, Begriff, Bedeutung, Uitgave: Vandenhoeck & Ruprecht in Gottingen, pp. 40-65, 1975.

Frege voert de term ‘Gedanke’ in voor de inhoud van een oordeelszin:”Ein solcher Satz enthält einen Gedanken.” “Ich verstehe unter Gedanke nicht das subjektive Tun des Denkens, sondern dessen objektiven Inhalt, der fähig ist, gemeinsames Eigentum von vielen zu sein.” (Voetnoot p. 46).

“Warum genügt uns der Gedanke nicht? Weil und soweit es uns auf seinen Wahrheitswert ankommt. Nicht immer ist dies der Fall. Beim Anhören eines Epos z.B. fesselen uns neben dem Wohlklange der Sprache allein der Sinn der Sätze und die davon erweckten Vorstellungen und Gefühle. Mit der Frage nach der Wahrheit würden wir der Kunstgenuss verlassen und uns einer wissenschaftlichen Betrachtung zuwenden.” (Frege, Über Sinn und Bedeutung, 1892, p. 48)

Of het ons “gleichgultig” is dat ChatGPT ons een werkelijkheid voorstelt die waar is of niet, hangt daarvan af of we deze machine als kunstwerk dan wel als wetenschappelijk beschouwen.

“Ich verstehe unter dem Wahrheitswerte eines Satzes den Umstand, das er wahr oder das er falsch ist.” (Frege, 1892, Über Sinn und Bedeutung)

Erving Goffman (1967). Interaction Rituals: essays on face-to-face behavior. 1967.

Gunkel, David J. (2012). The machine question: Critical perspectives on AI, robots, and ethics. Cambridge: MIT Press.

Gunkel, David J. (2014). The Rights of Machines–Caring for Robotic Care Givers. Presented at AISB 2014. Chapter in the Intelligent Systems, Control and Automation: Science and Engineering book series (ISCA,volume 74).

Gunkel, David J. (2017). The Other Question: Can and Should Robots have Rights? In: Ethics and Information Technology, 2017.

Gunkel, David J. (2023). Person, Thing, Robot A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.

“Ultimately, then, this is not really about robots, AI systems, and other artifacts. It is about us. It is about the moral and legal institutions that we have fabricated to make sense of Things. And it is with the robot— who plays the role of or occupies the place of a kind of spokesperson for Things— that we are now called to take responsibility for this privileged situation and circumstance.” (p. 184)

Gunkel beschouwd Thing als “…a monstrous excrescence that escapes the conceptual grasp of existing categories.” (p. 166-167)

De meest expliciete realisatie van dit conceptuele monster is noch ding, noch persoon, de robot. Om de status van dit Thing te snappen moeten we de klassike dichotomie persoon/ding deconstrueren. En dat is het project dat Gunkel uitvoert: deconstructie van de klassieke ontologie.

Hacking, Ian (2006). The Emergence of Probability: a philosophical study of early ideas about probability, induction and statistical inference. Second Edition, Cambridge University Press, 2006.

Georg W.F. Hegel (1830/1970), Enzyklopädie der Philosophischen Wissenschaften, Zweiter Teil, Die Naturphilosophie. Theorie Werkausgabe 9, Suhrkamp, 1970.

Georg W.F. Hegel (1969). Jenaer Realphilosophie – Vorlesungsmanuskripte zur Philosophie der Natur und des Geistes von 1805-1806. Uitgave Johannes Hoffmeister, Verlag von Felix Meinder, Hamburg, 1969.

Gert-Jan van der Heiden (2021). Metafysica: van orde naar ontvankelijkheid. Boom uitgevers, Amsterdam, 2021.

Hollak, J.H.A. (1968). Betrachtungen über das Wesen der heutigen technik. Kerygma und Mythos VI Band III, Theologische Forschung 44, 1968, Hamburg, Evangelischer Verlag, pp 50-73. Dit is de vertaling van het Italiaanse artikel (Hollak 1964) Ook opgenomen in de bundel Denken als bestaan, het werk van Jan Hollak (Hollak en Platvoet, 2010).

Hollak, J.H.A. (1964). Considerazioni sulla natural della tecnica odierna, l’uomo e la cirbernetica nel quadro delle filosofia sociologica, Tecnica e casistica, Archivo di filosofia, 1/2, Padova, 1964 pp. 121-146, discussie pp 147-152.

Hollak, Jan en Wim Platvoet (red.) 2010. Denken als bestaan: Het werk van Jan Hollak. Uitgeverij DAMON, Budel, 2010. In deze bundel het transcript van de opname van het Afscheidscollege over de hypothetische samenleving door Jan Hollak gehouden in Nijmegen op 21 februari 1986. Ook de inaugurele rede Van Causa sui tot Automatie is hierin ogenomen.

Vincent Icke (2021). Licht – tussen waarheid en wetenschap. Prometeus, Nieuw Licht, Amsterdam, 2021.

Begrip is iets anders dan intelligentie, zegt Icke. Intelligentie betekent bedenken wat de gevolgen zouden kunnen zijn van een bepaalde oorzaak. “Begrijpen werkt andersom: bedenken wat de oorzaak kan zijn van een waargenomen gevolg.” Maar dat bedenksel moet wel getest worden. Begrip is er pas wanneer het bedenksel juist blijkt te zijn. Begrip is van een hogere orde dan kennis, zegt Icke. Daarbij vat hij ‘kennis’ op als het resultaat van het vergaren van gegevens, het doen van experimenten en het vastleggen van resultaten. “Maar uit een stapel resultaten volgt geen begrip”. (p.43).

Manuel Gustavo Isaac (2023). Which Concept of Concept for Conceptual Engineering? Erkenntnis (2023) 88:2145–2169. https://doi.org/10.1007/s10670-021-00447-0

Jürgen Kaube (2022). Hegel – een biografie. Uitgeverij Ten Have, 2022.

Olya Kudina (2019), “The technological mediation of morality: Value dynamism, and the complex interaction between ethics and technology”, PhD dissertation, University of Twente, Enschede.

Levinas, E. (1987). Collected Philosophical Papers. Trans. Alphonso Lingis. Dordrecht: Martinus Nijhoff.

Emmanuel Levinas (1971). Het menselijk gelaat. Vertaald en Ingeleid door O. de Nobel en A. Peperzak. Ambo, 1969, Bilthoven. Hierin: Betekenis en zin, pp.152-191. (Vertaling van La signification et le sens. in: Revue de Métaphysique et de Morale 69 (1964), 125-156.)

Levinas, E (1951). L’ontologie est-elle fondamentale? In: Revue de Métaphysique et de Morale 56 (1951) 88-98.

Arnold Metzger (1964). Automation und Autonomie. Das Problem des freien Einzelnen im gegenwärtigen Zeitalter, Neske, 1964.

Ray Monk (1991). Ludwig Wittgenstein – het heilige moeten, een biografie. Prometheus, Amsterdam, 1991. Vertaling door Ronald Jonkers, van Ludwig Wittgenstein – the duty of genius, Ray Monk, 1990.

Mulisch, Harry (1998). De Procedure. Uitgeverij De Bezige Bij, Amsterdam. 1998.

Navon, Mois (2023). Let us make man in our image‑a Jewish ethical perspective on creating conscious robots. AI and Ethics, 2023.

Van de Poel, Ibo, et al. (editors) (2023). Ethics of Social Disruptive Technologies. Open access boek van het ESDIT consortium.

Toivakainen, Niklas (2015). Machines and the face of ethics. In: Ethics and Information Technology, Springer, 2015.

Otto Weininger (1903/1920). Geschlecht und Charakter – eine prinzipelle Untersuchung. 19de druk, Wien/Leipzig, 1920.

“Dieses Buch unternimmt es, das Verhältnis der Geschlechter in ein neues, entscheidendes Licht zu rücken.” (voorwoord, eerste druk)

Otto Weininger (1984). Geslacht en karakter: een principieel onderzoek, (Vert. Tineke Davids) Amsterdam, De Arbeiderspers, 1984

Wittgenstein over Weiniger:

“Het is waar dat hij fantasie heeft, maar een grootse fantasie. Je hoeft het niet
met hem eens te zijn, of beter, je kunt het niet met hem eens zijn, maar het
grootse ligt in datgene waar we het mee oneens zijn. Het is zijn enorme vergissing
die groots is. Ik bedoel, globaal gezegd, als je een ~ (bedoeld wordt het teken voor de logische negatie uit de mathematische logica – RodA) voor het hele boek zet, drukt het een belangrijke waarheid uit.” (Monk, The Duty of Genius)

Over het centrale thema van Weiningers boek dat vrouwen de bron van
alle kwaad waren, gaf Wittgenstein tegenover Drury toe: “How wrong he was, my
God he was wrong.” (zie Fleischhacker, De Henide als paradigam, Otto Weiningers invloed op Ludwig Wittgenstein.)

Westerblad, Oscar (2023). Deweyan conceptual engineering: reconstruction, concepts, and philosophical inquiry. Inquiry https://doi.org/10.1080/0020174X.2022.2118163

Wittgenstein, Ludwig (1973). Tractatus logico-philosophicus. Logisch-philosophische Abhandlung. Ed. Suhrkamp, Uitgave 1973. Oorspronkelijke Duitstalige uitgave 1921.

Wittgenstein droeg de Tractatus (1921) op aan zijn vriend David Pinsent. In het voorwoord waarschuwt Wittgenstein zijn lezer: de stellingen in dit boek zullen vermoedelijk alleen begrepen kunnen worden door die lezer die zelf al eens dergelijke gedachten gehad heeft. Waarmee hij misschien wel een kerngedachte van zijn denken uitdrukt, namelijk dat de taal niet geschikt is om wezenlijke dingen mee te communiceren.

Wittgenstein, Ludwig (2006). Filosofische Onderzoekingen. Vertaling Maarten Derksen en Sybe Terwee. Boom, Amsterdam, 2006. De oorspronkelijk Duitse tekst verscheen in 1953 bij Basil Blackwell te Oxford.