Het Koesdoekje en de Groeiende Morele Relaties van Mark Coeckelbergh

In de serie Denken in tijden van Corona gaat het deze keer over het koesdoekje en de kwestie of dingen zoals een koesdoekje of een sociale robot een ‘morele status’ hebben en waardoor dat bepaald wordt.

HitchBOT was een in Canada gemaakte robot die al liftend door Canada, Duitsland en Nederland trok. Het kon niet lopen, zat in een soort rolstoel, maar wel een eenvoudig gesprek voeren. Het doel van de makers was te zien of robots mensen kunnen vertrouwen. HitchBOT werd door de pers in vele landen gevolgd. De robot werd populair. Op 5 Augustus 2015 verscheen het bericht dat de robot door vandalen was onthoofd en gesloopt.  “They sent us images and it’s really beyond repair. There’s not a single wire inside and all the things are broken.” rapporteerde één van de makers. Uit de woorden die de mensen gebruikten bij het uiten van hun oordeel over dit gebeuren blijkt een diepe empathie met de robot. Mensen die het hoorden spraken er schande van om de ‘arme robot’ zo te ‘mishandelen‘.

Weer anderen verbazen zich over het feit dat sommige mensen uiting geven van een emotionele relatie met een sociale robot, wat toch eigenlijk niet meer dan een technisch ‘ding’ is.

Verschillende etnografische studies laten zien dat autonome robots die voor hulp in de huishouding zijn aangeschaft, zoals bijvoorbeeld een stofzuiger, vaak als sociale entiteiten worden beschouwd (Forlizzi, 2007). De techniekfilosoof Marc Coeckelbergh vraagt zich af hoe we dit gedrag en deze empathische relatie met sociale robots moeten begrijpen. “Gegeven het feit dat een robot een machine is, is dit gedrag verwarrend”. (Coeckelbergh, 2018).

Maar is een robot ‘slechts een machine’?

De één zegt: een robot is een machine. Een ander zegt, de robot is meer dan een machine. Bedoelen beide dan hetzelfde met ‘machine’, wat is een machine? Dit is de vraag naar de wijze van zijn van het technische ding. Kunnen dingen misschien op verschillende wijzen ‘zijn’? Voor de ontwerper is de robot misschien een machine, maar voor de ‘gebruiker’ of voor zij die er mee leven is het meer dan een machine. Is het ook niet juist de bedoeling van de ontwerper van de sociale robot dat deze sociale gedragingen ‘vertoont’, dat zij dingen doet of zegt die wanneer ze door mensen worden gedaan als sociaal gedrag worden gezien? Zoals het opsteken van een hand, tonen van een glimlach en het goedendag zeggen.

Een moreel oordeel is een oordeel van iemand of diens gedrag als zijnde goed of slecht. Het betreft altijd een beoordeling door een ander, iemand die van buiten het gedrag de maat neemt. Die ander kan het zelf zijn, de innerlijke stem van het geweten, maar altijd is het een oordeel gevormd door opvoeding en cultuur. Het is de ander die ons zelfbeeld bepaalt. Een beeld waartegen we ons tegen kunnen afzetten of dat we kunnen accepteren.

Over opposities

Nietzsche beschouwde het denken in opposities (tegenstellingen) zoals: subject-object, geest-lichaam, oorzaak-gevolg, een typische en bedenkelijke eigenschap van de filosofen. Het is een typische eigenschap van het verstand zaken van elkaar te onderscheiden. Dat is noodzakelijk willen we als mens iets van de werkelijkheid begrijpen. Maar wanneer we tot begrip willen komen zullen we de onderscheiden aspecten terug moeten herkennen in de werkelijkheid waarin ze niet als gescheiden zaken aanwezig zijn. Het is een kenmerk van het populaire wiskundige denken de onderscheiden zaken te objectiveren (tot getallen en structuren) en af te zien van hun verwijzing naar de werkelijkheid waaruit ze geabstraheerd zijn.

In zijn Categorieën onderscheidt Aristoteles 4 types opposities. Contradictoire (1): het gaat om dezelfde inhoud die wel of niet is: zijn en niet-zijn; privatieve (2): wel of niet aanwezig zijn van een wezenlijke eigenschap: blind-ziend; contraire (3): het gaat om uitersten: warm-koud. De vierde is de relatieve tegenstelling (4): ouder-kind. De termen ‘ouderschap’ en ‘kindschap’ verwijzen naar de relatieve opposities, de relata van de relatie, in absolute zin genomen.

Het is lastige materie. Is er bijvoorbeeld bij ware versus onware oordelen sprake van een contradictoire, van een privatieve of van een contraire tegenstelling? Kunnen we bij mens en machine ook spreken van een verabsolutering van de delen van een relatieve tegenstelling, zoals wanneer we een persoon ‘moeder’ of ‘zoon’ noemen?

Het stoicisme bekritiseert de oppositie tussen de theoretische weten (episteme) en het praktische weten (techne). De deugd (virtue) is beide: zowel inzicht als praktische kennis: levenskunst.

In dit stukje gaat het over verschillende relaties die we met de werkelijkheid kunnen hebben en over de morele kant ervan. In het bijzonder over de morele relatie tot de sociale robot.

De sociale robot als transitional object

Ik ben al vrij oud dus u weet misschien niet wat een koesdoekje is. Een koesdoekje is een doekje waarmee het nog jonge kind knuffelt. Je zou het dus ook een knuffellapje kunnen noemen. Of slaapdoekje, want ‘koese’ is Fries voor slapen, maar dan wel op zijn babies. Volwassen mensen koese niet; ze slapen (Fries:sleape). Misschien is er een relatie met het Franse ‘couché’, of met het Engels ‘cosy’.

Maar waarom een koesdoekje? Wat is de functie ervan? Welke betekenis heeft het? Daar is over nagedacht en daar kwam uit dat een koesdoekje een transitieobject (Eng. transitional object) is.

Linus Lijntje met zijn koesdoekje

Het koesdoekje zoals ik dat ken is een beetje een smotsig doekje, smotsig geworden door het geflieber van de kleine. Het koesdoekje is al een tijdje door het kleintje in gebruik onder andere om de moedermelk die het kleine ding opboert af te vegen. Geur is onze oudste en diepste emotionele band met de wereld om ons heen en voor de kleine frabbe bestaat die wereld in eerste instantie uit de moederborst en de emotionele band bestaat in de geur van de moedermelk. Je moet zo’n koesdoekje dus nooit wassen. Dat zou een doodzonde zijn. Een immorele daad pur sang. Wat smotsig is voor de één, is fijn voor de ander. En met dat verschil hebben we rekening te houden in ons omgang met en ons oordeel over de dingen.

De dingen leiden nu eenmaal niet een geïsoleerd bestaan; ze zijn wat ze zijn in allerlei relaties tot elkaar en tot ons. Zoals voor de één het koesdoekje de emotionele band met de moederborst is, en voor de ander een smotsig lapje, zo is voor de één de auto een vervoermiddel, voor de ander een geliefd bezit dat verzorgd wordt, voor weer een ander een machine die gerepareerd moet worden.

Een koesdoekje is dus een transitieobject. Geleidelijk aan kan de functie van het lapje stof worden overgenomen door andere dingen, een beertje, een aapje. Het vieze ding kan dan eindelijk in de wasmaschien.

De psycholoog Winnicott(1971) beschrijft het transitieobject als “the infant’s first ‘not-me’ possession – often a stuffed animal or soft blanket grasped while the child sucks on his or her finger(s)”.

Het is één en al lichamelijke sensibiliteit, zo’n pas geboren kind. Het transitieobject representeert volgens Winnicott de ervaring van het kleine kind met de buitenwereld. Maar om wat voor transitie gaat het?

“The object represents the infant’s transition from a state of being merged with the mother to a state of being the relation to the mother as something outside and separate” (Winnicott 1971, p. 14). Het gaat dus om de overgang van een toestand waarin er voor het kind geen onderscheid bestaat tussen het zelf en de ander (de moeder) naar een toestand waarin de ander een ander is geworden. Niet alleen lichamelijk gescheiden maar nu ook psychisch gescheiden van het zelf.

Het koesdoekje speelt dus een rol in het proces van volwassen worden van het individu.

Vanaf het moment dat de navelstreng is doorgesneden begint een proces van zelfstandig worden en afstand nemen. De moederband waarin moeder en kind nog lichamelijk één waren wordt steeds meer een band tussen zelfstandige mensen, elk met een eigen lichaam en persoonlijkheid; het kind zal zich ontwikkelen als lichamelijk zelfstandig lid van een samenleving. Wat overigens niet wegneemt dat die zelfstandigheid betrekkelijk is en blijft.

Het transitieobject (de Witte overweegt de term ‘overgangsobject’, maar gebruikt de Engelse term ‘transitional object’) zou volgens de psychologen het opgroeiende kind moeten helpen in de overgang van de symbiotische relatie met de moeder (‘the good enough mother’, Winnicott) als zuigeling naar de periode van volwassenheid, individualiteit en zelfstandigheid. De ontdekking van het ik in onderscheid van het andere is een moeizaam proces. De moeder blijkt ook wel eens even weg te zijn. In het koesdoekje blijft ze, in de vorm van haar geur, nog in zekere zin aanwezig. De mens identificeert zich aanvankelijk met het vertrouwde andere. Ik herinner me het kind dat naar zijn tandenborsteltje wijst en zijn naam roept. In de verandering in de wijze waarop het nog jonge kind via woorden naar zichzelf verwijst, eerst door zijn eigen naam, later door middel van ‘ik’, blijkt een andere verhouding tot zichzelf en de ander.

Van robots houden

Sherry Turkle is een psychoanalytisch getrainde psychologe, die veel waarde hecht aan persoonlijke relaties en intimiteit. (Wie niet?) In Alone Together beschrijft ze hoe geschokt ze was toen ze geconfronteerd werd met David Levy’s boek Love and Sex with Robots (Levy, 2007). Daarin worden robots als een nieuwe vorm van leven gezien, een vorm van leven waarmee je een relatie kan hebben waarin je je prettig voelt. Bij Turkle roept het de vraag op of dit wel kan: een relatie met een robot. Het antwoord is simpel. Zo’n relatie is er altijd al vanaf het moment dat iemand met een robot kennis maakt. De vraag van Turkle is natuurlijk naar de kwaliteit van die relatie in vergelijking met de kwaliteit van de relatie die we hebben met andere mensen of met andere levende wezens, zoals huisdieren, huismussen, en dergelijke. Is een robot voor sommigen een persoon, zoals de moeder, of de zoon, of een vriend?

Levy droeg zijn boek op aan een zekere Anthony (pseudoniem voor) een MIT computer hacker, een verlegen jonge man, met een zekere angst voor intieme relaties. In zijn interaktie met de computer voelde Anthony zich minder alleen, bekende hij in een interview met de psychoanalytica. Misschien was een relatie met een robot wel een goeie eerste stap voor mensen zoals Anthony, dacht Levy. Turkle had daar dus zo haar bedenkingen bij. Welke relaties met machines zijn eigenlijk mogelijk en vooral ook welke zijn ethisch acceptabel? Vraagt zij zich af.

‘Ethisch acceptabel’? Op grond waarvan beoordelen wij mensen en wat ze doen als zijnde goed of slecht?

Sherry Turkle is niet de enige die zich dat afvraagt. Ondertussen worden sex robots online aangeboden en maken mensen zich zorgen over het ‘gedrag’ van sommige robots. Doen ze mensen wel goed? “Human flourishing should be the key to how intelligent systems governed” (Dame Ottoline Leyser, co-chair van de Royal Society’s science policy advisory group). Maar wat is dat ‘human flourishing’. Wat is het kenmerk van een gezonde, volwassen en bloeiende relatie?

Maar eerst nog even over het koesdoekje. Wat maakt dat lapje nou een koesdoekje? Is dat een eigenschap van het koesdoekje als stoffelijk object? Nee, het is de functie of betekenis die het lapje heeft voor het kleine kind. Het gaat om de behoeftige relatie met de moeder. Welbeschouwd is dat koesdoekje net zo min een object als dat een moeder een huisvrouw is die de was doet. Dat zijn allemaal abstracties, bedenksels van ons verstand dat alles uit elkaar denkt. Het koesdoekje is de geurige relatie van het kind met de moeder en een fase in de ontwikkeling van een levensvorm naar … Ja, naar wat eigenlijk? Volwassenheid. Is dat het stadium waarin het kind zich gaat herkennen en vertrouwd voelt met de poppen, die het koestert en verzorgt, zoals de moeder hem verzorgt, en later, wellicht, met de sociale robots?

Kan een robot de plaats van het koesdoekje innemen op weg naar een volwassen relatie met een ander mens, dat is met een ander lichamelijk subject dat op dezelfde wijze zoekt naar een zelfbewust en ander-bewust leven in relatie met anderen? De bevrediging van het koesdoekje zit hem in de nog puur lichamelijke behoeftigheid van het prille leven.

De robot heeft geen lichaam en kan zich derhalve niet blootgeven. In de sexuele relatie is de robot object ten dienste van een primair lichamelijke bevrediging. Deze kan niet opgenomen en opgeheven worden in een volwassen intersubjectieve relatie zoals die tussen twee mensen kan bestaan. Het lichaam is middel in de intersubjectieve relatie tussen personen, maar het is geen uitwendig middel. De filosoof Barendse heeft in zijn Intersubjectief verkeer en lichamelijkheid de betekenis van het lichaam in de communicatie geanalyseerd (Barendse, 1951). Het lichaam is geen instrument dat gebruikt wordt. Het is de onmiddellijke uiting van de persoon, niet louter buitenkant. De persoon is ‘lichamelijk subject’ dat zich in een volwassen relatie blootgeeft. Anders dan in een autistische relatie met een seksrobot staat de seksuele relatie van volwassen, morele subjecten respecterende personen in het teken van een liefdesrelatie. Ook in een relatie met een sekswerker, gaat het de mens niet puur en alleen om de lichamelijke behoeftebevrediging. De professionele sekswerkers zijn zich zeer bewust van hun sociaal-emotionele rol. Ze zijn dienstverleners. Anderzijds is er ook in de relatie tussen volwassen personen sprake van een objectivering van de ander als ‘lustobject’.

De moraliteit van een relatie groeit met de relatie. De morele relatie met het koesdoekje, de (seks)robot, de sekswerker is een ander dan de morele relatie tussen volwassen elkaar als persoon respecterende mensen.

De mens heeft de neiging zaken uit elkaar te denken die in werkelijkheid aspecten zijn van één en dezelfde activiteit. Men heeft de neiging de relatie te denken als iets extras dat aan de buiten de relatie staande entiteiten wordt toegevoegd. Het is de typische eigenschap van het verstandelijke denken dat de aspecten uit elkaar denkt, ze van elkaar scheidt en benoemt. Een vorm van abstractie die het denken eigen is, zo betoogt de filosoof G.W.F. Hegel in zijn bekende essay “Wer denkt abstract?”.

Wie denkt, denkt abstract. Ik hoef om deze stelling te verhelderen slechts een paar alledaagse ervaringen aan te halen die iedereen herkent. Een moordenaar wordt voor de rechter geleid. Voor het volk is hij niet meer dan een moordenaar. Dames merken op dat het een mooie, knappe en interessante man is. Wat! zegt het gemene volk, een moordenaar knap? Hoe kan men zo denken! Jullie zijn ook niet veel beter dan die man. Dit is het zedenbederf dat onder de voorname mensen heerst, voegt een priester, die de voedingsbodem en de harten van de mensen kent, er aan toe.” (Eigen vertaling van een passage uit: Wer denkt abstract?, G.W.F.Hegel, 1807 )

De morele vraag van Sherry Turkle hoe je je moet verhouden tot iemand die sex heeft met een robot (is dit geen ‘zedenbederf’?), roept voor sommigen de vraag op naar de mogelijkheid van een relatie met een robot. Wat is dat voor vraag? Wat zijn de vooronderstellingen van dit soort vragen? Gaat het om een probleem dat opgelost moet worden door het denken? Door wie? Welke kennis kan het resultaat zijn van het denken over dit soort morele kwesties? Wie is gerechtigd hierover een moreel oordeel uit spreken? Op grond waarvan? Moederschap en kindschap bestaan in de persoon die kind is en in de vrouw die moeder is. Bestaat een machine zonder de mens voor wie de machine machine is?

Het koesdoekje is niet louter een object. Het verwijst naar een levensvorm. Het staat voor een heel netwerk van relaties. Voor een ecologie, een slagveld, een theater en een bijbehorend taalspel. Zoals het schepje waarmee ik de stekjes plant en dat ik voortdurend kwijt ben hoort bij mijn levensvorm als tuinier. Met de kapucijnerplantjes in de tuin. De muizen die mijn werk bedreigen, de muizeval met pindakaas. De morele kwesties die dat oproept. De fleurige veelkleurige bloei van de volwassen plant en de heerlijke verse erwtjes met spek, het dankbare loon na werken. Hoe dankbaar kunnen kapucijners zijn! En toch eet ik ze. Of toont de kapucijner de dankbaarheid juist in het nuttigen ervan?

De mens is op veel verschillende wijzen betrokken bij de dingen en de andere levende wezens. Naast familierelaties, zijn er sociale relaties, waarin hij een grote diversiteit aan rollen vervult, waarin hij verschillende relaties tot andere mensen staat: als buur, als teamlid, als consument, als producent, als werknemer, als werkgever, als burger, als min of meer actief lid van verschillende verenigingen. In deze veelheid van sociale relaties is de ene persoon het middelpunt.

Groeiende morele relaties

In Growing Moral Relations (Coeckelbergh, 2012) gaat het over de morele status van door de mens gecreëerde dingen. De vraag naar de morele status wordt opgeroepen door de omgang die we hebben met ‘intelligente’ apparaten die we soms als zelfstandig acterende subjecten ervaren, zoals de robot waar Sherry Turkle het over heeft en waar David Levy over schrijft. Coeckelbergh wijst erop dat de moraliteit een aspect is van de relatie die we met de dingen hebben. Deze dynamische morele relatie groeit met het groeien van de relatie tussen subjecten. ‘Machine’ zijn, machinaal werken zegt een relatie die we als zelfbewustzijn met een fysisch proces hebben: ‘de machine werkt’. De computer rekent voor ons. Een machine is slechts machine in relatie tot de mens voor wie deze werkt volgens een bepaald concept of ontwerp. De machine is een beeld of realisatie van de mens die zich in het werk op zinvolle wijze uitdrukt. De mens herkent iets van zichzelf in de machine, zijn ontwerp.

De ‘sprekende machine’ ontleent zijn zelfstandigheid aan die van de taal. De taal die we spreken heeft een vorm van zelfstandigheid die niet te reduceren is tot de geschreven woorden. De taal spreekt in zekere zin in ons, wanneer we denken. Wij leren de taal en daarmee de gemeenschap waarin we leven.

De taal vertegenwoordigt de intersubjectiviteit, de relatie die met anderen gegeven is, nog voordat we ons ervan bewust worden, zoals de relatie met de moeder er al is voordat het kind zich van deze band bewust is. De mens is niet aan de taal gebonden, ze stijgt boven de geleerde taal uit en geeft de woorden nieuwe betekenissen. De robot blijft bij de woorden staan; deze spreekt de geleerde taal van het verleden. De robot is door de mens gemaakt; anders dan het dier met wie de mens van nature verwant is.

De focus van Coeckelbergh (2012/2014) op de relatie in plaats van op de relata schijnt een ‘paradigmatische’ verandering te zijn in het denken over de moraliteit der dingen (Gunkel, 2013, 2018). Ze zou het ‘standaard model’ dat aan het denken over moraliteit ten grondslag ligt vervangen. Volgens het standaard model hangt de morele status van een entiteit af van zekere eigenschappen van de entiteit. Bijvoorbeeld zou deze ‘bewustzijn’ moeten hebben.

The alternative paradigm I have tried to articulate enables us to ask different questions, which are not about the properties of machines and other entities, but instead question whether we should call them “machines” at all and whether “they” are part of “us” or not.” (Coeckelbergh, 2014).

Is het spiegelbeeld waarin we ons herkennen een ‘part of us’? In zoverre het ons uitbeeldt kunnen we er ons mee identificeren. Wat lijkt op een mens is ook een beetje mens. Het is niet voor niets dat we sociale robots op mensen lijkende eigenschappen geven. Het is juist de bedoeling van de ontwerper dat we er een mens in zien, een ander zoals wij zelf. Het feit dat mensen empathie tonen met sociale robots is een teken dat het ontwerp, het idee, in de praktijk werkt en misschien wel meer nog dan de ontwerpers hadden verwacht. In die zin is techniek ook altijd kunst, het resultaat plaatst ons voor verrassingen. Het heeft iets extra’s buiten wat het ontwerp inhield. De Canadese onderzoekers moesten experimenteel bepalen hoe hun sociale robot HitchBot, zou ‘functioneren’ als sociale constructie. (Searle 1995, Goffman 1967).

Zonder de wetmatige werking van de natuur zou de rekenmachine niet bestaan. Maar zonder de betekenis die wij aan de werking geven bestaat de rekenmachine ook niet; is het niet wat het is. Zonder de seksueel behoeftige natuur van de mens zou de sex robot niet bestaan.

Wij kunnen slechts vanuit ons standpunt als mens over de relatie spreken. Machine zijn zegt een relatie, moeder zijn zegt een relatie. We kunnen niet afzien van de geschiedenis van de woorden die aan de woorden een betekenis en gebruik heeft gegeven. De woorden horen bij een levensvorm. Een machine werkt machinaal, een rekenmachine rekent, een geprogrammeerde machine werkt volgens een bepaald programma. Anders dan hun gebruikers zijn machines programmeerbaar. Maar de mens kan zich wel laten programmeren. Bijvoorbeeld wanneer hij volgens de handleiding een machine bedient. De mens weet wat het betekent programmeerbaar te zijn en dat hij zelf daar niet in op gaat. Hij kan afstand nemen van zijn behoeftigheid en de neiging tot objectiveren.

We kunnen niet spreken voor de ander, voor het andere. De ander moet voor zichzelf spreken en zijn eigen plaats en rol opeisen, respect afdwingen. De ander ontsnapt in de relatie aan de denkbeelden die we over de ander hebben. De relata verhouden zichzelf tot de dynamische relatie. De dochter wordt zelf moeder, en ze neemt op den duur de zorg voor haar moeder over.

De persoon gaat niet op in de relaties die hij met de dingen en de anderen heeft. De persoon verhoudt zich tot deze relaties.

Ik noemde het wassen van het koesdoekje een ‘doodzonde’. Met opzet. Het gaat hier om een morele zaak, om een ethische kwestie. Er wordt iets vernietigd. In hoeverre mogen wij oordelen over en inbreken in een levensvorm waar wij volstrekt buiten staan? Iedereen heeft recht op zijn eigen levensvorm. Daarbij horen vrienden en vijanden en morele kwesties. Wat telt voor de psychoanalytica Sherry Turkle is de heilzaamheid van de levensvorm. Of het nu gaat om een Minister van Defensie die sex heeft met een robot of om een Minister die een munitiefabriek in Irak laat bombarderen met F16s. Het gaat erom hoe gezond deze levensvorm is. Is het liegen en bedriegen een organisch onderdeel van een bepaalde ecologie? Of bloeit er iets moois op, zoals uit de kapucijnererwtjes in mijn tuintje, uit de relatie van Anthony met zijn computer, of uit het koesdoekje dat staat voor de emotionele band met de moeder?

De robot is het koesdoekje van de moderne mens op zoek naar zelfstandigheid.

We moeten ons altijd op één of andere manier identificeren met iets in de werkelijkheid. Met ons beroep, met onze sociale rol, met onze leefwijze en de dingen die daarin een plek hebben. Wanneer dat wegvalt door pensionering of ontslag, door echtscheiding of de dood van een geliefde zijn we onze identiteit kwijt. Het ‘transitional object’, het koesdoekje of het beertje is een manifestatie van deze noodzakelijke objectivering van zelf-expressie.

Filosofisch kunnen we de relatie met de sociale robot zien als manifestatie van deze zelf-objectivering in de vorm van de kunstmatige intelligentie. De filosoof Louk Fleischhacker (1995) spreekt van het realiseren van een ‘external identity’, een extern geprojecteerd beeld van onze zelf-identificatie. We houden hieraan vast omdat ze wezenlijk zijn voor onze levensvorm. Zonder zo’n levensvorm is ons bestaan leeg. Het verlies ervan is wat tegenwoordig een ‘life changing event‘ heet. Door middel van psychoanalyse of met hulp van een ‘life style coach‘ moeten we op zoek naar de ‘invariant’, onze identiteit die in die verandering hetzelfde blijft, een ‘diepere’ versie van ons zelf.

Na ‘de dood van God’ heeft het geloof in het wetenschappelijk-technisch wereldbeeld voor de moderne westerse mens de rol van de religie en het daarin heersende wereldbeeld overgenomen. De autonome technologie is de uitwendige objectivatie van dit mathematisch wereldbeeld, waarin de mens zich als autonoom individu tracht te realiseren.

Het wassen van het koesdoekje, waardoor de geur, zijnde een wezenlijk iets ervan vernietigd wordt en daarmee het koesdoekje zelf, is een (im)morele daad. Mensen verscheuren een afbeelding van iemand die ze haten. Niet omdat ze de afbeelding haten, maar omdat ze de afgebeelde persoon haten, zoals ze die kennen. Voor hun staat in die daad de afbeelding voor de persoon die ze erin herkennen.

De reden voor de verwondering over de empathie die mensen hebben met sociale robots is van dezelfde aard als die voor de verwondering over het omhelzen (dan wel verscheuren) van een beeld of afbeelding van een geliefd (respectievelijk gehaat) persoon.

Van de stoïcijnen kunnen we leren dat het beter is de liefde en de haat in de liefhebber respectievelijk de hater te zetelen dan in de geliefde of de gehate persoon. Alleen dan kunnen we er immers wat mee doen.

De sprekende robot kan volgens sommigen een stap zijn in de ontwikkeling van het inzicht in zelfstandigheid als intersubjectiviteit, in de relatie met een ander zelfbewustzijn voor wie we zijn. De robot is nog slechts projectie, een uitwendige objectivatie van de eigen verbeelding van zelfstandigheid. Deze robot is een technische zelfstandigheid, een uitwendige, geconstrueerde eenheid van een mathematische functie en een fysische proces ten behoeve van een door de mens bedachte werking. De robot vertelt niet zijn eigen levensverhaal; het bevat fragmenten van verhalen door de ontwerpers ingevoerd, als data.

De robot eist geen rechten op. De robot is niet van zichzelf en handelt niet uit zichzelf. De robot reageert op geleerde wijze op onze vragen. Het geeft geen antwoorden op vragen die niet gesteld zijn. Daarom is de robot geen moreel subject in eigenlijke zin, zoals de mens moreel subject is. Wie moreel subject wil zijn moet strijd voeren om als moreel subject geaccepteerd te worden door degenen die daarvoor ontvankelijk zijn.

De sociale robot is een vorm van intersubjectiviteit aangeleerd door de makers ervan. Deze gemaakte intersubjectiviteit die in de ‘gedragingen’ van de robot is vastgelegd dringt zich op aan de gebruiker die zich in deze vorm moet zien te vinden, want deze vorm staat buiten de intersubjectieve relatie die de gebruiker vanuit zichzelf met de robot heeft. Deze uitwendigheid van de vorm ten opzichte van de inhoud is typerend voor het mathematisch/technische karakter van de kunstmatige intelligentie. De relatie tussen het gebaar dat de groetende mens maakt en het groeten is van een andere orde dan de relatie tussen het opsteken van de arm door de sociale robot en het gebaar van groeten dat de mens er in herkent. In de menselijke orde is het gebaar een uiting van het groeten. Deze uiting heeft een uitwendige kant, waaronder het opsteken van de arm. Door middel van simulatie van deze uitwendige kant van deze ‘gedraging’ (‘behaviour’) in de juist omgeving uitgevoerd kan de robot de suggestie wekken de mens te groeten.

We begonnen met een tegenstelling. Met de sociale robot hebben we zowel een technische relatie als ook een sociale relatie. Maar is dit wel een zuivere tegenstelling? Hoe verhouden die twee relaties zich tot elkaar?

Techniek moet dienstbaar zijn aan de mens om techniek te zijn (De Bruin, 1937). Maar de specifieke dienst die het algemene beschikbare instrument de gebruiker bewijst overtreft het technische, het is een economische relatie. We eisen van het instrument dat het hanteerbaar, aanspreekbaar en gebruiksvriendelijk is. Het instrument moet uitnodigen tot gebruik. Zonder deze sociale kwaliteiten zou techniek niet zijn waar het voor bedoeld is, dat is: om gebruikt te worden.

De sociale robot is de uitwendige objectivering van de bruikbaarheid van het technische.

Vaak worden de technische en de economische aspecten van ons handelen niet goed uit elkaar gehouden. Wanneer we iets als technisch opvatten dan zien we het als gemaakt volgens een concept zodat gebruik gemaakt wordt van de eigen werking en eigenschappen van de natuur die zodanig gecombineerd worden dat een bedoelde werking ontstaat. Dat hoeft geen werking te zijn die nuttig is voor de mens. Het kan ook als demonstratie van de natuur zelf gezien worden. De zelfstandigheid ontleent het technische aan de begrepen effectieve werking van de constructie. De nuttigheid heeft betrekking op de inzet van de techniek voor de mens, bijvoorbeeld in het arbeidsproces, om de mens te ontlasten. Daar wordt het algemene, abstracte middel ingezet voor een concreet doel. De eigen waarde van het technisch zit hem in deze algemene toepasbaarheid. De technische werking is zodra deze is uitgevonden sociaal in de zin dat deze van de gemeenschap is en in principe door iedereen begrepen en gebruikt kan worden. De waarde van de toepassing staat buiten de waarde van het middel als puur technisch. Het technisch is in die zin waarde-neutraal.

Waarom is de sociale robot een ‘uitwendige’ objectivering van de bruikbaarheid van de techniek? Die uitwendigheid heeft betrekking op het feit dat het om de reconstructie gaat van gedragingen op grond van regelmatigheden in het waargenomen gedrag van mensen in bepaalde omstandigheden. De robot heeft het uiterlijk van de mens en zijn bewegingen hebben de uiterlijke vorm van het menselijk gedrag en gebaren. De klanken die de robot in bepaalde omstandigheden produceert klinken als de woorden die de mens in vergelijkbare omstandigheden zou uitspreken. De klanken zijn uitwendig aan de betekenis die ze in een concrete situatie kunnen hebben wanneer ze bijvoorbeeld als expressie van een bedoeling of emotie worden opgevat.

Onze relaties tot de dingen komen tot uitdrukking in het taalgebruik. Een sociale robot die ‘de taken van een butler overneemt’ wordt door de gebruiker als butler gezien. Het abstracte concept ‘butler’ omvat een dienstbaarheidrelatie op grond van het vermogen van de robot een aantal taken uit te voeren. De sociale robots is slechts butler in zoverre deze de taken van de butler uitvoert. Maar we zeggen niet dat de butler ‘ziek’, maar dat deze ‘kapot’ is. Omgekeerde zeggen we van een levende butler niet dat deze ‘kapot’ is wanneer hij ziek is.

De arts die een patient behandelt ziet deze niet als een ding of machine. Voor de arts is de patient een mens, wat hij onderzoekt is een lichamelijk wezen, niet een dood mechanisme, dat niet goed functioneert. Dat is anders bij de robot. Deze is voor de technicus een machine en geen entiteit waarmee hij een persoonlijke relatie heeft. Bij de robot is het sociale gedrag iets dat van buiten af aan het instrument is opgelegd.

Waar Coeckelbergh op wijst is dat de wijze waarop we de robot of wat voor andere entiteit ook beoordelen een aspect is van de integrale relatie die we ermee hebben en die toont zich in onze omgang ermee. De programmeur heeft een andere relatie met de robot dan de bejaarde demente oudere die er een emotionele band mee heeft.

De ‘relational turn’ in de benadering van de vraag naar de morele status van de sociale robot vraagt niet aan welke eigenschappen deze moet voldoen om als morele entiteit te worden geaccepteerd, maar gaat uit van de relatie die we met de sociale robot hebben. Moraliteit toont zich in de praktische omgang met de dingen in onze omgeving. (Gunkel 2018).

De vraag is niet van belang of een robot pijn kan ervaren. Het gaat erom of we in onze omgang met de robot het gevoel hebben de robot pijn te doen. De robot kan zodanig gemaakt zijn dat het dit gevoel opwekt. Bijvoorbeeld door een luide schreeuw te produceren wanneer iemand de robot een schop geeft.

De robot heeft geen morele status die buiten de concrete relaties met de mens bestaat. De robot valt uiteen in een veelheid van verschillende ‘gedragingen’ en functies.

De filosoof kan zich uiteindelijk alleen beroepen op de eigen ervaring in relaties met anderen. Want niets is in het bewustzijn wat niet eerst in de zintuigen en in de beleving is geweest. De filosoof moet het van de taal hebben maar uiteindelijk gaat het bij het denken over moraliteit niet om de woorden, maar om de daden; niet om een filosofische theorie, maar om de praktijk, om hoe we met de dingen en de anderen omgaan.

In taal drukt de mens zijn persoonlijk beleefde verhouding tot de wereld uit.

Volgens Wittgenstein begeven we ons bij het denken over morele kwesties op de grens van de taal en is het uiteindelijk niet mogelijk een bevredigend antwoord op de vraag naar het goede in taal uit te drukken. Dat heeft alles te maken met het abstracte karakter van ons denken en van de algemeenheid van de begrippen en de woorden waarvan we ons bedienen.

Over de rol van de kunst

Kunst en techniek liggen dicht bij elkaar. De kunst overtreft het technische: het verwijst naar het empathische, het doet iets met de mens die meekijkt met de kunstenaar. Zodra de robot niet meer alleen afbeelding is van menselijke gedragingen en uiterlijkheden maar zelf een beeld is geworden, een eigen zelfstandigheid heeft gekregen voor de mens, een zelfstandigheid die het louter weergave zijn van een technisch ontwerp overtreft, houdt deze op technisch middel te zijn en wordt het kunst. We zien vanuit een nieuw perspectief wat eerst alleen machine was nu als een subject, waarmee we ons verwant voelen. Het artefact is dan een andere van ons zelf geworden. De beleving van degene die in het geluid dat de sociale robot produceert een betekenisvolle stem herkent (de ‘user experience’) is een toegift dat het door de wetenschap geanalyseerde en door de techniek gebruikte verband tussen fysische processen enerzijds en betekenisprocessen anderzijds te boven gaat.

Kunstenaars die instrumenten maken die “de taal van het lijden spreken” zetten de toeschouwer als het ware op het verkeerde been: ze voelen het lijden en empathie met het object, dat ze vanuit een ander, meer afstandelijk en nuchter perspectief kennen als een metalen, dode, constructie. Coeckelbergh (2018) noemt als voorbeeld het werk van de beeldend kunstenaar en theatermaker Kris Verdonck. Daarin staat de relatie tussen mens en ding, tussen levend wezen en materie, centraal.

Coeckelbergh (2018) wijst op de rol die de kunst kan spelen in het openen van nieuwe perspectieven op onze relaties met sociale robots. In het algemeen is het de kunst die onze door gewoontevorming ontstane ideeën en associaties doorbreekt en een nieuw perspectief op de werkelijkheid biedt.

“Onze gewoontes stellen ons in staat open te staan voor wat zich voordoet in situaties waarmee we vertrouwd zijn geraakt. Deze kunnen tot uitdrukking komen in de verhalen die we vertellen, maar ook in hoe wij motorisch omgaan met de dingen waarmee we te maken krijgen.” “Het kijken naar kunst moet er juist voor zorgen dat onze vertrouwde gewoontes doorbroken worden, want dan pas kunnen wij onze wereld op een fundamenteel nieuwe wijze zien.” stelt de filosoof Maarten Coolen in “Anders zien dan we gewend zijn.” (Coolen, 2013). Hierin wijst Coolen op de analyses van de moderne kunst door de Franse fenomenoloog Merleau-Ponty in Signes (1964).

When it comes to morality, we should be especially sensitive to those kinds of experience and relational situations (…), when categorization is not only unnecessary but itself an act of violence, when the only “reason” or “ethical imperative” is one that is already there in the situation and in the relation.” (Coeckelbergh 2014).

Het is de kunst die ons gevoeliger maakt voor nieuwe relaties door een nieuw perspectief op de werkelijkheid te tonen. Relaties die niet passen in de categorieën, perspectieven en rituelen die we gewoon zijn. Hierdoor kunnen ook onze morele relaties met de werkelijkheid groeien en kunnen we een beter zicht krijgen op de werkelijkheid.

Referenties

Barendse, B.A.M, 1951. Intersubjectief verkeer en lichamelijkheid. In: Zich door het leven heen denken: keuze uit het werk van prof.dr. B.A.M. Barendse. Kok, Kampen.

Mark Coeckelbergh (2012), Growing moral Relations: critique of moral status ascription. Palgrave MacMillan, 2012.

Mark Coeckelbergh (2014). The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. (2014) 27:61–77.

Mark Coeckelbergh (2018). Why Care About Robots? Empathy, Moral Standing, and the Language of Suffering. Kairos. Journal of Philosophy & Science 20, 2018
Center for the Philosophy of Sciences of Lisbon University

Maarten Coolen (2013). Anders zien dan we gewend zijn. Krisis, 2013, Issue 2.

Louk Fleischhacker (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.

Jody Forlizzi (2007). How robotic products become social products: An ethnographic study of cleaning in the home. 2007 2nd ACM/IEEE International Conference on Human-Robot Interaction (HRI), 129-136.

Erving Goffman (1967). Interaction Rituals: essays on face-to-face behavior. 1967.

David Gunkel (2013). Review of Mark Coeckelbergh’s growing moral relations: critique of moral status ascription. Ethics and Information Technology.

David Gunkel (2018). The Other Question: Can and Should Robots have Rights? Ethics Inf Technol 20, 87–99 (2018).

G. W. F. Hegel (1807), Werke 2, Jenaer Schriften 1801-1807: “Wer denkt abstrakt?” (1807), pp. 575-581. Uitgave: Suhrkamp Taschenbuch (8e oplage, 2016)

David Levy (2007), Love and Sex with Robots: the evolution of human-robot relations. New York: Harper Collinds, 2007

Maurice Merleau-Ponty (1964). Signs. Translated and with an Introduction by Richard C. McCleary. Northwestern Univ. Press, 1964.

John R. Searle (1995). The Construction of Social Reality. London: The Penguin Press.

Sherry Turkle (2005). The second self: computer and the human spirit. Cambridge, MA: MIT Press, 183-218, 2005.

Sherry Turkle (2011). Alone together: why we expect more from technology and less from each other. Basic Books, New York, 2011.

D.W. Winnicott (1971). Playing and reality. London: Tavistock Publications.

H.F.J. de Witte (1980). Over de ontwikkeling van het transitional object. Tijdschrift voor Psychiatrie 22, 1980/5

Published by

admin

Rieks op den Akker was onderzoeker en docent kunstmatige intelligentie, wiskunde en informatica aan de Universiteit Twente. Hij is gepensioneerd.

Leave a Reply