Dit gaat over het koesdoekje en de kwestie of dingen zoals een koesdoekje of een sociale robot een ‘morele status’ hebben en waardoor dat bepaald wordt. Het gaat dus over intersubjectiviteit en het proces van volwassen worden.
HitchBOT was een in Canada gemaakte robot die al liftend door Canada, Duitsland en Nederland trok. Het kon niet lopen, zat in een soort rolstoel, maar het kon wel een eenvoudig gesprek voeren. Het doel van de makers was te zien of robots mensen kunnen vertrouwen. HitchBOT werd door de pers in vele landen gevolgd. De robot werd populair. Op 5 Augustus 2015 verscheen het bericht dat de robot door vandalen was onthoofd en gesloopt. “They sent us images and it’s really beyond repair. There’s not a single wire inside and all the things are broken.” rapporteerde één van de makers. Uit de woorden die de mensen gebruikten bij het uiten van hun oordeel over dit gebeuren blijkt een diepe empathie met de robot. Mensen die het hoorden spraken er schande van om de ‘arme robot’ zo te ‘mishandelen‘.
Weer anderen verbazen zich over het feit dat sommige mensen uiting geven van een emotionele relatie met een sociale robot, wat toch eigenlijk niet meer dan een technisch ‘ding’ is.
Verschillende etnografische studies laten zien dat autonome robots die voor hulp in de huishouding zijn aangeschaft, zoals bijvoorbeeld een stofzuiger, vaak als sociale entiteiten worden beschouwd (Forlizzi, 2007). De techniekfilosoof Marc Coeckelbergh vraagt zich af hoe we dit gedrag en deze empathische relatie met sociale robots moeten begrijpen. “Gegeven het feit dat een robot een machine is, is dit gedrag verwarrend”. (Coeckelbergh, 2018).
Maar is een robot ‘slechts een machine’?
De één zegt: een robot is een machine. Een ander zegt, de robot is meer dan een machine. Bedoelen beide dan hetzelfde met ‘machine’, wat is een machine? Dit is de vraag naar de wijze van zijn van het technische ding. Kunnen dingen misschien op verschillende wijzen ‘zijn’? Voor de ontwerper is de robot misschien een machine, maar voor de ‘gebruiker‘ of voor zij die er mee leven is het meer dan een machine.
Weizenbaum was zeer verbaasd toen bleek dat zijn secretaresse met zijn computerprogramma een gesprek had alsof het een Rodgeriaanse therapeut was. Maar was het niet juist de bedoeling van de maker het conversationele gedrag van zo’n therapeut in regels vast te leggen en op de computer te simuleren? Dat de gebruiker van zijn nogal simpele pattern-matching programma de ervaring heeft die vergelijkbaar is met die tijdens een gesprek met een echte therapeut, dat was een onvoorzien effect. Wij zijn even verbaasd wanneer we door een paar simpele pennestreken een expressie op een gezicht kunnen toveren.
Is het ook niet juist de bedoeling van de ontwerper van de sociale robot dat deze sociale gedragingen ‘vertoont’, dat zij dingen doet of zegt die wanneer ze door mensen worden gedaan als sociaal gedrag worden gezien? Zoals het opsteken van een hand, het tonen van een glimlach en het goedendag zeggen. Dat mensen die met de robot omgaan dan ook zich gedragen alsof ze met een ander mens te maken hebben is dan niet zo vreemd. De robot die groet nodigt uit te worden begroet. En wie een vraag stelt vraagt om een antwoord en moet niet verbaasd zijn een antwoord terug te krijgen.
Een moreel oordeel is een oordeel betreffende het goed of slecht zijn van iemands gedrag. Het betreft altijd een beoordeling door een ander, iemand die van buiten het gedrag van iemand anders de maat neemt. Die ander kan het zelf zijn, de innerlijke stem van het geweten, maar altijd is het een oordeel gevormd door opvoeding en cultuur. Het is de ander die ons zelfbeeld bepaalt. Een beeld waartegen we ons kunnen afzetten of dat we kunnen accepteren.
Over opposities
Nietzsche beschouwde het denken in opposities (tegenstellingen) zoals: subject-object, geest-lichaam, oorzaak-gevolg, een typische en bedenkelijke eigenschap van de filosofen. Het is een typische eigenschap van het verstand zaken van elkaar te onderscheiden. Dat is noodzakelijk willen we als mens iets van de werkelijkheid begrijpen. Maar wanneer we tot begrip willen komen zullen we de onderscheiden aspecten terug moeten herkennen in de werkelijkheid waarin ze niet als gescheiden zaken aanwezig zijn. Het is een kenmerk van het populaire wiskundige denken de onderscheiden zaken te objectiveren (tot getallen en structuren) en af te zien van hun verwijzing naar de werkelijkheid waaruit ze geabstraheerd zijn.
In zijn Categorieën onderscheidt Aristoteles vier types opposities. Contradictoire (1): het gaat om dezelfde inhoud die wel of niet is: zijn en niet-zijn; privatieve (2): wel of niet aanwezig zijn van een wezenlijke eigenschap: blind-ziend; contraire (3): het gaat om uitersten: warm-koud. De vierde is de relatieve tegenstelling (4): ouder-kind. De termen ‘ouderschap’ en ‘kindschap’ verwijzen naar de relatieve opposities, de relata van de relatie, in absolute zin genomen.
Het is lastige materie. Is er bijvoorbeeld bij ware versus onware oordelen sprake van een contradictoire, van een privatieve of van een contraire tegenstelling? Kunnen we bij mens en machine ook spreken van een verabsolutering van de delen van een relatieve tegenstelling, zoals wanneer we een persoon ‘moeder’ of ‘zoon’ noemen?
Het stoicisme bekritiseert de oppositie tussen de theoretische weten (episteme) en het praktische weten (techne). De deugd (virtue) is beide: zowel inzicht als praktische kennis: levenskunst.
In dit stukje gaat het over verschillende relaties die we met de werkelijkheid kunnen hebben en over de morele kant ervan. In het bijzonder over de morele relatie tot de sociale robot. Hebben we ten aanzien van de sociale robot morele verplichtingen?
De sociale robot als transitional object
U weet misschien niet wat een koesdoekje is. Een koesdoekje is een doekje waarmee het nog jonge kind knuffelt. Je zou het dus ook een knuffellapje kunnen noemen. Of slaapdoekje, want ‘koese’ is Fries voor slapen, maar dan wel op zijn babies. Volwassen mensen koese niet; ze slapen (Fries:sleape). Misschien is er een relatie met het Franse ‘couché’, of met het Engels ‘cosy’.
Charles M. Schulz, geestelijk vader van de bekende stripfiguur Charlie Brown, introduceerde de term ‘security blanket’ voor het knuffeldekentje, de onafscheidelijke metgezel van Linus, een vriendje van Charlie.
Maar waarom een koesdoekje? Welke zekerheid biedt het dekentje Linus? Wat is de functie ervan? Welke betekenis heeft het? Daar is over nagedacht en daar kwam uit dat een koesdoekje een transitieobject (Eng. transitional object) is.
Het koesdoekje zoals ik dat ken is een beetje een smotsig doekje, smotsig geworden door het geflieber van de kleine. Het koesdoekje is al een tijdje door het kleintje in gebruik onder andere om de moedermelk die het kleine ding opboert af te vegen. Geur is onze oudste en diepste emotionele band met de wereld om ons heen en voor de kleine frabbe bestaat die wereld in eerste instantie uit de moederborst en de emotionele band bestaat in de geur van de moedermelk. Je moet zo’n koesdoekje dus nooit wassen. Dat zou een doodzonde zijn. Een immorele daad pur sang. Wat smotsig is voor de één, is fijn voor de ander. En met dat verschil hebben we rekening te houden in de omgang met en ons oordeel over de dingen.
De dingen leiden nu eenmaal niet een geïsoleerd bestaan; ze zijn wat ze zijn in allerlei relaties tot elkaar en tot ons. Zoals voor de één het koesdoekje de emotionele band met de moederborst is, en voor de ander een smotsig lapje, zo is voor de één de auto een vervoermiddel, voor de ander een geliefd bezit dat verzorgd wordt, iets van hem of haar zelf, voor weer een ander een machine die gerepareerd moet worden.
Een koesdoekje is dus een transitieobject. Geleidelijk aan kan de functie van het lapje stof worden overgenomen door andere dingen, een beertje, een aapje. Het vieze ding kan dan eindelijk in de wasmaschien.
De psycholoog Winnicott(1971) beschrijft het transitieobject als “the infant’s first ‘not-me’ possession – often a stuffed animal or soft blanket grasped while the child sucks on his or her finger(s)”.
Het is één en al lichamelijke sensibiliteit, zo’n pas geboren kind. Het transitieobject representeert volgens Winnicott de ervaring van het kleine kind met de buitenwereld. Maar om wat voor transitie gaat het?
“The object represents the infant’s transition from a state of being merged with the mother to a state of being the relation to the mother as something outside and separate” (Winnicott 1971, p. 14). Het gaat dus om de overgang van een toestand waarin er voor het kind geen onderscheid bestaat tussen het zelf en de ander (de moeder) naar een toestand waarin de ander een ander is geworden. Niet alleen lichamelijk gescheiden maar nu ook psychisch gescheiden van het zelf.
Het koesdoekje speelt dus een belangrijke rol in het proces van volwassen worden van het individu. Een proces waarin van alles mis kan gaan, zoals een dramatische scheiding van moeder en kind. Dat komt dan later in het sociale gedrag en de levenshouding van de ‘volwassen’ mens tot uiting.
Het transitional object is ‘een stuk speelgoed waaraan het kind in een zekere ontwikkelingsfase persoonlijkheid toekent om van daaruit de ruimte voor het toelaten van andere reële personen te verkennen.’ Een subject bestaat alleen als object voor een ander subject. Het transitional object staat dus voor het andere subject waarvoor ieder subject een te herkennen plaats heeft. Zonder dat andere subject zou het niet bestaan. Volgens Fleischhacker (2004) toont het voorbeeld van het transitional object aan dat het volstrekt niet uitgesloten is dat de mens de computer voor een medemens houdt, zolang de ware toedracht niet onthuld wordt (dat toont o.a. de Turing test aan, maar ook ervaringen die gebrukers hebben van sociale robots) terwijl het ons niets leert omtrent het verschil tussen een mens en een informatieverwerkende machine.
Vanaf het moment dat de navelstreng is doorgesneden begint een proces van zelfstandig worden en afstand nemen. De moederband waarin moeder en kind nog lichamelijk één waren wordt steeds meer een band tussen zelfstandige mensen, elk met een eigen lichaam en persoonlijkheid; het kind zal zich ontwikkelen als lichamelijk zelfstandig lid van een samenleving. Wat overigens niet wegneemt dat die zelfstandigheid betrekkelijk is en blijft.
Het transitieobject (de Witte overweegt de term ‘overgangsobject’, maar gebruikt de Engelse term ‘transitional object’) zou volgens de psychologen het opgroeiende kind moeten helpen in de overgang van de symbiotische relatie met de moeder (‘the good enough mother’, Winnicott) als zuigeling naar de periode van volwassenheid, individualiteit en zelfstandigheid. De ontdekking van het ik in onderscheid van het andere is een moeizaam proces. De moeder blijkt ook wel eens even weg te zijn. In het koesdoekje blijft ze, in de vorm van haar geur, nog in zekere zin aanwezig. De mens identificeert zich aanvankelijk met het vertrouwde andere. Ik herinner me het kind dat naar zijn tandenborsteltje wijst en zijn naam roept. In de verandering in de wijze waarop het nog jonge kind via woorden naar zichzelf verwijst, eerst door zijn eigen naam, later door middel van ‘ik’, blijkt een andere verhouding tot zichzelf en de ander, ‘jij’ en ‘gij’. ‘De intersubjectiviteit is een transcendentaal gegeven dat verhoudingsvormen mogelijk maakt van het type dat in de taal door middel van persoonsvormen en persoonlijke voornaamwoorden tot uitdrukking komt.'(Fleischhacker, 2004, p. 72). Deze verhoudingsvorm is niet te reduceren tot andere wijzen waarop we ons tot het andere verhouden, zoals de onmiddellijke zintuiglijke ervaring of de wetenschappelijke kennis. Bij de concrete ontwikkeling van het individue kan er in de relatie tot andere personen en dingen alsook in relaties tot de samenleving van alles ‘mis’ gaan. Zo kan het onvoorziene traumatische gevolgen hebben voor het kleine kind wanneer zijn koesdoekje wordt weggenomen op een moment dat het daar nog niet over heen is en het nog niet door een andere relatie is vervangen.
Van robots houden
Sherry Turkle is een psychoanalytisch getrainde psychologe, die veel waarde hecht aan persoonlijke relaties en intimiteit. (Wie niet?) In Alone Together beschrijft ze hoe geschokt ze was toen ze geconfronteerd werd met David Levy’s boek Love and Sex with Robots (Levy, 2007). Daarin worden robots als een nieuwe vorm van leven gezien, een vorm van leven waarmee je een relatie kan hebben waarin je je prettig voelt. Bij Turkle roept het de vraag op of dit wel kan, een relatie met een robot. Het antwoord is simpel. Zo’n relatie is er altijd al vanaf het moment dat iemand met een robot kennis maakt. De vraag van Turkle is natuurlijk naar de kwaliteit van die relatie in vergelijking met de kwaliteit van de relatie die we hebben met andere mensen of met andere levende wezens, zoals huisdieren, huismussen, en dergelijke. Is een robot voor sommigen een persoon, zoals de moeder, of de zoon, of een vriend?
Levy droeg zijn boek op aan een zekere Anthony (pseudoniem voor) een MIT computer hacker, een verlegen jonge man, met een zekere angst voor intieme relaties. In zijn interaktie met de computer voelde Anthony zich minder alleen, bekende hij in een interview met de psychoanalytica. Misschien was een relatie met een robot wel een goeie eerste stap voor mensen zoals Anthony, dacht Levy. Turkle had daar dus zo haar bedenkingen bij. Welke relaties met machines zijn eigenlijk mogelijk en vooral ook welke zijn ethisch acceptabel? Vraagt zij zich af.
‘Ethisch acceptabel’? Op grond waarvan beoordelen wij mensen en wat ze doen als zijnde goed of slecht?
Sherry Turkle is niet de enige die zich dat afvraagt. Ondertussen worden sex robots online aangeboden en maken mensen zich zorgen over het ‘gedrag’ van sommige robots. Doen ze mensen wel goed? “Human flourishing should be the key to how intelligent systems governed” (zei Dame Ottoline Leyser, co-chair van de Royal Society’s science policy advisory group). Maar wat is dat ‘human flourishing’? Wat is het kenmerk van een gezonde, volwassen en bloeiende relatie?
Maar eerst nog even over het koesdoekje. Wat maakt dat lapje nou een koesdoekje? Is dat een eigenschap van het koesdoekje als stoffelijk object? Nee, het is de functie of betekenis die het lapje heeft voor het kleine kind. Het gaat om de behoeftige relatie met de moeder. Welbeschouwd is dat koesdoekje net zo min een object als dat een moeder een huisvrouw is die de was doet. Dat zijn allemaal abstracties, bedenksels van ons verstand dat alles uit elkaar denkt. Het koesdoekje is de geurige relatie van het kind met de moeder en een fase in de ontwikkeling van een levensvorm naar … Ja, naar wat eigenlijk? Volwassenheid. Is dat het stadium waarin het kind zich gaat herkennen en vertrouwd voelt met de poppen, die het koestert en verzorgt, zoals de moeder hem verzorgt, en later, wellicht, met de sociale robots?
Kan een robot de plaats van het koesdoekje innemen op weg naar een volwassen relatie met een ander mens, dat is met een ander lichamelijk subject dat op dezelfde wijze zoekt naar een zelfbewust en ander-bewust leven in relatie met anderen? De bevrediging van het koesdoekje zit hem in de nog puur lichamelijke behoeftigheid van het prille leven.
De robot heeft geen lichaam en kan zich derhalve niet blootgeven. In de sexuele relatie is de robot object ten dienste van een primair lichamelijke bevrediging. Deze kan niet opgenomen en opgeheven worden in een volwassen intersubjectieve relatie zoals die tussen twee mensen kan bestaan. Het lichaam is middel in de intersubjectieve relatie tussen personen, maar het is geen uitwendig middel. De filosoof Barendse heeft in zijn Intersubjectief verkeer en lichamelijkheid de betekenis van het lichaam in de communicatie geanalyseerd (Barendse, 1951). Het lichaam is geen instrument dat gebruikt wordt. Het is de onmiddellijke uiting van de persoon, niet louter buitenkant. De persoon is ‘lichamelijk subject’ dat zich in een volwassen relatie blootgeeft. Het lichaam is zelf-mededeling, niet louter instrument, niet primair expressiemiddel, zoals een muziekinstrument. Daarin zit ook het verschil tussen mededelen en informatie verstrekken: in het mededelen is de mededeler zelf betrokken in hetgeen wordt medegedeeld. Informatie is afstandelijk en wordt gecommuniceerd door middel van een uitwendig technisch medium.
Anders dan in een autistische relatie met een seksrobot staat de seksuele relatie van volwassen, morele subjecten respecterende personen in het teken van een liefdesrelatie. Ook in een relatie met een sekswerker, gaat het de mens uiteindelijk niet puur en alleen om een lichamelijke behoeftebevrediging. Dat wil zeggen die lichamelijkheid is al een emotionele relatie tot een ander. De professionele sekswerkers zijn zich zeer bewust van hun sociaal-emotionele rol. Ze zijn dienstverleners. Anderzijds is er ook in relaties tussen volwassen personen sprake van een objectivering van de ander als bruikbaar ‘object’ en soms als ‘lustobject’.
De moraliteit van een relatie groeit met de relatie. De morele relatie met het koesdoekje, de (seks)robot, de sekswerker is een ander dan de morele relatie tussen volwassen elkaar als persoon respecterende mensen.
De mens heeft de neiging zaken uit elkaar te denken die in werkelijkheid aspecten zijn van één en dezelfde activiteit. Men heeft de neiging de relatie te denken als iets extras dat aan de buiten de relatie staande entiteiten wordt toegevoegd. Het is de typische eigenschap van het verstandelijke denken dat de aspecten uit elkaar denkt, ze van elkaar scheidt en benoemt. Een vorm van abstractie die het denken eigen is, zo betoogt de filosoof G.W.F. Hegel in zijn bekende essay “Wer denkt abstract?”.
“Wie denkt, denkt abstract. Ik hoef om deze stelling te verhelderen slechts een paar alledaagse ervaringen aan te halen die iedereen herkent. Een moordenaar wordt voor de rechter geleid. Voor het volk is hij niet meer dan een moordenaar. Dames merken op dat het een mooie, knappe en interessante man is. Wat! zegt het gemene volk, een moordenaar knap? Hoe kan men zo denken! Jullie zijn ook niet veel beter dan die man. Dit is het zedenbederf dat onder de voorname mensen heerst, voegt een priester, die de voedingsbodem en de harten van de mensen kent, er aan toe.” (Eigen vertaling van een passage uit: Wer denkt abstract?, G.W.F.Hegel, 1807 )
De morele vraag van Sherry Turkle hoe je je moet verhouden tot iemand die sex heeft met een robot (is dit geen ‘zedenbederf’?), roept voor sommigen de vraag op naar de mogelijkheid van een relatie met een robot. Wat is dat voor vraag? Wat zijn de vooronderstellingen van dit soort vragen? Gaat het om een probleem dat opgelost moet worden door het denken? Door wie? Welke kennis kan het resultaat zijn van het denken over dit soort morele kwesties? Wie is gerechtigd hierover een moreel oordeel uit spreken? Op grond waarvan? Moederschap en kindschap bestaan in de persoon die kind is en in de vrouw die moeder is. Bestaat een machine zonder de mens voor wie de machine machine is?
Het koesdoekje is niet louter een object. Het verwijst naar een levensvorm. Het staat voor een heel netwerk van relaties. Voor een ecologie, een slagveld, een theater en een bijbehorend taalspel. Zoals het schepje waarmee ik de stekjes plant en dat ik voortdurend kwijt ben hoort bij mijn levensvorm als tuinier. Met de kapucijnerplantjes in de tuin. De muizen die mijn werk bedreigen, de muizeval met de pindakaas. De morele kwesties die dat oproept. De fleurige veelkleurige bloei van de volwassen plant en de heerlijke verse erwtjes met spek, het dankbare loon na werken. Hoe dankbaar kunnen kapucijners zijn! En toch eet ik ze. Of toont de kapucijner de dankbaarheid juist in het nuttigen ervan?
De mens is op veel verschillende wijzen betrokken bij de dingen en de andere levende wezens. Naast familierelaties, zijn er sociale relaties, waarin hij een grote diversiteit aan rollen vervult, waarin hij verschillende relaties tot andere mensen staat: als buur, als teamlid, als consument, als producent, als werknemer, als werkgever, als burger, als min of meer actief lid van verschillende verenigingen. In deze veelheid van sociale relaties is de ene persoon het middelpunt.
Groeiende morele relaties
In Growing Moral Relations (Coeckelbergh, 2012) gaat het over de morele status van door de mens gecreëerde dingen. De vraag naar de morele status wordt opgeroepen door de omgang die we hebben met ‘intelligente’ apparaten die we soms als zelfstandig acterende subjecten ervaren, zoals de robot waar Sherry Turkle het over heeft en waar David Levy over schrijft. Coeckelbergh wijst erop dat de moraliteit een aspect is van de relatie die we met de dingen hebben. Deze dynamische morele relatie groeit met het groeien van de relatie tussen subjecten. ‘Machine’ zijn, machinaal werken zegt een relatie die we als zelfbewustzijn met een fysisch proces hebben: ‘de machine werkt’. De computer rekent voor ons. Hij doet ons werk. Een machine is slechts machine in relatie tot de mens voor wie deze werkt volgens een bepaald concept of ontwerp. De machine is een beeld of realisatie van de mens die zich in het werk op zinvolle wijze uitdrukt. De mens herkent iets van zichzelf in de machine, zijn ontwerp. Volgens Maarten Coolen komt in de automatie, in de programmeerbare robot, het zelfbeeld van de moderne autonome mens expliciet tot uitwendige objectivatie. Het gaat dus niet alleen om bepaalde functie die de machine overneemt, maar om de wetenschappelijk technische verhoudingswijze van de mens tot de natuur die in de machine tot uitdrukking komt.
De ‘sprekende machine’ ontleent zijn zelfstandigheid aan die van de taal. De taal die we spreken heeft een vorm van zelfstandigheid die niet te reduceren is tot de geschreven woorden. De taal spreekt in zekere zin in ons, wanneer we denken. Wij leren de taal en daarmee de gemeenschap waarin we leven.
De taal vertegenwoordigt de intersubjectiviteit, de relatie die met anderen gegeven is, nog voordat we ons ervan bewust worden, zoals de relatie met de moeder er al is voordat het kind zich van deze band bewust is. De mens is niet aan de taal gebonden, ze stijgt boven de geleerde taal uit en geeft de woorden nieuwe betekenissen. De robot blijft bij de woorden staan; deze spreekt de geleerde taal van het verleden. De robot is door de mens gemaakt; anders dan het dier met wie de mens van nature verwant is.
De focus van Coeckelbergh (2012/2014) op de relatie in plaats van op de relata schijnt een ‘paradigmatische’ verandering te zijn in het denken over de moraliteit der dingen (Gunkel, 2013, 2018). Ze zou het ‘standaard model’ dat aan het denken over moraliteit ten grondslag ligt vervangen. Volgens het standaard model hangt de morele status van een entiteit af van zekere eigenschappen van de entiteit. Bijvoorbeeld zou deze ‘bewustzijn’ moeten hebben. Of gevoelens (‘sentience’), emoties.
“The alternative paradigm I have tried to articulate enables us to ask different questions, which are not about the properties of machines and other entities, but instead question whether we should call them “machines” at all and whether “they” are part of “us” or not.” (Coeckelbergh, 2014).
Is het spiegelbeeld waarin we ons herkennen een ‘part of us’? In zoverre het ons uitbeeldt kunnen we er ons mee identificeren. Wat lijkt op een mens is ook een beetje mens. Het is niet voor niets dat we sociale robots op mensen lijkende eigenschappen geven. Het is juist de bedoeling van de ontwerper dat we er een mens in zien, een ander zoals wij zelf. Het feit dat mensen empathie tonen met sociale robots is een teken dat het ontwerp, het idee, in de praktijk werkt en misschien wel meer nog dan de ontwerpers hadden verwacht. In die zin is techniek ook altijd kunst, het resultaat plaatst ons voor verrassingen. Het heeft iets extra’s buiten wat het ontwerp inhield. De Canadese onderzoekers moesten experimenteel bepalen hoe hun sociale robot HitchBot, zou ‘functioneren’ als sociale constructie. (Searle 1995, Goffman 1967).
Zonder de wetmatige werking van de natuur zou de rekenmachine niet bestaan. Maar zonder de betekenis die wij aan de werking geven bestaat de rekenmachine ook niet; is het niet wat het is. Zonder de seksueel behoeftige natuur van de mens zou de sex robot niet bestaan.
Wij kunnen slechts vanuit ons standpunt als mens over de relatie spreken. Machine zijn zegt een relatie, moeder zijn zegt een relatie. We kunnen niet afzien van de geschiedenis van de woorden die aan de woorden een betekenis en gebruik heeft gegeven. De woorden horen bij een levensvorm. Een machine werkt machinaal, een rekenmachine rekent, een geprogrammeerde machine werkt volgens een bepaald programma. Anders dan hun gebruikers zijn machines programmeerbaar. Maar de mens kan zich wel laten programmeren. Bijvoorbeeld wanneer hij volgens de handleiding een machine bedient. De mens weet wat het betekent programmeerbaar te zijn en dat hij zelf daar niet in op gaat. Hij kan afstand nemen van zijn behoeftigheid en de neiging tot objectiveren. Hij is ook niet programmeerbaar.
We kunnen niet spreken voor de ander, voor het andere. De ander moet voor zichzelf spreken en zijn eigen plaats en rol opeisen, respect afdwingen. De ander ontsnapt in de relatie aan de denkbeelden die we over de ander hebben. De relata verhouden zichzelf tot de dynamische relatie. De dochter wordt zelf moeder, en ze neemt op den duur de zorg voor haar moeder over.
De persoon gaat niet op in de relaties die hij met de dingen en de anderen heeft. De persoon verhoudt zich tot deze relaties.
Ik noemde het wassen van het koesdoekje een ‘doodzonde’. Met opzet. Het gaat hier om een morele zaak, om een ethische kwestie. Er wordt iets vernietigd. In hoeverre mogen wij oordelen over en inbreken in een levensvorm waar wij volstrekt buiten staan? Iedereen heeft recht op zijn eigen levensvorm. Daarbij horen vrienden en vijanden en morele kwesties. Wat telt voor de psychoanalytica Sherry Turkle is de heilzaamheid van de levensvorm. Of het nu gaat om een Minister van Defensie die sex heeft met een robot of om een Minister die een munitiefabriek in Irak laat bombarderen met F16s. Het gaat erom hoe gezond deze levensvorm is. Is het liegen en bedriegen een organisch onderdeel van een bepaalde ecologie? Of bloeit er iets moois op, zoals uit de kapucijnererwtjes in mijn tuintje, uit de relatie van Anthony met zijn computer, of uit het koesdoekje dat staat voor de emotionele band van het jonge kind met de moeder?
De robot is het koesdoekje van de moderne mens op zoek naar zelfstandigheid.
We moeten ons altijd op één of andere manier identificeren met iets in de werkelijkheid. Met ons beroep, met onze sociale rol, met onze leefwijze en de dingen die daarin een plek hebben. Wanneer dat wegvalt door pensionering of ontslag, door echtscheiding of de dood van een geliefde zijn we onze identiteit kwijt. Het ‘transitional object’, het koesdoekje of het beertje is een manifestatie van deze noodzakelijke objectivering van zelf-expressie.
Filosofisch kunnen we de relatie met de sociale robot zien als manifestatie van deze zelf-objectivering in de vorm van de kunstmatige intelligentie. De filosoof Louk Fleischhacker (1995) spreekt van het realiseren van een ‘external identity’, een extern geprojecteerd beeld van onze zelf-identificatie. We houden hieraan vast omdat ze wezenlijk zijn voor onze levensvorm. Zonder zo’n levensvorm is ons bestaan leeg. Het verlies ervan is wat tegenwoordig een ‘life changing event‘ heet. Door middel van psychoanalyse of met hulp van een ‘life style coach‘ moeten we op zoek naar de ‘invariant’, onze identiteit die in die verandering hetzelfde blijft, een ‘diepere’ versie van ons ‘zelf’. Of dat ‘zelf’ meer dan een illusie is, zoals sommigen beweren, is de vraag. Misschien moeten we accepteren dat we uit meerdere zelven bestaan.
Na ‘de dood van God’ heeft het geloof in het wetenschappelijk-technisch wereldbeeld voor de moderne westerse mens de rol van de religie en het daarin heersende wereldbeeld overgenomen. De autonome technologie is de uitwendige objectivatie van dit mathematisch wereldbeeld, waarin de mens zich als autonoom individu tracht te realiseren.
Het wassen van het koesdoekje, waardoor de geur, zijnde een wezenlijk iets ervan vernietigd wordt en daarmee het koesdoekje zelf, is een (im)morele daad. Mensen verscheuren een afbeelding van iemand die ze haten. Niet omdat ze de afbeelding haten, maar omdat ze de afgebeelde persoon haten, zoals ze die kennen. Voor hun staat in die daad de afbeelding voor de persoon die ze erin herkennen.
De reden voor de verwondering over de empathie die mensen hebben met sociale robots is van dezelfde aard als die voor de verwondering over het omhelzen (dan wel verscheuren) van een beeld of afbeelding van een geliefd (respectievelijk gehaat) persoon.
Van de stoïcijnen kunnen we leren dat het beter is de liefde en de haat in de liefhebber respectievelijk de hater te zetelen dan in de geliefde of de gehate persoon. Alleen dan kunnen we er immers wat mee doen.
De sprekende robot kan volgens sommigen een stap zijn in de ontwikkeling van het inzicht in zelfstandigheid als intersubjectiviteit, in de relatie met een ander zelfbewustzijn voor wie we zijn. De robot is nog slechts ‘projectie’, een uitwendige objectivatie van de eigen verbeelding van zelfstandigheid. Deze robot is een technische zelfstandigheid, een uitwendige, geconstrueerde eenheid van een mathematische functie en een fysische proces ten behoeve van een door de mens bedachte werking. De robot vertelt niet zijn eigen levensverhaal; het bevat fragmenten van verhalen door de ontwerpers ingevoerd, als data.
De robot eist geen rechten op. De robot is niet van zichzelf en handelt niet uit zichzelf. De robot reageert op geleerde wijze op onze vragen. Het geeft geen antwoorden op vragen die niet gesteld zijn. Daarom is de robot geen moreel subject in eigenlijke zin, zoals de mens moreel subject is. Wie moreel subject wil zijn moet strijd voeren om als moreel subject geaccepteerd te worden door degenen die daarvoor ontvankelijk zijn.
De sociale robot is een vorm van intersubjectiviteit aangeleerd door de makers ervan. Deze gemaakte intersubjectiviteit die in de ‘gedragingen’ van de robot is vastgelegd dringt zich op aan de gebruiker die zich in deze vorm moet zien te vinden, want deze vorm staat buiten de intersubjectieve relatie die de gebruiker vanuit zichzelf met de robot heeft. Deze uitwendigheid van de vorm ten opzichte van de inhoud is typerend voor het mathematisch/technische karakter van de kunstmatige intelligentie. De relatie tussen het gebaar dat de groetende mens maakt en het groeten is van een andere orde dan de relatie tussen het opsteken van de arm door de sociale robot en het gebaar van groeten dat de mens er in herkent. In de menselijke orde is het gebaar een uiting van het groeten. Deze uiting heeft een uitwendige kant, waaronder het opsteken van de arm. Door middel van simulatie van deze uitwendige kant van deze ‘gedraging’ (‘behaviour’) in de juist omgeving uitgevoerd kan de robot de suggestie wekken de mens te groeten.
We begonnen met een tegenstelling. Met de sociale robot hebben we zowel een technische relatie als ook een sociale relatie. Maar is dit wel een zuivere tegenstelling? Hoe verhouden die twee relaties zich tot elkaar?
Techniek moet dienstbaar zijn aan de mens om techniek te zijn (De Bruin, 1937). Maar de specifieke dienst die het algemene beschikbare instrument de gebruiker bewijst overtreft het technische, het is een economische relatie. We eisen van het instrument dat het hanteerbaar, aanspreekbaar en gebruiksvriendelijk is. Het instrument moet uitnodigen tot gebruik. Zonder deze sociale kwaliteiten zou techniek niet zijn waar het voor bedoeld is, dat is: om gebruikt te worden.
De sociale robot is de uitwendige objectivering van de bruikbaarheid van het technische.
Vaak worden de technische en de economische aspecten van ons handelen niet goed uit elkaar gehouden. Wanneer we iets als technisch opvatten dan zien we het als gemaakt volgens een concept of ontwerp zodat gebruik gemaakt wordt van de eigen werking en eigenschappen van de natuur die zodanig gecombineerd worden dat een bedoelde werking ontstaat. Dat hoeft geen werking te zijn die nuttig is voor de mens. Het kan ook als demonstratie van de natuur zelf gezien worden. Het is iets kunstigs, het is gemaakt.
De zelfstandigheid ontleent het technische aan de begrepen effectieve werking van de constructie. De nuttigheid heeft betrekking op de inzet van de techniek voor de mens, bijvoorbeeld in het arbeidsproces, om de mens te ontlasten. Daar wordt het algemene, abstracte middel ingezet voor een concreet doel. De eigen waarde van het technische zit hem in deze algemene toepasbaarheid, potentie voor gebruik. De technische werking is zodra deze is uitgevonden sociaal in de zin dat deze van de gemeenschap is en in principe door iedereen begrepen en gebruikt kan worden. De waarde van de toepassing staat buiten de waarde van het middel als puur technisch. Het technisch is in die zin waarde-neutraal. In de programmeerbare informatieverwerkende machine komt het realiseren van technische ontwerpen als zodanig tot uitdrukking. De programmeerbare machine de verwerkelijking van de algemene bruikbaarheid van het ontwerpen.
We kunnen het technische produkt vanuit het standpunt van de ontwerper en vanuit het standpunt van de gebruiker bekijken. Bij het ontwerp zal de ontwerper rekening houden met het gebruik ervan. De machine moet bediend worden. Interface design is een aparte ontwerpdiscipline, waarbij het gaat om het ontwerpen van de interactie tussen gebruiker en machine. Het instrument moet hanteerbaar zijn, de machine moet bedienbaar zijn, de automaat moet programmeerbaar zijn, de sociale robot moet aanspreekbaar zijn en sociaal zijn. De handleiding bevat het programma voor de gebruiker en zegt hem hoe met de machine om te gaan. De sociale robot ‘needs no manual’, deze wordt geacht volgens onze sociale regels te werken, zoals o.a. sociologen als Erving Goffman (‘face work’) en Michael Argyle hebben vastgelegd.
Waarom is de sociale robot een ‘uitwendige’ objectivering van de bruikbaarheid van de techniek? Die uitwendigheid heeft betrekking op het feit dat het om de reconstructie gaat van gedragingen op grond van regelmatigheden in het waargenomen gedrag van mensen in bepaalde omstandigheden. De robot heeft het uiterlijk van de mens en zijn bewegingen hebben de uiterlijke vorm van het menselijk gedrag en gebaren. De klanken die de robot in bepaalde omstandigheden produceert klinken als de woorden die de mens in vergelijkbare omstandigheden zou uitspreken. De klanken zijn uitwendig aan de betekenis die ze in een concrete situatie kunnen hebben wanneer ze bijvoorbeeld als expressie van een bedoeling of emotie worden opgevat. De gebezigde taal is de uitwendigheid van het denken en communiceren van mensen. De machine leert patronen in deze uitwendige gestalte van de communicatie en kan deze reproduceren.
Onze relaties tot de dingen komen tot uitdrukking in het taalgebruik. Een sociale robot die ‘de taken van een butler overneemt’ wordt door de gebruiker als butler gezien. Het abstracte concept ‘butler’ omvat een dienstbaarheidrelatie op grond van het vermogen van de robot een aantal taken uit te voeren. De sociale robots is slechts butler in zoverre deze de taken van de butler uitvoert. Maar we zeggen niet dat de butler ‘ziek’ is, maar dat deze ‘kapot’ is. Omgekeerde zeggen we van een levende butler niet dat deze ‘kapot’ is wanneer hij ziek is. De robotbutler verhoudt zich niet tot zichzelf in zijn rol als butler. Zoals de programmeerbare machine zich niet tot zichzelf verhoudt als programmeerbaar. Het is er slechts een uitwendige feitelijke realisatie van.
De arts die een patient behandelt ziet deze niet als een ding of machine. Voor de arts is de patient een mens, wat hij onderzoekt is een lichamelijk wezen, niet een dood mechanisme, dat niet goed functioneert. Dat is anders bij de robot. Deze is voor de technicus een machine en geen entiteit waarmee hij een persoonlijke relatie heeft. Bij de robot is het sociale gedrag iets dat van buiten af aan het instrument is opgelegd.
Waar Coeckelbergh op wijst is dat de wijze waarop we de robot of wat voor andere entiteit ook beoordelen een aspect is van de integrale relatie die we ermee hebben en die toont zich in onze omgang ermee. De programmeur heeft een andere relatie met de robot dan de bejaarde demente oudere die er een emotionele band mee heeft.
De ‘relational turn’ in de benadering van de vraag naar de morele status van de sociale robot vraagt niet aan welke eigenschappen deze moet voldoen om als morele entiteit te worden geaccepteerd, maar gaat uit van de relatie die we met de sociale robot hebben. Moraliteit toont zich in de praktische omgang met de dingen in onze omgeving. (Gunkel 2018).
Fabio Tallon en Kiasha Naidoo (2021) noemen de ontologische benadering (ook wel de “properties approach” tegenover de social relational approach) ‘realistisch’. “For a realist, the moral status of an entity is formulated as independent, or prior to the perception of the relevant entities. For the social relationist, however, perception matters a great deal.”
Maar hoe kennen we de robot ‘prior to the perception’? Is er een ontologie buiten de ken-relatie die we met de werkelijkheid hebben? Misschien dat we verschillende wijzen van kennen moeten onderscheiden. De onverschillige onbetrokkenheid die kenmerkend is voor de mathematische kenrelatie is een andere dan de kenrelatie die we met een geliefde hebben. De vraag is waar het in die kenrelatie om te doen is. Gaat het erom dat de eigen aard van het gekende tot zijn recht komt? Maar hoe weten we van die ‘eigen aard’?
Volgens de sociaal relationele benadering is niet de vraag van belang of een robot pijn kan ervaren op grond van feitelijke, objectief meetbare kwaliteiten van de robot zelf. Het gaat erom of we in onze omgang met de robot het gevoel hebben de robot pijn te doen. De robot kan zodanig gemaakt zijn dat het dit gevoel opwekt. Bijvoorbeeld door een luide schreeuw te produceren wanneer iemand de robot een schop geeft.
Wat onze morele houding tegenover levende wezens betreft merkt Tallon et al (2021) op.
“If any biological entity is now deemed to be sentient, it seems obvious that they were also sentient before this designation. Therefore, there is a strong sense in which we make these judgments not on the basis of essential ontological features, but rather on the basis of how the entities appear to us, in a given social and cultural context.” (Tallon et al., 2021)
Om niet in een moreel relativistische houding te vervallen (“het hangt van de cultuur of gewoonte af of gedrag moreel verwerpelijk is of niet”) wijst Tallon erop dat het van fundamenteel belang is of in een sociale relatie sprake is van geweld (“violence’) in de zin van het afwezig zijn van de mogelijkheid van de onderworpene om aan de macht (‘power’) van de actor weerstand te bieden. De weerloosheid van de ander is een wezenlijk aspect van de moraliteit van de relatie die we tot de ander hebben.
De robot heeft geen morele status die buiten de concrete relaties met de mens bestaat. De robot valt uiteen in een veelheid van verschillende ‘gedragingen’ en functies. Het is op grond van antropomorfe eigenschappen dat we gedrag van mensen tegenover robots als gewelddadig en daarmee moreel verwerpelijk beoordelen. Tallon (2021) noemt als voorbeeld het moreel verwerpelijk gedrag tegenover sex-robots.
In een cultuur waarin de koe als heilig dier wordt gezien en behandeld is de koe een ander dier dan in een cultuur waarin dat niet zo is en louter als een melk- of vleesproducent wordt gezien. Is er wel zoiets als een koe buiten deze culturele bepaaldheid?
Over de rol van de kunst
Kunst en techniek liggen dicht bij elkaar. De kunst overtreft het technische: het verwijst naar het empathische, het doet iets met de mens die meekijkt met de kunstenaar. Zodra de robot niet meer alleen afbeelding is van menselijke gedragingen en uiterlijkheden maar zelf een beeld is geworden, een eigen zelfstandigheid heeft gekregen voor de mens, een zelfstandigheid die het louter weergave zijn van een technisch ontwerp overtreft, houdt deze op technisch middel te zijn en wordt het kunst. We zien vanuit een nieuw perspectief wat eerst alleen machine was nu als een subject, waarmee we ons verwant voelen. Het artefact is dan een andere van ons zelf geworden. De beleving van degene die in het geluid dat de sociale robot produceert een betekenisvolle stem herkent (de ‘user experience’) is een toegift dat het door de wetenschap geanalyseerde en door de techniek gebruikte verband tussen fysische processen enerzijds en betekenisprocessen anderzijds te boven gaat.
Kunstenaars die instrumenten maken die “de taal van het lijden spreken” zetten de toeschouwer als het ware op het verkeerde been: ze voelen het lijden en empathie met het object, dat ze vanuit een ander, meer afstandelijk en nuchter perspectief kennen als een metalen, dode, constructie. Coeckelbergh (2018) noemt als voorbeeld het werk van de beeldend kunstenaar en theatermaker Kris Verdonck. Daarin staat de relatie tussen mens en ding, tussen levend wezen en materie, centraal.
Coeckelbergh (2018) wijst op de rol die de kunst kan spelen in het openen van nieuwe perspectieven op onze relaties met sociale robots. In het algemeen is het de kunst die onze door gewoontevorming ontstane ideeën en associaties doorbreekt en een nieuw perspectief op de werkelijkheid biedt.
“Onze gewoontes stellen ons in staat open te staan voor wat zich voordoet in situaties waarmee we vertrouwd zijn geraakt. Deze kunnen tot uitdrukking komen in de verhalen die we vertellen, maar ook in hoe wij motorisch omgaan met de dingen waarmee we te maken krijgen.” “Het kijken naar kunst moet er juist voor zorgen dat onze vertrouwde gewoontes doorbroken worden, want dan pas kunnen wij onze wereld op een fundamenteel nieuwe wijze zien.” stelt de filosoof Maarten Coolen in “Anders zien dan we gewend zijn.” (Coolen, 2013). Hierin wijst Coolen op de analyses van de moderne kunst door de Franse fenomenoloog Merleau-Ponty in Signes (1964).
“When it comes to morality, we should be especially sensitive to those kinds of experience and relational situations (…), when categorization is not only unnecessary but itself an act of violence, when the only “reason” or “ethical imperative” is one that is already there in the situation and in the relation.” (Coeckelbergh 2014).
Tallon et al. (2021) wijst op de ‘relativistische implicaties’ van Coeckelberghs sociaal relationele benadering van moraliteit.
Het is de kunst die ons gevoeliger maakt voor nieuwe relaties door een nieuw perspectief op de werkelijkheid te tonen. Relaties die niet passen in de categorieën, perspectieven en rituelen die we gewoon zijn. Hierdoor kunnen ook onze morele relaties met de werkelijkheid groeien en kunnen we een beter zicht krijgen op de werkelijkheid.
Referenties
Barendse, B.A.M, 1951. Intersubjectief verkeer en lichamelijkheid. In: Zich door het leven heen denken: keuze uit het werk van prof.dr. B.A.M. Barendse. Kok, Kampen.
Brekelmans, FHJG en Bink, EFR. (2013). Beeld en evenbeeld: een uiteenzetting van Hollaks begrip van Hegels filosofie en diens metafysische gevolgtrekkingen uit dat begrip. Nijmegen: Wolf Legal Publishers. 2013.
Over het verschil tussen ding en persoon merken B en B in hun bespreking van Hegels PdG het volgende op (p. 531)
“Op het niveau van de natuur (…) staan de dingen in de vorm van een mededeling tot elkaar, in de zin van de causaliteitsrelatie.” en “Die vorm ‘mededeling‘, die zich op het niveau van de Anthropologie nog in de vorm van de onmiddellijkheid voltrok – als de Empfindungen – gaat zich op het niveau van het bewustzijn op een eigenaardige wijze voordoen. Op het niveau van het bewustzijn wordt die vorm van de mededeling, we zouden bijna zeggen op een wonderlijke wijze, getransformeerd tot fenomeen. Met betrekking tot bezintuigde wezens, de mens, wordt de wereld tot verschijning. Het bewustzijn schept, als ik, afstand tot de dingen die in de vorm van mededeling, verschijnen aan het bewustzijn. Maar die vorm van mededeling als verschijning is tegelijk innerlijk verbonden met het wezen van de werkelijkheid: de wereld van de verschijnselen is uitdrukking van het wezen van de werkelijkheid.”
In de converserende machine worden fysische processen opgevat als relaties tussen toestanden die teksten representeren. Tussen invoer en uitvoer van een systeem bestaat een functionele relatie die door middel van een fysisch proces wordt gerealiseerd. De invoer staat bijvoorbeeld voor de vraag van de gebruiker, de uitvoer voor het antwoord dat de machine geeft. (vgl Heinrich Hertz, Prinzipien der Mechanik, waarin hij deze representatierelatie tussen natuurproces en denkproces weergeeft.)
Mark Coeckelbergh (2012), Growing moral Relations: critique of moral status ascription. Palgrave MacMillan, 2012.
Mark Coeckelbergh (2014). The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. (2014) 27:61–77.
Mark Coeckelbergh (2018). Why Care About Robots? Empathy, Moral Standing, and the Language of Suffering. Kairos. Journal of Philosophy & Science 20, 2018
Center for the Philosophy of Sciences of Lisbon University
Mark Coeckelbergh (2021) Should We Treat Teddy Bear 2.0 as a Kantian Dog? Four Arguments for the Indirect Moral Standing of Personal Social Robots, with Implications for Thinking About Animals and Humans. Minds & Machines 31, 337–360 (2021). https://doi.org/10.1007/s11023-020-09554-3
De auteur constateert een ‘kloof’ tussen twee waarheden: de robot is een stuk gereedschap en de robot is een ‘sociale entiteit’, in die zin dat mensen er soms mee omgaan zoals ze met andere mensen omgaan. Dit roept de vraag op: Wat betekent dit voor de morele status van de robot en andere artefacten? Wat betekent dit: moeten we respect tonen voor de robot? Terwijl het toch maar dingen zijn. Coeckelbergh stelt een mogelijke oplossing/verklaring voor: robots hebben ‘indirect moral standing’, gebaseerd op Kants onderscheid tussen directe en indirecte verplichtingen (‘the Kantian dog’ argument).
Volgens Kant hebben we geen directe verplichtingen tegenover de hond, maar wel indirecte. Omdat ons gedrag tegenover honden, en dat geldt ook andere dieren, iets doet met hoe we tegenover andere mensen staan. (‘it damages the kindly and humane qualities in himself, which he ought to exercise in virtue of his duties to mankind… for a person who displays such cruelty to animals is also no less hardened towards men.’,Kant, Lectures on Ethics, 1997, citaat uit M. Coeckelbergh, 2021)
Die morele standing van de sociale robot bestaat slechts binnen het gebeuren, het frame of taalspel waarin de sociale robot als sociale entiteit wordt beleefd. De moraliteit is zo een virtueel aspect aan een interaktie in een bepaalde gebruikscontext. Daarbuiten, over deze beleving reflecterend zien we de robot niet als deelnemer aan die reflectie. Wij vragen de robot niet hoe deze ons gesprek heeft ervaren. Wij vragen niet hoe de robot zijn werk ervaart. Of het interessant werk is.
Daarentegen wordt de functionaris die mens is als mens tegemoet getreden, niet als instrument, niet als slechts finctionerend onderdeel van een systeem.
Of de robot een morele status heeft staat ter discussie. Een discussie waarin deze niet zelf als betrokkene meespeelt, anders dan als lijdend voorwerp, als object, waarover gedebateerd wordt.
Het is nodig na te denken over de identiteit van de robot.
“De koning is dood, maar hij leeft voort.” zei de Franse filosoof Foucault waarin hij de behoefte van het volk om de macht van de staat aan te kunnen wijzen uitdrukte. De gebruiker van de technologie heeft behoefte de macht van de techniek aan te wijzen en bedenkt daarbij een nieuwe koning; de sociale robot als Persoon.
Maarten Coolen (2013). Anders zien dan we gewend zijn. Krisis, 2013, Issue 2.
Louk Fleischhacker (1995). Beyond structure; the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang Europäischer Verlag der Wissenschaften, Frankfurt am Main, 1995.
L.E. (Louk) Fleischhacker (2004). De techniek als contemplatieve bezigheid. Filosofie, 2004, jrg 14, nr. 2 april/mei.
“Hollak beweert niet dat in de cybernetische techniek, of in de computer in het bijzonder, het menselijke zelf-zijn of de absolute geest als zodanig is geobjectiveerd, maar wel dat deze ontplooide gestalte van de technische idee als “de zelfreflectie van de verstandsreflectie als zodanig in haar uitwendige geobjectiveerde vorm moet worden begrepen.” (B&B, p. 533).
Over de computer (de denkende machine) als huidige vorm van de technische idee die volgens Hollak “als de zelfreflectie van de verstandsreflectie als zodanig in haar uitwendige geobjectiveerde vorm moet worden begrepen” merkt Fleischhacker het volgende op.
“Het is in deze nieuwe reflectievorm (van de technische idee) niet de gebruiker, maar de ontwerper die zichzelf leert zien als objectiveerbaar in zijn product. De vorm waarin de ontwerper zich tot het uitgevoerde ontwerp verhoudt is die van de technische objectivering zelf. Het natuurproces waarin het ontwerp gerealiseerd is, wordt zo begrepen als objectivering van een denkproces. (…) Pas hier wordt ten volle de algemene verstandsvorm in natuurkrachten uitgedrukt.”
Ter verduidelijking voegen Bekelmans en Brink (2013) het volgende aan dit citaat toe. Op grond van Hollaks tekst in Van Causa sui tot automatie zou men kunnen denken dat hij vindt dat het menselijk zelfzijn als zodanig in de cybernetische machine reëel geobjectiveerd is. Het gaat Hollak echter om de uitdrukking van het hegeliaanse subject: het subject dat zich in zijn predikaten zichzelf tot uitdrukking brengt. (Beeld en evenbeeld, p. 533, voetnoot 1125).
Louk Fleischhacker (2004). Hegel – Zelfbewustzijn, Begeerte en de Ander. Damon, Budel, 2004. Dit werk bevat een geannoteerde vertaling van het hoofdstuk Selbstbewustsein uit de Phänomenologie des Geistes, een Inleiding over René Girards begrip mimetische begeerte, en een essay over liefde, begeerte en zelfbewustzijn in filosofie en psychoanalyse.
Jody Forlizzi (2007). How robotic products become social products: An ethnographic study of cleaning in the home. 2007 2nd ACM/IEEE International Conference on Human-Robot Interaction (HRI), 129-136.
Erving Goffman (1967). Interaction Rituals: essays on face-to-face behavior. 1967.
David Gunkel (2013). Review of Mark Coeckelbergh’s growing moral relations: critique of moral status ascription. Ethics and Information Technology.
David Gunkel (2018). The Other Question: Can and Should Robots have Rights? Ethics Inf Technol 20, 87–99 (2018).
David Gunkel (2022). The Rigths of Robots. In: Non-human rights – critical perspectives (A.A. Nakagawa and C. Douzinas eds). Edward Elgar Publishing Ltd, 2022.
Hebben robots rechten? En wat bedoelen we met rechten als het om robots gaat? Wat is hun morele status? Hebben ze die? Zo ja, op grond waarvan hebben ze die? Zijn robots te vergelijken met mensen of andere ‘non-human animals’ die we juridische rechten verlenen? Gunkel ziet twee partijen in oppositie als het gaat om deze vragen. De conservatieven zeggen: er kan geen sprake zijn van robot-rechten. Ze hebben geen ‘morele status’. Het zijn tools, instrumenten die slechts waardevol zijn vanwege hun bruikbaarheid voor de mensen. De andere partij zegt dat het om sociale entiteiten gaat waarmee we samenwerken en die we moeten respecteren als ‘quasi-other’. Hoe lost Gunkel dit conflict op? Wat is het conflict? Waarover zijn de partijen het eens?
Om de term rights concreter inhoud te geven worden lijsten van specifieke rechten gemaakt die robots zouden kunnen toekomen. Zoals ‘rights to make decisions for themselves’, of ‘rights to receive updates and maintenance’ of ‘rights to own property’. Al deze rechten zijn ontleend of afgeleid van mensen-rechten en de formuleringen zijn sterk antropomorf. Er is sprake van ‘zichzelf’, maar wat is dat wanneer het over een robot gaat. Als een robot een contract afsluit is het dan de robot die zich daaraan verplicht en wat als deze zich daar niet aan houdt. Wat zijn dan de gevolgen voor de robot? Hier treedt een existentieel probleem op, zodra het om mensen gaat, maar kent de robot ‘existentiële problemen’; problemen waarbij het om het bestaan van de robot zelf gaat. Maar kan een robot dood gaan. Kent hij doodsangst, de angst om verstoten te worden? Wat betekent bestaan als het om het bestaan van robots gaat?
Rechten moeten door iedereen gerespecteerd worden. Niet omdat ze door anderen worden verleend, maar vanwege de ‘natuur’ van het ondewerp, om wat het wezenlijk is. Een recht om te bestaan wat het is.
Gunkel concludeert dat we kunnen onderscheiden rechten vanuit het patient perspectief en rechten vanuit het agent perspectief. De agent is waar de morele actie vanuit gaat. De patient is de ontvanger van de actie. Degene die de actie ondergaat. Die behandeld wordt. Hij spreekt van een ‘patient oriented way of looking at a moral or legal interaction’.
De ‘will theory’ vereist dat robots alleen dan rechten kunnen hebben als ze er zelf om vragen, aktie voor voeren. Daartegenover staat ‘interest theory’, volgens welke anderen de rechten aan robots kunnen verlenen, ook al kunnen ze die zelf niet claimen. De Waddenzee voert geen aktie om rechten te claimen, dat moeten mensen doen die opkomen voor de waarde ervan.
Natural rights vs legal rights
Natural rights heeft een subject op grond van wat het is. Human rights zijn uitdrukking van het wezen van de mens-zijn, vrij zijn, persoonlijke vrijheid, integriteit, bestaansrecht als vrij individu.
De ‘properties appoach’ van Coeckelbergh ziet de rechten die aan een subject verleend worden gefundeerd in bepaalde eigenschappen waaraan het subject voldoet. (ontology -based). Het gaat hier om een legitimatie, een verantwoording van het toekennen van rechten aan een entiteit. De morele status wordt bepaald door de ontologische status. (Floridi).
De conservatieven gaan uit van natuurlijk recht en de ontologische status van het subject. En omdat een robot een tool is kan deze geen rechten worden verleend. Conservatieven zeggen dus dat robots een programma uitvoeren en niets zelf kunnen doen. Ze nemen geen beslissingen. Het zijn geen autonome agenten. Ze zijn niet het soort object dat morele status kan hebben.
De andere partij die uitgaast van de ontologie ziet de robot als een subject, deze heeft gevoelens en bewustzijn en heeft een morele status, op zijn minst als ontvsnger vsn morele acties, moral patient.
Legal rights zijn anders dan natural rights sociale conventions. Legale rechten zijn afhankelijke van degenen die aan de macht zijn, die de rechten bepalen. Er is geen beroep op transcendentale geloofswaarden. Het is ook niet van belang wat de eigenschappen zijn van het subject.
Uiteindelijk zijn wij het die de rechten vastleggen. Wij, vooral degenen die de macht hebben. Waaraan wordt deze macht ontleent?
Ook huisdieren behoren tot de familie en worden dan als individuele morele subjecten behandeld. Rites zijn sociale afspraken die gedrag bepalen.
Coeckelberghs ‘moral status ascription’ gaat over onze (morele) relatie tot de dingen, “which is not about the entity but about us and about the relation between us and the entity.” (Robot Rights?, Mark Coeckelbergh, 2010)
Dit wordt wel de ‘relational alternative’ genoemd in het denken over deze materie. Deze zou gebaseerd kunnen worden op een ‘relational ontology’. Wat de dingen zijn wordt bepaald door het netwerk van relaties waarin ze betrokken zijn. Een nogal mathematische gedachte.
“Thinking otherwise” verwijst naar Gunkel;s benadering gebaseerd op Emmanuel Levinas.
G. W. F. Hegel (1807), Werke 2, Jenaer Schriften 1801-1807: “Wer denkt abstrakt?” (1807), pp. 575-581. Uitgave: Suhrkamp Taschenbuch (8e oplage, 2016)
David Levy (2007), Love and Sex with Robots: the evolution of human-robot relations. New York: Harper Collinds, 2007
Maurice Merleau-Ponty (1964). Signs. Translated and with an Introduction by Richard C. McCleary. Northwestern Univ. Press, 1964.
John R. Searle (1995). The Construction of Social Reality. London: The Penguin Press.
Fabio Tollon and Kiasha Naidoo (2021). On and beyond artifacts in moral relations: accounting for power and violence in Coeckelbergh’s social relationism. AI & Soc (2021).
Sherry Turkle (2005). The second self: computer and the human spirit. Cambridge, MA: MIT Press, 183-218, 2005.
Sherry Turkle (2011). Alone together: why we expect more from technology and less from each other. Basic Books, New York, 2011.
D.W. Winnicott (1971). Playing and reality. London: Tavistock Publications.
H.F.J. de Witte (1980). Over de ontwikkeling van het transitional object. Tijdschrift voor Psychiatrie 22, 1980/5
