“De grens tussen mens en techniek is veel minder scherp dan velen geneigd zijn te denken.” (Peter-Paul Verbeek in: De Grens van de Mens, 2011)
Inleiding: twee benaderingen van techniek
De (ethische) stelling die ik hier inneem is dat de techniek haar waarde vindt in de betekenis die deze voor de mens heeft. Dat lijkt misschien een open deur. Toch krijg ik wel eens de indruk dat alles in de wereld om de ontwikkeling van nieuwe technologie gaat. Alsof die een eigen waarde heeft. Wat zegt de filosoof hierover?
Ik ben met twee nogal verschillende benaderingen van de techniekfilosofie in aanraking gekomen. Die houden er verschillende opvattingen van techniek op na.
Met de eerste kwam ik in aanraking tijdens mijn studie wiskunde en informatica aan de toen nog Technische Hogeschool Twente. Filosofie van de wiskunde en de informatica vulde een groot deel van mijn studie. Ik was daarmee in aanraking gekomen via mijn leermeester Louk Fleischhacker, filosoof met als achtergrond logica en wiskunde. Hij werkte op het Mathematisch Centrum waar hij promotieonderzoek deed bij Curry op het gebied van de combinatorische logica. Toen die vertrok volgde Louk zijn interesse voor de wijsbegeerte. Ik verdiepte me in het gedachtegoed van Louk’s leermeester, de Amsterdamse filosoof Jan Hollak. “Hegel, Marx en de Cybernetica” was het eerste artikel dat ik van Hollak las. Ik snapte er helemaal niets van. Maar ik had wel het gevoel dat er iets van waarde in zat. Wat had de cybernetica van Norbert Wiener met de filosofieën van Hegel en Marx te maken? Ik las Hollaks inaugurele rede “Van Causa sui tot Automatie”, over het moderne Godsbegrip, de relatie met het causaliteitsbegrip. Zelfreflectie, het denken dat zichzelf probeert te begrijpen, en zichzelf veroorzakende processen, automaten, daar ging het over. Alle twijfelachtige wetenschap die het gevolg was van de Cartesiaanse methode, het gevolg van een universeel twijfelexperiment.
Mijn belangrijkste motief was dat ik, wiskunde- en informaticastudent, wilde begrijpen hoe een computer werkt. U zou kunnen denken dat je daarover toch genoeg leert bij het volgen van een informatica-studie. Dat is een begrijpelijke gedachte, maar die colleges gaven niet het antwoord op de vraag die ik had: hoe werkt de computer nou eigenlijk? Je kunt heel veel technische uitleggen lezen over hoe de computer werkt (zie bijvoorbeeld hoe de filosoof D.C. Dennett uitlegt hoe de register machine ‘werkt’). Maar ze raken niet de kern van mijn vraag. Men zegt dat de computer kan rekenen, dat machines kunnen denken. Maar hoe dan? Is dat misschien alleen ‘bij wijze van spreken’ zo? Maar waarom zo spreken?
Ik volgde colleges bij Maarten Coolen in Amsterdam die toen bezig was te promoveren bij Theo de Boer. In “De Machine Voorbij” geeft hij zijn interpretatie van de (historische) ontwikkeling van de techniek, waarvan de programmeerbare machine, de zelfregulerende automatie, de (voorlopige?) eindfase is. Voor Maarten Coolen was Hollaks filosofie van de ontwikkeling van de technische idee een belangrijke inspiratiebron. Een kernprobleem is de vraag naar de verantwoordelijkheid voor een technologie die steeds autonomer wordt en die een eigen dynamiek lijkt te hebben. De complexiteit maakt dat niemand meer voor de ontwikkeling van nieuwe technologie verantwoordelijk kan zijn omdat niemand volledig snapt hoe het werkt en waar het toe leidt. Hoe autonoom is die moderne mens eigenlijk die zich tot uitdrukking brengt in de zichzelf programmerende machine? Louk en ik keken vooral naar de relatie tussen de ‘zelfreflectie’ van de wiskunde zoals die zich in de metamathematica in het begin van de 20ste eeuw voltrok (met Frege, Russell en Wittgenstein als ‘grote’ denkers) en de programmeerbare machine. Louk promoveerde bij Hollak op een proefschrift getiteld “Over de grenzen van de kwantiteit”. Wat voor grens? Waartussen?
De geest heeft de neiging zich in ruimtelijke termen, zoals ‘grens’, uit de drukken. Dat kan erg misleidend zijn.
Met de tweede benadering van de techniek kwam ik in aanraking via het werk van Peter-Paul Verbeek. Het is een benadering die veel dichter bij het ontwerp en de effecten van concrete technische projecten en dingen staat. Ihde’s mediatie theorie en Latours mens-beeld nemen een belangrijke plaats in in het denken van Verbeek. Ik noem deze de ethische benadering omdat in deze filosofie de ‘morele’ kant van de techniek een centrale plaats inneemt. Wat doet dit ding met de mens en hoe verandert deze techniek de wijze waarop de mens de werkelijkheid ziet?
De ethische vraag hoe te handelen wordt in zekere zin mede door de techniek beantwoord. Dat doet ze door vorm te geven aan de manier waarop we dingen interpreteren en door nieuwe mogelijkheden van handelen te creëren. Verbeek wijst er in diverse van zijn boeken en artikelen op dat de technische dingen vanwege hun bemiddelende rol in het menselijk handelen in zekere zin zelfs een ‘moreel actorschap’ toegekend kan worden. (zie bijvoorbeeld zijn “Moraliteit voorbij de mens”).
De tweede benadering is een heel andere dan de eerste. Heidegger zegt in Die Frage nach der Technik dat het wezen van de techniek iets anders is dan techniek (“Die Technik ist nicht das gleiche wie das Wesen der Technik”.) Je zou kunnen zeggen dat de eerste benadering zich meer richt op het wezen van techniek, de technische idee, terwijl de tweede kijkt naar wat de verschillende technieken doen. Toch gaan beide over moderne zaken als informatica en media. De filosofie van Hollak sluit meer aan bij de grondslagenproblematiek in de wiskunde, bij de automatisering, de onderwerpen van mijn studie.
Na mijn studie werkte ik in de onderzoekgroep Human Media Interaction aan interfaces tussen mens en machine. Ik leerde de machine onze taal spreken, zodat mensen in hun eigen taal met de machine kunnen communiceren. Ik leerde machines om uit teksten informatie te halen over eigenschappen van de schrijvers ervan. Je leert machines via de taal de werkelijkheid kennen. Ik werkte aan persuasieve technologie, coaching systemen die mensen helpen om hun bloedsuiker en/of gewicht op peil te houden. Aan avatars die de rol van een verdachte in een politieverhoor kunnen spelen. Tegenwoordig kan iedereen appjes op zijn mobieltje zetten die deze functies uitvoeren. Het onderzoek van Verbeek naar de verschillende vormen van mediatie sluit direct aan bij dit soort mens-machine-interaktie-projecten.
Waar in het denken van Hollak en zijn leerlingen (Maarten, Louk) komen de ethische vragen met betrekking tot de technologie aan de orde? Het is een kwestie die voor mij lange tijd onduidelijk was. Ethiek lijkt helemaal geen thema in die antropologische benadering van techniek. Dit is slechts schijn. Een schijn die veroorzaakt wordt door het feit dat het juist voortdurend gaat om de menswaardigheid van de techniek, om wat de mens van zichzelf in de techniek uitdrukt en in hoeverre hij daarin slaagt. In de poging zichzelf te begrijpen en aan zichzelf te werken brengt de mens tot uitdrukking wat menswaardig is. De filosofie is bij uitstek het domein waar gepoogd wordt dit zelfbegrip tot uitdrukking te brengen.
In “The moral roots of conceptual confusion in Artificial Intelligence research”
zegt Niklas Toivakainen: “My main claim in this paper will be that the project of AI — as the project of any human endeavor — is itself inextricably a moral matter.” Hij vindt de moraliteit in de methode en het denken van de AI zelf. Ik denk dat in de techniekfilosofie van Hollak c.s. de impliciet morele kant van de technologie tot uiting komt.
Verbeek zoekt naar “de grens van de mens” en hoopt deze te vinden in de verschillende relaties die de mens met de dingen heeft. We zien, zegt hij, een toenemende mate van versmelting van mens en techniek. Het roept de vraag op wat er bedoeld wordt met ‘de grens tussen mens en techniek’. Ik zal proberen aan de hand van een tweetal grensconflicten dit te verhelderen. Daarna keren we terug naar de menswaardigheid van de techniek. We zullen zien dat de menswaardigheid het centrale thema is van zowel de antropologische als van de ethische benadering van de technologie.
Grensconflicten
De mens heeft de neiging zich in ruimtelijke termen uit te drukken: afstand, grens, diepte, hoger, lager, binnen en buiten, uiten, wijzen, aanwijzen en nog veel meer. Wellicht hebben we hier te maken met een karaktertrek van de moderne geest. Een karaktertrek die tot nogal wat grensperikelen aanleiding geeft. Een kritische analyse van deze eigenschap lijkt me zinvol, zo niet nuttig, om inzicht te krijgen in de werking van de geest. Maar hoe doe je dat? Hoe analyseer je de geest?
De aanname is dat het taalgebruik een kijkje biedt in wat er in de geest omgaat. De filosofie houdt zich bij uitstek bezig met de geest en de wijze waarop deze zich uit. Zij moet het van de taal hebben. De geest uit zich in haar activiteiten en creaties. We richten ons hier op de technologie als creatief domein van de menselijke geest en de wijze waarop de filosofie daarover reflecteert. Ik bekijk twee technische domeinen van de geest waar grensperikelen zich voordoen. Deze betreffen de morele grenzen van de technologie. Het eerste domein is het speelveld van de genetische technologie ter ‘verbetering’ van de mens. Het tweede domein is dat van de ontwikkeling van sociale robots. Bij beide gaat het in zekere zin om het maken van een betere mens.
Eerste grensconflict: over de grens van de mens
Ter gelegenheid van zijn aanvaarding van het ambt van hoogleraar Filosofie van Mens en Techniek aan de Universiteit Twente sprak op 15 oktober 2009 Peter-Paul Verbeek zijn inaugurele rede uit vanaf de kansel van de kerk op het oude marktplein in Enschede. De plek past bij deze techniekfilosoof en ethicus die liever op het marktplein en op festivals zijn boodschap aan het volk verkondigt dan in de stoffige torens en muffe collegezalen van de universiteit aan een elitair gezelschap.
Het doel van de filosofie van Peter-Paul Verbeek is uiterst praktisch. Ze moet de basis vormen voor een ethiek die zich inzet om “op een goede en verantwoorde wijze vorm te geven aan de verwevenheid van mens en techniek.” (p.112). Ethiek moet niet van buiten af grenzen opleggen aan de techniek, maar ‘begeleider’ zijn en zoeken naar manieren om technieken te ontwikkelen die bijdragen aan ‘het goede leven’. Verbeek is dan ook regelmatig in design-labs te vinden. Hij neemt zitting in werkgroepen met ingenieurs en medici die aan nieuwe technologie werken, zoals onlangs nog in een nationaal project voor het maken van een Corona app. De bijdrage van de ethicus bestaat uit het onderzoeken van de mogelijke effecten die nieuwe technologie op het leven van mensen heeft. Hoe draagt deze techniek bij aan ‘het goede leven’? Wat doet deze techniek met de mens en de samenleving?
Zijn ethische legitimering van de technologie is gebaseerd op een mensopvatting die sterk door technologie wordt bepaald. Nu heeft de historische stand van de techniek vaak metaforen geleverd voor het karakteriseren van de mens. Zo was hij ooit pottenbakker, horlogemaker of programmeur. Het mensbeeld dat Verbeek schetst – en daarin schaart hij zich bij andere filosofen, is de mens als grensverleggend wezen. En dat houdt tevens in dat hij de grenzen van zichzelf, als subject verlegd. De menselijke geest is ‘zelfconstitutie’ (p.134). De mens is wezenlijk zelfmakende mens. De metafoor die gebruikt wordt om de mens te karakteriseren wordt door Verbeek dus niet ontleend aan een bepaalde vorm van techniek, maar aan een wezenlijk kenmerk van de technologie als zodanig, namelijk haar grensverleggende karakter. De mens is techniek en technoloog. Hij werkt aan zijn toekomst waarin het leven beter is dan nu.
Verbeek laat zich vooral inspireren door de nieuwste medische en biogenetische technieken. Deze leveren sterke staaltjes van de ‘verwevenheid van mens en techniek’. Descartes zag de medische kennis al als het belangrijkste product van zijn nieuwe filosofische methode: de mens als rationeel denkend subject dat meester is over de natuur. Het bestrijden van ziektes, het verlengen van de levensduur, wellicht het volledig uitbannen van het verouderen zijn de taken die hij voorstelt om aan te werken. Recombinant DNA-technologie, ‘pre-implantatiediagnostiek’, het telen van nieuwe soorten, het zelf ter hand nemen van het ontwerp van de mens, het ligt in het verlengde van Descartes visionaire blik op de mogelijkheden van de nieuwe mens.
De ironie wil dat Descartes door de nieuwe “technetici” als één van de belangrijkste grondleggers gezien wordt van een metafysica die subject en object, mens en machine in twee domeinen van elkaar scheidt. Tegenover het denkend subject verschijnt het res extensa, de zielloze en willoze uitgebreidheid, waarin het gezonde verstand zich uit kan drukken. Het grensbegrip duidt zowel op een verdeling binnen de uitgebreidheid als op de verdeeldheid van denken en wereld.
Deze metafysica is volgens hen de basis van een humanisme, dat de autonome mens plaatst tegenover de wereld, een mensbeeld dat o.a. door Heidegger is bekritiseerd. Een goede verstaander van de technologie ziet dat deze scheiding in werkelijkheid niet bestaat. Vanuit het oude denken moeten we dus zeggen dat de grens tussen subject en object, tussen mens en techniek vervaagt of zelfs is opgeheven.
Verbeeks houdt een pleidooi voor een nieuwe ethiek. Maar tegen welke club richt hij zich eigenlijk? Want wie zal nog ontkennen dat de mens zichzelf vorm geeft? Het ligt vrij subtiel. Het pleidooi richt zich tegen diegenen die dit zelfontwerp willen sturen; niet door de ontwikkeling van nieuwe technologie te ‘begeleiden’, door aan de ontwerptafel te gaan zitten, maar ‘van buiten af’, door vanaf de kant te roepen waar de morele grenzen van het speelveld dreigen te worden overschreden.
Waarop baseren deze stuurlui zich? Waar komen hun morele grenzen vandaan? Verbeek wijst in zijn boek op het feit dat er helemaal geen debat is over ethische kwesties. Er is een veelheid van meningen en men accepteert elkaars mening. Dat komt omdat de regels van de stuurlui gebaseerd zijn op zaken die je nou eenmaal geloofd. Daar valt niet over te praten. Over ethiek valt net zo min te twisten als over goede smaak. Ondertussen gaat de technische geest door in het exploreren van haar mogelijkheden. De religieuze mens verwijst naar de menselijke waardigheid die in het geding zou zijn. Verbeek noemt Habermas als voorbeeld van zo’n ‘externalistische’ ethicus, een kantlijner. En waar beroept deze zich op?
Op het autonomiebeginsel! De mens zou door de nieuwste technologie in zijn autonomie worden bedreigd. Maar dan toch zeker wel door die mens zelf. We willen en mogen wel programmeren, maar niet geprogrammeerd worden. Maar wanneer de werkelijkheid van de mens bestaat uit zelfprogrammering dan kan het één niet zonder het ander voorkomen. Ze zijn twee kanten van dezelfde technologie. Wie een technisch instrument maakt maakt ook een handleiding hoe er mee om te gaan. De programmeerbare machine veronderstelt en realiseert de mens als programmerend. We moeten er voor waken dat er een scheiding ontstaat tussen programmeurs en geprogrammeerden. Alsof die er nog niet is! De oplossing zou dus bestaan uit het democratiseren van de technologie. De gebruikers beslissen mee aan de ontwerptafels. Technetici stellen daarbij vragen als “wat doen pillen die ons minder somber maken met onze authenticiteit?” of “wat gebeurt er met de kwaliteit van ons bestaan” als nieuwe medische technologie net zo vanzelfsprekend is als een kunstgebit?”. Of ze werpen zich op als opstellers van regels voor het programmeren van het mensenpark. Of in dat park behalve mensen ook robots rondlopen voor wie dezelfde regels moeten gelden? Daarover gaat het tweede grensconflict.
Ondertussen zit de filosoof met een probleem. Hij probeert de grenzen die hij zelf denkend maakt weer op te heffen. Verbeek ziet de grens tussen mens en techniek vervagen. Ik dacht terwijl ik onderzoek deed op het gebied van de Kunstmatige Intelligentie dat ik bezig was te begrijpen waarin de mens zich van de techniek onderscheidt. De programmeerbare machine is immers, had ik geleerd, de uitwendige objectivatie van het humanistisch mensbeeld, de rationele mens (men leze de inaugurele rede van Jan Hollak, Van Causa sui tot Automatie, 1967). Hoe verder de techniek zich ontwikkelt hoe beter het onderscheid zichtbaar kan worden.
De automatie toont, voor wie het wil zien, dat het moderne mensbeeld, de idee van de autonome mens, niet voldoet. De automatie toont dat de mens daar voorbij is; dat hij meer is dan wat hij van zichzelf in technologie tot uitdrukking brengt.
In eerste instantie dacht ik dat die twee benaderingen van de techniek tot opvattingen leiden over de relatie tussen mens en techniek die met elkaar in strijd zijn. Dat is niet het geval.
“Philosophie der Techniek”
In zijn “Philosophie der Techniek” doet de filosoof P. de Bruin een poging het bijzondere karakter van de menselijke techniek te beschrijven. Ook dieren kennen techniek. Of het nou aan de bijzondere samenstelling van het menselijk genoom ligt of niet, feit is dat het technische instrument of een methode van werken door de mens uitgedacht, niet gebonden is aan een concrete situatie, waarin deze door iemand is bedacht of toegepast is, zoals bij het dier, maar zelfstandigheid heeft. “De mens is het enige dier dat aan zijn instrument zelfstandigheid geeft: dat zijn instrument als weergave van zijn concept beschouwt; dat middelen maakt voor algemeen gebruik; dat instrumenten vervaardigt om er instrumenten mee te fabriceren, die eerst langs een omweg, soms langs vele omwegen tot directe dienst aan de mens terugkeren of die alleen maar gebruikt worden om er kennis mee te vermeerderen. Daarin ligt het onderscheidend kenmerk en niet in de fabricatie van doelmatige instrumenten, in de combinatie van natuurkrachten om een gesteld doel te bereiken, b.v. een hoog hangende vrucht.” Anders dan het dier heeft de mens een van de behoeftebevrediging bevrijde verstandelijke voorstelling. De Bruin wijst op het wetenschappelijk karakter van de menselijke techniek. Experimentele wetenschap en techniek zijn twee kanten van een zelfde geestesleven. Zonder vrij denken geen experiment en geen techniek.
“De techniek is derhalve de beheersing van de werking der natuur in een nieuwe algemene vorm door het verstand uitgedacht of gevonden.” De “eerste eigenschap” van de menselijke techniek is volgens De Bruin de eindeloze herhaalbaarheid. Dit is uiteraard slechts in principe zo. Dat wil zeggen afgezien van de slijtage en de eindigheid van de bouwstoffen, die door toepassing van de techniek worden verbruikt. Heidegger heeft gewezen op het feit dat de technologie de aarde als Bestand ziet, als bron van grondstoffen.
De technische vinding is niet alleen uitvoerbaar of bruikbaar voor de uitvinder ervan. Net als een stelling in de wiskunde is ze geldig voor iedereen zodra deze een keer bewezen door iemand bewezen en meegedeeld is. Op dezelfde manier is een geslaagd experiment een bewijs van de werking van een techniek. Ook de leerbaarheid deelt de techniek met de wiskunde, die bij uitstek mathesis is, leerbaar.
“De handelingen van de mens zijn technisch, juist voor zover zij berekenbaar zijn.” Het is dan ook niet toevallig dat de ontwikkeling van de techniek geleid heeft tot de techniek van de rekenende programmeerbare machines. Dat deze machines ook taalmachines zijn, dat wil zeggen op taal reageren en zich in taal uiten is geen toeval. Het is het gevolg van het feit dat de taal de lichamelijke uiting van de denkende geest is.
De zelfstandigheid van de menselijke techniek heeft twee aspecten. Eerstens werkt deze volgens een door het verstand gevonden algemeen geldend concept. Ten tweede heeft het technische ding de zelfstandige werking van de natuur, die “op algemeenheid is aangelegd”. De natuur werkt volgens algemene wetten. Niet alleen de hamer, ook de logische schakeling werkt als natuurkracht. Maar de functie die het uitoefent ontleent het aan het ontwerp, aan de creatieve berekende en door middel van experimenten geteste combinatie van werkingen van de natuur.
De zelfstandigheid van het technisch instrument is volgens De Bruin op twee wijzen beperkt. De natuur verzet zich tegen de haar opgelegde vorm door verslijt. Ten tweede: “de zelfstandigheid is steeds afhankelijk van de medewerking der mensen.” (p.446).
De gebruiker van het instrument moet zich steeds meer aanpassen naarmate deze zelfstandiger wordt. De mens leeft synchroon met de tijd van de machine. Dat geldt niet alleen voor de klassieke machines, de materiële productieprocessen (denk aan de lopende band), maar ook, en meer en meer, voor de informatie- en communicatietechnieken. Niet alleen in de sfeer van de arbeid, maar ook in de privé-sfeer wordt de moderne mens door social-media en massa-media geleefd.
Het is de economische toepassing van techniek die niet alleen dreigt de menselijke arbeid te mechaniseren tot een mensonwaardig functioneren, maar ook de burger dreigt te ontwaarden tot een stuurloze consument. Dit gaat zover dat dit de identiteit van het individu raakt. Zijn consumentgedrag bepaalt wie hij is.
De Bruin wijst op de veelgemaakte fout techniek te verwarren met het economisch gebruik van techniek. “De technische handeling is niet minder ingenieus, vernuftig, in één woord technisch, wanneer zij zich ten doel stelt een zo zwak mogelijke verlichting te verkrijgen.” Dit doet denken aan het werk van de kunstenaar Gerrit van Bakel die machines maakte die zo langzaam mogelijk voortbewogen.
“Men mag een begrip niet begrenzen door dingen die er buiten staan. De techniek heeft maar één grens: het natuurlijke en formeel-logisch onmogelijke.” (p. 461)
In zijn ”De Structuur van het Economisch Arbeidsbegrip” doet de Bruin een poging het begrip arbeid te analyseren en te definiëren. Hierin gaat hij expliciet in op het probleem van de vage grenzen tussen fenomenen in de werkelijkheid. Over het begrip grens zegt hij: “vloeibare grenzen en vastomlijnde begrippen zijn niet elkaars tegengestelde maar elkaars complementen.” Het onderkennen van grensvervaging veronderstelt een inzicht in het begripsonderscheid. De vaste kern van het begrip techniek, de technische idee is dat het een verstandsvorm is die op een uitwendige wijze wordt gerealiseerd. Die uitwendigheid en die verstandsvorm horen bij elkaar. Als verstandelijk denken drukt de geest zich uit in ruimtelijke termen. Het is de sfeer van de kwantiteit, waar de mens technische de natuur aangrijpt om deze te veranderen. De filosofie probeert de onderscheiden bepalingen, subject en object, weer op te heffen in een poging het verstand met de werkelijkheid te verzoenen. De techniek probeert de grens tussen subject en object tussen geest en natuur op te heffen maar ze blijft als robot tegen over de maker staan.
De onmiddellijke lichamelijkheid waarin de techniek is ingebed is de innige band die de mens van nature met de natuur heeft. De lichamelijke mens is als lichamelijk geen ‘tegenover’ van subject en object: het lichaam is beide, ‘le çorps-sujet’ (Merleau-Ponty). “In de meest fundamentele en steeds aanwezige ervaring van ons eigen bestaan is de coëxistentie met onze wereld ondoordacht aanwezig en wel primair geconstitueerd door onze lichamelijkheid”. (F.J.J. Buytendijk, Prolegomena van een antropologische fysiologie, p.30). Taal en techniek delen als intelligente uitwendige objectivaties van de geest in de lichamelijke eenheid van subject en object, van geest en materie. Maar het zijn wel uitwendige objectivaties, het subject is er niet als subject in aanwezig. De machine imiteert slechts een beeld van subjectiviteit. Wanneer A.G. van Melsen zegt dat het kennen niet geheel buiten de sfeer van het stoffelijke ligt, dat water “weet” wat het moet doen als het verwarmd wordt, dat natrium “weet” hoe te reageren met chloor, dan is dat weliswaar een metafoor maar toch drukt het ook een zeker eigenschap van de stof uit namelijk een functioneel weten dat net als bij de mens het handelen bepaalt. (Van Melsen, Natuurwetenschap en Techniek). In de techniek gebruiken we dit “weten”, deze intelligentie van de natuur op slimme wijze.
Het besef van de uitwendigheid van de techniek is de bron van de ethiek. Weliswaar is de mens techniek maar het gaat niet om de techniek. Het gaat om de waardigheid van de mens die zich erin uitdrukt. De mens moet het van de uitdrukking hebben maar gaat er niet in op. Dat is de gemeenschappelijke ethische kern van beide benaderingen in de techniekfilosofie. De mens moet aan techniek werken maar er ook buiten staan en het beschouwen met de vraag is dit waar ik mezelf in vindt?
Dit is allemaal erg abstract. Concreet bestaat de mens als individu, als persoon met een eigen lichaam en karakter. De medische technologie sleutelt aan de individuele mens; niet aan de arbeid, de machines in de fabrieken, maar aan de persoon door middel van zijn lichamelijkheid. Of het nu om een nieuwe knie ter ‘verbetering’ van het loopvermogen gaat of om ‘verbetering’ van de psychische vermogens.
Wanneer Verbeek het over de morele kant van de techniek heeft dan doelt hij op de concrete techniek in haar relatie tot het gebruik. Daar ligt de verwarring tussen techniek en economie op de loer. Voor Verbeek is de techniek nooit neutraal. Voor de Bruin zit de waarde van de techniek in de algemene bruikbaarheid. De techniek moet dienstbaar zijn aan de mens. Het behoort tot het wezen van de techniek berekenbaar en herhaalbaar te zijn. Maar wil techniek techniek blijven dan moet de mens grenzen opleggen aan de mechanisering waartoe ze uit zich zelf geneigd is. “De techniek is niet mogelijk zonder een leidend verstand dat nog vrij over zichzelf beschikt.” (p.449). De controle door de mens is van dezelfde aard als de wijze waarop we over ons lichaam beschikken en er tevens voor zorgen.
Men zegt: mensen gaan op robots lijken en omgekeerd gaan robots op mensen lijken. Maar voor wie? Dan toch in elk geval voor diegene voor wie dat lijkt. Maar die weet dan toch van het verschil. Dat de gelijkenis slechts uitwendig is.
De uitwendige kant van de lichamelijkheid speelt ook een centrale rol in de technologie van de sociale robots. Dat zijn robots die onze taal spreken (dingen met taal doen) en andere sociale gebaren maken die emoties opwekken bij de mensen die er door aangesproken worden.
Tweede grensconflict: moeten robots rechten hebben?
Een andere arena waar ethiek en techniek in de clinch liggen is waar technische dingen als ‘autonome’ machines worden opgevat. Daar willen de nieuwe technetici het morele van het subject de grens overhevelen naar het domein van de technische objecten die ook subjecten zijn, want “zelf beslissingen nemen”. De titel “Moralizing Technology” van een boek van Verbeek nodigt de vraag uit waar het over gaat: is de techniek object of subject van het moraliseren? Morele actor zijn betekent het vermogen hebben vrij te kiezen in bepaalde situaties. Wanneer de vraag aan de orde komt of machines wel vrij zijn om te kiezen, relativeren de technetici de vrijheid van het menselijk subject. De mens is ook door technieken bepaalt. Maakt de mens niet altijd gebruik van techniek en bepalen de technische mogelijkheden niet voor welke beslissingen de mens in zijn leven komt te staan? Zo vervaagt ook hier de grens tussen mens en techniek. Ik denk overigens dat in deze hele discussie vrijheid en keuzevrijheid worden verward. De mens is niet vrij omdat hij in bepaalde situaties keuzes kan maken, maar omdat hij inziet wat hij wel en niet wil. Hij kan ook weigeren voor een bepaalde keuze gesteld te worden. Hij kan zelf bepalen wat de alternatieven zijn. Voor wie werkelijk vrij is is er vaak maar één mogelijkheid.
David Gunkel (2017) spreekt van de “ontologische status” van de technische artefacten. De broodrooster en de nietmaschine hebben dezelfde ‘ontologische status’ als een sociale robot. Toch is er een verschil in ‘sociale status’ en daarmee van hun ‘morele status’.
Kate Darling (2012) schrijft, “our robots are nowhere close to the intelligence and complexity of humans or animals, nor will they reach this stage in the near future. And yet, while it seems far-fetched for a robot’s legal status to differ from that of a toaster, there is already a notable difference in how we interact with certain types of robotic objects.”
We hebben de neiging tot antropomorfiseren, zegt Darling, We projecteren onze eigen cognitieve vermogens, emoties en motieven op onze technische artefacten, sociale robots en androides, terwijl deze vermogens niet eigen zijn aan deze mechanismen.
“Social robots play off of this tendency by mimicking cues that we automatically associate with certain states of mind or feelings.” (Darling)
“But it is this emotional reaction that necessitates new forms of obligation in the face of social robots” (Gunkel, 2017). Sociale robots worden niet alleen gezien als morele actoren, subjecten die morele acties uitvoeren, maar ook als morele subjecten zoals huisdieren.
“Given that many people already feel strongly about state-of-the-art social robot ‘abuse,’ it may soon become more widely perceived as out of line with our social values to treat robotic companions in a way that we would not treat our pets” (Darling 2012).
Moeten we sociale robots niet beschermen tegen misbruik en vernieling door het uitbreiden van wetgeving? Of is bestaande wetgeving voldoende? De waarde die de robot heeft is immers gerelateerd aan de waarde die deze heeft voor de eigenaar ervan. Wat dat betreft is er geen verschil met het beschermen van een broodrooster tegen vernieling. Willen we de broodrooster zelf via juridische middelen beschermen tegen vernieling of misbruik door de eigenaar? We beschermen op die manier ook dieren en natuurgebieden vanwege de waarde die ze zelf hebben. Niet vanwege de economische waarde voor de mens.
Verschillende onderzoeken hebben laten zien dat mensen op een emotionele manier op sociale robots reageren ook al weten ze dat het om technische artefacten gaat. Ook mensen die in zekere zin weten hoe de robot werkt zeggen empathie te hebben alsof het om een huisdier gaat. We moeten de vaak nogal suggestieve onderzoeksverslagen wel met de nodige korreltjes zout nemen. Het gaat om laboratorium-onderzoek waarvan de ecologische validiteit vaak betwijfelbaar is. Bovendien is het taalgebruik wanneer we over robots praten nogal suggestief. We spreken van een ‘intelligente’ robot die ‘zelf beslissingen neemt’ also we daarmee hetzelfde zouden bedoelen als wanneer we dit van een mens zeggen. Het gaat hier echter om een ander taalgebruik. Intelligente machines zijn niet in dezelfde zin intelligent als intelligente mensen. En als we zeggen dat een robot een beslissing neemt dan is dat echt iets anders dan wanneer we dat van een mens zeggen. Darling spreekt van “projectie”. We zeggen dat iets buiten ons doet wat wij eigenlijk zelf doen. Maar kunnen we niet doen wat de machine doet zonder de machine. Een breimachine breit anders dan een mens. Een wasmachine wast anders dan een mens. Dus is het geen projectie. Het vermogen van het technische ding is een uitwendige objectivatie van het menselijke vermogen zijn rationele wil op een doelmatige wijze aan de natuur op te leggen door aan de natuurkrachten te gehoorzamen. Het gaat om een samenspel tussen mens en natuur. Een samenspel dat in het verlengde ligt van zijn lichamelijke vermogens en die nooit helemaal buiten spel komen te staan. Hoe intelligent en autonoom de machine ook voor ons lijkt te werken altijd is er fysische interaktie nodig tussen mens en machine. De gebruiker moet de machine in een bepaalde toestand brengen, een toestand die de gebruiker deelt met de machine.
Machines zijn niet slechts instrumenten. Zegt men. Ze voeren ‘autonoom’ acties uit, Ze ‘nemen beslissingen’. En daarvoor zijn ze ook ontworpen. Maar zijn ze dan ook verantwoordelijk voor hun acties? De hamer is niet verantwoordelijk voor de mogelijke schade die veroorzaakt kan worden door iemand die dit instrument hanteert. Maar hoe zit dat met de zelflerende machine, zoals de chatbot Tay van Microsoft? Deze zelflerende Twitterbot heeft Microsoft het schaamrood op de kaken bezorgd. De chattende robot ‘TayTweets’ veranderde binnen 24 uur in een Holocaust-ontkennende nazi met racistische teksten als ‘Hitler had gelijk ik haat Joden’.
“Machine learning systems like AlphaGo and Tay introduce complications into the instrumentalist way of assigning and dealing with responsibility. They might not be moral agents in their own right (not yet at least), but their design and operation effectively challenge the standard instrumentalist theory and open up fissures in the way responsibility comes to be decided, assigned, and formulated. (Gunkel, 2017).
Ik maak bezwaar tegen de tegenstelling mens machine. De mens heeft ook iets machine-achtigs. Het rekenende denken is machinaal denken. De automatische rituele handelingen zijn mechanisch, onnadenkend uitgevoerd. Wie leest of luistert laat zich door de woorden programmeren. We reageren automatisch op bepaalde signalen uit de omgeving, zonder erbij na te denken, alsof we zo geprogrammeerd zijn. De sprekende geldautomaat maakt gebruik van dit automatisme wanneer deze ‘zegt’ “voer uw pas in”. We reageren daarop alsof er iemand is die ons dit vraagt te doen. De machine heeft het taalgebruik van ons overgenomen. En het werkt zodra het in de juiste situatie gebruikt wordt. Hier werkt de zelfstandigheid van de talige uitdrukking.
Het pad dat we hebben aangelegd nodigt ons uit om te begaan. Is het pad daarom verantwoordelijk voor ons gaan? Rekken we de betekenis van moraliteit en verantwoordelijkheid niet te veel op wanneer we deze toepassen op dingen; op niet-lichamelijke entiteiten?
De lichamelijke eenheid van subject en object
Verwevenheid, versmelting en mediatie zijn termen die Verbeek gebruikt om de relatie tussen mens en techniek te karakteriseren. Techniek medieert ons waarnemen, kennen en handelen. Dat kan alleen maar bij de gratie van onze lichamelijkheid waarin de grens tussen subject en object tussen geest en materie, tussen mens en techniek al is opgeheven. Door onze lichamelijkheid zijn we altijd al buiten en één met de natuur. We zien en zijn zichtbaar tegelijk. We delen de toetsen en de taal met ons toetsenbord. Door onze lichamelijkheid zijn we aanwezig voor de ander en drukken we – of we dat willen of niet – uit wie we zijn en hoe we tegenover die ander en de situatie staan. In de lichamelijkheid vinden we de oorsprong van de taal als uitdrukkingsmiddel en communicatiemiddel. De mens heeft beheersing over de onmiddellijke symbolische ‘senso-motorische uitdrukkingsbewegingen’ (Jan Peters, Metaphysica, 133c) waardoor deze worden tot in vrijheid gestelde tekens waarmee hij zich tot de ander kan wenden. De tegenstelling tussen de taligheid en de lichamelijkheid van het mens-zijn die Peter Sloterdijk in een reactie op Heidegger’s Brief over het Humanisme opperde lijkt dus nogal oppervlakkig.
De mens heeft altijd aan zichzelf gewerkt om zich te verbeteren. “Om mens te worden”, zeggen sommige filosofen. Door sociale technieken, alfabetisering en opvoeding, door biotechnieken, het verbeteren van voedsel en leef-omstandigheden. Zouden we wellicht de mens kunnen verbeteren door te sleutelen aan zijn lichaam, waardoor ook de geestelijke vermogens van de mens en daarmee zijn gedrag kan worden verbeterd? Nu het menselijk genoom in kaart is gebracht kunnen we gaan kijken welke genen verantwoordelijk zijn voor welke lichamelijke en psychische ongewenste afwijkingen. Human enhancement technologie als toepassing van het genomics onderzoek ligt in het verschiet. Tegenstanders wijzen op de menselijke waardigheid. Poliopatienten en armoezaaiers hebben gewoon pech. Laat de natuur en het toeval zijn werk doen. In de ogen van de religieuze mens zijn het “de uitverkoren kinderen van God” die onze steun en aalmoes verdienen. Kunnen we straks de genen in ons genoom identificeren, die verantwoordelijk zijn voor onze intelligentie, voor de menselijke waardigheid, voor Francis Fukuyama’s factor X “the one essential human quality underneath that is worthy of a certain minimal level of respect”?
Descartes scheidde subject en object, en bedacht de rationele methode van het verstandelijk denken als techniek om de kloof over te steken en tot ware kennis te komen. Objectief is datgene wat verantwoord wordt door de methode, dat wat verschijnt voor en door het instrument. De wetenschap moet objectief zijn, dat wil zeggen dat haar resultaten gepresenteerd moeten worden als resultaat van een bepaalde methode. Voor Descartes was de wiskundig methode de ideale methode om tot kennis te komen. Veel wetenschappers delen die opvatting. Kennis die nog niet in de vorm van wiskundige en programmeerbare rekenmodellen kan worden gepresenteerd is nog niet echt wetenschappelijke kennis.
“Onder methode nu versta ik de zekere en gemakkelijke regels die zo zijn dat wie er exact aan voldaan heeft, niets onwaars ooit voor waar houdt. Zo iemand komt zonder enige nutteloze vermoeienis van het denken, maar door de wetenschap stapsgewijs voortdurend te vermeerderen, tot de ware kennis van al die dingen
waartoe hij in staat zal zijn.” (Descartes, Oeuvres de Descartes, vertaling Th. Oudemans, Echte Filosofie, p. 77).
Waartoe de moderne mens in staat is dat heeft de geschiedenis ons afdoende laten zien. We moeten aan ons zelf blijven werken, maar het wordt tijd de methodes en technieken eens kritisch te bekijken op hun menswaardigheid. De stand van de techniek dwingt ons daartoe. Daarbij lijkt het me goed ons te realiseren dat problemen van de techniek geen technische problemen zijn en dus niet door middel van dezelfde methodes en denkwijzen opgelost kunnen worden als die waardoor ze zijn ontstaan. De uitdaging is een manier te vinden die de techniek overleeft.
Bronnen
Darling, K. (2012). Extending legal protection to social robots. Will projecting emotions onto objects lead to an extension of limited legal rights to robotic companions? IEEE Spectrum.
Gunkel, D. J. (2012). The machine question: Critical perspectives on AI, robots and ethics. Cambridge, MA: MIT Press
Gunkel, D.J. (2017). Mind the Gap: Responsible Robotics and the Problem of Responsibility. Ethics and Information Technology, 2017.
Verbeek, P.-P. (2008). De grens van de mens. Over de relatie tussen mens en techniek. In: Technologie en mensbeeld. Annalen van het Thijmgenootschap, jrg. 96, dl. 3, 2008.
Verbeek, P.-P. (2011). De grens van de mens. Over techniek, ethiek en de menselijke natuur. Lemniscaat, 2011.
