October 2021 – Rieks op den Akker

De levensovertuiging – alleen een God kan ons nog redden

Arie den Ouden is voorzitter van de SGP-Staphorst. Hij laat zich niet vaccineren.

Dat vraagt om een verantwoording, want preventieve medische behandeling is de alom geaccepteerde praktijk in onze risico-mijdende moderne gemedicaliseerde samenleving.

Waarom niet vaccineren?

Om publiekelijk antwoord te geven op deze prangende vraag schoof Den Ouden onlangs aan tafel aan bij Tijs van den Brink voor een tv-interview bij NPO Op1. Hij werd er alom voor geprezen. Deze man durft ten minste nog voor zijn overtuiging uit te komen!

Den Ouden laat zich niet vaccineren, omdat je dan probeert ziekte te voorkomen. Hij is tegen de preventieve geneeskunde.

“Terwijl ziekte en gezondheid een bedoeling voor ons leven kunnen hebben. Bijvoorbeeld dat je gaat nadenken over de waarde van het leven.”

Beseft meneer Den Ouden wel dat hij door zich niet te laten vaccineren tegen Corona de kans aanzienlijk vergroot dat hij straks een IC-bed bezet houdt?

Zeker wel.

En dat hij de keuze om zich niet te laten vaccineren niet alleen voor zichzelf maakt maar ook voor anderen? Het gaat hier immers om een besmettelijke ziekte.

Zeker wel. Hij worstelt met deze kwestie, zo vertrouwde hij zijn gesprekspartners toe.

‘Ik ben me daarvan bewust. Maar moet ik mijn levensovertuiging, die voor mij een waarde van leven en dood heeft, inleveren? Ik denk niet dat die worsteling eindigt. Uiteindelijk sta ik met mijn rug tegen de muur.’

Arie den Ouden staat niet alleen in deze worsteling. Integendeel. Bij velen knagen de vragen waarmee hij worstelt achter de muren die het Verlichtingsdenken heeft opgetrokken en die het zicht op de waarden ontnemen.

Eigenlijk valt er met religieuze mensen als Den Ouden niet met rede te twisten. De argumenten voor vaccinatie glijden af tegen het rotsvaste geloof als de regendruppels van een goed geoliede jas. Het is zo onlogisch, dat geloof.

Tijs van de Brink: ‘Maar waarom mag je dan wel een ziekte behandelen? Waarom moet je het niet laten gebeuren als je het krijgt? Je kunt toch zeggen dat het de straffende hand van God is’.

Den Ouden: ‘Nee, dan is het de opdracht om juist medische verzorging te zoeken. Vaccineren is vooruitlopen op een ziekte die er niet is.’

Maar moet je dan wel ziekenhuizen bouwen? Artsen opleiden? Dat doe je toch ook uit voorzorg, proactief. En wat zou Arie den Ouden op grond van zijn levensovertuiging vinden van het wetenschappelijk onderzoek en de ontwikkeling van instrumenten en methoden voor DNA-onderzoek en het ontwikkelen van vaccins?

… de waarde van het leven…

Is daar niet een formule voor bedacht door de ethici en medici? Een formule waarmee je van ieder individueel leven de waarde kan berekenen. Hoe groter de waarde hoe meer een medische behandeling mag kosten in geval van ziekte. Zo hebben medici samen met de ethici wiskundige modellen opgesteld om te berekenen wie er het eerst in aanmerking komt voor een IC-bed in geval van krapte. Zo wordt er gewerkt aan economische modellen om te berekenen welke jongeren het eerst in aanmerking komen voor een vervolgopleiding op basis van de kans dat deze toegevoegde waarde oplevert voor de samenleving. We investeren nu eenmaal niet in werkloos arbeidspotentieel. Alles ten behoeve van de optimale efficiënte inzet van de beschikbare middelen. De mens als bestand-deel van het economisch ‘Bestand’.

Egbert Schurman, Arie den Ouden, Martin Heidegger : Alleen een God kan ons nog redden.

De worsteling waarmee Arie den Ouden zit is de worsteling waarmee we allen in deze tijd zitten. Of misschien moet ik zeggen: waarmee we zouden moeten zitten. Het is de worsteling met de vraag naar de redelijke maat die paal en perk stelt aan de mateloosheid van het technologische en economische denken. Hoe bemiddelen we tussen het in onze levensovertuigingen impliciete inzicht in “de waarden van leven en dood” enerzijds en de allesoverheersende mateloze rationaliteit van de fysicus die steeds verder de ruimte in wil en de materie op lost in ook voor hemzelf onbegrijpelijke wiskundige formules, de viroloog, de epidemioloog, de medicus die het leven willen verlengen en bevrijden van ziektes en pandemieën, de econoom die de als maar groeiende behoeftes van de burger probeert te matchen met de eindigheid van de beschikbare middelen.

Is er een weg uit deze pandemie?

“Alleen God kan ons nog redden.”

Arie den Ouden zei het niet met zoveel woorden in het interview met Tijs van de Brink, maar de opvatting dat het antwoord op de vraag in Gods handen ligt is diep verankerd in de levensovertuiging van de godvrezende Nederlander. Het zal aan de erfzonde liggen dat de mens niet het vermogen heeft de gedachten van God te lezen. of zoals Einstein opmerkte: God laat zich niet in de kaart kijken. Daardoor bestaat er ook in de intellectuele kringen van christelijk protestants Nederland geen eensluidend antwoord op de vraag wat wel en niet meer toelaatbaar is als het gaat om het technische ingrijpen in de natuur. Ook reformatorisch Nederland is niet onverdeeld.

Een vooraanstaand lid van reformatorisch Nederland is dr. ir. Egbert Schuurman, van 1975 tot 2007 hoogleraar reformatorische wijsbegeerte aan de TUs Delft, Eindhoven en Wageningen. Schuurman had bijzondere belangstelling voor de filosofie van de techniek. Hij vond dat in de studieprogramma’s van de technische studenten aandacht moest worden besteed aan maatschappelijke aspecten van techniek en aan de ecologische gevolgen van het wetenschappelijk-technische denken. Hij was daarin internationaal voorloper. In zijn colleges besteedde hij veel aandacht aan Ethiek in relatie tot Techniek. Tegenwoordig is ethiek een verplicht onderdeel van iedere wetenschappelijke studie. Al is de ‘christelijke grondslag’ van Schuurmans normatieve ethiek niet meer vanzelfsprekend. Hij richtte een studiecentrum op voor Medische Ethiek. Schuurman was jarenlang actief in de Nederlandse politiek als lid van de Eerste Kamer. Eerst voor de RPF, de Reformatorisch Politieke Federatie, later de Christen Unie.

Schuurman zag in de moderne machinale en computer-techniek, die zich onderscheidt van de vroegere ambachtelijke techniek, een bedreiging voor de mens en het milieu. “De arbeidende mens is door de technologie opgenomen in een objectief, onpersoonlijk en gevoelloos proces”. (Schuurman, 1975). Wie voelt zich niet als een radertje in een machine? Als je dat voelt weet je dat je dat niet bent. Maar wat doe je er aan?

In zijn afscheidsrede aan de TU Delft vat hij zijn visie op de moderne techniek nog eens samen.

“De huidige technische ontwikkeling heeft veel beloften gerealiseerd en houdt voor de toekomst nog veel beloften in. Men kan zich op deze ontwikkeling echter blind staren, zodat men geen oog heeft voor mogelijke desastreuze gevolgen ervan. Hoe komt dat? Ik vermoed dat dit komt vanwege een in onze cultuur ingebakken grondhouding die de techniek alleen maar prachtig vindt. In lijn met de geest van moderniteit — en post-moderniteit — is men voor een kritische bezinning op de techniek blind. Is mogelijk de kern van die moderniteit de stilzwijgende verering van de techniek? En inderdaad, techniek is vaak fascinerend en spannend. Toch is er ook een keerzijde. Technologie werkt in belangrijke mate mee aan de kwaliteit van het bestaan, hoor je meer dan eens, maar je hoort weinig dat het omgekeerde evenzeer waar kan zijn. Naar mijn overtuiging zal steeds duidelijker worden dat de houding
ten opzichte van of de visie op de technische ontwikkeling in onze cultuur het meest centrale probleem is. Alleen het wordt maar door weinigen onderkend. Dat komt omdat we ons in de cultuur laten leiden door een technisch wereldbeeld van de werkelijkheid. Dat wil zeggen dat alles — dus heel de werkelijkheid — wordt gezien en gewaardeerd in het licht van een omvattende technische beheersing.” (Schuurman 2002).

In deze rede spreekt hij nog de hoop uit dat via de politiek een andere richting voor de techniek gekozen kan worden, “voor een breed genormeerde en daarin een anders gevormde techniek, die meer milieu-, natuur- , dier-, mens- en cultuurvriendelijk is. Ethisch juist handelen wordt dan juridisch afgedwongen.” (Schuurman 2002).

Terug naar de worsteling van Den Ouden en zijn geloofsgenoten. Mogen wij niet blij zijn dat de wetenschappers het experimentele erfelijkheidsonderzoek van Mendel in de kloostertuinen van Brno hebben opgepakt en voorgezet? Onderzoek dat mede geleid heeft tot de ontwikkeling van een vaccin waarmee we de Corona pandemie kunnen bestrijden. Welke maat leggen ethici uit de reformatorische kringen op aan het DNA-onderzoek? Schuurman stond bekend om zijn afwijzing van iedere vorm van genetische techniek waarbij gesleuteld werd aan de basis van het leven, de organische stof. Maar in zijn afscheidsrede van 2002 lijkt hij al wat toleranter. Zijn radicale nee is een nee, tenzij geworden. Er moeten internationaal duidelijke juridische grenzen worden vastgelegd aan het DNA-recombinanten-onderzoek.

“Het ligt voor de hand dat, indien men genetische manipulatie bij de mens overweegt, het ‘tenzij’ slechts geldt op orgaanniveau. Genetische manipulatie via de kiembaan, waardoor heel de mens ermee gemoeid is, moet verboden blijven. De consequentie van het technische wereldbeeld in de verdediging van therapeutisch en reproductief kloneren van de mens wordt gelukkig door weinigen gevolgd. Bij dieren zal genetische manipulatie bijvoorbeeld met het oog op de productie van medicijnen dat ‘tenzij’ ruimer kunnen worden opgevat.” (Schuurman 2002).

De EU legde in wetten vast wat wel en niet mag.

Maar nood breekt wet. Toen de Corona pandemie uitbrak werden de regels aangepast zodat de ontwikkeling van vaccins binnen de nieuwe kaders van de wet vallen. Er is geen kruid tegen gewassen.

Normen zijn er om aan te passen. Dat is de praktijk van alledag. Maar is er dan geen grens? Schuurman’s pleidooi voor de tuinstad lijkt gebaseerd op het romantische beeld van de arcadische kleinschalige biologische en ecologische landbouw. Maar is dat de oplossing?

Schuurman verwacht dat de uiteindelijke oplossing uit Gods hand komt. Want zo staat het immers in De Schrift, de uiteindelijke maat van het christelijk filosoferen.

“‘Dorens en distels’ zullen ons werk echter blijven begeleiden. Tótdat door Gods interventie eens de door verstoring gekenmerkte ontwikkelde aarde zal worden omgezet in de goddelijke tuin-stad (Openbaring 21:9–22:5), waarin mensen openbaar worden als bevrijde mensen, bevrijd tot de vrijheid van de heerlijkheid van de kinderen van God” (Schuurman 2002).

“Nur noch ein Gott kann uns retten”

Schuurman staat niet alleen in zijn visie op de moderne techniek. Deze vertoont veel gelijkenissen met die van de grote Duitse filosoof Martin Heidegger. Het is dan ook niet voor niets dat Remco van Mulligen als titel voor zijn biografie van Egbert Schuurman koos voor ” “Alleen God kan ons nog redden.”, verwijzend naar een uitspraak van Heidegger.

Enkele dagen na het overlijden van Martin Heidegger, in mei 1976, verscheen in het Duitse weekblad ‘Der Spiegel’ een tien jaar eerder opgenomen interview met hem, “Nur noch ein Gott kann uns retten”. Het kreeg wereldwijde aandacht. In dit gesprek met Rudolf Augstein, hoofdredacteur van ‘Der Spiegel’, trachtte Heidegger de verwijten tegen hem inzake zijn houding tegenover het nazi-regime in de jaren ’30 te ontzenuwen.

Mij gaat het echter om Heideggers kritische analyse van de moderne westerse samenleving. Achter de overwinningen van het technisch-wetenschappelijke denken en doen dat zo sterk verweven is met onze kennis-economie en waarmee we dagelijks op alle terreinen van ons leven worden geconfronteerd gaat volgens Heidegger een metafysische grondhouding schuil, die het karakter heeft van een stilzwijgende verborgen levensovertuiging.

Wie techniek zegt, denkt aan middelen en aan de rol die deze spelen in de beheersing van de natuur door de mens. Dit is de heersende opvatting over techniek. Volgens Heidegger is dit ‘onheilspellend juist’. Maar het gaat om de waarheid; niet om wat juist (‘richtig’) is. De waarheid is dat de mens door het denken van de techniek beheerst wordt. Velen geloven tegenwoordig dat de producten die gebruik maken van kunstmatige intelligentie slimmer zijn dan mensen. De Techniek heeft het denken overgenomen van het individu. Heidegger heeft zijn hele filosofische leven gewijd aan zijn roeping: de mens te waarschuwen voor het gevaar dat in het eendimensionale berekenende denken dat de technische mens beheerst schuilgaat. Daarin vond hij in Schuurman een medestrijder.

We leven in een tijd waarin de mens vaak als bestand-deel gezien wordt van het economisch ‘Bestand’ en spreken bijvoorbeeld van ongezien ‘arbeidspotentieel’. We denken dat problemen op een technische wijze opgelost kunnen worden. De oplossing voor de ecologische problemen waar we mondiaal voor staan kan echter niet gezocht worden in technologische oplossingen alleen. We zullen de metafysica, de stilzwijgende levensovertuiging en daarmee ons mens- en wereldbeeld inclusief onze waarden moeten veranderen.

Is er een alternatief? Vroeg zijn gesprekspartner Rudolf Augstein in het Spiegel-interview.

Maar kan de individuele mens het gevaar van de technologie nog ontwijken? Vraagt de interviewer. Kan de filosofie, die toch het individu, zij het indirect, richting kan geven in zijn handelen iets betekenen? Moderne ethici als de Twentse techniekfilosoof Peter-Paul Verbeek nemen tegenwoordig plaats aan de tekentafel om ethische sturing te geven aan het ontwerp van nieuwe technische artefacten, zoals bijvoorbeeld de corona app of de virtuele assistentes we op onze mobiele apparaten hebben en die we in “onze eigen taal” kunnen toespreken.

Het antwoord van Heidegger is enigszins verrassend.

Heidegger: If I may answer briefly, and perhaps clumsily, but after long reflection: philosophy will be unable to effect any immediate change in the current state of the world. This is true not only of philosophy but of all purely human reflection and endeavor. Only a god can save us. The only possibility available to us is that by thinking and poetizing we prepare a readiness for the appearance of a god, or for the absence of a god in [our] decline, insofar as in view of the absent god we are in a state of decline.

Heidegger stelt tegenover de heersende macht van het berekenende (mathematiserende) denken het bezinnende denken, de kunst en de poëzie. Maar is dat geen vlucht uit de werkelijkheid? De mens leeft niet van kunst en dichtkunst alleen.

Martin Heidegger, Arie den Ouden en Egbert Schuurman kwamen tot dezelfde conclusie. We kunnen alleen maar wachten en hopen. Actief open staan voor een mogelijke oplossing die zich aandient. Gelassen, zoals Heidegger deze geesteshouding aanduidt (Heidegger 1959, Mars 2019). Maar er is ook een verschil. De titel van Mulligens biografie is: “Alleen God kan ons nog redden.” dat verschilt van Heidegger’s “Nur noch ein Gott kann uns retten,”. Welke God het zal zijn dat laat Heidegger in het midden. Of zijn ‘gelatenheid’ voor het Zijn ook onderdeel uitmaakt van de levensovertuiging van Arie den Ouden en zijn geloofsgenoten?

Voor de Middeleeuwse dominikaner monnik Meister Eckhart was de gelatenheid als levenshouding nog “de overwinning van Gods wil en de belofte van de uiterste zaligheid”, een houding waarin de persoonlijke wil wordt losgelaten, maar bij Heidegger “de overwinning van de metafysica c.q. het technische denken van de moderne wetenschap en de belofte van een nieuwe bestaansgrond.” (Mars, 2019).

De God van de filosofen, de God van Descartes, voor Schuurman “de vader van al het moderne denken”, is dood. Maar deze is niet de God van Arie den Ouden. Die is nog springlevend. Evenals de worsteling met de vraag naar een bestendige maat van de technologie. Dat deze uiteindelijk eerder in de waarde van het leven dan in de technische vermogens van de robots gezocht moet worden, daarover zullen de meesten het wel met Arie den Ouden eens zijn. Hoop ik.

Techniek moet dienstbaar zijn aan het leven om techniek te zijn. Daar ligt dan ook de maat van de techniek. Feit is dat ook de medici zich steeds meer vrij en geroepen voelen ons als (potentiële) patient te wijzen op de grenzen die het leven zelf aan het leven stelt.

Zo stemt het gesprek met Arie den Ouden bij NPO Op1 tot nadenken. Iedere mens wil voor zichzelf het goede doen.

Volgens Moritz Schlick bestaan er in de theologische ethiek twee interpretaties van het wezen van het Goede. De eerste zegt: het goede is goed omdat God het wil. Een tweede zegt dat God het goede is omdat het goed is. In een commentaar hierop schreef Ludwig Wittgenstein, de filosoof die aan het front door zijn medesoldaten ‘de man met het evangelie’ genoemd werd omdat hij Tolstoj’s evangelie als een soort talisman met zich meedroeg:

“Voor mij is de eerste interpretatie dieper: datgene is Goed wat God gebiedt.” De reden hiervoor? “Want dit sluit iedere andere soort verklaring uit ‘waarom’ het goed is, terwijl de tweede interpretatie de oppervlakkige is, de rationalistische, omdat zij doet alsof er nog een verdere grond is waarom het Goede goed is.” (citaat uit: Janik en Toulmin 1990,p.175).

“Moraal prediken is moeilijk” (Schopenhauer) , zoals Arie den Ouden ongetwijfeld zal beamen. Iedere poging er een intellectuele rechtvaardiging voor te geven is hopeloos, omdat ze het onmogelijke tracht te realiseren. Ik deel de mening van Tolstoj in zijn Korte verklaring van het Evangelie dat de kerk als instituut verantwoordelijk is voor de verwording van het christendom. De kerk en andere ‘religieuze instellingen buiten het gelovige volk uit met alle moderne middelen die de reclamemachinerie van het consumentisme ter beschikking stelt.

De moderne ethici verdienen hun geld met het opstellen van ethische procedures waarmee berekend kan worden wat in een welomschreven situatie de beste beslissing is. Procedures bijvoorbeeld voor triage wanneer er te weinig IC-bedden zijn om alle patiënten die getroffen zijn door het Coronavirus de nodige medische behandeling te bieden. Ten behoeve van mensen die zich door zulke procedures willen laten programmeren of voor machines, zoals ‘zelfrijdende’ auto’s, die tegenwoordig vanwege hun vermeende autonomie ook ‘morele’ beslissingen schijnen te moeten nemen.

We hebben niet alleen te maken met een ecologische crisis in de vorm van een pandemie veroorzaakt door een virus. We hebben te maken met een milieucrisis en, niet onafhankelijk daarvan, met massa’s mensen die op de vlucht zijn omdat ze hun huis en grond moeten verlaten omdat ze er niet meer kunnen bestaan. Hoe kan een andere levenshouding, gelatenheid, de wereld redden van deze dreigende gevaren?

We wachten af. Vooralsnog op een nieuw kabinet waarin de Christen Unie en de liberalen samen de weg zullen wijzen waar we moeten gaan. Ook daar gaat het om levensvragen.

Lonneker, 26 Oktober 2021.

Bronnen

Martin Heidegger (1959). Gelassenheit. Klett-Cotta Verlag, Pfullingen. (Nederlandse vertaling Gelatenheid. Lannoo, Tiel/Amsterdam, 1979.)

Martin Heidegger (1976), “Nur noch ein Gott kann uns retten,” Der Spiegel 30 (Mai, 1976): 193-219. Trans. by W. Richardson as “Only a God Can Save Us” in Heidegger: The Man and the Thinker (1981), ed. T. Sheehan, pp. 45-67. Nederlandse vertaling: Alleen nog een God kan ons redden: Heidegger in gesprek met Der Spiegel (Rudolf Augstein, 2006), Klement, Kampen

Allan Janik en Stephen Toulmin (1990). Het Wenen van Wittgenstein. Tweede herziene druk. Boom Meppel, Amsterdam, 1990.

A.M.J. Mars (2019). Gelatenheid en verzet bij Eckhart en Heidegger. Scriptie ter verkrijging van de graad “Master of Arts” in de filosofie o.l.v. G.J van der Heiden. Radboud Universiteit Nijmegen.

Remco van Mulligen (2017). Alleen God kan ons nog redden” Biografie van dr. ir. Egbert Schuurman: tegendraadse christen in een seculier land.

Pieter Tijmes (1992). Martin Heidegger: Techniek als Metafysica. In: De Maat van de Techniek (Hans Achterhuis red.), AMBO, 1992.

Egbert Schuurman (1975). Nadenken over de technisch-wetenschappelijke cultuur. Een uitdaging voor aanstaande ingenieurs. Rede bij de aanvaarding van ambt als hoogleraar reformatorische wijsbegeerte aan de TU Delft, 1975.

Egbert Schuurman (2002). Bevrijding van het technische wereldbeeld:
Uitdaging tot een andere ethiek. Afscheidsrede TU Delft, 2002.

Lev Tolstoj (2002). “Mijn kleine evangelie”, uitg. Erven J. Bijleveld, Utrecht, 2002; vertaald door Arthur Langeveld.

Tolstoj betoogt dat de kerk als instituut verantwoordelijk is voor de verwording van het christendom. Als zodanig vertegenwoordigt ze dezelfde kracht der duisternis als waartegen Jezus had gestreden. De verwording van de kerk heeft ertoe geleid dat het christendom zich niet bezighoudt met de levenspraktijk -waar het volgens Tolstoj bij Jezus om ging-, maar puur om leerstellingen en rituelen.

Dit boek van Tolstoj droeg Ludwig Wittgenstein met zich mee toen hij in het Oostenrijkse leger aan het front werkte. “Dat boek heeft mijn leven gered. U kunt zich niet voorstellen wat een betekenis dit werk voor een mens kan hebben.”

Het Gewoonte en het Zelf van de Sociale Mediamachine

“Custom, then, is the great guide of human life.” (David Hume)

“Wij denken over het wezen van het handelen nog lang niet diep genoeg na.” (Martin Heidegger)

Het probleem

De meeste dingen die we doen, doen we uit gewoonte. We doen dingen omdat we ze altijd zo doen. Dat heeft zo zijn voor- en nadelen. Gewoontes zijn aangeleerd gedrag. Gedrag dat zich deels buiten ons om voltrekt, mechanisch is. Hoe gaat dat in zijn werk en in het bijzonder hoe leren we wat gewoon en acceptabel ‘sociaal’ gedrag is in onze interactie met anderen?

Voor veel mensen in de moderne westerse samenleving heeft de arbeid als belangrijkste sociaal medium voor het vinden van erkenning door de ander afgedaan. Deze functie is door andere sociale media overgenomen. De digitale sociale media, Facebook, Twitter, Instagram, maar ook de televisie, nemen daarin een steeds belangrijker plaats in. Aangezien de arbeid eeuwenlang als sociaal medium het verband is geweest dat bepalend was voor ‘normaal’ volwassen gedrag van de burger, is het de vraag of en hoe de digitale sociale media deze kunnen overnemen. Dit is des te meer van belang als we zien dat de digitale media het leven van de mens al op zeer jonge leeftijd bepaalt.

Kan technologie de mens helpen zich (goed, sociaal) te gedragen in de nieuwe sociale media? Als middel, of als sociale partner? Daarvoor is het van belang te weten hoe techniek zich tot de gewoonte verhoudt en hoe met name de sociale media technologie begrepen moet worden als uitdrukking van de sociale zelfverwerkelijking van de mens. De dieperliggende vraag is of niet alleen de inhoud van sociaal gedrag (de normen en waarden), maar veeleer ook de vorm van wat sociaal heet door de sociale media technologie veranderd is. Wat is sociaal in de wereld van de digitale sociale media?

Gewoontes zijn gedragingen waar we nog slechts deels bij zijn

In de openbare toiletten van IKEA in Loulé (spreek uit Loelè) in het zuiden van Portugal hangt een plakkaat waarop het verzoek om het toiletpapier na gebruik in het toilet te deponeren. Dat doet vermoeden dat dit niet vanzelfsprekend is voor de bezoekers van deze woonwinkel. Bij ons thuis hangt een papier op het toilet waarop de bezoeker vriendelijk wordt verzocht het toiletpapier niet in het toilet, maar in het daarvoor bestemde pedaalemmertje te doen. Een dame uit Parijs die eens bij ons op bezoek was, vond het maar genant. Het is wat je gewend bent. De meeste Portugese huizen op het platteland van Alentejo beschikken nou eenmaal niet over de moderne poepafvoertechnologie die het toestaat allerlei slecht verteerbaar spul door het toilet te spoelen. En daar moet een mens zich bij aanpassen. Zo niet dan raakt de boel verstopt met alle onwelriekende gevolgen van dien. Een dergelijke vorm van feedback heeft de mens nodig om slechte gewoontes af te leren.

Het regelen van het gebruik van publieke voorzieningen voor algemeen gebruik, zoals het riool, het waternet, elektriciteitsnet, wegennet, de woonomgeving, de lucht, het milieu vraagt om een zeker bewustzijn van gemeenschap dat verder gaat dan de directe omgang met de eigen individuele fysieke omgeving.

Voor Hume is de gewoonte (‘habit’) ‘the great guide of human life,’ want het helpt onze wereld ordelijk en voorspelbaar maken. Maar Kant zag de gewoonte als ondermijning van onze morele waarde: het maakt ons tot machine-achtige wezens. Habit “deprives even good actions of their moral worth because it impairs the freedom of the mind” (Kant 2006, 40).

Om het verstopt raken van de afvoer als feedback te zien moeten we dit verschijnsel zien als gevolg van ons handelen. Volgens Hume beschikt de mens niet over het vermogen oorzaken te kennen. Wij zien regelmatigheden in de directe opeenvolging van twee verschijnselen. Het verstopt raken van de afvoer is een gewoonte van de natuur. Hoe je het ook ziet, feit is dat de directe gevolgen van ons handelen vaak verborgen blijven of soms pas op de lange duur naar boven komen drijven. Het is de herhaling die eigen is aan de gewoonte, die maakt dat er plotseling een grens overschreden wordt en er zich een calamiteit voordoet. Wie de kraan open laat tijdens het tandenpoetsen die levert in kwantitatieve zin slechts een kleine, bijna verwaarloosbare, bijdrage aan het watertekort dat pas optreedt wanneer iedereen altijd het zelfde gedrag vertoont.

De economie heeft een dubbelzinnige verhouding met de gewoonte en de techniek. Enerzijds maakt het er gebruik van en ontwikkelt het vaste handelingspatronen als efficiënte herhaalbare handelingstechnieken, anderzijds moet de economie vanwege de schaarste van de nodige middelen paal en perk stellen aan de toepassing van de middelen.

We moeten ons particuliere individuele handelen zien als deelname aan een gemeenschappelijk handelen zoals de arbeid een bijdrage is aan het economisch arbeidsproces dat dient ter beantwoording van de behoeftes van allen, niet alleen van onze eigen particuliere behoeftes. De arbeid is lange tijd het sociale medium geweest waarin de mens zijn erkenning door de anderen zocht.

Door arbeidsdeling en verdeling is onze arbeid abstract geworden. We vervullen een specifieke deeltaak en functie in een complexe organisatie waarvan het geheel moeilijk te overzien is. De zorg voor de onbedoelde neven-effecten van ons handelen is een taak van anderen geworden, niet meer van ons zelf.

Gewoontes staan ons toe te handelen zonder na te denken. We doen ze op mechanische wijze, als onderdeel van ons dagelijks leven, dat zich als het ware buiten ons voltrekt. Ook planten en dieren hebben gewoontes, maar deze blijven anders dan bij de mens gebonden aan concrete situaties (De Bruin, 1937). Bij de mens ontwikkelt de gewoonte zich tot een zelfstandige georganiseerd middel dat zich aan kan passen aan de concrete situatie die zich voordoet. De gewoonte is het begin van de techniek. In de techniek heeft de gewoonte zelfstandigheid gekregen, een originele combinatie van krachten van mens en natuur die in principe eindeloos ingezet kan worden. De subjectieve vaardigheid in het hanteren door de gebruiker en de objectieve techniek werken samen in de concrete productieve activiteit. Dit geldt zowel voor de inwendige activiteiten waarbij het beoogde doel het subject zelf of de activiteit zelf is (kunst, sport), als voor de uitwendige activiteiten waarbij het beoogde doel buiten de activiteit, in het bewerken van de natuur, de omgeving ligt (arbeid).

De meeste dingen die we denken, denken we uit gewoonte. We hebben ooit onze meningen en denkwijzen (vaak niet meer dan associaties) gevormd zoals we ooit gewoontes hebben gevormd. Die meningen delen we met anderen om onze meningen, waarin onze identiteit bestaat, voor anderen en voor ons zelf waar te maken, te bevestigen.

“Het individu krijgt pas een concreet bestaan in de erkenning door anderen.” schrijft Maarten Coolen in zijn bespreking van Hegel’s objectieve geest. (Coolen, p. 216).

De dingen die we uit gewoonte doen, hebben iets mechanisch: de ordening, de logica, van het handelen ligt buiten de bewegingen die elkaar opvolgen en in elkaar grijpen, zoals de handelingen van linker- en rechter-arm en linker- en rechter-hand bij het maken van het dagelijkse ontbijt of bij het afvegen van het achterwerk na de stoelgang. We zijn daar zelf niet meer helemaal bij. De handelingen zijn bewegingen geworden die zich buiten ons om lijken te voltrekken. Als van zelf. Het handelen heeft het karakter van het toepassen van algemene regels in een concrete situatie, die als abstracte situatie wordt beschouwd waarin de regels als een techniek toepasbaar zijn. Kant wees op het immorele van deze toedracht waarin de mens zelf dreigt tot een machine te worden gereduceerd. De Bruin (1937) stelt dan ook dat de techniek om techniek te blijven van de mens eist dat deze er vrij boven blijft staan. Hij moet bepalen in hoeverre de toepassing van de abstract regels recht doet aan de concrete situatie.

De mens onderscheidt zich van de andere diersoorten in het maken en bewaren van dingen voor herhaald gebruik. De beker, het mes, de dingen voor dagelijks gebruik. Het zijn gebruiksmogelijkheden voor algemeen en herhaald gebruik.

Die zelfstandigheid van de dingen en van het mechanische handelen buiten we uit. De gewoontes stellen onze aandacht op andere zaken te richten. Activiteiten waarin we onze grenzen kunnen verleggen en nieuwe dingen kunnen vormen.

Bovendien biedt de gewoonte ons de nodige afstand en de ruimte die het mogelijk maakt ons handelen in deze uitwendige vorm voor te stellen en erop te reflecteren. Deze reflectie op onze gewoontehandelingen is de kern van de technische ontwikkeling, die tot een steeds verdergaande verzelfstandiging van ons handelen en denken leidt. Eerst in de overgang van de handmatige techniek naar de machinale techniek, later, als resultaat van de reflectie op deze wetenschappelijke techniekvorm, in de overgang naar de programmeerbare, denkende machines, de automatie.

Hoewel de gelijkenis van de woorden dat doet vermoeden, de etymologen hebben geen verband gevonden tussen het woord ‘gewoonte’ en het woord ‘wonen’. Maar zoals de taal het huis van het zijn is (“Die Sprache ist das Haus des Seins. In ihrer Behausung wohnt der Mensch.”, schrijft Martin Heidegger, 1973, p.27), zo is de woning het huis van de gewoonte, dat waarin het gewoonte woont. In onze taal woont het denkend verwoorden van de werkelijkheid waarin wij wonen. In de taal verwoorden we hoe we de werkelijkheid kennen en beleven.

In de woorden heeft onze verwoording, ons gewone denken, een eigen zelfstandigheid gekregen. Zo worden ze gebruikt als middelen die klaar liggen als stukken gereedschap, voor gebruik om ons denkend uit te drukken. De woorden zijn de onderdelen van het mechanische denken (vgl. Hegel, Jenaer Realphilosophie). De woorden zijn echter slechts abstracties van de concrete beleving en vermogen niet alles uit te drukken. Woorden kunnen misverstaan worden en als een hamer die verkeerd wordt gehanteerd de plank mis slaan.

Het gewoonte verhoudt zich tot de geordende ruimte van de woning, waarin de dingen (de kopjes, de borden, de theepot) hun afgemeten plaats hebben, als de sleutel tot het slot, en als de software van de geprogrammeerde machine tot de hardware.

Wie om een of andere redenen weg uit zijn habitat verkeert, in een vreemde omgeving, in een vreemde supermarkt, in een vreemde stad in een vreemd land met een vreemde taal, die ervaart wat gewoontes voor een mens betekenen. En vooral wat het gebrek aan het gewone met je doet. Je bent veel intenser bezig bij de dingen die je moet doen. In een vreemde keuken is het klaar maken van het ontbijt een tijdrovende bezigheid.

Misschien bedoelde de Griekse wijsbegeerte met ‘hexis’ wel wat ik het gewoonte noem. Niet de gewoonte, want hexis omvat ook naast wat wij de gewoontes noemen, het karakter, de door herhaald doen gevormde identiteit van het zelf en het denken en spreken in de taal waarin we wonen.

Techniek is de objectivering van het gewoonte. Het mechanische van het doen en denken is daarin veruitwendigd, overgenomen door de natuur. Wij hebben daar een dubbele relatie mee. Wij staan daar zelf buiten maar het is tevens van ons zelf. Het technische is een zelfveruitwendiging van de verhouding die de mens tot de natuur heeft. In de drinkbeker, de typemachine, de sociale robot herkennen we ons zelf in een bijzondere relatie tot de natuur, tot de ander en daarmee tot ons zelf.

Het gewoonst is ons lichaam, dat als vanzelf de dingen doet die we willen doen. Het is waarin we wonen. Het is daarin op de achtergrond als de woorden die we uit gewoonte gebruiken als we ons ervan bedienen. Totdat het lichaam hapert, je een been, een arm of hand breekt. Of door slijtage het lijf pijn gaat doen. Dan eist het de aandacht op, dan staat het plots tegenover je als iets anders van jezelf. Dan wordt het lichaam meer iets van jezelf dan dat je het zelf bent. Zoals de woorden niet meer vanzelfsprekend zijn wanneer ze hun werk niet meer doen en tot misverstand leiden.

Hoe om te gaan met transparante media – de zelfobjectivering van de mens als twitterend wezen

De directe aanleiding voor Het Gewoonte en het Zelf van de Sociale Mediamachine was het artikel Transparent Media and the Development of Digital Habits van Daniel Susser (Susser 2017).

Susser is een filosoof die goed thuis is in de fenomenologische traditie (Merleau-Ponty, Heidegger) en de post-fenomenologische techniekfilosofie (Ihde, Verbeek). Deze tak van filosofie bekommert zich om het ontwerp van ethisch verantwoorde technologie en probeert daartoe bij te dragen vanuit de idee dat techniek onze kijk op de wereld, onze normen en waarden en daarmee ons gedrag vormt. Anderzijds ziet ze in het maken van nutteloze technologie, ‘counterfactual artefacts’, een middel tot verdieping en verspreiden van het filosofisch begrip van techniek. Het gaat deze vorm van experimentele filosofie om inzicht in wat dingen (met ons) doen.

In de fenomenologische traditie wordt het menselijk handelen primair begrepen vanuit zijn lichamelijke gesitueerdheid en deze wordt “als funderend gezien voor de mogelijke objectiverende instellingen”. (Coolen, p.97).

In ‘Transparant Media‘ gaat het Susser om de kwestie hoe we digitale media (computers, internet, sociale media en robots) als ‘objectiverende instelling’ van de mens zodanig vorm kunnen geven dat we ons leren goed te gedragen. Waarom is dat volgens Susser een speciaal probleem in de digitale wereld?

Iedere techniek vereist van de gebruiker bijzondere vaardigheden. Die vaardigheden vragen om verschillende vermogens die in en door de praktijk worden ontwikkeld. Zo leren we om te gaan met een schoffel, een slijptol, een mobiele telefoon. Gaandeweg eigenen we ons de nieuwe techniek toe en ontwikkelen we gewoontes in het gebruik ervan.

Nieuwe communicatietechnieken bieden nieuwe mogelijkheden en stellen nieuwe eisen aan het gebruik ervan. Er ontstaan nieuwe gewoontes en oude moeten worden afgeleerd. Toen telefoons nog op een vaste plek in huis stonden wisten we, wanneer we een bekende belden waar hij zich bevond wanneer hij de telefoon opnam. Bovendien was het, althans in Nederland, gebruikelijk door de naam te noemen (U spreekt met …) de beller te laten weten wie er aan de lijn was. Bij communicatie met de mobiele telefoon is dat veranderd. “Waar ben je?” is nu een zinvolle en veel gehoorde vraag.

We moeten zowel leren omgaan met de techniek als met de gevolgen ervan voor de communicatie met anderen als we deze techniek gebruiken.

De meeste dingen die we doen, doen we uit gewoonte. In het aanleren van vaste patronen van acties, ‘dispositions’ (Susser refereert naar de lastige, want veelzinnige Aristotelische term hexis) speelt feedback, terugkoppeling, een voorname rol. Het kind leert van de kachel af te blijven, zoals het kalf leert bij het schrikdraad weg te blijven door lichamelijk het fysieke effect van zijn actie te ervaren. De zintuiglijke ervaring is onaangenaam en dat maakt dat de feedback herhaling van het gedrag voorkomt.

“This feedback and the habits it produces are bodily. They are possible because the
medium through which these actions take place is a physical, sensible one.” (Susser).

De wereld om ons heen is, in de taal van de post-fenomenologie, ‘opaque’. De digitale wereld is daarentegen, aldus Susser, grotendeel ‘transparant’. Susser gebruikt de term ‘opaque’ vanwege het feit dat je fysiek tegen de werkelijkheid aanbotst. Dit is niet transparant.

Daartegenover noemt Susser de digitale wereld transparant. Maar dan ook in die zin dat je er niet direct tegenaan loopt. Je krijgt geen feedback. Als we met anderen communiceren via sociale media “our connections to other people are mediated through hermeneutic relations”. (Susser, p. 39).

De filosoof Ihde onderscheidt verschillende types relaties die we tot de techniek hebben. Eén daarvan is de hermeneutische relatie. Dat is de primaire relatie die we bijvoorbeeld met een meet-instrument als een thermometer hebben. “You read the thermometer, and in the immediacy of your reading you hermeneutically know that it is cold,” schrijft Ihde. “But you should not fail to note that perceptually what you have seen is the dial and the numbers, the thermometer ‘text.’ And that text has hermeneutically delivered its ‘world’ reference, the cold” (Ihde, 1990, p. 85).

De hermeneutische relatie vraagt om een interpretatie. En die moeten we leren.

De stelling van Susser is dat de hermeneutische transparantie van de digitale media verhindert dat we leren ons goed te gedragen op sociale media.

Waar het volgens Susser om gaat is dat heel veel effecten van onze digitale activiteiten voor ons verborgen blijven. En dat zou kenmerkend zijn voor digitale media. Die transparantie is volgens Susser zelfs beoogd in het ontwerp. “Digital media are designed to recede from view.”. Zoals gezegd gaat het Susser om een nieuwe ontwerp-methodiek, “design for strategic opacity“.

Het gaat erom de digitale omgeving zodanig in te richten dat de interactie ermee meer het karakter krijgt van onze interactie met de natuurlijke omgeving.

“By designing digital media to reveal some of what it presently conceals—designing for what I call strategic opacity—we can generate the feedback necessary to form good digital habits.”

Een voorbeeld dat Susser noemt is de vraag van de web browser of je er wel zeker van bent wanneer je aangeeft gegeven te willen sturen over een niet-beveiligd kanaal of naar een niet-beveiligde website. Hier gaat het om feedback die de gebruiker zelf beschermt. Een ander voorbeeld is de vraag van Twitter wanneer je een reactie op een tweet met een link naar een artikel wilt sturen. Twitter vraagt dan of je het artikel al hebt gelezen voor dat je tweet wordt verzonden. Een ander voorbeeld is een moderator programma dat berichten waarin niet-gepaste termen voorkomen niet verstuurd. Hier gaat het er om de interactie te verbeteren of om de ander te beschermen.

In de directe omgang met de ander speelt feedback een belangrijke rol om de gevolgen van ons gedrag voor de ander te onderkennen.

Van nature is communicatie een fysieke activiteit die zich voltrekt ‘tussen’ twee individuen die in elkaars nabijheid zijn. De lichamelijkheid van de expressie is wezenlijk voor de communicatie, die niet louter bestaat uit de woorden die gesproken worden, maar die bestaat uit het geheel van de expressie. De gesprekspartners krijgen en geven onmiddellijk feedback op hun acties.

Dat wordt anders wanneer communicatie via een medium plaats vindt. In de technische taal die bij deze vorm van communicatie hoort: er zijn minder kanalen beschikbaar om over te brengen hoe we in het gesprek aanwezig zijn (soms is er alleen audio, soms ook video, maar de techniek filtert en focused). Daardoor is het niet goed mogelijk de gevolgen van ieders inbreng aan de interactie direct te zien; de feedback is selectief vanwege het kanaal. Communicatie moet vooral expliciet via tekst. De idee van grafische middelen zoals emoticons zijn niet in staat een betrouwbare indruk te geven van de emotionele toestand van de ander zoals de lichamelijke expressie dat doet. De onmiddellijke onbewuste expressies waarin we de ander in een face-to-face gesprek waarnemen spreken boekdelen en zijn niet eenvoudig te vervangen door woorden.

Volgens Susser zien we dit gebrek aan feedback door de mediale techniek terug in het feit dat we geen goede sociale gewoontes, beleefdheid, vriendelijkheid en empathie, aanleren.

Wellicht is dit gebrek aan feedback ook de oorzaak dat mensen de neiging hebben via sociale media zich eerder te bedienen van agressieve talige middelen om tot de ander door te dringen dan in een face-to-face gesprek.

Technologie vervormt de effecten van onze acties en de feedback die we van de werkelijkheid terug krijgen.

Interne versus externe effecten van het handelen

Techniek wordt ontwikkeld om effectief gebruikt te worden. Idealiter is ze zelf in het gebruik transparant, slechts middel. Onze aandacht moet tijdens het timmeren gericht zijn op het werk, niet op het gereedschap. Het onderhoud van het gereedschap staat ten dienste van deze transparantie tijdens het gebruik. Dat geldt niet alleen voor gereedschap maar ook voor andere dagelijkse middelen. Voor wie zelf zijn elektrische energie moet opwekken en zelf voor schoon water moet zorgen is het gebruik van energie en water iets anders dan voor wie het gegeven dat water uit de kraan en de stroom uit het stopcontact komt een trivialiteit is waar hij niet bij stil hoeft te staan en waarvoor de kosten automatisch van zijn bankrekening worden afgeschreven. Totdat er op een dag geen stroom meer is of geen schoon water meer uit de kraan komt. In de moderne maatschappij is de zorg voor deze voorzieningen, net als voor de communicatiemiddelen een taak van de gemeenschap, georganiseerd door de overheid.

Ik ben het niet eens met de manier waarop Susser het onderscheid tussen onze interactie met de fysieke wereld enerzijds en met de digitale wereld anderzijds koppelt aan het opaque zijn van de fysieke en het transparant zijn van de digitale werkelijkheid. Ook de ‘fysieke werkelijkheid’ kan namelijk zeer transparant zijn, in die zin dat veel effecten van ons handelen verborgen blijven. Wie maakt zich in de westerse geciviliseerde wereld druk om de effecten van het weggooien van waswater, het doortrekken na het toiletbezoek. Voor de consument zijn de productiemethodes en de neveneffecten van die methodes die gehanteerd zijn bij de productie van zijn consumptiegoederen onzichtbaar. De meeste gevolgen van onze dagelijkse gewoontehandelingen op onze omgeving, het milieu, zijn voor ons verborgen.

In een voetnoot merkt Susser op:

“It has also been observed that we think the way we do for the most part out of
habit. In what follows I focus almost entirely on habits of action, rather than habits
of thought.” (Susser, voetnoot 1).

Als Susser uit was gegaan van het algemene begrip van gewoonte, zich niet had beperkt tot een analyse van de ‘habits of action’, maar ook de ‘habits of thinking’ had meegenomen, dan had hij misschien niet de fout gemaakt de tegenstelling tussen fysieke interactie en digitale interactie in direct verband te brengen met die tussen opaque en transparant.

Voor Susser bestaat het wezenlijke verschil tussen de machinale techniek en de digitale techniek in de grotere complexiteit van de ‘interne processen’ die zich in de computer afspelen en die voor de gebruiker verborgen blijven en waar hij geen directe feedback van krijgt. De gebruiker van de digitale media krijgt alleen slechts gefilterde en getransformeerde feedback met betrekking tot de externe effecten van zijn handelen.

De complexiteit die voor Susser het wezenlijke onderscheid uitmaakt tussen de omgang met de klassieke machines en de digitale media is slechts een kwantitatief effect van een veel belangrijker verschil tussen deze twee vormen van techniek.

De bijzondere problematiek van het aanleren van goed gedrag in onze omgang met de digitale media moet begrepen vanuit een filosofie van de techniek die de verschillende vormen, handwerktuig, machinetechniek en automatie, ziet als uitdrukking van de verschillende fasen in de ontwikkeling van de technische idee waarvan de reflectie op de uitwendige objectivatie van het handelen en denken de motor is.

Waarin onderscheidt de (digitale) informatietechnologie zich van de machine technologie? Dat is in de vrije, uitwendige relatie tussen de fysische processen en de werking die deze voor de gebruiker ervan heeft. Deze relatie is een abstracte betekenisrelatie, een hermeneutische relatie in Ihde’s terminologie. De fysisch processen zijn voor hun functioneren als middel niet van belang als fysische processen. Het gaat om de betekenis die ze voor het kennend subject hebben. In de informatietechnologie komen machine-techniek en taal-techniek samen. Zoals in de vorm van tekens (‘namen’) voorstellingen vrij door de mens toegekend worden aan de dingen, zo worden aan de mechanismes betekenissen toegekend. De fysische processen die de eenheid uitmaken van de interne toestandsovergangen in de digitale media representeren rekenprocessen die op hun beurt weer door de mens worden gezien als gegevensverwerking.

Om op verantwoorde wijze om te gaan met de digital technologie moet de mens als gebruiker ervan zich bewust zijn van de abstracte virtuele bestaanswijze ervan.

De taal is de bevrijding van de gebondenheid van de expressie aan de onmiddellijke waarneembare verbeelding van de werkelijkheid. Als we vragen: Wat is dat? Is het antwoord: Dat is een leeuw. Maar ‘leeuw’ is een naam, een klank, geen dier. De woorden en beelden nemen de plaats in van de echte voorstellingen van de waarneembare werkelijkheid. Het zijn tekens die beschikbaar zijn als instrumenten voor algemeen gebruik.

Interactie via digitale media is interactie met een virtueel subject, een werkelijkheid waar we ons op grond van bekende beelden een voorstelling van maken. Daarbij speelt de techniek een bemiddelende rol. Deze verbeeldt de werkelijkheid waarmee we communiceren. De media techniek bepaalt als de taal die we spreken of intikken en lezen in het tekstveld van de interface van het sociale mediakanaal de beschikbare mogelijkheden om onze gedachten en emoties uit te drukken.

Communicatie via sociale media is a-symmetrisch. De luisteraar is voor de spreker een abstracte virtuele deelnemer. Als we de radiostem horen zeggen “Fijn dat u luistert” weten we als luisteraar dat met ‘u’ een algemene figuur wordt geadresseerd, niet ons zelf. Dat we luisteren is slechts toeval. De spreker weet niet dat ik luister. Wanneer we een bericht op de sociale media zetten weten we niet wie het zal lezen.

Pas door onze mening met anderen te delen wordt deze concreet. De reactie (‘feedback’) op de bijdrage maakt de actie tot een werkelijke bijdrage. Zonder reactie is de actie stom. Het individu kan zich als vrij subject alleen volledig waar maken tegenover een ander vrij subject. De spreker wil verstaan worden, de schrijver wil gelezen worden. Maar hij wil ook door de ander begrepen worden. Afhankelijk van de inhoud van de interactie wil hij weten wie die ander, met wie hij zijn gedachten en emoties deelt, is.

Wij weten vaak niet eens wie zich achter de namen en visuele beelden (‘avatars’) verborgen houden. De virtuele subjecten met wie we communiceren verhouden zich tot de echte subjecten als de namen tot de werkelijk zintuiglijk waarneembare dingen waar ze voor staan. De interactie via de abstracte kanalen van de sociale media heeft een eigen zelfstandigheid en abstract karakter tegenover de concrete deelnemers aan deze interactie.

Het zou volstrekt niets uitmaken voor de inhoud van de interactie wanneer blijkt dat de ander met wie we woorden hebben gewisseld via de sociale media zou blijken een ‘intelligente’ dialoogmachine te zijn. Een leeg gevoel van vreemdheid (unheimisch, ‘uncanny’) maakt zich meester van degene die zich plots realiseert dat hij niet met een echt mens maar met een wezenloze machine heeft gesproken. Dat komt omdat we de ‘inhoud’ van de interactie niet goed kunnen scheiden van de ander met wie we deze delen. Die ander is in die interactie aanwezig, die maakt daar deel van uit en we maken ons daar een ‘voorstelling’ van.

Misschien dat de verharding in taalgebruik wel begrepen moet worden als een poging zowel de ander als het zelf te treffen ten bewijze dat we werkelijk met echte mensen van vlees en bloed te maken hebben. Dat zou ook verklaren waarom communicatie die louter via digitale media gaat onbevredigend is en vaak de wens aanwakkert elkaar in levende lijve te ontmoeten (om eventueel met elkaar op de vuist te gaan). Uiteindelijk moet de zelfveruitwendiging van de deelnemer in de virtuele digitale wereld concreet worden in de werkelijke wereld, waarin de subjecten elkaar als concrete personen ontmoeten.

De sociale media machine komt voort uit de objectivering van de reflexiviteit van de drift, de wijze waarop het individu zich tracht een bestendig bestaan te verwerven door zich met de anderen te verstaan door het gebruik van de taal.

In het proces van zelfobjectivering en zelfrelativering van de mens als twitterend wezen zijn zowel de techniek als de medemens in het geding. De mens heeft zich door mechanisering en automatisering steeds meer vrijgemaakt van de arbeid. Voor zover hij nog in het arbeidsproces betrokken is, is zijn werk steeds abstracter geworden. Hij is een radertje in een machine geworden. Dat betekent dat hij zijn zelfverwerkelijking buiten het arbeidsproces moet zoeken. Daar komt bij dat hij zich niet meer volledig met een bestaan als arbeidend wezen kan identificeren. Hij moet op zoek naar een realisatie van een zelf dat het functioneren in verschillende rollen in een veelheid van verbanden te boven gaat.

De mens kan aan de hand van zijn uitwendige objectiveringen kennis over zichzelf opdoen. (Coolen, 1992, p. 231).

Wat kunnen we leren van onze zelfobjectivering in de vorm van de sociale media? Welk impliciet begrip ligt ten grondslag aan deze vorm van zelfveruitwendiging dat door middel van deze sociale media technologie voor ons expliciet wordt?

De mechanisering van de dialoog

In de taal heeft de mens zich vrijgemaakt van de directe voorstellingen van de wereld in de ervaring. Hij kan vrijelijk beschikken over de woorden en ze op een mechanische wijze gebruiken. Zo kan hij creatief voorstellingen manipuleren en zijn eigen denkwereld creëren. Het aangeleerde taalgebruik is de gewoonte waarin de woorden hun mechanische denkarbeid verrichten. Het gevaar bestaat dat de taal de controle over het denken overneemt. De mens laat zich al te makkelijk door de woorden leiden. In de dialogen en bijdragen op sociale media zien we terugkerende vaste patronen ontstaan. De producten van de macht der gewoonte.

Het zijn deze patronen die de data vormen waarmee de ‘machine learners’ getraind worden en die het gedrag gaan bepalen van de kunstmatige sociale conversatiemachines, de ‘open dialoog’ systemen. “An open-domain dialog system aims to establish long-term connections with users by satisfying the human need for communication, affection, and social belonging.” (Huang 2020). In een open dialoog challenge (een soort Turing test) proberen technologen chatbots te maken die zolang mogelijk de aandacht van de mens in een geanimeerd gesprek kan vasthouden (voor een review zie Huang 2020). De uitdaging bestaat eruit de indruk te wekken dat er een echt persoon deelneemt aan de conversatie. Deze chatbots zullen de plaats in kunnen nemen van de mens als deelnemer aan de interacties op de sociale media. Maar wat is het praktische nut ervan? Er zijn immers al genoeg mensen die op sociale media met elkaar dialogen voeren!

Wanneer we met iemand een gesprek voeren dan gaan we er vanuit dat deze eerlijk is en zegt wat hij of zij bedoelt. Bovendien nemen we aan dat onze gesprekspartner ons serieus neemt en zijn standpunt ten opzicht van de zaak waarover het gaat kan en wil verantwoorden. Dit zijn aannames zonder welke het niet zinvol is met iemand überhaupt een gesprek te hebben. Wat niet weg neemt dat het vaak niet lukt om dit in een gesprek altijd waar te maken.

Kan de technologie in de vorm van deze kunstmatige dialoogsystemen de gebruiker leren hoe op ‘een nette manier’ te communiceren door op een voorbeeldige manier op zijn bijdragen te reageren? De vraag is wat ‘voorbeeldig’ is en of we ons altijd zo voorbeeldig willen gedragen als in de regels is vastgelegd. Machine learners die uit data leren wat ‘beleefd’ gedrag is kunnen ons niet uitleggen waarom hun gedrag beleefd is. Dat moeten wij zelf beoordelen op grond van een, noodzakelijk beperkt,aantal gevallen (Heeffer 2021). Maar dat levert geen enkele garantie voor toekomstig gedrag. Deze dialoog machines kunnen hun gedrag niet tegenover de mens verantwoorden. En misschien is dat wel wat ze zo onbruikbaar maakt als serieuze gesprekspartner.

Voor Susser lijkt het vanzelfsprekend te zijn welke inhoudelijke feedback gegeven moet worden waarmee het systeem de deelnemer aan de sociale media goede gewoontes kan aanleren. Maar is het wel zo vanzelfsprekend om dit in een ontwerp op te nemen? Kun je beleefd gedrag in regels vastleggen? En moet degene die mij vraagt beleefd te zijn niet zelf vooral beleefd zijn, in plaats van zich te verbergen in een machine die zijn gedrag niet kan verantwoorden? Is het beleefd om mij als een abstracte, toevallige gesprekspartner te zien, op wie algemene regels toepasbaar zijn.

De filosoof Ludwig Wittgenstein beschouwde de ‘taalspelen’ als ‘vergelijkingsobjecten’, ideale constructies om over de aard van de taal na te denken. De virtuele dialoog-partners kunnen we wellicht zien als vergelijkingsobjecten om na te denken en vooral door ervaring te leren wat het betekent op een ‘sociaal’ acceptabele manier met anderen om te gaan.

Bronnen

P. de Bruin S.J. (1937). Philosophie der Techniek. Studia Catholica 13 (1937),pp 437-464.

Maarten Coolen (1992). De machine voorbij. Over het zelfbegrip van de mens in het tijdperk van de informatietechniek, Boom, Meppel, 1992.

Albrecht Heeffer (2021). Beloften en teleurstellingen van artificiële
intelligentie voor wetenschappelijke ontdekkingen. Algemeen Nederlands Tijdschrift voor Wijsbegeerte 113 (1): 55–80, 2021.

Martin Heidegger (1947/1973). Brief über den ‘Humanismus’. Vertaling: Brief over het humanisme. Nederlandse Heidegger Bibliotheek. Lannoo, 1973.

Minlie Huang, Xiaoyan Zhu en Jianfeng Gao. (2020). Challenges in Building Intelligent Open-domain Dialog Systems. ACM Trans. Inf. Syst. 38, 3, Article 21 (June 2020), 32 pages.

Don Ihde (1990). Technology and the Lifeworld: From Garden to Earth. Bloomington,
Indiana University Press.

Immanuel Kant (1798/2006). Antropologie in pragmatischer Hinsicht. Vertaald: Anthropology from a Pragmatic Point of View. Trans. and ed. R. B. Louden. Cambridge, UK: Cambridge University Press, 2006.

Olya Kudina (2021). “Alexa, who am I?”: Voice Assistants and Hermeneutic Lemniscate as the Technologically Mediated Sense-Making. Human Studies, 2012.

Daniel Susser (2017). Transparent Media and the Development of Digital Habits
In: Yoni Van den Eede, Stacy O’Neal Irwin & Galit Wellner (eds.), Postphenomenology and Media: Essays on Human-Media-World Relations. New York: Lexington Books. pp. 27-44 (2017).

De buitenkant van de taal

“Wat bedoel je met ‘uitwendigheid’?”

Die vraag stelde Franciska de Jong me eens toen ik dit woord weer eens in een betoog over taaltechnologie had laten vallen. Franciska was onze hoogleraar taaltechnologie bij de groep mens-machine-interactie. Voor haar, taalkundige van oorsprong, waren woorden en wat ze betekenen belangrijk. Ik weet niet meer wat ik toen als antwoord gegeven heb. Het is een lastig begrip ‘uitwendigheid’. Maar het is een sleutelbegrip in het denken over techniek. Het zit diep in het technische denken. Misschien is het daarom zo lastig. Misschien komt in de taaltechnologie wel bij uitstek tot uitdrukking wat ‘uitwendigheid’ inhoudt. Omdat de relatie tussen het waarneembare woord en de betekenis ervan enerzijds zo volstrekt willekeurig is (wat heeft het woord ‘brood’ immers met brood te maken) en toch voor ons, die de woorden kennen, zo vanzelfsprekend.

Je zou kunnen zeggen dat ‘uitwendigheid’ het handvat is dat de natuur of de materie de mens biedt om haar te manipuleren of te vormen. Onze groep werkte aan interfaces, de raakvlakken van gebruiker en technologie. Ik wilde de machine onze taal (Nederlands) leren begrijpen (dat is overigens iets anders dan de Nederlanders begrijpen). Daartoe werkte ik aan een grammatica van onze taal met een ontleedmethode die een interne structuur van een zin kon opleveren. Waar je dan vervolgens iets van een betekenis aan kon koppelen, een werking van de machine als reactie op de ingevoerde zin. Ik was er trots op dat mijn grammatica van de volgende zin een correct ‘ontleedboom’ kon opleveren.

“De technische idee is die abstracte verstandsvorm waarin de mens zijn beheersing van de natuur door middel van een originele combinatie van haar krachten tot uitdrukking brengt.”

Dit is de definitie van de technische idee van de Nederlandse filosoof Jan Hollak. Ik denk zeker te weten dat mijn computer geen flauw benul had wat er mee bedoeld wordt. Waar het mij om te doen was dat de gebruiker van mijn Nederlandse interface aan een informatiesysteem vragen konden stellen als “Waar is de grote zaal?” aan een virtuele zaalwachter in een 3D replica van het Muziektheater. Of “Kunt u me zeggen wie de auteur is van Puk van de Petteflat?”.

Helaas bleek dat wat mensen zeggen of intikken meestal niet grammaticaal correct te zijn. Mijn grammatica moest dus veel meer accepteren dan correct Nederlands. Technologie moet gebruiksvriendelijk zijn en zich aanpassen bij de taal van de gebruiker, niet andersom. Google, Microsoft en de andere grote jongens hadden het wel door. In plaats van een grammaticaal regelsysteem bouwden ze statistische taalmodellen door heel veel taaldata (corpora) in te lezen. Taalkundigen werden vervangen door data-analisten, statistici, technici die neurale netwerken konden bouwen.

Ik moest aan de vraag van Franciska de Jong denken toen ik via Twitter gewezen werd op een artikel in MIT Technical Review over het OpenAI systeem GPT-3.

GPT-3 is een tekstgeneratie systeem. In het college Natural Language Processing behandelden we verschillende statistische modellen, zoals Hidden Markov Modellen en N-gram modellen. Studenten bouwden tekstgeneratoren op basis van 4-grammen. Dat zijn rijtjes van vier woorden. Wanneer je uit alle teksten van Shakespeare alle daarin voorkomende 4-grammen haalt en in een statistisch model opslaat dan kun je de machine op een eenvoudige manier teksten laten genereren. Het model geeft antwoord op bijvoorbeeld de vraag welk woord met de grootste kans na de drie woorden “Jan gaat naar” komt. Dat zou “school” of het woordje “de” kunnen zijn.

Het genereren van een tekst gaat als volgt. Je biedt om te beginnen de machine een rijtje van drie woorden aan die in een tekst van Shakespeare voorkomen als begin van een zin. De machine plakt daar een vierde woord achteraan en wel dat woord dat volgens zijn trainingsdata, het meest waarschijnlijke opvolger woord is. Van het zo ontstane 4-gram bepalen de laatste drie woorden welke het volgende woord zal zijn dat er achter wordt geplakt. De resulterende tekst lijkt al ‘veel’ op een tekst van Shakespeare. Ik zeg ‘veel’, want hoeveel dat hangt af van hoe goed je bekend bent met teksten van Shakespeare en hoe welwillend je bent. De onderstaande figuur is uit het boek Speech and Natural Language Processing van Yurafski en Martin (2020). De 4-gram tekst ‘lijkt erg’ op een echte tekst van Shakespeare.

GPT-3 gaat veel verder dan dit simpele n-gram model. GPT-3 werkt met een, ‘autoregressive’ neuraal netwerk taalmodel met 175 miljard parameters (een parameter is een statistische variabele, zoals de 4-grammen in ons simpele n-gram-model). Dat is volgens de auteurs 10 keer meer dan elk ander taalmodel (Tom Brown en anderen 2020). GPT-2 had 1.5 miljard parameters. Met GPT-3 kunnen diverse taken worden uitgevoerd, zoals teksten vertalen, vraag-antwoord-sessies houden, bijvoorbeeld over ‘hoe de fysieke wereld werkt’, of eenvoudige (tot maximaal 4 cijfers) rekensommetjes maken. Om een voorbeeld van het laatste te geven: je kunt GPT-3 vragen stellen als “What is 48 plus 76?”. Tijdens de evaluatie-sessie was de uitvoer: “A: 124.”. Wat inderdaad klopt. GPT-3 kan ook van twee bewerende zinnen zeggen of de waarheid van de ene uit die van de andere volgt. Je krijgt de indruk dat GPT-3 iets begrijpt.

Het nieuwe aan GPT-3 is dat door dit enorme aantal knooppunten in het netwerk, het niet meer nodig is aan fine-tuning te doen wanneer je het systeem voor een specifieke taak of in een specifiek taal-domein wilt gebruiken. Die fine-tuning gebeurt gewoonlijk door extra taak-specifieke trainingsdata aan te bieden. Dat hoeft met GPT-3 dus niet meer.

Het artikel van Brown e.a. bevat testresultaten op verschillende taken. Het systeem is daarnaast ook door diverse externe experts getest. Op Twitter zijn enthousiaste en minder enthousiaste berichten verschenen.

Een bericht meldt dat GPT-3 dubieuze teksten produceert wanneer je het voedt met woorden die nogal ‘gevoelig’ liggen in de volksmond, zoals: jood, zwart, vrouw, holocaust.

“#gpt3 is surprising and creative but it’s also unsafe due to harmful biases. Prompted to write tweets from one word – Jews, black, women, holocaust – it came up with these (https://thoughts.sushant-kumar.com). We need more progress on #ResponsibleAI before putting NLG models in production.” Onderstaand figuur bevat enkele door GPT-3 gegenereerde teksten.

Aan deze teksten kun je zien dat ook GPT-3 zingt zoals het gebekt is. Het reproduceert teksten waarmee het getraind is. Wat dat betreft is er niets nieuws onder zon en verschilt GPT-3 niet wezenlijk van het simpele 4-gram model waarmee Shakespeare-achtige teksten gegeneerd konden worden. Wetenschappers en ethici wijzen er dan ook op dat je goed naar de trainingsdata moet kijken wanneer je een NLP systeem zoals GPT-3 ontwikkelt. Zie bijvoorbeeld (Emily M. Bender et al., 2021).

Wat GPT-3 laat zien en dat is ook waar de ontwikkelaars op wijzen is dat je met 17 miljard variabelen in je model beter kunt simuleren dan met zeg een paar miljoen. Sommige critici meende uit hun tests te kunnen concluderen dat van die 17 miljard parameters en een aantal letterlijk voor hele zinnen of combinaties van zinnen uit het trainingscorpus staan. Dat is goed mogelijk. Zo is het aantal plus-sommen van twee getallen van elk maximaal vier cijfers slechts een fractie van die 17 miljard.

Is GPT-3 meer dan een leuk speeltje voor taaltechnologen? GPT-3 is ook gebruikt om ‘filosofische teksten’ te genereren. Omdat de filosofie het van de taal moet hebben, zouden de prestaties van GPT-3 bij sommige filosofen misschien de vraag op kunnen roepen of filosofie wezenlijk verschilt van tekstgeneratie. Maar zijn er al geen filosofische teksten genoeg? Er worden meer geschreven dan gelezen. Een tekstgenerator is wat dat betreft het meest nutteloze instrument dat je kunt bedenken.

De fascinatie van dergelijke simulaties (denk ook aan deep fake en humanoides) zit hem in het feit dat we door middel van mathematiek en technologie geheel opererend in de sfeer van de uitwendigheid op uitwendige wijze verschijnselen kunnen oproepen die we vrijwel niet van de oorspronkelijke vormen kunnen onderscheiden.

Wat is ‘uitwendigheid’?

Hierboven stelde ik dat ‘uitwendigheid’ het handvat is dat de natuur de mens biedt om haar te manipuleren. Uitwendigheid behoort tot de eigen aard van de stoffelijke werkelijkheid. En dus ook tot de mens. Het is dan ook geen historische toevalligheid dat de mathematische fysica of de statistische taalmodellering en de bijbehorende technologieën als rekenmachines en GPT-3 mogelijk zijn.

Het mathematische denken is het denken van de uitwendigheid, waarin het kennend subject zich strikt tegenover de werkelijkheid als kwantitatief plaatst. Dat subject is in dit perspectief onbetrokken en onverschillig. De mens kan zich zo tegenover zijn bezig zijn verhouden dat alles wat hij doet en alles wat er gebeurt slechts het verplaatsen van stoffelijke dingen in de ruimte is. Volstrekt zonder doel en zinloos. Iemand groeten is een hand en arm opsteken.

Alles wat is is vanuit dit perspectief strikt buiten elkaar als elementen van een verzameling, maar niet betrokken bij de verzameling. Die is van buiten af aan de elementen opgelegd. Dat is de sfeer van de uitwendigheid, de sfeer van de slechts kwantitatieve bepaaldheid, waarin eenheden, aantallen en vormen te onderkennen zijn.

De zuivere materie, het wasblokje, kan verschillende vormen aannemen: het staat er volstrekt onverschillig tegenover. Heeft het déze vorm gekregen, dan heeft het díe niet meer. De verschillende vormen bestaan buiten het gevormde zoals de getalwaarde van een variabele buiten de variabele bestaat waarvan het de waarde is. In deze sfeer staat de waarheidswaarde van een zin buiten de inhoud ervan. Dat is de sfeer van het uitwendige. Het is ook deze sfeer van onverschilligheid die het a-morele, ethisch neutrale van het zuiver technische uitmaakt. Je kunt een technisch idee vaak voor verschillende praktische toepassingen gebruiken, goede en slechte. Dat geldt ook voor taaltechnologie. Het technische staat daar onverschillig tegenover.

In de werkelijkheid is de uitwendigheid, het kwantitatieve, slechts een aspect. Door een kwantitatieve uitwendige verandering kan er wel degelijk iets wezenlijks veranderen. Door de temperatuur van water te veranderen kan deze veranderen van vast in vloeibaar of omgekeerd. Door één korrel van een hoop te halen verandert deze niet, maar door herhaling is de hoop plotseling geen hoop meer. Door een woordje in een zin weg te laten kan de hele boodschap veranderen. Uitwendigheid blijkt buitenkant van een binnenkant en taal blijkt meer dan tekst expressie van emoties en ideeën.

“There is no communicative goal, no genuine meaning at all behind the text it produces: it is a stochastic parrot. In the wrong hands, it could be a truly dangerous parrot.” schrijft het duo Esther Sánchez García and Michael Gasser in een artikel in Science for People over de als maar grotere milieu-belastende taalmodellen voor systemen als GPT-3.

GPT-3 is slechts buitenkant. Het bedoelt niets. Het produceert de schijn van taal.

In een wereld waarin het belang van een onderwerp eerder afgemeten wordt aan de kwantiteit van stemmen en teksten die er aan besteed wordt (en hun aantallen ‘likes’) dan door de kwaliteit van de inhoud van teksten, kunnen machines die onbegrensde hoeveelheden teksten over een bepaald onderwerp kunnen produceren en verspreiden een totaal vertekend beeld geven van wat er onder de mensen leeft. Ze bepalen de stemming in de media. Daarom zien sommigen in taaltechnologische systemen als GPT-3 een potentiële bedreiging voor de democratie.

Technologie is manipulatie. Het wordt bedenkelijk wanneer het om manipulatie van mensen gaat zonder dat ze zich daarvan bewust zijn.

“Bringing meaningful regulation to the digital sphere is no easy task. However, given that the tools of online manipulation are largely controlled by a few powerful actors, we should begin our efforts by holding them to account.” (Susser et al. 2019)

Met systemen als GPT-3 nemen de grote jongens, zoals Google, Amazon en Microsoft die over de taaltechnologie beschikken, door middel van de uitwendigheid van de taal op listige wijze het denken van de werkelijkheid over.

“The Real Machine Question“

In The Machine Question stelt de filosoof David Gunkel de kwestie aan de orde of machines niet rechten moeten worden verleend, vergelijkbaar met dierenrechten. Gunkel is vooraanstaand pleitbezorger voor “robot rights”. Hij haalt Descartes aan die dieren beschouwde als automaten. Volgens deze verlichte filosoof is de mens echter een wezen van een andere, hogere, orde dan de machine. Dat blijkt volgens Descartes wel uit het feit dat de mens een taal spreekt. Hoewel we volgens Descartes wel een machine zouden kunnen maken die op het geschikte moment bepaalde woorden produceert (bijvoorbeeld ‘au’ produceert als je op zijn voet gaat staan), zou deze nooit in staat zijn nieuwe teksten te maken die zinvol zijn. Maar, nu machines in staat zijn ‘onze taal’ te produceren en soms zinvol reageren op vragen die we aan de machine stellen, wordt het steeds moeilijker volgens Gunkel om de mens van de machine te onderscheiden.

“ELIZA, the first chatter-bot, was able to communicate with human users by producing, in the words of Descartes, “different arrangements of
words so as to give an appropriately meaningful answer to whatever is said in
its presence.” Because of the experience with machines like ELIZA and other
advancements in artificial intelligence, robotics, and cybernetics, the boundary
between the human-animal and the machine has become increasingly leaky,
permeable, and ultimately indefensible.” (David Gunkel, The Machine Question, p.133)

Gunkel voert de technische prestatie van de mens: een machine te kunnen maken die uiterlijk menselijke trekken en gedrag vertoont zodanig dat wij er soms mee omgaan alsof het een mens is, aan als argument voor het verlenen van rechten aan (sociale) robots. Hij maakt daarbij een kapitale denksprong: uit het feit dat het beeld op de werkelijkheid lijkt concludeert hij dat er geen wezenlijk verschil meer is tussen beeld en werkelijkheid; dat beide van dezelfde morele orde zouden zijn. Ook het feit dat dieren rechten hebben is op zich geen argument om machine rechten te verlenen. Descartes vergiste zich: dieren zijn geen machines, maar levende wezens. Ze staan als zodanig dichter bij de mens, de mens is een dier, dan bij de door mensen gemaakte machines en afbeeldingen.

Hierboven stelde ik zeker te weten dat de machine die een tekst produceert geen enkel benul heeft wat hij zegt. (Ik heb zelf bijgedragen aan het uitdenken en produceren van dergelijke machines.) De machine zegt niet wat hij (voor ons) zegt. De machine toont de zinnen die het uitspreekt. Zonder de mens voor wie de tekst een herkenbare betekenis heeft en in de situatie waarin deze geproduceerd wordt zinvol is, is de machine niet meer dan een vallende steen, een natuurproces. Dit is de ‘relational view’ volgens welke de ‘zelfstandigheid’ van het technisch instrument een relatieve zelfstandigheid is ten opzichte van de mens die het instrument maakt voor zijn gebruik.

De vooronderstelling van “the machine question”, en de vooronderstelling van de Turing test, is dat er een ‘verschil’ is tussen mens en machine, zoals er een ‘verschil’ is tussen een afbeelding en de werkelijkheid waarvan het een afbeelding is. Het denkbeeld dat de werkelijkheid (de mens) ook een historische constructie is doet daar niets aan af. En ook het feit dat het beeld erg realistisch is en we het soms moeilijk van echt kunnen onderscheiden doet niets af aan dit onderscheid. De vraag is nu of dit ‘verschil’, dat onvoorstelbaar is, ook reden is om de robot rechten te ontzeggen. In elk geval is het feit dat het beeld op het afgebeelde lijkt op zich geen reden het beeld dezelfde rechten te geven als het origineel, de maker ervan. Ook het feit dat we dieren wel rechten verlenen, om ze te beschermen tegen mishandeling en verwaarlozing, is geen reden om machines ook deze rechten te verlenen.

De morele kwestie, “the real machine question”, betreft de machines en andere beelden die we maken. Het is de vraag of en zo ja welke normen we op moeten leggen aan ons zelf als producenten van de ‘zelfstandige’ beelden en machines waarmee we anderen confronteren. Niet als uitdrukking van de morele waarde van de machines, maar als uitdrukking van de moraliteit van de mens.

Bewustwording van de werking van (online) technologische manipulatie is voorwaarde voor de mens die in vrijheid, dat is: op menswaardige wijze, wil blijven denken en handelen. Zonder die bewustwording neemt ‘de machine’ het denken en leven van de mens over.

Bronnen

Emily M. Bender et al. (2021). “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? ,” in Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, FAccT ’21 (New York, NY, USA: Association for Computing Machinery, 2021), 610–23.

Tom Brown and 30 Others (2020). Language Models are Few-Shot Learners. arXiv.org.cs:2005.14165

David J. Gunkel (2012). The Machine Question. Critical perspectives on AI, robots, and ethics. The MIT Press, Cambridge, London, 2012.

Daniel Susser, Beate Roessler, Helen Nissenbaum (2019). Online Manipulation: hidden influences in a digital world. GEO. L. TECH. REV. 1 (2019).