“Die heutige Prometheus fragt: Wer bin ich schon?” (Günther Anders)
De Japanse artiest Hatsune Miku trad onlangs weer op in AFAS Live in Amsterdam. Drommen vooral jeugdige fans verdrongen zich voor het gebouw. Velen van hen hebben zich verkleed als hun idool. Ze hebben hun haar geverfd of dragen pruiken in lichtgevende kleuren turquoise en lichtblauw.
Die kleuren zijn al net zo synthetisch als hun idool zelf. Hatsune Miku is namelijk een virtuele zangeres, een toepassing van kunstmatige intelligentie (AI). Het fenomeen is een Japans hologram. Wanneer het drie-dimensionale lichtverschijnsel op het immense scherm verschijnt klinkt een gegil uit de duizenden kelen van het begeesterde publiek. Zoals bij een optreden van levende pop-idolen als Madonna, Beyoncé.
De NOS besteedt een nieuwsitem aan het optreden. De presentatrice merkt op dat Hatsune Miku “niet echt bestaat.” Maar: “Ondanks dat Hatsune Miku geen echt mens is, voelt het alsof je tijdens een optreden naar een echt persoon aan het kijken bent.” zegt een fan.
Wat verstaan we ‘eigenlijk’ onder ‘bestaan’? Een ‘echt persoon’? We leven in een tijd van simulaties, deep fake, sociale robots en nepnieuws De nieuwste produkten van technologie roepen de vraag op wat echt is en wat onecht. Hoe weten we eigenlijk of iets echt is? En, waarom vinden we het zo belangrijk om te weten of iets echt is?
Voor een fan heeft een idool iets van een ideaal. De fan wil zich graag met zijn of haar idool identificeren. Zijn idool is een ideaal zelf. Maakt het dan uit of een idool een echt mens is, zoals Madonna, Mbappé of de Paus, of een produkt van computer-en lichttechnologie, zoals Hatsune Miku? Sommige mensen zien in haar een ideaal idool. Je zou kunnen zeggen dat het kunstmatige idool een ideaal beeld van een idool is, een idool in het kwadraat. Zijn onze idolen nog niet ideaal genoeg, zodat we er nog weer ideale simulaties aan toe moeten voegen?
Met behulp van de nieuwste technologie creëren we ons een ideale werkelijkheid Voor sommigen is het idool de volmaakte werkelijkheid. Artificial Intelligence wordt vaak gepresenteerd als een betere versie van de menselijke intelligentie. Tegenover onze volmaakte idolen, tegenover de bijna volmaakte technologie, worden wij mensen beschouwd als gebrekkige onvolmaakte ‘Mangel-wezens’. Volgens sommigen hebben wij onze verstandelijke vermogens te danken aan onze gebrekkige natuur.
Hoe moeten we ons tot de technologie verhouden? Hoe gaan we er mee om?
“Ik geloof dat ik vanochtend een nieuwe vorm van schaamte (Pudendum) op het spoor ben gekomen; een schaamte-motief dat in het verleden niet bestond. Ik noem het eerst voor mij ‘Prometheïsche schaamte’; en ik versta daaronder “de schaamte voor de ‘beschamend’ hoge kwaliteit van door ons zelf gemaakte dingen.”
Zo introduceerde de Duitse filosoof Günther Anders het begrip Prometheïsche schaamte. Het is een dakboekaantekening van Anders die hij in 1942 maakte na een bezoek aan een techniek-tentoonstelling. Hij zag in het gedrag van zijn vriend met wie daar was een uiting van schaamte. De aantekening is opgenomen in Anders klassieker “Die Antiquiertheit des Menschen”. Het heeft als ondertitel: “Über die Seele im Zeitalter der zweiten industriellen Revolution.”. Het thema van het boek is hoe we door de media- en informatie-technologie het contact met de ‘werkelijke wereld’ verloren hebben. De techniek heeft een fantoom-werkelijkheid gemaakt, waar we ons niet aan kunnen onttrekken. Uiteindelijk, zo stelt Anders, hebben wij niet de vrijheid ons tv-apparaat uit te doen. Of we mee willen spelen of niet, wij zijn al medespelers geworden voordat wij er erg in hadden. Hoewel verschenen in 1956 is zijn werk nog steeds zeer actueel.
De techniekfilosoof Hans Schnitzler heeft geen smartphone. In zijn recent verschenen essay De mens, de machine & de therapeut (Bot Uitgevers, 2024) verklaart hij dat dit ‘het resultaat is van een primitief afweermechanisme’ tegen de prometheïsche schaamte. Een schaamte “die voortkomt uit het besef hoe onbeholpen en dom we eigenlijk zijn in vergelijking met ‘het slimme apparatenuniversum waarin we leven.” Deze schaamte komt voort uit een besef dat we geworden zijn in plaats van gemaakt. We zouden ons volgens deze theorie schamen voor onze primitieve afkomst en voor het gebrekkige resultaat. En, naarmate de technologie steeds intelligenter, beter, volmaakter wordt, groeit dit besef.
Schamen de fans van Hatsune Miku zich vanwege hun adoratie van dit popidool, waarvan ze weten dat het niet echt is? Waarom nemen ze kleding- en haar-stijl over?
De fans nemen een rol aan in een sociaal spel. Het idool is de persona, een abstracte identiteit die ze tijdelijk adopteren. Het is een vorm van upgraden van jezelf, volgens Schnitzler een manier om weerstand te bieden tegen de schaamte, door deze te verbloemen. De mens construeert een persona en adopteert deze om zichzelf een sociale identiteit te geven.
Schaamte is typisch een emotie die je verbloemt. De socioloog Erving Goffman heeft uitvoerig onderzoek gedaan naar schaamte mechanismes in face-to-face interaktie. Face work noemt hij het ‘werk’ dat we doen om er voor te zorgen dat we anderen geen gezichtsverlies toebrengen en dat we zelf ons gezicht (‘face’) niet verliezen in sociale interaktie met anderen. Mensen die beseffen dat ze betrapt worden op een fout vertonen bepaald gedrag, soms heel subtiel, waaruit blijkt dat ze hun gezicht proberen te verbergen. Kleine kinderen kruipen achter een stoel of onder een tafel. Schuldbewust, kan een sociale robot dat zijn? Of kan deze alleen de uiterlijke gedragingen vertonen die gekopieerd zijn? Kan een mens zichzelf doen schamen? Of is het iets dat alleen in een ontmoeting met een ander ons kan overkomen?
Goffman werd bij het grote publiek bekend vanwege zijn boek The Presentation of Self in Everyday Life (1956). Het boek stelt, ik citeer Hans Schnitzler die het boek las in het kader van zijn poging in het reine te komen met zijn angst voor de techniek, “dat je het sociale leven het best kunt vergelijken met een toneelstuk; de wereld is, aldus Goffman, een schouwtoneel en de mens een acteur die afhankelijk van de situatie een rol speelt.” We doen voortdurend aan impression management door ons een rol aan te meten. Niet alleen in onze vrij tijd, meten we ons een identiteit aan, zoals de fans van Hatsune Miku, maar altijd wanneer we ‘on stage’, op het sociale toneel, zijn. Back stage vragen we ons af wie van die persona waarmee we ons identiferen we eigenlijk zelf zijn. Wie ben ik echt? Wie is het die die rollen speelt?
Wat echt is, is natuurlijk, is onbedorven, puur. Dat is het beeld dat opgeroepen wordt door het verhaal van Prometheus. De mens heeft van nature geen bepaalde kwaliteiten, zoals de andere dieren, hij moet ze verwerven door technologie. Het is ook het mensbeeld van de socioloog Goffman, de mens gaat op in een veelheid van persona.
Het mensbeeld past bij die ‘Zeitalter der zweiten industriellen Revolution’ waarover Anders schrijft. Die tweede revolutie die volgde op het tijdperk van de mechanisering kwam tot stand door een reflectie op de mechanisering van het wereldbeeld. Volgens de historicus Dijksterhuis bestond het proces van mechanisering wezenlijk uit de mathematisering van het wereldbeeld, een proces dat sinds de 16de eeuw het Europese denken beheerst. In de moderne fysica lost de natuur op in wiskundige formules. De wetenschap construeert mathematische modellen die voor de wetenschapper werkelijker zijn dan de werkelijkheid van de ervaring waarnaar ze verwijzen. In de informatieverwerkende computersystemen controleren de mathematische structuren, uitgedrukt in een computerprogramma, de fysische werking. De informatietechniek is gebaseerd op de correspondentie tussen mathematisch concept en natuurproces. Fysische processen die zich in de machine afspelen representeren denkprocessen en informatieprocessen. De natuur is voor de techniek een veld van mogelijke structeringen. Een virtuele wereld is niet minder echt dan de ‘echte’ wereld, waarin we onszelf in eerste instantie aantreffen.
Ook de moderne wetenschap geeft aanleiding tot prometheïsche schaamte. De wetenschap verwerft kennis door te meten. Meten is het uitdrukken van iets reëels in iets ideëels. Strikt genomen is dit een categorie-fout, maar zonder deze ‘fout’ zou de wetenschap niet verder komen. Het resultaat van het meten is informatie, een structurele uitdrukking van iets kwalitatiefs.
“Natuurlijk, vanuit de natuurlijke houding van het gezond verstand beschouwen we alleen de materiële dingen als werkelijk. In de wetenschap, echter, is deze houding reeds verlaten. Theoretische entiteiten zoals deeltjes, golf-functies, transformatie-groepen, etc. die in wezen mathematische objecten zijn, worden bestudeerd alsof ze de werkelijke substantie van de materiële wereld zijn, ook al worden ze op mathematische wijze behandeld.”
De wetenschapper creëert mathematische modellen van delen van de werkelijkheid.
“Er is een soort van Prometheïsche schaamte onder de wetenschappers wat hen enigzins troostend doet zeggen dat deze entiteiten slechts binnen een model bestaan, maar in feite verklaren ze de materiële fenomenen vanuit het model, en niet andersom. Dus, in de praktijk, wordt het model beschouwd als datgene met de hoogste graad van werkelijkheid.” (Fleischhacker, Beyond Structure, p. 130-131)
Precies zoals de fans hun idolen een hogere graad van werkelijkheid toekennen dan hun zelf. En precies zoals de mens zichzelf ziet als een imperfecte instantie van de werkelijke mens wanneer deze geconfronteerd wordt met de ideale technische creaties.
In een mathematische houding stelt de mens zich in een zo uiterlijk mogelijke verhouding tot zijn eigen bestaan en zich zelf voor. Dit herkennen we in Goffmans theorie van het individue dat verschillende sociale bestaanswijzen aanneemt. Hij stelt zichzelf voor als een bepaald karakter in een spel. Het is niet zo vreemd dat die zelfde mens op een gegeven moment de vraag stelt: “wie ben ik zelf eigenlijk?”.
Wat door ons wordt voortgebracht, kunst en techniek, komt niet uit zichzelf van nature tot stand. Het kunstmatige is wat zijn principe of vorm buiten zichzelf opgelegd krijgt en niet van binnenuit ontwikkelt. Ons verstand stelt deze twee tegenover elkaar: van binnenuit en van buiten. Maar de mens is ook onderdeel van de natuur. Zijn verstandelijke vermogens waaraan hij de techniek te danken heeft, zijn zowel een natuurlijk verschijnsel als een vermogen waarmee hij zich van de natuur onderscheidt. Het reflecteren op het leven, onze relatie tot het leven is wezenlijk onderdeel van dat zelfde leven.
Je hoort vaak mensen zeggen dat de grens tussen mens en techniek vervaagt.
Dat het moeilijk is, en door de modernste technieken steeds moeilijker wordt, de grens tussen het levende en het levenloze aan te wijzen, maakt het begrip leven niet vaag. Wat het lastig maakt is het begrip toe te passen. Wat we zeker weten is dat het begrip leven naar een werkelijkheid verwijst, en wel die werkelijkheid die ons het meest na is en waar we per definitie geen afstand van kunnen nemen.
Onecht is wat niet echt is. Het ontleent zijn inhoudelijke bepaaldheid aan het echte, dat het niet is. Waar het echte zijn bepaaldheid aan zichzelf dankt, daar ontleent het onechte zijn bepaaldheid aan iets anders, een maker. Dat voor ons het soms moeilijk is echt van onecht te onderscheiden, en dat we het onechte voor echt houden, dat doet geen afbreuk aan het begripsmatige onderscheid tussen echt en onecht. Het wijst erop dat er een onderscheid in de waarneming bestaat tussen de uiterlijke zintuiglijke kant ervan en de begripsmatige kant.
Begripsmatige kennis is kennis die niet aan een gegeven situatie gebonden is, maar die daarboven uitstijgt. De filosoof van de techniek is op zoek naar het begrip techniek, een techniekbegrip dat op een of andere wijze de verschillende historische fasen van de techniek als fasen van de ontwikkeling van dit begrip omvat. Dat techniek zoveel verschillende vormen heeft, werktuigtechniek, mechanische techniek, informatietechniek en automatisering, dat behoort tot de technische idee zelf. De antropoloog zoekt aan de hand van de empirische verschijningvormen het begrip mens en ziet in dat het bewerken van zijn omgeving en het maken van werktuigen en machines een wezenlijk kenmerk is van de mens.
Het is een kenmerk van onze technisch mathematische denkwijze om idee, zijnde de eenheid van begrip en realiteit, te zien als de structuur van iets. De structuur is volgens deze visie het wezen ervan. De mathematische uitdrukkingswijze geldt in onze cultuur dan ook als ideaal van wetenschappelijkheid. We menen iets pas echt te kennen als we het in mathematische modellen en formules kunnen uitdrukken. Aristoteles was van mening dat Plato aan zijn ideeën teveel een zelfstandig objectiviteit toedeelde, zoals wij de mathematische objecten zien als objecten van een ideële mathematische denkwereld. Ook volgens Kant maakt het mathematische de keninhoud van de Newtonse mechanica uit, waarin de natuurwetten in wiskundige formules is uitgedrukt.
Idee is echter iets anders dan structuur. Zo is het idee twee, het ‘twee zijn’, of: de ‘tweeheid’, niet hetzelfde als het mathematische getal twee, en de idee driehoek is niet hetzelfde als de mathematische driehoek. De idee driehoek is wat de mathematische driehoek tot driehoek maakt en is zelf geen driehoek. De driehoek is een constructie, de driehoekigheid is dat niet, dat bestaat niet uit delen. Er zijn vele driehoeken, maar er is slechs één unieke idee driehoek. Het getal twee veronderstelt de tweeheid. Iedere mathematische structuur veronderstelt een idee als datgene wat die structuur tot die bepaalde structuur maakt.
Zo is de technische idee niet zelf iets technisch, maar het principe ervan. De technische idee is typisch de verhouding tussen concept en realisatie, tussen programma en fysische implementatie. In de informatietechniek representeren de fysische processen de denkprocessen. De wiskundige tekens en formules werken in de programmeerbare machine.
Die vereenzelving van het mathematische met het begrip zonder meer zien we niet alleen terug in de natuurwetenschap en de mechanica van de fysische processen, maar ook in de menswetenschappen, in de sociologie, waar sociaal gedrag, zoals taalgedrag, wordt gereduceerd tot de structuren van de feitelijke gedragingen, zoals bijvoorbeeld van de taaluitingen. Goffmans onderzoek naar interactierituelen heeft basis gelegd voor de techniek van social signal processing en ‘sociale robots’, robots die een gesprek kunnen voeren met de ‘gebruiker’, die daarin als gesprekspartner optreedt. In informatiesystemen als ChatGPT werken de taalstructuren (LLMs) gebaseerd op taaldata, de neerslag van het gedocumenteerde feitelijke taalgedrag. Een taal gaat echter niet op in het feitelijk taalgedrag. Plato wees al op het abstracte karakter van de geschreven taal in vergelijking tot het gesprek waarin de spreker aanwezig is. Wie een tekst leest kan de schrijver niet vragen wat deze bedoeld heeft. De auteur is inmiddels verdwenen achter de facade van de tekstgeneratiesystemen en de sociale mediatechnologie. Plato had als ‘materiaal’ voor zijn beschouwing de techniek van het schrift. Voor de spraak- en beeldtechnologie geldt een analoge beschouwing als die van Plato naar aanleiding van het geschreven woord. Daarin gaat het om de uitwendigheid van het beeld als iets op zich gesteld tegenover de uitwendigheid in relatie tot datgene waarvan het de buitenkant is.
De filosoof Hans Schnitzler probeert het wezen van de relatie tussen mens en techniek bloot te leggen. Hij haalt de term ‘hyperrealiteit’ aan, een term gemunt door de Franse denker Jean Baudrillard, een term die het verschil tussen echt en nep, het natuurlijke en het technische, te boven gaat. Die ‘hyperrealiteit’ zou de echte werkelijkheid zijn. Mijn stelling is dat deze ‘hyperrealiteit’ de mathematische objectiviteit van de wiskundige structuren is. Vanuit mathematisch technisch perspectief zien we slechts structuren en functies en valt het onderscheid tussen mens en AI, tussen echt en simulatie, weg. Vanuit dat perspectief zijn het beide informatieverwerkende systemen. Vanuit dat mathematisch wetenschappelijk perspectief is er geen verschil. De realiteit wordt vereenzelvigt met de mathematische modellering ervan. Zie de prometheïsche schaamte die dit bij de wetenschapper, die in de praktijk de structuur voor de werkelijkheid houdt, oproept.
Het is mode te zeggen dat technologie de mens overtreft. Wie stelt dat de machine beter kan rekenen dan de mens, die gaat uit van een tegenoverstelling van twee onafhankelijk van elkaar bestaande zelfstandige zijnden. Hier de mens, daar de rekenende intelligente machine. Maar buiten de werkelijke relatie is de machine geen machine, en is de rekenmachine geen rekenmachine. Omgekeerd kan de mens niet rekenen, kan er zelfs geen rekenen bestaan, zonder de tekens (de rekensteentjes, calculi) die volgens vaste regels gemanipuleerd worden. De mens maakt al rekenend zich zelf een rekenmachine. En tegelijkertijd verhoudt hij zich ertoe en overstijgt hij deze verhouding.
Een andere mode zegt dat de mens zelf ook techniek is. De mens is een ‘prothetisch wezen’ volgens De franse filosoof Baudrillard. De ouder wordende mens is aangewezen op prothesen, tand- knie- heup-prothesen, wil hij nog blijven kunnen wat hij kon. Ik weet niet of Descartes dit beoogd had toen hij stelde dat we zijn wetenschappelijke methode vooral ook moesten toepassen in de medische wetenschap om het leven van de mens te verlengen.
Hans Schnitzler meent dat er geen ontkomen aan is dat we langzaam maar zeker evolueren in de richting van mensmachines, voor wie het onderscheid tussen echt en nep, of tussen feit en fictie, geen betekenis meer heeft.
“Ik heb beslist geen profetische gaven, maar de ontwikkeling van mens naar goddelijke machine lijkt me onvermijdelijk.” (Hans Schnitzler, 2024, p. 25)
Alsof er een overgang zou zijn van echt naar onecht, zoals er in het leven een geleidelijke overgang bestaat van de jeugd naar de ouderdom. Alsof iets dat echt is onecht zou kunnen worden. Dat dit niet zo is, dat het verschil tussen echt en onecht juist volstrekt niet met de inhoud van iets te maken heeft omdat het buiten die inhoud staat, aan dat inzicht houd ik voorlopig nog even vast.
Een vraag die het lezen van Hans Schnitzler’s essay bij mij oproept is die naar de relatie tussen psychologie en filosofie. Het is de vraag die misschien wel een kernvraag is voor de moderne filosofie, een vraag die ook het lezen van de grote filosoof Hegel telkens oproept. Wie is die ik, die wij, van de filosoof. De autobiografische werken (Discours en Regels) van Descartes, de aanvang van de moderne mathematische metafysica, roepen tevens deze vraag op. Wie is dat cogito, die ik van het ‘ik denk’ van de filosoof?
