Stel dat de waarheid een muis is. En waarom niet? Dan heb ik die toch maar mooi gevangen. Helaas is hij dood. (vrij naar F. Nietzsche)
Muizen hebben het gemunt op onze boontjes en peultjes. Ik zet een muizenval.
Een muizenval is een slim instrument: een originele door het verstand uitgedachte combinatie van natuurkrachten. Het is niet alleen de druk die de muis op het wippertje uitoefent waardoor het ijzeren staafje los raakt uit het metalen boogje, het is ook de veerkracht in het verbogen metaaltje dat vervolgens ervoor zorgt dat de metalen klep omklapt en de muis klem zet. Meestal met de onmiddellijke dood tot gevolg.
Het typische van moderne techniek is dat het is uitgevonden. Iemand moet op een idee komen. Hij moet de mogelijkheid van een constructie inzien: een combinatie van natuurkrachten waardoor een bepaalde gewenste werking optreedt. De traditionele muizenval zou rond 1880 zijn uitgevonden door Hiram Stevens Maxim. Het Maximgeweer, het eerste mobiele volautomatische machinegeweer, is ook naar deze Amerikaan vernoemd. De intelligentie van deze man zien we terug in zijn vindingen, die we dan in overdrachtelijke zin ook ‘intelligent’ noemen.
Behalve het verstand en het fysische krachtenspel speelt nog een andere kracht een belangrijke rol. Zonder de aantrekkingskracht van de (pinda)kaas op de muis zou de muizenval niet werken. Het is deze slimme combinatie van fysische en biologische natuurkrachten die de muizenval tot een succesvol instrument maakt. De lokstof is een noodzakelijk onderdeel van de klapmuizenval, zoals de inkt een noodzakelijk onderdeel is van de schrijfpen.
Je kunt deze in de vorm van een muizenval geobjectiveerde slimheid, voor een paar euro kopen in de dierenwinkel, waar men ook vogel- en visvoer verkoopt. Deze intelligentie is onderdeel van onze economie. (De lokstof zit er overigens niet bij).
Zoals iedere techniek maakt de muizenval gebruik van een aantal in onze natuur ingebouwde automatismen. Automatismen zijn werkingen die vanzelf gaan. We hebben er geen controle over. Ze zijn er in vele soorten. De reflexmatige spierwerkingen, zoals de kniereflex, de ongecontroleerde reflexmatige reacties als er gevaar dreigt, en talloze fysiologische levensprocessen, zoals het kloppen van het hart en de ademhaling. Ook de emotionele reacties, zoals het blozen bij het gevoel van schaamte gaan buiten onze directe wil om. Al deze bewegingen, volgens natuurwetten in de brede zin, zijn automatisch. Wat ook automatisch gaat, dat wil zeggen buiten de directe wil om, is het voor echt en waar houden van dingen die we ‘waarnemen’ en die we lezen of horen. Niemand zegt: als ik zeg dat het regent dan regent het ook. Men zegt: het regent. Of: “Ik heb een muis gevangen” en u gelooft dat onmiddellijk. De taal zegt dingen die niet waar zijn. Misschien moeten we zeggen dat de taal zaken voorstelt. De zin ‘het regent’ stelt de situatie voor dat het regent. Of de zin een waar oordeel uitspreekt is een andere kwestie.
De scholastici onderscheiden, in navolging van Aristoteles en de Arabische filosofen, de vis cogitativa, het vermogen tot objectivering op basis van de verschillende zintuiglijke indrukken, van de vis estimativa, de schattingszin, het vermogen de directe waarde van iets in te schatten. Deze laatste komt ook bij dieren voor, maar het vermogen tot objectiveren niet. Het dier is niet in staat het objectieve gegeven te onderscheiden van het vitale belang. De muis wordt bezeten door het vitale belang van de pindakaas. Zoals de wolf niet af te brengen is van ‘zijn kijk op de dingen’ en het schaap opvreet, zit ook de muis gevangen in zijn eigen driftleven.
Wanneer ik de muizenval een ‘slim instrument’ noem, dan gebruik ik deze term in overdrachtelijke zin. Hier is sprake van een analogie. De slimheid van het instrument verwijst naar de slimheid van de technische vinding. De slimheid zit in de doeltreffendheid die door een combinatie van natuurkrachten, eigenschappen van de natuurlijke materialen, verkregen wordt.
De rationele mens lijkt zich te onderscheiden van het dier waar deze instrumenten kan maken die niet direct gebonden zijn aan het onmiddellijke gebruik voor de bevrediging van zijn behoeften. De mens maakt machines om andere machines of instrumenten te maken zoals muizenvallen of elektronische chips-machines voor algemeen gebruik. Alleen de mens overstijgt zo het niveau van de natuurlijke automatismen en driften. De mens stelt zijn onmiddellijke behoeftebevrediging uit en maakt tijd vrij voor het maken van gereedschappen om die later te kunnen gebruiken in de arbeid waarin hij zichzelf ten dienste stelt van de economie om in zijn onderhoud en dat van de zijnen te voorzien. Dat neemt niet weg dat er dieren zijn die erg slim zijn in het gebruik van instrumenten en die zelfs bewaren voor hergebruik.
Het technische ding ontleent zijn zelfstandigheid en identiteit aan het door de mens bedachte ontwerp. Dat ontwerp is een doelmatig samenspel van krachten, een verstandige ordening van regels en wetten. Die identiteit komt tot uitdrukking in het geven van een soortnaam aan het technische instrument. Deze naam drukt meestal op een of andere manier uit waarvoor het ding gebruikt wordt: ‘muizenval’, ‘televisie’. De naam refereert naar het gebruik, de functie van het instrument.
Uit bovenstaande wordt ook duidelijk wat het is dat het technische onderscheidt van het economische. Veel denkers over techniek verwarren die twee. Het technische betreft de slimheid van de constructie, de originele combinatie van krachten door het verstand uitgedacht in een technisch ontwerp. De mens die eeuwen later een verweerde muizenval tegenkomt zal eraan zien dat het geen natuurlijk ding is, maar een kunstmatige constructie gemaakt volgens een technisch idee. Hij zal de werking ervan wellicht kunnen reconstrueren. Het economische betreft het gebruik van middelen voor de bevrediging van behoeftes. In een door technologie ontwikkelde kennis-economie moeten de behoeftes aan specifieke middelen gemaakt (aangepraat) worden om de economie draaiende te houden. Het product moet aantrekkelijk gemaakt worden anders werkt de technologische kennis-economie niet.
Mensen hebben een zekere behoefte aan muizenvallen. Zoals de muis op de val afkomt aangetrokken door zijn behoefte aan voedsel, zo komt de mens op de muizenval af aangetrokken door de behoefte de muis te bestrijden.
Zoals aan iedere praktijk kleeft ook aan het gebruik van de muizenval een morele kant, die ethische vragen oproept. Dit aspect dringt zich op als we een muis hebben gevangen. Hadden we de muis niet levend kunnen vangen? Maar wat er dan mee te doen? Of, zoals mij laatst overkwam: als je een prachtig geel en wit vogeltje hebt gevangen. We hebben een eind gemaakt aan dit leven. Wat bezielt ons! Je moet het kind in jezelf, dat het wel heel erg zielig vindt voor deze muis, even om zeep helpen om het gebruik van een muizenval goed te praten. “Ja, maar, de muis eet anders al onze doperwtjes op, en die vind jij toch zo lekker?!”
Hoe complexer en abstracter de techniek wordt deze te minder hebben we te maken met de morele kant van de mogelijke toepassing. Instrumenten zijn voor veel toepassingen geschikt. Het a-morele van het technische denken is dat het technische volstrekt onverschillig staat tegenover de morele waarde van het gebruik ervan. Het technische is in die zin ethisch neutraal. Die volstrekte onverschilligheid is kenmerk van de mathematische denkhouding die we bij het uitvinden van de technische dingen innemen. Het is deze mathematische denkhouding die in de natuur slechts verschijningen ziet van wetmatigheden. In die natuur is geen leven. Het mathematiseren van de werkelijkheid veronderstelt abstraheren van de eigen kwaliteiten ervan. Het gaat om het pure nut van natuurkrachten in het gebruik voor iets dat wij nuttig vinden.
Heeft de muis bewustzijn? Heeft dit vogeltje bewustzijn? Zodra ik in het gefladder van dit dier, gevangen in de muizenval, de strijd op leven en dood herken, is dit geen vraag meer. En met dat besef dat dit dier bewustzijn heeft sta ik voor een moreel dilemma. De moraliteit is geen gevolg van de erkenning van de status van bewustzijn, noch omgekeerd is de moraliteit primair en de status van bewustzijn een gevolg daarvan. In de beleving is de confrontatie met dit andere leven dat getuigt van bewustzijn onmiddellijk een confrontatie in een moreel dilemma. (Zie de discussie hierover van denkers als David Gunkel en Mark Coeckelbergh die refereren naar het denken van de Franse filosoof Emmanuel Levinas, voor wie het morele voorafgaat aan de ontologie.)
De rationele mens onderscheidt zich van het dier doordat het in staat is de natuurlijke behoeften van de mens te manipuleren. De muis wordt weliswaar aangetrokken door de geur van pindakaas, maar deze maakt zelf geen pindakaas. De mens wel. Daarbij maakt de mens ook de behoefte aan pindakaas. Want niemand heeft van nature behoefte aan pindakaas, noch aan muizenvallen. De mens maakt zijn producten aantrekkelijk. Niet alleen voor hemzelf maar ook voor anderen. De reclameindustrie ontwikkelt en gebruikt kennis van de menselijke natuur om nieuwe behoeften te maken op basis van bestaande automatismen.
De wereld van de commercials is gebaseerd op de psycho-sociale wetenschappen die een antwoord moeten geven op de vraag hoe dit nieuwe produkt (het kan een levensmiddel, een nieuw wasmiddel of een nieuw soort wapen) aan de man moeten brengen. Daarin speelt een grote rol de mimetische begeerte, een principe dat cetnraal staat in het denken van de franse filosoof René Girard: de mens wil dat wat de anderen willen.
De reclame- en propaganda behoren tot één van de drie toepassingsgebieden van het technische denken die Jacques Ellul, en in navolging van hem de socioloog Helmuth Schelsky onderscheidt (Ellul, La technique ou l’enjeu du sciècle, 1954; Schelsky, Der Mensch in der wissenschaftlichem Zivilisation, 1961). Deze technische kennis noemen we ‘Human Engineering’. De hype rondom AI is mederesultaat van deze toepassing: reclame mystificeert het aangeprezen produkt. Artificial intelligence dankt haar succes voor een groot deel aan de macht van de grote tech-bedrijven die ook de sociale media beheren, zoals Google en Microsoft. Het ophemelen van de mogelijkheden die de AI, nu al of in de toekomst, biedt is een onderdeel van de fantastische suggestieve wereld van de AI.
Natuurlijk moet de reklametechnologie gebruik maken van natuurlijke behoeftes de vanaf de geboorte aanwezig zijn. De behoefte aan voedsel, aan zelfbescherming, de wil om zich in leven te houden. Niemand heeft echter van nature behoefte aan een mobiele telefoon, of een hamburger, zoals een muis geen behoefte heeft aan pindakaas of chocola.
Productie en consumptie zijn de interacterende processen van de consumptiemaatschappij: de producent creëert de consumptie, de consumptie creëert de productie. De drugsverslaafde mens houdt de productie en criminele handel in drugs in stand. De producenten van drugs doen hun best om hun afzetmarkt te vergroten door de jeugd te verleiden toe te treden tot het drugscircuit. Formeel is er geen verschil tussen de illegale economie van de drugshandel en de legale economie van de productie van en de handel in bijvoorbeeld graan, olie of informatie.
Onze kenniseconomie werkt op basis van automatisering, een autonoom proces dat zichzelf in stand houdt door de mens en natuur steeds meer in zich op te nemen. De melkrobot vraagt om het fokken van een robotkoe, waarvan de spenen passen in de melkbekers van de robot, zoals de oplader in de smartphone. De wetenschappelijke farmacie vraagt om speciaal gekweekte laboratoriummuizen ten behoeve van een statistisch verantwoord onderzoek naar de werking van medicijnen. De samenleving wordt studieonderwerp van FieldLabs in de wetenschappelijke strijd tegen het virus.
Het heeft niet zoveel zin om tegen een specifieke technische toepassing te ageren. De technische houding is allesdoordringend en kent geen grenzen. De enige zinvolle manier om de problemen van de techniek op te lossen is door inzicht in de eigen aard van de technologie. Daardoor kunnen we deze relativeren. Het gaat erom de technische ontwikkeling zelf te controleren en zo bevrijdt te worden van de automatismen van een op technologische ‘vooruitgang’ gebaseerde economie.
Voor wat betreft de historische ontwikkeling van de techniek is de programmeerbare computer het typische kenmerk van onze op kennis en techniek gebaseerde economie. Het is een taalmachine. Niet alleen omdat het ding een programmeertaal heeft waarin het door de designer geprogrammeerd wordt, maar ook om het gebruik ervan door de eindgebruiker bij zijn automatismen aan te laten sluiten. De human interface is taal. Je spreekt het ding aan en het zegt iets terug. De woorden functioneren als sleutels die toegang geven tot bepaalde fysische processen, die wij zien als de uitvoering van een opdracht, het beantwoorden van een vraag. In de tekens die op het scherm verschijnen zien we ons bekende karakters, woorden en zinnen.
De economische macht is in handen van die bedrijven die niet alleen muizenvallen maken maar ook nieuwe behoeftes creëren en in staat zijn de individuele burger te zeggen hoe ze zich zelf kunnen worden, aan welk beeld van zichzelf ze willen of moeten voldoen. Deze bedrijven meten de gedragingen van het individu en leiden daaruit af hoe ze producten kunnen maken die matchen met een door hen zelf van de burger gemaakt profiel.
De naar individuele zelfstandigheid strevende ‘muizenmensen’ menen in het door de marktwerking voor hen gecreëerde beeld zichzelf te vinden. De economie en de bijbehorende participatiewet, volgens welke iedereen mee doet of hij wil of niet, werken als een muizenval voor de door het systeem gecreëerde behoeftige burger.
Pas door inzicht in het virtuele karakter van deze door middel van mediatechniek in stand gehouden werkelijkheid kan de mens zich werkelijk bevrijden uit deze uitbuiting van de natuur. De mens is immers niet puur rationeel denkende geest, maar ook als lichamelijk wezen onderdeel van de natuur.
Communicatie is niet iets dat op een uitwendige wijze tot stand wordt gebracht. Het is altijd al aanwezig en voorondersteld. We moeten opnieuw nadenken over de bijzondere relaties van eenheid en veelheid zoals die concreet tussen het individu en de samenleving bestaat. Dit nadenken zal de oppositie van de rationele mens tegenover de natuur die aan het technische denken ten grondslag ligt moeten overstijgen.
Demystificatie van AI. Hoe dan ?
Over Kunstmatige Intelligentie (Artificial Intelligence, kortweg AI) doen allerlei beelden de ronde. Die beelden betreffen de werking van AI, de gevolgen van AI voor de samenleving, de mensheid en de ontwikkeling van digitale technologie in het algemeen. De Wetenschappelijke Raad voor het Regeringsbeleid (WRR, website wrr.nl) onderscheidt in haar rapport Opgave AI – De nieuwe systeemtechnologie acht mythes over AI. De technologie zou bijvoorbeeld altijd neutraal en rationeel zijn. Maar er zijn ook allerlei angsten dat AI bijvoorbeeld zelfbewust wordt en zich tegen de mens kan keren. Te groot optimisme en overtrokken angsten acht de WRR ‘niet functioneel’. De WRR vindt Demystificatie van AI belangrijk om te zorgen dat de juiste vragen in de maatschappelijke discussie worden gesteld. Het gaat erom de verschillende beeldende verhalen die er van AI rondzingen tot begrip te komen.
Aan die demystificatie van AI wil ik graag een bijdrage leveren. Ook ik ben van mening dat er veel misverstanden bestaan als het om kunstmatige intelligentie gaat. Maar het gaat mij niet alleen om het ophelderen van wat AI is, maar ook om het ophelderen van de misverstanden zelf. Er zijn verschillende standpunten over de mogelijkheden van AI. Vanuit die verschillende standpunten wordt verschillend geoordeeld over de mate waarin AI technologie zelfstandig is of kan worden in het uitvoeren van processen, en in het nemen van beslissingen.
De toenemende mate van zelfstandigheid (autonomie) is een opvallend kenmerk van de technische ontwikkeling. Maar wat houdt die ‘zelfstandigheid’ precies in? In welke zin zijn een programmeerbare robot en autonome auto ‘zelfstandiger’ dan een muizenval, een nietmachine of een handzaag?
Is een AI-robot zelfstandiger dan een stoommachine omdat deze kan denken en zelf beslissingen kan nemen?
Het is duidelijk dat het hier om een relatieve zelfstandigheid gaat. De machine is zelfstandig in relatie tot de mens voor wie de fysische processen betekenisvol en doelmatig zijn. Een vallende appel heeft niet een door ons bedachte doelmatige werking, maar een vallende bom heeft dat wel. De informatieverwerkende (programmeerbare) machine onderscheidt zich van de klassieke machine hierin dat het bij de laatste om de fysische processen zelf te doen is (het produkt is iets materieels) terwijl het bij de informatieverwerkende machine om de betekenissen van de toestanden van fysiche processen gaat, waarbij het eigenlijke materiële niet van belang is. Het gaat om de structuur, de betekenis van de tekens, die geproduceerd wordt. De fysische processen zijn slechts als dragers van betekenis, als tekens, signalen, van belang. Daardoor schijnen deze nieuwe klasse van machines een hogere graad van zelfstandigheid te bezitten dan de klassieke machine, zoals de stoommachine. Deze machines zijn werkende tekens, betekenisvolle informatieprocessen. Ze hebben dus de relatieve zelfstandigheid van de taal als tekensysteem. Zonder de taalgemeenschap waarin deze machines, zoals ChatGPT of de sprekende sociale robots, functioneren zouden deze machines niet zijn wat ze zijn. We vergeten van het relatieve karakter van de relateive zelfstandigheid van de technische dingen, en denken ervoer alsof het absoluut zelfstandige artefacten zijn die buiten de relatie tot de mens zijn wat ze slechts in die relatie zijn. We vergelijken dan mens en machine, mens en AI, door ze tegenover elkaar als zelfstandige entiteiten te zien en ze zo beschouwd met elkaar te vergelijken. We zeggen dan bijvoorbeeld: de machine kan beter rekenen of beter schaken dan de mens. Die schijnbare zelfstandigheid is nou juist ook het wezen van de techniek. Daar is het ons om te doen. We willen dat de techniek zoveel mogelijk ons werk overneemt. Maar het is slechts een schijnbare zelfstandigheid. Deze zelfstandigheid van het technische ding, is dus van een andere soort dan de zelfstandigheid van de natuur, waar we gebruik van maken in de techniek. Zo gebruiken we natuurlijke mechanismen, zoals de hevelwerking, de hefboomwerking, de lenswerking, als technische middelen.
Dit is wat Jan Hollak (zie: Van Causa sui tot Automatie) bedoelt als hij zegt dat als we van een machine zeggen dat deze ‘denkt’, of ‘bewustzijn heeft’, dat we dan altijd het ‘intentionele correlaat’ van onze cognitieve relatie, ons bewustzijn, bedoelen. In die zelfde intentionele zin bedoelen woorden, of zeggen woorden, ons wat ze zeggen.
AI komt niet uit de lucht vallen. Het is mensenwerk. Demystificatie van AI kan door te laten zien hoe deze technologie de voortzetting is van een historische ontwikkeling van techniek. Het is resultaat van en stadium in een ontwikkeling die al vele eeuwen gaande is. Bij techniek gaat het altijd om het gebruik van natuur en mens als middel om iets zinvols te doen. Dat doel kan praktisch zijn of theoretisch. Een voorbeeld van een concreet technisch middel met een praktisch doel is een ploeg. Een voorbeeld van een concreet technisch middel met een theoretisch doel is een telescoop. Bij een praktisch doel gaat het primair om het bewerken van iets materieels. Bij een theoretisch doel gaat het om kennis op te doen van de natuur. De technologische ontwikkeling is in een stroomversnelling geraakt toen techniek wetenschappelijk werd en belangrijk werd voor de econonomie van een samenleving. Kennis van de regels volgens welke de natuur ‘werkt’ wordt gebruikt om een nieuwe gereedschappen, instrumenten en machines te maken. De werkelijkheid van de wetenschap is die van de kwantummechanica, de microbiologie en de genetica. Ver verwijderd van onze directe levenservaring, maar indirect via haar toepassingen van grote invloed op ons leven.
Zoals gezegd gaat het ons om meer begrip van AI. We kunnen grofweg drie begripsmatige fasen in de ontwikkeling van de techniek die geleid heeft tot de AI onderscheiden. De eerste is die van het werktuig. Typische voorbeelden zijn de hamer en de ploeg. Kenmerkend is dat het werktuig in zijn primitieve vorm gestalte krijgt door en in het gebruik ervan.
Een muizenval is een slim instrument. We zeiden al dat het hier om een analogie gaat. In de zelfde analoge zin noemen we een machine ‘intelligent’. We vatten een muizenval gewoonlijk niet onder de noemer van AI. Maar mischien is het goed om vanuit de AI nog eens naar de muizenval te kijken. Herkennen we dan aspecten van AI die eerst nog impliciet zijn?
De WRR hanteert in haar rapport voor AI de volgende definitie van de Europese High-Level Expert Group on AI:
“Systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met enige graad van autonomie – actie te ondernemen om specifieke doelen te bereiken.”
Laten we vanuit deze beschrijving van AI eens kijken naar de muizeval.
Het gedrag dat de muizeval vertoont is het vangen van een muis. Dit is het specifieke doel dat de muizeval wil bereiken. Daarvoor heeft het een zekere mate van gevoeligheid: de muizenval reageert op aanraking van het klepje door de muis wanneer deze van de pindakaas eet. (Zoals het ‘gevoelige plantje’ mimosa pudica, het kruidje-roer-me-niet, haar bladeren opvouwt wanneer het wordt aangeraakt). Dit is een soort van sensor dat de omgeving als het ware analyseert op aanraking. De intelligentie van de muizeval zit hem zowel in het feit dat deze gebruik maakt van pindakaas, iets dat de muis aantrekkelijk vindt, als in het zelfstandige fysische proces dat ervoor zorgt dat de muis gevangen wordt, wanneer de veer ontspant en het metalen boogje dichtklapt.
Op deze manier kunnen we de muizeval zien als een stukje kunstmatige intelligentie. We zien verschillende aanknopingspunten om de muizenval intelligenter te maken. Soms vangt de muizeval een meesje of een vinkje. Zo’n bedrijfsongeval moeten we natuurlijk zien te voorkomen. We kunnen een intelligente camera installeren die een muis van een vogel kan onderscheiden en het valmechanisme naar believen deblokkeert. Of dit gebeurt is een kwestie van afweging van kosten en baten. Wat kost het leven van dit vogeltje? Dit is een morele vraag. Wat leveren we persoonlijk als mens in als we dit leven opofferen voor onze oogst?
De muizeval maakt gebruik van natuurwetten die we uitdrukken in conditionele ‘als dan’ regels. Als aan bepaalde condities A voldaan wordt dan gebeurt B. Deze kennis is het resultaat van ervaring en systematisch experimenteel wetenschappelijk onderzoek.
We bekijken nu de volgende stap in de ontwikkeling van de techniek, de informatietechnologie, de techniek van alle techniek. We kunnen de werking van de muizenval beschrijven als een vorm van informatieverwerking. Het ding is een systeem met deelsystemen. Deze deelsystemen bevinden zich op elk moment in een bepaalde toestand, uit een verzameling van mogelijke toestanden. Toestanden representeren standen van zaken in de werkelijkheid. De deelsystemen communiceren hun toestand met elkaar via communicatiekanalen. De sensor, het klepje, informeert nu het stangetje dat er een muis aanwezig is. Deze informatie wordt door de beugel verwerkt en deze reageert met een actie, het dichtklappen van de beugel. Zo kunnen we ieder instrument, iedere machine, net als ons eigen lichaam, zien als een informatieverwerkend systeem met sensoren en actoren als deelsystemen. De informatie betreft de toestand van een deel van het systeem of (via een interface of sensor) van de buitenwereld. Waar de werking berust op informatieuitwisseling tussen componenten van een systeem, kan het mechanische of chemische systeem vervangen worden door een electrisch systeem. Het gaat immers voor het functioneren om de betekenis (functie) van een toestand en niet om de fysische realisatie van het teken. Meerdere toestanden of signalen kunnen in combinatie gezamenlijk de toestand van andere deelsystemen bepalen volgens een regel waarvan de algemene vorm is : Als A dan B.
In die zin is de informatietechnologie ontstaan vanuit een speciale reflectie op de techniek en daarmee de technologie van alle techniek. Iedere programmeertaal heeft een als-dan-regel. Je moet expliciet in taal kunnen zeggen wat onder welke bepaalde condities moet gebeuren, of het geval is. Het is het commando dat volgens D.C.Dennett de macht van de computer uitmaakt.
Een computer bevat talloze logische schakelingen. Waarom heet een logische schakeling ‘logisch‘ ? Ieder instrument, ook een muizeval, zit logisch in elkaar, we kunnen snappen waarom het ding zo inelkaar zit als het is. We redeneren dan: als dit gebeurt dan gebeurt er dat en dan… enzovoort. Maar een logische schakeling is logisch op een bijzondere manier: de beschrijving van de functionele relatie tussen de invoersignalen x en y en de uitvoer z ervan is een logische regel: als x en y dan z.
Fysische toestanden staan voor waarden (0 en 1) van wiskundige variabelen en de causale relaties tussen fysische toestanden staan voor wiskundige operaties op die variabelen. Een logische AND-schakeling voldoet aan de beschrijving van de logische regel: de uitvoer is 1 dan en slechts dan als de twee invoerwaarden 1 zijn en anders 0.
Met de logische schakeling kunnen we expliciet de algemene ‘als dan’ regel maken, de regel die impliciet gebruikt wordt in het maken en gebruiken van slimme instrumenten. Door deze explicitering kunnen we netwerken van schakelingen maken die ieder door ons gewenste functionele relatie tussen invoerwaarden en uitvoerwaarden realiseren. De programmeerbare machine die zo verkregen wordt is dus niet meer gebonden aan de feitelijke in de natuur voorkomende functionele als-dan-relaties. We kunnen nu zelf iedere combinatie van ‘krachten’ ontwerpen en door de machine laten uitwerken.
De programmeerbare machine rekent met tekens die voor de mens verwijzen naar zinvolle toedrachten (grootheden) in de werkelijkheid.
Het mathematiseren van het denken
Machines kunnen slechts rekenen. Dat komt omdat rekenen een vorm van denken is dat machinaal verloopt: volgens eenzinnige regels worden tekens gemanipuleerd. Dat rekenende denken gaat over wiskundige objecten, getallen, verzamelingen, in het algemeen: elementen van structuren. Daar verwijzen de tekens naar die op zich zelf ook als elementen van een structuur, een formele taal, worden opgevat.
Voordat een machine kan redeneren zoals wij, moet dit ‘redenerende denken’ dus omgezet worden in rekenen. Dat gaat via de taal, de uitdrukking van het denken als denken. De Duitse wiskundige en filosoof Gottlob Frege heeft een belangrijke stap gezet in het omdenken (formaliseren) van denken naar rekenen. Hij redeneerde aldus. Onze gedachten drukken we uit in taal. Maar onze taal is veelzinnig. Bijvoorbeeld: het woord ‘slim’ is veelzinnig, net als ‘intelligent’ of ‘gezond’. De betekenis hangt af van waar je het over hebt. Analoog taalgebruik is een voorbeeld van gebruik van veelzinnige woorden. De taal van de wiskunde is eenzinnig. Onze dagelijkse omgangstaal bevat veel woorden waarvan de betekenis vaag is. Daar kun je niet mee rekenen.
Door de veelzinnigheid van de taal maken we vaak denkfouten. Zo redeneerde Frege. Hij stelde zich als doel een kunsttaal te ontwikkelen waarin alle termen een precieze ondubbelzinnige betekenis hebben: Begriffschrift. Het zou het begin worden van de meta-mathematica en de mathematische logica. De wiskunde van de structuur van het wiskundig redeneren. Frege beschouwde het begrip als functie. Een functie is een uitdrukking met een open plaats (zeg x) die zegt hoe de functiewaarde wordt bepaald wanneer voor de open plek x een waarde wordt ingevuld. Bijvoorbeeld: 3 * x + 5.
Begrip drukken we uit in een oordeelszin: “Deze rood is rood”. Hij zag het predikaat ‘x is rood’ als een functie-uitdrukking die als waarde ‘waar’ of ‘onwaar’ heeft (hij zag deze als wiskundige objecten) afhankelijk van de waarde van het argument (het subject van de bewering.). Frege zette daarmee de subject-predikaat-verhouding in het oordeel zoals we die sinds Aristoteles kenden op zijn kop. De functie, dat is het predicaat, wordt bij Frege het substantiële. Het toepassen of gebruik van een functie is uitdrukking van begrip: “deze roos is rood” is het toepassen van de functie “x is rood” op het object ‘deze roos’.
De formele logica maakt een strikt onderscheid tussen algemene denkregels en de denkinhouden. Er vindt geen interaktie plaats tussen de roos en het begrip rood, ook al is het rood van de roos een ander rood dan dat van het bloed in het vloerkleed of het rood van de wijnvlek op de tafel in het licht van de ochtendzon. Het predikaat is rood wordt mathematisch een eenzinnig predikaat, een functie die toegepast op een argument de waarde waar of onwaar heeft.
Wittgenstein zou deze gedachte van Frege voortzetten. De betekenis van de woorden en zinnen wordt bepaald door het gebruik. Een zuiver functionele opvatting van taal. De taal speelt een rol in een taalspel, regelsysteem dat hoort bij een levensvorm (form of life). Een woord begrijpen betekent weten hoe je het gebruikt (in een taalspel). Het verwoordingskarakter van de taal (in taal verwoorden wij onze relatie tot de werkelijkheid) is in deze functionele opvatting van taal uit het zicht verdwenen. Woorden worden toegepast. Als instrumenten die klaar liggen voor gebruik. BigTech ondernemingen als OpenAI maken dankbaar gebruik van de enorme tekstbestanden die als data klaar liggen voor het voeden van hun intelligente taalgeneratiesystemen, zoals ChatGPT.
Een computer is nu een fysische realisatie van een wiskundige functie. Deze functie vastgelegd in het programma zegt hoe bij een bepaalde invoer de werking verloopt die tot een bepaalde uitvoer leidt. De toestanden die het machinale proces doorloopt staan voor de stappen in het rekenproces.
Frege spreekt nog op informele wijze over functies. Later kwam Church met de lambda-notatie voor functies, waarmee functies zelf wiskundige objecten werden, net zoals getallen. De lambda-calculus is de rekenkunde voor het rekenen met functies gerepresenteerd door hun λ-term.
λx. 3 * x + 5 is de λ-term die staat voor de functie f, gedefinieerd door f(x) = 3 * x + 5. De functie-applicatie is de operatie die staat voor het toepassen van de functie op een argument. De berekening van de waarde gaat via een herschrijfproces. De term ( λx. 3 * x + 5 ) 8 wordt herschreven door substitutie van het argument 8 voor de door lambda gebonden variabele x. Het resultaat is de term 3 * 8 + 5 die volgens standaardregels van de rekenkunde herschreven wordt tot 24 + 5 en tot 29.
Via de functietermen kan er nu mee gerekend worden door ze in de machine als interne toestanden te representeren.
In de lambda-calculus kunnen alle mogelijke berekenbare functies worden beschreven. Dat betekent dat ieder computerprogramma als λ-term geschreven kan worden. De functionele programmeertalen, zoals Haskell en Miranda zijn gebaseerd op deze calculus.
Machines verwoorden niet hoe ze zich tot de werkelijkheid verhouden. Hun gebruik zegt wel iets over onze verhouding tot de werkelijkheid. Zoals het gebruik van de muizenval wel iets zegt over hoe wij ons tot onze werkelijkheid, de natuur, het leven, verhouden.
In sommige culturen worden sommige technische constructies als een soort van levende wezens of goden gezien. Denk aan de zeven wereldwonderen. Daarin komt naar voren dat het technische weliswaar door ons bedacht en gemaakt is, maar dat we in het resultaat niettemin een toegift herkennen, iets dat het maakbare overstijgt.
Niet alleen in de piramide huist de ziel. Ook in zoiets schijnbaar eenvoudigs als een muizenval.
Wat (de aantrekkingskracht van) het stukje kaas is voor de werking van de muizenval, dat is (de aantrekkingskracht van) de taal voor de kunstmatige intelligentie.
Van wie is de technologie ?
De technologie is de motor van het kapitalisme. Eigendomsrecht, patentrecht, merkenrecht en de juridische constructie van de kapitaalvennootschap als rechtspersoon vormen de juridische ecologie waarin Bigtech (Apple, Amazon, Microsoft) alsmaar groter en rijker worden. De materiele grondstoffen: de hardware, de grond, de energiebronnen, hebben deze ondernemingen zich toegeëigend. Overheden hebben de Bigtech nodig voor het exploiteren van de grondstoffen, voor de administratie, voor het innen van belastingen.
De rechtsgeleerde Reijer Passchier ziet in het ontstaan van de kapitaalvennootschap zo rond 1860 in West-Europa (in Nederland de bv en nv., in Engeland de joint stock-company) de cruciale factor die de macht van de grote internationale ondernemingen mogelijk maakten. Wezenlijk kenmerk van deze juridische constructie, deze nieuwe rechtspersoon, is het loskoppelen van de onderneming als een zelfstandig object van de ondernemers. Die ontkoppeling betreft zowel de goederen als de verantwoordelijkheid voor de aktiviteiten van de onderneming. Eigenaren werden aandeelhouders en deze zijn niet meer aansprakelijk voor het doen en laten van de onderneming. Passchier laat zien hoe de accumulatie van kapitaal door de vrije handel in aandelen en obligaties een stuk makkelijker werd gemaakt.
Ik zie pleidooien om sociale robots als persoon te zien en (burger)rechten te verlenen als een ontwikkeling die dezelfde oorzaak heeft: het objectiveren van rechtspersonen als juridische-technische constructies. Het grote probleem is de verantwoordelijkheid. De autonome intelligente techniek is aantrekkelijk in haar bruikbaarheid, zolang ze doet wat wij willen. Het gebruiksonvriendelijke van AI is dat ze zich niet kan verantwoorden voor de beslissingen die ze neemt en voor de wijze waarop ze de werkelijkheid organiseert en aan ons presenteert. En dat is een eigenschap die ze ontleent aan de mathematische denkhouding waaruit deze technologie voortkomt. Het mathematische denken kan zich niet verantwoorden omdat ze haar denkconstructies radikaal tegenover zich als denken verstand stelt. Zo is het gesteld. Maar geen enkele constructie is inherent noodzakelijk.
Willen we ons bevrijden uit de wurggreep van Big Tech dan zullen we ons moeten bevrijden van de overheersing van het mathematische denken, het nuttigheidsdenken volgens welke alles nuttig en functioneel moet zijn. We zullen moeten begrijpen wat technologie is om niet in haar val te lopen.
Bronnen
AI (2021). Opgave AI. De nieuwe systeemtechnologie. Rapport 105 van de Wetenschappelijke Raad voor het Regeringsbeleid. Op 11 november 2021 door de WRR aangeboden aan de regering. Het rapport kan gratis worden gedownload van wrr.nl.
Historiek, De uitvinding van de muizenval. Laatste update: 5 april 2022.
Reijer Passchier (2024). De vloek van Big Tech. De juridisch-technologische wortels van constitutioneel verval en digitaal feodalisme. Boom (Den Haag).
