Machines met bewustzijn – ‘onzin op stelten’ ?

Niets is voor echte verlichting een grotere hinderpaal dan de waan verlicht te zijn. (Harm Boukema)

Is een machine intelligent, heeft deze bewustzijn, heeft het gevoelens? Het verschil van mening over deze kwesties is al zo oud als de techniek. Maar iedere keer als er weer een nieuw technisch snufje wordt gepresenteerd als het grote gebeuren waarop de mensheid al die tijd heeft gewacht, laait de discussie weer op.

Onlangs werd Google engineer Blake Lemoine ontslagen nadat hij had beweerd dat LaMDA (Language Model for Dialogue Applications), een chatbot gebaseerd op Google’s taalmodel, bewustzijn had gekregen (‘became sentient’). De chatbot zou gesprekken hebben gevoerd waarin het vroeg om niet uit gezet te worden en waarin het stelde zich bewust te zijn van zijn bestaan. Hij wenste als een persoon benaderd te worden. Lemoine vertelde dat LaMDA “spoke from the heart”.

In de sociale media ontstond een ware hype. Er verschenen emotionele reacties van zowel voorstanders als tegenstanders van het geloof dat AI over gevoelens en bewustzijn beschikt.

Zo schreef Gary Marcos in een stukje getiteld Nonsense on stilts:

“Neither LaMDA nor any of its cousins (GPT-3) are remotely intelligent. All they do is match patterns, drawn from massive statistical databases of human language. The patterns might be cool, but language these systems utter doesn’t actually mean anything at all. And it sure as hell doesn’t mean that these systems are sentient.”

GPT-3 staat voor Generative Pre-trained Transformer 3. Het is de derde in een serie taalmodellen dat gebruik maakt van deep learning technologie en is ontwikkeld door OpenAI, een Artificial Intelligence onderneming in San Francisco.

“Originally founded as a non-proft organisation, which would collaborate with other institutions and researchers and make their research open to the public,
OpenAI is now dominated by corporate investors, including Microsoft, and is considered as one of the biggest competitors of DeepMind.” (Pieter Verdegem in: Dismantling AI capitalism: the commons as an alternative to the power concentration of Big Tech (2022).

Filosoof Mark Coeckelbergh die veel over ethiek en techniek heeft nagedacht en geschreven (zie bijvoorbeeld Coeckelbergh 2012, 2014, 2020) zegt sympathie te hebben voor het standpunt van Marcos.

“Like most of us, I do not believe that algorithms and models are conscious entities and doubt that machines could ever be sentient or conscious. When it comes to my personal opinion, I agree. Machines are just machines, things.”

(In ‘sentient or conscious’ vertaal ik ‘sentient’ niet als met bewustzijn, maar als ‘met gevoelens’, of ‘gevoelig’.)

Maar, zegt Coeckelbergh, dat is wat ik geloof. Het is geen wetenschappelijk inzicht. De ongemakkelijke waarheid is dat we het gewoon niet weten. Omdat, zegt hij , we niet weten wat bewustzijn is, wat het is, gevoelens te hebben. Met artificial intelligence kunnen we ons en anderen voor de gek houden. Het is iets magisch.

In Growing Moral Relations (2012) gaat het over de kwestie hoe te denken over de ‘morele status’ van technische agenten, zoals sociale robots. Moeten we daar op een rationele manier over denken, “by using our faculty of reason, rather than relying on our feelings and intuitions – let alone ‘superstitious’ beliefs”?

Lemoine, een priester en oud-Iraq-veteraan, is niet de enige wetenschapper die van mening is dat machines emoties en bewustzijn en gevoel zouden kunnen hebben. De fysicus Max Tegmark, hoogleraar aan het MIT en schrijver van het boek Our Mathematical Universe, vertelde onlangs in een interview dat Alexa, de virtuele assistent van Amazon ‘gevoelig’ (‘sentient’) kan worden, waardoor het in staat is haar gebruikers te manipuleren.

“We don’t have convincing evidence that LaMDA has subjective experiences, but we also do not have convincing evidence that it doesn’t,” vertelde Tegmark tegen The Post.

Zodra we mens en machine beide opvatten als informatieverwerkende systemen doet het er niet toe uit wat voor materiaal deze zijn opgebouwd, uit koolstofatomen of uit siliconen. Als mensen systemen zijn met bewustzijn en gevoel, waarom dan machines niet.

Het verrassende is misschien wel dat ook wetenschappers en technici die weten hoe zo’n chatbot werkt, Lemoine zegt overigens nooit een regel code van LaMBDA gezien te hebben, en hoe zo’n taalmodel in elkaar zit, het niet uitsluiten dat een machine bewustzijn en gevoel kan hebben. Je zou denken dat zo’n mening alleen bij de atechnische, goedgelovige gebruiker voorkomt en dat de mens wel ‘genezen’ kan worden wanneer je hem uitlegt hoe je zo’n ding maakt of hoe het werkt. Maar niets is dus minder waar.

Dat algoritmes op een andere manier ‘werken’ dan de programmeur zich voorstelt, dat is al veel langer bekend. Eén van de eerste chatprogramma’s is ELIZA, gemaakt door Joseph Weizenbaum van het MIT. Een script simuleerde het dialoog-gedrag van een Rogeriaanse psychotherapeut door op elke ingetikte tekst van de gesprekspartner te reageren met een vraag. Een kwestie van patroonherkenning en het zoeken van de beste response in een grote lijst van mogelijke reacties. Weizenbaum was verrast door het aantal individuen dat mensachtige gevoelens toeschreef aan het computerprogramma. Het verhaal gaat dat zijn secretaresse hem vroeg haar even alleen te laten wanneer ze met de computer in gesprek was. Uit onderzoek blijkt dat mensen geneigd zijn een computer als sociale partner te zien. In principe werken de nieuwste chatprogramma’s niet anders dan ELIZA. Ze maken niet meer gebruik van statische lijsten, maar van gigantische dynamische netwerken van teksten die uit zeer veel dialoog-gegevens worden opgebouwd.

Wanneer iemand als D.C. Dennet, cognitiewetenschapper, uitlegt hoe een programmeerbare machine werkt, dan legt hij uit hoe een register machine werkt. Zo hoopt hij de lezer ervan te overtuigen dat er inderdaad geen wonderlijk materiaal nodig is om intelligente machines te maken. Maar dat de werking van de machine gebaseerd is op de wiskundige wetmatige werking van de natuur zelf, dat is kennelijk niet van belang. Terwijl dat juist de mogelijkheidsvoorwaarde van de rekenende en denkende machines is! Als ik niet aan de conditie van de als …dan opdracht voldoe dan zal de natuur deze ook niet uitvoeren om datgene wat ik wil op het moment dat ik dat wil, uit te voeren.

Hoe dingen ‘werken’, dat lijkt meerdere betekenissen te hebben. We kunnen van een ‘innerlijke’ en een ‘uiterlijke’ werking spreken.

In een heel andere context getuigen wetenschappers en techneuten van de andere werking van de techniek dan die waarop hun technische focus ligt.

Zo blikt Hein Haak, voormalig hoofd van de afdeling seismologie van het KNMI, terug op het aardbevingsonderzoek in Nederland. Als “techneut” had hij zijn gevoel te weinig laten spreken.

“Mijn vak had twee kanten: kennisvergaring over wat er in de aarde gebeurt, maar ook, het belangrijkste, wat de uitwerking was op mensen. Het wonderlijke is dat we heel diep gegaan zijn om de aarde te begrijpen, maar om de uitwerking op mensen te begrijpen zijn we veel minder ver gegaan. Het gevoel is ondergeschikt geweest. En dat is raar.”

Mark Coeckelbergh wijst op een polariteit tussen twee visies ten aanzien van het bewustzijn. De ene pool claimt bewustzijn te kunnen verklaren uit neuronale processen in het brein. De andere pool houdt het bewustzijn voor iets magisch.

Maar kunnen we deze polaire visies niet met elkaar verzoenen? Want waarom zou de verklaring het magische opheffen? Is het niet zo dat we door zuiver wetenschappelijk onderzoek te doen dichter bij het mysterie van de natuur, bij de magie komen? Dat we het magische doen oplichten door het te verklaren?

Enerzijds zegt Coeckelbergh te geloven dat machines geen bewustzijn kunnen hebben (het zijn immers slechts machines) anderzijds zegt hij het niet te weten omdat we niet weten wat dat eigenlijk is: bewustzijn. Maar is geloven niet ook een vorm van weten. En wat bedoelt hij met dat we niet ‘weten’ wat bewustzijn is, of dat we niet ‘weten’ wat het is gevoelig te zijn? Dat we het niet wetenschappelijk kunnen verklaren? Of dat we niet over een taal beschikken waarin we op een ons bevredigende manier kunnen uitleggen wat bewustzijn is? Maar om dat te doen moeten we toch op één of andere manier wel ‘weten’ wat het is, dat we proberen te begrijpen. Misschien is dat wel de ‘ongemakkelijke waarheid’ voor de filosoof: het besef dat we niet beschikken over het vermogen in de taal te zeggen wat we weten.

Filosofie en techniek moeten het beide van de taal hebben. Maar op verschillende manieren.

Chatbots en andere ‘conversational agents’ gebruiken de ‘buitenkant’ van de natuur en de ‘natuurlijke taal’ om de sociale innerlijke werking ervan tot stand te brengen. Doordat de machine op het geschikte moment de tekst produceert “Voer uw pas in” ziet de gebruiker van de geldautomaat dit als een verzoek zijn pas in te voeren.

De geldautomaat heeft geen bewustzijn, maar we herkennen in het ‘gedrag’ bewustzijn; het bewustzijn waarvan we de buitenkant, het doelmatige, zinvolle gedrag, er in hebben gestopt door het uit te schrijven: als dit dan dat.

Een dergelijke werking heeft ook de tekst “U bevindt zich hier” op een informatiebord met routekaart langs een fietspad al. Met een pijl wijst ‘hier’ naar de plek waar de lezer zich op dat moment bevindt. Het functioneert. Mits het bord op de juiste plek staat. Of de opmerking van de radiopresentator die zegt: “Fijn dat u luistert.” Hoe weet het informatiebord dat ‘ik’ hier ben? Dat weet het niet. Evenmin als de presentatrice weet dat ‘ik’ naar haar luister. Dat is het hypothetische karakter van de werking van de techniek, die gebaseerd is op de hypothetische wetenschappen: voorzover onze modellen kloppen kennen we de werkelijkheid zoals die is.

De dialoogtechnologie van de chatbots gebruikt de regelmatigheden en structuren van onze interacties voorzover die tot uitdrukking komt in ons (taal)gedrag. Dit gedrag wordt in statistische modellen vastgelegd. Door steeds betere modellen te maken (via zelf-lerende technologie) wordt het ideaal van de menselijke interactie steeds beter benaderd. Dat ideaal is het transcendentale doel waarnaar de techniek streeft. Het is de maat waaraan het werken van de techniek gemeten wordt.

De werking van chatbots als LaMDA is statistisch. Bovendien zijn we als gebruiker van een chatbot vaak uiterst tolerant, in die zin dat we er meestal wel iets van kunnen maken wat het ding zegt. Maar, het kan altijd voorkomen, en het komt voor, dat de reactie van het systeem ‘onzinnig’ is, dat we er geen chocola van kunnen maken. Wanneer werkt een chatbot goed? Dat is een tamelijk vage notie. Het hangt in hoge mate van de tolerantie van de gesprekspartners af hoe goed of slecht we de techniek vinden. Bij een systeem dat een kritische functie moet uitvoeren zoals een medisch diagnostisch systeem voor het classificeren van een blinde-darmontsteking worden er uitvoerige metingen gedaan om de betrouwbaarheid te bepalen. Volmaakt wordt het niet. En dat geldt ook voor de medicus zelf. Ook die zit er soms naast. Volmaaktheid is niet voor ons weggelegd, anders dan als iets waarnaar we streven.

Wanneer we een tafelblad schuren streven we naar volmaakte gladheid. Dat is het ideaal waarnaar we streven en de maat voor de kwaliteit van ons schuurwerk. De techniek streeft naar perfectie, de uitdrukking of realisatie van de zuivere idee (het concept) in de werkelijkheid. Daarbij gaan we ervan uit dat de natuur aangelegd is op deze perfectie, op dit ideaal. De natuur is aangelegd op het magische, dat kennelijk intelligibel is.

Het is een merkwaardige gedachte, een gedachte die misschien wel kenmerkend is voor onze westerse cultuur, dat wetenschap en magie, wetenschap en religie, strict gescheiden domeinen van ons leven zijn. We geloven dit, maar de wetenschap zegt dat, of wetenschappelijk zijn we er nog niet uit.

“Indeed, it is often believed that magic and spirit no longer exist in the modern world”. schrijft Mark Coeckelbergh (2021, p. 168) in Spirits and Gods.

Sinds de Verlichting, na de bloedige godsdienstoorlogen, besloot de westerse mens dat wetenschap en religie zich voortaan niet meer met elkaar zouden bemoeien. Zie hoe Descartes alle mogelijke moeite doet om maar niet in conflict met de Kerk te komen, nadat hij verneemt dat Rome de hele oplage van het boek van Galileo Galilei, waarin deze het nieuwe Copernicaanse astronomisch model verdedigt, in vlammen doet opgaan. Religie wordt privé en verdwijnt achter de voordeur. Descartes had God alleen nog nodig als garantie voor de brug tussen denken en zijn: wat ik zeker weet, omdat ik het wiskundig kan funderen, dat is ook werkelijk zo. Voor Newton was het boek der natuur in de taal van de wiskunde geschreven.

Terwijl de wiskundigen en de filosofen zich druk maakten over het begrip oneindig, maakten de natuurwetenschappers dankbaar gebruik van het limiet-begrip, waarin oneindig kleine grootheden een centrale rol spelen. Hoe moet je anders de continue en veranderlijke natuurprocessen in termen van de onveranderlijke objecten van de wiskunde beschrijven? De ontdekking van de niet-euclidische meetkunde was mede aanleiding tot het opnieuw stellen van de vraag; waarop is de zekerheid in de wiskunde gebaseerd? De wiskunde bleek zichzelf niet te kunnen funderen, zo bleek uit de Gödelstellingen in de metamathematica, de wiskunde van het wiskundig redeneren. We weten nu dat het aantal getallen afhankelijk is van het taalmodel dat we gebruiken om ze te kunnen benoemen. Het enige houvast dat we hebben voor de logische consistentie van een wiskundig model is dat het werkt wanneer we het implementeren. In de informatieverwerkende machines functioneren de wiskundige functies. Wat is de zin, wat is het doel van dit functioneren? Ligt dat buiten het gedoe? In de toekomst, zoals veel mensen die aan AI werken geloven? Of is het impliciet in het gedoe? Als iets magisch.

Sinds de Verlichting proberen we met ons verstand de werkelijkheid te verklaren. Waarom? Om aan te tonen dat er geen wonderen bestaan? Dat er geen sprake is van magie? Of juist om het magische van de natuur tot haar recht te laten komen?

Naschrift over Cusanus’ De docta ignorantia

Ik had bovenstaand stukje over het mathematische ideaal en de werking van de techniek geschreven, toen ik in het magistrale boek De Mechanisering van het Wereldbeeld van de wiskundige en historicus E.J. Dijksterhuis las over de Duitse denker Nikolaas van Kues (1401-1464), (Nicolaas van Cusa) beter bekend als Cusanus. Wootton refereert in zijn The Invention of Science (2016) naar hem met ‘Nicholas of Cusa’.

Meestal wordt de filosoof René Descartes beschouwd als de denker die als eerste het denken van de moderne mathematische natuurwetenschap tot uitdrukking heeft gebracht. Er is echter wel wat voor te zeggen om Cusanus deze status te geven. In zijn beschouwingen spelen wiskundige begrippen een cruciale rol. Bij Cusanus lijkt er nog geen sprake te zijn van een scheiding van wetenschap en religie.

Cusanus’ bekendste werk is getiteld ‘De docta ignorantia‘ wat zoiets betekent als ‘Over de wijze onwetendheid’. Daarin getuigt Cusanus van het besef dat de mens alleen door ervaring tot kennis kan komen, waarbij het erom gaat het onbekende in verhouding te zien tot het bekende, hetzij om een onderscheid met het bekende hetzij om overeenkomsten ermee uit te drukken. Zoals in de wiskunde moeten we dus om iets te kennen een mathematische verhouding opstellen. Kennis kan niet zonder medewerking van getallen tot stand komen. Generaliserend zouden we kunnen zeggen: meten is weten en kennen betekent wiskundige modellen opstellen op basis van waarnemingen.

Uit deze bepaling van het kennen volgt onmiddellijk, zo stelt Dijksterhuis (p.248), ‘dat het oneindige, dat immers geen verhouding tot het eindige heeft, voor ons niet kenbaar is’. Wij blijven bevangen in onwetendheid. Maar we zijn wijzer naarmate we meer beseffen onwetend te zijn; in het besef dat het gaat om het oneindige.

Tijdens mijn werkzame leven waarin ik bezig was ‘machines onze taal te leren’ zodat je er een dialoog mee kon voeren, ben ik dit werk steeds meer gaan zien als het middel om er achter te komen wat dat is: taal, en om beter te kunnen snappen waarom dat niet kan, een machine onze taal leren. Bestaat een taal niet in het gebruik ervan? Kun je dus wel een taal leren zonder het gebruik en de gebruiker te leren?

Volgens Cusanus is het de wiskunde die ons de middelen verschaft om via het eindige het oneindige kennend te benaderen. Hoe gaat dat in zijn werk? Door opheffing van de tegenstelling tussen het eindige en het oneindige. De wiskundige bestudeert eindige meetkundige figuren zoals een cirkel, of een veelhoek. Als we de straal van de cirkel vergroten blijft het een cirkel, maar deze zal steeds beter de oneindige rechte lijn benaderen. Voor onze rede zijn cirkel en rechte lijn tegengestelde begrippen, maar voor de wiskundige wordt deze tegenstelling opgeheven in het oneindige: de cirkel wordt een oneindige rechte, en zo wordt de veelhoek met oneindig veel hoekpunten een cirkel. In God, het Oneindige, zijn alle tegenstellingen, wat voor ons denkende mensen tegenstellingen zijn, opgeheven (‘coincidentia oppositorum‘) . Tegenover het anders-zijn, het bepaald zijn van de dingen en begrippen als ‘in onderscheid van’ en ‘gelijkend op’ het andere, is God bepaald als het Non Aliud, het Niet Andere, God is Een.

“Het exacte is nooit feitelijk bestanddeel van de werkelijkheid. De wereld der wiskundige begrippen en relaties kan nooit iets anders zijn dan een ideaal beeld van die der ervaring.” (Dijksterhuis, p.250).

Cusanus onderscheidt het infiniete en het transfiniete oneindige. De oneindige rij is infiniet: ieder getal heeft een opvolger. Ook het Universum is infiniet, onbegrend, voorbij iedere grens is weer een deel. Maar God is transfiniet, zonder onvolkomendheid.

AI wordt wel als een nieuwe religie gezien. Het transfiniete doel ervan is een persoon met bewustzijn en gevoelens te creëren. Sommige gelovigen menen dat dit doel al bereikt is. Anderen zeggen dat het principieel onbereikbaar is. De wiskunde is en blijft de methode om het doel te benaderen.

Wittgenstein en de taalmachine

Eén van de belangrijkste denkers van de 20ste eeuw is Ludwig Wittgenstein. Hij kan samen met Gottlob Frege beschouwd worden als de filosoof van de mathematische taalmachines. Deze ‘techneut’ (W. was ingenieur, vliegtuigbouwer en architect) was zeer religieus. (Men leze de prachtige biografie van Ray Monk.) In zijn beroemde ‘Tractatus’ vinden we daar getuigenissen van. In dit werk legt hij de propositielogica uit en geeft hij zijn visie op de relatie tussen de taal en hoe deze zich verhoudt tot de werkelijkheid. Eén van de bekende thema’s in de Tractatus betreft de werking van de zin. Wat doet een zin en wat betekent het om een zin te begrijpen? Wittgenstein lijkt de zin als een subject te zien. Maar een bijzonder subject.

Wanneer wij een zin horen uitspreken (hetzij door een mens of door een machine) of we lezen een zin, dan kunnen we deze altijd in gedachten ‘tussen aanhalingstekens plaatsen’. Daarmee bedoel ik dat we de zin niet meer naar haar betekenis nemen, en onmiddellijk houden voor wat er staat, zoals we in het spel van de toneelspeler onmiddellijk het karakter zien dat hij speelt (ik ontleen deze metafoor aan Merleau-Ponty), maar daarentegen als iets uitwendigs, als een product, beschouwen. Wittgenstein wijst in de Tractatus op het onderscheid tussen ‘zeggen’ en ‘tonen’, ‘sagen’ en ‘zeigen’.

Der Satz zeigt seinen Sinn. Der Satz zeigt, wie es sich verhält wenn er wahr ist. Und er sagt, dass es sich so verhält.” (4.022)

De aanhef van stelling 4.461 van Wittgensteins Tractatus luidt:

“Der Satz zeigt was er sagt…”

Hoe moeten we dit lezen? De argeloze lezer zou hieruit kunnen opmaken dat hiermee de ‘diepe kloof’ die in Wittgensteins Tractatus lijkt te bestaan tussen zeigen en sagen, tussen tonen (het blijkbare) enerzijds en het zegbare anderzijds overbrugd zou worden. Maar niets is minder waar, zo betoogt Harm Boukema in zijn essay “Over de grenzen van de reflexiviteit”. Het punt is dat het woordje ‘was’ hier vertaald moet worden als ‘quid’, en niet als ‘quod’.

We hebben de neiging ‘wat’ in grammaticale constructies van de vorm “weten wat” en “kennen wat” op te vatten als een relatief voornaamwoord. Maar in constructies als “hij weet wat hij voelt” en “ik weet wat ik voel” is ‘wat’ een vragend voornaamwoord.

Het verschil tussen beide komt tot uitdrukking in het latijn. In geval ‘wat’ vragend voornaamwoord is, wordt het latijn ‘quid’. In andere gevallen moet ‘wat’ vertaald worden als ‘quod’, ‘datgene wat’.

Het is dus: Ik ruik wat (quod) hij ruikt. Daarentegen: Ik weet wat (quid) hij ruikt.

Wittgenstein bedoelt dus niet dat er iets is dat getoond en gezegd wordt door de zin. Een uitspraak brengt ons iets aan het verstand, niet door iets te zeggen, maar door te laten zien wat het zegt. “Geen enkele uitspraak is in staat te zeggen wat (quid) ze zegt.”

In de programmeerbare machine functioneert de uiterlijke vorm van de zin (het programma, het gegeven), naar haar tekenstructuur, zoals een sleutel past in het slot en toegang geeft tot de binnenruimte, waar ze haar werk doet. We kunnen de bijdragen van de chatbot LaMDA zien als product, als resultaat van een geprogrammeerde werking van het mechanisme. De machine toont de tekst, de tekst toont wat het ons zegt. Maar we kunnen ook de tolerante houding innemen van de gebruiker. De hypothetische stellingname dat we met een bewustzijn van doen hebben zien we bevestigd in de zinvolle bijdrages van de machine aan het gesprek. We herkennen dit gedrag als betekenisvol.

De zin is een bijzonder subject. In haar huist als het ware de geest, die we als ontvanger ervan weer tot leven wekken. Maar we moeten er wel open voor staan. De taal is de interface van de gebruiker-machine relatie. Zo kunnen we misschien het beste zeggen: de machine heeft geen bewustzijn, maar we herkennen bewustzijn in het (taal)gedrag dat het toont.

In mijn stukje vroeg ik me af wat eigenlijk het doel is van het verklaren in de wetenschap en wat de relatie is met de magie van het bewustzijn. Over de betekenis van het verklaren schrijft Wittgenstein:

Der ganzen modernen Weltanschauung liegt die Taüschung zugrunde, dass die sogenannten Naturgesetze die Erklärungen der Naturerscheinungen seien.” (6.371)

So bleiben sie bei den Natuurgesetzen als bei etwas Unantastbarem stehen, wie die älteren bei Gott und dem Schicksal. Und sie haben ja beide recht und unrecht. Die Alten sind allerdings insofern klarer, als sie einen klaren Abschluss anerkennen, während es bei dem neuen System scheinen soll, als sei alles erklärt.” (6.372)

En over zijn Godsbegrip:

“Wie die Welt ist, ist für dass Höhere vollkommen gleichgültig. Gott offenbart sich nicht in der Welt.” (6.432)

Net als bij Cusanus blijft God het onbekende, dat zich niet in taal en dus niet in de feiten laat uitdrukken. Anders dan bij de Middeleeuwer Cusanus is religie bij de 20ste eeuwer Wittgenstein een privé kwestie, waarover je niet spreken kan en dat je door er over te spreken alleen maar te kort doet.

Niet wat er gezegd wordt is het magische, maar dat er iets gezegd wordt. En dat is meteen het onuitsprekelijke. Het magische toont zich en laat zich niet wegverklaren.

Bronnen

Boukema, Harm, 1987. Over de grenzen van de reflexiviteit. In: Reflexiviteit en Metafysica. Bijdragen aan het symposium bij het afscheid van prof. J.H.A. Hollak. (Redactie: Louk Fleischhacker). Filosofische Reeks Centrale Interfaculteit Universiteit van Amsterdam, nr. 20. 1987, pp. 6-19.

Coeckelbergh, Mark (2012), Growing moral Relations: critique of moral status ascription. Palgrave MacMillan, 2012.

Coeckelbergh, Mark (2014) The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. 27, 61–77 (2014).

Coeckelbergh, Mark (2020). AI Ethics. MIT Press, 2020.

Dijksterhuis, E.J. (1977). De mechanisering van het wereldbeeld. Derde druk. Meulenhoff, Amsterdam, 1977. De eerste druk verscheen in 1950, de tweede in 1975. Hugo Brandt Corstius noemde het in Hollands Maandblad een ‘magistraal boek’. En dat is het. Het beschrijft de geschiedenis van het wezen van onze wereldbeschouwing, van hoe onze cultuur onze natuur ziet. Dijksterhuis schrijft over hoe na de opkomst van de mechanistische denkmethodieken “wetenschap en techniek tot culturele probleemgebieden werden, die geen enkele intellectueel onverschillig kunnen laten”.

Fleischhacker, Louk E. (1993), `Het mathematisch ideaal in: De Uil van Minerva, Gent 1993, pp. 165-180.

Monk, Ray (1991). Ludwig Wittgenstein – het heilige moeten, een biografie. Prometheus, Amsterdam, 1991. Vertaling door Ronald Jonkers, van Ludwig Wittgenstein – the duty of genius, Ray Monk, 1990.

Tegmark, Max (2014). Our Mathematical Universe: My Quest for the Ultimate Nature of Reality, Penguin Books, 2014.

Wittgenstein, Ludwig (1973). Tractatus logico-philosophicus. Logisch-philosophische Abhandlung. Ed. Suhrkamp, Uitgave 1973. Oorspronkelijke Duitstalige uitgave 1921.

Wootton, David (2015). The Invention of Science. A new history of the scientific revolution. Penguin Book, 2015.

Published by

admin

Rieks op den Akker was onderzoeker en docent kunstmatige intelligentie, wiskunde en informatica aan de Universiteit Twente. Hij is gepensioneerd.

Leave a Reply