“But it must be recognized that the notion ‘probability of a sentence’ is an entirely useless one, under any known interpretation of this term” (Noam Chomsky, 1969)
Een stukje schrijven is geen kunst. Een goed stukje schrijven wel. Maar wat maakt een stukje een goed stukje? Wat onderscheidt een goed verhaal van een matig of slecht verhaal? Hebben we nog mensen nodig om verhalen te schrijven?
In Roald Dahl’s The Great Automatic Grammatizator (1953) raakt Adolph Knipe, ‘een lange, magere, slobberig uitziende jongeman’, medewerker bij Mr. John Bohlens electronisch ingenieursbureau, gefascineerd door het idee van een verhalenmachine. Aanvankelijk vond hij het een ‘volkomen belachelijk’ idee. ‘t Is een kostelijk idee, maar zo onpraktisch, dat het geen zin heeft erover te gaan nadenken.’ Maar vanaf het moment dat Knipe op het idee kwam kon hij aan niets anders meer denken. Vooral omdat het de belofte inhield dat hij zich met zo’n verhalenmachine op de meest duivelse manier kon wreken op zijn grootste vijanden. Knipe ergerde zich namelijk al jaren aan het feit dat er zoveel rotzooi gepubliceerd werd, terwijl zijn eigen verhalen, die volgens hem veel beter waren, telkens door de tijdschriftuitgevers geweigerd werden.
Het kost Knipe enige overredingskracht om Bohlens ervan te overtuigen dat zijn machine ‘binnen dertig seconden een verhaal kan produceren van wel vijfduizend woorden, keurig getypt en klaar voor verzending.’
‘Tegenwoordig’, Mr. Bohlen, heeft het met de hand gemaakte artikel geen toekomst meer. Het kan onmogelijk met het massaprodukt concurreren, speciaal in dit land – dat weet u wel. Tapijten…stoelen…schoenen…stenen…aardewerk…alles wat u maar wilt…dat wordt tegenwoordig allemaal machinaal gemaakt. De kwaliteit mag dan minderwaardig zijn, maar dat doet er niet toe. Het gaat om de kosten van het produkt. En verhalen…ach…dat zijn ook produkten, net als tapijten en stoelen, en het kan niemand iets schelen hoe je ze maakt, zolang je ze maar kunt leveren. We zullen ze en gros gaan verkopen, Mr. Bohlen!’ ‘We zullen elke schrijver in het land doodconcurreren en de markt beheersen!’
Knipe zet zijn plan door en na een paar maanden hard werken is er een werkende versie. De verhalenmachine beschikt over een uitgebreid controlesysteem met talloze knoppen waarmee de ‘schrijver’ kan instellen wat voor soort roman deze wenst te produceren: een historische, een satirische, een filosofische, een romantische. Maar ook voor welk tijdschrift. Met voetpedalen kan de hoeveelheid spanning, verrassing, humor en hartstocht worden bestuurd, nog tijdens het produktieproces. Het maken van een verhaal is net alsof je een orgel registreert.
De machine wordt een groot succes. Knipe en Bohlen richten een agentschap op dat uiteindelijk 70 % van de meest succesvolle auteurs in het land uit de markt koopt. Die geven toestemming hun naam onder de verhalen te zetten. Maar ook Bohlen zelf leent zijn naam aan verhalen die hij met de machine produceert.
De meest bekende verhalenmachine heet tegenwoordig ChatGPT. Stukjesschrijvers zijn bang hun baan te verliezen als hun werk wordt overgenomen door AI. In een recent artikel in The New Yorker getiteld Why A.I. Isn’t Going to Make Art verwijst Ted Chiang naar Roald Dahls verhalenmachine.
“Is there anything about art that makes us think it can’t be created by pushing a button, as in Dahl’s imagination? Right now, the fiction generated by large language models like ChatGPT is terrible, but one can imagine that such programs might improve in the future. How good could they get? Could they get better than humans at writing fiction—or making paintings or movies—in the same way that calculators are better at addition and subtraction?”
Chiang is van mening dat een kunstenaar bij het maken van een kunstwerk zoveel beslissingen neemt, veelal onbewust, dat een programma als ChatGPT dit nooit kan evenaren. Een auteur zou het programma zoveel prompts moeten geven dat het net zoveel werk voor hem wordt om een verhaal met ChatGPT te genereren als wanneer hij eigenhandig een verhaal schrijft. Terwijl het nut van zo’n programma nou juist erin zit dat het gebruik ervan tijdwinst oplevert.
“I don’t think companies like OpenAI want to create versions of ChatGPT that require just as much effort from users as writing a novel from scratch. The selling point of generative A.I. is that these programs generate vastly more than you put into them, and that is precisely what prevents them from being effective tools for artists.”
Chiangs argument dat het maken van kunst een complex gebeuren is waarin een enorm groot aantal beslissingen genomen wordt, lijkt geinspireerd door Dahls beschrijving van Knipe’s registermachine, met zijn vele knoppen, schuiven en pedalen. Complexiteit wordt vaak als argument aangevoerd om te beargumenteren dat een machine (AI) iets (nog) niet zou kunnen wat de mens wel kan. Taken waar AI moeite mee heeft zouden te complex zijn. Het probleem zit hem echter niet in de complexiteit. Het is geen kwestie van kwantiteit, maar van kwaliteit. Dat blijkt ook wel uit het feit dat we soms heel eenvoudige dingen kunstzinnig vinden. Het is juist de eenvoud ervan die ons aanspreekt. Het is niet de hoeveelheid werk die de kwaliteit van het produkt bepaalt. De kwaliteit van een kustwerk is resultaat van een combinatie van inspiratie en inspanning. Bovendien hangt het heel erg van de ontvanger, de toeschouwer of lezer, af of deze iets als kunst beschouwt. Of iets mooi is, is vaak een toegift, iets dat je niet af kunt dwingen door alleen maar hard te werken.
Het schrijven van een tekst, een essay of roman, is een communicatief gebeuren, waarin de maker een bedoeling uitdrukt. Het is heel eenvoudig om ChatGPT de zin “Leuk je te zien” te laten genereren. Maar ChatGPT vindt het helemaal niet leuk om je te zien. Een machine is nu eenmaal niet iets wat iets leuk vindt.
Sommige mensen zeggen dat de meeste teksten die mensen produceren ook helemaal niet origineel zijn. Net zo min als de teksten geproduceerd door de statistische generatieve taalmodellen van ChatGPT. Taalgebruik is in die zin helemaal niet creatief. Maar dat betekent niet dat wat ChatGPT doet vergelijkbaar is met wat mensen met taal doen. ChatGPT ‘gebruikt’ taal op een wezenlijk andere manier dan dat mensen taal gebruiken. Wanneer iemand tegen je zegt “het spijt me” of “houd de dief” dan is het helemaal niet relevant dat dit niet een erg originele zin is. Het gaat erom of de spreker zich met het uitspreken van “het spijt me” verontschuldigt, verwijzend naar iets dat zich voordoet in relatie tot degene die hij tegenover zich heeft. De essentie van taal is dat het een uitdrukkingsvorm is voor een intentie. Het rijtje woorden is slechts ‘buitenkant’. Als we deze niet meer in relatie zien tot een intentie, een ‘binnenkant‘, dan hebben we afgezien van het wezenlijke van taal.
Chiang stelt dan ook ten slotte: “We are all products of what has come before us, but it’s by living our lives in interaction with others that we bring meaning into the world. That is something that an auto-complete algorithm can never do, and don’t let anyone tell you otherwise.”
De technicus kijkt naar de buitenkant van de taal. Dat er iets mee gezegd wordt en kan worden, dat neemt hij voor lief.
Een algoritme neemt geen beslissingen het kan slechts kiezen uit een aantal voorafgegeven alternatieven. Wie meent dat een machine uit zichzelf beslissingen kan nemen, die verwart wilsvrijheid met keuzevrijheid. Het zelf bepalen waartoe besloten moet worden is een wezenlijk onderdeel van de wilsvrijheid.
De vraag die Chiang aan het begin van zijn essay stelt, zet hem en ons lezers op het verkeerde been. Die vraag was: Kan ChatGPT ooit beter worden dan mensen in het schrijven van verhalen – of het maken van schilderijen of films – ‘in the same way that calculators are better at addition and subtraction?’
Veel mensen beweren dat rekenmachines beter zijn in rekenen dan mensen. Het argument dat dit niet opgaat voor het maken van kunst, zoals het schrijven van een verhaal, is dan dat deze aktiviteiten niet zijn te reduceren tot het doen van een berekening: je kunt geen algoritme schrijven dat verhalen schrijft, daarvoor zou het te complex zijn. Wat is er mis met deze redenering?
Wanneer we stellen dat een rekenmachine beter is dan de mens in het rekenen, dan vergelijken we de machine en de mens, die we daarmee tegenover elkaar beschouwen als twee even zelfstandige entiteiten. Hier de mens, daar de machine. Beide kunnen rekenen, maar de machine zou hetzelfde beter doen. We zien veel artikelen die beweren dat onderzoek heeft aangetoond dat een machine (‘gebruikmakend van kunstmatige intelligentie’) een bepaalde taak beter doet dan de mens. Wat is er mis met deze voorstelling van zaken? Dat is dat de machine, en of dat nu een eenvoudige calculator of een complex intelligent systeem zoals ChatGPT is, geen zelfstandigheid als machine heeft wanneer wordt afgezien van de relatie tot de mens voor wie het een machine is en voor wie wat de machine ‘doet’ een betekenis heeft.
Waarom maakt Chiang een uitzondering voor het rekenen? Waarom stelt hij zonder meer dat voor rekenmachines geldt dat ze wél beter zijn dan mensen, terwijl als het om verhalenmachines gaat hij inziet dat het schrijven van een verhaal meer is dan slechts het genereren van een rij woorden? Dat moet met het uitzonderlijke karakter van het rekenen te maken hebben. Inderdaad, het rekenen is bij uitstek die aktiviteit die in zekere zin buiten ons om gebeurt, waarbij we zelf machinaal te werk gaan. We manipuleren tekens volgens eenzinnige regels zonder daarbij na te denken. Maar ook bij het gebruik van de rekenmachine zijn wij het die de machine opdrachten geven. Wij bepalen wat berekend moet worden. Wij gebruiken de machine om iets voor ons te berekenen, om een resultaat te produceren dat al in de opdracht besloten ligt. En dat geldt net zo goed voor het gebruik van ChatGPT.
De zelfstandigheid van de machine is een relatieve zelfstandigheid. Door de mens tegenover de machine te plaatsen in een vergelijking wie van beide beter presteert, die doet alsof de machine buiten de relatie tot de mens, zijnde de ontwerper en gebruiker ervan, ook machine is. Buiten de relatie tot de mens voor wie de werking van de machine betekenis heeft, is deze werking echter slechts een fysisch proces. En dat geldt evenzeer voor de rekenmachine als voor ieder AI systeem. Dat de processen die zich ‘in de rekenmachine’ afspelen rekenprocessen zijn, dat zegt een relatie tot de mens, voor wie de toestanden van de machine staan voor de elementen van een wiskundige structuur, zoals een getal of een andere datastructuur, onderdeel van een (statistisch) (taal)model.
Rekenen is het manipuleren van tekens en kan niet bestaan zonder tekens die staan voor getallen, gedachte objecten in een mathematische structuur. Net zo min als we kunnen eten zonder voedsel tot ons te nemen, kunnen we rekenen zonder tekens te manipuleren. Voor die tekens werden in vroeger tijden steentjes (‘calculi’) gebruikt of streepjes in steen gekrast. Later werd er gerekend door balletjes te schuiven (de wel bekende abacus). En nog later met tandwieltjes. De eerste rekenmachines vertoonden veel gelijkenis met uurwerken en speelautomaten. Het gebruik van ponskaarten voor het programmeren kwam van het gebruik van de draaiboeken voor draaiorgels en weefgetouwen (Jacquard) . De gaatjes in de printkaarten vormen de tekens waarmee de gegevens en de bewerking erop gecodeerd zijn. Het begin van de programmeerbare rekenmachine. Aanvankelijk werd het draaiorgel met de hand aangedreven. Door middel van een vernuftige constructie werd daarmee zowel een blaasbalg aangedreven als ook het mechaniek om de muziektrommel rond te draaien.
De stoommachine en de electrische motor vervangen later het draaien door de orgelman. Op dat moment is zowel de voortdrijving van het mechanisme als de ordening ervan door de natuurwerking overgenomen. De machine doet ‘zelfstandig’ zijn werk. Je hoeft er alleen nog maar wat energie in te stoppen en een programma (draaiboek) en op de startknop te drukken. En het werkt! Vanwege die ‘zelfstandige’ werking hebben we de neiging de machine als subject te zien, vergelijkbaar met de mens. Sommige mensen spreken van een ‘quasi-subject’ om het verschil aan te duiden met de mens als subject. We zeggen dat de machine ‘werkt’, ‘rekent’, zonder daarbij te bedenken dat dat iets anders betekent dan wanneer we van een mens zeggen dat die werkt of rekent.
In het (filosofisch/technisch) jargon is de term ‘agent’ gangbaar geworden als paraplu-term voor echte en quasi-subjecten. Een agent wordt echter beschouwd als een zelfstandige entiteit, zoals een mens. Het zijn beide ‘informatiesystemen’. Mark Coeckelbergh spreekt van ‘new artistic (quasi)subjects’. Hij stelt de vraag of AI (zoals DALL-E) een artiest kan zijn. Sommigen overwegen zelfs de robot als persoon te zien en deze een morele en juridische status te verlenen. Dat een quasi-subject slechts een relatieve zelfstandigheid heeft in relatie tot het menselijk subject, dat wordt daarmee niet begrepen. Het relationele aspect wordt bij auteurs als Coeckelbergh en Gunkel pas opgevoerd in de vorm van een sociale interaktie tijdens een co-operatief gebeuren. Mens en machine brengen samen iets tot stand. Wat ik daarentegen betoog is dat machine-zijn al een relatief zijn is, zonder relatie tot de mens is een machine niet wat het is.
In “Some misunderstandings about the moral significance of technology” merkt Peter-Paul Verbeek op dat de bewering dat een technisch artefact betrokken is in moreel agentschap (‘involved in moral agency’) verkeerd wordt verstaan alsof zo’n technisch artefact dan ook op zich zelf een morele agent zou zijn.” (Verbeek, 2014). Om morele agent te zijn moet iets een zelfstandigheid hebben en wilsbesluiten kunnen nemen. Het kiezen van een optie uit is dat niet.
Waarom zou een AI systeem geen kunst kunnen maken? Net als de aap die over het toetsenbord van een piano rent iets kan produceren dat we als welluidend ervaren, zo kan ChatGPT bij toeval een tekst produceren die voor ons een bijzondere betekenis heeft en ons op een of andere manier raakt. En misschien is dat wel kunst. Het resultaat van het werken met ChatGPT is uiteindelijk meer dan enkel een rijtje woorden, geproduceerd door een machine. Het is een tekst, een verhaal. Maar die tekst is het alleen voor ons, de gebruiker. De machine is zo gemaakt dat er een goede kans bestaat dat deze een tekst produceert voor ons betekenis heeft. Op dezelfde manier is de rekenmachine zo gemaakt dat de toestandsovergangen overeenkomen met de stappen in een rekenproces en daardoor resulteren in een eindtoestand die voor ons zinvol gezien kan worden als het gewenste resultaat van onze opdracht.
ChatGPT is een stuk gereedschap dat ons behulpzaam kan zijn, maar om een goede tekst te produceren hebben we bij voorkeur een auteur nodig die de kunst leert verstaan van het omgaan met het gereedschap. En dat geldt natuurlijk voor elk technisch middel, of het nu een rekenmachine is of een graafmachine.
We hebben gezien dat rekenen de aktiviteit is die we door een machine kunnen laten verrichten omdat rekenen typisch mechanisch (dat is volgens een vast systeem van regels) verloopt. Hoe kunnen we nu een machine een verhaal laten produceren in een bepaalde taal? Daarvoor moeten we een wiskundig model maken van alle mogelijke verhalen in die taal, een wiskundig taalmodel. Daarin zijn de woorden en zinnen wiskundige objecten geworden. Beroemd is de uitspraak van Goethe over de wiskundigen.
“Die Mathematiker sind eine Art Franzosen. Spricht man zu ihnen, so übersetzen sie alles in ihre eigene Sprache, und so wird es alsobald etwas ganz anderes.”
Deze wiskundige objecten worden door tekens op een papier of op een beeldscherm gerepresenteerd en geprint. Daarbij worden juist die tekens gekozen die voor ons als taalgebruiker herkenbaar zijn als de woorden van onze taal. De tekens die de word-processor op het scherm toont zijn de voor ons herkenbare woorden die we met behulp van het toetsenbord intikken (of die we van elders ontvangen) als resultaat van een fysisch proces.
Het taalgebruik waarin we zeggen dat een rekenmachine kan rekenen maakt niet dat een machine kan rekenen. Dat het een ‘taalspel’ is (Wittgenstein) verklaart op zich niets. Het drukt ons begrip uit van de relatie tussen rekenen en mechaniseren. Het taalgebruik moet juist verklaard worden. Het is uitdrukking van een door de mens op een bepaalde wijze begrepen werkelijkheid.
“A common way of conceiving of the relation between humans and technology is an instrumental one: technologies are tools, instruments for human purposes.” (Coeckelbergh).
Dat rekenen een ‘tool is om mee te kunnen rekenen’, dat wordt door het begrip van de relatie tussen wiskunde (betekenis, denkvorm) en mechanisme (teken, fysisch proces) verantwoord. Net zo min als je woord als teken en woord als betekenis uit elkaar kunt trekken, kun je cijfers en getallen uit elkaar trekken. Ze zijn altijd als eenheid aanwezig in het rekenen. De tool-relatie brengt deze twee uitelkaar gedachte aspecten weer bij elkaar, nadat ze beide, gebruiker enerzijds en gereedschap anderzijds, eerst als zelfstandige entiteiten werden beschouwd. We moeten vragen hoe het komt dat we woorden kunnen ‘gebruiken’ om iets uit te drukken. En wat de rol van de gebruiker en van de woorden is in dat gebruik. Dan komen we er achter dat deze niet zonder elkaar kunnen zijn wat ze zijn. We moeten ons afvragen wat maakt dat we een bepaalde tool voor een bepaalde aktiviteit kunnen gebruiken. We kunnen niet rekenen om daar vervolgens nog iets bij te ‘gebruiken’ (steentjes, streepjes, tekens) om ermee te rekenen. Zonder die calculi is er geen rekenen. Rekenen is een aktiviteit waarbij denken en handelen samenvallen, in die zin dat er tijdens het handelen volgens voorafbedachte regels gemanipuleerd wordt.
Wiskundige Taalmodellen
In Roald Dahl’s verhaal over de Verhalenmachine overweegt Knipe dat zo’n machine niet kan werken als een rekenmachine, omdat die maar één juist antwoord kan geven op een gegeven vraag. ‘Een machine kon geen hersens hebben.’ Maar anderzijds, bedacht Knipe, had een machine een groot geheugen. Je kunt een heleboel werkwoorden, zelfstandige naamwoorden, bijvoeglijke naamwoorden in het geheugen opslaan. En dan wordt Knipe opeens geconfronteerd met ‘een machtige doch simpele waarheid, namelijk deze: “De Engelse grammatica wordt beheerst door regels, die bijna mathematisch consequent worden toegepast!” Knipe concludeerde dat het dus mogelijk moest zijn een verhalenmachine te maken die net als een rekenmachine de juiste volgorde berekent waarin de woorden (in plaats van cijfers) geplaatst moeten worden. “Voed de machine met intriges en laat hem dan zelf de zinnen construeren.”
Hoe naïef Knipe’s idee ook was, we vinden in Dahls verhaal de drie hoofdingrediënten van de huidige verhalenproducerende systemen, zoals ChatGPT: een enorme woordenschat, een systeem dat de juiste woorden in de juiste volgorde zet, en een aantal triggers (intriges, ‘prompts’) die de inhoud en stijl van de tekst bepalen.
In jaren vijftig en zestig waren er twee scholen in het onderzoek naar taalmodellen: de grammatica-school van de linguïsten (met Noam Chomsky als één van de bekendste) en de stochastische school van de electrotechnische ingenieurs, de communicatiewetenschappers, met Markov, Shannon en Weaver als vooraanstaande figuren. De laatsten maakten statistische taalmodellen, gebaseerd op kansrekening. Die taalmodellen beschrijven in welke volgorde de woorden in een zin van die taal voor kunnen komen. Stochastische modellen maken dat het resultaat van de berekening voor de gebruiker niet goed voorspelbaar is. Net zoals bij een worp met een dobbelsteen, een primitief stochastisch proces. Later kom ik terug op de rol van het toeval bij het toekennen van ‘zelfstandigheid’ aan de machine.
Iemand die een bepaalde taal, zeg Nederlands, spreekt die weet dat in die taal niet elk woord op elk ander woord kan volgen. (Afgezien natuurlijk in een opsomming van woorden). Na de woorden: “Jan loopt …” kunnen wel de woorden ‘snel’, ‘in’ en ‘naar’ komen, maar niet de woorden ‘ik’, ‘fietst’, of ‘auto’. Van de woorden die wel na twee gegeven woorden kunnen volgen zijn sommige waarschijnlijker dan andere. Zo is de kans dat na “aap noot” het woordje mies volgt groter dan de kans dat het volgende woord ‘geit’ is of ‘de’. Door nu alle rijtjes van drie woorden die in een grote verzameling teksten voorkomen te tellen kan voor heel veel rijtjes van twee woorden de (overgangs)kans op het volgende woord benaderd worden. Zo’n taalmodel heet een trigram model. Het model zegt nu wat het meest waarschijnlijke woord is dat op een gegeven rijtje van twee worden volgt. Een trigram-model is een speciaal Markov model, genoemd naar de Russische wiskundige Markov die begin 20ste eeuw op grond van tellingen wilde voorspellen of na een gegeven aantal karakters een klinker komt, dan wel een medeklinker. Je kunt hetzelfde doen met rijtjes van vier woorden, van vijf woorden en zo meer. Dan heb je wel meer teksten nodig om je model te trainen, dat wil zeggen om de ‘overgangskansen’ van het model te leren. Hoe meer data, hoe beter het taalmodel. Dit is een heel algemeen wiskundig model dat voor alle mogelijke talen bruikbaar is. De prestaties van het model wordt bepaald door de hoeveelheid trainingsdata, het corpus van teksten waarop getraind wordt.
De volgende reeks woorden is geproduceerd door een trigram taalmodel getrained op het werk van Jane Austin. (bron: Jurafsky & Martin, 2024)
“You are uniformly charming!” cried he, with a smile of associating and now
and then I bowed and they perceived a chaise and four to wish for.”
Het lijkt al een zinvolle tekst, maar het is natuurlijk onzin. De taalmodellen van ChatGPT zijn voor een groot deel gebaseerd op stochastische n-gram modellen, getrained op heel veel online documenten. De woorden in de prompts geven sturing aan het generatieproces, zodat de geproduceerde tekst een zinvolle reaktie op bjvoorbeeld een vraag van de gebruiker kan zijn. Die teksten lijken zinvol, maar er is veel rommel bij. Het probleem is dat ChatGPT de feiten niet kent en zich niet kan verantwoorden tegenover de gebruiker.
ChatGPT kan waarheid niet van onwaarheid onderscheiden. Dat het op een bepaald moment de zin “Lee Harvey Oswald is de moordenaar van J.F. Kennedy.” produceert is het gevolg van het feit dat deze zin vaak in de trainingsdata voorkomt. En niet omdat dit waar is. Ook al kan het best waar zijn dat Oswald Kennedy heeft vermoord. Het opmerkelijke is dat ChatGPT helemaal niet zo goed is in rekenen als je van een machine zou mogen verwachten. Dat komt omdat ze dat leert zonder inzicht in de wiskundige structuren. Ze leert het van buiten, via de taal. Wanneer je heel vaak zegt dat 2 + 2 = 5, dan zal ze deze tekst overnemen. Ze zal niet concluderen dat dan 0 = 1 .
Het gecontroleerde toeval
ChatGPT is gebaseerd op statistische taalmodellen. Sommige mensen zien in het feit dat zelfs de makers van AI niet altijd kunnen voorspellen welke beslissing een AI systeem neemt een bewijs dat de machine (AI) een zelfstandigheid heeft. De machine zou daarom meer dan een ‘tool’ zijn: het voegt iets nieuws toe aan onze inbreng. Inderdaad, is het zo dat het toeval een keerzijde is van het berekenbare. Het toeval is wat je van buiten af overkomt. Je had er niet op gerekend. Het komt onverwacht. Het wordt als het ware ingebracht door een werkelijkheid, een substantie, buiten ons, waar we geen controle over hebben. De stochastische modellen zijn echter wiskundige modellen die gebaseerd zijn op kansrekening. Het toeval wordt in de stochastische machines gesimuleerd door een kansmodel. Het gaat hier dus om een gecontroleerd toeval. De trainingsdata waarmee het taalmodel getrained is, bepaalt de mogelijke uitkomsten van een systeem als ChatGPT. De zogenaamde ‘bias’ van dergelijke systemen komt dan ook voor rekening van de maker ervan. (Getrained op Jane Austin komen er typische Jane Austin teksten uit. ) Dat het voor ons niet voorspelbaar is wat er wordt geproduceerd maakt de AI machine niet minder mechanisch. De willekeur veroorzaakt door de complexiteit en de toevalsfactor maakt dergelijke machines extra interessant voor de gebruiker. Het maakt dat de interaktie een spelkarakter krijgt. Onze acceptatie van willekeur kent een grens. Wanneer het er echt om gaat om zo nauwkeurig mogelijk te voorspellen wat er gebeurt omdat er risico’s verbonden zijn aan fouten, zoals bij voorbeeld in medische toepassingen, dan zijn dergelijke systemen onbruikbaar. Bij de toepassingen in de kunst zijn we als gebruiker zeer tolerant als het gaat om de rol van het toeval. Bij serieuze toepassingen zullen we serieuse risico-analyses willen kunnen maken. Uiteindelijk is het altijd aan de mens, de gebruiker, te bepalen of hij het produkt acceptabel vindt.
Kan een machine kunst maken?
De vraag “Kan een machine kunst maken?” suggereert dat een machine zelfstandig in staat zou kunnen zijn in het maken van iets dat voor de mens betekenisvol is. Deze vraag moet met ‘nee’ worden beantwoord. Evenals de vraag ‘Kan een mens kunst maken?’ wanneer dit betekent dat een mens zelfstandig, in de zin van onafhankelijk van de werkelijkheid: natuur en cultuur, iets kan maken dat betekenisvol voor hem is. Ik heb hier betoogd dat ook de vraag “Kan een rekenmachine rekenen?” kritisch moet worden bevraagd. De mens kan niet zonder mechanismen rekenen, omdat rekenen een mechanisch handelen, een manipuleren van tekens, is. De machine is een relatieve zelfstandigheid. Buiten de relatie tot de mens is deze niet wat het is. En dat geldt voor ‘intelligente’ AI systemen net zo zeer als voor een simpele rekenmachine. De mens die rekent maakt zichzelf een mechanisme. Maar in die verhouding is hij tevens meer dan dat. Hij beoordeelt zich zelf als zodanig.
De machine die kunst maakt beoordeelt zijn eigen werk niet als onderdeel van zijn werk. M.C. Eschers ‘de hand die zichzelf tekent’ heeft zich zelf niet getekend.
Bronnen
Ted Chiang (2024) Why AI isn’t going to make art. The New Yorker, 31 August 2024.
“To create a novel or a painting, an artist makes choices that are fundamentally alien to artificial intelligence.“
Noam Chomsky (1969). Quine’s empirical assumptions. In: Davidson and Hintikkaa (eds.), Words and objections, essays on the work of W.V. Quine (pp. 53-68), Reidel, Dordrecht.
Het citaat boven dit artikel staat op pagina 57. In de eerste twee edities van het veel geprezen studieboek Speech and Language Processing van Jurafski and Martin staat het citaat boven het hoofdstuk over statistische taalmodellen. In de nieuwste, 3de editie van 2024, kon ik het citaat niet meer vinden. Chomsky heeft met zijn commentaar op de Markov-taalmodellen de ontwikkeling van stochastische taalmodellen in de jaren 50 en 60 in de weg gestaan.
Mark Coeckelbergh (2012), Growing moral Relations: critique of moral status ascription. Palgrave MacMillan, 2012.
Mark Coeckelbergh (2014) The Moral Standing of Machines: Towards a Relational and Non-Cartesian Moral Hermeneutics. Philos. Technol. 27, 61–77 (2014).
Mark Coeckelbergh (2017). Can machines create art? Philosophy & Technology, 30, 285-303.
De auteur beschouwt drie vragen bij wijze van analyse van de hoofdvraag. “What is art creation? What do we mean by art? And, what do we mean by machines create art?”
De vraag die ik hier beantwoord en die niet vergeten mag worden, is: Wat is een machine? En daaraan gekoppelt de vraag: Wat bedoelen we eigenlijk als we zeggen dat een machine iets doet? Of dat nu rekenen is of een kunstwerk maken.
“It seems that the creativity is no longer entirely in the programmer but has migrated to the technology. This is especially the case when the machine has the capacity to learn or when, in other ways, the process cannot simply be reduced to the execution of a code written by humans (the promise of artificial intelligence and artificial creativity). Thus, machines seem to enter the sphere that was previously reserved for humans.”
Inderdaad, het lijkt zo (‘machines seem to’). En machines worden ook gemaakt om dingen voor ons te doen. De vraag of machines kunst kunnen maken, zet ons op het verkeerde been. Machines kunnen door ons gebruikt worden om iets te maken. Alleen wanneer je de inhoud van het begrip ‘maken’ reduceert tot een mechanisch proces, kunnen we zeggen dat een machine iets ‘maakt’.
Mark Coeckelbergh (2023). The Work of Art in the Age of AI Image Generation:
Aesthetics and Human-Technology Relations as Process and Performance. Journal of Human Technology Relations, 1(1), pp.1-13.
If AI (such as DALL-E) can be an artist “depends on your conception of art and creativity – something philosophers in aesthetics and philosophy of art have been thinking about for centuries. If one assumes that art is about expression of an inner state or inner self, way that it stems from something in the artists’ head, then AI cannot be an artist and cannot produce art.”
Coeckelbergh noemt dit de ‘romantische’ voorstelling van zaken.
Coeckelbergh bekritiseert de tool-filosofie van techniek. “We need an approach that does justice to the more-than-instrumental role of the AI in the creation of this art, but at the same time one that does not make it seem as if the AI is always and necessarily an other that has little to do with the human.”
“As we use technology, we engage in what I have called ‘technoperformances’.”
“It is concluded that based on most standard criteria in aesthetics, AI image generation can in principle create art, and that the process can be seen as poietic
performances involving humans and non-humans potentially leading to the emergence of new artistic (quasi)subjects and roles in the process.”
Roald Dahl (1953) The Great Automatic Grammatizator. Opgenomen in de bundel Someone like you. Nederlandse vertaling De Verhalenmachine. Opgenomen in de bundel M’n liefje, m’n duifje. Ook in Het beste van Roald Dahl. Meulenhof, Amsterdam , 1990. Vertaling Hans Edinga.
Luciano Floridi, Sanders, J. On the Morality of Artificial Agents. Minds and Machines 14, 349–379 (2004).
David J. Gunkel (2023). Person, Thing, Robot – A Moral and Legal Ontology for the 21st Century and Beyond, MIT Press, Open acces, September 2023.
“Robots are a queer sort of things. They deconstruct the existing logical order that differentiates persons from things.”
Natuurlijk houden we vast aan het onderscheid tussen persoon en ding. Ook al zijn er dingen die door mensen gemaakt zijn, zoals gereedschappen, bouwwerken en kunstwerken, waarin de mens iets van zichzelf, iets van zijn relatie tot de dingen, heeft gelegd. De robot weerspiegelt een bepaalde (maak)relatie die we tot de werkelijkheid hebben.
Daniel Jurafsky & James H. Martin (2006). Speech and Language Processing: An introduction to natural language processing, computational linguistics, and speech recognition.
De 3de versie van het boek verschijnt in 2024. Een draft versie staat hier: https://web.stanford.edu/~jurafsky/slp3 (laatst gezien: 20-09-2024)
Peter-Paul Verbeek (2014). Some misunderstandings about the moral significance of technology. In: The Moral Status of Technical Artefacts. Peter Kroes en Peter-Paul Verbeek, eds). Springer, 2014.
