In de serie Denken in Tijden van Corona gaat het deze keer over beurtwisselgedrag.
Ik kijk graag naar praatprogramma’s zoals Op1 van NPO1. Interessanter dan wat er gezegd wordt is vaak het beurtwisselgedrag van de deelnemers. Kort gezegd betreft het die gedragingen van de gespreksdeelnemers die te maken hebben met het verdelen van aandacht over het zelf en de anderen.
De Engelse term is turn-taking en er is veel onderzoek naar gedaan, zowel door sociologen als door sociaal linguisten. Een klassieker is het SSJ-paper van Sacks, Schegloff en Jefferson (1974). In het nuttige, werkzame, deel van mijn leven heb ik samen met collega’s van de onderzoekgroep Human Media Interaction van de University of Twente daar een bescheiden bijdrage aan geleverd. Onze studies van turn-taking gedrag van mensen waren bedoeld om gedragsmodellen te maken voor artificiele converserende agenten (sociale robots, avatars), kunstmatige gesprekspartners dus. We bestudeerden onder andere gedragingen tijdens een politieverhoor om virtuele verdachten te maken. Merijn Bruijnes heeft daar een zeer lezenswaardig proefschrift over geschreven. We bestudeerden gedrag van mensen tijdens design-meetings, zowel face-to-face meetings als online meetings, om te zien hoe je deze meetings het beste met technologie kon ondersteunen, bijvoorbeeld door de deelnemers real-time een visueel beeld te geven van het turn-taking gedrag. Natasja Jovanovic schreef een proefschrift over adresseer-gedrag, het aankijken en wegkijken, gedrag dat een functie heeft bij het wisselen van gespreksbeurt.
Wie doof is of hardhorend en de discussie op tv niet goed kan volgen die kan altijd nog naar het niet-verbale gedrag kijken. Dove mensen zien meer dan horenden omdat ze hun aandacht beter op het niet-verbale kunnen richten. Veel non-verbale beurtwisselgedragingen behoren tot de honest signals. Ze vertellen vaak een eerlijker verhaal dan de woorden die gesproken worden. (Zie ook de blog over Eerlijke signalen.) Ik raad de lezer aan het geluid eens uit te zetten.
Waar gaat het om?
Zoals gezegd gaat het om de aandacht. Een van de meest opvallende dingen aan een praatprogramma is de beperkte hoeveelheid beschikbare tijd. Als het onderwerp boeit duurt het altijd te kort. Binnen die beperkte tijd is er een eindige hoeveelheid aandacht. Aandacht is een schaars goed omdat er meer behoefte aan is dan er beschikbaar is. Net zo schaars als de chips in de schaal die midden op de tafel staat tijdens een kinderpartijtje. Beurtwisselgedrag is dus een soort van economisch gedrag: het betreft de verdeling van een schaars goed.
De aandacht betreft zowel de verschillende gespreksdeelnemers, als het gespreksonderwerp en de verschillende kanten die daar aankleven. Waarbij een deelnemer tijdens een discussie vaak staat voor een kant van de zaak. Het aandacht geven en vragen aan de betreffende deelnemers staat dan tevens voor het aandacht geven aan een standpunt met betrekking tot de zaak waar het om gaat.
Het is de taak van de gespreksleiders de strijd om de aandacht, dit schaarse goed, in goede banen te leiden, waarbij dit niet ten koste mag gaan van de vrije loop van de discussie. Het leiden is zoeken naar een wankel evenwicht tussen spontaniteit en orde. Daarbij komt dat de gespreksleiders ook inhoudelijk een bijdrage leveren aan de discussie. Meestal door een (vooraf bedachte) vraag te adresseren aan een van de deelnemers. Die wordt daarbij meteen de beurt gegeven. (Als dan een ander dan de geadresseerde de beurt neemt dan grijpt de leider in, bijvoorbeeld met een terechtwijzend: “Vroeg ik aan meneer Blauw!”).
Zo heeft de leider een zekere macht bij het verdelen van de aandacht. Deze zal bij voorkeur de beurt geven aan die deelnemer die iets interessants in te brengen heeft. Dat kan een eigen mening van de deelnemer zijn. De kijker wil weten wat hij of zij er van vindt omdat dit een Bekende Nederlander is of omdat deze persoon een bepaalde groep vertegenwoordigt. Het kan ook om feitelijk informatie gaan die de geselecteerde persoon kan geven. Een belangrijke rol speelt daarbij de kijker thuis, het publiek. Het gaat ook bij deze praatprogramma’s om de kijkcijfers dus het moet de aandacht van de kijkers hebben. Vrijwel altijd gaan deze programma’s dan ook over onderwerpen die al in het nieuws zijn. Ze gaan over die onderwerpen die al de aandacht van het publiek hebben. Omdat er bovendien vaak geput wordt uit dezelfde groep van Boeiende Nederlanders is er meestal weinig nieuws aan te beleven. Om het dan toch nog interessant te maken let ik op het beurtwisselgedrag van de deelnemers. Hoe verdelen de deelnemers het schaarse goed aandacht over zich zelf en de anderen en welke ander krijgt de aandacht om te spreken dan wel om te luisteren.
Het BW-gedrag zegt veel over het karakter van de deelnemers, over de onderlinge relaties en over de emotionele betrokkenheid bij het gespreksonderwerp. Net zo goed als er verkeersregels en spelregels zijn, zijn er ook regels voor beurtwisselgedrag. Deze sociale regels worden niet dwingend van buiten opgelegd, als in de regie van een toneelstuk of bij een bordspel. Het zijn de deelnemers zelf die bepalen wie op ieder moment de beurt krijgt en of de spreker de beurt houdt. Het is vanwege onze beperkte mogelijkheden om aandacht te geven dat het streven is dat er op elk moment slechts één iemand het woord heeft en dat de anderen luisteren. Dit is inderdaad ook werkelijk vaak het geval. Emoties maken dat er in de strijd om de aandacht stemmen door elkaar klinken. Soms vraagt iemand expliciet om de floor. “Mag ik even?” Soms wordt er onderhandeld. “Ik liet u daarnet uitpraten, mag ik nu even uitpraten?” . Soms wordt er spreektijd geclaimed. Klassiek is het “Twee dingen” waarmee Joop den Uyl vaak een antwoord begon. Soms lopen de overgangen tussen de beurten gesmeerd en is er nagenoeg geen overlap of stilte. Soms is er een conflict, zoals in een interview van Clarie Polak met Dokters van Leeuwen. De laatste vertoonde typisch BW-gedrag, waardoor Polak in de war raakte. Dokter van Leeuwen laste lange pauses in midden in zijn antwoord. Wanneer Polak meende de volgende vraag te kunnen stellen ging hij door met zijn antwoord. Dat leidde op een gegeven moment tot irritatie bij de hoge rechter waarop Polak hem wees op zijn vreemde BW-gedrag. Wanneer een politieagent tijdens een verhoor de verdachte een vraag stelt komt het regelmatig voor dat deze de uitnodiging met een stilzwijgen beantwoord. Er is naast een spreekrecht ook een recht van zwijgen. Soms bij een wat grotere groep splitst de groep in meer subgroepen elk met hun eigen onderwerp en beurtwissel-regime. Maar zo’n gesplitste situatie zal bij discussieprogramma’s op TV niet lang standhouden.
De strijd om de aandacht, om de spreekbeurt, is een machtsstrijd waarvoor sommige deelnemers beter bewapend zijn dan anderen. Bovendien laten ze zien hoe de sociale verhoudingen liggen. Vanaf de jaren 70 is er veel onderzoek gedaan naar turn-taking gedrag als uiting van gender-relaties. Studies toonden aan dat vrouwen veel vaker door mannen in de rede werden gevallen of de beurt niet kregen dan mannen door mannen of door vrouwen. Terwijl vrouwen vonden en vinden dat ze ook wat te zeggen hebben en daarvoor aandacht verdienen.
Eerlijke signalen: over racisme
BW-gedrag is interessant omdat het ritueel gedrag is en omdat het eerlijk gedrag is. Niet-verbalen signalen zijn honest signals; de term komt uit de ethologie (zie mijn blog Eerlijke signalen en de Corona app): ze zijn vaak niet bewust en vertellen dan ook soms een eerlijker verhaal over de relaties tussen de deelnemers dan de woorden.
Bij Op1 ging het over racisme en aan tafel zaten o.a. de (blanke) BN-er de historicus Herman Pleij die zeer boeiend en met veel enthousiasme kan vertellen over de historie van dingen en verschijnselen, de (blanke) baas van Omroep MAX Jan Slagter en de Oranje voetbalinternational Hedwiges Maduro. De laatste zat er ongetwijfeld mede vanwege zijn bruin getinte huidskleur. De kwestie was hoe het staat met het racisme in Nederland en wat er aan te doen. Maduro hield een warm pleidooi voor en redelijke dialoog waarbij de partijen vooral moeten luisteren. Want, zo stelde hij, we horen de boodschap van de andere partij niet. Dat vraagt om inleving in de situatie van de ander. En daar ontbreekt het aan, zo stelde Maduro. De discussie over het thema was in de media opgelaaid door een als grap bedoelde opmerking van Johan Derksen in het programma Voetbal Inside. Johan zou, zo werd elders beweerd, niet voldoende rekening houden met de gevoelens van anderen. Ik denk het niet. Johan is allergisch voor gedram, betweterij, en iedere vorm van kuddegedrag, zoals racisme. Hij is een ster in het op de hak nemen van iedereen die jeuk bij hem veroorzaakt. Maar dit terzijde.
In een praatprogramma moet er vooral veel geluisterd worden. Daarom kan het ook beter een luisterprogramma heten. Maar de aandacht van zelf gaat vaak meer naar het realiseren van de wil om te spreken: “de ander moet maar eens naar mij luisteren”, dan naar de wil om te luisteren. Maduro had dus een goed punt. Het is dan opmerkelijk te zien hoe hij bij regelmaat in de rede werd gevallen door de blanke heren BN-ers, die meenden het woord te moeten nemen. Waarbij ze overigens volmondig toegaven wat Maduro zei en zelfs met eigen woorden nog eens hetzelfde bepleitten als Maduro. Het gaat te ver om hier een teken van dominantie op grond van huidskleur in te zien, maar het had er de schijn van. Natuurlijk past deze observatie goed in mijn verhaal dat BW-gedrag het eerlijke verhaal vertelt over hoe de verhoudingen liggen en dat het soms strijdig is met wat de woorden zeggen.
Als het gaat over het verdelen van een schaars goed dan speelt de historicus Herman Pleij altijd een aardig woordje mee. Hij is in staat om in zijn eentje meer dan de helft van de chips op te eten. Wat dan weer ten koste gaat van de aandacht voor de anderen. Misschien moet de redactie hem daar eens op wijzen, ook al kan hij nog zo boeiend vertellen.
Automatische gedigitaliseerde gedragingen
Ons onderzoek naar BW-gedrag had als doel modellen te maken ten behoeve van het simuleren van dit gedrag in kunstmatige converserende agenten, zoals sociale robots. Kun je een machine zodanig programmeren dat deze BW-gedrag vertoont? Ja, dat kan. Met een beetje goede wil kunnen we dat zo wel stellen. Een geldautomaat vraagt: “Wilt u een afgiftebon?” om vervolgens het luisterend oor te bieden aan de gebruiker, wachtend op het antwoord. Heel veel verder zijn we nog niet. Natuurlijk zijn er al veel slimmere methodes uitgedacht en geimplementeerd om sociale robots en androides, gedrag te laten vertonen dat soms erg overtuigend overkomt als natuurlijk BW-gedrag: kijk-gedrag, hoofdbewegingen, fronsen, aanwijzen. En dat allemaal gecoordineerd met simultaan uitgevoerd verbaal gedrag.
Acceptatie van de resultaten blijft mede een kwestie van goede wil. Het resultaat, het uiteindelijke effect van deze inspanningen, in termen van de kwaliteit van de interaktie, overstijgt de sfeer van het technische en varieert van verrassend (“het werkt!”) naar teleurstellend (“het lijkt er nog niet op!”, of positiever: “het is veelbelovend”). Waar zit het probleem bij de simulatie van natuurlijk BW-gedrag door een sociale robot? Het probleem wordt geintroduceerd door een typisch kenmerk van de simulerende technologie: de digitalisering van de interaktie.
Een gedetailleerde beschrijving van de digitalisering van turn-taking gedragingen voor het synthetiseren van BW-gedrag in een sociale robot vinden we in een artikel van Kristinn Thórisson dat de treffende titel heeft “Natural turn-taking needs no manual.” (Thórisson, 2002).
Wanneer we machines natuurlijk, dat is menselijk, conversationeel turn-taking-gedrag aanleren, hebben we geen handleiding meer nodig en zijn we verlost van de stuntelige interakties zoals die met de diverse verkoopautomaten.
“Pragmatically speaking, a generative model of turn-taking has the potential to
free users from the “vending machine” symptoms that have plagued many communicative computer systems in the past: Arbitrary pauses, beeps, button pushes, and instruction guidelines. Any decent implementation of a generative, multimodal turntaking model should allow for interaction with machines in the same way human interaction works, supporting seamless, finely-timed turn-taking, giving invisible support to the task and the situated natural language communication at hand — without the need for a manual.” (Thórisson, 2002)
Gespreksdeelnemers nemen tijdens een gesprek wel 2-3 keer per seconde beslissingen zoals Alan in de Introductie van het artikel (hierboven). “Hoe doen we dat?” Zo stelt de technicus het probleem voor. Wat volgt is een digitalisering van het gebeuren, een analyse in termen van parallel verlopende processen die elk in hun eigen frequentie draaien en met elkaar synchroniseren. Deze processen spelen zich af in verschillende lagen. Zo zijn er dialoog-toestanden en er zijn “cognitive states of mind” en toestanden van uitvoerprocessen en motoren. Tijdens de perceptie fase van de “perceptie-actie-loop” moeten er voortdurende functionele classificaties worden uitgevoerd van de inkomende observaties. Deze moeten in de context geinterpreteerd worden in termen van hun belang voor bijvoorbeeld het wel of niet overnemen van de beurt. Zo is de figuur Alan uit de Introductie druk met het observeren en interpreteren van al die signalen die hij uit de omgeving en van zijn gespreksdeelnemer binnen krijgt terwijl hij aan het vertellen is.
We zien dat hier door de techniek een gedigitaliseerde voorstelling gepresenteerd wordt van hoe BW-gedrag in de natuur gebeurt. Het beeld dat geschetst wordt is dat het gebeuren tot stand komt door elkaar snel opvolgende toestandsveranderingen die het gevolg zijn van evenzovele beslissingen, keuzes die gemaakt worden op de talloze keuzemomenten die tijdens een interactie plaats vinden. Hoe complex de in het artikel voorgestelde architectuur ook is, in principe vinden we deze digitale voorstelling van zaken in termen van interakterende processen die verschillende dialoogtoestanden doorlopen, ook al bij de geldautomaat en bij die andere door Thórisson genoemde “vending machines”. En of het werkt is al even afhankelijk van de juiste timing en synchronisatie van de verschillende processen.
De technische idee
BW-gedrag hangt, zoals elk gedrag, op een intieme wijze samen met en is een aspect van de totale inzet van het sociale individu, de deelnemer aan de sociale interactie. De verschillende gedragingen die we waarnemen als we er met een analyserende blik naar kijken vorm een geheel. Wie een mens spreekt spreekt een persoon. De aandacht gaat naar de persoon uit en naar wat deze ons te zeggen heeft. Niet naar de woorden en de gedragingen, maar naar dat wat ze zeggen. Bij interactie met een machine kan een beweging de suggestie van een uiting van een zelf oproepen. Zoals het uitspreken van een vraag de suggestie oproept van iemand die de vraagt stelt. Wij weten dat dit slechts suggestie is; dat we een zelf erbij denken. De maker van de androides maken gebruik van de werking van zowel aangeleerde als van instinctmatige natuurlijke reacties op gedrag. Zo kan het simuleren van het kijkgedrag van de baby dezelfde emoties oproepen bij de mens als wanneer dit gedrag door een mensenbaby getoond wordt. Zo maakt de techniek niet alleen gebruik van natuurkrachten zoals die in de wetten van de mechanica worden uitgedrukt, maar ook van krachten die in onze levende emotionele natuur werken.
In de definitie van de technische idee van Jan Hollak:
“De technische idee is die abstracte verstandsvorm waarin de mens haar beheersing van de natuur door middel van een originele combinatie van haar krachten tot uitdrukking brengt.”
moeten we de natuurkrachten in deze ruime zin opvatten. Om autonoom en bruikbaar te zijn is het niet noodzakelijk dat de natuurkrachten eerst in de vorm van programma’s worden gesimuleerd. Net als de kunst maakt de techniek opportunistisch gebruik van dieper liggende emotionele krachten die op een heel andere manier automatisch inwerken op de gebruiker. De techniek overstijgt hier de sfeer van de berekenbaarheid. Ze maakt gebruik van een andere vorm van zekerheid, een vorm van zekerheid die de zekerheid van de wiskunde in zekere zin overstijgt. De beleving van het resultaat van de technische inspanningen overstijgt deze waardoor bijvoorbeeld een simpele oplossing soms een krachtiger effect bij de kijker/gebruiker te weeg kan brengen dan een complexe constructie. Dat is het kunstmatige aan de techniek.
Mechanisering van denkarbeid
In het hoofdstuk “De machine als objectivering van zelfbegrip” in “De machine voorbij” legt Maarten Coolen aan de hand van passages uit Hegel’s Enzyklopadie (de subjectieve geest) en Jenaer Realphilosophie uit hoe de programmeerbare automatische machine gezien kan worden als uitwendige objectivatie van de aktiviteit van de subjectieve geest waarin het denken vanuit de private voorstelling zich ontwikkelt tot teken. Als namen (Hegels term voor woorden) hebben de voorstellingen een objectieve geldigheid. Ze zijn middel voor onze herinnering en we kunnen ze gebruiken om te denken. De namen zijn subjectief en tegelijk objectief: ze zijn onze referenties naar de werkelijkheid. In de informatietechnologie gaan de tekens als fysische objecten functioneren. Hegel spreekt in de Jenaer Realphilosophie van het “mechanische” gebruik van woorden. Volgens Coolen lijkt dit eerder in de programmeertalen gerealiseerd te zijn dan in de natuurlijke taal. “In een artificiele taal wordt het resultaat immers bereikt door een uitwendige manipulatie van tekens volgens de regels die expliciet zijn opgesomd en die blindelings gevolgd moeten worden om het gewenste effect te bereiken. Ook is in een kunsttaal de storende invloed van een zekere bepaaldheid van de betekenis van de taaltekens niet aanwezig. Je kunt de namen laten slaan op wat je maar wilt.” (Coolen, p211). En in een voetnoot stelt Coolen ter toelichting dat wat we in programmeertalen een “identifier” noemen in belangrijke mate overeenkomt met wat Hegel’s in zijn Jenaer Realphilosophie met de term “Namen” aanduidt. Coolen geeft een eigentijdse interpretatie van Hegels tekst: “precies wat Hegel als het “mechanische” moment van het denken ziet, is, zo kunnen wij, die leven in het tijdperk van de informatietechniek, zeggen, over te dragen op een zelfstandig functionerende machine.” (p.212)
Misschien is deze interpretatie van Hegel toch een beetje te kort door de bocht. Coolen denkt bij de informatietechnologie in navolging van Metzger en Hollak aan de programmeerbare rekenmachines. Om deze machines te bedienen, of beter: te programmeren, moet de programmeur een programmeertaal, een kunsttaal, zoals Java of Perl, leren. Maar de mens is verder gegaan in de uitwendige zelf-objectivatie. De computer moet gebruiksvriendelijker gemaakt worden. Deze moet de natuurlijke taal van de mens leren. Met de embodied conversational agents kunnen we een gesprek in onze eigen taal voeren. Dit is een gevolg van een ontwikkeling die in het werk van Coolen niet aan de orde komt: het modelleren van menselijke communicatie, van dialogen.
De mechanisering van de interaktie als arbeid
Vaak wordt interaktie tegenover arbeid geplaatst. Dat is slechts de halve waarheid. Interaktie is ook arbeid en arbeid is ook interaktie. Wanneer we het over de mechanisering van de arbeid hebben dan bedoelen we meestal die arbeid waarin het gaat om de produktie van materiele goederen. Niet over het tot stand brengen van communicatie tussen mensen. Toch zagen we in het werk van sociologen als E. Goffman en Argyle dat er over gedragingen wordt gesproken. Het onderwerp van Goffman’s Interaction Analysis zijn de kleine gebaren, bewegingen, zoals oog-arm en hand-bewegingen die een rol spelen bij de interaktie tussen mensen. Ze drukken iets uit en brengen communicatie tot stand. Ze worden los gekoppeld, geabstraheerd, van de persoon. “Not then men and their moments. Rather moments and their men.” De interaktie wordt hier een abstract proces, waarin een abstract subject zich verhoudt tot zijn interaktieve gedragingen. Deze abstractie maakt het mogelijk dat het individue zich terugtrekt uit deze aktiviteit en deze door de natuur laat overnemen.
Dit is wat we zien gebeuren in de techniek van de avaters, de humanoid, en de embodied conversational agents. Ze zijn voor mij een aanleiding tot een herinterpretatie van Hegel’s passages over de mechanisering. De natuurlijke taal heeft als voordeel dat de betekenis al bij de gebruiker bekend is. De machine spreekt de taal van de mens. Het nadeel is “de storende invloed van een zekere bepaaldheid van de betekenis van de taaltekens”. De woorden zijn geen identifier meer die we naar willekeurig wat kunnen laten verwijzen. Ze hebben de gebruikelijke normale betekenis. En die is niet altijd voor iedere gebruiker in elke situatie hetzelfde. Wat we zien is dat niet alleen de woorden van de natuurlijke taal maar ook de andere communicatieve gebaren als gebruikt worden voor de interaktie tussen mens en machines, de sociale robots en andere embodied conversational agents.
Het bijzondere nu is dat vanwege de formalisering en objectivering van de natuurlijke talen en gebaren het helemaal niet nodig is iets te weten over hoe bij de mens deze uitingen tot stand komen. Het is niet nodig te weten hoe wij taal of gebaren produceren. Evenmin hoeven we te weten hoe we de gedragingen, gezichtsuitdrukkingen en talige uitingen van de sociale robots en sprekende machines interpreteren, hoe dit werkt. Het werkt gewoon.
In de techniek brengt de kunstenaar meer tot stand dan de intellectueel kan bevatten.
Zo vinden we inderdaad dat de ontwikkeling van de technologie als historische veruitwendiging van het zelf-begrip van het menselijk subject haar moderne uitdrukking vindt in de intersubjectiviteit, in de dialoog met een menselijke gestalte. Maar het gaat hier om een vorm van intersubjectivitiet waarin de ander waarmee het menselijk subject interakteert het zelf is in de uitwendige vorm van de natuurprocessen. De mens herkent in de pratende machines zichzelf maar ontmoet daarin nog niet een ander persoon dan zichzelf in een geobjectiveerde vorm.
De filosofie heeft altijd meer moeite in haar verstandelijke reflectie te blijven bij de meeste intieme ervaringen die we hebben: de ervaring van ons zelf, de ervaring van de sociale wereld en van de ander als uniek persoon, dan bij de dingen en de wereld om ons heen. De wereld om ons heen wordt steeds meer onze wereld en uitdrukking van ons zelf. Toch herkennen we ons niet helemaal in die wereld. Wat hebben we er eigenlijk mee?
Bronnen:
Akker, op den, Rieks en M. Bruijnes, R. Peters, T. Krikke (2013). Interpersonal stance in police interviews: content analysis. In: Computational linguistics in the Netherlands journal 3, 193-216, 2013.
Brekelmans Frans en Brink, Erik (2013). Beeld en evenbeeld: een uiteenzetting van Hollaks begrip van Hegels filosofie en diens metafysische gevolgtrekkingen uit dat begrip. Proefschrift in twee delen. Tilburg University, 2013.
Bruijnes, Merijn(2016). Believable Suspect Agents: Response and Interpersonal Style Selection for an Artificial Suspect. Proefschrift University of Twente, Enschede, 2016.
Coolen, Maarten (1992). De machine voorbij: over het zelfbegrip van de mens in het tijdperk van de informatietechniek. Boom Meppel, Amsterdam, 1992.
Fleischhacker, Louk E. (1995).Beyond structure: the power and limitations of mathematical thought in common sense, science and philosophy. Peter Lang, Frankfurt am Main, 1995.
Hollak, Jan (1966): Van causa sui tot automatie (inaugurele rede). Katholieke Universiteit van Nijmegen. Opgenomen in de bundel: Platvoet, W., eds.: Denken als bestaan: het werk van Jan Hollak. DAMON (2010).
Jovanovic, Natasa(2007). To Whom it May Concern: Addressing in Face-to-Face Meetings. University of Twente, Human Media Interaction, Enschede, 2007.
Mazeland, Harrie (2003). Inleiding in de conversatie-analyse. Uitgeverij Coutinho. Bevat een uitvoerige bespreking van het turn-taking model van Sacks et al. (1974).
Nijholt, Anton, R. op den Akker, D. Heylen (2006). Meetings and meeting modelling in smart environments. AI & society 20 (2), 202-220, 2006.
Pentland, Alex (2008). Honest signal: how they shape our world. MIT Press, USA, 2008
Reidsma, Dennis; R op den Akker, R Rienks, R Poppe, A Nijholt, D Heylen (2007) Virtual meeting rooms: from observation to simulation. Ai & Society 22 (2), 133-144, 2007
Sacks, Harvey; Schegloff, Emanuel A.; Jefferson, Gail (1974). A Simplest Systematics for the Organization of Turn-Taking for Conversation. Language. 50 (4): 696–735.
Thórisson, Kristinn R. (2002). Natural turn-taking needs no manual: computational theory and model, from perception to action. In: Multimodality in Language and Speech Systems, 173-207. Björn Granström, David House & Inger Karlsson (Editors).
The Netherlands: Kluwer Academic Publishers, Dordrecht, 2002.
