Technologitis

De Belastingdienst is ziek. Daarvoor is nu overtuigend bewijs. De Belastingdienst lijdt aan technologitis. Technologitis is een geestesziekte die al enige tijd onder ons is maar die tot nu toe nog niet als zodanig werd geidentificeerd en benoemd. Het woord bestaat al enige tijd, maar niet in de specifieke betekenis die we er hier aan geven. Googelen zal dan ook niet de juiste hits opleveren. Het is een nog niet geclassificeerde mental disorder en komt dus ook niet voor in de DSM.

Technologitis is een zeer besmettelijke aandoening, maar anders dan COVID-19 of de mazelen, die zich via stoffelijke deeltjes verspreiden en die bij aanraking individuen ziek kunnen maken, is technologitis een aandoening van de geest en zij verspreid zich dan ook niet via stoffelijke deeltjes maar via geestelijke communicatiekanalen, media, opvoeding, internet, al die sociale kanalen die de moderne mens bindt tot onze moderne vorm van “samenleving”, de netwerksamenleving.

Technologitis is een geestesziekte die zich hierin onderscheidt van de bekende in de DSM geclassificeerde disorders, zoals depressies, dat het een sociale geestesziekte is. We zouden het een ziekte van de tijdgeest kunnen noemen. Sommige mensen onder ons zouden het vergelijken met een ziekelijke fundamentalistische vorm van religie. Wat het in zekere zin ook is, want “God is dood” (Nietzsche) en “de Techniek is zijn lijk” (Mulisch). En een zekere aanbidding van de Techniek kan de lijder aan technologitis niet ontzegd worden. Integendeel.

Wat zijn de symptomen van technologitis? Dat zijn vooral: disfunctioneren, autisme, depersonalisatie, gevoelloosheid, een gebrek aan empathie, soms een volledige afwezigheid van enig empathisch vermogen. Depressie, een algeheel gevoel van zinloosheid, nutteloosheid, kunnen een gevolg zijn bij individuele leden van organisaties die lijden aan technologitis.

Technologitis is een beroepsziekte in die zin dat het te maken heeft met de wijze waarop het individue in een organisatie zichzelf realiseert, of daar juist niet de kans voor krijgt, en zijn beroep uitoefent. Wat niet wegneemt dat ook mensen zonder werk aan deze ziekte kunnen lijden.

Mijn eigen ervaring met de Belastingdienst is drieledig:

1) als behoeftige burger, die verplicht door de wet een jaarlijks beroep doet op de dienst om zijn particuliere belastingzaken te regelen. Tot nu toe zonder hulp van een consulent of facilitator.

2) als burger die door de BD werd beticht van het verstrekken van onjuiste informatie. Ons werd een boete opgelegd en een naheffing. Na vele onderhandelingen met diverse individuele ambtenaren van de Dienst wist ik deze ervan te overtuigen dat er sprake was van een misverstand. Het belastingformulier bevatte een dubbelzinnige vraag. De boete werd kwijtgescholden. De BD heeft nooit toegegeven dat de vraag (van de vorm “wilt u koffie of thee met suiker?” (zie mijn blog over dit voorval) op twee manieren te lezen was, maar herstelde de fout wel door een andere formulering van de vraag in het belastingformulier (“wilt u koffie met suiker of thee met suiker?”) . De BD vond dat ik de wet moest kennen en dus moest weten welke lezing ze bedoelde. Het kwijtschelden van de boete werd door de inspecteur gemotiveerd met de empathische woorden: we willen u niet met een vervelend gevoel achterlaten. Mijn conclusie uit dit voorval: de BD is niet goed in het toegeven van fouten.

3) als onderzoeker: in diverse onderzoekprojecten, onder andere gefinancierd door het NCTV, de Nationaal Coördinator Terrorismebestrijding en Veiligheid werkte ik samen met de Nationale Politie, en met de FIOD, de Fiscale Inlichtingen en Opsporingsdienst van de Belastingdienst (deze valt onder Justitie). In deze projecten onderzochten we de mogelijkheden van toepassing van AI, kunstmatige intelligentie, natural language processing, machine learning, virtual reality in de uitvoering van diverse taken van deze overheidsdiensten. Leerzame en interessante projecten. Bijzondere interesse bij de diensten ging uit naar de state-of-the-art Nederlandse spraakherkenners die onze onderzoekgroep van de Universiteit Twente had ontwikkeld. (zie Spraakherkenning van Nederlandse Bodem). Voor het spraakonderzoek is samenwerking met deze diensten erg interessant omdat ze over enorm veel opgenomen interviews, spraakdata, beschikken, wat gebruikt kan worden voor het verbeteren van taal- en spraak-modellen. Omgekeerd levert automatische transcriptie van interviews enorm veel tijdwinst op voor de diensten. Wij burgers gebruiken Google voor het omzetten van spraak naar tekst, transcripties, maar het zal duidelijk zijn dat de politie en de FIOD hun opnames van interviews met getuigen en verdachten niet naar Google sturen om ze in tekst om te zetten. Ze hebben de spraakonderzoekers nu zelf in dienst genomen en ontwikkelen nu hun eigen spraaktechnologie verder.

Ervaring leert dat men bij de politie en de FIOD hoge verwachtingen heeft van nieuwe technologie. Niet zonder reden. Het afluisteren van opgenomen telefoongesprekken tussen misdadigers kan alleen met behulp van spraaktechnologie die slim zoekt naar vooraf gegeven woorden in de gigantische hoeveelheden opgenomen gesprekken. Dankzij deze technologie zijn de opsporingsdiensten in staat soms op tijd activiteiten van criminele netwerken te ontzenuwen. Die hoge verwachtingen van technologie zijn vaak te hoog. Men heeft vaak een onvoorwaardelijk vertrouwen in wat technologie vermag; vooral wanneer het onder de naam Artificial Intelligence, Deep Learning of Big Data Technology wordt verkocht. Er schuilt een reeel gevaar in al te hoge verwachtingen van technologie. De oorzaak daarvan is een verkeerd beeld van technologie. En dit is een van de aspecten van technologitis.

Naast deze eigen ervaringen volg ik met bijzondere interesse, verbazing en bewondering het lopende onderzoek naar aanleiding van de toeslagenaffaire en de inkomstenbelastingaffaire op initiatief van de kritische kamerleden Pieter Omtzigt en Renske Leijten.

Rechter spelen

Technologie is macht, economische macht. Het gebruik ervan kan enorm veel geld uitsparen. Het creeert nieuwe mogelijkheden en vereist reorganisatie van werk en verhoudingen. Het vraagt ook om nieuwe wetten en regels. Zolang die er niet zijn ontstaat al snel een machtsvacuum, waarin in feite de technologie naar willekeur regeert. Het is goed om te weten wat technologie doet met mensen, met het werk, met organisaties en met de samenleving. Dat is een tweede aspect van technologitis: niet weten wat technologie als denkhouding middels haar toepassingen in de praktijk met de mens doet. Nog belangrijker dan speculeren over mogelijke effecten van technologie is het om te onderzoeken uit welke denkhouding technologie voortkomt. Dat vereist zelfreflectie van een samenleving.

De tijd van de trias politica is al meer dan een eeuw voorbij. Rechters zijn al lang geen mensen meer die min of meer machinaal wetten en regels toepassen in een bepaalde casus. Wetten en regels zijn als resultaat van een politieke afweging van belangen vaak multi-interpretabel en laten ruimte open. De rechter moet zelf bepalen hoe in de maatschappelijke context welke wetten en regels hoe toegepast moeten worden om tot een rechtvaardige gedeelde beslissing te komen. Wetgeving loopt achter bij technologie en het is aan de rechter te bepalen hoe te handelen in gevallen waarin nieuwe technologie tot nieuw problematisch gedrag leidt. Een vraag zou kunnen zijn: mag een burger op een bepaalde manier beoordeeld en veroordeeld worden omdat deze volgens de gebruikte profiling technologie tot een bepaalde referentieklasse behoort? Nee, zei een rechter in de zaak Shonubi (Colyan et al., 2001) . Als autonoom opgevatte technologie holt de verantwoordelijkheid voor ons doen en laten uit.

De Belastingdienst gaat op de stoel van de rechter zitten zodra ze mensen van fraude beticht en ze op een speciale manier behandelt. Dat komt neer op een veroordeling. Bovendien is ze niet transparant naar de burger toe over de reden en de mogelijkheden tot wederhoor. We hebben gezien dat de BD aan omkering van bewijslast doet: de burger moet aantonen dat deze niet frauduleus heeft gehandeld. Dat komt ervan wanneer niet-experts op de stoel van de rechter gaan zitten. Ze kennen de procedures en de wetten niet. Of ze houden zich er in elk geval niet aan. Onafhankelijke controle op de interne processen is er kennelijk niet. Hoe komt dit? Bij de Belastingdienst werken toch gewone mensen, zoals u en ik? Precies. Misschien juist daarom.

De Belastingdienst is een machine. De mensen die het werk uitvoeren zijn geen personen, ze zijn niet verantwoordelijk voor hun werk. Ze functioneren. Ze volgen slaafs de regels, voeren instructies uit en doen wat de computer zegt dat ze moeten doen. Ze zijn een radertje in een machine. Als ambtenaren zijn het informatieverwerkende systemen. Zo ziet de machine ook de gebruiker, de burger: het is een informatiebron die consistente data moet leveren. Wie dat niet doet, wordt getagged als frauduleus. Machines hebben geen empathisch vermogen; ze beoordelen op grond van informatie die ze verwerken volgens procedures.

De uiteindelijke verantwoordelijkheid voor het functioneren van de Belastingdienst rust op de brede schouders van de Minister. Ministeriele verantwoordelijkheid is puur formeel; het hoort bij de functie die haar volgens een willekeurig politiek proces is toegekend. Deze formele verantwoordelijkheid is niet gerelateerd aan het verantwoordelijkheidsgevoel, de deugd, van de persoon die uitvoerder is van de taak. De strikte scheiding tussen formele verantwoordelijkheid en de concrete verantwoordelijkheid van de uitvoerder is een belangrijk aspect van technologitis. Verantwoordelijk zijn hoort bij persoon-zijn. Technologitis de-personaliseert de mens; ze neemt het inhoudelijke werk van de mens over en daarmee ook de verantwoordelijkheid, die nog slechts formeel is. “Ik doe wat me opgedragen wordt”.

Als behoeftige mens streeft de ambtenaar minimaal naar behoud van werk: zijn baan wordt bedreigd door voortgaande automatisering; als het kan wil hij verbetering van zijn positie in de hierarchie: naar een baan die minder gevoelig is voor de ontslagdreiging. Als behoeftige burger is de ambtenaar afhankelijk van de top-ambtenaren, de mensen die de top-salarissen verdienen omdat ze verantwoordelijk zouden zijn. Wanneer ze ter verantwoording geroepen worden verwijzen ze naar de Minister met de brede schouders. De Kamer kan haar ter verantwoording roepen maar ze komt net kijken en heeft een kast met lijken overgenomen van haar voorganger. Ondertussen draait de machine door.

Bij het uitvoeren van hun taak worden de ambtenaren geholpen door de computer: ze zitten uren achter beeldschermen. De computer bevat intelligente software die gevallen classificeert. Profilering. Wat we bij de BD zien is wat we bij de Nationale Politie zien: een groot vertrouwen in predictive profiling: het profileren, classificeren van individuele gevallen op basis van data, informatie, ten behoeve van een aan het profiel gekoppelde behandeling. De BD als machine kent geen individuele personen, ze kent alleen klassen. In die zin is haar functioneren wetenschappelijk, rechtvaardig en economisch van karakter.

Overtuigende technologie

Een symptoom van technologitis is een ongemotiveerd vertrouwen in wat technologie vermag. Dit is een ethisch probleem. In zijn klassieker Persuasive Technology: using computers to change what we think and do besteedt de grondlegger D.J. Fogg een hoofdstuk aan ethische aspecten van deze moderne technologie. De overtuigingskracht van deze technologie komt van de “traditionele reputatie die computers hebben intelligent en eerlijk te zijn, waardoor ze de indruk wekken een betrouwbare bron van informatie en advies te zijn.” (mijn vertaling). Dit is niet alleen problematisch en onethisch wanneer er bewust van deze traditionele eigenschap van de computer gebruikt wordt gemaakt om anderen te overtuigen. Het is veel bedenkelijker dat voor veel mensen hoe dan ook de uitvoer van een computer gezien wordt als betrouwbaar en waar. “De computer zegt het”. Dus is het zo.

Dit beeld ontleent de computer aan haar wetenschappelijk, intelligente karakter en met name aan de associatie met de wiskunde. Want, wat is er eerlijker dan de wiskunde? De onkritische houding tegenover de computer die gepaard gaat met een verkeerd idee van wat voor waarheid wiskundige waarheid is, is een ander belangrijk symptoom van technologitis.

Wie lijdt aan technologitis vergeet bij het gebruik van de computer dat de uitvoer van de machine afhankelijk is van de invoer en het programma, de wiskundige modellen. Men denkt dat de uitvoer van een computer het resultaat is van een berekening, alsof het om een rekensommetje gaat, zonder zich te realiseren dat ook de resultaten van een berekening bepaald worden door de invoer en de rekenregels. Wiskundige waarheden worden nog steeds gezien als absolute waarheden. Veel mensen geloven nog steeds in de absolute waarheid van, bijvoorbeeld, de bewering dat de som van de drie hoeken van een driehoek gelijk is aan die van twee rechte hoeken, of, ander voorbeeld: dat er door een punt buiten een rechte slechts één lijn gaat parallel aan de gegeven rechte. Helaas zijn dit halve waarheden. Niet alleen in de toegepast wiskunde, maar ook in de zuivere wiskunde, meetkunde, verzamelingenleer, heeft de waarheid een hypothetisch karakter: deze is afhankelijk van aannames, afspraken waarvan we aannemen dat ze consistent zijn. Mathematisme, de idee dat de werkelijkheid volledig door middel van wiskunde is te begrijpen en dat we in principe al het werk door AI kunnen laten doen, is een vaak voorkomend symptoom bij lijders aan technologitis. De ziekte is ook tot het domein van de rechtspraak doorgedrongen.

We constateerden dat de Belastingdienst ten gevolge van het ontstaan van een door nieuwe technologie ontstaan machtsvacuum op de stoel van de rechter is gaan zitten. Daarbij gebruikt ze als bewijs de resultaten van haar overtuigende technologie. Wat een bewijs is daarover heerst een misverstand, een ander aspect van de geestesziekte technologitis.

Het verschil tussen bewijzen en bewijzen

In het dagelijks leven zijn wij geneigd om genoegen te nemen met zwak bewijs.” stelt Peter van Koppen in Overtuigend bewijs: indammen van rechterlijke dwalingen. Naar aanleiding van gerechtelijke dwalingen als in de zaak Lucia de B. waarbij nogal wat fouten gemaakt werden in de toepassing van de kansrekening en statistiek werd er van diverse zijden op aangedrongen in de opleiding van rechters meer aandacht te besteden aan wiskundige theorieen over het redeneren met onzekerheid. Calculemus! sprak de rechtsgeleerde, wiskundige en filosoof Leibniz eeuwen geleden al enthousiast als hij was over de mogelijkheden van zijn calculator, de voorloper van onze rekenmachines. Met name werd veel verwacht van de toepassing van Bayesiaanse kansrekening in de rechtsspraak. Juristen en officieren van justitie hebben moeite met de wiskunde van Bayes. Dat ligt anders bij het NFI (het Nederlans Forensisch Instituut) waar ze Bayes toepassen bij het identificeren van sporenbronnen. In verschillende door NWO gefinancierde onderzoekprojecten zijn diverse methodes onderzocht die het redeneren ten behoeve van gerechtelijke uitspraken een wetenschappelijke onderbouwing moeten geven. De drie methodes zijn: Bayesiaanse statistiek, verhalen, en argumentatie. Van Koppen laat op basis van zijn rijke ervaring de tekortkomingen van deze methoden zien. Ze lijden alle drie aan een zwakte van de mathematische natuurwetenschappelijke methode van onderzoek doen. Die houden zich namelijk bezig met het ontdekken of opstellen van algemene regels en wetten. De rechter moet een redelijke bemiddeling vinden tussen enerzijds de algemene regels, de wetten en de door experts aangeleverde kennis en anderzijds de concrete feiten waarmee hij te maken heeft. Het toepassen van wetten en regels is juist niet in wetten en regels vast te leggen. Je kunt ze door een machine laten uitvoeren, maar die laat zich niet ter verantwoording roepen over de wijze waarop de dat ais ingevoerd. Dat blijft mensenwerk.

“Het strafrecht moet de burger beschermen tegen de staat”. Daar ligt volgens Van Koppen de belangrijkste taak van de rechter. Het lijkt ons goed dat de strafrechter onderzoek doet naar het onverantwoord handelen van de Belastingdienst, want de Belastingsdienst is ziek. Ze vertoont alle symptomen van technologitis, een wijdverbreide ziekte waar niet alleen de Belastingdienst onder lijdt. Maar of dat als verzachtende omstandigheid mag dienen?

Het ministerie van Financiën maakte eind mei bekend aangifte te doen tegen de Belastingdienst vanwege mogelijke misdrijven in de toeslagenaffaire. Het zou daarbij gaan om beroepsmatige discriminatie en het ambtsmisdrijf knevelarij. Dat laatste is het “vorderen of ontvangen van een betaling terwijl de ambtenaar weet dat die betaling niet verschuldigd is”. (NOS nieuws-22 mei 2020)

Hans van der Vlist, algemeen directeur van het FIOD, is inmiddels opgestapt. Aanleiding voor zijn vertrek is de toeslagenaffaire. In een mailtje aan alle FIOD-medewerkers zegt Van der Vlist dat hij op verzoek van de top van het ministerie van Financiën het veld ruimt. In de mail schrijft de FIOD-baas dat hij geen betrokkenheid, wetenschap en directe verantwoordelijkheid heeft gehad bij de behandeling van toeslagen. Aldus , het Onderzoekplatform Follow the Money.

Heling door bewustwording is overigens bij geestesziektes als technologitis belangrijker dan het aanwijzen van schuldigen.

Gezond maken begint bij het stellen van de juiste diagnose.

Bronnen

Colyan et al. (2001). Is it a crime to belong to a reference class? The Journal of Political Philosophy, Volume 2, Number 2, pages 168-181, 2001.

Published by

admin

Rieks op den Akker was onderzoeker en docent kunstmatige intelligentie, wiskunde en informatica aan de Universiteit Twente. Hij is gepensioneerd.

Leave a Reply