De sleepwet: meer legale ruimte voor predictive policing

Predictive policing: voorkomen door te voorspellen

Een strategie waar de politie voor de misdaadbestrijding steeds meer op inzet is “voorkomen door voorspellen”: predictive policing. Door informatie te verzamelen over het (internet)gedrag van mensen en organisaties en die data op een slimme manier in een model te gieten kun je machines trainen om op basis van die data misdaden te voorspellen.  Die data heet “big data’’ omdat het veel is, de wetenschap heet data science, de techniek heet machine learning of social signal processing, en het product heet AI, artificiele of kunstmatige intelligentie, machines die situaties, personen, gedrag kunnen classificeren. De datamining technieken die gebruikt worden voor predictive policing zijn dezelfde als die door adverteerders en bedrijven als Cambridge Analytica gebruikt worden voor microtargeting: door te kijken wat iemand op het internet doet kun je voorspellen waarin iemand geinteresseerd is en of hij of zij gevoelig is voor bepaalde informatie.

De nieuwe wet geeft de AIVD en de MIVD ruimere mogelijkheden om alle vormen van communicatie af te luisteren (telefoontaps, social media, e-mails, etc) of in te breken indien ze dat voor de uitvoering van hun taken nodig achten. Ze kan internetproviders verplichten medewerking te verlenen. Samenwerking tussen de diensten en Nationale Politie, de Belastingdienst (FIOD) zijn in de wet geregeld. De wet biedt daarmee meer legale ruimte voor het verzamelen en verwerken van persoonlijke gegevens ten behoeve van predictive policing. De wet regelt beter dan de oude wet (2002) het toezicht, de controle, evaluatie en klachtenbehandeling.  Althans op papier. De vraag is hoe dat in de praktijk zal gaan. De verantwoordelijke Ministers van Binnenlandse Zaken en Defensie en de toezichthouders zijn afhankelijk van kennis en informatie. Daar zitten de pijnpunten.

Predictive policing is erop gericht de samenleving bedreigende criminele aktiviteiten te voorkomen door gebruik te maken van signalen die wijzen op de mogelijkheid dat die er aan staan te komen. Rutger Rienks schreef daar een rapport over namens de Nationale Politie: “Predictive Policing: kansen voor een veiliger toekomst.’’ (uitgave PolitieAcademie, 2015).

In het voorwoord van Rienks’ boek over Predictive Policing wordt de lezer uitgenodigd bij te dragen aan de discussie over de wenselijkheid van deze nieuwe policy die inmiddels al landelijk is “uitgerold’’. Hoewel Rienks ook aandacht besteed aan ethische bezwaren van predictive policy (big brother is watching you) is hij een enthousiast voorstander.

``Soms wordt aan mij de vraag gesteld of ik predictive policing wel een goede ontwikkeling vind. ‘Nou en of!’, zeg ik dan. Wie kan er nou op tegen zijn dat een politieapparaat beter zijn werk doet? Ieder slachtoffer van wat voor misdaad ook wil immers toch niets liever dan dat de misdaad waaraan hij of zij is blootgesteld voorkomen. Discussies over ethische kwesties en het recht op privacy van de burger versus de inbreuk hierop van de overheid spelen hierbij natuurlijk wel een belangrijke rol. Kijk alleen maar naar het feit dat er wetten worden gemaakt die voorschrijven wat wel en niet toelaatbaar is. Dit is van directe invloed op de effectiviteit van het apparaat.’’

Het is duidelijk waar het probleem zit: enerzijds wil je als burger geen slachtoffer worden van criminaliteit, of dat nu een terreur-aanslag is, een overval, inbraak, illegale vuilstort, of internetfraude. Je wilt dat proberen te voorkomen. Je wilt de politie zoveel mogelijk middelen in handen geven hun werk goed te doen. Anderzijds wil je ook niet dat je voortdurend in de gaten wordt gehouden door politie en veiligheidsdiensten. Iedereen is voor de waakzame veiligheidsdienst immers potentieel verdachte; de een misschien iets meer dan de ander. Bij velen heerst de vraag of we de diensten niet te veel ruimte bieden en hoe het gebruik daarvan gecontroleerd kan worden. Het is van zeer groot belang dat we als burgers vertrouwen hebben in de overheid en haar veiligheidsdiensten. Maar vertrouwen moet niet blind zijn; het moet gebaseerd zijn op inzicht in de capaciteiten van deze diensten en de politiek.

Is het verantwoord de veiligheidsdiensten en de verantwoordelijke ministers de middelen die de nieuwe wet biedt in handen te geven? Zijn er voldoende mogelijkheden ingebouwd voor toezicht en kritische evaluatie van het werk van de veiligheidsdiensten? Ik heb daar een aantal bedenkingen bij.

Informatie delen is geen gemeengoed in het veiligheidsdomein.

Voorstanders van de wet wijzen erop dat er voldoende toezicht is ingebouwd in het systeem om op een verantwoorde manier met de middelen om te gaan. Om dat toezicht te kunnen houden en om kritisch het gedrag van de diensten te kunnen evalueren is informatie nodig. Uit ervaring weten we dat het heel lastig is om bij een vermoeden van onrechtmatig handelen de nodige informatie boven tafel te krijgen.  Dat geldt ook bij controle van overheidsdiensten door de politiek. Het veiligheidsdomein is typisch een domein waarin men uiterst terughoudend is met het verstrekken van informatie. Dat maakt dat het houden van toezicht lastig is. De tekst van de wet getuigt weliswaar van de zorg om toezicht op naleving van de wet door de diensten, dat geeft echter geen garantie voor de praktijk.  Bovendien kent de wet noodzakelijkerwijs formuleringen die dermate vaag zijn (zoals:  “een goede taakuitvoering van de dienst”) dat het moeilijk is in concrete gevallen het eens te worden of wel of niet volgens de wet gehandeld is. Mogen we van iemand die op basis van partijpolitieke overwegingen Minister van Defensie is verwachten dat deze in staat is kritisch te staan tegenover het hoofd van de dienst? De wet biedt geen garantie voor een kritische toetsing door onafhankelijke partijen.

Toezicht en evaluatie (rapportage en klachtenafhandeling) vereisen niet alleen kennis en informatie van de processen maar ook kennis van de gebruikte tools. Dat brengt me op het tweede pijnpunt.

Verantwoord omgaan met artificial intelligence vraagt om een kritische houding ten aanzien van de mogelijkheden daarvan

Predictive policing, de strategie die in Nederland over alle korpsen is uitgerold, zal steeds meer gebruik maken van nieuwe technologie gebaseerd op methoden voor data analyse: machine learning. Inzet van politie is gebaseerd op voorspellingen die niet meer afhangen van een of ander Orakel van Delphi maar op resultaten van de “rationele wetenschappen’’ zoals de lector Intelligence van de Nationale Politie in haar voorwoord van het rapport over Predictive Policy schrijft. De “rationele wetenschap’’ en haar intelligente producten hebben in de ogen van veel mensen de voorspellende rol van de Griekse Goden overgenomen als het gaat om raadgevend advies. Als wetenschapper met vele jaren ervaring met onderzoek op het gebied van de wiskunde, informatica, machine learning en social signal processing deel ik het enthousiasme voor het bedrijven van wetenschappelijk onderzoek. Maar ik ken ook de beperkingen bij de toepassing in de praktijk. Predictive policing maakt gebruik van resultaten van onderzoek in de vorm van op data modellen gebaseerde procedures die voorspellingen doen. In principe komt het neer op het classificeren van gegevens op grond van een (soms) groot aantal kenmerken.  Geen enkele procedure zegt echter of een methode in een specifieke situatie tot de juiste voorspelling leidt. Geen enkele methode kan informatie geven over de betrouwbaarheid van de voorspellingen in een specifieke situatie. Het enige wat de wetenschap kan bieden is statistieken, gemiddelde verwachtingswaarden en kansuitspraken zoals “de kans dat de inwoner van deze wijk in deze stad een schuld heeft is zeventig procent’’. Of: “de kans dat dit lid van deze motorclub betrokken is bij criminele aktiviteiten is zoveel procent.’’  Ook betrouwbaarheidsmaten, door de wet verplicht, zijn gemiddelden. Bovendien zijn statistische modellen altijd gebaseerd op geselecteerde data.  De bias van die data is vaak onbekend bij de gebruikers van de technologie. Rienks kent zijn klassieken en heeft ongetwijfeld kennis genomen van de klassieke retorica: “Hoe veilig zou het zijn als de politie alles van te voren wist en alle vormen van criminaliteit zou kunnen voorkomen?’’. Dan kent hij ook de passage uit de Rhetorics van Aristoteles: “no art has the particular in view.’’ De wetenschap gaat niet over individuen, maar over klassen van individuen. “The particular is infinite and cannot be the subject of true science.’’ (Rhetoric I, II, 11-13).

Dit inzicht wordt een paar duizend jaar later, wanneer de statistiek zijn intrede heeft gedaan in de wetenschap, door Venn verwoord als  het Probleem van het Unieke Geval: “Every single thing or event has an indefinite number of properties or attributes observable in it, and might therefore be considered as belonging to an indefinite number of different classes of things.’’.  Sinds Reichenbach staat dit lastige probleem in de statistiek bekend als het Probleem van de Referentieklasse.  Het kiezen van de juiste referentieklasse om relevante voorspellingen te kunnen doen is een serieus probleem. Het speelt overal waar we proberen uitspraken te doen over een concrete unieke zaak op basis van statistieken. Een voorbeeld uit de rechtspraak is de zaak Shonubi een Nigeriaanse drugssmokkelaar die in de VS werd opgepakt en veroordeeld. Een artikel van Colyan et al. (2001) over deze zaak heeft de veelzeggende titel: Is it a crime to belong to a reference class? (The Journal of Political Philosophy, Volume 2, Number 2, pages 168-181).  Op grond van welke statistieken mag de rechter zijn strafmaat bepalen? Kun je in situaties die zich nu voordoen voorspellingen doen op basis van gegevens van anderen, en van oude data? In het statistisch universum is altijd alles als vanouds, zo is de aanname. Eens een gegeven blijft gegeven. Persoonlijke data blijft ons achtervolgen. Dat is de grote makke van op data gebaseerde systemen.

Op grond van welke referentieklassen doet de machine een uitspraak over bepaald gedrag, een  persoon of situatie? Intelligentie is het vermogen om in een concrete situatie in te zien wat het geval is en waar het om gaat om op grond van dat inzicht een besluit te nemen. Sommige mensen zijn van mening dat dit vermogen volledig door machines kan worden overgenomen omdat het zich in procedures en statistieken zou laten uitdrukken. Dat het nog niet altijd lukt is volgens hen een kwestie van tijd. Deze houding leidt tot een kritiekloos geloof in de uitvoer van de machine. “Machines zijn of worden binnenkort slimmer dan mensen’’ is een vaak gehoorde kreet in deze geloofsgemeenschap. Rienks: “Dat machines inderdaad slimmer worden dan mensen is niet onwaarschijnlijk.’’ De vraag is wie dat beoordeelt. Laten we dat oordeel over aan die intelligente machines of aan de makers van de machines?

De vraag is of de veiligheidsdiensten en de politiek voldoende doordrongen zijn van het inzicht in de beperkingen van de gebruikte technologie en daar in de praktijk ook naar handelen. Het geloof in de autonomie van de technologie staat een kritische houding ten aanzien van het gebruik in de weg. Verantwoordelijkheid voor beslissingen wordt afgeschoven op de gebruikte technologie.

Commercialisering van AI staat kritisch toezicht in de weg

De VS loopt voorop als het gaat om predictive policing.  CompStat wordt al sinds de jaren negentig in de VS gebruikt. In diverse staten wordt gebruikt gemaakt van Stingray devices voor het heimelijk tracen van mobiele telefoons. Critici in de VS wijzen op de gevaren die het gebruik van commerciele tools met zich mee brengt.

Conventional wisdom assumes that the police are in control of their investigative tools. But with surveillance technologies, this is not always the case. Increasingly, police departments are consumers of surveillance technologies that are created, sold, and controlled by private companies. These surveillance technology companies exercise an undue influence over the police today in ways that aren’t widely acknowledged, but that have enormous consequences for civil liberties and police oversight. (Elizabeth Joh in:  “The Undue Influence of Surveillance technology Companies on Policing’’ (2017))

De vraag is of de wet voldoende waarborgen biedt tegen het afsluiten van non-disclosure agreements met commerciele partijen die de tools leveren. Gezien de belangen van de markt is tevens de vraag hoe betrouwbaar productinformatie is. Het achterhouden van informatie of zelfs het verspreiden van onjuiste informatie maakt de taak van de toezichthouder er niet eenvoudiger op.

Naar een toekomst zonder criminaliteit?

Hoe mooi zou het zijn als we de toekomst konden voorspellen?’’ Het is lastig om te voorspellen waar predictive policing in de toekomst toe leidt en hoeveel macht we de politie en de inlichtingendiensten moeten geven. Welke scenario’s staan ons voor ogen? Op grond van het verleden hoeven we niet te verwachten dat criminele aktiviteiten uitroeibaar zijn. Wat we wel mogen verwachten is dat de bad guys, “onze’’ vijanden, over dezelfde middelen (gaan) beschikken als “wij’’, de “good guys’’ van onze veiligheidsdiensten. Wat we ook kunnen verwachten is dat onze diensten ten behoeve van haar taakuitvoering het de media, die een belangrijke rol speelt bij het aankaarten van mistoestanden, lastig zal maken bij het verzamelen van informatie over hun aktiviteiten. Eventueel door het verspreiden van fake data om de aandacht van de echte gebeurtenissen af te leiden. Journalisten zijn, evenals artsen en advocaten, kritisch over de nieuwe wet, omdat ze vertrouwelijke informatie moeten verstrekken. Wanneer “onze veiligheid” daar om vraagt. Nepnieuws en fake data zijn sowieso een bedreiging voor de effectiviteit van processen die gebaseerd zijn op data verkregen uit sociale netwerken. Hoe echt zijn de gegevens, teksten, fotoos, video-beelden, die via de media verspreid worden? Zijn we nog wel in staat fake data van echte data te onderscheiden?

Een niet te keren ontwikkeling?

Predictive policing is een haast niet te keren ontwikkeling ondanks het feit dat er bij een pilotevaluatie in 2017 geen positief resultaat werd gemeten. In het evaluatierapport “Predictive policing: lessen voor de toekomst: een evaluatie van de landelijke pilot” schrijven  Bas Mali, Carla Bronkhorst-Giesen en Mariëlle den Hengst in de conclusies:

Aanwijzingen dat predictive policing uiteindelijk leidt tot minder
(stijgende) criminaliteit hebben we niet kunnen vinden. De afstand tussen wat predictive policing kan zijn en wat het in de praktijk is, is dus groot.”

Waarom dan toch dat enthousiasme bij de politie voor predictive policing?

“Gegeven de professionalisering en positionering van IGP en de informatieorganisatie bij de politie is predictive policing een logische stap. De technologische ontwikkelingen en de steeds verdere informatisering van de samenleving maken ook dat dit soort ontwikkelingen, waarbij data meer en meer een rol spelen bij de keuzes in de uitvoering van het werk, niet meer weg te denken zijn.”

De drijvende kracht is het wijdverbreide en overheersende geloof in de informatisering, automatisering en slimme algoritmes gebaseerd op big data. Kortom: we moeten wel mee met de kudde. Crime wordt steeds meer cybercrime met inzet van AI van zowel de good guys als van de bad guys. Dat lijkt de onvermijdelijke toekomst waarin het zicht op de werkelijkheid steeds meer door big data en virtuele modellen wordt ontnomen. “Wij meten  niet; wij rekenen met modellen.”

Moeten we onze inspanningen niet meer richten op andere manieren om criminaliteit te voorkomen dan het stiekem afluisteren van burgers, artsen, advocaten, journalisten, politici, medewerkers van de politie, wellicht? Bijvoorbeeld door een open dialoog. “Ik praat liever met anderen dan dat ik ze afluister” zei Rob Bartholee van de AIVD. Dat lijkt me een goed uitgangspunt.

 

Published by

admin

Rieks op den Akker was onderzoeker en docent kunstmatige intelligentie, wiskunde en informatica aan de Universiteit Twente. Hij is gepensioneerd.