Boeven vangen met een algoritme

Voorspellend politiewerk versterkt etnisch profileren. De minister van V&J moet stappen nemen om dit te voorkomen.

vrijdag 2 september 2016

De politie in de VS gebruikt software die misdaad kan voorspellen. Aan de hand van historische criminaliteitsstatistieken wordt de politie ingezet: in een bepaalde buurt, op een bepaalde tijd, bij bepaalde voertuigen, bij bepaalde personen.

Alleen in de VS? Nee, deze zomer stond er een interessant stuk in de Groene Amsterdammer waaruit bleek dat de Nederlandse politie interesse heeft in dezelfde software die in Amerika gebruikt wordt.

In dit artikel wordt ook een onderzoek van de Wetenschappelijke Raad voor het Regeringsbeleid besproken. Die waarschuwen voor de self fulfilling prophecy die ontstaat bij predictive policing: “Een wijk waarin veel gesurveilleerd wordt, zal prominenter terugkomen in de criminaliteitscijfers. De extra aandacht vergroot de bestaande problemen verder uit, hetgeen weer de basis voor nieuw beleid kan zijn, dat op zijn beurt het (negatieve) beeld verder versterkt.”

De baas van PredPol, een bedrijf dat deze software maakt, zegt hierover tegen de Groene: “Burgers doen aangifte van misdaad bij de politie. Als de politie die gegevens vervolgens gebruikt om preventief in bepaalde buurten te surveilleren en daarmee een buurt veiliger te maken, doet ze toch precies wat de maatschappij vraagt?”

Het probleem is dat de maatschappij, de burgers, een vat met vooroordelen zijn. Het gevolg daarvan is dat Nederlanders met een migrantenachtergrond vaker gecontroleerd worden (tekst gaat door na video).

In een artikel in de Guardian deze week uiten burgerrechten organisaties dezelfde kritiek op predictive policing. De ACLU zegt: “Data on where crime occurs is dependent in part on when and where crime is reported and in part on where the police deploy to find crime.” Het Center for Media Justice laat aan de Guardian weten: “Biases are built into the enforcement strategies that generated the data in the first place.”

Het artikel in de Guardian verwijst ook naar een onderzoek van Upturn waarin staat dat “conscientious application of data” kan helpen om politiewerk te verbeteren”, maar dat “we found little evidence that today’s systems live up to their claims, and significant reason to fear that they may reinforce disproportionate and discriminatory policing practices.”

Als etnisch profileren het gevolg is van predictive policing, dan is het cruciaal dat de Nederlandse plannen voor voorspellende software publiek worden. Er lopen pilots, er worden gesprekken gevoerd, er wordt onderzoek gedaan: toch is er geen openheid. Volgens de Groene Amsterdammer zijn meerdere interview verzoeken afgewezen, en is predictive policing “in nevelen gehuld”. Het is aan de politie, en met name de minister van Veiligheid en Justitie om hierover een boekje open te doen.

Beste Kamerleden, help de minister een handje: welke algoritmen worden gebruikt in de voorspellende software, en welke waarborgen worden ingebouwd om etnisch profileren te voorkomen?

« Meer blogs