Amnesty publiceert rapport over geautomatiseerde risicoprofilering

Als casus wordt gekeken naar het project in Roermond waar we al jaren zorgen over hebben

dinsdag 29 september 2020

Korte samenvatting
Het rapport gaat over predictive policing, of in het Nederlands: geautomatiseerde risicoprofilering. Als casus wordt gekeken naar het project in Roermond waar we al jaren zorgen over hebben. Amnesty zegt dat er sprake is van massa surveillance, discriminatie, misbruik van bevoegdheden en dat het project geen wettige grondslag heeft. Slechts 17% van de verdachten in Roermond heeft een Oost-Europese nationaliteit. Toch is het project er helemaal op ingericht om mensen met Oost-Europese nationaliteit te pakken

Onze analyse van het rapport
Het eerste hoofdstuk beschrijft hoe de ‘proeftuin’ in Roermond werkt: met verschillende camera’s monitort de politie alle inkomende auto’s uit Duitsland/Oost-Europa. Er wordt gekeken naar het kenteken, de kleur van de auto, of een huurauto is en het aantal inzittenden. Als er een hit is, kan dat leiden tot een controle. In dat geval wordt de hit opgeslagen in BVH, en ontstaat er een link tussen het kenteken en mobiel banditisme. Dat leidt weer tot meer hits (en dus controles) in de toekomst.

De focus ligt voor 100% op het tegengaan van winkeldiefstal en zakkenrollen door ‘mobiele bandieten’. In hoofdstuk 3 wordt geciteerd uit een analyse van de politie, wat er wordt verstaan onder mobiel banditisme: “Vooral Roemeense en Bulgaarse criminele netwerken, waaronder veel zigeuners (vooral Roma) [houden] zich onder meer met oplichting bezig.” Opvallend, zegt Amnesty, want de politie houdt geen data bij over afkomst van verdachten. Wat blijkt: de politie baseert zich op Roemeense en Bulgaarse politierapporten, waarin staat dat zakkenrollers vaak Roma zijn (zelfs in 90% van alle gevallen, volgens de Bulgaarse politie). Maar, in het eerste hoofdstuk schrijft Amnesty: “in the internal study, the police detail the nationality of suspects. The numbers show that the more than half (around 58 %) of those suspects are individuals of Dutch nationality, and that around 17% of the total number of suspects are individuals with an Eastern European nationality.“

Kortom: slechts 17% van de verdachten in Roermond heeft een Oost-Europese nationaliteit. Toch is het project in Roermond er helemaal op ingericht om mensen met een Oost-Europese nationaliteit “te pakken”. Alle andere nationaliteiten vallen gewoon buiten de scope van het project. Dat alleen al is een discriminerende keuze. Hoofdstuk 3 gaat hier uitgebreid op in en Amnesty heeft er een mooie naam voor: bias by design. Geen vooroordelen dus: de hele opzet van het project is biased.

Conclusie Amnesty
Volgens Amnesty is er sprake van discriminatie ‘under the international human rights framework’. Er wordt ook beargumenteerd dat het EU-recht geschonden wordt door systematisch data te verzamelen over onderdanen van andere lidstaten. Amnesty sluit af met de conclusie dat er geen transparantie is en dat er geen verantwoording wordt afgelegd over wat de politie doet.

In het rapport heeft Amnesty ook een hele lijst met aanbevelingen. De aanbevelingen zijn gericht tot de politie (stop het project! Stop massa surveillance!), de wetgever (verbied werken met algoritmen zolang er geen waarborgen zijn) en de autoriteit persoonsgegevens (onderzoek dit en vergelijkbare politieprojecten).

Illustratie door Veerle van Herk