Nederland behoort tot de wereldtop van misbruikers van ‘slimme’ technologie. Het nieuwste voorbeeld is de zogeheten Top 400-lijst van de gemeente Amsterdam, waarop jongeren staan van wie de gemeente denkt dat zij in de toekomst zware criminelen kunnen worden. Dit schandaal lijkt regelrecht uit de scifi-film Minority Report te komen. De gemeente Amsterdam experimenteert met ‘algoritmen’ (risicoclassificatiemodellen) om te bepalen wie er op deze zwarte lijst moeten komen. Jongeren die op de lijst belanden staan minimaal twee jaar onder toezicht van de politie, zelfs als zij nog geen strafbaar feit gepleegd hebben. Dit staat bekend als predictive policing en is pure kwakzalverij.
Het meest waardeloze van de in Amsterdam gebruikte risicoclassificatiemodellen is door de politie ontwikkeld en heet ProKid . Op aangeven van deze tool werden in juli 2016 125 jongeren op de Top 400-lijst geplaatst. Hoe dubieus het gebruik van ProKid was, is te zien aan het feit dat ambtenaren het dringende advies kregen om in gesprekken met ouders van de geselecteerde jongeren te verzwijgen dat dit risicoclassificatiemodel de reden was dat hun kind als toekomstige zware crimineel gezien werd.
ProKid is daarna niet meer gebruikt voor de Top 400. In een brief aan de Amsterdamse gemeenteraad schrijft burgemeester Femke Halsema dat dat is omdat de “complexe weging van verschillende risicofactoren vrij technisch en daarmee moeilijk uit te leggen” was aan betrokkenen. Onzin natuurlijk. Wat niet uit te leggen is, is dat een jongere vandaag als crimineel behandeld wordt omdat een computer ‘voorspelt’ dat die jongere mogelijk, ergens in de toekomst, een ongespecificeerd strafbaar feit zal plegen.
Ondanks het mislukte experiment maakt Halsema in haar brief reclame voor ProKid . Zo noemt ze dit risicoclassificatiemodel “wetenschappelijk gevalideerd”. Ze verwijst hierbij naar een Nederlandstalig rapport uit 2016 van de Radboud Universiteit. Dit rapport is onvindbaar.
Wel vond ik een wetenschappelijk artikel uit 2017 van de politie en de Radboud Universiteit over ProKid in het internationaal laag aangeschreven Journal of Criminological Research, Policy and Practice.
Ik viel van mijn stoel toen ik het las. Halsema stelt in haar brief dat ProKid “inschat welke jongeren doorgroeien in de (zware) criminaliteit”, maar volgens het artikel identificeert ProKid slechts een “hogere kans om later geregistreerd te worden als verdachte”. Niet alleen is een verdachte niet hetzelfde als een dader, Halsema ziet zelfs mogelijk toekomstige verdachten al als daders.
En hoe goed doet ProKid het eigenlijk? Eind mei 2016, vlak vóórdat het ProKid -experiment in Amsterdam begon, meldde Trouw al dat een eerdere evaluatie liet zien “dat in een derde van de gevallen onterecht een kind was aangemerkt als risicogeval”. Dat is onacceptabel slecht voor zo’n zware verdachtmaking.
Als echte kwakzalvers hebben de politie en de gemeente Amsterdam het onmogelijk voor zichzelf gemaakt om deze fout te zien. Als een Top 400-jongere geen misdrijf pleegt, dan claimen ze dat hun aanpak succesvol is. En als die dat wel doet, claimen ze dat hun voorspelling goed was.
In plaats van een permanent eind te maken aan deze predictive policing gaat de politie dan ook doodleuk verder met ProKid . In 2023 starten er in Oost-Nederland twee nieuwe proeven mee. Wie beschermt de jeugd tegen dit onethische geëxperimenteer?
Ilyaz Nasrullah is consulent digitale strategie. Hij schrijft om de week een column voor Trouw. Lees ze hier terug.
Wie beschermt de jeugd tegen onethische politie-experimenten?
Nederland behoort tot de wereldtop van misbruikers van ‘slimme’ technologie. Het nieuwste voorbeeld is de zogeheten Top 400-lijst van de gemeente Amsterdam, waarop jongeren staan van wie de gemeente denkt dat zij in de toekomst zware criminelen kunnen worden. Dit schandaal lijkt regelrecht uit de scifi-film Minority Report te komen. De gemeente Amsterdam experimenteert met ‘algoritmen’ (risicoclassificatiemodellen) om te bepalen wie er op deze zwarte lijst moeten komen. Jongeren die op de lijst belanden staan minimaal twee jaar onder toezicht van de politie, zelfs als zij nog geen strafbaar feit gepleegd hebben. Dit staat bekend als predictive policing en is pure kwakzalverij.
Het meest waardeloze van de in Amsterdam gebruikte risicoclassificatiemodellen is door de politie ontwikkeld en heet ProKid . Op aangeven van deze tool werden in juli 2016 125 jongeren op de Top........
© Trouw
visit website
login
who are we?
contact us
qosheapp
Toi Staff
Gideon Levy
Yara Hawari
Patrick Gathara
Marwan Bishara
Andrew Mitrovica
Tafi Mhaka
Jan Egeland
Hipolitus Wangge
Julie Bindel
Priyamvada Gopal
Mawlawi Amir Khan Muttaqi
