Här är ett lästips: My sons were profiled by a racist predictive policing system — the AI Act must prohibit these systems »
Historien kommer från Nederländerna och det är en mor som berättar hur hennes söner hamnat på en lista över potentiella brottslingar – genom att myndigheterna samlar in stora mängder information från skolan och andra sammanhang. Information som ibland pekar helt fel.
Speciellt kafka-artat blir det när en av de faktorer som vägs in är kontakter med polisen – och att dessa kontakter (ID-kontroller etc.) är konsekvensen av att objektet finns på listan i fråga.
På så sätt blir systemet självförstärkande även om det är inne på helt fel spår.
Resultatet blir hembesök av polisen, opåkallad arrestering och annan kränkande behandling som knappast stärker den utsattes känsla av samhörighet med samhället i övrigt.
Detta är inte första gången holländska datasystem utpekar oskyldiga människor som brottsliga.
