• Hoppa till huvudnavigering
  • Hoppa till huvudinnehåll
  • Hoppa till det primära sidofältet

Femte juli Nätet till folket!

Nätet till folket!

  • Om oss

AI Act

Faran med dåliga AI-system i statens tjänst

13 april 2022 av Henrik Alexandersson 1 kommentar

Myndigheters användning av AI för kontroll av medborgarna har redan fått förfärande konsekvenser. Nu vill EU:s franska ordförandeskap utöka användningen.

I Nederländerna använde skattemyndigheten en dålig självlärande algoritm för att komma till rätta med bidragsfusk bland barnfamiljer. Resultatet blev katastrofalt.

Tiotusentals oskyldiga familjer drabbades av stora återbetalningskrav, som ödelade deras ekonomier. Människor begick självmord. Tusentals barn togs ifrån sina familjer.

Nu har skattemyndigheten dömts till 3,7 miljoner euro i böter. Regeringen tvingades avgå. Och tiotusentals människor har fått sina liv ödelagda.

Det kan hända igen – Frankrike driver på.

Detta kan vara bra att känna till när EU nu är på väg att sjösätta sin AI Act. Hittills har man varit försiktig vad gäller att använda AI för brottsbekämpning, just på grund av att det ibland kan gå fruktansvärt fel.

Nu flaggar det franska EU-ordförandeskapet för en kursändring som leder till ökad användning av AI bland de rättsvårdande myndigheterna. Speciellt gäller detta polisens användning av biometrisk data.

Vilket i sin tur ligger helt i linje med EU:s långsiktiga ekonomiska stöd till system som samkör bland annat kameraövervakning med ansiktsigenkänning i realtid, övrig biometrisk data, AI-baserad beteendeanalys samt myndigheternas existerande och nya register. Redan för tio år sedan varnades för konsekvenserna av detta.

Inget datasystem är bättre än hur det utformas. Och självlärande AI-system tycks tendera att förvärra ogenomtänkt input över tid.

Som vanligt är det den som är oskyldig som har mest att frukta.

Länkar:
• Dutch scandal serves as a warning for Europe over risks of using algorithms »
• EU: AI Act: Plans to loosen controls on law enforcement use of artificial intelligence »

• Civil society calls on the EU to ban predictive AI systems in policing and criminal justice in the AI Act »

Arkiverad under: Dataskydd, EU, Länktips, Övervakning, Rättssäkerhet, Storebror Taggad som: AI, AI Act, Frankrike, Indect

Primärt sidofält

Nätfrihet och integritet!

Femte juli är en nätpolitisk nyhetssajt som står på internetanvändarnas sida. Läs mer.

Aktuellt från Twitter

Retweet on TwitterFemte juli Retweeted
BahnhofABOperatören Bahnhof@BahnhofAB·
25 maj

EU-kommissionen har lagt fram ett förslag om att all elektronisk kommunikation i unionen ska avkrypteras, övervakas och granskas i realtid. Erich Honecker hade rodnat av förtjusning. https://bahnhof.se/2022/05/25/eu-kommissionen-all-kommunikation-i-medlemslanderna-ska-overvakas/ #Chatcontrol

femtejuliFemte juli@femtejuli·
25 maj

GDPR fyller fyra år – men hur blev det egentligen? #GDPR https://femtejuli.se/2022/05/25/gdpr-fyller-fyra-ar-men-hur-blev-det-egentligen/ via @femtejuli

Retweet on TwitterFemte juli Retweeted
echo_pbreyerPatrick Breyer #JoinMastodon@echo_pbreyer·
25 maj

🇬🇧Belgium’s proposed #dataretention law blatantly violates ECJ case-law - another doomed attempt to justify collecting private data on the entire population. Blanket retention is NOT targeted!

Read on:https://www.patrick-breyer.de/en/tomorrow-belgian-mass-surveillance-proposal-on-data-retention/

Retweet on TwitterFemte juli Retweeted
dfri_se:DFRI@dfri_se·
25 maj

Gemensamt uttalande om farorna med förslaget av @EU_Commission @YlvaJohansson till #CSAM förordning för att bekämpa sexuella övergrepp mot barn på nätet: https://www.dfri.se/gemensamt-uttalande-om-farorna-med-eus-forslag-till-forordning-for-att-bekampa-sexuella-overgrepp-mot-barn-pa-natet-csam/ Fler svenska organisationer välkomnas gå med.
#GlobalEncryption #EUvsChildSexualAbuse #MaketheSwitch

Retweet on TwitterFemte juli Retweeted
kkomaitisKonstantinos Komaitis/Κωνσταντίνος Κωμαϊτης, PhD@kkomaitis·
25 maj

Germany speaks up against #CSAM and #chatcontrol! The Commission must retract its proposal immediately and even apologise for even thinking to put forward such an unapologetically undemocratic proposal! https://www.bild.de/politik/inland/politik-inland/ministerin-faeser-frauen-werden-umgebracht-weil-sie-frauen-sind-80165048.bildMobile.html?wtmc=twttr.shr

Prenumerera på inlägg

Loading

Senaste inlägg

  • GDPR fyller fyra år – men hur blev det egentligen?25 maj 2022
  • ChatControl: Nu skall innehållet i alla dina meddelanden granskas (video)24 maj 2022
  • Tyskland stoppar EU:s ChatControl?23 maj 2022
  • EU avskaffar rätten till privat korrespondens19 maj 2022
  • EU gör Europol till ett europeiskt NSA17 maj 2022

Senaste kommentar

  1. ChatControl: Nu skall innehållet i alla dina meddelanden granskas (video) om EU avskaffar rätten till privat korrespondens24 maj 2022

    […] Läs mer här » | Youtube » […]

CC BY 4.0 · Logga in

  • Soundcloud
  • Youtube
  • Twitter
  • RSS