• Hoppa till huvudnavigering
  • Hoppa till huvudinnehåll
  • Hoppa till det primära sidofältet

Femte juli Nätet till folket!

Nätet till folket!

  • Om oss

Faran med dåliga AI-system i statens tjänst

13 april 2022 av Henrik Alexandersson 1 kommentar

Myndigheters användning av AI för kontroll av medborgarna har redan fått förfärande konsekvenser. Nu vill EU:s franska ordförandeskap utöka användningen.

I Nederländerna använde skattemyndigheten en dålig självlärande algoritm för att komma till rätta med bidragsfusk bland barnfamiljer. Resultatet blev katastrofalt.

Tiotusentals oskyldiga familjer drabbades av stora återbetalningskrav, som ödelade deras ekonomier. Människor begick självmord. Tusentals barn togs ifrån sina familjer.

Nu har skattemyndigheten dömts till 3,7 miljoner euro i böter. Regeringen tvingades avgå. Och tiotusentals människor har fått sina liv ödelagda.

Det kan hända igen – Frankrike driver på.

Detta kan vara bra att känna till när EU nu är på väg att sjösätta sin AI Act. Hittills har man varit försiktig vad gäller att använda AI för brottsbekämpning, just på grund av att det ibland kan gå fruktansvärt fel.

Nu flaggar det franska EU-ordförandeskapet för en kursändring som leder till ökad användning av AI bland de rättsvårdande myndigheterna. Speciellt gäller detta polisens användning av biometrisk data.

Vilket i sin tur ligger helt i linje med EU:s långsiktiga ekonomiska stöd till system som samkör bland annat kameraövervakning med ansiktsigenkänning i realtid, övrig biometrisk data, AI-baserad beteendeanalys samt myndigheternas existerande och nya register. Redan för tio år sedan varnades för konsekvenserna av detta.

Inget datasystem är bättre än hur det utformas. Och självlärande AI-system tycks tendera att förvärra ogenomtänkt input över tid.

Som vanligt är det den som är oskyldig som har mest att frukta.

Länkar:
• Dutch scandal serves as a warning for Europe over risks of using algorithms »
• EU: AI Act: Plans to loosen controls on law enforcement use of artificial intelligence »

• Civil society calls on the EU to ban predictive AI systems in policing and criminal justice in the AI Act »

Dela

Dela på Facebook Dela på Twitter Dela på Reddit Dela på E-post

Arkiverad under: Dataskydd, EU, Länktips, Övervakning, Rättssäkerhet, Storebror Taggad som: AI, AI Act, Frankrike, Indect

Läsarkommentarer

Kommentarer

  1. Pewe säger

    13 april 2022 kl. 22:34

    Du ska nog vara tydlig med att algoritmen i sig troligen inte är dålig utan snarare underlaget den fått för att lära upp sig. Det finns ganska få sätt att implementera en AI men desto fler sätt att träna den och underlaget för att träna dem är oftast dåligt till uselt, därför är det så otroligt viktigt att om en myndighet vill driftsätta en AI att befolkningen inte bara har tillgång till algoritmen utan även underlaget för träning och parametrarna man satt för att träna den, utan den infon kan man aldrig replikera AI’n och därför aldrig avgöra var problemet ligger.
    Politiker bör hålla sig till att stifta lagar och myndigheterna till att efterfölja dem inom de ramarna politikerna sagt att lagarna avgränsas av, AI varken bör eller skall implementeras i oficiella system som är styrda av lag.

    Svara

Lämna ett svar till Pewe Avbryt svar

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *

Denna webbplats använder Akismet för att minska skräppost. Lär dig hur din kommentardata bearbetas.

Primärt sidofält

Nätfrihet och integritet!

Femte juli är en nätpolitisk nyhetssajt som står på internetanvändarnas sida. Läs mer.

Aktuellt från Twitter

femtejuliFemte juli@femtejuli·
23 jun

EU-förslag: 18-årsgräns för alla meddelandeappar #CharControl https://femtejuli.se/2022/06/23/eu-forslag-18-arsgrans-for-alla-meddelandeappar/ via @femtejuli

femtejuliFemte juli@femtejuli·
23 jun

Att lyssna till på vägen till midsommarfirandet: Chat Control is a stupid and dangerous idea (feat. MEP Patrick Breyer) https://youtu.be/2x-K6LVIhNA via @YouTube

Retweet on TwitterFemte juli Retweeted
petterkar1ssonPetter Karlsson@petterkar1sson·
23 jun

Goda synpunkter av @mattias_neo gällande den nya postlagen som ställer postanställda vid fronten i kriget mot narkotikan.

Retweet on TwitterFemte juli Retweeted
accessnowAccess Now@accessnow·
23 jun

Singapore’s Minister for Comms & Info @joteo_ylm says the gov’t is proposing 2 new "Online Safety Codes" that would let authorities control social media content even more — jeopardizing people's rights.

This is building on a alarming regional trend ⬇️ https://www.techinasia.com/singapore-proposes-content-regulation-laws

Retweet on TwitterFemte juli Retweeted
TheHackersNewsThe Hacker News@TheHackersNews·
23 jun

Update — According to a new report by #Microsoft, Russian hackers have targeted 128 targets since the start of the war, including governments, think tanks, businesses, and aid organizations in 42 countries that support Kiev.

https://thehackernews.com/2022/06/russian-hackers-exploiting-microsoft.html

#infosec #hacking https://twitter.com/TheHackersNews/status/1539592006703276032

Prenumerera på inlägg


Loading

Senaste inlägg

  • EU-förslag: 18-årsgräns för alla meddelandeappar23 juni 2022
  • Chat Control är en idiotisk och farlig idé22 juni 2022
  • EU-domstolen: Sluta med urskiljningslös lagring av data om våra resor inom EU21 juni 2022
  • Nu klubbas EU:s Digital Services Act15 juni 2022
  • Så skapas EU:s nät- och övervakningslagar14 juni 2022

Senaste kommentar

  1. EU-förslag: 18-årsgräns för alla meddelandeappar om EU avskaffar rätten till privat korrespondens23 juni 2022

    […] Läs mer:• Chat Control – The End of the Privacy of Digital Correspondence »• EU avskaffar rätten till privat…

CC BY 4.0 · Logga in

  • Soundcloud
  • Youtube
  • Twitter
  • RSS