• Hoppa till huvudnavigering
  • Hoppa till huvudinnehåll
  • Hoppa till det primära sidofältet

Femte juli Nätet till folket!

Nätet till folket!

  • Om oss

Faran med dåliga AI-system i statens tjänst

13 april 2022 av Henrik Alexandersson 1 kommentar

Myndigheters användning av AI för kontroll av medborgarna har redan fått förfärande konsekvenser. Nu vill EU:s franska ordförandeskap utöka användningen.

I Nederländerna använde skattemyndigheten en dålig självlärande algoritm för att komma till rätta med bidragsfusk bland barnfamiljer. Resultatet blev katastrofalt.

Tiotusentals oskyldiga familjer drabbades av stora återbetalningskrav, som ödelade deras ekonomier. Människor begick självmord. Tusentals barn togs ifrån sina familjer.

Nu har skattemyndigheten dömts till 3,7 miljoner euro i böter. Regeringen tvingades avgå. Och tiotusentals människor har fått sina liv ödelagda.

Det kan hända igen – Frankrike driver på.

Detta kan vara bra att känna till när EU nu är på väg att sjösätta sin AI Act. Hittills har man varit försiktig vad gäller att använda AI för brottsbekämpning, just på grund av att det ibland kan gå fruktansvärt fel.

Nu flaggar det franska EU-ordförandeskapet för en kursändring som leder till ökad användning av AI bland de rättsvårdande myndigheterna. Speciellt gäller detta polisens användning av biometrisk data.

Vilket i sin tur ligger helt i linje med EU:s långsiktiga ekonomiska stöd till system som samkör bland annat kameraövervakning med ansiktsigenkänning i realtid, övrig biometrisk data, AI-baserad beteendeanalys samt myndigheternas existerande och nya register. Redan för tio år sedan varnades för konsekvenserna av detta.

Inget datasystem är bättre än hur det utformas. Och självlärande AI-system tycks tendera att förvärra ogenomtänkt input över tid.

Som vanligt är det den som är oskyldig som har mest att frukta.

Länkar:
• Dutch scandal serves as a warning for Europe over risks of using algorithms »
• EU: AI Act: Plans to loosen controls on law enforcement use of artificial intelligence »

• Civil society calls on the EU to ban predictive AI systems in policing and criminal justice in the AI Act »

Dela

Dela på Facebook Dela på Twitter Dela på Reddit Dela på E-post

Arkiverad under: Dataskydd, EU, Länktips, Övervakning, Rättssäkerhet, Storebror Taggad som: AI, AI Act, Frankrike, Indect

Läsarkommentarer

Kommentarer

  1. Pewe säger

    13 april 2022 kl. 22:34

    Du ska nog vara tydlig med att algoritmen i sig troligen inte är dålig utan snarare underlaget den fått för att lära upp sig. Det finns ganska få sätt att implementera en AI men desto fler sätt att träna den och underlaget för att träna dem är oftast dåligt till uselt, därför är det så otroligt viktigt att om en myndighet vill driftsätta en AI att befolkningen inte bara har tillgång till algoritmen utan även underlaget för träning och parametrarna man satt för att träna den, utan den infon kan man aldrig replikera AI’n och därför aldrig avgöra var problemet ligger.
    Politiker bör hålla sig till att stifta lagar och myndigheterna till att efterfölja dem inom de ramarna politikerna sagt att lagarna avgränsas av, AI varken bör eller skall implementeras i oficiella system som är styrda av lag.

    Svara

Lämna ett svar Avbryt svar

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *

Denna webbplats använder Akismet för att minska skräppost. Lär dig hur din kommentardata bearbetas.

Primärt sidofält

Nätfrihet och integritet!

Femte juli är en nätpolitisk nyhetssajt som står på internetanvändarnas sida. Läs mer.

  • Twitter: Femtejuli
  • Youtube
  • Soundcloud: 5july
  • RSS-flöde

Aktuellt från Twitter

femtejuli Femte juli @femtejuli ·
27 jan

I dag faller domen i fallet där tre journalister vid Helsingin Sanomat åtalas för röjande av statshemlighet https://svenska.yle.fi/a/7-10027360?utm_source=twitter-share&utm_medium=social via @svenska_yle

femtejuli Femte juli @femtejuli ·
27 jan

Idag är det Förintelsens minnesdag. De mänskliga rättigheternas uppgift är att se till att något liknande inte kan hända igen. Därför måste de alltid försvaras.

Just nu står kampen om rätten till privatliv och privat korrespondens.

https://femtejuli.se/2023/01/25/eu-kommissionen-overvakning-ar-viktigare-an-manskliga-rattigheter/

Retweet on Twitter Femte juli Retweeted
echo_pbreyer Patrick Breyer #JoinMastodon @echo_pbreyer ·
26 jan

🇬🇧 Today, the EU Ministers of Justice and Home Affairs are meeting to discuss organised crime in the digital age. Their "going dark" myth, however, is a fairy tale to enforce surveillance ideologies.

More: https://www.patrick-breyer.de/en/eu-justice-and-home-affairs-council-meeting-in-stockholm-on-going-dark-myth-secure-encryption-must-not-be-turned-off/

Retweet on Twitter Femte juli Retweeted
wikileaks WikiLeaks @wikileaks ·
27 jan

'Biden faces growing pressure to drop charges against Julian Assange' @guardian #FreeAssangeNOW https://www.theguardian.com/media/2022/dec/12/julian-assange-biden-press-freedom-legacy

Retweet on Twitter Femte juli Retweeted
unhumanrights UN Human Rights @unhumanrights ·
27 jan

The #UDHR was adopted in response to the atrocities of the #Holocaust & World War II, to #NeverAgain allow history to repeat itself. On #HolocaustRemembranceDay, we recall that respect for human dignity, rights, & fundamental freedoms is the only pathway to ensure enduring peace.

Prenumerera på inlägg


Loading

Senaste inlägg

  • EU-kommissionen: Övervakning är viktigare än mänskliga rättigheter25 januari 2023
  • ChatControl – granskning av EU-kommissionens förslag23 januari 2023
  • ChatControl – nu är det skarpt läge i EU, men regeringen vill inte tala om saken19 januari 2023
  • PP: EU-kommissionär Ylva Johansson ljuger om #ChatControl17 januari 2023
  • ChatControl – en lägesuppdatering16 januari 2023

Senaste kommentar

  1. EU-kommissionen: Övervakning är viktigare än mänskliga rättigheter om ChatControl – nu är det skarpt läge i EU, men regeringen vill inte tala om saken25 januari 2023

    […] av EU-kommissionens förslag• PP: EU-kommissionär Ylva Johansson ljuger om #ChatControl »• ChatControl – nu är det skarpt läge i…

CC BY 4.0 · Logga in

  • Soundcloud
  • Youtube
  • Twitter
  • RSS