»Frestelsen att använda en kontroll- och övervakningsstat med AI:s kapacitet för politiska syften och egen vinning måste vara enorm.«
Jag är utvecklingsoptimist och gillar »artificiell intelligens«. Egentligen tror jag att maskininlärning är ett ord som leder mer rätt. System som kan ta in våldsamt stora mängder information och gå igenom den på ett ögonblick för att sedan redovisa resultatet i ett användargränssnitt som är anpassat för människor.
Men det finns naturligtvis risker med AI. EU har därför infört ett nytt regelverk för att reglera dess användning. Detta regelverk har dock ett undantag för polis och underrättelseväsen. Vilket råkar vara två områden där utrymmet för missbruk av tekniken är uppenbart.
Vilket även gäller statsapparaten i ett bredare perspektiv. Det är först nu som tekniken existerar för verkligt bred massövervakning, sociala kreditsystem, klimatkrediter och analys av vad som rör sig i folkdjupet. Detta är verktyg som kan användas av makthavare för att uppnå politiska mål och föra samhället i en mer auktoritär riktning.
I veckan klubbade riksdagen igenom en lag som – inom vissa gränser – tillåter polisen att använda kamerabevakning med automatiserad ansiktsigenkänning i realtid. Vilket sedan kan kopplas till olika databaser, datalagring och uppgifter som kan hämtas in online. Europol har redan fått rätt att bereda sig tillgång till information ur privata aktörers databaser.
Övervakningsstaten väver en allt tätare väv – under förevändningen att det är för att skydda oss från gängvåld, terrorister, farsoter och annat som vi är rädda för. Men som Hannah Arendt påpekar i sitt standardverk om den totalitära statens rötter…
»Brott mot de mänskliga rättigheterna kan alltid rättfärdigas med förevändningen att det rätta är lika med det som är bra eller nyttigt för helheten i kontrast till delarna.«
De flesta diktatorer och auktoritära system (förutom rena kleptokrater) menar sig verka för en god, större sak. För vilken man inte accepterar att enskilda individer står i vägen eller uppvisar bristande entusiasm.
Det finns mycket goda skäl för att rätten till privatliv är en grundläggande mänsklig rättighet. Information är makt. Och den stat som vet för mycket om sina medborgare kan även kontrollera dem, förtrycka oppositionella och befästa sin makt.
De grundläggande mänskliga rättigheternas funktion är att skydda individen mot övergrepp från staten. Därför är det oroväckande när staten (genom politiken) steg för steg inskränker och gör avsteg från dessa rättigheter.
Frestelsen att använda en kontroll- och övervakningsstat med AI:s kapacitet för politiska syften och egen vinning måste vara enorm.
CC0
