De verkliga riskerna med AI

Artificiell intelligens – AI – är begreppet på allas läppar. Och debatten tycks till största delen röra sig i något slags science fiction-kontext. Tillspetsat är frågan om AI kan komma att bli självständigt och hota mänskligheten. Det är förvisso en intressant diskussion. Men det finns mer närstående och mer akuta frågor att diskutera. Detta speciellt som organisationer som EU, G7 och G20 nu försöker utforma en politik på området.

• AI – under vems kontroll och med vilket syfte?

AI – oavsett om det handlar om kompletta system eller enskilda applikationer – är oerhört kraftfulla verktyg. De kan till exempel användas för att manipulera opinionen, filtrera information eller rent av för att förtrycka människor.

Diskussionen har hitintills mest handlat om hur de etablerade nätjättarna kan komma att använda sådana verktyg. Vilket naturligtvis är på sin plats. Men vi får inte glömma hur de kan användas i statens och politikens händer. Detta speciellt i en tid då yttrandefriheten blir allt mer kringskuren och det fria flödet av information stryps genom politiska beslut.

Vi har redan system för massövervakning och datalagring som saknar motstycke i historien. Vad händer när all denna information kan analyseras, systematiseras och kontrolleras i stor skala med AI eller AI-liknande verktyg?

Hur kommer det att bli när överheten inser att AI kan användas för att manipulera folkets känslor och för politisk »nudging«? Eller för att påverka olika åsikters genomslag och spridning?

Här gäller det att vara ytterst uppmärksam på alla politiska initiativ – och att se till att de medborgerliga fri- och rättigheterna upprätthålls även i online-världen. Detta är rättigheter som redan urholkas i många små steg, inte minst genom beslut i EU.

• AI på riktigt?

Min andra farhåga är av en mer teknisk karaktär. Att utveckla AI är en gigantisk uppgift. Och alla vill vara med på tåget. Risken är att vi (i vart fall inledningsvis) kommer att möta mycket »fusk-AI« som egentligen inte är AI, utan mer en anpassning och återanvändning av redan existerande koncept och systemmoduler. Men som ändå kommer att användas och presenteras som om det handlade om fullvärdig AI.

Detta kan få märkliga och oönskade konsekvenser. Vi kan få se mycket av övervakning, kontroll och datalagring re-lanseras som AI med något överordnat syfte – trots att det egentligen bara handlar om vanlig massövervakning och vilja att snoka i människors privatliv.

AI kan i sig vara en risk. Och AI i EU:s, statens och politikernas händer är garanterat en risk.

/ HAX

• Techcrunch: Europe to pilot AI ethics rules, calls for participants »
• EU-kommissionen: Ethics guidelines for trustworthy AI »
• Europaparlamentet: EU planerar att investera 9,2 miljarder euro i viktig digital teknik »

Tele2 viker ner sig om datalagring

Internet- och teleoperatören Tele2 har länge varit en av de drivande krafterna i kampen mot datalagring. Inte minst inom rättssystemet. Men nu flaggar företaget för att det lägger ner sitt motstånd.

Sveriges Radio:

”Operatören Tele2 kommer inte att överklaga regeringens förslag till ny datalagringslag. Det har brister och har tagit alldeles för lång tid att ta fram – men fördelarna är större än nackdelarna, enligt bolaget.”

Att förslaget har brister är uppenbart. Det bryter såväl mot annan svensk lag som EU-rätten. Och EU-domstolen har förklarat att svepande datalagring av alla svenskars alla telefonsamtal, SMS, e-postmeddelanden och nätuppkopplingar strider mot de mänskliga rättigheterna. Skall lagring ske måste det finnas något slags misstanke och något slags misstänkta. Att lagra allt om alla är inte acceptabelt.

Det är lätt att misstänka att Tele2 låtit sig skrämmas av regeringens illa dolda hot mot de operatörer som inte gör som regeringen vill.

Minister hotar dra in Bahnhofs tillstånd

I vad som kan betraktas som ett uttalande på gränsen till ministerstyre hotar inrikesminister Mikael Damberg (S) internetoperatören Bahnhof. Han riktar kritik mot att Bahnhof inte vill räta in sig i ledet om datalagringen och säger:

”Men om det är så att man vägrar följa svensk lagstiftning så har ju Post- och telestyrelsen olika verktyg. Man kan besluta om vite men man kan också ytterst återkalla operatörens tillstånd.”

Detta är mycket anmärkningsvärt. Speciellt som det är Bahnhof som följer lagen – och regeringen som envist obstruerar.

I ett brev till Expressens ledarredaktion redde Bahnhofs jurist nyligen ut begreppen:

”Alla operatörer har en skyldighet enligt ePrivacy-direktivet och LEK att radera uppgifter som de inte längre behöver. Om en operatör skulle spara uppgifter för att tillgodose andra behov bryter man både mot svensk lag och EU-rätten.”

Det skall i sammanhanget nämnas att EU-domstolen upphävt EU-direktivet om datalagring. Domstolen har även upprepade gånger ogiltigförklarat den svenska datalagringen. Vilket regeringen inte tycks bry sig om.

Länk: Damberg angriper Bahnhof: Skyddar kriminella »

Uppdatering: Bahnhofs vd: ”Rena maffiametoder från Mikael Damberg” »

ID-krav för nätuppkoppling och resor?

En statlig utredning föreslår att endast av polisen utfärdade ID-kort och pass skall vara giltig ID-handling.

Korten skall lagra biometrisk information. Dessutom skall polisen använda sig av ansiktsidentifikation när ID-kort eller pass lämnas ut, för att försäkra sig om att det handlar om rätt person.

Vad man måste vara uppmärksam på är de många, små stegen mot ökad övervakning och kontroll. Att ID-handlingars biometriska information bara lagras på kortens chip kan lätt ändras. Det krävs bara ett beslut och en knapptryckning så kan denna information börja lagras centralt. Och passpolisens ansiktsigenkänning kan lika snabbt integreras i andra register.

Dessutom menar utredaren att detta ID-kort skall fungera som statlig e-legitimation för identifikation på nätet.

Här gäller det att vara vaksam. Och gärna en smula misstänksam. Även om inget konkret förslag har lagts fram, så finns det en pågående diskussion inom EU om obligatorisk identifikation när du kopplar upp dig på nätet. Här passar det nya svenska ID-kortet som hand i handske. Och liknande planer finns i andra EU-länder.

Så även om det inte finns något förslag om ID-krav vid nätuppkoppling ännu, så är det nya svenska ID-kortet ett perfekt verktyg för ett sådant system.

Hur som helst krattar ID-utredningen manegen för en framtid där du måste ha ett statligt ID-kort för att över huvud taget kunna fungera i vårt samhälle.

Och även om Schengen-samarbetet ger oss fri rörlighet inom stora delar av EU – så är det mycket som talar för att det nya ID-kortet kommer att behövas för till exempel all form av resor, för att hyra bil eller för att ta in på hotell i framtiden. Eftersom staten vill veta var du befinner dig. PNR-systemet (Passenger Name Record) finns redan och tenderar ständigt att bli allt mer omfattande.

Länkar:
• Utredning föreslår nytt statligt id-kort och e-legitimation »
• Utredningen (SOU 2019:14) som PDF »
• Mycket riktigt – staten vill slopa körkort som ID för att registrera biometri »
• Körkort föreslås ej vara giltlig ID-handling – välkommen till Kösverige »

/ HAX

Ordkrig om regeringens förslag till datalagring

Regeringen vill som bekant gå vidare med planerna på att lagra data om alla svenskars alla mobilsamtal, SMS, e-postmeddelanden, nätuppkopplingar och mobilpositioner. Detta trots att EU-domstolen ogiltigförklarat både EU:s datalagringsdirektiv och tidigare svensk lagstiftning om datalagring – eftersom svepande övervakning av alla medborgare utan att det finns någon misstanke om brott strider mot de mänskliga rättigheterna.

Samtidigt hörs allt fler röster som kritiserar förslaget. Några nedslag…

IT-juristen Daniel Westman har granskat förslaget för Computer Swedens räkning. Och han anser att det inte duger:

– Det här är ju väldigt omfattande och komplext, men jag skulle ändå säga att man lägger sig väldigt nära det system man hade tidigare och som EU-domstolen underkänt, säger han. (…)

– Det avgörande kriteriet från domstolen är att den trafikdatalagring som görs sammantaget ger möjlighet att skapa en fullständig bild av en persons kommunikationsmönster. Och i allt väsentligt är den nya lagen lika ingripande

Att begränsa datalagringen till vissa personkretsar, områden eller tidpunkter vore däremot förmodligen tillåtet. Det vill säga om det föreligger någon form av misstanke om något brott. Men en sådan begränsning kan regeringen alltså inte tänka sig.

Ett annat alternativ är att lagra alla data i ett område direkt efter att något hänt där, exempelvis ett terrorbrott. Men inte heller en sådan lösning vill regeringen acceptera.

Man kan också konstatera att regeringen försöker blanda bort korten genom att kalla IP-adresser för »abonnentuppgifter«. I en skriftlig kommentar skriver internetoperatören Bahnhof

»Man har flyttat en terminologi som historiskt hör samman med tryckta telefonkataloger och analog telefoni (där det till exempel var viktigt att kunna veta vem som hade busringt från ett visst telefonnummer och när) till ett digitalt sammanhang. Men de gamla analoga abonnemangsuppgifterna sa ingenting om vad folk faktiskt pratat om i telefon – det vill säga innehållet i samtalet. Med internets motsvarande abonnemangsuppgifter är det annorlunda. Ett IP-nummer är nämligen själva nyckeln till vad användaren faktiskt gjort på nätet och när. Ett IP-nummer kan till exempel användas för att avslöja vilken person som besökt en viss kontroversiell hemsida, mejlat en tidning med ett anonymt nyhetstips, haft en privat kommunikation i ett visst slutet forum för dissidenter, skrivit ett argt mejl till en ledarsida, exakt vem som skrivit en osignerad ledartext i tidningen Expressen, gjort ett visst inlägg på sociala medier, vilka utlandssvenskar som fysiskt befunnit sig i Sverige när de varit inne på Skatteverkets hemsida för självdeklaration, chattat med politiska rörelser eller organisationer, fildelat eller strömmat en viss film som någon grupp anser strida mot upphovsrätten. IP-nummer är det digitala fingeravtryck som kan avslöja exakt vad någon gjorde på nätet och när. Det är inte bara en uppgift om vem som har ett visst ”abonnemang” hos någon telekomoperatör.«

Diskussionen om datalagringen övergår till öppet gräl när tidningen Expressen ställer sig på regeringens sida i den osignerade ledarartikeln »Smit inte från ansvar – Bahnhof och Tele2«.

Denna ledare plockas sedan sönder, grundligt och del för del av Bahnhofs jurist Wilhelm Dahlborn. För den som är intresserad av frågan rekommenderas att läsa hela hans svar. Ett exempel:

Expressen: I väntan på en ny lag har datalagringen varit frivillig för teleoperatörerna.
Wilhelm Dahlborn: Vadå frivillig? Alla operatörer har en skyldighet enligt ePrivacy-direktivet och LEK att radera uppgifter som de inte längre behöver. Om en operatör skulle spara uppgifter för att tillgodose andra behov bryter man både mot svensk lag och EU-rätten. Polisens behov är underordnat svensk lag och EU-rätten.

Som sagt, läs hela denna grundliga sågning.

Sammanfattningsvis bekräftas bilden av att regeringens nya förslag till datalagring inte kommer att möta de krav EU-domstolen ställer upp. Man vill helt enkelt ha mer än man kan få. Och några planer på att skriva ett lagförslag som är anpassat till domstolens krav tycks regeringen inte ha. Så då får den nog skylla sig själv om den får bakläxa en gång till.

• Computer Sweden: Juridisk expert: Nya datalagringslagen väldigt lik den som underkändes av EU »

• Bahnhof: Regeringens användning av ”abonnemangsuppgifter” – ett försök att undslippa EUs krav »

• Expressen: Smit inte från ansvar – Bahnhof och Tele2 »

• Bahnhof: Bahnhofs öppna brev till Expressen: faktafel och rena lögner i er ledartext om datalagring »

Regeringen föreslår ny datalagring. Igen.

Efter att EU-domstolen upprepade gånger har upphävt såväl EU:s datalagringsdirektiv som den svenska lagen om datalagring – så gör regeringen nu ett nytt försök att kräva lagring av data om alla svenskars alla mobilsamtal, SMS, e-postmeddelanden, nätuppkopplingar och mobilpositioner.

Ur regeringens pressmeddelande:

Sammanfattningsvis föreslår regeringen att:

• Lokaliseringsuppgifter, t.ex. var en mobiltelefon har befunnit sig vid tiden för ett samtal, ska lagras i två månader. Abonnemangsuppgifter vid internetåtkomst ska lagras i tio månader. Övriga uppgifter, t.ex. vem som har pratat med vem i telefon, ska lagras i sex månader.

• Lagringsskyldigheten begränsas, t. ex. undantas all kommunikation som sker inom det fasta nätet. Uppgifterna ska endast få lagras inom EU.

• Det införs krav på prövning av åklagare innan de brottsbekämpande myndigheterna får tillgång till lagrade uppgifter i underrättelseverksamhet.

• Möjligheten att hämta in uppgifter om vissa systemhotande brott i underrättelseverksamheten permanentas och kompletteras med två nya brott: statsstyrt företagsspioneri och grov misshandel eller olaga frihetsberövande i systemhotande syfte.

Huvuddelen av förslagen föreslås träda i kraft den 1 oktober 2019.

Under presskonferensen menade inrikesminister Mikel Damberg (S) att förslaget kommer att möta EU-domstolens krav, eftersom man nu kommer att införa differentierad lagringstid för olika former av data. Vilket är ett märkligt påstående. Vad EU-domstolen sagt är att svepande övervakning av alla medborgares kommunikationer utan konkret brottsmisstanke inte kan accepteras. Och på den punkten har regeringens förslag inte ändrat något. Vilket förmodligen kommer att leda till att EU-domstolen även kommer att underkänna det nya förslaget, när det kommer upp till prövning.

Själva lagrådsremissen finns ännu inte tillgänglig på regeringens hemsida. Men enligt ministern följer förslaget i allt väsentligt den utredning (PDF) som presenterats.

Det är också värt att notera vad som sägs i den tredje punkten i pressmeddelandet. Det är nästan så att man misstänker att regeringen försöker blanda bort korten. Underrättelseverksamhet är inte det samma som utredningsverksamhet. För vanliga utredningar krävs ingen föregående rättslig prövning.

(Och man bör för övrigt ifrågasätta om beslut av åklagare verkligen möter kraven på en oberoende rättslig prövning, då svenska åklagare i praktiken är part i målet. Prövning i domstol borde vara ett minimikrav.)

Säkerhetspolisen klagar och vill – föga förvånande – ha mer övervakning. Här är det värt att notera att en av Säpo:s uppgifter är att försvara den svenska demokratin. I detta ingår våra fri- och rättigheter, som de formuleras i Europakonventionen om de mänskliga rättigheterna och som även är en del av EU:s fördragstexter. Och med tanke på att Sverige skrivit in EU-medlemskapet i grundlagen – så är denna konvention i princip att jämställa med svensk grundlag. Därför är det uppseendeväckande och anmärkningsvärt att Säpo framför krav som står i strid med den demokrati de själva är satta att försvara.

Från nätoperatörernas sida fortsätter samtidigt motståndet. Till TT säger Bahnhofs Jon Karlung:

-De döper om saker och försöker trixa igenom det här förslaget utan hänsyn till att det faktiskt finns ett tydligt och välskrivet domslut från EU.

Han säger också att Bahnhof kommer att överklaga om det nya förslaget blir lag.

Och mycket talar för att EU-domstolen kommer att ge Sverige smisk på fingrarna. Igen.

Läs även Computer Sweden: Här är regeringens förslag på ny datalagringslag – geodata sparas kortast tid »

Bahnhof: Omarbetat datalagringsdirektiv ännu ett försök att slippa undan EU-rätten »

Europadomstolen prövar den svenska FRA-lagen

På begäran av Centrum för Rättvisa kommer Europadomstolen (som upprätthåller Europarådets konvention om de mänskliga rättigheterna) att pröva den svenska FRA-lagen.

FRA-lagen har redan prövats en gång. CfR förklarar:

Sommaren 2008 anmälde Centrum för rättvisa den s.k. FRA-lagen till Europadomstolen. Detta eftersom det var tveksamt om den levde upp till Europakonventionens krav för att skydda enskildas integritet. Klagomålet till Europadomstolen bidrog till att riksdagen snabbt skrev om lagen för att stärka enskildas integritet vid signalspaning. En kammare i Europadomstolen godkände den uppdaterade FRA-lagen den 19 juni 2018, men framförde samtidigt viss kritik och framhöll att lagstiftningen kunde förbättras i ett antal avseenden. Centrum för rättvisa begärde därför att målet skulle prövas av Europadomstolens Grand Chamber. En panel med fem domare har nu beslutat att målet ska tas upp till prövning där. Det innebär att panelen har bedömt att målet ger upphov till en allvarlig fråga som rör tolkningen eller tillämpningen av konventionen eller en allvarlig fråga av allmän betydelse.

CfR:s chef Fredrik Bergman säger:

-Det här målet väcker viktiga rättsfrågor som kräver ett vägledande avgörande från Grand Chamber. Europeiska stater möter idag allvarliga hot från terrorism och gränsöverskridande brottslighet. Hemlig övervakning är en del av hur vissa stater bemöter dessa hot. Utan tillräckliga garantier mot missbruk riskerar dock hemlig massövervakning att kränka just de grundläggande fri- och rättigheter som staterna vill skydda från sina fiender.

Att FRA-lagen nu tas upp av Europadomstolens Grand Chamber visar att man tycker att det är en fråga av stor principiell vikt. I grund och botten är det samma frågeställning som kring datalagringen (som EU-domstolen underkänt). Det vill säga om man skall få ägna sig åt svepande övervakning av alla medborgares alla kommunikationer, utan att det föreligger någon konkret misstanke om brott eller någon närmare specificerad misstänkt.

Spännande och intressant. Vi får dock räkna med att det kan ta ett par år innan det kommer en dom.

5 juli-podden #72: Så vill Sveriges nya regering övervaka oss

Sverige har fått en regering och den är ivrig att lägga fram nya förslag om datalagring och övervakning till riksdagen. Det handlar bland annat om den så kallade statstrojanen.

I EU har upphovsrättsdirektivet fått oväntad kritik från ett antal medlemsländer i ministerrådet – efter att Rumänien fuckat upp som ordförandeland.

Dessutom uppmärksammar vi en terrorförordning som är under utarbetning i EU och som även den innehåller ett uppladdningsfilter.

5 juli-podden görs av Karl Andersson och Henrik HAX Alexandersson. Avsnitten finns även på Soundcloud:

Följ oss här:

Ladda ner avsnittet här:

72: Så vill Sveriges nya regering övervaka oss (MP3)