Femte juli

Nätet till folket!

Sökresultat för: datalagring

Riskerna med automatiserad ansiktsigenkänning

av

EU är på väg att införa kameraövervakning med automatiserad ansiktsigenkänning. Vi listar några av de uppenbara riskerna.

Trots Europaparlamentets motstånd tyder det mesta på att EU:s nya AI Act kommer att öppna för bred kameraövervakning med automatiserad ansiktsigenkänning i brottsbekämpningen.

Även den som anser att ändamålet helgar medlen måste vara medveten om att detta medför allvarliga risker.

Till att börja med utvidgas övervakningslagar i princip alltid till syfte och omfattning. Några egentliga spärrar mot detta saknas i EU:s nya lagstiftning.

Det är också viktigt att komma ihåg att automatiserad ansiktsigenkänning inte bara kommer att drabba kriminella utan alla medborgare och deras rätt till privatliv.

Konventioner och EU:s fördrag slår fast att rätten till privatliv är en grundläggande mänsklig rättighet.

Vanliga hederliga människor har rätt till anonymitet och frihet från övervakning. Med mer allmän användning av automatiserad ansiktsigenkänning gör man ett avsteg från denna princip.

Europa kommer att bli lite mer som Kina, där staten har tekniska möjligheter att kontrollera det mesta folk har för sig i det offentliga rummet.

Orwells 1984 var en varning, inte en instruktionsbok.

Även om dagens svenska politiker är hederliga, rättvisa demokrater som aldrig skulle missbruka sin makt finns det ingen garanti för att det kommer att vara så i morgon.

Är du beredd att ge detta verktyg till din värste politiske motståndare, till de politiska krafter som du anser hotar vår demokratiska rättsstat?

EU är inte bara Sverige. Det är inte svårt att föreställa sig hur ett så här kraftfullt verktyg för övervakning och kontroll kan komma att användas i länder som Ungern. Till exempel för att registrera människor som deltar i politiska möten och demonstrationer.

Den entusiasm som länder som Frankrike visar för den nya tekniken ger också en vink om att ändamålsglidning bara är en tidsfråga.

Sedan har vi den rent praktiska frågan om risken för felaktig identifiering. Att detta är en verklig risk visar erfarenhet från länder som redan prövat automatiserad ansiktsigenkänning.

Dessutom har det visat sig att denna risk är extra stor vad gäller etniska minoriteter. Oskyldiga kommer att drabbas.

En annan praktisk fråga gäller säkerhetsrisker och dataintrång. För att fungera måste ett sådant här system ha stora baser med biometrisk data.

Till att börja med vet vi att risken är stor för att data kommer att läcka. Vilket kan utnyttjas av allt från kriminella till främmande makt. Det finns även en risk för att hackare kan korrumpera sådan data, vilket kan få allvarliga konsekvenser.

Det skulle inte förvåna om EU-domstolen med tiden kommer att upphäva hela eller delar av EU:s nya AI Act enligt samma princip som gäller det ogiltigförklarade datalagringsdirektivet: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Going dark – EU:s krig mot krypterad kommunikation

av

Den svenska regeringen öppnade Pandoras ask. Nu planerar EU kriget mot kryptering och ny datalagring i en hemlig grupp bakom stängda dörrar.

För snart ett år sedan höll EU:s justitie- och inrikesministrar ett informellt möte i det då nytillträdda ordförandelandet Sverige. Efter lunch torsdagen den 26 januari var det dags att ge sig i kast med den svenska regeringens arbetsdokument »Going dark«.

Inledningen beskriver allehanda brottslig verksamhet som är kopplad till nätet och vilka problem detta medför för de rättsvårdande myndigheterna. Speciellt då krypterad kommunikation. Fast med betydande demokratiska brasklappar:

»In the view of the Presidency, it is therefore time to discuss ways and means to uphold the rule of law in the digital era, while preserving security, protecting privacy and fundamental rights, and also increasing European competitiveness. Effective law enforcement, acting in full compliance with democratic values, is a prerequisite for protecting the fundamental rights of our citizens, including the right to the protection of personal data, respect for private and family life, and freedom of expression.


In light of this, the Presidency wishes to initiate a holistic discussion, rooted in fundamental rights and also legal and technical realities, on access to data for law enforcement and judicial purposes. This discussion should seek to reconcile the protection of the right to a private life and personal data with the need for secure online environments and digital services to ensure the protection of victims of crime and keep our citizens and societies safe.«

Vilket faktiskt låter relativt balanserat. Problemet är att när man väl öppnat lådan kommer även de mindre balanserade, de dåliga och de direkt farliga förslagen. Så är det i princip alltid i EU – hur vackert man än uttrycker sig i ruta ett. The cat is out of the bag.

Dokumentet fortsätter att problematisera kring frågan med krypterad kommunikation och uppmanar till diskussion med alla inblandade intressenter. Allt är mycket allmänt hållet.

Det hela landade i att man skulle tillsätta en »High-Level Expert Group«. Därmed hamnade det hela under EU-kommissionen och inrikeskommissionär Ylva Johansson.

Gruppens syfte är att formulera en »strategisk vision för framtiden« och att föreslå hur man kan utöka och förbättra myndigheternas tillgång till data. (I sammanhanget kan nämnas att Europol nyligen fick rätt att bereda sig tillgång till data hos privata aktörer.)

Snabbt ändrades namnet från »High-Level Expert Group« till »High-Level Group«. För expertgrupper gäller nämligen högre krav på öppenhet och allsidighet, vilket man kanske tyckte var olämpligt i detta fall.

Under det svenska ordförandeskapets sista dagar, i juni 2023 höll denna grupp sitt första möte. Någon diskussion med alla inblandade intressenter var det inte längre fråga om. Men den kallar sig fortfarande en »collaborative and inclusive platform« på sin hemsida.

Enligt regelverket kan gruppen bjuda in representanter från en privata sektorn, akademien, NGOer, advokater och dataskyddsexperter vid enstaka tillfällen. Inga sådana finns dock representerade i gruppen.

Efter att detta uppmärksammats har man dock lovat att bjuda in representanter för civilsamhället till ett möte, efter årsskiftet.

Den europeiska dataskyddsmyndigheten EDPS och en representant för Europaparlamentets människorättsutkott LIBE kan – men måste inte – erbjudas observatörsstatus.

Så vilka sitter då i denna högnivågrupp? Svaret är att det får vi inte veta. Det går visserligen att begära ut en deltagarlista – men bara med alla namn maskade.

Här formas framtidens övervakning, bakom stängda dörrar. På sina möten har gruppen bland annat diskuterat client-side-scanning (på din telefon), tillgång till data hos operatörerna, tillgång till data i transit, statstrojaner och hur man skall komma runt EU-domstolens förbud mot generell datalagring.

Detta är inte riktigt den bild den svenska regeringen målade upp i sin skrivelse i januari:

»The Presidency aims to enable and promote such discussions. They should involve all relevant stakeholders, with the objective of identifying and presenting common solutions to better ensure access to data, electronic evidence and information for law enforcement and judicial purposes, while upholding the protection of fundamental rights and the security of electronic communications.«

Man upphör aldrig att förvånas över den svenska naiviteten i EU-sammanhang.

Djuplänkar i texten, huvudlänk här:

• Netzpolitik: Hinter verschlossenen Türen »

Justitieministern balanserar på slak lina

av

Bara för att ny övervakning inte formellt sett strider mot de mänskliga rättigheterna behöver det inte betyda att den är bra eller lämplig.

Gängen, organiserad brottslighet, terrorhot, det säkerhetspolitiska läget och den tekniska utvecklingen driver på marschen in i övervakningsstaten.

Vi har en regering som gick till val på att återupprätta lag och ordning – och som är beroende av ett parti som gjort hårdare tag till en framgångsrik populistisk poäng.

Det politiska ansvaret vilar ytterst hos justitieminister Gunnar Strömmer (M). Han är i sammanhanget en intressant figur.

2002 var Strömmer med och grundade Centrum för rättvisa, som driver enskilda medborgares sak mot staten utan kostnad.

CFR presenterar sig själva som »en ideell och oberoende aktör med uppdrag att värna enskildas grundläggande fri- och rättigheter«. Bland annat har man tagit sitt motstånd mot FRA-lagen ända till Europadomstolen.

Givet denna bakgrund finns det skäl att anta att justitieminister Strömmer idag är mycket väl medveten om att han balanserar på slak lina. Han menar att samhällsutvecklingen har färgat uppdraget och honom själv och att det som nu sker måste ske – men i en rättssäker ordning.

Strömmer vet alltså vad han gör när han i generella termer beskär den demokratiska rättsstatens värden. Vilket känns obehagligt. Frågan är var hans röda linjer går.

Låt oss som exempel titta på den nya lag som ger polisen rätt att övervaka människor utan konkret misstanke om brott.

Nyckelordet i sammanhanget är »konkret«. Utan det hade lagen varit ett solklart brott mot den grundläggande rätten till privatliv. Det måste alltså fortfarande finnas något skäl att anta att brottslig verksamhet förekommer.

Ser man till vad Europakonventionen om de mänskliga rättigheterna har att säga om rätten till privatliv, så finns det omfattande undantag. Till exempel vad gäller att förebygga brott.

Detta är ett exempel på svensk lagstiftning som antagits med brett stöd i riksdagen, som visserligen strider mot rättsstatens och de mänskliga rättigheternas anda – men som stannar precis innan den formella röda linjen passeras.

Detta till skillnad från EU som emellanåt lägger fram förslag som allmän datalagring eller Chat Control 2 som är så svepande att de tydligt går över gränsen. EU-domstolen har därför slagit fast principen: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Men att den expanderande svenska övervakningsstaten förmodligen stannar precis innan den går över gränsen till vad som formellt kan accepteras av internationella fördrag och i EU-domstolen innebär inte att den är oproblematisk.

Övervakning av en person utan konkret brottsmisstanke medför att massor av andra, helt oskyldiga människor samtidigt kommer att bli övervakade. Skulle övervakningen dessutom ske med hemlig dataavläsning äventyras hela vår IT-säkerhet. Vilket man inte kan bortse ifrån.

Lägg till det den uppenbara risken för ändamålsglidning samt möjligheten att alla övervakningsverktyg kan missbrukas med ont uppsåt, av överdrivet nit eller av inkompetens.

Att justitieministern vet var de formella gränserna går – och till synes håller sig precis inom dem – är en klen tröst när rättsstatens principer och de grundläggande mänskliga rättigheterna samtidigt försvagas och devalveras i ett vidare perspektiv.

Det är uppenbart att vi ständigt får en allt mer omfattande övervakning av medborgarna. Det torde också vara uppenbart att ett samhälle med total övervakning vore oförenligt med en levande demokrati och odrägligt att leva i. Ändå är det i den riktningen vi rör oss.

Så frågan är hur långt vi är beredda att gå. Som det ser ut just nu är våra beslutsfattare inte villiga att ens diskutera den större frågan. Och innan vi vet ordet av kan det vara för sent.

Utredning: Grönt ljus för statliga spionprogram

av

Försöket med hemlig dataavläsning blir permanent, trots klent resultat. Samtidigt lämnar det våra telefoner och datorer öppna för angrepp från kriminella och andra illasinnade aktörer.

På onsdagen presenterades en utredning (SOU 2023:78) om att göra hemlig dataavläsning permanent. (Än så länge har lagen varit tillfällig på grund av att detta är ett nytt verktyg som innebär ett stort intrång i rätten till privatliv.)

Rekommendationen är att hemlig datalagring skall göras permanent och att den i vissa delar även skall utökas.

Hemlig dataavläsning innebär att de brottsbekämpande myndigheterna kan installera spionprogram (”statstrojaner”) på människors telefoner, plattor, datorer, spelkonsoler m.m. i syfte att utreda brott.

Dessa spionprogram kan sedan få tillgång till i princip allt som finns på en telefon. Dessutom ger de möjlighet till realtidsövervakning och loggning.

På så sätt kan till exempel meddelanden som sänds via krypterade meddelandetjänster avläsas redan när de skrivs – innan de krypterats och sänts. Alternativt efter att de tagits emot, av-krypterats och öppnats för att läsas.

Genom att använda telefonens mikrofon och kamera kan man även avlyssna dess ägare. Och alla andra som råkar befinna sig i närheten. Även den som ringer till eller blir uppringd av en telefon med spionprogram blir övervakad.

Till detta kommer att spionprogrammen kan ges tillgång till bilder, filer och allt annat som finns på en telefon eller dator.

Ett uppenbart problem med detta är att det krävs säkerhetsluckor i mjuk- och/eller hårdvaran för att myndigheterna skall kunna installera sina spionprogram i hemlighet.

Vilket innebär att kända säkerhetsbrister lämnas utan åtgärd – för att kunna användas av myndigheterna. Vilket naturligtvis är en väldigt dålig sak. Dessa brister kan då även utnyttjas av nätbedragare, främmande makt och andra illvilliga aktörer.

Utredningen skriver:

»Det kan konstateras att informationssäkerhet har en central plats i samhället. Vikten av en fungerande informationssäkerhet måste därför vägas mot vikten av en effektiv brottsbekämpning. I förarbetena till lagen om hemlig dataavläsning konstaterades att hemlig dataavläsning medför större risker för informationssäkerheten än andra tvångsmedel. En viktig utgångspunkt för våra avvägningar i denna del är att det inte kan accepteras att hemlig dataavläsning leder till minskad informationssäkerhet i någon annan utrustning än den som åtgärden avser.«

Sedan väljer man att strunta i detta. Vilket, försiktigt uttryckt, är anmärkningsvärt.

Nu gör man oss alla mindre säkra och vår IT-infrastruktur mer sårbar. Helt medvetet.

Men detta är inte allt. Utredningen skriver:

»Av de årliga redovisningarna kan konstateras att den kvantitativt uppskattade nyttan av hemlig dataavläsning generellt sett har varit något lägre än för de permanenta hemliga tvångsmedlen.«

Vilket är ett understatement. Hemlig dataavläsning har bara lett till åtal i 20 procent av de fall som domstol har gett tillstånd till. Och då skall man komma ihåg att det i dessa fall som regel även fanns annan bevisning som till exempel vittnen, fysiska bevis och dokumentation.

Dessutom har detta verktyg kommit att användas mer och oftare än man från början angett.

Nu skall systemet med ”statstrojaner” alltså bli permanent. I en något utökad form. Med en förenklad ansöknings- och beslutsprocess.

Risken för att systemet kan missbrukas är uppenbar. Det finns redan exempel på hur regeringarna i Ungern, Polen och Spanien använt denna typ av spionprogram för att spana på sina politiska motståndare.

Och när verktyget väl finns på plats räcker det med ett klubbslag i riksdagen för att syftet och omfattningen skall utökas. Vilket i princip alltid sker när det gäller övervakningslagar.

• Regeringen: Hemlig dataavläsning – utvärdering och permanent lagstiftning »
• Hemlig dataavläsning – utvärdering och permanent lagstiftning, SOU 2023:78 »
• Oisín Cantwell, Aftonbladet: Hemlig dataavläsning är soundtracket till vår tid »

En grundlig sågning av Chat Control 2

av

Ingen – inte ens EU-kommissionen själv – är beredd att försvara kommissionär Ylva Johanssons förslag om ny massövervakning, Chat Control 2. Däremot stod kritikerna på kö när EU:s dataskyddsmyndighet ordnade ett seminarium om frågan.

I måndags höll EU:s dataskyddsmyndighet EDPS ett seminarium i Europaparlamentet om Chat Control 2: EDPS Seminar on the CSAM Proposal: ”The Point of No Return?” »

Under drygt två timmar levererade ett 20-tal experter svidande kritik mot EU-kommissionens förslag. En utmärkt – och grundlig – sammanfattning finns hos TechCrunch: Europe’s CSAM-scanning plan is a tipping point for democratic rights, experts warn »

Seminariet kan även ses här. »

Några intressanta nedslag nedan. Vi börjar med the European Data Protection Supervisor, Wojciech Wiewiórowski. Från TechCrunch:

“It is often being used in the debate that this proposal is only about protecting children. I would like this to be the case — but it’s not,” he went on, arguing that the Commission’s proposal questions the “foundations” of what privacy means in a democratic society; and pointing out that privacy, once undermined, leads to “the radical shift from which there might be no return”, as he put it.

Without amendments, the proposal would “fundamentally change the Internet and the digital communication as we know it”, Wiewiórowski also warned at the event’s close — invoking his personal childhood experience of living under surveillance and restrictions on freedom of expression imposed by the Communist regime in Poland. And, most certainly, it’s an awkward comparison for the EU’s executive to be asked to contemplate coming from the mouth of one of its own expert advisors.

Frederik Borgesius, professor på iHub, Radboud University, i Nederländerna menade att Chat Control 2 uppenbart går bortom vad som kan anses vara nödvändigt och proportionerligt i relation till de mänskliga rättigheterna.

I detta tog han avstamp i EU-domstolens ogiltigförklarande av EU:s datalagringsdirektiv, som ju ”bara” handlade om metadata, inte innehåll (som Chat Control 2).

“Actually, the court might not even get to a proportionality test because the data retention cases were about metadata. And this is about analysing the content of communications,” he went on. “The EU Charter of Fundamental Rights has an element that says if the essence of a fundamental right is violated then the measure is illegal by definition — there’s not even a need for a proportionality test.”

Borgesius also pointed out there’s case law on this essence point too. “When is the essence violated? Well, the court has said — in a different case — if authorities can access the contents of communications on such a large scale then the discussion is over,” he explained. “No room for proportionality test — the essence of the right to privacy would be violated, and therefore such a measure would be illegal.”

Chat Control 2 kommer alltså att kunna upphävas av EU-domstolen på rent principiella grunder. Men sådant tar tid och förslaget kan ställa till med mycket skada fram till dess.

Ytterligare några citat ur texten:

One issue several speakers raised is that a large proportion of the sexualized content involving minors that’s being shared online is actually being done so by (and between) consenting minors (i.e. sexting). The Commission proposal could therefore lead to children being investigated and even criminalizing for exploring their own sexual identities, they suggested — since understanding what is and isn’t CSAM is not something that can necessarily be done by simply reviewing the imagery itself.

Detta speciellt som CC2 vill se AI-stödd sökning efter tidigare okänt olagligt material.

Certainly in the case of new CSAM (i.e. suspected CSAM content that has not been previously seen, investigated and confirmed as illegal child sexual abuse material), context is essential to any assessment of what is being depicted. This is not something an AI scanning tool, or even a trained human looped in to review flagged imagery, can inherently know just by looking at a piece of content, the seminar heard.

Om Client Side Scanning på användarnas telefoner och datorer:

“As computer science researchers we’ve just begun to look at this technology,” said Matthew Green, a cryptographer professor at The Johns Hopkins University, Baltimore. “I want to stress how completely new the idea of client side scanning is — the very first computer science research papers on the topic appeared in 2021 and we’re not even two years later, and we’re already discussing laws that mandate it.”

“The problem of building systems where [content scanning] algorithms are confidential and can’t be exploited is something we’re just beginning to research. And so far, many of our technical results are negative — negative in the sense that we keep finding ways to break these systems,” he also told the seminar. “Break them means that we will ultimately violate the confidentiality of many users. We will cause false positives. We will cause bad data to be injected into the system.

Detta är bara några exempel på kritik mot förslaget om Chat Control 2. Vi kan starkt rekommendera läsning av hela artikeln.

EU-kommissionär Ylva Johansson var inbjuden till seminariet för att försvara sitt förslag. Varken hon eller någon annan från kommissionen ville dock medverka.

(Däremot frågas kommissionär Johansson ut av Europaparlamentets utskott för mänskliga rättigheter – LIBE – idag onsdag 25/10 kl 14:30. Då gäller det den kontroversiella lobbykampanjen för Chat Control 2. Livestreamas här.)

• TechCrunch: Europe’s CSAM-scanning plan is a tipping point for democratic rights, experts warn »

Relevant debattartikel:
• Europaportalen: Riksdagen måste säga nej till Chat Control 2.0 »

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

• Använd denna mail-robot för att protestera mot förslaget om Chatcontrol »

Följ oss även på Twitter: @femtejuli

Chat Control – politisk korruption på EU-nivå

av

Kommersiella intressen förklädda till intresseorganisationer satsar mångmiljonbelopp på att driva frågan om Chat Control. Även EU:s skattebetalare har fått bidra till kampanjen. Och det finns olämpliga personkopplingar mellan EU och dessa lobbyister. Det avslöjas i en ny grävande artikel.

Vi har redan tidigare skrivit om tyska Netzpolitiks granskning av lobbykampanjen för EU:s nya massövervakning – Chat Control 2.

Det har även noterats att Europaparlamentets vice talman Eva Kaili var drivande för Chat Control, fram till dess att hon avslöjades med att ha tagit mutor i den så kallade Qatar-affären.

Nu har Investigative Journalism for Europe (IJ4EU) finansierat ett mer omfattande gräv om saken – som publiceras i Die Zeit, Le Monde, De Groene Amsterdammer, Solomon, IRPI Media, El Diario och Balkan Insight.

Bilden som växer fram är anmärkningsvärd. Att den amerikanska organisationen Thorn har ett kommersiellt intresse av att sälja sin mjukvara för att spåra olagligt innehåll är kanske ingen nyhet. Men här finns en sammanblandning av intresseorganisationer, ekonomiska och politiska krafter som inte har synts tidigare.

BI skriver:

»It’s a synthesis that granted certain stakeholders, AI firms and advocacy groups – which enjoy significant financial backing – a questionable level of influence over the crafting of EU policy.

The proposed regulation is excessively “influenced by companies pretending to be NGOs but acting more like tech companies”, said Arda Gerkens, former director of Europe’s oldest hotline for reporting online CSAM.«

Nätverket som varit pådrivande för Chat Control har haft god och direkt tillgång till EU:s institutioner och till kommissionärerna Johansson, Vestager, Schinas och Breton. Samt till EU-kommissionens ordförande Ursula von der Leyen.

Samtidigt har kommissionen vägrat träffa förslagets kritiker och oroade representanter för civilsamhället, som EDRi. Vilket kanske inte är förvånande med tanke på vad som nu avslöjas.

Några nedslag i BI:s artikel:

  • Thorns kommersiella intresse i frågan handlar om hundratals miljoner kronor. Bara US Department of Homeland Security har köpt programvarulicenser för 4,3 miljoner USD.
  • Thorn är direkt beroende av att Ylva Johanssons nya EU-center godkänner och rekommenderar organisationens digitala övervakningsverktyg.
  • Det tycks även vara Thorn och dess förre ordförande, Hollywoodstjärnan Ashton Kutcher som slagit i Ylva Johansson att det går att skanna vad medborgarna skriver i krypterade meddelanden utan att bryta krypteringen.
  • Bara förra året betalade Thorn minst 600.000 euro till lobbyföretaget FGS Global för att föra frågan om Chat Control framåt.
  • Thorn har betalat 219.000 euro till stiftelsen WeProtect Global Alliance som driver Chat Control och liknande förslag i bl.a. EU, USA och Storbritannien.
  • Mellan 2020 och 2023 har EU slussat miljonbelopp av skattebetalarnas pengar till WeProtect. Bara för ett enda event i Bryssel betalade Ylva Johanssons direktorat ut nästan en miljon euro till stiftelsen.
  • I styrelsen för WeProtect sitter en av Ylva Johanssons topptjänstemän, Antonio Labrador Jimenez.
  • Antonio Labrador Jimenez har även varit central i arbetet med att ta fram EU-kommissionens förslag om Chat Control.
  • En annan styrelsemedlem i WeProtect är Douglas Griffiths, en tidigare tjänsteman i det amerikanska utrikesdepartementet som driver den Geneve-baserade Oak Foundation.
  • The Oak Foundation har givit generösa bidrag till WeProtect – och har sedan 2020 spenderat runt en kvarts miljard kronor på lobbying för Chat Control och liknande förslag. (Thorn har fått drygt 5 miljoner USD och WeProtect närmare två och en halv miljon USD.)
  • Det finns även personkopplingar mellan EU:s generaldirektorat och organisationer finansierade av Oak Foundation.

Detta är ingen vacker syn och artikeln väcker frågor om politisk korruption och den demokratiska processen kring Chat Control.

Slutligen ett citat om ändamålsglidning:

»In July 2022, the head of Johansson’s Directorate-General, Monique Pariat, visited Europol to discuss the contribution the EU police agency could make to the fight against CSAM, in a meeting attended by Europol executive director Catherine de Bolle.

Europol officials floated the idea of using the proposed EU Centre to scan for more than just CSAM, telling the Commission, “There are other crime areas that would benefit from detection”. According to the minutes, a Commission official “signalled understanding for the additional wishes” but “flagged the need to be realistic in terms of what could be expected, given the many sensitivities around the proposal.”«

Beslutet har alltså inte ens fattats innan man börjar diskutera hur syftet med Chat Control kan utökas.

I sammanhanget är värt att påpeka att EU-domstolen redan med sin dom om EU:s datalagringsdirektiv slagit fast principen: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Detta med hänvisning till de grundläggande mänskliga rättigheterna.

• Grävartikeln, som innehåller innehåller mycket mer av intresse hittar du här:

‘Who Benefits?’ Inside the EU’s Fight over Scanning for Child Sex Content »

Relevanta debattartiklar:
• Europaportalen: Riksdagen måste säga nej till Chat Control 2.0 »
• Svenska Dagbladet: Regeringen kan stoppa chat control »

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

• Använd denna mail-robot för att protestera mot förslaget om Chatcontrol »

Följ oss även på Twitter: @femtejuli

Hur mycket övervakning skall vi ha?

av

Vi lever redan i en aldrig tidigare skådad övervakningsstat. Hur mycket mer tål vi? Bryr sig någon?

F.d. justitieminister Beatrice Ask (M) menade en gång under en utfrågning i Europaparlamentet att vi inte har tid att stanna upp för att skaffa oss en överblick av övervakningsapparaten eller för att utvärdera dess effektivitet.

Så är det. Politikerna rusar på utan helhetsgrepp eller eftertanke. Det finns alltid något skäl för att utöka övervakningen av medborgarna.

Det är uppenbart att detta vid någon punkt blir farligt. Inskränker man de mänskliga rättigheternas skydd för privatliv och privat korrespondens skapas ett samhälle där övergrepp görs möjliga – med ont uppsåt, av överdrivet nit, missriktad välvilja eller inkompetens.

Övergrepp mot individens rättigheter brukar alltid motiveras med det gemensammas bästa. Det är därför de grundläggande mänskliga rättigheterna skall vara orubbliga. Det finns en gräns där individens frihet och rätt inte får kränkas.

Så hur ser det då ut med den svenska övervakningsstaten?

Försvarets Radioanstalt (som trots sitt namn är en civil myndighet) skannar kommunikationer i underrättelsesyfte. Nationens säkerhet är tveklöst viktig.

Men nu har verksamheten utökats och butiken är öppen för såväl svenska som utländska myndigheter. Vilket är problematiskt, om än inte oväntat.

Övervakningslagar utökas alltid till syfte och metod.

Polisens hemliga tvångsmedel blir allt fler. Övervakning av människor som misstänks för brott kan visserligen motiveras.

Men flera av dessa tvångsmedel är ändå problematiska. Till exempel leder hemlig dataavläsning (spionprogram) till att även oskyldiga kommer att övervakas och att sårbarheter i vår IT-infrastruktur lämnas öppna, vilket gör oss alla mindre säkra.

Datalagringen är en följetong. Lagring av metadata om alla telefonsamtal, SMS, e-postmeddelanden, uppkopplingar, mobilpositioner med mera skulle bara användas för att utreda verkligt allvarliga brott.

I verkligheten kom den att användas för att jaga fildelare och av Skatteverket för att snoka i folks privatliv.

EU-domstolen har upphävt datalagringsdirektivet då det strider mot vad de mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens.

Vilket många av EU:s medlemsstater (bl.a. Sverige) struntar i.

Nyligen föreslog en statlig utredning att den svenska datalagringen skall utökas till att även gälla meddelande-appar och -tjänster.

Vilket för oss till EU-kommissionens förslag om Chatcontrol 2 – det vill säga obligatorisk granskning av innehållet i våra elektroniska meddelanden.

Syftet är tredelat. Dels handlar det om att leta efter kända bilder på övergrepp mot barn – vilket sker redan idag, frivilligt på större sociala media och meddelandetjänster. (Detta kräver alltså ingen ny lagstiftning.)

Men Chatcontrol 2 vill även använda AI för att leta efter tidigare okända bilder av samma natur.

Vilket innebär att AI – med teknik som ännu inte existerar – måste analysera alla bilder du delar och har på molntjänster, för att kontrollera att du inte ägnar dig åt olagligheter.

Chatcontrol 2 föreskriver även att AI skall analysera vad du skriver och säger i meddelanden och samtal på nätet. För att kontrollera att du inte är en ful gubbe / gumma.

Inte heller denna teknik existerar ännu. Men lagen skall ändå börja gälla redan nästa sommar…

Detta är ett verktyg som sedan lätt kan utökas till vad politikerna för tillfället tycker är viktigt. Eller till regelrätt åsiktskontroll och förtryck. Så öppna inte den dörren.

Till allt detta kan läggas den övervakning som bedrivs av Försvarsmakten och Säpo – om vilken vi vet väldigt lite.

Helhetsbilden är förfärande. Och det finns som sagt inget politiskt intresse av att analysera helhetsbilden eller att utreda om denna övervakning ens är ändamålsenlig.

Läs mer om Chatcontrol:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

• Använd denna mail-robot för att protestera mot förslaget om Chatcontrol »

F.d. justitieminister Beatrice Ask i Europaparlamentet

Ylva Johanssons bristande känsla för demokrati

av

EU-kommissionens senaste övervakningsförslag kräver att AI skall analysera innehållet i våra elektroniska meddelanden. Man viftar bort att detta bryter mot de mänskliga rättigheterna. Man vilseleder med felaktig och ibland utelämnad information. Och man begriper uppenbarligen inte vad man lagstiftar om. Så här får det inte gå till i en demokratisk beslutsprocess.

EU-kommissionär Ylva Johansson driver ett förslag om att låta AI granska innehållet i medborgarnas elektroniska meddelanden, allmänt kallat Chatcontrol. För barnens bästa.

Att söka efter redan känt olagligt innehåll är en sak. Men att identifiera tidigare okänt olagligt innehåll är en ny teknik som där den prövats givit ett orimligt stort antal falska flaggningar. Vilket drabbar oskyldiga, ibland med katastrofala konsekvenser.

Än värre blir det av att förslaget om Chatcontrol föreskriver att AI skall analysera innehållet i våra elektroniska konversationer i syfte att utreda om vi håller på med något fuffens. Vilket är en teknik som inte ens existerar ännu. Men lagen är tänkt att träda i kraft redan nästa sommar…

Det innehåll som flaggas skall sedan sändas till en ny EU-myndighet (”EU Center”) som är kopplad till Europol. Sedan är det fritt fram för ändamålsglidning. Övervakningslagar utökas alltid till syfte och funktion.

EU-kommissionens och ministerrådets respektive rättstjänst sågar förslaget. Liksom Europaparlamentets utredningstjänst, EU:s dataskyddsmyndighet och FN:s människorättskommissionär. Tyskland, Österrike och Polen säger nej. Alla är de överens om att förslaget strider mot de mänskliga rättigheterna.

EU-kommissionen skriver själv – rakt ut på sidan 13 i sitt förslag – att det kommer att begränsa användarnas möjlighet att utöva sina grundläggande mänskliga rättigheter som rätten till privatliv och privat korrespondens, yttrandefriheten, persondataskyddet samt ”informationsfriheten”. Men att den inte bryr sig.

Rätten till privatliv och privat korrespondens är en grundläggande mänsklig rättighet inskriven i bland annat Europakonventionen om de mänskliga rättigheterna, EU:s rättighetsstadga samt FN:s deklaration om de mänskliga rättigheterna. Men sådant hindrar inte kommissionär Johansson.

Principen har redan slagits fast av EU-domstolen i samband med att den upphävde EU:s datalagringsdirektiv: Övervaka dem som misstänkts för brott – inte alla andra, hela tiden.

Så fort hon kommer åt påstår Ylva Johansson att övervakningen endast kan ske efter beslut av en domstol. Vilket är fel. Men även när detta påtalats fortsätter hon att upprepa påståendet.

Ylva Johansson har även fått för sig att totalsträckskrypterade / end-to-end-krypterade meddelanden kan granskas utan att krypteringen bryts – ”som en knarkhund”. Vilket är komplett nonsens. Skall Chatcontrol förverkligas blir säker E2E-kryptering en omöjlighet.

Även på denna punkt har hon överbevisats. Men det hindrar henne inte från att upprepa påståendet i varenda intervju. Ylva Johansson vet helt enkelt inte vad hon talar om. Hon förstår inte de dramatiska konsekvenserna av sitt eget förslag.

Antingen det, eller så vill hon oss illa.

Vad Johansson inte säger är att det redan finns fungerande system för att identifiera kända olagliga bilder med barn. Dessa fungerar rimligt väl och det finns en lag som tillåter den frivilliga skanning av meddelanden som redan sker på många plattformar. Det är bara att förlänga den redan existerande lagen (även om inte heller den är helt oproblematisk).

Istället påstår kommissionären att det kommer att bli fritt fram för övergrepp mot barn online om den nya lagen – Chatcontrol 2 – inte antas. Detta är att förvanska verkligheten genom ett selektivt urval av information.

Ylva Johansson viftar bort våra grundläggande mänskliga rättigheter.

Hon fortsätter upprepa saker som hon nu rimligen måste förstå inte stämmer.

Det är uppenbart att hon inte begriper det hon försöker lagstifta om.

Och hon ger en felaktig bild genom att utelämna viktig information.

Det hela utstrålar politisk arrogans med närmast auktoritära drag.

För vad skall man kalla det när giltig kritik slentrianmässigt möts med redan motbevisade talepunkter, i den mån kommissionär Johansson över huvud taget kommenterar kritik?

Det är ett demokratiskt hygienkrav att man i en fri och öppen debatt på ett sakligt sätt bemöter kritik – och i förekommande fall tar till sig relevant information.

Men allt vi får är samma redan motbevisade talking points som repeteras gång på gång inför journalister som vanligtvis inte är tillräckligt insatta i frågan för att kunna syna bluffen.

Det är inte bara att man inskränker våra grundläggande mänskliga rättigheter som oroar. Det är även hur man gör det – med arrogant inkompetens.

Ylva Johansson uppvisar en illavarslande och nonchalant attityd till vad som borde vara en grundlig och saklig demokratisk process. Därför måste hennes förslag stoppas!

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

• Använd denna mail-robot för att protestera mot förslaget om Chatcontrol »

Följ oss även på Twitter: @femtejuli

Så kan Chatcontrol stoppas med ett klubbslag

av

Här är förslaget som kan stoppa Chatcontrol i Europaparlamentet. Men då måste det till ett brett tvärpolitiskt samarbete, där sakfrågan sätts före partitaktiken.

I Europaparlamentets utskott för mänskliga rättigheter – LIBE – har det kommit in 1.909 ändringsförslag till EU-kommissionär Ylva Johanssons förordning om att granska innehållet i medborgarnas elektroniska meddelanden, Chatcontrol.

Det är mycket att gå igenom och analysera. Men ett ändringsförslag, nr 540, sticker ut:

»To ensure fundamental rights laid down in the European Union’s, the Council of Europe’s and the United Nation’s human rights charters, core fundaments of our democratic society and the rule of law – citizens’ right to privacy and private correspondence must be upheld. Therefore, detection orders can only be issued towards persons suspected of criminal activity. There shall be no general monitoring of ordinary lawabiding citizens and users of interpersonal communication services private messages.

Justification: Human rights offline shall also apply online, as stated in the United Nations Human Rights Council resolution A/HRC/RES/20/8.«

Detta är i princip inte ett förslag för att förbättra Chatcontrol – utan för att helt sänka förslaget.

På samma sätt som kommissionens och ministerrådets legal service, Europaparlamentets utredningsservice, EU:s dataskyddsmyndighet, FN:s människorättskommissionär med flera – skjuter ändringsförslaget in sig på kärnfrågan: Chatcontrol strider mot de grundläggande mänskliga rättigheterna.

Ändringsförslag 540 är även i linje med EU-domstolens principbeslut i samband med datalagringen: Övervaka dem som misstänks för brott, inte alla andra hela tiden.

Intressant nog har förslaget lagts av Sverigedemokraternas ledamot Charlie Weimers.

Det skall bli intressant att se om övriga motståndare till Chatcontrol kommer att rösta för ändringsförslag 540 – eller om man kommer att offra sakfrågan och rösta nej till ovanstående bara för att det lagts fram av SD.

I politiken ser man ju tyvärr en tråkig tendens till att lägga större vikt vid vem som säger något än vad de säger. Vilket i detta fall skulle splittra och försvaga motståndet mot Chatcontrol.

Men om man ser till sak snarare än partitaktik är detta ett utmärkt tillfälle att stoppa Ylva Johanssons förslag.

Därför borde ändringsförslag 540 få spridning och komma in i debatten på allvar.

Fippla inte bort denna möjlighet att stoppa Chatcontrol. Support amendment 540!

SD har även lagt ändringsförslag om att avslå förslaget till Chatcontrol helt. Plus en del ändringar i sak, ifall man inte lyckas stoppa förslaget.

Vi återkommer till de svenska partiernas ändringsförslag i en senare bloggpost.

Läs mer:

• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

• Använd denna mail-robot för att protestera mot förslaget om Chatcontrol »

Följ oss även på Twitter: @femtejuli