Tanken är att ingen skall kunna kommunicera med någon annan utan att innehållet granskas.
EU vill granska innehållet i dina elektroniska kommunikationer
Skall vår digitala korrespondens av-krypteras, öppnas och dess innehåll granskas av maskiner? Frågan avgörs just nu i EU. Och den svenska regeringen får en nyckelroll.
EU-kommissionen vill att medborgarnas e-post och elektroniska meddelanden skall av-krypteras, öppnas och att dess innehåll skall granskas i jakt på olagligt innehåll.
Granskningen skall göras av maskiner och allt misstänkt skall sändas över till en ny EU-institution, kopplad till Europol.
Detta gäller alla dina SMS-meddelanden, chattar, WhatsApp-konversationer, Messenger-meddelanden, IP-samtal med mera. Alla skall med – och om någon e-postleverantör eller meddelande-tjänst vägrar, då kan den komma att förbjudas i EU.
Syftet är att bekämpa sexuellt utnyttjande av barn. Därför har man även föreslagit en 18-årsgräns för användning av elektroniska meddelandetjänster. Man vill även kolla upp vad du har i dina molntjänster.
Även om syftet är vällovligt blir konsekvenserna orimliga. Och syftet kan lätt utökas, som det brukar bli med övervakningslagar. Vilket redan uppmuntras av vissa medlemsstater.
Europakonventionen om de mänskliga rättigheterna och EU:s rättighetsstadga slår fast rätten till privatliv och privat korrespondens. Och mänskliga rättigheter offline skall även gälla online.
Det finns undantag, till exempel för att bekämpa brott. Men då måste det finnas ett specifikt brott, någon misstänkt eller något annat konkret att ta på.
Man får inte övervaka hela folket hela tiden. Det slog EU-domstolen fast i samband med att den upphävde EU:s datalagringsdirektiv.
Vi befinner oss alltså i en situation där en av våra grundläggande mänskliga rättigheter hotas.
Hur hamnade vi här?
Det började med att EU faktiskt fattade ett bra beslut, som gick ut på att stärka medborgarnas rätt till privatliv online.
Snabbt kom dock protester, som gick ut på att detta skulle omöjliggöra den skanning av innehållet i våra elektroniska kommunikationer som redan sker på vissa plattformar och tjänster.
Protesterna leddes av Hollywood-stjärnan Ashton Kutcher och Thorn, en organisation som han startat med sin före detta fru Demi Moore. Thorn äger i sin tur det kommersiella verktyget Safer, som används av nätjättarna för att upptäcka sexuella övergrepp mot barn online.
De har haft samtal med såväl EU-kommissionens ordförande Ursula von der Leyen som ansvarig kommissionär, Ylva Johansson. Samtidigt har kommissionen vägrat träffa företrädare för de organisationer som försvarar den digitala brevhemligheten.
Resultatet blev en tillfällig lag som tillåter frivillig skanning av innehållet i användarnas elektroniska kommunikationer – hos de operatörer som vill.
Detta har kommissionen sedan följt upp med det nu aktuella förslaget – »Chat Control« – som gör sådan skanning obligatorisk. Alla skall med.
Tanken är att ingen skall kunna kommunicera med någon annan utan att innehållet granskas.
Denna granskning kommer att ske med hjälp av algoritmer och maskiner. Erfarenheter från liknande försök pekar på att upp till 90% av allt som flaggas av sådana system är felaktiga flaggningar. (Som ändå kan få förödande konsekvenser för den som drabbas.)
Man kan ifrågasätta om förslaget över huvud taget är effektivt i förhållande till sitt syfte. Den som ägnar sig åt övergrepp mot barn har som regel helt andra kanaler och verktyg än de som omfattas av detta förslag. Och det finns enligt uppgift fler fall att utreda än vad de nationella polismyndigheterna hinner med, redan nu utan obligatorisk Chat Control.
En orimlighet är att förslaget förutsätter att man kringgår den kryptering som skyddar våra kommunikationer. Att bygga in bakdörrar eller på annat sätt försvaga krypteringen kommer att göra oss alla mer sårbara för angrepp från ondsinta aktörer. Sådana svagheter utnyttjas alltid.
Antingen har man solid kryptering eller så har man det inte.
I EU:s ministerråd säger Österrike bestämt nej till Chat Control då den strider mot landets konstitution. Det mesta tyder på att även Tyskland kommer att säga nej. Men det räcker inte för en blockerande minoritet.
Frågan kommer nu att landa hos den svenska regeringen, som är ordförandeland i EU första halvåret 2023.
Därför är det extra viktigt att frågan kommer in i samhällsdebatten här. Media måste uppmärksamma saken. Människorätts- och nätaktivister måste reagera. Politiken måste uppleva att det finns en kritisk opinion.
Annars väntar oss en orwellsk framtid.
EU-kommissionen vill urholka rätten till privatliv och privat kommunikation. Man vill upphäva den digitala brevhemligheten.
Det är på riktigt. En av våra grundläggande mänskliga rättigheter står nu på spel.
Läs mer:
• Chat Control – The End of the Privacy of Digital Correspondence »
• UN Human Rights Commissioner warns against chat control »
• EU avskaffar rätten till privat korrespondens »
• Tyska regeringen splittrad om #ChatControl »
• Tyska Bundestags juridiska experter sågar #ChatControl »
• Österrike säger bestämt nej till #ChatControl / CSAR »
• EU:s medlemsstater splittrade om ChatControl. Vad tycker Sverige? »
• The EU’s Proposal on CSAM Is a Dangerous Misfire »
• ChatControl: Den som är oskyldig har allt att frukta »
• Leak on chat control: EU Commission anticipates millions of false positives »
• Chat Control är en idiotisk och farlig idé »
• Granskning: Lobbykampanjen för #ChatControl »
Apple skrotar planer på övervakning
Apple kommer att erbjuda fullt krypterad backup av iCloud.
Företaget skrotar även planerna på att skanna alla bilder på användarnas enheter (client side scanning). Tidigare har den bara pausats.
Detta är rimligen ett bakslag för EU-kommissionen som vill införa granskning av innehållet i alla elektroniska meddelanden och det folk lagrar på molntjänster (#ChatControl / CSAR).
Läs mer:
• EFF: VICTORY! Apple Commits to Encrypting iCloud, Drops Phone-Scanning Plans »
• Wired: Apple Kills Its Plan to Scan Your Photos for CSAM. Here’s What’s Next »
De flesta som drabbas av hemlig övervakning åtalas aldrig
2021 gav man 3.926 tillstånd till användning av hemliga tvångsmedel – det vill säga hemlig övervakning. 28 gånger nekades sådant tillstånd (7,1 promille).
Mindre än en tredjedel av dessa ledde till att åtal väcktes. Mer än två tredjedelar av denna övervakning inriktas alltså mot personer som inte åtalas för något brottsligt.
Vilket tyder på en överanvändning av hemliga tvångsmedel. Det känns som om det finns utrymme för att skärpa upp verksamheten.
Men allt politiken erbjuder är mer övervakning.
• Länk: Regeringens rapport om avlyssning hade kunnat vara satir »
EU-domstolen: Sökmotorer behöver inte radera information som är korrekt
EU-domstolen har idag kommit fram till att sökmotorer bara behöver radera information om juridiska personer, om den klagande kan visa att denna information är felaktig.
”Rätten att bli glömd” är ett begrepp inom EU-lingo som handlar om rätten att få sina uppgifter raderade av sökmotorer och andra som indexerar nätet. Vilket bland annat är till för att skydda enskildas privatliv. Men den är inte självklar.
Ur EU-domstolens pressmeddelande:
»Rätt till radering (rätten att bli bortglömd): en sökmotorleverantör måste ta bort uppgifter som förekommer i indexerat innehåll om den som framställt begäran om borttagande kan bevisa att uppgifterna är uppenbart felaktiga.«
Två företagsledare i ett tyskt investmentbolag ogillade att Google visar länkar till siter som beskriver deras investmentmodell som ofördelaktig. Därför vill de att dessa sökresultat skall tas bort, vilket Google vägrar. Det är detta som nu prövas.
Google vägrade att efterkomma denna begäran, med motiveringen att dessa artiklar och fotografier ingick i ett yrkesmässigt sammanhang, och hävdade att man inte hade kännedom om huruvida uppgifterna i artiklarna var felaktiga eller ej.
Domstolen utvecklar sitt resonemang:
I dagens dom erinrar domstolen om att rätten till skydd av personuppgifter inte är en absolut rättighet, utan måste förstås utifrån sin funktion i samhället och vägas mot andra grundläggande rättigheter i enlighet med proportionalitetsprincipen. Således föreskrivs uttryckligen i dataskyddsförordningen att det inte föreligger någon rätt till radering när behandlingen av uppgifterna är nödvändig, bland annat för utövandet av informationsfriheten.
I allmänhet väger den berörda personens rätt till skydd för sitt privatliv och sina personuppgifter tyngre än det berättigade intresset hos de internetanvändare som eventuellt önskar få tillgång till den aktuella informationen. Denna avvägning kan emellertid vara beroende av de relevanta omständigheterna i det enskilda fallet, bland annat vad gäller typen av information och dess känslighet för den registrerades privatliv samt allmänhetens intresse av informationen, vilket kan variera bland annat beroende på den roll som denna person spelar i det offentliga livet.
Yttrande- och informationsfriheten ska dock inte tas i beaktande om åtminstone mer än en obetydlig del av de uppgifter som förekommer i det indexerade innehållet visar sig vara felaktiga.
Enkelt uttryckt gäller ”rätten att bli glömd” privatpersoner i sin privata kapacitet – men inte om det finns ett allmänintresse, till exempel om personen ifråga till exempel är beslutsfattare eller företagare. Uppenbart felaktig information kan dock raderas.
Regeln kan inte användas om till exempel ett företag, en organisation eller en politiker vill dölja dålig publicitet. Dock kan även de kräva att information som är felaktig raderas.
EU: Ministerrådet öppnar dörren för AI-stödd massövervakning
EU:s ministerråd kan tänka sig AI-stödd massövervakning. Samtidigt säger en majoritet i Europaparlamentet nej.
EU:s ministerråd har enat om en gemensam linje för de kommande förhandlingarna om unionens nya AI Act. Man kan notera att rådet är oroväckande vagt vad gäller användning av artificiell intelligens för massövervakning.
Många medlemsstater är närmast entusiastiska inför möjligheten att använda AI för övervakning och kontroll. Det gäller inte minst AI som stöd för biometrisk massövervakning.
Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) kommenterar:
»The position adopted today would enable a dystopian future of biometric mass surveillance in Europe, potentially exposing everybody to constant identification, monitoring their behaviour and analysing their emotions in public spaces. It would justify the permanent and ubiquitious deployment of face surveillance to look for the thousands of ‚victims‘, ‚threats‘ and suspects of ‚serious crime‘ that are wanted at any time. We must not normalise a culture of suspicion and side with authoritarian regimes which use AI for repression of civil society, for social scoring, human rights violations, and total surveillance.«
I sammanhanget är det värt att notera att experiment med till exempel AI-stödd automatiserad ansiktsigenkänning visat sig ha en hög felprocent (falska positiva).
I grunden ligger samma principfråga som för datalagringen. EU:s datalagringsdirektiv upphäves av EU-domstolen för att det strider mot rätten till privatliv. Enkelt uttryckt får övervakning endast inriktas mot personer som misstänks för brott – inte omfatta alla hela tiden, utan skäl.
I Europaparlamentet säger samtidigt en majoritet nej till AI-stödd massövervakning.
Ja till länkskatt och uppladdningsfilter i riksdagen
Riksdagen har nu klubbat EU:s upphovsrättsdirektiv, som bland annat innehåller ”länkskatt” och krav som leder till uppladdningsfilter.
Under förra veckan klubbade riksdagen implementeringen av EU:s nya upphovsrättsdirektiv i svensk lag.
En effekt blir en så kallad länkskatt, som innebär att sociala media m.fl. kommer att tvingas betala etablerade media när de länkar till nyheter och annat innehåll i de senare. Hur stor denna ersättning blir kommer att avgöras i förhandlingar.
Dessutom ställs krav vad gäller nätsiters ansvar om deras användare laddar upp upphovsrättsskyddat material – vilket i praktiken kommer att leda till uppladdningsfilter.
Uppladdningsfilter innebär att maskiner måste kontrollera allt som alla laddar upp för att avgöra om detta material skall tillåtas eller ej. (Syftet med sådan filtrering kan sedan lätt utökas.)
De kontroversiella delarna i upphovsrättsdirektivet röstades igenom i Europaparlamentet med minsta möjliga marginal – efter att bl.a. ett antal svenska ledamöter enligt egen uppgift röstat fel.
Inför EU-valet 2014 var alla partier utom Socialdemokraterna uttryckligen kritiska till de aktuella delarna av direktivet. Nu röstade alla utom Vänsterpartiet och Miljöpartiet för.
Dock hade riksdagen kanske inte så många alternativ, eftersom Sverige är skyldigt att implementera EU-direktiv.
Direktivet blir svensk lag den 1 januari.
EU vs. Musk – hot om Twitter-förbud
Twitter kan komma att förbjudas i EU om yttrandefriheten blir för stor, varnar EU-kommissionen.
EU-kommissionär Thierry Breton har haft en videokonferens med Twitters nye ägare Elon Musk. Breton skall enligt Reuters ha framfört följande krav.
»There is still huge work ahead, as Twitter will have to implement transparent user policies, significantly reinforce content moderation and protect freedom of speech, tackle disinformation with resolve, and limit targeted advertising.«
Notera att man samtidigt förväntas censurera och försvara yttrandefriheten…
Financial Times fyller i.
Breton told Musk that Twitter must adhere to a checklist of rules, including ditching an “arbitrary” approach to reinstating banned users, pursuing disinformation “aggressively” and agreeing to an “extensive independent audit” of the platform by next year.
Musk was warned that unless he stuck to those rules Twitter risked infringing the EU’s new Digital Services Act, a new law that sets the global standard for how Big Tech must police content on the internet. Breton reiterated Twitter could face a Europe-wide ban or fines of up to 6 per cent of global turnover if it breached the law.
Elon Musk har tidigare uttalat sig positivt om EU:s nya Digital Services Act – trots att den medför en mycket omfattande micro management av hur sociala media får bedriva sin verksamhet.
På Twitters blogg skriver man följande.
• First, none of our policies have changed. Our approach to policy enforcement will rely more heavily on de-amplification of violative content: freedom of speech, but not freedom of reach.
• Our Trust & Safety team continues its diligent work to keep the platform safe from hateful conduct, abusive behavior, and any violation of Twitter’s rules. The team remains strong and well-resourced, and automated detection plays an increasingly important role in eliminating abuse.
• When urgent events manifest on the platform, we ensure that all content moderators have the guidance they need to find and address violative content.
• As we improve our policies and processes, bad actors will also develop new methods of disruption. This is not new. Our team of experts is constantly adapting to identify and defuse threats, and we are proud of our early results: impressions on violative content are down over the past month, despite the growth in overall usage on the platform.
• Finally, as we embark on this new journey, we will make mistakes, we will learn, and we will also get things right. Throughout, we’ll communicate openly with our users and customers, to get and share your feedback as we build.
Dragkampen om vad folk skall få säga på nätet fortsätter.
Möjligen handlar upprördheten kring Musks köp av Twitter om annat än sakfrågorna.
Håller nätaktivismen på att tappa greppet?
Ett skäl till att vi som vill ha ett fritt och öppet internet allt oftare förlorar striden kan bero på att många av oss har tappat fokus och ägnar sig åt annat än kärnuppdraget.
Varje dag går vi igenom ett omfattande internationellt flöde för att vaska fram information som är av betydelse för oss nätanvändare och våra rättigheter. I detta flöde kan man märka en oroväckande trend.
Det är förvisso många organisationer som gör ett utmärkt jobb och som har resurser att gå på djupet med olika lagförslag, inte minst sådant som kommer från EU. Men det finns ett problem.
Allt fler organisationer och nätverk på vårt område lägger allt mer tid och resurser på annat. Det kan handla om till exempel identitetspolitik, kolonialism, klimat, åsikter om ekonomiska system och flyktingfrågor.
Naturligtvis får alla driva de frågor de själva vill. Intentionen är säkert god. Men problemet är att många ofta glider allt längre från sitt kärnuppdrag – ett fritt och öppet internet.
Dels innebär detta att det opinionsbildande arbetet ”späds ut” genom att energi satsas på annat. Dels innebär det att andra, som inte delar dessa organisationers vurm för vad som är politiskt trendigt tappar intresset.
Förr, när vi sysslade med saker som EU:s telekompaket och att stoppa ACTA-avtalet fanns en bred politisk uppslutning, från höger till vänster. Vilket gav opinionsbildningen i nätfrågorna stor bredd och kraft.
På den tiden vann vi ofta striden. Men sedan har det gått utför. På senare år har vi förlorat viktiga strider som EU:s upphovsrättsdirektiv (uppladdningsfilter och länkskatt).
Vad gäller upphovsrättsdirektivet förlorade vi dessutom med minsta möjliga marginal. (En handfull felröster i Europaparlamentet avgjorde frågan.) Man kan kanske bara spekulera, men det är troligt att det hade räckt med att mobilisera och fokusera lite, lite till för att frågan skulle fått en annan utgång.
Saker och ting är som de är. Många dras med i den politiska polariseringen och breddar sitt program. Men det får konsekvenser. Jag saknar den tid när nätaktivismen sträckte sig över hela det politiska spektrat – vilket satte press på politiska beslutsfattare i alla partier.
För oss på 5 juli-stiftelsen är vårt mandat tydligt. Vi står på nätanvändarnas sida – genom att försvara de grundläggande mänskliga rättigheterna online. Speciellt vad gäller yttrandefrihet och rätten till privatliv. Och vi kämpar för att rättsstatens principer även skall gälla i nätfrågorna.
Less is more.
EU talar med kluven tunga om digitala rättigheter
Gör som vi säger, inte som vi gör – tycks vara budskapet i EU:s nya deklaration om digitala rättigheter. Skulle man leva upp till det man skriver, då skulle flera aktuella lagförslag behöva gå i papperskorgen. Vilket knappast kommer att ske.
EU:s tre institutioner har enats om en deklaration om digitala rättigheter och principer för ett »digitalt årtionde« (European Declaration on Digital Rights and Principles for the Digital Decade). PDF »
Detta är inte lagtext utan mer ett styrdokument. Men även sådana får konsekvenser i verkligheten.
Deklarationen innehåller en del bra saker plus en hel del godhetsignalering. Alla utsatta grupper nämns och miljön får sitt avsnitt.
»The EU way for the digital transformation of our societies and economy encompasses in particular digital sovereignty in an open manner, respect of fundamental rights, rule of law and democracy, inclusion, accessibility, equality, sustainability, resilience, security, improving quality of life, the availability of services and respect of everyone’s rights and aspirations. It should contribute to a dynamic, resource efficient, and fair economy and society in the EU.«
Imponerande. Men låt oss fokusera på kärnfrågorna.
Dokumentet bekänner sig till rätten till privatliv. Dock får man en känsla av att det mer handlar om individens förhållande till Big Data och mindre om relationen till staten.
Det finns tecken på att EU ställer högre krav på andra än på sig själv. Som när man vill att innehållet i alla människors e-post, alla elektroniska meddelanden, alla chattar med mera skall granskas av maskiner. Vilket är att avskaffa den digitala brevhemligheten.
Vilket i sin tur är ett brott mot vad de mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens. Och mänskliga rättigheter offline skall gälla även online.
Samma sak gäller datalagringen. Det blir konstigt när kommissionen och rådet understryker vikten av fundamentala rättigheter – när de samtidigt försöker runda EU-domstolens nej till datalagring, vilket just motiveras med att den strider mot nämnda rättigheter.
Vad gäller yttrandefrihet säger deklarationen:
Everyone has the right to freedom of expression and information, as well as freedom of assembly and of association in the online digital environment.
Även detta klingar en smula falskt, då EU-institutionerna snarare tycks vara intresserade av att begränsa det fria ordet online.
Till exempel genom att ge myndigheter, organisationer och »kollektiva intressen« rollen som statligt godkända nätpoliser – med makt att rekommendera att innehåll skall plockas bort. Utan föregående rättslig prövning. (Trusted Flaggers i EU:s nya Digital Services Act.)
I övrigt innehåller denna deklaration många vackra, men vaga skrivningar. Även om en del saker är bra, så är detta ytterligare en framflyttning av politikens makt över nätet.