Tanken är att ingen skall kunna kommunicera med någon annan utan att innehållet granskas.
EU
Denna kategori använder vi för att samla nyheter och poster som har med EU att göra. Idag kommer de flesta initiativ som gäller internetfrågorna därifrån - för att sedan bli lag i medlemsstaterna.
EU vill granska innehållet i dina elektroniska kommunikationer
Skall vår digitala korrespondens av-krypteras, öppnas och dess innehåll granskas av maskiner? Frågan avgörs just nu i EU. Och den svenska regeringen får en nyckelroll.
EU-kommissionen vill att medborgarnas e-post och elektroniska meddelanden skall av-krypteras, öppnas och att dess innehåll skall granskas i jakt på olagligt innehåll.
Granskningen skall göras av maskiner och allt misstänkt skall sändas över till en ny EU-institution, kopplad till Europol.
Detta gäller alla dina SMS-meddelanden, chattar, WhatsApp-konversationer, Messenger-meddelanden, IP-samtal med mera. Alla skall med – och om någon e-postleverantör eller meddelande-tjänst vägrar, då kan den komma att förbjudas i EU.
Syftet är att bekämpa sexuellt utnyttjande av barn. Därför har man även föreslagit en 18-årsgräns för användning av elektroniska meddelandetjänster. Man vill även kolla upp vad du har i dina molntjänster.
Även om syftet är vällovligt blir konsekvenserna orimliga. Och syftet kan lätt utökas, som det brukar bli med övervakningslagar. Vilket redan uppmuntras av vissa medlemsstater.
Europakonventionen om de mänskliga rättigheterna och EU:s rättighetsstadga slår fast rätten till privatliv och privat korrespondens. Och mänskliga rättigheter offline skall även gälla online.
Det finns undantag, till exempel för att bekämpa brott. Men då måste det finnas ett specifikt brott, någon misstänkt eller något annat konkret att ta på.
Man får inte övervaka hela folket hela tiden. Det slog EU-domstolen fast i samband med att den upphävde EU:s datalagringsdirektiv.
Vi befinner oss alltså i en situation där en av våra grundläggande mänskliga rättigheter hotas.
Hur hamnade vi här?
Det började med att EU faktiskt fattade ett bra beslut, som gick ut på att stärka medborgarnas rätt till privatliv online.
Snabbt kom dock protester, som gick ut på att detta skulle omöjliggöra den skanning av innehållet i våra elektroniska kommunikationer som redan sker på vissa plattformar och tjänster.
Protesterna leddes av Hollywood-stjärnan Ashton Kutcher och Thorn, en organisation som han startat med sin före detta fru Demi Moore. Thorn äger i sin tur det kommersiella verktyget Safer, som används av nätjättarna för att upptäcka sexuella övergrepp mot barn online.
De har haft samtal med såväl EU-kommissionens ordförande Ursula von der Leyen som ansvarig kommissionär, Ylva Johansson. Samtidigt har kommissionen vägrat träffa företrädare för de organisationer som försvarar den digitala brevhemligheten.
Resultatet blev en tillfällig lag som tillåter frivillig skanning av innehållet i användarnas elektroniska kommunikationer – hos de operatörer som vill.
Detta har kommissionen sedan följt upp med det nu aktuella förslaget – »Chat Control« – som gör sådan skanning obligatorisk. Alla skall med.
Tanken är att ingen skall kunna kommunicera med någon annan utan att innehållet granskas.
Denna granskning kommer att ske med hjälp av algoritmer och maskiner. Erfarenheter från liknande försök pekar på att upp till 90% av allt som flaggas av sådana system är felaktiga flaggningar. (Som ändå kan få förödande konsekvenser för den som drabbas.)
Man kan ifrågasätta om förslaget över huvud taget är effektivt i förhållande till sitt syfte. Den som ägnar sig åt övergrepp mot barn har som regel helt andra kanaler och verktyg än de som omfattas av detta förslag. Och det finns enligt uppgift fler fall att utreda än vad de nationella polismyndigheterna hinner med, redan nu utan obligatorisk Chat Control.
En orimlighet är att förslaget förutsätter att man kringgår den kryptering som skyddar våra kommunikationer. Att bygga in bakdörrar eller på annat sätt försvaga krypteringen kommer att göra oss alla mer sårbara för angrepp från ondsinta aktörer. Sådana svagheter utnyttjas alltid.
Antingen har man solid kryptering eller så har man det inte.
I EU:s ministerråd säger Österrike bestämt nej till Chat Control då den strider mot landets konstitution. Det mesta tyder på att även Tyskland kommer att säga nej. Men det räcker inte för en blockerande minoritet.
Frågan kommer nu att landa hos den svenska regeringen, som är ordförandeland i EU första halvåret 2023.
Därför är det extra viktigt att frågan kommer in i samhällsdebatten här. Media måste uppmärksamma saken. Människorätts- och nätaktivister måste reagera. Politiken måste uppleva att det finns en kritisk opinion.
Annars väntar oss en orwellsk framtid.
EU-kommissionen vill urholka rätten till privatliv och privat kommunikation. Man vill upphäva den digitala brevhemligheten.
Det är på riktigt. En av våra grundläggande mänskliga rättigheter står nu på spel.
Läs mer:
• Chat Control – The End of the Privacy of Digital Correspondence »
• UN Human Rights Commissioner warns against chat control »
• EU avskaffar rätten till privat korrespondens »
• Tyska regeringen splittrad om #ChatControl »
• Tyska Bundestags juridiska experter sågar #ChatControl »
• Österrike säger bestämt nej till #ChatControl / CSAR »
• EU:s medlemsstater splittrade om ChatControl. Vad tycker Sverige? »
• The EU’s Proposal on CSAM Is a Dangerous Misfire »
• ChatControl: Den som är oskyldig har allt att frukta »
• Leak on chat control: EU Commission anticipates millions of false positives »
• Chat Control är en idiotisk och farlig idé »
• Granskning: Lobbykampanjen för #ChatControl »
EU: Ministerrådet öppnar dörren för AI-stödd massövervakning
EU:s ministerråd kan tänka sig AI-stödd massövervakning. Samtidigt säger en majoritet i Europaparlamentet nej.
EU:s ministerråd har enat om en gemensam linje för de kommande förhandlingarna om unionens nya AI Act. Man kan notera att rådet är oroväckande vagt vad gäller användning av artificiell intelligens för massövervakning.
Många medlemsstater är närmast entusiastiska inför möjligheten att använda AI för övervakning och kontroll. Det gäller inte minst AI som stöd för biometrisk massövervakning.
Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) kommenterar:
»The position adopted today would enable a dystopian future of biometric mass surveillance in Europe, potentially exposing everybody to constant identification, monitoring their behaviour and analysing their emotions in public spaces. It would justify the permanent and ubiquitious deployment of face surveillance to look for the thousands of ‚victims‘, ‚threats‘ and suspects of ‚serious crime‘ that are wanted at any time. We must not normalise a culture of suspicion and side with authoritarian regimes which use AI for repression of civil society, for social scoring, human rights violations, and total surveillance.«
I sammanhanget är det värt att notera att experiment med till exempel AI-stödd automatiserad ansiktsigenkänning visat sig ha en hög felprocent (falska positiva).
I grunden ligger samma principfråga som för datalagringen. EU:s datalagringsdirektiv upphäves av EU-domstolen för att det strider mot rätten till privatliv. Enkelt uttryckt får övervakning endast inriktas mot personer som misstänks för brott – inte omfatta alla hela tiden, utan skäl.
I Europaparlamentet säger samtidigt en majoritet nej till AI-stödd massövervakning.
Ja till länkskatt och uppladdningsfilter i riksdagen
Riksdagen har nu klubbat EU:s upphovsrättsdirektiv, som bland annat innehåller ”länkskatt” och krav som leder till uppladdningsfilter.
Under förra veckan klubbade riksdagen implementeringen av EU:s nya upphovsrättsdirektiv i svensk lag.
En effekt blir en så kallad länkskatt, som innebär att sociala media m.fl. kommer att tvingas betala etablerade media när de länkar till nyheter och annat innehåll i de senare. Hur stor denna ersättning blir kommer att avgöras i förhandlingar.
Dessutom ställs krav vad gäller nätsiters ansvar om deras användare laddar upp upphovsrättsskyddat material – vilket i praktiken kommer att leda till uppladdningsfilter.
Uppladdningsfilter innebär att maskiner måste kontrollera allt som alla laddar upp för att avgöra om detta material skall tillåtas eller ej. (Syftet med sådan filtrering kan sedan lätt utökas.)
De kontroversiella delarna i upphovsrättsdirektivet röstades igenom i Europaparlamentet med minsta möjliga marginal – efter att bl.a. ett antal svenska ledamöter enligt egen uppgift röstat fel.
Inför EU-valet 2014 var alla partier utom Socialdemokraterna uttryckligen kritiska till de aktuella delarna av direktivet. Nu röstade alla utom Vänsterpartiet och Miljöpartiet för.
Dock hade riksdagen kanske inte så många alternativ, eftersom Sverige är skyldigt att implementera EU-direktiv.
Direktivet blir svensk lag den 1 januari.
EU vs. Musk – hot om Twitter-förbud
Twitter kan komma att förbjudas i EU om yttrandefriheten blir för stor, varnar EU-kommissionen.
EU-kommissionär Thierry Breton har haft en videokonferens med Twitters nye ägare Elon Musk. Breton skall enligt Reuters ha framfört följande krav.
»There is still huge work ahead, as Twitter will have to implement transparent user policies, significantly reinforce content moderation and protect freedom of speech, tackle disinformation with resolve, and limit targeted advertising.«
Notera att man samtidigt förväntas censurera och försvara yttrandefriheten…
Financial Times fyller i.
Breton told Musk that Twitter must adhere to a checklist of rules, including ditching an “arbitrary” approach to reinstating banned users, pursuing disinformation “aggressively” and agreeing to an “extensive independent audit” of the platform by next year.
Musk was warned that unless he stuck to those rules Twitter risked infringing the EU’s new Digital Services Act, a new law that sets the global standard for how Big Tech must police content on the internet. Breton reiterated Twitter could face a Europe-wide ban or fines of up to 6 per cent of global turnover if it breached the law.
Elon Musk har tidigare uttalat sig positivt om EU:s nya Digital Services Act – trots att den medför en mycket omfattande micro management av hur sociala media får bedriva sin verksamhet.
På Twitters blogg skriver man följande.
• First, none of our policies have changed. Our approach to policy enforcement will rely more heavily on de-amplification of violative content: freedom of speech, but not freedom of reach.
• Our Trust & Safety team continues its diligent work to keep the platform safe from hateful conduct, abusive behavior, and any violation of Twitter’s rules. The team remains strong and well-resourced, and automated detection plays an increasingly important role in eliminating abuse.
• When urgent events manifest on the platform, we ensure that all content moderators have the guidance they need to find and address violative content.
• As we improve our policies and processes, bad actors will also develop new methods of disruption. This is not new. Our team of experts is constantly adapting to identify and defuse threats, and we are proud of our early results: impressions on violative content are down over the past month, despite the growth in overall usage on the platform.
• Finally, as we embark on this new journey, we will make mistakes, we will learn, and we will also get things right. Throughout, we’ll communicate openly with our users and customers, to get and share your feedback as we build.
Dragkampen om vad folk skall få säga på nätet fortsätter.
Möjligen handlar upprördheten kring Musks köp av Twitter om annat än sakfrågorna.
EU talar med kluven tunga om digitala rättigheter
Gör som vi säger, inte som vi gör – tycks vara budskapet i EU:s nya deklaration om digitala rättigheter. Skulle man leva upp till det man skriver, då skulle flera aktuella lagförslag behöva gå i papperskorgen. Vilket knappast kommer att ske.
EU:s tre institutioner har enats om en deklaration om digitala rättigheter och principer för ett »digitalt årtionde« (European Declaration on Digital Rights and Principles for the Digital Decade). PDF »
Detta är inte lagtext utan mer ett styrdokument. Men även sådana får konsekvenser i verkligheten.
Deklarationen innehåller en del bra saker plus en hel del godhetsignalering. Alla utsatta grupper nämns och miljön får sitt avsnitt.
»The EU way for the digital transformation of our societies and economy encompasses in particular digital sovereignty in an open manner, respect of fundamental rights, rule of law and democracy, inclusion, accessibility, equality, sustainability, resilience, security, improving quality of life, the availability of services and respect of everyone’s rights and aspirations. It should contribute to a dynamic, resource efficient, and fair economy and society in the EU.«
Imponerande. Men låt oss fokusera på kärnfrågorna.
Dokumentet bekänner sig till rätten till privatliv. Dock får man en känsla av att det mer handlar om individens förhållande till Big Data och mindre om relationen till staten.
Det finns tecken på att EU ställer högre krav på andra än på sig själv. Som när man vill att innehållet i alla människors e-post, alla elektroniska meddelanden, alla chattar med mera skall granskas av maskiner. Vilket är att avskaffa den digitala brevhemligheten.
Vilket i sin tur är ett brott mot vad de mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens. Och mänskliga rättigheter offline skall gälla även online.
Samma sak gäller datalagringen. Det blir konstigt när kommissionen och rådet understryker vikten av fundamentala rättigheter – när de samtidigt försöker runda EU-domstolens nej till datalagring, vilket just motiveras med att den strider mot nämnda rättigheter.
Vad gäller yttrandefrihet säger deklarationen:
Everyone has the right to freedom of expression and information, as well as freedom of assembly and of association in the online digital environment.
Även detta klingar en smula falskt, då EU-institutionerna snarare tycks vara intresserade av att begränsa det fria ordet online.
Till exempel genom att ge myndigheter, organisationer och »kollektiva intressen« rollen som statligt godkända nätpoliser – med makt att rekommendera att innehåll skall plockas bort. Utan föregående rättslig prövning. (Trusted Flaggers i EU:s nya Digital Services Act.)
I övrigt innehåller denna deklaration många vackra, men vaga skrivningar. Även om en del saker är bra, så är detta ytterligare en framflyttning av politikens makt över nätet.
Staten får rätt till gränslös inhämtning av data
Grönt ljus för konvention som ger myndigheter rätt att kräva ut data från privata företag i andra länder.
Europaparlamentet har nu röstat nej till att rådfråga EU-domstolen innan man fattar beslut om en utökad Cybercrime Convention.
De folkvalda vill alltså inte veta om konventionen är förenlig med fördragen och rättighetsstadgan. Vilket det finns skäl att tro att den inte är.
Konventionen ger myndigheterna i de undertecknande länderna rätt att komma åt data och personuppgifter i andra deltagande länder. Detta för att utreda brottslighet som sker på eller använder sig av internet.
Alla företag (service providers) skall alltså vara skyldiga att lämna ut data och personuppgifter till myndigheter i andra länder. Utan föregående rättslig prövning.
Tydligen är det oklart vilka myndigheter som skall ges denna rätt, ribban för rättssäker tillämpning tycks ha sänkts och myndigheterna i det land från vilket data inhämtas behöver inte informeras förrän i efterhand.
Kritiken går ut på att konventionen aldrig kommer att klara en rättslig prövning i EU-domstolen. Därför bör man be om ett förhandsutlåtande innan man godkänner den. Vilket Europaparlamentet nu valt att inte göra.
• I detta papper som EDRi skrev tidigare i processen kan du läsa mer (PDF) »
Låt inte EU avskaffa den digitala brevhemligheten
Med risk för att vara tjatig: En orwellsk dystopi där innehållet i alla våra elektroniska kommunikationer granskas av maskiner är på väg att bli verklighet i EU.
För var dag som går utan debatt om eller kritik mot förslaget om #ChatControl / #CSAR – ökar risken för att den digitala brevhemligheten går förlorad.
Några nyckelpunkter:
- Idag finns regler som låter sociala media och meddelandetjänster frivilligt kontrollera innehållet i sina användares kommunikationer.
- EU-kommissionen med kommissionär Ylva Johansson i spetsen vill göra detta obligatoriskt.
- Det skäl som anges är kampen mot sexuellt utnyttjande av barn, men kan med tiden komma att utökas – som det brukar bli med övervakningslagar.
- Innehållet i dina elektroniska kommunikationer kommer att granskas av maskiner och i förekommande fall automatiskt sändas över till Europol.
Rätten till privatliv och privat korrespondens är en mänsklig rättighet, inskriven i till exempel Europakonventionen om de mänskliga rättigheterna och EU:s rättighetsstadga.
Mänskliga rättigheter offline skall gälla även online.
Undantag från rätten till privat korrespondens kan göras om det finns misstanke om brott.
Sådana undantag kan dock inte vara generella – det vill säga att de inte kan omfatta alla, alltid. Det måste finnas en konkret misstanke och misstänkta att inrikta övervakningen mot.
Där liknande system testats har nio av tio flaggningar visat sig vara felaktiga och drabba oskyldiga.
Vad gäller sexuella övergrepp mot barn ligger det redan outredda ärenden på hög hos medlemsstaternas polismyndigheter. Utred dessa istället för att snoka i vanligt hederligt folks kommunikationer.
FN:s människorättskommissionär säger:
»Moreover, in the general scanning of communications, frequent false positives cannot be avoided, even if accuracy rates are high, thereby implicating numerous innocent individuals. Given the possibility of such impacts, indiscriminate surveillance is likely to have a significant chilling effect on free expression and association, with people limiting the ways they communicate and interact with others and engaging in self-censorship.«
Österrike säger nej, vilket Tyskland också lär göra. Dock räcker det inte för en blockerande minoritet i ministerrådet. Fler länder måste säga nej.
Den svenska regeringens position är än så länge oklar. Samtidigt kommer frågan att landa i det svenska EU-ordförandeskapets knä, första halvåret 2023.
Länkar / relaterat:
• Chat Control – The End of the Privacy of Digital Correspondence »
• UN Human Rights Commissioner warns against chat control »
• EU avskaffar rätten till privat korrespondens »
• Tyska regeringen splittrad om #ChatControl »
• Tyska Bundestags juridiska experter sågar #ChatControl »
• Österrike säger bestämt nej till #ChatControl / CSAR »
• EU:s medlemsstater splittrade om ChatControl. Vad tycker Sverige? »
• The EU’s Proposal on CSAM Is a Dangerous Misfire »
• ChatControl: Den som är oskyldig har allt att frukta »
• Leak on chat control: EU Commission anticipates millions of false positives »
• Chat Control är en idiotisk och farlig idé »
• Granskning: Lobbykampanjen för #ChatControl »
EU-kommissionär: Det skall inte gå att snacka skit på Twitter
EU:s kommissionär för den inre marknaden om Twitter ”People will no longer be able to say rubbish.”
Elon Musks köp av Twitter väcker reaktioner bland EU:s beslutsfattare. Kommissionären för den inre marknaden, Thierry Breton, säger följande till franska media enligt Bloomberg:
»He is in the process of reducing a certain number of moderators, but he will have to increase them in Europe.« (…) »He will have to open his algorithms. We will have control, we will have access, people will no longer be able to say rubbish.«
Att EU:s nya Digital Services Act sätter upp regler mot olagligt innehåll är känt. Men ”people will no longer be able to say rubbish”? Det känns som ett förvirrat och oroväckande uttalande.
Vi vet sedan tidigare att EU gärna vill stoppa ”skadligt men ej olagligt” innehåll. Frågan är dock hur staten skall kunna inskränka yttrandefriheten annat än genom lag.
Sedan Musk köpte Twitter har bland andra satir-siten Babylon Bee, psykologen Jordan B Peterson och ex-president Trump återfått kontrollen över sina konton. I Trumps fall efter en omröstning bland Twitters användare. Enligt uppgift är han dock inte intresserad av att komma tillbaka.
Här är nästa inskränkning av våra rättigheter som media blundar för
Media har fått berättigad kritik för att ha struntat i den inskränkning av våra fri- och rättigheter som riksdagen beslutade om i veckan, tills det var för sent. Ändå händer det igen, just nu.
EU-kommissionen vill att vår e-post och alla våra elektroniska meddelanden skall av-krypteras, öppnas och att dess innehåll skall granskas.
Detta är en kränkning av de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv och privat korrespondens. Ändå sägs eller skrivs inte ett ord om detta i svenska media.
Man kan tycka att rätten till privat korrespondens borde ligga i medias intresse. Det handlar om källskydd och möjligheten för whistleblowers att slå larm om oegentligheter. Och om redaktionell integritet.
Genom sin totala tystnad sviker svenska media såväl sitt demokratiska uppdrag som sina journalistiska principer.
Att reagera i sista minuten – när vi ställs inför fullbordat faktum – är en dålig plan. Det visar veckans inskränkning av tryckfriheten tydligt. Problematiska politiska beslut måste belysas och kritiseras tidigt, innan de politiska aktörerna hunnit bestämma sig och låsa sina positioner.
När det gäller EU-kommissionens förslag (#ChatControl/CSAR) tycks flera av regeringspartierna ännu inte ha bestämt sig. Men om frågan förbigås med tystnad, då kan man vara rätt säker på att regeringen kommer att gå på kommissionens linje.
Denna fråga är extra viktig eftersom Sverige kommer att vara ordförandeland i EU första halvåret 2023. Det blir alltså vår regering – och justitieminister Gunnar Strömmer – som får ansvar för att slussa frågan genom ministerrådet.
Österrike säger redan bestämt nej till #ChatControl. I Tyskland är regeringen splittrad, men det lutar åt ett nej. I EU-kommissionens offentliga rådslag säger 88% av de svarande nej till förslaget – och de flesta som är för är ändå emot dess nuvarande utformning.
Frågan håller på att utvecklas till en politisk thriller. Men än så länge väljer svenska media – till skillnad från pressen i många andra EU-länder – att tiga.
Kommer man att reagera innan det åter igen är för sent? Kommer man att bry sig över huvud taget?
Läs mer om #ChatControl/CSAR:
• Chat Control: The EU’s CSEM scanner proposal »
• Nu börjar slaget om #ChatControl (med länksamling) »