EU:s Digital Services Act innehåller bland annat nätcensur. Vilka är de nya nätcensorerna och vilka är deras befogenheter?
EU
Denna kategori använder vi för att samla nyheter och poster som har med EU att göra. Idag kommer de flesta initiativ som gäller internetfrågorna därifrån - för att sedan bli lag i medlemsstaterna.
Nätcensur och uppladdningsfilter i EU – viktig omröstning innan årsskiftet
Trots en mindre försening är EU:s Digital Services Act på väg mot viktiga nyckelvoteringar i Europaparlamentet. Resultatet kan till exempel bli nätcensur, uppladdningsfilter, granskning av privata meddelanden och att andra länder får makt över vad som får finnas på svenska servrar.
I går skulle Europaparlamentets utskott för den inre marknaden – IMCO – ha röstat om EU:s nya Digital Services Act (DSA). Detta har dock skjutits upp till förmån för en utskottsöverskridande utfrågning med Facebooks visselblåsare Frances Haugen.
Då IMCO är huvudansvarigt utskott för DSA innebär detta förmodligen att omröstningen med sina totalt 2.297 ändringsförslag först kommer att ske nästa månad och att huvudvoteringen i parlamentets plenum skjuts fram från december till januari. Därefter kan förhandlingar börja mellan parlamentet, ministerrådet och kommissionen.
Detta ger oss lite mer tid att diskutera och opinionsbilda kring DSA. Och det saknas inte kontroversiella inslag.
Till exempel diskuteras att utöka DSA till att inte bara gälla innehåll som görs allmänt tillgängligt, utan även privat kommunikation. Det vill säga att man vill lägga sig i vad enskilda individer kommunicerar sinsemellan. Vilket i sin tur innebär att all privat kommunikation måste granskas.
Idén om Trusted Flaggers håller på att expandera. Från början handlade det om att företrädare för ”kollektiva intressen” skulle få en gräddfil till sociala media – för att rekommendera vilket innehåll som bör plockas bort. Detta har nu svällt till att dessa Trusted Flaggers skall få rätt att beordra borttagning av innehåll, automatiskt och utan granskning.
Man har även dammat av idén om att myndigheterna i ett EU-land skall kunna beordra nedtagning av innehåll på plattformar i andra länder. Vilket innebär att till exempel polska eller franska myndigheter skall kunna censurera innehåll på svenska servrar.
En annan viktig fråga gäller uppladdningsfilter. Sådana förordas av bland andra parlamentets rättsliga utskott – JURI. Tanken är att maskiner och deras algoritmer skall se till att hålla innehåll som en gång plockats ner borta för alltid. Maskiner och algoritmer som varken förstår kontext, humor eller kritik.
Detta är bara några av alla saker som är problematiska med DSA. Om du håller med om vår kritik, då kan du nu ha fått en månad till för att bilda opinion mot förslagen – innan parlamentets huvudvotering.
Länkar:
• EDRi: Digital Services Act: The EDRi guide to 2,297 amendment proposals »
• EDRi: Digital Services Act / Digital Markets Act: Document pool »
• EFF: Europe’s Digital Services Act: On a Collision Course With Human Rights »
• Piratpartiet: DSA: Resultat från omröstningen i JURI »
• Vilka blir EU:s nya nätcensorer? »
• Stoppa den nya nätcensuren! »
• Det är nu staten tar kontroll över sociala media »
• Video: Varning för nätcensur i EU:s nya Digital Services Act »
EU: Ministerrådet vill ha ”lösningar” vad gäller datalagring, kryptering, eBevis och Darknet
På ett möte i slutet av veckan kommer EU:s inrikesministrar att göra ett nytt försök att återuppväcka datalagringen och kringgå kryptering av meddelanden. På kuppen riskerar man våra grundläggande fri- och rättigheter och säkerheten för elektronisk kommunikation.
Den 11-12 november håller EU:s inrikes- och justitieministrar möte i Slovenien. På dagordningen finns ”appropriate solutions regarding data retention, encryption, e-evidence and the darknet”. Detta i namn av att bekämpa sexuella övergrepp mot barn online (CSAM). Till mötet har man även bjudit in representanter för USA, västra Balkan, EU-kommissionen, Europol, Eurojust och Europaparlamentet.
I sammanhanget skall nämnas att Chatcontrol 2 – obligatorisk avkryptering och granskning av alla användares alla meddelanden – drabbats av ändamålsglidning redan innan det finns något konkret förslag på papper. Barns säkerhet på nätet används här som murbräcka för en mer omfattande övervakning av folkets nätkommunikationer.
Det är intressant att se att man vill blåsa nytt liv i datalagringen. EU:s datalagringsdirektiv upphävdes som bekant av EU-domstolen – som menar att svepande lagring av alla medborgares alla telekommunikationer utan misstanke om brott strider mot de mänskliga rättigheterna.
Hur man tänkt ta sig runt EU-domstolens beslut är oklart. Men veckans möte tyder på att man vill göra ett nytt försök.
Man kan även undra vilka ”lämpliga lösningar” ministerrådet tänkt sig vad gäller kryptering. Som påpekats många gånger finns inga lösningar som upprätthåller krypteringens funktion och integritet och samtidigt ger myndigheterna en bakdörr. Kringgår man kryptering, då blir nätet mindre säkert för oss alla.
Det känns som om vi sett liknande möten förr. Och precis som förr önskar man sig saker som inte är förenliga med medborgarnas rätt till privatliv och säker elektronisk kommunikation.
EU: ChatControl 2.0 skjuts på framtiden?
Den nya reglering som kommer att göra det obligatoriskt för alla nätets meddelandetjänster att av-kryptera och granska sina användares kommunikationer var tänkt att presenteras till månadsskiftet. Nu har den skjutits på framtiden. Det är oklart varför – men en möjlighet är att EU-kommissionen vill utvidga meddelandekontrollen till fler syften.
Tidigare i år beslutade EU om tillfälliga regler för ChatControl – det vill säga av-kryptering och granskning av nätanvändarnas meddelanden och kommunikationer i syfte att bekämpa sexuella övergrepp på barn (CSAM). De reglerna gör det möjligt men inte obligatoriskt med sådan granskning. Samtidigt meddelades att ChatControl 2.0 är på väg, som gör detta obligatoriskt för alla meddelande- och kommunikationsplattformar.
ChatControl 2.0 var tänkt att presenteras den 1 december. Nu verkar det dock som om frågan i vart fall tillfälligt har plockats bort från EU-kommissionens agenda.
Vi vet inte varför. Men det finns ett antal tänkbara förklaringar.
Det kan handla om att sådan övervakning strider mot förbudet mot krav på generell övervakning, GDPR och/eller ePrivacy-förordningen.
Relaterat till detta kan nämnas att EU-domstolen som bekant förbjudit urskiljningslös lagring av data om alla medborgares tele- och datakommunikationer med mindre än att det finns en misstanke mot enskilda eller grupper av användare. Detta kan även appliceras på ChatControl – vilket kommer att kräva en del kreativitet från EU-kommissionens sida för att komma runt.
Alternativt kan man ha upptäckt praktiska hinder vad gäller att tvinga alla meddelandeoperatörer i hela världen att av-kryptera och granska alla europeiska användares meddelanden. Det saknas inte heller kritiker bland människorättsaktivister, krypteringsexperter, ledamöter av Europaparlamentet med flera.
En annan tolkning är att man behöver tid för att inkludera andra syften i ChatControl. Kommissionen (med flera) har till exempel nämnt terrorism och inre säkerhet.
Det är också tänkbart att man vill samordna lagstiftningen med andra länder, främst då USA och Balkan-länderna.
Möjligen är det en kombination av två eller flera av de ovanstående skälen.
Vad vi dock vet är att det – förr eller senare – kommer ett förslag om obligatorisk av-kryptering och granskning av alla användares alla elektroniska meddelanden på alla plattformar.
Länkar:
• EU Commission postpones mandatory screening of encrypted chats »
• Chatcontrol – irriterat i Europaparlamentet »
• Wrong strategy: The Commission fails to tackle child sexual abuse (video) »
• EU to attack safe encryption (video) »
Trusted Flaggers – EU:s nya hot mot yttrandefriheten
Läs min krönika om nätcensur, trusted flaggers och uppladdningsfilter i Bulletin, innan den hamnar bakom betalvägg:
EU:s nya hot mot yttrandefriheten »
”EU vill göra företrädare för ”kollektiva intressen” till statligt godkända nätcensorer och införa uppladdningsfilter för sociala media. Trots dessa uppenbara inskränkningar i yttrandefriheten förekommer ingen debatt i frågan.”
Europol ges tillgång till persondata hos internetoperatörerna
Tillgång till persondata hos internetoperatörerna, att knäcka kryptering samt användning av AI är några av punkterna i den nya förordning för Europol som förhandlas fram i EU.
Europaparlamentet, ministerrådet och kommissionen har nu påbörjat förhandlingar om den nya förordningen för det europeiska polissamarbetet, Europol. En del saker är intressanta på vårt område.
Europols nya Innovation Laboratory får mer resurser. Bland det man jobbar med finns ny övervakningsteknik för 5G samt att knäcka kryptering.
Man kommer att få tillstånd att processa persondata med AI-stöd i forskningssyfte. (Ungefär som FRA:s ”forskningsdatabaser”.)
Ministerrådet vill ge Europol ökad tillgång till persondata hos internetoperatörerna. Sådan data skall sedan kunna analyseras med hjälp av ”big data”. Vilket låter lite som datalagringen, fast på steroider.
Man kommer att fortsätta arbetet med att knäcka / hacka krypterade och ”säkra” kommunikationsverktyg som Encrochat och Sky. Till chef för detta har man satt förre utredningschefen hos det franska gendarmeriet, som ju var operativt vad gällde att hacka Encrochat.
Den allmänna ambitionen tycks vara att göra Europol till ett europeiskt FBI. Vilket dock kommer att kräva en ändring av EU:s fördrag. Detta hindrar dock inte att man redan nu drar åt det hållet.
Den nya förordningen innehåller mycket anat viktigt som du kan läsa om här: Negotiations on the Europol Regulation: Will there be a ”European FBI” by the end of the year? »
Chatcontrol – irriterat i Europaparlamentet
Lägg resurserna på riktigt polisarbete mot produktionen av barnporr istället för att kringgå kryptering och övervaka befolkningens kommunikationer. Det säger ledamoten av Europaparlamentet Patrick Breyer (PP, DE) i en ordväxling med EU:s inrikeskommissionär Ylva Johansson.
Det blev en smula känsligt i Europaparlamentet när Breyer ifrågasatte förslaget om av-kryptering och granskning av alla medborgares elektroniska kommunikationer i jakt på material med övergrepp mot barn, i EU-sammanhang kallat CSM.
Breyer påpekade dels att resurserna kan satsas bättre på resurser för riktigt polisarbete, då CSM-ärenden idag ofta blir liggande utan åtgärd under lång tid. Han hänvisade också till en majoritet av remissinstanserna (consultation) och flera tunga instanser som sågar idén om Chatcontrol. Och han kritiserade kommissionen för att inte ens kommentera den ifrågasatta lagligheten i förslaget.
Inrikeskommissionär Ylva Johansson höll inte med och menade att man måste använda alla medel i kampen mot CSM. Några svar vad gäller rättighetsaspekterna och lagligheten gav hon dock inte.
Detta är naturligtvis en mycket känslig fråga. Därför är det bra att det finns i vart fall någon som vågar problematisera och som pekar på de principiella problemen. Det handlar ju ändå om att granska i princip allt som alla skriver och sänder till varandra. Och att ta sig runt kryptering, vilket kan komma att få långtgående konsekvenser vad gäller allas vår säkerhet online.
Det är lite som med övervakningsstaten i övrigt. Det är lätt att få en känsla av att man förlitar sig allt mer på teknik och allt mindre på traditionellt polisarbete – som förmodligen bättre kan gå på problemets kärna och beta av redan existerande ärenden som idag inte hinns med inom rimlig tid.
Slutligen bör man tänka på att när Chatcontrol införs i ett syfte – då kan den lätt och snabbt utvidgas till andra syften. Att bereda sig tillgång till innehållet i alla människors elektroniska kommunikationer är en närmast oemotståndlig frestelse för både politiker och myndigheter.
Se diskussionen från Europaparlamentet här »
Vilka blir EU:s nya nätcensorer?
Utan att någon verkar bry sig om saken håller EU på att införa statligt godkända nätcensorer. Vilka kommer de att vara, hur skall de utses och av vem? Och vilka befogenheter kommer de att få? Som det ser ut just nu är risken att de kommer att få betydligt större makt än man från början tänkt sig, vilket kan bli problematiskt.
I EU-kommissionens förslag till Digital Services Act (Förordningen om digitala tjänster) introduceras begreppet trusted flaggers. Dessa är tänkta att bli statligt godkända nätgranskare – med en gräddfil till sociala medias abuse-avdelningar som på deras rekommendationer kan plocka bort innehåll.
• Vilka kan bli trusted flaggers?
I artikel 19 i DSA slås fast att trusted flaggers skall ”representera kollektiva intressen”. I recital 46 slås fast att trusted flaggers skall vara ”entiteter” och inte enskilda individer. En trusted flagger kan vara till exempel en myndighet, ”semi-offentliga” organ eller icke-statliga organisationer.
Organisationer skall kunna ansöka hos respektive medlemsstats Digital Services Coordinator (en ny befattning som föreslås i DSA) för att bli trusted flaggers.
Ett problem är att organisationer och andra som representerar kollektiva intressen som regel har en agenda. Det finns nästan alltid en mening med föreningen. Ofta är agendan mer eller mindre politisk. Ibland är sådana organisationer rena särintressen.
Räkna med att det kommer att bildas en kö av olika intresseorganisationer som vill bli statligt godkända nätpoliser – med makt att censurera och styra information inom sina respektive intresseområden.
Till sin själva konstruktion är alltså modellen med trusted flaggers inte objektiv – utan öppnar för att ge makt åt allehanda partiska organisationer och särintressen att styra över vad folk får uttrycka och posta på nätet.
Vad kan möjligen gå fel?
• Hur skall trusted flaggers utses?
Ur artikel 19 i DSA:
»The status of trusted flaggers under this Regulation shall be awarded, upon application by any entities, by the Digital Services Coordinator of the Member State in which the applicant is established…«
Varje medlemsland utser sin egen Digital Services Coordinator. Denne utser sedan trusted flaggers.
Vilket innebär att regeringen i länder som Polen och Ungern kommer att utse den som i sin tur utser trusted flaggers. Skulle Vänsterpartiet eller Sverigedemokraterna få makten i Sverige, då blir det de som ytterst får makten över de nya nätpoliserna.
I slutändan ligger makten över den nya nätcensuren alltså hos den för tillfället sittande regeringen i respektive medlemsstat. Vilket kanske inte alltid är helt lyckat. I vart fall inte ur ett demokrati- och yttrandefrihetsperspektiv.
Vad kan möjligen gå fel?
• Steget från trusted flaggers till riktiga nätcensorer
I kommissionens förlag till DSA får trusted flaggers som sagt en gräddfil till sociala medias abuse-avdelningar. Men det är ändå hos respektive plattform som det slutliga beslutet om att ta bort material ligger. Än så länge.
I Europaparlamentet har ett ändringsförslag börjat vinna mark (i bl.a. JURI) som säger att innehåll som anmäls av trusted flaggers alltid skall plockas ner. Punkt.
I så fall får vi skarp nätcensur, på riktigt.
Vad kan möjligen gå fel?
• Med uppladdningsfilter hålls oönskat innehåll borta för alltid
Samtidigt finns det krafter i EU-apparaten som vill att uppladdningsfilter skall införas som något slags allmänt verktyg i DSA. Syftet är att information som plockats ner en gång inte skall kunna laddas upp igen.
Till att börja med innebär det att allt som alla skriver eller postar (länkar, bilder, ljud, videos m.m.) måste granskas av maskiner innan det kan publiceras – eller stoppas.
Dessutom kan det leda till att sådant som censurerats av till exempel politiska skäl kan komma att hållas borta från nätet för alltid. Även om informationen i fråga med tiden skulle visa sig vara korrekt eller av allmänintresse.
Tankarna går till George Orwells 1984.
Vad kan möjligen gå fel?
Början till slutet för alternativmedia på Facebook?
Facebook meddelar att de tecknat ett avtal med nationell och regional fransk media, för att mot betalning ha rätt att länka till material på dess siter. En uppenbar risk med detta är att det bara blir de stora mediehusen som kommer att synas, då små tidskrifter och alternativmedia inte omfattas av avtalet.
Bakgrunden är EU:s nya upphovsrättsdirektiv och dess länkavgifter, den så kallade länkskatten. Precis som dess kritiker fruktade omfattar det nya franska licensavtalet bara mediejättarna, som i detta fall organiseras inom l’Alliance de la presse d’information générale.
Det kommer (förmodligen) även i fortsättningen att vara möjligt för användare att länka till alternativmedia. Men det som lyfts fram på Facebook och dess nya franska Facebook News kommer endast att komma från Big Media.
En annan aspekt är att detta kommer att göra det ännu svårare för nya utmanare till existerande sociala media. Även om Facebook & Co har råd att betala miljarder för licensavtal – så är detta i princip omöjligt för mindre plattformar och startups.
En liknande lösning är att vänta i Sverige. Här är regeringens förslag till implementering av upphovsrättsdirektivet nu ute på remiss.
• TechCrunch: Facebook agrees to pay French publishers for news reuse »
• Facebook: Facebook France and L’Alliance de la presse de l’information partner to strengthen the news experience for people and publishers in France»
eBevis – ett hot mot pressens frihet och rättssäkerheten
eBevis är förslaget om att myndigheter i ett EU-land skall kunna begära ut data direkt från företag i en annan medlemsstat – utan att blanda in det andra landets rättsväsende. Utöver att förslaget är onödigt så medför det en rad risker – vad gäller pressens frihet, känslig persondata, rätten att protestera samt rätten till en opartisk och rättvis rättegång.
Redan för ett år sedan beskrev EDRi förslaget så här:
»The initial e-evidence proposal by the Commission aims to allow law enforcement agencies across the EU to access electronic information more quickly by requesting it directly from online service providers in other EU countries. Unfortunately, the Commission forgot to build in meaningful human rights safeguards that would protect suspects and other affected persons from unwarranted data access.
The Commission proposal is not only harmful, but simply not needed at this point. To speed up cross-border access to data for law enforcement, there already is the European Investigation Order (EIO). It exists only since 2018 and has never been systematically evaluated, let alone improved.«
Skillnaden mot den europeiska utredningsordern (EIO) är alltså att man vill att myndigheterna i låt säga Bulgarien skall kunna begära ut information och data direkt från företag i exempelvis Sverige, utan att blanda in svenska myndigheter.
Vilket kan vara problematiskt när det land som begär ut uppgifter inte håller tillräcklig standard vad gäller opartiskt rättsväsende, demokratiska principer eller rättssäkerhet.
I ett brev (PDF) uttryckte EDRi och 25 andra organisationer (däribland Europeiska Journalistfederationen, European Broadcasting Union, de europeiska tidningsutgivarna, organisationen för den europeiska internetindustrin, Wikimedia och många andra) redan i våras sin oro. I stora drag delar man i detta brev samma invändningar som gjorts av Tysklands justitiedepartement och EU:s dataskyddsombudsman.
De krav man framförde är följande. Vi tar dem på engelska för att inget skall tappas bort i översättningen:
- Articles 7, 8a, 9, 10, 10a: Need to ensure a legal, systematic and meaningful involvement of the executing Member State
- Article 10a: Protect lawyers, doctors and journalists
- Article 4: Ensure that orders are subject to judicial authorisation
- Article 11: Inform the affected person as soon as possible that the interference occurred
- Article 7a: Ensure the authenticity, security and efficiency of data exchanges
Man skrev även:
To conclude, we call on the negotiators to build a predictable, accountable legal structure for access to personal data across borders that does not undermine existing fundamental rights protection standards.
Vilket känns som ett högst rimligt krav. Speciellt i dessa tider då EU oroas över demokratin, det oberoende rättsväsendet och rättssäkerheten i flera medlemsländer.
Nu följs detta upp av EDRi och 13 andra medborgarrättsorganisationer som i ett antal scenarier visar hur förslaget om eBevis kan hota pressens frihet, känslig persondata, rätten att protestera samt rätten till en opartisk och rättvis rättegång. Läs om dessa scenarier i denna rapport (PDF).
Rapporten ger dessutom ett antal rekommendationer, som återges i faksimil under länkarna nedan.
Länkar:
• EDRi: Stories reveal profound flaws in the “e-Evidence Regulation” »
• Brev (PDF): Trilogue negotiations on the e-evidence proposal – European media and journalists, civil society groups, professional organisations and technology companies call on decision makers to protect fundamental rights »
• Ny rapport (PDF): Demonstrating gaps in the e-Evidence Regulation »
