EU:s Digital Services Act innehåller bland annat nätcensur. Vilka är de nya nätcensorerna och vilka är deras befogenheter?
Nätcensur och uppladdningsfilter i EU – viktig omröstning innan årsskiftet
Trots en mindre försening är EU:s Digital Services Act på väg mot viktiga nyckelvoteringar i Europaparlamentet. Resultatet kan till exempel bli nätcensur, uppladdningsfilter, granskning av privata meddelanden och att andra länder får makt över vad som får finnas på svenska servrar.
I går skulle Europaparlamentets utskott för den inre marknaden – IMCO – ha röstat om EU:s nya Digital Services Act (DSA). Detta har dock skjutits upp till förmån för en utskottsöverskridande utfrågning med Facebooks visselblåsare Frances Haugen.
Då IMCO är huvudansvarigt utskott för DSA innebär detta förmodligen att omröstningen med sina totalt 2.297 ändringsförslag först kommer att ske nästa månad och att huvudvoteringen i parlamentets plenum skjuts fram från december till januari. Därefter kan förhandlingar börja mellan parlamentet, ministerrådet och kommissionen.
Detta ger oss lite mer tid att diskutera och opinionsbilda kring DSA. Och det saknas inte kontroversiella inslag.
Till exempel diskuteras att utöka DSA till att inte bara gälla innehåll som görs allmänt tillgängligt, utan även privat kommunikation. Det vill säga att man vill lägga sig i vad enskilda individer kommunicerar sinsemellan. Vilket i sin tur innebär att all privat kommunikation måste granskas.
Idén om Trusted Flaggers håller på att expandera. Från början handlade det om att företrädare för ”kollektiva intressen” skulle få en gräddfil till sociala media – för att rekommendera vilket innehåll som bör plockas bort. Detta har nu svällt till att dessa Trusted Flaggers skall få rätt att beordra borttagning av innehåll, automatiskt och utan granskning.
Man har även dammat av idén om att myndigheterna i ett EU-land skall kunna beordra nedtagning av innehåll på plattformar i andra länder. Vilket innebär att till exempel polska eller franska myndigheter skall kunna censurera innehåll på svenska servrar.
En annan viktig fråga gäller uppladdningsfilter. Sådana förordas av bland andra parlamentets rättsliga utskott – JURI. Tanken är att maskiner och deras algoritmer skall se till att hålla innehåll som en gång plockats ner borta för alltid. Maskiner och algoritmer som varken förstår kontext, humor eller kritik.
Detta är bara några av alla saker som är problematiska med DSA. Om du håller med om vår kritik, då kan du nu ha fått en månad till för att bilda opinion mot förslagen – innan parlamentets huvudvotering.
Länkar:
• EDRi: Digital Services Act: The EDRi guide to 2,297 amendment proposals »
• EDRi: Digital Services Act / Digital Markets Act: Document pool »
• EFF: Europe’s Digital Services Act: On a Collision Course With Human Rights »
• Piratpartiet: DSA: Resultat från omröstningen i JURI »
• Vilka blir EU:s nya nätcensorer? »
• Stoppa den nya nätcensuren! »
• Det är nu staten tar kontroll över sociala media »
• Video: Varning för nätcensur i EU:s nya Digital Services Act »
EU: Ministerrådet vill ha ”lösningar” vad gäller datalagring, kryptering, eBevis och Darknet
På ett möte i slutet av veckan kommer EU:s inrikesministrar att göra ett nytt försök att återuppväcka datalagringen och kringgå kryptering av meddelanden. På kuppen riskerar man våra grundläggande fri- och rättigheter och säkerheten för elektronisk kommunikation.
Den 11-12 november håller EU:s inrikes- och justitieministrar möte i Slovenien. På dagordningen finns ”appropriate solutions regarding data retention, encryption, e-evidence and the darknet”. Detta i namn av att bekämpa sexuella övergrepp mot barn online (CSAM). Till mötet har man även bjudit in representanter för USA, västra Balkan, EU-kommissionen, Europol, Eurojust och Europaparlamentet.
I sammanhanget skall nämnas att Chatcontrol 2 – obligatorisk avkryptering och granskning av alla användares alla meddelanden – drabbats av ändamålsglidning redan innan det finns något konkret förslag på papper. Barns säkerhet på nätet används här som murbräcka för en mer omfattande övervakning av folkets nätkommunikationer.
Det är intressant att se att man vill blåsa nytt liv i datalagringen. EU:s datalagringsdirektiv upphävdes som bekant av EU-domstolen – som menar att svepande lagring av alla medborgares alla telekommunikationer utan misstanke om brott strider mot de mänskliga rättigheterna.
Hur man tänkt ta sig runt EU-domstolens beslut är oklart. Men veckans möte tyder på att man vill göra ett nytt försök.
Man kan även undra vilka ”lämpliga lösningar” ministerrådet tänkt sig vad gäller kryptering. Som påpekats många gånger finns inga lösningar som upprätthåller krypteringens funktion och integritet och samtidigt ger myndigheterna en bakdörr. Kringgår man kryptering, då blir nätet mindre säkert för oss alla.
Det känns som om vi sett liknande möten förr. Och precis som förr önskar man sig saker som inte är förenliga med medborgarnas rätt till privatliv och säker elektronisk kommunikation.
EU: ChatControl 2.0 skjuts på framtiden?
Den nya reglering som kommer att göra det obligatoriskt för alla nätets meddelandetjänster att av-kryptera och granska sina användares kommunikationer var tänkt att presenteras till månadsskiftet. Nu har den skjutits på framtiden. Det är oklart varför – men en möjlighet är att EU-kommissionen vill utvidga meddelandekontrollen till fler syften.
Tidigare i år beslutade EU om tillfälliga regler för ChatControl – det vill säga av-kryptering och granskning av nätanvändarnas meddelanden och kommunikationer i syfte att bekämpa sexuella övergrepp på barn (CSAM). De reglerna gör det möjligt men inte obligatoriskt med sådan granskning. Samtidigt meddelades att ChatControl 2.0 är på väg, som gör detta obligatoriskt för alla meddelande- och kommunikationsplattformar.
ChatControl 2.0 var tänkt att presenteras den 1 december. Nu verkar det dock som om frågan i vart fall tillfälligt har plockats bort från EU-kommissionens agenda.
Vi vet inte varför. Men det finns ett antal tänkbara förklaringar.
Det kan handla om att sådan övervakning strider mot förbudet mot krav på generell övervakning, GDPR och/eller ePrivacy-förordningen.
Relaterat till detta kan nämnas att EU-domstolen som bekant förbjudit urskiljningslös lagring av data om alla medborgares tele- och datakommunikationer med mindre än att det finns en misstanke mot enskilda eller grupper av användare. Detta kan även appliceras på ChatControl – vilket kommer att kräva en del kreativitet från EU-kommissionens sida för att komma runt.
Alternativt kan man ha upptäckt praktiska hinder vad gäller att tvinga alla meddelandeoperatörer i hela världen att av-kryptera och granska alla europeiska användares meddelanden. Det saknas inte heller kritiker bland människorättsaktivister, krypteringsexperter, ledamöter av Europaparlamentet med flera.
En annan tolkning är att man behöver tid för att inkludera andra syften i ChatControl. Kommissionen (med flera) har till exempel nämnt terrorism och inre säkerhet.
Det är också tänkbart att man vill samordna lagstiftningen med andra länder, främst då USA och Balkan-länderna.
Möjligen är det en kombination av två eller flera av de ovanstående skälen.
Vad vi dock vet är att det – förr eller senare – kommer ett förslag om obligatorisk av-kryptering och granskning av alla användares alla elektroniska meddelanden på alla plattformar.
Länkar:
• EU Commission postpones mandatory screening of encrypted chats »
• Chatcontrol – irriterat i Europaparlamentet »
• Wrong strategy: The Commission fails to tackle child sexual abuse (video) »
• EU to attack safe encryption (video) »
Övervakning av icke misstänkta – hur resonerar regeringen?
Hur tänker egentligen regeringen kring det där med övervakning av personer som inte är misstänkta för något konkret brott? Hur rimmar det med rättsstat och medborgerliga fri- och rättigheter? Vi kikar igenom regeringens utredningsdirektiv om ”Preventiva tvångsmedel för att förhindra allvarlig brottslighet”.
Innan vi gör något annat måste vi notera att det inte handlar om total avsaknad av misstanke. Det handlar om personer som är anknutna till gängkriminella miljöer och som kan förväntas ha något djävulskap för sig.
Inte desto mindre kommer preventiv övervakning utan konkret brottsmisstanke att orsaka sidoskador genom att fullständigt oskyldiga människor blir drabbade. Collateral damage.
Plus att det är en viktig princip i en demokratisk rättsstat att staten inte övervakar vanligt, hederligt folk. Det är till exempel därför EU-domstolen säger nej till urskiljningslös lagring av data om alla medborgares alla tele- och datakommunikationer.
Nu vet vi inte hur utredningens förslag kommer att se ut. Men direktivet finns tillgängligt. På sidan två kan vi läsa:
”Utredaren ska noga väga behovet av en effektiv brottsbekämpning mot den enskildes rätt till skydd för grundläggande fri- och rättigheter såsom den personliga integriteten. Förslagen ska uppfylla högt ställda krav på rättssäkerhet.”
Vilket låter som en lovande ambition. Men hur det blir med den saken kan vi inte veta förrän utredningen lägger fram sitt förslag. En ständigt allt mer omfattande övervakning får samtidigt allt svårare att respektera just de värden som nämns ovan.
Vi får även en överblick av vilka verktyg som finns idag:
”De hemliga tvångsmedlen utgörs av hemlig avlyssning av elektronisk kommunikation, hemlig övervakning av elektronisk kommunikation, hemlig kameraövervakning, hemlig rumsavlyssning och kvarhållande av en försändelse. Sedan den 1 april 2020 finns också ett nytt hemligt tvångsmedel, hemlig dataavläsning. Även inhämtning enligt lagen (2012:278) om inhämtning av uppgifter om elektronisk kommunikation i de brottsbekämpande myndigheternas underrättelseverksamhet, förkortad inhämtningslagen, är ett hemligt tvångsmedel.”
Dessa tvångsmedel används alltså när det finns en misstanke om att ett visst, identifierbart brott planeras eller att ett sådant har utförts. Men nu vill man ta ytterligare ett steg.
”Termen preventiva tvångsmedel används här för att beteckna hemliga tvångsmedel som får beslutas utan att en förundersökning har inletts, jfr propositionen Hemliga tvångsmedel mot allvarliga brott (prop. 2013/14:237 s. 98). Preventiva tvångsmedel har till skillnad från hemliga tvångsmedel under en förundersökning till syfte att förhindra framtida brottslighet. I en förundersökning är syftet att utreda ett begånget brott.”
Pre-crime, med andra ord. Vilket väcker en del så väl praktiska som filosofiska frågor.
Läser vi vidare upptäcker vi att det redan finns massor av relaterade lagar på området. Som inhämtningslagen och preventivlagen.
Inhämtningslagen är dock begränsad till historiska uppgifter, uppger man, för att sedan på nästa rad skriva:
”Enligt lagen får uppgifter hämtas in om omständigheterna är sådana att åtgärden är av särskild vikt för att förebygga, förhindra eller upptäcka brottslig verksamhet som innefattar brott vilka har ett straffminimum på fängelse i minst två år eller om det är fråga om brottslig verksamhet som innefattar vissa särskilt angivna samhällsfarliga brott inom Säkerhetspolisens ansvarsområde. Det krävs således inte att det finns misstankar om ett konkret brott. Åtgärden behöver inte heller kopplas till en viss specifik person.”
Utöver att utredningsdirektivet möjligen innehåller en del märkliga självmotsägelser om vad som gäller, så förefaller det som om vi redan har en lag som gör ungefär det som efterfrågas. Eller två:
”Enligt preventivlagen får tillstånd till bl.a. hemlig avlyssning av elektronisk kommunikation, hemlig övervakning av elektronisk kommunikation och hemlig kameraövervakning meddelas i underrättelseskedet, om det med hänsyn till omständigheterna finns en påtaglig risk för att en person kommer att utöva viss särskilt allvarlig brottslig verksamhet som innefattar en i lagen särskilt angiven gärning, t.ex. terroristbrott.”
Man konstaterar även att vad som gäller för de två ovanstående lagarna också i huvudsak överensstämmer med villkoren för hemlig dataavläsning.
Dessutom har man redan två andra utredningar på gång. Man utreder ”regleringen om hemliga tvångsmedel med syftet att ta ställning till hur hemliga tvångsmedel ska kunna användas i större utsträckning för att bekämpa allvarlig brottslighet”. Visserligen lägger den tonvikten vid hemliga tvångsmedel vid förundersökning, men befinner sig helt klart i en liknande kontext som den nya utredningen.
Den andra utredningen handlar om datalagring vid brottsbekämpning, med ”syfte att säkerställa att de brottsbekämpande myndigheternas tillgång till information förbättras och upprätthålls över tid i takt med teknikutvecklingen och förändrade kommunikationsvanor”.
Det känns som om det redan finns rätt gott om lagar och utredningar på området. Används dessa lagar? Vad skiljer dem egentligen från vad som nu skall utredas? Skulle man inte kunna uppnå synergieffekter genom att samordna dessa utredningar? Vet den ena handen vad den andra gör?
Så, vad har direktivet att säga om rättsstatens principer och medborgarnas fri- och rättigheter?
”Dessa grundläggande fri- och rättigheter får begränsas endast genom lag och endast för att tillgodose ändamål som är godtagbara i ett demokratiskt samhälle. Begränsningarna får aldrig gå utöver vad som är nödvändigt eller utgöra ett hot mot den fria åsiktsbildningen (2 kap. 20 och 21 §§ RF).”
Inte desto mindre innebär övervakning av icke misstänkta medborgares kommunikationer de facto ett brott mot den grundläggande rätten till privatliv.
Sedan fortsätter man med att räkna upp allehanda konventioner som en ny lag kan vara på väg att bryta mot. Europakonventionen till skydd för de mänskliga rättigheterna, Internationella konventionen om medborgerliga och politiska rättigheter och EU:s stadga om de grundläggande rättigheterna. Plus FN:s barnkonvention.
Man skriver även:
”Konsekvensbeskrivningen som gäller jämställdhet ska omfatta en analys av eventuella skillnader mellan vilka konsekvenser förslagen får för kvinnor respektive män och hur förslagen kan bidra till att de jämställdhetspolitiska delmålen uppnås.”
Vilket, givet sammanhanget – insatser mot våldsam gängkriminalitet – blir en smula komiskt. Skall man inte ha med något om klimatet också?
Jag är inte säker på att detta direktiv är helt genomtänkt. Jag blir misstänksam när jag upptäcker att frågan är ett gungfly av redan existerande lagstiftning och utredningar. Och jag är skeptisk till planen att möta gängkriminalitet med en mur av byråkrati.
Vet regeringen verkligen vad den sysslar med? Är det hela bara ett försök att finta bort frågan från dagordningen? Är det valtaktik?
Sedan har vi naturligtvis det större perspektivet: Om staten ges möjlighet att övervaka även människor som inte misstänks för något brottsligt – är det då någon som tror att detta bara kommer att användas mot gängkriminella? Och hur kan ett sådant verktyg inte komma att användas av ondsinta (eller inkompetenta) politiska krafter i framtiden?
Ju mer man gräver ner sig i detta, ju märkligare blir det. Jag föreslår att vi håller oss till principen att människor som inte misstänks för något brottsligt inte heller skall övervakas av staten.
Facebook slutar med ansiktsigenkänning
Facebook slutar med ansiktsigenkänning vad gäller foton – men fortsätter utveckla tekniken för att till exempel låsa upp låsta konton, verifiera ekonomiska transaktioner och öppna enheter.
EFF sammanfattar:
”Facebook announced it is, for now, shutting down its face recognition program, which created face prints of users and automatically recognized them in uploaded photos. The decision to end the program comes at a time when face recognition technology is receiving push back, criticisms, and legislative bans across the United States, and the globe. Close to 20 U.S. cities, including San Francisco and Boston have banned government use of face recognition. There is also growing momentum to legislate against biometric surveillance in the European Union and in New Zealand.”
Taking your face out of Facebook, typ.
• EFF: Face Recognition Is So Toxic, Facebook Is Dumping It »
• Meta/Facebook: An Update On Our Use of Face Recognition »
Övervakning utan brottsmisstanke – fler frågetecken än svar efter regeringens presskonferens
Övervakning utan misstanke om brott är naturligtvis inte acceptabelt. Men är det vad regeringen föreslår? Vet den ens själv? Och bakom rubrikerna finns andra och fler problematiska frågor. Några svar kommer vi dock inte att få förrän efter nästa riksdagsval.
Regeringen har idag meddelat att man tillsätter en utredning om ”utökade möjligheter att använda preventiva tvångsmedel för att förhindra allvarlig brottslighet”. De centrala punkterna är:
• Se över hur exempelvis hemlig avlyssning ska kunna användas i större utsträckning för att förhindra allvarliga brott som begås inom ramen för kriminella nätverk.
• Undersöka nya möjligheter till husrannsakan i preventivt syfte.
• Modernare och utökade möjligheter till datalagring och biometri i brottsbekämpningen utreds.
En intressant fråga är möjligheten att använda tvångsmedel utan brottsmisstanke. Här tycks en del förvirring råda – då något slags misstanke om delaktighet i pågående eller framtida gängbrottslighet ändå kommer att krävas. Så en viss grad av misstanke måste alltså finnas.
Frågan är därför snarare om man skall kunna använda tvångsmedel mot personer som på goda grunder kan misstänkas begå brott eller bara mot personer som konkret misstänks begå ett visst, identifierat brott.
Var man skall dra gränsen är en fråga som bollas över till utredningen. Och innan vi vet vad som faktiskt kommer att föreslås blir det mesta bara spekulationer.
En detalj som kommer att bli viktig att granska när utredningen väl presentras (februari 2023) är risken för ändamålsglidning. En sådan är redan på gång i och med att man nu vill utöka möjligheten till förebyggande övervakning från terrorism till gängbrottslighet. Kommer det att stanna där? Vi ser ju ofta hur övervakning och kontroll som införs på ett område med tiden utvidgas till andra syften – för att till slut även komma att omfatta mindre förseelser där intrånget i medborgarnas privatliv inte alls står i proportion till eventuell brottslighets allvar.
Man får lätt en känsla av att denna utredning är ett sätt för regeringen att triangulera vad gäller oppositionens krav på avlyssning utan brottsmisstanke. Att ”oskadliggöra” ett krav från Moderaterna & Co under valåret, med hänvisning till att man utreder frågan. Detta kan mycket väl vara det verkliga skälet till dagens presskonferens.
En annan intressant detalj som skall utredas handlar om hemlig husrannsakan. Det vill säga att polisen skall kunna gå in i någons bostad (eller annan plats) utan att den som utsätts informeras eller känner till saken. Önskemålet kommer enligt inrikesministern från Säpo, men regeringen vill även utreda att ge detta verktyg till polisen.
Avslutningsvis är punkten ”Modernare och utökade möjligheter till datalagring och biometri i brottsbekämpningen” intressant. Givet sammanhanget i vilket den presenterades kan man undra om regeringen avser datalagring mot misstänkta (OK enligt EU-domstolen) eller utökad allmän, urskiljningslös lagring av data om allas alla tele- och datakommunikationer (inte OK enligt domstolen).
Sedan är begreppet ”biometri i brottsbekämpningen” väldigt luddigt. Det kan innebära allt från fingeravtryck (inte kontroversiellt) till automatiserad ansiktsigenkänning med kameraövervakning på allmän plats i realtid, med samkörning mot allehanda register. Vad gäller det senare pågår en dragkamp i EU där kommissionen och parlamentet säger nej – men flera av medlemsstaterna gärna vill använda ett sådant verktyg.
På det hela taget känns dagens presskonferens med inrikesministern rätt meningslös. (Som en repris av presskonferensen den 27 augusti.) Inget nytt presenterades egentligen (mer än att en utredning om redan kända förslag nu formellt tillsätts). Frågetecknen blev fler än svaren. Och vad som egentligen kommer att föreslås får vi inte veta förrän våren 2023, efter valet. Syftet med övningen var nog mest att framstå som handlingskraftig mot gängbrottsligheten i media.
• Länk: Regeringens pressmeddelande med video och Powerpoint (dock inget utredningsdirektiv ännu) »
Trusted Flaggers – EU:s nya hot mot yttrandefriheten
Läs min krönika om nätcensur, trusted flaggers och uppladdningsfilter i Bulletin, innan den hamnar bakom betalvägg:
EU:s nya hot mot yttrandefriheten »
”EU vill göra företrädare för ”kollektiva intressen” till statligt godkända nätcensorer och införa uppladdningsfilter för sociala media. Trots dessa uppenbara inskränkningar i yttrandefriheten förekommer ingen debatt i frågan.”
Europol ges tillgång till persondata hos internetoperatörerna
Tillgång till persondata hos internetoperatörerna, att knäcka kryptering samt användning av AI är några av punkterna i den nya förordning för Europol som förhandlas fram i EU.
Europaparlamentet, ministerrådet och kommissionen har nu påbörjat förhandlingar om den nya förordningen för det europeiska polissamarbetet, Europol. En del saker är intressanta på vårt område.
Europols nya Innovation Laboratory får mer resurser. Bland det man jobbar med finns ny övervakningsteknik för 5G samt att knäcka kryptering.
Man kommer att få tillstånd att processa persondata med AI-stöd i forskningssyfte. (Ungefär som FRA:s ”forskningsdatabaser”.)
Ministerrådet vill ge Europol ökad tillgång till persondata hos internetoperatörerna. Sådan data skall sedan kunna analyseras med hjälp av ”big data”. Vilket låter lite som datalagringen, fast på steroider.
Man kommer att fortsätta arbetet med att knäcka / hacka krypterade och ”säkra” kommunikationsverktyg som Encrochat och Sky. Till chef för detta har man satt förre utredningschefen hos det franska gendarmeriet, som ju var operativt vad gällde att hacka Encrochat.
Den allmänna ambitionen tycks vara att göra Europol till ett europeiskt FBI. Vilket dock kommer att kräva en ändring av EU:s fördrag. Detta hindrar dock inte att man redan nu drar åt det hållet.
Den nya förordningen innehåller mycket anat viktigt som du kan läsa om här: Negotiations on the Europol Regulation: Will there be a ”European FBI” by the end of the year? »
Chatcontrol – irriterat i Europaparlamentet
Lägg resurserna på riktigt polisarbete mot produktionen av barnporr istället för att kringgå kryptering och övervaka befolkningens kommunikationer. Det säger ledamoten av Europaparlamentet Patrick Breyer (PP, DE) i en ordväxling med EU:s inrikeskommissionär Ylva Johansson.
Det blev en smula känsligt i Europaparlamentet när Breyer ifrågasatte förslaget om av-kryptering och granskning av alla medborgares elektroniska kommunikationer i jakt på material med övergrepp mot barn, i EU-sammanhang kallat CSM.
Breyer påpekade dels att resurserna kan satsas bättre på resurser för riktigt polisarbete, då CSM-ärenden idag ofta blir liggande utan åtgärd under lång tid. Han hänvisade också till en majoritet av remissinstanserna (consultation) och flera tunga instanser som sågar idén om Chatcontrol. Och han kritiserade kommissionen för att inte ens kommentera den ifrågasatta lagligheten i förslaget.
Inrikeskommissionär Ylva Johansson höll inte med och menade att man måste använda alla medel i kampen mot CSM. Några svar vad gäller rättighetsaspekterna och lagligheten gav hon dock inte.
Detta är naturligtvis en mycket känslig fråga. Därför är det bra att det finns i vart fall någon som vågar problematisera och som pekar på de principiella problemen. Det handlar ju ändå om att granska i princip allt som alla skriver och sänder till varandra. Och att ta sig runt kryptering, vilket kan komma att få långtgående konsekvenser vad gäller allas vår säkerhet online.
Det är lite som med övervakningsstaten i övrigt. Det är lätt att få en känsla av att man förlitar sig allt mer på teknik och allt mindre på traditionellt polisarbete – som förmodligen bättre kan gå på problemets kärna och beta av redan existerande ärenden som idag inte hinns med inom rimlig tid.
Slutligen bör man tänka på att när Chatcontrol införs i ett syfte – då kan den lätt och snabbt utvidgas till andra syften. Att bereda sig tillgång till innehållet i alla människors elektroniska kommunikationer är en närmast oemotståndlig frestelse för både politiker och myndigheter.