Femte juli

Nätet till folket!

Sökresultat för: dsa

Uppladdningsfilter, datalagring, statligt godkända nätgranskare, av-kryptering och granskning av meddelanden och e-post på höstens politiska dagordning

av

Sommarlovet är över och det är dags att se över vilka nät-, yttrandefrihets- och övervakningsfrågor som finns på den politiska dagordningen i höst.

Sverige

  • Redan i somras skulle EU:s nya upphovsrättsdirektiv ha varit svensk lag. Någon remiss eller proposition har dock inte synts till. Delvis kan det bero på att EU-kommissionen dragit benen efter sig i den kontroversiella frågan om uppladdningsfilter. En annan sak att hålla ögonen på är hur direktivets absurda länkskatt är tänkt att implementeras i svensk lag.
  • Efter att EU-domstolen meddelat att den svenska lagen om datalagring måste skrivas om har regeringen tillsatt en utredning. Visserligen skall utredningen presenteras först våren 2023, men det är viktigt att hålla frågan levande – och då inte minst det faktum att den svenska datalagringen fortfarande kolliderar med domstolens nej till svepande lagring av data om alla medborgares alla tele- och datakommunikationer utan misstanke om brott.

EU

  • EU:s nya Digital Services Act (DSA) föreslår så kallade Trusted Flaggers – som är tänkta att vara organisationer som är statligt godkända nätgranskare, med direktlinje till sociala medias abuse-avdelningar.
  • Det finns krafter i både Europaparlamentet och ministerrådet som vill att DSA också skall innehålla allmänna uppladdningsfilter.
  • EU:s ministerråd vill i ett inspel kopplat till DSA att inte bara olagligt material skall plockas bort på nätet. Man vill även att icke olagligt hat och hot skall bort, vilket i så fall innebär att yttrandefrihetens gränser inte längre sätts av lag.
  • Under hösten väntas dom i EU-domstolen, där Polen överklagat artikel 17 i det nya upphovsrättsdirektivet, som kommer att leda till automatiska uppladdningsfilter. Domstolens generaladvokat ger (med vissa förbehåll) grönt ljus till artikel 17, men det händer emellanåt att domstolen går på en annan linje än dennes rekommendationer.
  • ChatControl 2.0 är uppföljningen till beslutet att ge meddelande- och e-post-tjänster möjlighet att av-kryptera och granska användarnas kommunikationer i jakt på sexuellt utnyttjande av barn. Under vintern kommer nästa steg, som förvänts göra detta obligatoriskt.
  • Kopplat till detta har EU presenterat ett diskussionspapper där man överväger att använda den metod som Apple valt (i vart fall i USA) för att komma åt bilder och sexuella övergrepp på barn. Det vill säga att kringgå kryptering genom att med något slags spionprogram granska bilder och meddelanden redan på användarens telefon. Vilket är ett av flera olika förslag man skissar på.
  • EU-kommissionen och ministerrådet överväger hur de skall kunna komma runt EU-domstolens nej till urskiljningslös datalagring utan misstanke om brott.
  • EU-kommissionen har föreslagit European Digital Identity Wallets, som är tänkta att användas för ID, pass, licenser, körkort, kollektivtrafikkort, sjukvårdsinformation, recept, inloggning på nätplttformar, betalningmedel med mera. Vilket kan öppna för ett omfattande övervakningssamhälle i vilket vi får blippa oss fram.
  • Europaparlamentets utskott för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) har sagt nej till till AI och biometrisk analys för massövervakning. Delar av minsterrådet och då speciellt Frankrike vill gå åt andra hållet och använda dessa verktyg.
  • I EU-kommissionens Code of Practice on Disinformation vill man att nätplattformarna i högre utsträckning skall av-monetarisera oönskat innehåll.
  • EU-kommissionen vill förbjuda anonyma betalningar med kryptovalutor och kontantbetalningar på över 10.000 euro.
  • Det pågår en diskussion (framförallt i ministerrådet) om att utöka registreringen av våra flygresor (PNR) till att även gälla tågresor, båtresor, bilhyra och hotellövernattningar.

Detta är bara ett urval av sådant som är på gång i svensk och europeisk politik under hösten. Det händer också att nya frågor dyker upp väldigt plötsligt.

Vi bevakar dessa och fler frågor. Du följer utvecklingen här på bloggen.

EU-domstolens generaladvokat ger grönt ljus till artikel 17 (uppladdningsfilter)

av

Idag har EU-domstolens generaladvokat presenterat sin rekommendation till dom i målet där Polen begärt att artikel 17 (som kommer att leda till uppladdningsfilter) i EU:s nya upphovsrättsdirektiv skall upphävas.

Generaladvokaten föreslår att artikel 17 inte skall upphävas – men rekommenderar att medlemsstaterna visar sunt förnuft vid implementeringen.

Det är värt att notera att detta inte är en dom, utan en rekommendation till dom. EU-domstolen följer oftast – men inte alltid – generaladvokatens rekommendationer.

Det är dock intressant att generaladvokaten inte hyser någon tvekan om att artikel 17 kommer att leda till uppladdningsfilter.

»As I will explain in this Opinion, that provision imposes on those providers obligations to monitor the content posted by the users of their services in order to prevent the uploading of protected works and subject matter which the rightholders do not wish to make accessible on those services. Such preventive monitoring will, as a general rule, take the form of filtering that content using software tools.«

Generaladvokaten förutser även att detta kan komma att bli problematiskt, då det finns motstridiga intressen:

»That filtering raises complex questions, put forward by the applicant, with regard to the freedom of expression and information of users of sharing services, guaranteed in Article 11 of the Charter of Fundamental Rights of the European Union (‘the Charter’). Further to its judgments in Scarlet Extended, (6)SABAM (7) and Glawischnig-Piesczek, (8) the Court will have to determine whether, and as the case may be the circumstances in which, such filtering is compatible with that freedom. It will have to take account of the advantages, but also the risks of such filtering and, in that connection, ensure that a ‘fair balance’ is maintained between, on the one hand, the interest of rightholders in the effective protection of their intellectual property and, on the other, the interest of those users, and the general public, in the free flow of information online.«

Han menar dock att om man följer de förbehåll som finns i artikel 17, då kan den stå kvar som den är.

»In this Opinion, I shall explain that, in my view, the EU legislature may, while observing freedom of expression, impose certain monitoring and filtering obligations on certain online intermediaries, provided, however, that those obligations are circumscribed by sufficient safeguards to minimise the impact of such filtering on that freedom. Since Article 17 of Directive 2019/790 contains, in my view, such safeguards, I shall propose that the Court should rule that that provision is valid and, consequently, that it should dismiss the action brought by the Republic of Poland. (9)«

Frågan är dock om medlemsstaterna verkligen tar hänsyn till dessa »safeguards« när direktivet görs till nationell lagstiftning. Detta speciellt som medlemsstaterna väljer lite olika vägar för sin implementation.

Enkelt uttryckt blir varje enskild medlemsstats implementation av artikel 17 avgörande. Anser man att ett lands lagstiftning strider mot nämnda skyddsåtgärder – då kan man starta en separat rättsprocess, som kan drivas ända upp till EU-domstolen.

Striden kommer alltså att stå land för land.

Jag får dock ett intryck av att generaladvokaten inte känner sig helt tvärsäker. Det är något i texten som antyder att domstolen kan komma till en annan slutsats. Vilket som sagt vore ovanligt, men inte unikt. Men stalltipset är ändå att man går på generaladvokatens linje.

• Generaladvokatens yttrande över mål C‑401/19; Republic of Poland v. European Parliament & Council of the European Union »

I många små steg inskränker EU det fria ordet online

av

Ett par saker håller just nu på att hända samtidigt i EU.

Dels är EU:s nya Digital Services Act (DSA) på väg att kapas av krafter som vill förbjuda även icke olagliga yttranden på nätet och som vill använda förordningen för att införa allmänna uppladdningsfilter.

Samtidigt har vi den nya förordningen om terror-relaterat innehåll online som vill se rutiner för att oönskat material plockas ner inom en timma, som ger myndigheter i ett EU-land rätt att stänga ner innehåll på servrar i andra länder – och som också kommer att leda till uppladdningsfilter.

I bakgrunden pågår arbete med en ny Code of Conduct on countering illegal hate speech online samt en European Democracy Action Plan. Båda syftar till att bekämpa hat och hot online och kan bli pådrivande för att skärpa sociala medias användarvillkor ytterligare.

Detta är bara några exempel på lagstiftning på gång som rör det fria ordet online i EU. De är var för sig oroväckande. Tillsammans kan de mynna ut i en censurapparat vars motsvarighet vi aldrig tidigare skådat.

Sedan blir det den för tillfället rådande politiska majoriteten, de för tillfället rådande politiska trenderna eller den senaste moralpaniken som kommer att styra vad som får uttryckas på nätet.

Vad som definieras som »hat« eller vem som är att betrakta som »terrorist« kan ändras med ett klubbslag.

Sluta censurera sådant som inte är olagligt

av

Att reglera internet och att övervaka folket tycks vara en prioriterad politisk uppgift. Det går med en rasande fart nu.

Pandemin har förmodligen gjort det lättare. Never waste a good crisis.

Jag noterar att Europol nu har börjat punktmarkera såväl högerextremister som vänsterextremister, islamister och corona-förnekare online. Vad jag förstår använder man sig inte av lagen, eftersom en del av det material man vill ha bort inte är olagligt. Istället anmäler man innehåll till de sociala nätverkens abuse-avdelningar för brott mot nämnda nätverks användarvillkor.

Vilket alltså innebär att statens våldsmonopol ägnar tid och resurser åt att tysta oönskade röster på nätet – som inte nödvändigtvis gör något olagligt. Man kan även fundera på om det är lagen eller Facebooks användarvillkor som skall vägleda polisen i dess förhållande till det fria ordet.

Idén med att göra känsliga inskränkningar i yttrandefriheten genom att påverka sociala media att uppdatera sina användarvillkor är dubiös. Skall man göra inskränkningar i det fria ordet, då skall det ske genom lag i en öppen demokratisk process. Inte genom diskreta påtryckningar mot sociala media.

I EU-kommissionens förslag till en Digital Services Act (DSA) skriver man att olagligt material skall plockas bort. En del länder i ministerrådet, med Frankrike i spetsen, vill gå längre och även avlägsna hat och hot. Men alltså hat och hot som inte redan fallit under rubriken olagligt? Det vill säga att avlägsna lagligt innehåll. See what they did there?

Europaparlamentets franske rapportör om DSA vill redan nu att uppladdningsfilter skall införas som något slags allmänt verktyg. Det vill säga automatisk granskning och i förekommande fall censur av allt du laddar upp – där din yttrandefrihet regleras av maskiner, algoritmer och av den som kontrollerar dessa.

Jag vill inte låta alarmistisk. Men denna slappa hållning gentemot den demokratiska rättsstatens grundläggande principer och metoder är olämplig. Vi håller på att flytta makten över det fria ordet från lagstiftning och rättsväsende till slutna rum.

Europol jagar åsikter online

av

Den europeiska polismyndigheten Europol höll nyligen en »Referral Action Day against right-wing terrorist online propaganda«. Den gick ut på att man surfade runt på nätet och anmälde innehåll som kan tänkas bryta mot plattformarnas användarvillkor.

Statewatch:

»The ”Action Day” followed recommendations made by the Council of the EU and was part of a growing move towards EU and national bodies removing ”violent extremist” material from the internet.

However, as ”violent extremism” is a term for which – unlike terrorism – there is no legal definition, it has an expansive scope that puts much in the eye of the beholder.«

Här blir det lite konstigt, när den europeiska polismyndigheten jagar material som inte är definierat juridiskt. Polisen är till för att upprätthålla lagen. Att då lägga dess resurser på att anmäla innehåll som kanske eller kanske inte är olagligt är inte rättssäkert. Det blir också lite märkligt om polisen jobbar gentemot sociala medias abuse-avdelningar istället för rättsväsendet.

Om en EU-myndighet alls skall syssla med sådant här – är det då verkligen polisens uppgift?

Liknande insatser sägs vara planerade vad gäller vänsterradikal propaganda, jihadism och systemkritiska »Covid 19-förnekare«.

Detta kan möjligen ge en fingervisning om vad som kan komma att omfattas av EU:s nya förordning om terror-relaterat innehåll online (TERREG) – som är uppenbart vag i sin definition av vad som är att betrakta som terrorism.

Det känns tryggare om man håller fast vid vad EU-kommissionen föreslagit i sin Digital Services Act (DSA) – det vill säga att endast olagligt material skall avlägsnas från nätet. (Vilket bland andra Frankrike vill utöka till att även omfatta »hat«.)

Statewatch: EU: Growing online censorship of presumed ”violent extremism” of all ideological varieties »

Digital Services Act diskuteras

EU: Ministrar vill censurera icke olagliga yttranden på nätet

av

Vid måndagens möte med EU:s justitie- och inrikesministrar diskuterades bland annat EU:s nya Digital Services Act (DSA).

En central punkt i DSA är att olagligt material skall plockas ner från nätet. Men det räcker tydligen inte. Frankrike och flera andra länder vill att även till exempel hat skall avlägsnas. Det vill säga att innehåll som är oönskat och obehagligt – men inte nödvändigtvis olagligt – skall censureras.

För det första kan man fundera över de formella grunderna om en medlemsstat vill förbjuda sådant som inte är olagligt.

Man kan också undra vem som i så fall skall fatta detta beslut och på vilka grunder. Kommer det att bli som i förordningen om terror-relaterat innehåll online, TERREG – där en enskild tjänsteman i en medlemsstat kan beordra nedtagning av material i vilket annat EU-land som helst, utan föregående rättslig prövning?

Vidare öppnar detta för subjektiva bedömningar, vilket inte är rättssäkert.

Det fria ordet är centralt för ett demokratiskt samhälle. Tidigare generationer har kämpat i århundraden för yttrandefriheten. Människor har offrat sin frihet och i vissa fall sina liv för rätten att uttrycka åsikter som inte delas av makthavarna. Därför bör inskränkningar endast kunna ske genom lag och tillhörande rättslig prövning.

Räkna med att detta kommer att bli en stridsfråga.

• Sveriges Radio: Delade meningar i EU om vad man får säga på nätet »

NSA-avlyssning av politiker är ingen nyhet

av

Amerikanska National Security Agency – NSA – har med dansk hjälp avlyssnat svenska politiker. Detta har skapat rubriker. Men det är ingen nyhet. Denna typ av samarbeten avslöjades redan av Edward Snowden 2013 – och bekräftades under Europaparlamentets utfrågningar om massövervakningen som sedan följde.

Det fanns till och med misstankar om att den amerikanska avlyssningen av den tyska förbundskanslerns telefon kunde ha skett med svensk hjälp.

I gårdagens SVT Agenda satt försvarsminister Hultqvist och försökte vara klädsamt indignerad. Men han är naturligtvis fullt medveten om att sådant här kan ske inom ramen för olika EU-länders samarbete med NSA.

För svensk del har vi haft underrättelsesamarbete med USA sedan 1950-talet. Men det formaliserades av dåvarande försvarsminister Odenberg i anslutning till striden om den svenska FRA-lagen. Snowdens läckta NSA-dokument ger vid handen att Sverige har haft ett speciellt nära underrättelsesamarbete med de så kallade Five Eyes-länderna (USA, UK, Kanada, Australien och Nya Zeeland). Som trivia kan nämnas att Sverige i Five Eyes-samarbetet tilldelades kodnamnet SARDINE.

Men visst är det intressant att detta skapar uppståndelse först nu – när inte bara vanligt folk, utan även politiker har blivit övervakade.

• SVT: USA har spionerat på svenska politiker med hjälp av Danmark »
• SR: Kritik mot dansk spionhjälp: ”Måste be om ursäkt” »

Rapportör vill se uppladdningsfilter i EU:s Digital Services Act

av

Europaparlamentets utskott för rättsliga frågor – JURI – har nu börjat sin behandling av EU:s nya Digital Services Act – DSA.

Utskottets rapportör i ämnet är den franske, konservative ledamoten Geoffroy Didier. Vem som är rapportör är viktigt, då det är denne som sedan för utskottets eller hela parlamentets talan i framtida förhandlingar.

På dagens sammanträde med JURI stakade han ut sin väg. Mest uppseendeväckande är att han vill se uppladdningsfilter som ett allmänt verktyg i DSA:s verktygslåda.

Det började med upphovsrättsdirektivet vars regler kommer att leda till uppladdningsfilter. Vi varnade redan då för att detta öppnade dammluckorna. Upphovsrättsdirektivet hade sedan inte ens hunnit bli lag i de flesta medlemsländer innan nästa förslag var uppe till votering. Nämligen TERREG, Förordningen om terror-relaterat innehåll online. Även om dess text aktar sig noga för att nämna ordet uppladdningsfilter – så är det förordningen föreskriver sådant som kommer att kräva just sådana. Nyligen var Spanien ute och ville ha in uppladdningsfilter i DSA. Och idag föreslår alltså en av denna dossiers nyckelpersoner just sådana.

Du kan se diskussionen i JURI här »

Klart att klubbas i EU – avkryptering och granskning av e-post och meddelanden

av

Förra året trädde the European Electronic Communications Code (EECC) i kraft. Dess syfte var att garantera internetanvändares rätt till privatliv, vilket den också gjorde. I kombination med eHandels-direktivets förbud mot allmän, svepande övervakning gav den användarna det skydd som vi rimligen har rätt att kräva – om man tillämpar Europakonventionen om de mänskliga rättigheterna och vad denna har att säga om rätten till privatliv på våra liv online.

Vad man inte tänkte på var att Google, Yahoo, Facebook med flera redan av-krypterar och skannar innehållet i e-post och meddelanden. Detta i jakt på barnporr och för att förhindra sexuella övergrepp på barn. Flaggade meddelanden granskas av den amerikanska privata organisationen National Center for Missing & Exploited Children (NCMEC) och lämnas i förkommande fall vidare till polisen.

Detta skulle inte längre vara möjligt med det starka skydd för användarnas privatliv som EECC stadgar.

Från NCMEC:s sida startades därför en kampanj – uppbackad av kändisar från film- och nöjesvärlden – där man på ett högljutt sätt som i princip omöjliggjorde saklig diskussion krävde en återgång till den tidigare ordningen, där e-post och meddelanden avkrypteras och översänds till NCMEC.

Det är detta som nu är uppe i EU. Man gör ett undantag från EECC och eHandels-direktivet för att av-kryptering och granskning av meddelanden skall kunna fortsätta.

Beslutet är tvådelat. Dels handlar det om att man inför ett undantag i gällande lagstiftning, för att övervakningen skall kunna fortsätta. Dels handlar det om ett beslut om att göra denna övervakning möjlig även på sikt.

Det första beslutet gör det tillåtet för företag som tillhandahåller e-post och meddelandetjänster att av-kryptera och granska användarnas kommunikationer. Det andra beslutet gör det obligatoriskt.

Det första beslutet (undantaget) väntas i Europaparlamentets plenum i juni eller augusti. (Trilogförhandlingarna avslutades i slutet av förra månaden.) Och efter sommaren väntas EU-kommissionen lägga fram förslag till steg två, som alltså är tänkt att göra av-kryptering och granskning obligatorisk.

Vad är då problemet?

Till att böja med öppnar av-kryptering och innehållsgranskning för att denna verksamhet även kan komma att bedrivas i andra syften. I händerna på en auktoritär, korrumperad eller inkompetent regim är detta ett kraftfullt och farligt verktyg.

Vidare har studier i Schweiz visat att nio av tio flaggningar av den typ NCMEC vill ha är felaktiga. Detta kommer att få våldsamma konsekvenser för helt oskyldiga människor.

Den piratpartistiske ledamoten av Europaparlamentet, Patrick Breyer (DE) kommenterar:

»This unprecedented deal means all of our private e-mails and messages will be subjected to privatised real-time mass surveillance using error-prone incrimination machines inflicting devastating collateral damage on users, children and victims alike. Countless innocent citizens will come under false suspicion of having committed a crime, under-agers will see self-generated nudes (sexting) fall in wrong hands, abuse victims will loose safe channels for counselling. This agreement sets a terrible precedent and is a result of a campaign of disinformation and moral blackmailing. Unleashing such denunciation machines is ineffective, illegal and irresponsible. It’s using totalitarian methods in a democracy.«

Fler avvikande röster, ur en tidigare bloggpost:

»Europeiska datatillsynsmyndigheten (EDPS) anser att lagförslaget varken är nödvändigt eller proportionerligt. Det saknar laglig grund, tydliga regler och tillräckliga skyddsåtgärder.

EU-parlamentets utredningstjänst (EPRS) anser att en sådan här lag endast bör inriktas mot personer som är misstänkta för att ägna sig åt något brottsligt. Man pekar även på att förslaget strider mot dataskyddsförordningen, GDPR.

UNICEF menar att förbättrad integritet och dataskydd för barn är bättre än automatisk övervakning av deras kommunikation.«

Men nu är det hela i princip redan packat och klart. Nu gäller det att vara uppmärksam på om de nya reglerna missbrukas eller drabbas av ändamålsglidning.

Länkar:
• PP: Trilogkompromiss nådd om massövervakning av privat kommunikation »
• MEP Patrick Breyer (PP, DE): EU-deal on ChatControl – Indiscriminate analysis of all private communications contents becomes law »
• MEP Patrick Breyer (PP, DE): Dokument- och resurs-bank chatControl »
• MEP Patrick Breyer (PP, DE): Poll – 72% of citizens oppose EU plans to search all private messages for allegedly illegal material and report to the police »
• Babak Karimi: ”Jag misshandlades av maskerad polis i mitt eget sovrum” »

Våra tidigare poster om ChatControl, med länkar och resurser: 
• EU: Nu skall alla dina elektroniska meddelanden granskas »
• EU öppnar för automatisk granskning och analys av alla dina meddelanden och all din e-post »
• EU allt närmare kontroll av innehållet i alla nätanvändares alla meddelanden »
• EU: En soppa av motstridiga förslag och beslut om övervakning »
• EU hotar rätten till privat korrespondens online »
• Chatcontrol får grönt ljus – alla meddelanden kan kontrolleras »

Uppladdningsfilter – det nya normala i EU:s nätpolitik

av

Först var det artikel 17 (f.d. 13) i EU:s upphovsrättsdirektiv som kommer att kräva uppladdningsfilter, även om man inte använder det ordet. Sedan kom förordningen om terror-relaterat innehåll online (TERREG) som röstas igenom i Europaparlamentet på torsdag – som också i praktiken kommer att kräva uppladdningsfilter, åter utan att använda själva ordet i texten. Och nu föreslår Spanien att EU:s nya Digital Services Act (DSA) skall innehålla uppladdningsfilter för att se till att innehåll som tidigare tagits ner förblir borta.

Ett övergripande problem med uppladdningsfilter är att allt som alla laddar upp måste inspekteras, granskas och i förekommande fall censureras. Dels är det både integritetskränkande och en form av automatiserad censur. Dels kommer lagstiftningens krav att medföra att startups och nya, små utmanare till de sociala mediejättarna kommer att få svårt att bedriva verksamhet – eftersom uppladdningsfilter är komplicerade och kostsamma. På så sätt stärks Facebooks, Twitters och Youtubes dominerande ställning, på mindre konkurrenters bekostnad.

Vidare är automatiserade uppladdningsfilter korkade. De kan inte bedöma kontext. De kan därför inte släppa igenom sådant som rimligen borde släppas igenom – som memes, satir, kritik och debatt. Vilket kommer att leda till att innehåll som inte borde censureras ändå kommer att stoppas.

Som Piratpartiet noterar i en bloggpost går uppladdningsfilter inte heller ihop med den EU-lagstiftning som förbjuder plattformarna att övervaka alla användares aktivitet. Detta bör gå att få prövat i EU-domstolen, dock inte innan sådan lagstiftning redan är på plats.

Det ser alltså ut som om uppladdningsfilter är på väg att bli det nya normala i EU:s nätlagstiftning. Något som vore intressant att undersöka är hur sådan lagstiftning går ihop med den svenska grundlagens förbud mot förhandscensur.

Länkar:
• Piratpartiet: Spanien föreslår att generella uppladdningsfilter ska ingå i Digital Services Act »
• Netzpolitik: Entfernung illegaler Inhalte entzweit EU-Länder »