Femte juli

Nätet till folket!

Rättssäkerhet

Rätten till en opartisk och rättvis rättslig prövning samt principen om att människor skall betraktas som oskyldiga till dess motsatsen bevisats är centrala principer för en demokratisk rättsstat. Ändå urholkas dessa ständigt, i namn av än det ena, än det andra. I nätsammanhang kan det ofta handla om principen att ingen skall straffas eller censureras utan förgående rättslig prövning.

Facebook, dess censur och förlorade trovärdighet

av

Facebook har problem med sitt förhållande till verkligheten. Följande har hänt:

  • Facebook censurerar postningar som hävdar att det nya corona-viruset är skapat av människan och/eller spridits från ett biologiskt labb i Wuhan, Kina. Man menar att detta är en teori som har motbevisats.
  • Samtidigt lägger den nya amerikanska administrationen ner den förra administrationens utredning om virusets ursprung.
  • Uppgifter i media (bl.a. Wall Street Journal) gör gällande att anställda på labbet i Wuhan insjuknat i vad som förefaller vara Covid-19 redan i november 2019 – det vill säga innan det egentliga utbrottet.
  • Den nya amerikanska administrationen tillsätter en ny utredning.
  • Facebook tillåter åter postningar enligt första punkten ovan.

Låt oss för ett ögonblick bortse från Trump, Biden och själva sakfrågan – för att istället titta närmare på Facebook, dess förhållande till verkligheten och dess trovärdighet.

Det som stämplades som fake news i går är uppenbarligen en möjlig sanning idag. Människor har tystats, åsikter har avfärdats och debatten har begränsats. Facebook har bidragit till osäkerhet och förvirring – och förlorat den eventuella trovärdighet man haft.

Nu kan man naturligtvis hävda att ny information tillkommit, vilket är helt riktigt. Men det ändrar inte det faktum att Facebook censurerat postningar och avfärdat påståenden som eventuellt är korrekta. Vilket skett med sedvanlig tvärsäkerhet och arrogans – och utan möjlighet till överprövning.

En fråga man kan ställa sig är om det är amerikanska inrikespolitiska hänsyn som styrt Facebooks handlande.

En annan fråga är om man kan lita på Facebook i ett vidare perspektiv. Hur skall man förhålla sig till en social medieplattform som har ett så dynamiskt förhållande till verkligheten?

Livet skulle kunna bli så mycket enklare för sociala media om de i princip bara censurerar innehåll som är uppenbart olagligt.

Graf: Så röstade utskottet LIBE om Chatcontrol

#Chatcontrol klar för slutlig votering

av

I Europaparlamentet har Utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor – LIBE – nu röstat ja till avkryptering och skanning av innehållet i dina meddelanden och din epost i jakt på barnporr och olämpliga kontakter med barn.

Läs vår tidigare post om detta – och varför det är problematiskt. Med länksamling. »

Med detta kan frågan gå vidare till votering i plenum, kanske redan så snart som 7-10 juni. Där kommer #Chatcontrol att godkännas, med applåder och en förkrossande majoritet.

Röstsiffrorna i LIBE (ovan) ger en fingervisning. I sammanhanget kan man notera att Alice Bah Kuhnke (MP) röstade emot den gröna grupplinjen i utskottet.

Nästa steg blir att hålla ögonen på denna övervakning – så att den inte missbrukas, så att oskyldiga inte drabbas och så att den inte råkar ut för ändamålsglidning.

Läs mer hos MEP Patrick Breyer (PP, DE) och se även ovan nämnda bloggpost.

EU-kommissionen vill se mer blockering av annonsinkomster för oönskat innehåll

av

EU-kommissionen har idag publicerat en uppdatering av sin Code of Practice on Disinformation. Det är ett dokument fyllt av vagt EU-lingo. Här är huvudpunkterna, som de beskrivs av kommissionen på dess hemsida:

  • Larger participation with tailored commitments
  • Better demonetising of disinformation
  • Ensuring the integrity of services
  • Improving the empowerment of users
  • Increasing the coverage of fact-checking and providing increased access to data to researchers
  • Creating a more robust monitoring framework

Några tydliga svar på hur man skall avgöra vad som är sanning, vem som skall göra det och vad som skall betraktas desinformation får vi inte.

En punkt som förtjänar extra uppmärksamhet är denna:

»Platforms and players in the online advertising ecosystem must take responsibility and better work together to defund disinformation, notably by exchanging information on disinformation ads refused by one of the signatories, improving transparency and accountability around ad placements and barring participation by actors that systematically post debunked content.«

Dels är det oklart vad som egentligen menas. Man talar om att desinformation lättare skall kunna bli av med sin finansiering. Det vill säga annonser. Sedan går man vidare med att tala om att stoppa annonser som anses sprida desinformation. Men innehåll som finansieras med annonser finansieras normalt inte med annonser som själva bedöms vara desinformation. Detta är rimligen två olika saker.

Dels är det ett problem när till exempel Youtube stoppar annonsinkomster för innehåll man ogillar. Det finns exempel på att detta skett vad gäller material som varken är fel, kränkande eller omstörtande. Dagens formulering från EU-kommissionen kan närmast ses som en välsignelse och en uppmuntran av sådan av-monetarisering. Och plattformarna kommer alltid att gå längre än vad myndigheterna kräver, för säkerhets skull.

• EU-kommissionen: Commission presents guidance to strengthen the Code of Practice on Disinformation »

Europadomstolen: FRA-lagen måste skrivas om

av

Efter en rättsprocess som pågått i nästan 13 år har Europadomstolen för de mänskliga rättigheterna kommit fram till att den svenska FRA-lagen måste skrivas om.

Domstolen pekar ut tre brister i den gällande lagen: bristande skydd för juridiska personer, bristande dataskydd vid utbyte av information med andra länder och bristande tillsyn och insyn vad gäller insamlad information.

Det var 2008 som Centrum för Rättvisa anmälde den då nya svenska FRA-lagen till Europadomstolen. Detta ledde till att regeringen snabbt skrev om lagen, för att i vart fall ge en bild av stärkt skydd för den personliga integriteten. 2018 godkände domstolen den nya, uppdaterade lagen – men menade samtidigt att den kunde förbättras på flera punkter. Centrum för Rättvisa begärde därför att lagen skulle tas upp i domstolens Grand Chamber, vars beslut meddelats idag.

Från Centrum för Rättvisas hemsida:

– Det här är en viktig dom som klargör vilka rättssäkerhetskrav som ska gälla för att hemlig massövervakning ska vara tillåten. Signalspaning kan vara ett användbart verktyg för att kartlägga och avslöja yttre hot mot landet, samtidigt är det viktigt att sådan verksamhet sker med bibehållen respekt för enskildas grundläggande fri- och rättigheter, säger Fredrik Bergman, chef för Centrum för rättvisa, som drev fallet i Europadomstolen.

Domen från Europadomstolens stora kammare innebär att det i och för sig är tillåtet för stater att ha system för hemlig massövervakning, om det finns tillräckliga rättssäkerhetsgarantier till skydd för enskildas rättigheter. Europadomstolen identifierar tre brister i det svenska systemet: Att FRA-lagen innehåller ett otillräckligt skydd för den personliga integriteten när Sverige delar med sig av data till andra stater, att skyddet för organisationers och företags kommunikation är otillräckligt och att det saknas effektiv kontroll av FRA:s verksamhet. Sverige fälls därför för brott mot den personliga integriteten i Europakonventionen.

Domen innebär dels att FRA-lagen måste skrivas om, för att möta domstolens krav. Domen blir även vägledande för statlig övervakning i alla medlemsstater i Europarådet (fler än bara EU).

Speciellt är punkten om bristande tillsyn intressant. Det är en bekräftelse av den kritik mot FRA-lagen som framfördes från början och – som trots lagändringar – aldrig hanterats på ett tillfredsställande sätt.

Länkar:
• Europadomstolens dom (PDF) »
• SR: Europadomstolen fäller Sverige för brister i FRA-lagen »
• SVT: 13 år senare: Svenska staten fälls för brister i FRA-lagen »
• Centrum för Rättvisa: Europadomstolen: FRA-lagen kränker den personliga integriteten »
• Wikipedia: FRA-lagen »

Video: Saker på gång i EU som du bör känna till

av

En sammanställning över aktuella EU-frågor som rör internet, det fria ordet, fri- och rättigheter och övervakning. 17 ämnen på elva minuter, för att inte slösa med din tid.

 

Artificiell Intelligens och övervakning • ChatControl • Code of Conduct on countering illegal hate speech online • Corona-pass • Datalagring • eBevis • EU-ID • European Democracy Action Plan • Europol • Interconnected bank account registers • Länkskatt • Patientjournaler • PNR • ROXANNE • TERREG • Trusted flaggers • Uppladdningsfilter

Klart att klubbas i EU – avkryptering och granskning av e-post och meddelanden

av

Förra året trädde the European Electronic Communications Code (EECC) i kraft. Dess syfte var att garantera internetanvändares rätt till privatliv, vilket den också gjorde. I kombination med eHandels-direktivets förbud mot allmän, svepande övervakning gav den användarna det skydd som vi rimligen har rätt att kräva – om man tillämpar Europakonventionen om de mänskliga rättigheterna och vad denna har att säga om rätten till privatliv på våra liv online.

Vad man inte tänkte på var att Google, Yahoo, Facebook med flera redan av-krypterar och skannar innehållet i e-post och meddelanden. Detta i jakt på barnporr och för att förhindra sexuella övergrepp på barn. Flaggade meddelanden granskas av den amerikanska privata organisationen National Center for Missing & Exploited Children (NCMEC) och lämnas i förkommande fall vidare till polisen.

Detta skulle inte längre vara möjligt med det starka skydd för användarnas privatliv som EECC stadgar.

Från NCMEC:s sida startades därför en kampanj – uppbackad av kändisar från film- och nöjesvärlden – där man på ett högljutt sätt som i princip omöjliggjorde saklig diskussion krävde en återgång till den tidigare ordningen, där e-post och meddelanden avkrypteras och översänds till NCMEC.

Det är detta som nu är uppe i EU. Man gör ett undantag från EECC och eHandels-direktivet för att av-kryptering och granskning av meddelanden skall kunna fortsätta.

Beslutet är tvådelat. Dels handlar det om att man inför ett undantag i gällande lagstiftning, för att övervakningen skall kunna fortsätta. Dels handlar det om ett beslut om att göra denna övervakning möjlig även på sikt.

Det första beslutet gör det tillåtet för företag som tillhandahåller e-post och meddelandetjänster att av-kryptera och granska användarnas kommunikationer. Det andra beslutet gör det obligatoriskt.

Det första beslutet (undantaget) väntas i Europaparlamentets plenum i juni eller augusti. (Trilogförhandlingarna avslutades i slutet av förra månaden.) Och efter sommaren väntas EU-kommissionen lägga fram förslag till steg två, som alltså är tänkt att göra av-kryptering och granskning obligatorisk.

Vad är då problemet?

Till att böja med öppnar av-kryptering och innehållsgranskning för att denna verksamhet även kan komma att bedrivas i andra syften. I händerna på en auktoritär, korrumperad eller inkompetent regim är detta ett kraftfullt och farligt verktyg.

Vidare har studier i Schweiz visat att nio av tio flaggningar av den typ NCMEC vill ha är felaktiga. Detta kommer att få våldsamma konsekvenser för helt oskyldiga människor.

Den piratpartistiske ledamoten av Europaparlamentet, Patrick Breyer (DE) kommenterar:

»This unprecedented deal means all of our private e-mails and messages will be subjected to privatised real-time mass surveillance using error-prone incrimination machines inflicting devastating collateral damage on users, children and victims alike. Countless innocent citizens will come under false suspicion of having committed a crime, under-agers will see self-generated nudes (sexting) fall in wrong hands, abuse victims will loose safe channels for counselling. This agreement sets a terrible precedent and is a result of a campaign of disinformation and moral blackmailing. Unleashing such denunciation machines is ineffective, illegal and irresponsible. It’s using totalitarian methods in a democracy.«

Fler avvikande röster, ur en tidigare bloggpost:

»Europeiska datatillsynsmyndigheten (EDPS) anser att lagförslaget varken är nödvändigt eller proportionerligt. Det saknar laglig grund, tydliga regler och tillräckliga skyddsåtgärder.

EU-parlamentets utredningstjänst (EPRS) anser att en sådan här lag endast bör inriktas mot personer som är misstänkta för att ägna sig åt något brottsligt. Man pekar även på att förslaget strider mot dataskyddsförordningen, GDPR.

UNICEF menar att förbättrad integritet och dataskydd för barn är bättre än automatisk övervakning av deras kommunikation.«

Men nu är det hela i princip redan packat och klart. Nu gäller det att vara uppmärksam på om de nya reglerna missbrukas eller drabbas av ändamålsglidning.

Länkar:
• PP: Trilogkompromiss nådd om massövervakning av privat kommunikation »
• MEP Patrick Breyer (PP, DE): EU-deal on ChatControl – Indiscriminate analysis of all private communications contents becomes law »
• MEP Patrick Breyer (PP, DE): Dokument- och resurs-bank chatControl »
• MEP Patrick Breyer (PP, DE): Poll – 72% of citizens oppose EU plans to search all private messages for allegedly illegal material and report to the police »
• Babak Karimi: ”Jag misshandlades av maskerad polis i mitt eget sovrum” »

Våra tidigare poster om ChatControl, med länkar och resurser: 
• EU: Nu skall alla dina elektroniska meddelanden granskas »
• EU öppnar för automatisk granskning och analys av alla dina meddelanden och all din e-post »
• EU allt närmare kontroll av innehållet i alla nätanvändares alla meddelanden »
• EU: En soppa av motstridiga förslag och beslut om övervakning »
• EU hotar rätten till privat korrespondens online »
• Chatcontrol får grönt ljus – alla meddelanden kan kontrolleras »

17 områden där EU vill bygga ut övervakning, kontroll och censur

av

Massor av internet-och IT-relaterad lagstiftning har redan klubbats eller är på väg genom EU-apparaten. Det är så mycket att det blir svårt att få en överblick. Låt oss därför ge en ögonblicksbild av vad som är att vänta under den innevarande europeiska mandatperioden (2019-24).

Artificiell Intelligens: EU uppmanar visserligen till försiktighet vad gäller användning av AI för övervakning – men öppnar samtidigt för en lång rad undantag där AI ändå kan användas för övervakning från myndigheternas sida.

ChatControl: Meddelanden och e-post skall av-krypteras för att kontrollera om det förekommer sexuellt utnyttjande av minderåriga. Detta kan lätt utökas till andra syften.

Code of Conduct on countering illegal hate speech online: EU-kommissionär Ylva Johansson har flaggat för att en ny EU-gemensam uppförandekod skall sättas upp vad gäller hat och hot på nätet.

Corona-pass: EU vill se en gemensam app för att möjliggöra en återgång till normalt liv för vaccinerade, testade och personer med antikroppar. Detta öppnar även nya möjligheter för övervakning.

Datalagring: Ett nytt datalagringsdirektiv är på väg. Tanken är att lagra data om alla medborgares alla tele- och datakommunikationer för att kunna kontrollera vem som har kontakt med vem, var folk befunnit sig och när de har varit uppkopplade. Frankrike vill ändra EU:s fördrag och stadgan om de mänskliga rättigheterna för att EU-domstolen inte skall kunna stoppa direktivet.

eBevis: Polisiära myndigheter i alla EU:s medlemsstater kommer att kunna begära ut uppgifter om användare samt kommunikationsdata och lagrad information från till exempel en internetoperatör, social plattform eller app-tjänst i vilket medlemsland som helst.

EU-ID: Ett elektroniskt EU-ID finns på EU-kommissionens önskelista. Vilket i princip kommer att göra det omöjligt att vara anonym på nätet.

European Democracy Action Plan: Syftet är bland annat att bekämpa hat och desinformation online. Vilket alltid brukar landa i kontroversiella frågor om var gränsen går och vem som skall bestämma vad som är rätt och sant.

Europol: Den europeiska polismyndigheten arbetar intensivt för att knäcka krypterade kommunikationer. Man har flaggat för att man vill ha direkt tillgång till information hos privata aktörer (som till exempel internetoperatörer). Europol håller även på att utöka sitt mandat till att bekämpa desinformation.

Interconnected bank account registers: Den hårt kritiserade och misskötta överföringen av europeisk bankdata för analys hos amerikanska säkerhetsmyndigheter är tänkt att ersättas av ett centralt EU-register – för att lagra och analysera data om alla finansiella transaktioner inom det europeiska banksystemet.

Länkskatt: EU:s nya upphovsrättdirektiv kommer att leda till att det blir enklast för sociala media att sluta avtal med de stora mediehusen – på små, nya och alternativa medias bekostnad.

Patientjournaler: EU-kommissionen vill se ett heltäckande, centraliserat europeiskt system för medicinska journaler.

PNR: EU-kommissionen och ministerrådet vill utöka registreringen av våra resor (och om detaljer kring dessa). Detta gäller redan för flygresor, men man diskuterar att utöka registreringen till att även gälla hyrbilar, tågresor, båtresor och hotellövernattningar.

ROXANNE: Ett EU-finansierat projekt för röstigenkänning,

TERREG: Förordningen om terror-relaterat innehåll online innebär censur av åsikter online. Notera att det handlar om åsikter som inte nödvändigtvis är olagliga. Detta kan enkelt utvidgas till andra syften. TERREG kommer även att tvinga fram användning av uppladdningsfilter. Förordningen säger också att flaggat material skall plockas ner inom en timma (utan föregående rättslig prövning) och öppnar för att myndigheter i ett EU-land kan beordra nedtagning av innehåll på servrar i andra medlemsstater.

Trusted flaggers: EU:s nya Digital Services Act kommer att ge oss statligt godkända innehållsgranskare på nätet – vars anmälningar skall prioriteras av nätplattformarna.

Uppladdningsfilter: Allt som alla laddar upp kommer att inspekteras, analyseras och i förekommande fall censureras. Detta för att stoppa upphovsrättsskyddat material och terror-relaterad information. Dessa syften kan enkelt komma att utvidgas. Vissa EU-länder vill även se uppladdningsfilter som ett allmänt verktyg inom the Digital Services Act.

Detta är bara en del av allt som är på gång när det gäller internet, IT, övervakning och kontroll i EU. Nya förslag tillkommer hela tiden. Men vi tycker att det är viktigt att man inte bara gräver ner sig i enskilda förslag, utan även ser till den större bilden. Och sammantaget är det ingen tvekan om att EU är på väg att utvecklas till en kontroll- och övervakningsstat, som även begränsar det fria ordet online.

Chatcontrol får grönt ljus – alla meddelanden kan kontrolleras

av

I går hölls den avslutande trialog-förhandlingen om Chatcontrol I EU – som öppnar för operatörerna att avkryptera och kontrollera innehållet i alla meddelanden och all e-post i jakt på barnporr och grooming riktad mot underåriga.

Vilket i praktiken leder till att alla dina elektroniska kommunikationer kan komma att granskas och i förekommande fall översändas till en privat organisation i USA, för vidare överföring till polisen.

Även den som är oskyldig har allt att frukta, då denna analys kommer att göras av maskiner som varken begriper kontext eller skillnaden mellan oskyldiga semesterbilder och barnporr. Erfarenheter visar att 86% av alla sådana flaggningar är felaktiga. Så skriv inget som kan missuppfattas eller vantolkas av maskinerna och dess algoritmer.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) säger:

»This unprecedented deal means all of our private e-mails and messages will be subjected to privatised real-time mass surveillance using error-prone incrimination machines inflicting devastating collateral damage on users, children and victims alike. Countless innocent citizens will come under false suspicion of having committed a crime, under-agers will see self-generated nudes (sexting) fall in wrong hands, abuse victims will loose safe channels for counselling. This agreement sets a terrible precedent and is a result of a campaign of disinformation and moral blackmailing. Unleashing such denunciation machines is ineffective, illegal and irresponsible. It’s using totalitarian methods in a democracy.«

Gårdagens uppgörelse gör det tillåtet för operatörer att göra denna granskning, trots EU-lagstiftningens förbud mot allmän övervakning. Och nu förbereder EU-kommissionen ett lagförslag som gör sådan granskning obligatorisk.

Sedan är frågan när syftet med detta verktyg kommer att drabbas av ändamålsglidning, snarare än om så kommer att ske.

Läs mer hos Patrick Breyer »

Patrick Breyer på Twitter

EU: Nätcensur antagen utan votering – före debatten i plenum

av

Europaparlamentets arbetsordning är hopplöst snårig och komplicerad. Dessutom är det inte alltid man följer den, då man inte vill ha en massa stök. Och nu, detta:

Europaparlamentet har just godkänt förordningen om terror-relaterat innehål online utan omröstning i plenum. Debatten i plenum kommer dock, enligt föredragningslistan, att äga rum först i morgon, onsdag kl 20:30. (!)

Den piratpartistiske, tyske ledamoten Patrick Breyer skriver på sin blogg:

»The European Parliament Civil Liberties Committee voted in favour of the regulation. The plenary approved it without vote.«

Vilket är en smula absurt. Åter tycks man handla enligt modellen: Först beslutar man. Sedan debatterar man. Därefter tar man reda på fakta.

Sammanfattningsvis har vi nu fått censur av åsikter online, krav på nedtagning av flaggat innehåll inom en timma, rätt för myndigheter i ett land att beordra nedtagning av material på servrar i andra länder (utan samråd med landet i fråga) och ett krav på att flaggat material inte skall kunna läggas upp igen – vilket i praktiken kommer att kräva uppladdningsfilter, även om man noga undviker att använda det ordet i dokumenten.

Nu återstår att se om det eventuellt blir någon prövning av förordningen i domstol.

Länkar:
• MEP Patrick Breyer (PP, DE) »
• Breyers anförande i LIBE (video) »

Uppladdningsfilter – det nya normala i EU:s nätpolitik

av

Först var det artikel 17 (f.d. 13) i EU:s upphovsrättsdirektiv som kommer att kräva uppladdningsfilter, även om man inte använder det ordet. Sedan kom förordningen om terror-relaterat innehåll online (TERREG) som röstas igenom i Europaparlamentet på torsdag – som också i praktiken kommer att kräva uppladdningsfilter, åter utan att använda själva ordet i texten. Och nu föreslår Spanien att EU:s nya Digital Services Act (DSA) skall innehålla uppladdningsfilter för att se till att innehåll som tidigare tagits ner förblir borta.

Ett övergripande problem med uppladdningsfilter är att allt som alla laddar upp måste inspekteras, granskas och i förekommande fall censureras. Dels är det både integritetskränkande och en form av automatiserad censur. Dels kommer lagstiftningens krav att medföra att startups och nya, små utmanare till de sociala mediejättarna kommer att få svårt att bedriva verksamhet – eftersom uppladdningsfilter är komplicerade och kostsamma. På så sätt stärks Facebooks, Twitters och Youtubes dominerande ställning, på mindre konkurrenters bekostnad.

Vidare är automatiserade uppladdningsfilter korkade. De kan inte bedöma kontext. De kan därför inte släppa igenom sådant som rimligen borde släppas igenom – som memes, satir, kritik och debatt. Vilket kommer att leda till att innehåll som inte borde censureras ändå kommer att stoppas.

Som Piratpartiet noterar i en bloggpost går uppladdningsfilter inte heller ihop med den EU-lagstiftning som förbjuder plattformarna att övervaka alla användares aktivitet. Detta bör gå att få prövat i EU-domstolen, dock inte innan sådan lagstiftning redan är på plats.

Det ser alltså ut som om uppladdningsfilter är på väg att bli det nya normala i EU:s nätlagstiftning. Något som vore intressant att undersöka är hur sådan lagstiftning går ihop med den svenska grundlagens förbud mot förhandscensur.

Länkar:
• Piratpartiet: Spanien föreslår att generella uppladdningsfilter ska ingå i Digital Services Act »
• Netzpolitik: Entfernung illegaler Inhalte entzweit EU-Länder »