Femte juli

Nätet till folket!

Rättssäkerhet

Rätten till en opartisk och rättvis rättslig prövning samt principen om att människor skall betraktas som oskyldiga till dess motsatsen bevisats är centrala principer för en demokratisk rättsstat. Ändå urholkas dessa ständigt, i namn av än det ena, än det andra. I nätsammanhang kan det ofta handla om principen att ingen skall straffas eller censureras utan förgående rättslig prövning.

EU och statligt godkända nätcensorer

av

Skall yttrandefrihetens gränser sättas av lag – eller skall olika särintressen tillåtas censurera sociala media? Den frågan är plötsligt högaktuell vad gäller EU:s Digital Services Act.

Vi har tidigare rapporterat om behandlingen av EU:s Digital Services Act – Förordningen om digitala tjänster – i Europaparlamentet. Ju mer man gräver i materialet, ju mer anmärkningsvärt blir det. I sin genomgång hittar Piratpartiet ytterligare en anmärkningsvärd detalj från parlamentets rättsliga utskott, JURI.

Det handlar om så kallade Trusted Flaggers – som skall vara statligt utsedda nätgranskare som företräder ”kollektiva intressen” och som skall ha en gräddfil till sociala medias abuse-avdelningar.

»JURI vill i sin tur ta detta redan problematiska koncept ännu längre, och föreslår att det material som rapporteras av ”trusted flaggers” ska tas bort automatiskt, utan granskning. Det vore – utan minsta överdrift – att inrätta statligt godkända censorer av internet.«

I sammanhanget kan det vara värt att fundera lite över begreppet ”kollektiva intressen” ovan. Vad är det? Vilka är det?

Rimligen lär det handla om intresseorganisationer – som även kan betraktas som särintressen. En intresseorganisation har som regel en agenda. Och nu vill man alltså ge dem makt att censurera sociala media, utan vidare granskning.

Frågan är om det är så lämpligt att låta särintressen censurera nätet. Om vi alls skall ha nätcensorer på nationell nivå – då bör de givetvis vara oberoende, opartiska och höjda över all misstanke om att driva en egen agenda.

Hela frågan om trusted flaggers känns som ett typexempel på missriktad välvilja som kan få oväntade och oönskade konsekvenser.

I en demokratisk rättsstat skall gränserna för yttrandefriheten sättas av lag och i förekommande fall genomgå en opartisk bedömning i domstol. Inte bestämmas av olika intresseorganisationer.

Stoppa den nya nätcensuren!

av

Utan att någon tycks ta någon direkt notis om saken är vi på väg att införa förhandscensur på internet. Inom kort kan maskiner och algoritmer bestämma vad du tillåts säga och uttrycka.

I Sverige är förhandscensur av pressen uttryckligen förbjuden i grundlagen. Vilket är en bra princip. Man skall inte behöva få ett godkännande av staten innan man publicerar information och åsikter. Skulle något olagligt publiceras, då blir det en rättslig fråga i efterhand.

Samma princip bör gälla för alla som publicerar sig online. Så kommer dock inte att vara fallet nu när EU:s nya upphovsrättsdirektiv blir svensk lag. De krav den nya lagstiftningen ställer kommer att leda till uppladdningsfilter. Alltså automatiska filter som granskar och godkänner eller stoppar innehåll innan publicering skett. Det vill säga förhandscensur.

Förhandscensur handlar alltså om att information stoppas innan den nått andra. Vilket är en påtaglig inskränkning av yttrandefriheten.

Upphovsrättsdirektivet är bara början. Förordningen om terror-relaterat innehåll online (TERREG) ställer också krav som endast kan mötas med automatiska uppladdningsfilter. Och i EU:s nya Digital Services Act vill många se uppladdningsfilter som något slags allmänt verktyg för att hålla oönskat material borta från nätet.

Till att börja med bör alla som använder sociala media och andra nätplattformar vara medvetna om att allt vi laddar upp kommer att granskas av censurmaskinerna. Skall man kunna stoppa vissa former av innehåll, ja då måste man ju skanna allt.

Sedan har vi frågan om vad som skall censureras av algoritmerna. Den gränsen kommer inte nödvändigtvis att dras vid vad som är lagligt respektive olagligt. I ministerrådet finns krafter (t.ex. Frankrike) som även vill censurera icke olagliga uttryck som kan anses hatiska eller hotfulla. Det vill säga censur utan lagligt stöd. Vilket är oacceptabelt. Plus att det inte är självklart eller oomstritt vad som kan betraktas som hatiskt.

Slutligen det uppenbara: Om man ger staten rätt att införa förhandscensur och att bestämma dess former – då kan detta komma att missbrukas av ondsinta eller inkompetenta politiker och deras funktionärer.

Nu är frågan om svenska folket kommer att protestera när det införs förhandscensur – eller om vi skall vänta tills det är för sent.

CIA ville kidnappa Julian Assange

av

Efter att Wikileaks 2017 publicerat information om amerikanska verktyg för massövervakning – Vault 7 – diskuterades planer på att kidnappa Julian Assange på hög politisk nivå i Washington. Inom CIA undersöktes även möjligheten att mörda honom. Man planerade också insatser mot andra medarbetare hos Wikileaks – samt att göra det möjligt att åtala fristående journalister som Glenn Greenwald och Laura Poitras.

I helgen avslöjade Yahoo News hur amerikansk underrättelsetjänst försökt komma åt Wikileaks grundare och redaktör Julian Assange. Redan tidigare har dokument avslöjat hur man planerat att svartmåla Wikileaks och fabricera anklagelser mot Assange. Denna gång gick man dock längre. På hög politisk nivå diskuterades möjligheten att kidnappa Assange.

Inom CIA diskuterades även att mörda honom och operativa insatser på Londons gator ifall Ryssland skulle försöka smuggla ut honom. Man undersökte även möjligheten att använda infiltratörer och att göra inbrott hos Wikileaks medarbetare eller att på annat sätt stjäla deras datorer.

Men det var inte bara Wikileaks som hamnade i skottgluggen. Även fristående journalister skulle oskadliggöras. Ur artikeln:

»Still chafing at the limits in place, top intelligence officials lobbied the White House to redefine WikiLeaks — and some high-profile journalists — as “information brokers,” which would have opened up the use of more investigative tools against them, potentially paving the way for their prosecution, according to former officials.«

»Among the journalists some U.S. officials wanted to designate as “information brokers” were Glenn Greenwald, then a columnist for the Guardian, and Laura Poitras, a documentary filmmaker, who had both been instrumental in publishing documents provided by Snowden.«

Julian Assange sitter idag i ett brittiskt högsäkerhetsfängelse medan förhandlingar pågår om utlämning till USA, där han riskerar 175 år i fängelse för sitt journalistiska arbete. US Department of Justices nyckelvittne har dock visat sig vara både mullvad för amerikanska myndigheter och mytoman. Han har nu offentligt tagit tillbaka sina påståenden.

Kärnfrågan – som från början hindrade Obama-administrationen från att ge sig efter Wikileaks – handlar om pressens frihet. Skulle man döma och fängsla Assange – då skulle all media som gör oönskade avslöjanden riskera samma sak.

Läs hela artikeln: Kidnapping, assassination and a London shoot-out: Inside the CIA’s secret war plans against WikiLeaks »

Pegasus och annan statlig spyware sågas av FN-kommissionär

av

Europarådet har hållit en utfrågning kring spionprogramvaran Pegasus, som enligt uppgift använts för att övervaka journalister, oppositionella och politiker runt om i världen. Bland annat medverkade FN:s människorättskommissionär Michelle Bachelet. Här är ett par citat ur hennes anförande.

»Without minimal safeguards and control, expensive and highly intrusive technologies will continue to be used to monitor voices regarded as critical or hostile at home and abroad. These technologies, that detect and exploit vulnerabilities of digital communications without leaving any trace will keep being used as weapons to silence dissent and punish independent reporting.«

»First and foremost, the human rights law applicable here is clear: surveillance measures can only be justified in narrowly defined circumstances, based on the law. In addition, such measures must be both necessary and proportionate to a legitimate goal. Government hacking at the scale reported is never going to meet these criteria.«

Det skall tilläggas att även svenska myndigheter använder Pegasus eller snarlik spyware för övervakning, inom ramen för hemlig dataavläsning.

• Statement by United Nations High Commissioner for Human Rights, Michelle Bachelet »

Ingen censur för Facebooks VIP-användare

av

Samtidigt som vanliga användare drabbas av Facebooks ofta oförklarliga censur och avstängningar – så kan 5,8 miljoner VIP-användare posta i princip vad som helst utan att riskera några konsekvenser.

Det började med XCheck som verkar ha varit ett sätt för Facebook att undvika dålig PR som kan orsakas av automatiserad censur av kändisar. Detta har med tiden utvecklats till ett slags vitlistning av miljontals VIP-användare, som släpper igenom sådant som andra skulle bli av med sitt konto för.

ArsTechnica:

»Over the years, XCheck has allowed celebrities, politicians, athletes, activists, journalists, and even the owners of ”animal influencers” like “Doug the Pug” to post whatever they want, with few to no consequences for violating the company’s rules.«

Ett läckt internt Facebook-memo har i delar publicerats av Wall Street Journal och ArsTechnica:

»For a select few members of our community, we are not enforcing our policies and standards« (…) »Unlike the rest of our community, these people can violate our standards without any consequences.«

Man skall inte underskatta att Facebook går en knepig balansgång vad gäller moderering. Men detta måste sticka i ögonen på alla vanliga användare som blivit censurerade på grund av struntsaker eller av oklar anledning.

Facebook är ett privat företag och de får göra rätt mycket som de vill. Men de kan inte vänta sig att undgå kritik när de ger olika användare olika ”rättigheter”. Speciellt inte med tanke på förtagets dominerande ställning inom sociala media.

Ständigt, dessa uppladdningsfilter

av

Uppladdningsfilter tycks vara på väg att bli något slags standard i EU:s internetrelaterade lagstiftning. Men vill vi verkligen att allt vi laddar upp till publika plattformar skall förhandscensureras – av maskiner?

Det började med artikel 17 i EU:s nya upphovsrättsdirektiv (EUCD) – som i praktiken kommer att leda till uppladdningsfilter. Sedan kom förordningen om terror-relaterat innehåll online (TERREG) – som också kommer att leda till uppladdningsfilter. Och vad gäller den föreslagna Digital Services Act (DSA) finns det starka krafter som vill lägga till uppladdningsfilter som något slags allmänt verktyg för att motverka att oönskat innehåll sprids.

Till att börja med måste vi fråga oss om det alls är lämpligt eller önskvärt att all text, alla bilder, all video, alla ljudfiler med mera som vi lägger upp på olika plattformar skall förhandscensureras.

Det rimliga borde var att om någon på nätet – precis som i övriga livet – gör något olagligt, då blir detta en fråga för rättsväsendet när handlingen väl har skett. Om detta sedan kan slås fast i en oberoende rättslig process, då kan innehållet tas ner.

Därför är förhandscensur av pressen förbjuden i Sverige. Detsamma borde gälla online.

Nästa fråga är om vi verkligen vill att sådan censur skall skötas av maskiner. Algoritmer klarar inte att ta hänsyn till sammanhang, förstå humor eller satir, göra undantag för memer eller kritik. Man kan med säkerhet säga att uppladdningsfilter kommer att stoppa mer information än vad som från början var tänkt. Det vill säga även information som bör få publiceras.

En tredje invändning är att om uppladdningsfilter väl finns på plats, då är det en enkel sak att utöka deras användningsområde. Sådan ändamålsglidning förekommer nästan alltid.

Jag förundras över hur vissa politiska partier kan hävda att om andra partier kommer till makten, då hotas den svenska demokratin – samtidigt som de förstnämnda inte tvekar att rulla ut verktyg för censur, kontroll och övervakning som ju faktiskt kan användas av framtida regeringar just för att inskränka den svenska demokratin.

Utredare vill kriminalisera krypterad kommunikation

av

Gängbrottsutredningen föreslår, som vi tidigare rapporterat, en kriminalisering av förberedelse till ringa narkotikabrott. När man granskar utredningen närmare visar det sig att användning av till exempel en krypterad chat eller meddelandetjänst kan räknas som ett sådant förberedelsebrott.

Gängbrottsutredningen (SOU 2021:68 Skärpta straff för brott i kriminella nätverk) och dess förslag till en kriminalisering av förberedelse till ringa narkotikabrott (innehav för personligt bruk samt eget bruk) öppnar inte bara för användning av statens olika övervakningsverktyg. Även användning av krypterad kommunikation bör enligt utredningen betraktas som förberedelse. Från sidan 509:

»Ett förberedelsebrott kan t.ex. föreligga om köparen införskaffat hjälpmedel som syftar till att undgå upptäckt eller identifikation i samband med brott. Ett sådant hjälpmedel skulle kunna vara en krypterad chattfunktion eller något annat tekniskt hjälpmedel för att anonymt kunna beställa narkotika via internet.«

Om det handlar om förberedelse till inköp av narkotika för eget bruk – då är per definition köpet ännu inte genomfört.

Även om förslaget skall ses i sitt sammanhang, så är det mycket märkligt. Då blir krypterad kommunikation som sådan en indikation på något brottsligt, som kan innebära straff för användaren.

Eller, för att uttrycka saken på ett annat sätt: Om kryptering blir olaglig i samband ett brott som inte genomförts och som kanske aldrig kommer att genomföras – då blir kryptering i sig ett brott.

Och hur har man i sammanhanget tänkt förhålla sig till vanlig end-to-end-krypterad e-post? Den kan användas för att beställa narkotika – och i otaliga andra, helt lagliga syften. Hur kommer man i sammanhanget att förhålla sig till TOR? VPN? ProtonMail?

Ser man till den större bilden blir det än mer oroväckande. EU:s #ChatControl innebär att meddelande- och e-post-tjänster tillåts avkryptera och granska alla meddelanden i jakt på visst olagligt material. Med den kommande #ChatControl 2 väntas detta utökas till att bli obligatoriskt. (Hur nu det är tänkt att gå till.) Dessutom finns tecken på att syftet med sådan kontroll av våra kommunikationer kan komma att utökas. Vilket i så fall passar som hand i handske med utredningens förslag ovan.

Anonymitet är inget brott och krypterad kommunikation är som regel både nödvändig och önskvärd.

• SOU 2021:68 (PDF) »

Nyspråk om övervakning utan brottsmisstanke?

av

Regeringen vill låta utreda möjligheten till övervakning utan brottsmisstanke. Är detta bara nyspråk för att framstå som handlingskraftiga mot gängbrottsligheten? Eller tänker man verkligen utöka övervakningen av människor som inte är misstänkta för brott?

Den positiva tolkningen är att regeringen bara vill desarmera moderaternas krav på övervakning även om det inte finns någon misstanke om brott. Det kravet är i sin tur inte riktigt vad det låter som. Istället handlar det om övervakning av människor i kriminella miljöer som man faktiskt misstänker kommer att begå brott – även om man inte vet exakt var, när eller hur. Då är det mest en definitionsfråga.

Den negativa tolkningen är att detta öppnar för mer övervakning av vanligt hederligt folk. Vi har redan sådan, till exempel i form av lagringen av data om alla medborgares alla tele- och datakommunikationer utan misstanke om brott. (Vilket EU-domstolen för övrigt vill stoppa.) I en demokratisk rättstat skall den som inte sysslar med något brottsligt ha rätt att bli lämnad ifred och att få sin mänskliga rätt till privatliv respekterad.

Nu är utredningen ännu inte formellt tillsatt, så vi vet inte var den kommer att landa. Men även om det blir i linje med den positiva tolkningen ovan – så finns det risk för ändamålsglidning. På samma sätt som till exempel datalagringen endast skulle användas för att utreda allvarlig brottslighet, men kommit att användas för att utreda bagatellartade brott som fildelning – där intrånget i medborgarnas privatliv inte står i proportion till brottets allvar.

Därför gäller det att inte bara se till vad utredningens direktiv kommer att föreskriva och vad själva utredningen sedan kommer fram till. Man måste även vara en smula misstänksam och se vad dess förslag öppnar upp för.

Men just nu känns det mest som att inrikesministern vill ha bort en sakfråga ur den kommande valrörelsen.

• Regeringen: Effektiva möjligheter att använda hemliga tvångsmedel för att förhindra allvarliga brott »

Uppladdningsfilter, datalagring, statligt godkända nätgranskare, av-kryptering och granskning av meddelanden och e-post på höstens politiska dagordning

av

Sommarlovet är över och det är dags att se över vilka nät-, yttrandefrihets- och övervakningsfrågor som finns på den politiska dagordningen i höst.

Sverige

  • Redan i somras skulle EU:s nya upphovsrättsdirektiv ha varit svensk lag. Någon remiss eller proposition har dock inte synts till. Delvis kan det bero på att EU-kommissionen dragit benen efter sig i den kontroversiella frågan om uppladdningsfilter. En annan sak att hålla ögonen på är hur direktivets absurda länkskatt är tänkt att implementeras i svensk lag.
  • Efter att EU-domstolen meddelat att den svenska lagen om datalagring måste skrivas om har regeringen tillsatt en utredning. Visserligen skall utredningen presenteras först våren 2023, men det är viktigt att hålla frågan levande – och då inte minst det faktum att den svenska datalagringen fortfarande kolliderar med domstolens nej till svepande lagring av data om alla medborgares alla tele- och datakommunikationer utan misstanke om brott.

EU

  • EU:s nya Digital Services Act (DSA) föreslår så kallade Trusted Flaggers – som är tänkta att vara organisationer som är statligt godkända nätgranskare, med direktlinje till sociala medias abuse-avdelningar.
  • Det finns krafter i både Europaparlamentet och ministerrådet som vill att DSA också skall innehålla allmänna uppladdningsfilter.
  • EU:s ministerråd vill i ett inspel kopplat till DSA att inte bara olagligt material skall plockas bort på nätet. Man vill även att icke olagligt hat och hot skall bort, vilket i så fall innebär att yttrandefrihetens gränser inte längre sätts av lag.
  • Under hösten väntas dom i EU-domstolen, där Polen överklagat artikel 17 i det nya upphovsrättsdirektivet, som kommer att leda till automatiska uppladdningsfilter. Domstolens generaladvokat ger (med vissa förbehåll) grönt ljus till artikel 17, men det händer emellanåt att domstolen går på en annan linje än dennes rekommendationer.
  • ChatControl 2.0 är uppföljningen till beslutet att ge meddelande- och e-post-tjänster möjlighet att av-kryptera och granska användarnas kommunikationer i jakt på sexuellt utnyttjande av barn. Under vintern kommer nästa steg, som förvänts göra detta obligatoriskt.
  • Kopplat till detta har EU presenterat ett diskussionspapper där man överväger att använda den metod som Apple valt (i vart fall i USA) för att komma åt bilder och sexuella övergrepp på barn. Det vill säga att kringgå kryptering genom att med något slags spionprogram granska bilder och meddelanden redan på användarens telefon. Vilket är ett av flera olika förslag man skissar på.
  • EU-kommissionen och ministerrådet överväger hur de skall kunna komma runt EU-domstolens nej till urskiljningslös datalagring utan misstanke om brott.
  • EU-kommissionen har föreslagit European Digital Identity Wallets, som är tänkta att användas för ID, pass, licenser, körkort, kollektivtrafikkort, sjukvårdsinformation, recept, inloggning på nätplttformar, betalningmedel med mera. Vilket kan öppna för ett omfattande övervakningssamhälle i vilket vi får blippa oss fram.
  • Europaparlamentets utskott för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) har sagt nej till till AI och biometrisk analys för massövervakning. Delar av minsterrådet och då speciellt Frankrike vill gå åt andra hållet och använda dessa verktyg.
  • I EU-kommissionens Code of Practice on Disinformation vill man att nätplattformarna i högre utsträckning skall av-monetarisera oönskat innehåll.
  • EU-kommissionen vill förbjuda anonyma betalningar med kryptovalutor och kontantbetalningar på över 10.000 euro.
  • Det pågår en diskussion (framförallt i ministerrådet) om att utöka registreringen av våra flygresor (PNR) till att även gälla tågresor, båtresor, bilhyra och hotellövernattningar.

Detta är bara ett urval av sådant som är på gång i svensk och europeisk politik under hösten. Det händer också att nya frågor dyker upp väldigt plötsligt.

Vi bevakar dessa och fler frågor. Du följer utvecklingen här på bloggen.

Kanada inför drakoniska nätlagar

av

Kanada är nästa land som inför långtgående inskränkningar av yttrandefriheten på internet. Det ser ut som om man bestämt sig för att ta det sämsta ur olika länders lagstiftning och göra det till nationell lag.

Det pågår uppenbarligen något slags kapplöpning bland västerländska demokratier för att införa internetlagstiftning som begränsar yttrandefriheten online. Senast ut är Kanada.

EFF sammanfattar de viktigaste punkterna:

  • Man ger sig på ”skadligt innehåll” som i sig inte är olagligt, men som kan bedömas som upprörande eller stötande.
  • 24 timmar för att plocka ner flaggat material, vilket varken ger tid för en rimlig kontextuell eller juridisk bedömning.
  • Krav som i praktiken kommer att leda till automatiska uppladdningsfilter.
  • Obligatorisk rapportering av potentiellt skadligt innehåll till polis och säkerhetstjänst.
  • Blockering av web-sidor med olämpligt material.
  • Datalagring.
  • Inrättandet av en ”internet speech czar” med omfattande befogenheter.
  • Böter på upp till tre procent av plattformens omsättning eller tio miljoner dollar för företag som bryter mot reglerna.

Kanadas nya ”internet speech czar” skall även få tillträde till alla platser (utom bostäder):

»in which they believe on reasonable grounds there is any document, information or any other thing, including computer algorithms and software, relevant to the purpose of verifying compliance and preventing non-compliance . . . and examine the document, information or thing or remove it for examination or reproduction”; to hold hearing in response to public complaints, and, “do any act or thing . . . necessary to ensure compliance.«

Privat kommunikation är dock undantagen – men kommer ändå att falla i och med att västliga regeringar i något slags samordnad attack nu försöker bereda sig tillgång till medborgarnas krypterade chattar, meddelanden och-epost.

EFF: O (No!) Canada: Fast-Moving Proposal Creates Filtering, Blocking and Reporting Rules—and Speech Police to Enforce Them »