Nu inför EU censur av åsikter online – och ingen tycks bry sig.
En video om EU:s nya förordning om terror-relaterat innehåll online och problemen med denna.
Nätet till folket!
Rätten till en opartisk och rättvis rättslig prövning samt principen om att människor skall betraktas som oskyldiga till dess motsatsen bevisats är centrala principer för en demokratisk rättsstat. Ändå urholkas dessa ständigt, i namn av än det ena, än det andra. I nätsammanhang kan det ofta handla om principen att ingen skall straffas eller censureras utan förgående rättslig prövning.
Nu inför EU censur av åsikter online – och ingen tycks bry sig.
En video om EU:s nya förordning om terror-relaterat innehåll online och problemen med denna.
Under sin session den 26-29 april kommer Europaparlamentet med största sannolikhet att godkänna förordningen om terror-relaterat innehåll online. Detta är ett principiellt viktigt steg, eftersom det innebär att man öppnar dörren för censur av åsikter online.
Av erfarenhet vet vi att denna typ av lagstiftning är ett enkelriktat flöde. Om den väl införts, då kommer den att drabbas av ändamålsglidning och att utökas. Så detta handlar inte bara om terrorister och deras propaganda. Det handlar om att öppna dörren för censur av åsikter online.
Att detta sker så gott som helt utan offentlig debatt eller uppmärksamhet i media är oroande.
Dessutom lider förslaget av allvarliga praktiska brister och problem.
Till exempel föreskrivs att nätplattformar och operatörer skall avlägsna flaggat innehåll inom en timma. Vilket i praktiken gör det omöjligt att bedriva internetbaserad verksamhet i liten skala, utan bemanning dygnet runt.
Någon föregående rättslig prövning kommer inte att ske. Det kommer att räcka med att en myndighet beordrar nedtagning av innehåll för att den måste verkställas. Detta är principiellt problematiskt, då inskränkningar av yttrandefriheten är ett allvarligt avsteg från våra grundläggande fri- och rättigheter.
En myndighet i ett EU-land kan beordra nedtagning av innehåll i en annan medlemsstat – utan att varesig begära rättsbistånd eller informera myndigheterna i det aktuella landet. Vilket innebär att tjänstemän i låt säga Rumänien, Polen eller Frankrike har rätt att censurera innehåll på svenska servrar.
Förordningen föreskriver även att plattformarna / operatörerna skall se till att material som en gång plockats ner inte laddas upp igen. Även om man (efter förhandlingar) noga aktar sig för att använda ordet uppladdningsfilter – så kommer sådana att bli nödvändiga för att detta skall kunna ske. Vill man stoppa något från att laddas upp – då måste man låta maskiner inspektera och analysera allt som alla laddar upp.
Även om det inte finns någon debatt om detta, så finns det i vart fall organisationer som protesterar. EDRi rapporterar:
»On 25 March, 61 human rights and journalist associations sent a joint letter to Members of the European Parliament, urging them to vote against the proposed Regulation on addressing the dissemination of terrorist content online.
The coalition considers that the proposed regulation as it stands now has no place in EU law, as it poses serious threats to freedom of expression and opinion, freedom to access information, the right to privacy, and the rule of law.«
Sprid ordet. Om en dryg vecka är det för sent att göra motstånd.
• EDRi: Coalition of human rights and journalist organisations express concerns for free speech »
• Brevet i fråga (PDF) »
I USA ger HD-domaren Justice Clarence Thomas uttryck för åsikten att sociala plattformar och nätjättar med dominerande ställning (Twitter, Facebook, Google m.fl.) är kollektiva nyttigheter, närmast att jämföra med telekom-infrastruktur. Därmed skall de även vara skyldiga att tillhandahålla sina tjänster till alla.
Bakgrunden är att Högsta Domstolen upphävt en dom i en lägre rätt, som kommit fram till att president Trump handlade i strid med konstitutionen när han blockerade folk på Twitter. Den upphävda domen menar att då kontot @realdonaldtrump tillhörde presidenten, var ett publikt forum och att presidenten därför inte hade rätt att inskränka det fria ordet där. Skälet till att HD upphävde domen var – ironiskt nog – att Twitter stängt av Trump och att han därmed inte kan anses ha full kontroll över kontot.
Protocol rapporterar:
»Thomas states that in order for an account like @realdonaldtrump to be truly classified as government controlled, ”the power of a platform to unilaterally remove a government account” would have to be ”reduced.”«
Detta är intressant i sig. Och Justice Thomas stannar inte där:
»Thomas argues that while private companies aren’t subject to the First Amendment, common carriers are unique to other private businesses in that they do not have the ”right to exclude.” Thomas suggests that large tech platforms with substantial market power should be bound by the same restrictions. ”If the analogy between common carriers and digital platforms is correct, then an answer may arise for dissatisfied platform users who would appreciate not being blocked: laws that restrict the platform’s right to exclude,” Thomas writes.
Such a restriction would substantially curb tech giants’ ability to moderate content, a proposal that both tech giants and those on the left who want to see more aggressive content moderation online would almost certainly reject.«
Han ansluter sig alltså till dem som menar att nätjättarnas dominerande ställning gör att de inte kan behandlas som vanliga förtag, som är fria att göra affärer med vem de vill. Snarare gör deras ställning att de inte skall ha rätt att utestänga användare.
»”It changes nothing that these platforms are not the sole means for distributing speech or information. A person always could choose to avoid the toll bridge or train and instead swim the Charles River or hike the Oregon Trail,” Thomas writes. ”But in assessing whether a company exercises substantial market power, what matters is whether the alternatives are comparable. For many of today’s digital platforms, nothing is.”«
Oavsett om man håller med eller inte finns alltså tecken på att USA:s högsta juridiska instans lutar åt att det är möjligt med lagstiftning som hindrar plattformarna från att blockera användare. Vilket är en signal till lagstiftarna.
Frågan blir om det alls skall vara möjligt att stänga av någon. En snarlik diskussion uppstod i samband med behandlingen av EU:s telekompaket 2009. Då ville fransmännen och upphovsättsindustrin kunna stänga av fildelare från internet helt och hållet. Det ledde till att det etablerades en princip om att ingen får stängas av från nätet utan föregående rättslig prövning. Något liknande kan nu kanske bli aktuellt i USA, men med nätjättarna i fokus.
Länk: Justice Thomas argues for making Facebook, Twitter and Google utilities »
Efter Encrochat vill Moderaterna ha större möjligheter till avlyssning och övervakning. »Nu behöver svensk lagstiftning ta ett ordentligt kliv framåt för att ge vår egen polis samma möjligheter som den franska.« skriver partiets rättspolitiske talesman Johan Forsell. Han menar vidare att det är ett problem att det i Sverige inte är lagligt att »avlyssna en hel meddelandetjänst«. Han vill vidare sänka ribban för användning av hemlig dataavläsning. Och så till hans huvudnummer:
»En verkligt mönsterbrytande åtgärd mot gängbrottsligheten skulle vara att göra det möjligt att använda hemliga tvångsmedel mot aktiva gängmedlemmar även utan konkret brottsmisstanke.«
Konkret vill han sänka ribban för hemlig dataavläsning. Jag vill minnas att vi varnade för ändamålsglidning redan när den lagen infördes.
Advokat Thomas Olsson har skrivit en replik. Låt oss lyfta fram och reflektera över några delar.
»För det andra verkar Johan Forssell inte riktigt förstå innebörden av att hemliga tvångsmedel riktas mot en ”meddelandetjänst”. En sådan åtgärd innebär att alla som använder ”meddelandetjänsten” blir föremål för övervakning, och det alldeles oavsett om de är ”gängkriminella” eller inte.«
Frågan är hur det alls är tänkt. Encrochat finns inte längre. Så det måste handla om vanliga meddelandetjänster. Och där är Forsell inte först på bollen. EU vill redan avkryptera och skanna alla meddelanden och så mycket av e-posttrafiken som möjligt. Fast i namn av kampen mot övergrepp mot barn. Men det kan ju lätt utökas.
Är det något sådant Johan Forsell vill göra om han blir inrikesminister? Eller hade han tänkt sig att FRA skall hacka WhatsApp, G-mail och Telegram? Förslaget lämnar massor av frågetecken.
»För det fjärde är det intressant att Johan Forssell konstaterar att det som fransmännen gjort är olagligt i Sverige. Anledningen till att det är olagligt är att Frankrike saknat tillstånd från en svensk domstol att utföra åtgärden på svenskt territorium. Och, precis som Johan Forssell konstaterar, skulle Frankrike aldrig kunnat få ett sådant tillstånd, eftersom åtgärden inte är tillåten enligt svensk lag.«
Detta pekar på ett större problem. Det är inte ovanligt att länder som inte har rätt att övervaka sina egna medborgare (utan brottsmisstanke) låter andra länder göra det. Vilket är att kringgå lagen.
(För övrigt har FRA tillgång till ”spionernas Google” – databasen XKeyscore. Då den enligt Snowden-läckan innehåller det mesta av smått och gott som USA, UK, Australien, Nya Zeeland och Kanada samlat in i sin globala massövervakning – då innehåller den med säkerhet även information om svenskar och svenska förhållanden.)
Låt mig slutligen kommentera Johan Forsells krav på hemliga tvångsmedel även utan konkret brottsmisstanke.
Någonstans måste det gå en gräns mellan vilka staten får övervaka och vilka den inte får övervaka. Idag går den i stort sett vid att det måste finnas en misstanke om brott. Det är en princip som bland annat väglett EU-domstolen när den upphävde EU:s datalagringsdirektiv. Skall det förekomma övervakning, då måste det finnas något lags misstanke. Vanligt hederligt folk skall inte övervakas. Rätten till privatliv är en grundläggande mänsklig rättighet.
I detta fall handlar det om individer i (och kring?) kriminella nätverk. Man kan tycka att om ett gäng är att betrakta som kriminellt, då bör det rimligen också finnas något slags misstankar om kriminalitet. Frågan är hur konkreta dessa misstankar behöver vara. Om ett brott är förestående är svaret rätt enkelt. Men om det inte finns misstanke om att någon tänker göra något kriminellt? Var har Forsell i så fall tänkt dra gränsen?
Det känns tryggare om vi inriktar övervakningen och polisens resurser mot människor som faktiskt är misstänkta för brottslig verksamhet – och lämnar alla andra ifred.
Moderaternas utspel känns lite krystat, som att de säger något bara för att de måste. Och hemlig dataavläsning får faktiskt redan användas i brottsmisstänktas fysiska och sociala närmiljö, även om det kan drabba oskyldiga. Så det känns lite som om man sparkar in en öppen dörr. Vi är redan där. Tyvärr.
• Johan Forsell, M: Ge svensk polis samma möjligheter som i Frankrike »
• Thomas Olsson: Moderaternas förslag slår mot allas integritet »
2013 avslöjade Edward Snowden den globala massövervakningen. Dessa avslöjanden rörde inte bara USA, utan även samarbetsländer som Tyskland (och Sverige).
Trots all kritik som följde på avslöjandet fortsatte Tyskland sin verksamhet – genom att man antog en ny lag som i stora drag gjorde sådant som var förbjudet och kontroversiellt lagligt. Denna lag underkändes dock av den tyska författningsdomstolen.
Nu har man antagit en ny lag som påminner väldigt mycket om den förra, med närmast kosmetiska förändringar.
Den nya lagen innebär bland annat:
CDU/CSU och SPD röstade för den nya lagen och hela oppositionen (FDP, Grüne, Linke & AfD) emot. Kritik kommer även från Amnesty och Reportrar utan gränser.
Detta kommer med säkerhet – återigen – att bli en fråga för den tyska författningsdomstolen.
Länk: Bundesnachrichtendienst erhält so viele Überwachungsbefugnisse wie noch nie »
Ett år har gått sedan polisen fick möjlighet till hemlig dataavläsning. Den innebär att myndigheterna kan installera spionprogram hos personer som är misstänkta för brott (och i deras omgivning) som ger tillgång till allt som görs och allt som finns lagrat i en dator eller på en surfplatta eller mobiltelefon.
Sveriges Radio meddelar:
»I den statliga utredningen som låg till grund för lagförslaget bedömde man att den här sortens övervakning skulle användas i liknande omfattning som hemlig rumsavlyssning, alltså buggning, vilket godkänns omkring 100 gånger per år.
På knappt ett år har svenska domstolar fattat beslut i nära 500 ansökningar om hemlig dataavläsning, enligt siffror från Säkerhets- och integritetsskyddsnämnden, som Ekot tagit del av.
Nämnden vill inte svara på hur många som godkänts, men i regel brukar den här sortens ansökningar beviljas, säger nämndens ordförande Gunnel Lindberg.«
Det vore värdefullt att få reda på varför denna övervakning är fem gånger vanligare än man tänkt sig. Framförallt vore det intressant att få veta vilka typer av brott den hemliga dataavläsningen använts för att utreda. Här finns starka skäl att misstänka något slags ändamålsglidning – där verktyget använts mer generöst än bara mot de mycket allvarliga brott som var tänkt från början. Som det brukar bli med övervakningslagar.
Dessutom är grundproblemet detsamma som tidigare: För att kunna använda hemlig dataavläsning måste myndigheterna använda sig av säkerhetsbrister i våra IT-system. Dessa brister förblir då utan åtgärd, istället för att täppas till. Vilket gör hela vår IT-infrastruktur mer sårbar vad gäller till exempel kriminell verksamhet, spioneri och dataintrång.
Och det blir värre:
»Det är Säkerhets- och integritetsskyddsnämnden som ska granska hur den hemliga dataavläsningen används, och ordförande Gunnel Lindberg säger att det är svårt att få resurserna att räcka till för en effektiv tillsyn.«
Ett 60-tal organisationer har skrivit brev till Europaparlamentets ledamöter och vädjat till dem om att rösta nej till förordningen om terror-relaterat innehåll online (TERREG/TCO).
Bland undertecknarna finns bland andra Amnesty, Europeiska Medborgarrätsuniuonen, EFF, EDRi, Polska Helsingfors-kommittén, Human Rights Watch, Internationella Juristkommissionen, CCC, La Quadrature Du Net, Reportrar utan gränser, Statewatch, Wikimedia och svenska DFRI.
De praktiska problemen med TERREG är:
Det finns även invändningar mot att detta kan komma att drabba journalistisk verksamhet, forskning, dokumentation och lagföring av övergrepp.
Förslaget är dessutom oroväckande svävande när det gäller att definiera vad som egentligen anses vara terrorism och terror-relaterat.
Elefanten i rummet – som tyvärr inte berörs i brevet – är att detta även etablerar en censur av åsikter online i EU. Förvisso terroristers åsikter. Men när principen väl är etablerad kan det ändras med ett klubbslag.
Tar man ett steg tillbaka och betraktar den större bilden – då kan man konstatera att samtidigt som TERREG är på väg att bli lag, så är EU-apparaten även på väg att kräva av-kryptering och granskning av nätanvändarnas meddelanden och e-post i namn av att skydda barn mot övergrepp. Sammantaget blir detta en storebrorsstat som granskar, analyserar och i förekommande fall censurerar det mesta som sker online.
Länkar:
• DW: Rights groups slam EU online terrorist content law »
• Liberties: Free Speech Advocates Urge EU Legislators to Vote ’No’ to Automated Censorship Online »
Sociala medias ofta till synes slumpartade censur av inlägg och avstängning av användare är en ständig källa till irritation. Speciellt som det inte går att kontakta de olika plattformarna – och då den som censureras inte får reda på varför. Vilket blir extra problematiskt med tanke på nätjättarnas dominerande ställning i debatten.
Men det kan bli ändring på den saken. I EU:s föreslagna Digital Services Act (DSA) vill man att den som blir censurerad skall få veta varför – och även få en reell möjlighet att överklaga beslutet.
Även om detta är detaljreglering av hur privata företag skall bedriva in verksamhet – så kommer många användare säkert att välkomna att de nu kommer att få något som ger viss ”rättsäkerhet”. (Även om begreppet rättssäkerhet snarare handlar om förhållandet mellan individen och staten / rättsväsendet.)
Problemet med DSA är att förordningen vill införa ett nytt censurinstrument – så kallade ”trusted flaggers” som enligt förslaget skall representera ”kollektiva intressen” och som skall få en egen gräddfil till respektive sociala medieplattforms abuse-avdelning.
Det skall förvisso vara offentligt vilka dessa ”trusted flaggers” är. Och om de missköter si skall de kunna mista sitt uppdrag. Men det ligger fortfarande något obehagligt över att införa statligt godkända nätgranskare. Speciellt om dessa skall företräda ”kollektiva intressen” – vilket förmodligen kommer att öppna dörren för olika särintressen och identitetspolitiska överväganden. Vilket kan bli en soppa.
Generellt sett bör gränserna för det fria ordet sättas av lagstiftaren och sedan upprätthållas av ett oväldigt rättsväsende. Att sätta icke-statliga aktörer som officiellt godkända censorer kommer garanterat att skapa helt nya konflikter.
Nu gäller det att se till att DSA behåller ”rättssäkerheten” för sociala medias användare – samtidigt som ”trusted flaggers” inte ytterligare bidrar till polariseringen av samhällsdebatten.
Relaterat:
• At a glance: Does the EU Digital Services Act protect freedom of expression? »
• Nätjättarnas makt är ett frihetligt dilemma »
EU är på väg att ge grönt ljus för granskning av dina meddelanden och även din e-post.
Vi har skrivit om detta tidigare – men vi tänker fortsätta tjata, eftersom debatten om detta är närmast obefintlig.
Motivet man anger den här gången är att man vill kontrollera så att du inte ägnar dig åt sexuella övergrepp på barn. Vilket tycks räcka för att tysta all kritik.
Få känner till förslaget, det finns i princip ingen debatt om det, media är ointresserade, Europaparlamentet har i stort sett sagt ja redan i förväg – och givet syftet är det möjligt att de flesta människor anser att ändamålet helgar medlen.
Men innan vi ställs inför fullbordat faktum tycker vi att det är en del saker du bör känna till.
Det handlar alltså om dina meddelanden och din e-post. (Möjligen undantaget e-post som är PGP-krypterad användare till användare, som i princip är omöjlig att komma åt.) Men vanliga meddelanden i olika appar och vanliga e-postmeddelanden skall kunna avkrypteras, granskas och analyseras. Det gäller även bilder och videofilmer som du sänder – samt video-mötestjänster som Skype, Zoom med flera.
Detta är en gigantisk uppgift. Därför kommer det att ske automatiskt.
Problemet är att algoritmerna inte är speciellt bra på detta. När Schweiz provade något liknande gick det nio falska flaggningar på en äkta.
Det innebär alltså att i nio fall av tio kommer misstanken om sexuella övergrepp mot barn att riktas mot någon oskyldig. Vilket innebär att den som är oskyldig har mest att frukta.
Flaggade meddelanden kommer sedan att överföras till en privat organisation i USA. Där skall de granskas igen och i förekommande fall översändas till polis eller andra myndigheter och organisationer.
Och när det gäller sexuella övergrepp mot barn kommer det att räcka med en misstanke – även om den är felaktig – för att du skall få problem.
Du kan vara oskyldigt misstänkt utan att ens veta om det förrän polisen knackar på dörren – eller innan du stoppas i något främmande lands passkontroll. Den som är oskyldig har, som sagt, mest att frukta.
Men det är inte det enda problemet.
I och med att dina meddelanden och din e-post kommer att kunna avkrypteras blir de även tillgängliga för allehanda myndigheter och underrättelseorgan. Kom ihåg amerikanska NSA:s devis: Collect it all.
Man kan även fundera på hur EU resonerar. Ena stunden vill man skydda användarnas data mot företag som Google, Facebook med flera. Och i nästa ögonblick vill man att våra meddelanden och vår e-post skall avkrypteras – vilket kommer att göra innehållet i dessa tillgängligt för just Google, Facebook och alla andra företag du använder för dina meddelanden och din e-post.
Vi vet dessutom att sådana här lagar alltid drabbas av ändamålsglidning.
När man väl använt sexuella övergrepp mot barn som murbräcka – då kommer man med största säkerhet att utvidga mandatet för att även kunna söka efter annat. Så är det i princip alltid. Finns verktygen, då kommer man ständigt att hitta nya användningsområden.
Europeiska datatillsynsmyndigheten (EDPS) anser att lagförslaget varken är nödvändigt eller proportionerligt. Det saknar laglig grund, tydliga regler och tillräckliga skyddsåtgärder.
EU-parlamentets utredningstjänst (EPRS) anser att en sådan här lag endast bör inriktas mot personer som är misstänkta för att ägna sig åt något brottsligt. Man pekar även på att förslaget strider mot dataskyddsförordningen, GDPR.
UNICEF menar att förbättrad integritet och dataskydd för barn är bättre än automatisk övervakning av deras kommunikation.
Men i Europaparlamentet har en stor majoritet sagt ja till att gå vidare med lagstiftningsarbetet. Trilogförhandlingar pågår. Samtliga svenska partier i parlamentet har röstat ja till att gå vidare, utom Vänsterpartiet som är avvaktande.
Sedan blir det snabbehandling. Den konsoliderade texten väntas släppas av EU-kommissionen i april och godkännas i Europaparlamentet under sessionen i maj månad.
Även om alla sympatiserar med syftet och även om det råder stor politisk enighet – så är detta ett hot mot rätten till privat kommunikation online.
Vilket är allvarligt. Rätten till privatliv och privat korrespondens är en grundläggande rättighet – fastlagen i bland annat Europakonventionen om de mänskliga rättigheterna. Men det tycks ingen bry sig om.
Hur som helst bör du vara medveten om att det i princip är slut med privat korrespondens online. I den mån sådan i praktiken alls existerat.
Länkar:
• EU öppnar för automatisk granskning och analys av alla dina meddelanden och all din e-post »
• Fyra problem med förslaget om automatisk granskning av privat kommunikation »
• The End of the Privacy of Digital Correspondence »
• SD, MP, S, M, C, L och KD är för övervakning av chatt, email och videosamtal »
• EU allt närmare kontroll av innehållet i alla nätanvändares alla meddelanden »
Det europeiska polissamarbetet Europol (som numera är en EU-myndighet) skall få ett nytt regelverk.
Som vi tidigare rapporterat innebär detta bland annat ökade resurser för att knäcka kryptering och automatiserad tillgång till persondata från privata företag. Utanför den officiella debatten har Europol även på egen hand utökat sitt mandat till att också omfatta bekämpning av desinformation.
Här är ytterligare några förändringar:
Det hela beräknas kosta 178 miljoner euro och kommer att behandlas av Europaparlamentet under hösten. Sedan kommer EU – de facto – att ha en federal polis.
Länkar:
• Proposals for new Europol Regulation »
• EU-kommissionens förslag (75 sidor, PDF) »