Femte juli

Nätet till folket!

Storebror

Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.

EU öppnar för automatisk granskning och analys av alla dina meddelanden och all din e-post

av

Alla dina meddelanden och all din e-post kommer att granskas och analyseras. Är dessa meddelanden krypterade är det plattformens problem att avkryptera dem. Detta är konsekvensen av ny lagstiftning som just nu är på väg i EU.

Bakgrunden är ovanligt rörig, till och med för att vara EU. Enkelt uttryckt införde man i slutet av förra året en European Electronic Communications Code. Den gav användarna ett mycket starkt skydd för elektronisk korrespondens. Så starkt att man inte längre skulle kunna ägna sig åt regelmässig övervakning. Och så vill man ju inte ha det, kom man på efteråt.

Därför har man nu förhandlat fram ett undantag från den nya lagen – i väntan på ännu nyare regler, som inte går lika långt som EECC. Detta motiverar man med att man vill skydda barn mot sexuella övergrepp online. Det kunde lika gärna ha varit terrorism, penningtvätt, droghandel, organiserad brottslighet eller något annat. Men om man gömmer sig bakom barnporr och övergrepp mot barn – då är det få som vill eller vågar protestera.

Enkelt uttryckt kommer alla nätets meddelandetjänster att omfattas. Automatisk analys av alla meddelanden kommer att ske, i jakt på något intressant.

Den piratpartistiske, tyske ledamoten av Europaparlamentet Patrick Breyer skriver:

»In 2020 the European Commission proposed “temporary” legislation aimed at allowing the search of all private chats, messages, and emails for illegal depictions of minors and attempted initiation of contacts with minors. This is to allow the providers of Facebook Messenger, Gmail, et al, to scan every message for suspicious text and images. This takes place in a fully automated process and using error-prone “artificial intelligence”. If an algorithm considers a message suspicious, its content and meta-data are disclosed automatically and without human verification to a private US-based organization and from there to national police authorities worldwide. The reported users are not notified.«

Siffror från polisen i Schweiz pekar på att 90% av alla automatiserade flaggningar är falska. Och med tanke på det stora antalet ärenden är frågan hur många falska positiva som ändå kommer att slinka igenom – och rapporteras till polis. Vilket naturligtvis kan leda till allvarliga problem för den enskilde. Den som är oskyldig har mest att frukta.

»On your next trip overseas, you can expect big problems. Machine-generated reports on your communications may have been passed on to other countries, such as the USA, where there is no data privacy – with incalculable results.«

Hur detta är tänkt att fungera mot det generella förbudet mot övervakning i gällande och föreslagna EU-direktiv är oklart.

En annan öppen fråga är hur man tänkt hantera P2P-krypterad e-post där operatören inte har någon möjlighet att avkryptera meddelanden.

Europaparlamentet väntas rösta om saken under sin session i mars.

Länk: Messaging and chat control »

Frankrike och Tyskland kan sätta käppar i hjulet för EU:s Digital Services Act

av

Frankrike och Tyskland ligger långt framme med egna repressiva internetlagar och vill gärna att EU:s nya Digital Services Act skall återspegla deras aktuella lagstiftning. Eller i vart fall ge utrymme för sådan parallell lagstiftning. Speciellt gäller detta Frankrike.

Financial Times rapporterar:

»France is pushing for the EU’s upcoming regulations on Big Tech to be changed so that member states could wield more power to punish bad behaviour and police more types of content.« (…)

»But EU officials worry that the French proposals will erode the EU’s single market. “This would remove one of the first pillars of EU law and it would mean that a company, instead of being subject to one regulator, is subject to 27 authorities,” said one person with direct knowledge of the discussions. “It risks fragmenting the single market into a nightmare.”« (…)

»Separately, France is also pushing for the DSA to widen beyond illegal content to the policing of harmful content and disinformation. “We think the text needs to be broadened to include other types of problematic content,” said (Cedric) O. “If there is no legal framework there is nothing to stop Twitter or Facebook from censoring speech they do not like.”«

Enkelt uttryckt: EU vill se gemensam lagstiftning medan Frankrike och Tyskland helst vill köra sitt eget race.

Med tanke på hur hårt den franska Avia-lagen och den tyska NetzDG-lagen kritiserats för att inskränka det fria ordet är detta oroväckande. Och vad som betraktas som problematiskt innehåll eller till och med desinformation kan uppenbarligen skilja sig en del från land till land.

Den franske digitaliseringsministern Cedric O sänder blandade signaler. Vi vet att den franska lagstiftningen syftar till att begränsa spridning av information online. Samtidigt talar han om att hindra Twitter och Facebook från att censurera på egen hand. Man kan lätt få intryck av att den franska regeringen är för censur när den själv får kontrollera den, men emot om den ligger i andras händer.

Med tanke på att internet inte känner några nationsgränser kan den frank/tyska linjen bli problematisk – och i värsta fall leda till ett balkaniserat internet i Europa.

Om ett år, våren 2022 kommer Frankrike att vara ordförandeland i EU. Man har redan meddelat att nätlagstiftning kommer att bli ett av ordförandeskapets prioriterade områden. Samtidigt kan man notera att Tjeckien är ordförandeland hösten 2022. Och om nuvarande opinionssiffror står sig är det inte omöjligt att Piratpartiet kommer att få en betydande ställning i tjeckisk politik. Vilket innebär att om Frankrike kommer med allt för tokiga förslag under sitt ordförandeskap, då kan de möjligen rättas till om de skjuts över till det påföljande tjeckiska ordförandeskapet.

Trots löften om motsatsen: Tyskland inför uppladdningsfilter

av

När EU antog sitt nya upphovsrättsdirektiv våren 2019 var vi många som varnade för att artikel 17 (tidigare artikel 13) skulle komma att leda till uppladdningsfilter.

Detta hävdade rapportören, MEP Axel Voss (CDU/EPP, DE) var överdrifter och skräckpropaganda. Även den tyska regeringen har försökt tona ner sådana farhågor.

Nu har vi facit, på temat vad var det vi sa..?

Den tyska regeringen vill se artikel 17 implementerad i sin nationella lagstiftning på detta sätt:

  • Först måste man kontrollera allt innehåll som alla laddar upp. På grund av de stora volymerna måste det med nödvändighet ske med automatiserade uppladdningfilter.
  • Materialet kommer sedan automatiskt att klassas i en av tre grupper.
  • Upphovsrättsskyddat licensierat material, som skall släppas igenom och publiceras.
  • Material som kanske eller kanske inte är upphovsrättsskyddat och som kanske eller kanske inte faller under undantag för parodi, satir, kritik m.m. Släpps detta innehåll igenom meddelas upphovsrättsinnehavaren, som då får möjlighet att överklaga. Stoppas det meddelas den som laddat upp det, som då får möjlighet att överklaga. Överklaganden skall avgöras inom en vecka.
  • Icke igenkänt/registrerat material (som i sig ändå kan vara skyddat av upphovsrätt, se nedan*) som släpps igenom – med reservation för att det dock måste plockas ner om det visar sig vara olagligt.

Hur denna teoretiska modell är tänkt att fungera i praktiken är oklart. En svag punkt gäller överklaganden. Hur hanterar man om tusentals, eller hundratusentals ärenden överklagas varje månad? Detta kommer antingen att kräva en omfattande administrativ apparat – eller så kommer man snabbt att bygga upp en omfattande kö med öppna ärenden. I det senare fallet (som är det troliga) minskar möjligheterna för en rättssäker behandling.

Intressant trivia (*) i sammanhanget är att det bara lär vara sådant som Big Media och Big Entertainment låtit registrera som upphovsrättsskyddat som flaggas i systemet. Men nästan allt annat (utom public domain och creative commons) är också upphovsrättsskyddat. Men dessa upphovsmän får inte samma skydd för sina verk som storföretagen. För att vara exakt, i princip inget skydd alls. Vilket antyder att det hela mer handlar om att skydda Big Business och dess intressen än upphovsrätten som sådan.

Den tyska utvecklingen är intressant inte bara för att man nu bryter löftet om att inga uppladdningsfilter kommer att krävas – utan även för att vi väntar på att den svenska regeringen skall lägga fram sitt förslag till hur upphovsrättsdirektivet skall implementeras i vår lagstiftning. Och den kikar naturligtvis på hur man gör i våra grannländer.

Läs mer på det tyska justitiedepartementets hemsida. »

Twitter och indiska regeringen i censurbråk

av

Med anledning av det pågående bonde-upproret har den indiska regeringen givit Twitter order att stänga eller göra 1.100 konton osynliga, då de anklagas för att ha uppmanat till våld och att spridit falska nyheter.

Twitter har delvis gått med på regeringens krav, men vägrar att stänga konton som tillhör journalister, aktivister och andra som utövar sin grundläggande rätt att kritisera regeringen.

Shira Ovide skriver i New York Times On Tech Newsletter:

»The government of Prime Minister Narendra Modi is saying Twitter is breaking the law. Twitter is saying that India is breaking its own laws. And democracy activists say that tech companies like Twitter shouldn’t play along when governments pass laws that effectively shut down free speech.

There are regularly disputes between internet companies and governments — both democratic and not — over whether posts break a country’s laws. What’s unusual here is how public and high profile the disagreement is, and that India has threatened to imprison Twitter employees.«

Värt att notera är att den indiska regeringens begäran kom från ett ministerium och inte från en domstol. Den kan därmed betraktas som mer politisk än rättsligt prövad och bindande.

Det som sker nu kan även få betydelse för hur Twitter kommer att agera i andra länder med auktoritära regimer.

USA: Banker och betalningsförmedlare kan fortsätta agera moralpolis

av

Vi har sett många exempel på hur banker, kreditkortsföretag och andra betalningsförmedlare som PayPal strypt betalningskanalerna för verksamhet som anses som kontroversiell. Det gäller allt ifrån Wikileaks och kryptovalutor till postorderbutiker för sexleksaker.

Detta är naturligtvis allvarligt. Verksamhet som är laglig bör få använda de stora och totalt dominerande betalningskanalerna. I vissa fall – som Wikileaks – blir det i förlängningen även en fråga om förutsättningarna för det fira ordet.

Ett annat exempel är Patreon, som stängt av möjligheten till crowdfunding för innehållsskapare vars åsikter företaget inte delar.

Ett tredje är hur vissa banker säger upp konton för kunder som genomför transaktioner kopplade till köp eller försäljning av kryptovalutor

Den förra amerikanska administrationen införde en Fair Access Rule som säger att »banks should conduct risk assessment of individual customers, rather than make broad-based decisions affecting whole categories or classes of customers when provisioning access to services, capital, and credit«. Det vill säga att man skall värdera varje enskilds kunds beteende och riskprofil snarare än att utestänga hela kategorier av laglig verksamhet från betalningssystemen.

Detta regelverk har ännu inte hunnit träda ikraft och kommer inte heller att göra det – då det redan upphävts av den nya amerikanska administrationen.

Reason skriver:

»This regulation was meant to shield politically unpopular but otherwise legal companies from banking discrimination, following Operation Chokepoint, a program initiated by President Barack Obama’s Justice Department. While ostensibly designed to combat fraud, in practice, Reason writers have observed, it empowered the government to target unfavorable industries, such as payday lending and pornography, by ”coercing private businesses in an attempt to centrally engineer the American marketplace based on its own politically biased moral judgments.”«

När Operation Chokepoint bland annat ledde till att Wikileaks fick sina betalningskanaler för stöd stängda uttalade Europaparlamentet att sådana rutiner är ett hot mot det fria ordet och den fria åsiktsbildningen.

Läs mer hos Reason: Biden Administration Suspends Rule Protecting Businesses from Banking Discrimination »

Rapport från EU-debatten om sociala media och skyddet för grundläggande rättigheter

av

I Europaparlamentet har man just avslutat debatten »Democratic scrutiny of social media and the protection of fundamental rights« i vilken även EU-kommissionen och ministerrådet deltagit. Debatten skedde på begäran av EPP-gruppen, efter stormningen av Capitolium i Washington och efter att Donald Trump blivit avstängd från Twitter.

Bland de åsikter som framfördes var att samma regler gör gälla online som in resten av samhället, att reglerna bör fastställas av lagstiftare och upprätthållas av domstolar samt att man vill se ökad transparens vad gäller sociala medias algoritmer. Bland de mer färgstarka inläggen fanns de som betraktade sociala media som spridare av antidemokratiska virus och de som vill ställa Twitter, Facebook och Youtube under demokratisk (det vill säga politisk) kontroll.

Värt att notera är att ledamöter från Polen och Ungern varnade för vad som kan hända om man ger politiken kontroll över sociala media.

Enda svenska röst i debatten var Arba Kokalari (M) som konstaterade att det finns en brist på tydliga regler, vilket leder till att användare blir censurerade eller avstängda utan förklaring. Detta menar hon att man kan komma till rätta med genom EU:s nya Digital Services Act (DSA), där hon är skuggrapportör för EPP-gruppen.

Debatten  utgick (precis som DSA) från att sociala media även i framtiden kommer att se ut som och fungera ungefär som idag. Vilket knappast kommer att vara fallet. De enda som gjorde något försök att blicka framåt var de två piratpartistiska ledamöterna Marcel Kolaja (Tjeckien) och Patrick Breyer (Tyskland). Båda pekade på behovet av alternativa och decentraliserade plattformar.

Från kommissionen och ministerrådet kom även besked om att man nu dels arbetar med en »Democracy Action Plan« och dels med en »Media and audiovisual action plan« – vilka vi naturligtvis skall kika närmare på.

Intressant är även vad som inte nämndes i debatten. Till exempel har kommissionär Ylva Johansson flaggat för att en ny »Code of Conduct on countering illegal hate speech online« skall tas fram. Att detta inte togs upp i debatten kan vara ett tecken på att den kommer att utarbetas utanför de demokratiska institutionerna – gissningsvis bakom stängda dörrar tillsammans med de sociala mediejättarna i the European Internet Forum.

Debatten kan ses i efterhand här (timestamp från kl 15) »

En votering kvar innan EU inför nätcensur för åsikter

av

Nu återstår bara ett steg – behandling i Europaparlamentets plenum – innan EU:s förordning om terror-relaterat innehåll online träder i kraft.

Den stora principfrågan är att detta handlar om censur av åsikter. Förvisso terroristers åsikter. Men det kan snabbt ändras, när principen väl är etablerad. Dessutom är definitionen av vad som är att betrakta som terrorism farligt vag.

Även på detaljnivå finns problematiska delar:

  • Rapporterat material skall tas ner inom en timma, utom när det är direkt omöjligt. Detta kommer att ställa stora krav på små plattformar som inte kan ha jour dygnet runt. Vilket i sin tur stärker de stora plattformarnas övertag mot de små.
  • I praktiken kommer flaggningen att ske av polis, åklagare eller andra myndigheter. Någon föregående rättslig prövning kommer inta att ske, vilket man borde kunna kräva när det gäller att tolka lagen för att inskränka yttrandefriheten.
  • Myndigheter i en av EU:s medlemsstater kommer att kunna beordra nedtagning av innehåll på plattformar i andra länder. Det minsta man borde kunna kräva är att en myndighet (eller ännu hellre domstol) i det land där plattformen är benägen först får yttra sig. Eller att man får vända sig till aktuell myndighet i respektive land – som i sin tur får besluta om eventuell nedtagning.
  • Material som flagats eller tagits ner en gång skall inte kunna laddas upp igen. Detta kommer att kräva kontroll av allt som alla användare laddar upp. Det enda praktiska sättet att hantera detta är med automatiska uppladdningsfilter – även om förordningen säger att sådana inte skall vara obligatoriska.

Någon direkt debatt, uppmärksamhet i media eller några protester av substans syns inte till.

Redan nu är det uppenbart att förordningen strider mot författningen i Frankrike. Det är även troligt att frågan kommer att gå till EU-domstolen, men då först efter att förordningen klubbats och blivit lag.

Voteringen i Europaparlamentet kommer att ske under våren.

Frankrike driver på för nätcensur i EU – som strider mot den franska konstitutionen

av

Under våren kommer Europaparlamentet att rösta om förordningen om terror-relaterat innehåll online (TERREG/TCO).

En central punkt i denna är att terror-relaterat innehåll skall tas bort inom en timma. Vilket knappast lämnar utrymme för varesig någon djupare analys eller rimlig rättslig prövning. Vilket är allvarligt. Det är ju trots allt inskränkningar i yttrandefriheten det handlar om.

Ett land som varit pådrivande för TERREG är Frankrike. Samtidigt upphävde landets konstitutionella råd förra året den så kallade AVIA-lagen om hat och hot på nätet. Skälet var att denna lag föreskrev borttagning av innehåll på nätet inom en timma – och att detta inte ansågs rättssäkert.

Frankrike är med andra ord pådrivande för EU-regler som föreskriver åtgärder som landets eget konstitutionella råd redan har underkänt.

Vi befinner oss alltså i en situation där såväl den franske EU-ministern som president Macron hyllar ett förslag som uppenbart strider mot den franska konstitutionen.

Länk: La Quadrature du Net asks for renewed support to challenge TERREG in France »

Dina rättigheter som användare under EU:s Digital Services Act

av

Så här någon månad efter att det presenterats börjar media uppmärksamma EU-kommissionens förslag till Digital Services Act. Viss förvirring tycks råda, speciellt om användares rättigheter. Låt oss därför titta lite närmare på vad som verkligen föreslås.

Olagligt material skall avlägsnas

EU:s medlemsstater skall kunna kräva att olagligt material omedelbart avlägsnas. Och det måste ske under ordnade former.

  • Man måste förklara varför man anser att ett visst innehåll är olagligt – och hänvisa till gällande lagrum.
  • En sådan begäran skall kunna överprövas.
  • Nedtagningar måste vara nödvändiga.

När gäller vad som skall anses vara olagligt finns olika uppfattning i Europaparlamentet om huruvida detta skall avgöras av myndigheter eller domstol.

Användares rättigheter

  • Plattformarna skall upprätta transparensrapporter som visar vilket material som plockats ner på begäran av myndigheterna respektive på plattformarnas eget bevåg.
  • Huvudregeln är att den som anmäler innehåll måste förklara varför, vem hon är och dessutom gå i god för att anmälan är korrekt och motiverad.
  • Den som får material nedtaget / bortmodererat skall snarast informeras om saken, om metoden, om skälet och om möjligheten att överklaga.
  • Sociala plattformar skall ha lättillgängliga och begripliga rutiner för att hantera klagomål.
  • Något slags förlikningsorgan skall etableras för att lösa konflikter mellan service providers och användare utanför det vanliga rättsväsendet.

Detta kommer att rätta till de värsta formerna av godtycke vid moderering – och ger den som postat innehållet relevant information och möjlighet att överklaga. Det är jämfört med idag ett steg framåt för användarna. Men för plattformarna innebär det mycket merarbete, vilket möjligen kan komma att leda till striktare användarvillkor.

Trusted flaggers – statligt godkända nätgranskare

En kontroversiell punkt gäller så kallade Trusted Flaggers – som är tänkta att vara nätgranskare, godkända av EU och respektive medlemsstat. En trusted flagger kan vara en organisation eller annan entitet som representerar »kollektiva intressen«. Detta låter oroväckande. Men det skall i vart fall vara offentligt vilka dessa är – och deras anmälningar skall granskas. En trusted flagger som missköter sin uppgift skall kunna bli av med sitt uppdrag.

Nya regler om vad som är tillåtet att säga

The Digital Services Act reglerar hur innehåll som är olagligt eller olämpligt skall hanteras. Men inte vad. Detta styrs dels genom EU-lagstiftning och dels genom nationell lag. Därför är det av intresse i sammanhanget att EU nu planerar att uppdatera sin lagstiftning på området.

Under detta år kommer EU-kommissionen att lägga fram en ny Code of Conduct on countering illegal hate speech online.

Det är alltså här man kommer att sätta gränserna för vad som kommer att vara tillåtet respektive förbjudet att säga på nätet. Vilket kan bli rätt kontroversiellt.

Frågan är om denna uppförandekod kommer att läggas fram för Europaparlamentet och ministerrådet – eller om man åter kommer att göra upp med branschen bakom stängda dörrar i The European Internet Forum.

Relaterat:
• EU fick Twitter att fimpa Donald Trump »
• Dramatiskt ändrade regler kan vänta sociala medier »