Femte juli

Nätet till folket!

Digital Services Act

EU:s nya Digital Services Act (DSA) kommer att innehålla regler för plattformar online och sociala media. Den innehåller en del bra saker, som rätten till information och möjlighet att överklaga om en användare får ett inlägg censurerat eller vid avstängning. Andra saker är mer tveksamma, som till exempel Trusted Flaggers, som blir ett slags statligt godkända ordningsmän på nätet med direktlina till sociala medias abuse-avdelningar.

Uppladdningsfilter och gränsöverskridande nätcensur på bordet i EU:s nya Digital Services Act

av

Slut på end-to-end-kryptering, nya generella uppladdningsfilter och gränsöverskridande nätcensur är några av konsekvenserna om en av Europaparlamentets rapportörer för The Digital Services Act får sin vilja igenom.

EU:s nya Digital Services Act (DSA) håller just nu på att tröskas genom beslutsapparaten. I morgon, torsdag, skall Europaparlamentets utskott för rättsliga frågor (JURI) rösta om sitt utlåtande – som är författat av en konservativ fransk ledamot. Några nedslag:

Bland annat vill den ansvarige ledamoten Geoffroy Didier att DSA inte bara skall handla om sådant som publiceras offentligt, fritt för andra att ta del av. Han vill att den nya lagtiftningen även skall omfatta privata meddelanden. Utöver att detta strider mot brevhemligheten, rätten till privat kommunikation och rätten till privatliv innebär detta att myndigheterna även måste bereda sig tillgång till medborgarnas krypterade meddelanden.

Didier vill även se uppladdningsfilter för att permanent hålla oönskat innehåll borta från nätet. Vilket innebär att allt som alla laddar upp måste granskas och godkännas i förväg. Vilket är lika med förhandscensur – som kommer att skötas av maskiner och algoritmer som saknar sinne för sammanhang, legitima undantag och humor.

Rapportören vill även att JURI tar ställning för gränsöverskridande nedtagningsorder. Det vill säga att myndigheter i ett EU-land skall kunna beordra att innehåll på plattformar och servrar i andra medlemsstater skall plockas bort. Vilket kommer att leda till ett race-to-the-bottom, där alla enskilda länders strängaste åsiktslagar kommer att påtvingas hela EU.

Som om inte det är illa nog vill Didier att en nedtagningsorder i ett EU-land även skall gälla globalt. Man kan lätt inse att sådant kan komma att straffa sig genom att länder som Ryssland och Kina då kan komma att kräva att information som de ogillar även skall censureras i EU.

Den piratpartistiske ledamoten v Europaparlamentet Patrick Breyer (PP, DE) säger:

»The Rapporteur’s proposals are radical. They would i.e. threaten the secrecy of private correspondence and end-to-end encryption, mandate and encourage error-prone ex-ante upload filtering, introduce excessively short content take-down delays, enforce excessive national laws (e.g. in Poland or Hungary) throughout the EU and even globally, turn ‚trusted flaggers‘ into ‚trusted censors‘ and much more. I expect the vote to be very tight on several of these issues.«

• Läs mer hos Patrick Breyer »

Ständigt, dessa uppladdningsfilter

av

Uppladdningsfilter tycks vara på väg att bli något slags standard i EU:s internetrelaterade lagstiftning. Men vill vi verkligen att allt vi laddar upp till publika plattformar skall förhandscensureras – av maskiner?

Det började med artikel 17 i EU:s nya upphovsrättsdirektiv (EUCD) – som i praktiken kommer att leda till uppladdningsfilter. Sedan kom förordningen om terror-relaterat innehåll online (TERREG) – som också kommer att leda till uppladdningsfilter. Och vad gäller den föreslagna Digital Services Act (DSA) finns det starka krafter som vill lägga till uppladdningsfilter som något slags allmänt verktyg för att motverka att oönskat innehåll sprids.

Till att börja med måste vi fråga oss om det alls är lämpligt eller önskvärt att all text, alla bilder, all video, alla ljudfiler med mera som vi lägger upp på olika plattformar skall förhandscensureras.

Det rimliga borde var att om någon på nätet – precis som i övriga livet – gör något olagligt, då blir detta en fråga för rättsväsendet när handlingen väl har skett. Om detta sedan kan slås fast i en oberoende rättslig process, då kan innehållet tas ner.

Därför är förhandscensur av pressen förbjuden i Sverige. Detsamma borde gälla online.

Nästa fråga är om vi verkligen vill att sådan censur skall skötas av maskiner. Algoritmer klarar inte att ta hänsyn till sammanhang, förstå humor eller satir, göra undantag för memer eller kritik. Man kan med säkerhet säga att uppladdningsfilter kommer att stoppa mer information än vad som från början var tänkt. Det vill säga även information som bör få publiceras.

En tredje invändning är att om uppladdningsfilter väl finns på plats, då är det en enkel sak att utöka deras användningsområde. Sådan ändamålsglidning förekommer nästan alltid.

Jag förundras över hur vissa politiska partier kan hävda att om andra partier kommer till makten, då hotas den svenska demokratin – samtidigt som de förstnämnda inte tvekar att rulla ut verktyg för censur, kontroll och övervakning som ju faktiskt kan användas av framtida regeringar just för att inskränka den svenska demokratin.

Statligt godkända nätcensorer kvar i EU:s förslag till Digital Services Act

av

Höstsäsongen i EU håller på att komma igång. Så det kan vara läge för en uppdatering vad gäller läget för den föreslagna Digital Services Act. En del förändringar till det bättre har föreslagits – men till exempel de nya nätcensorerna – Trusted Flaggers – finns fortfarande kvar i lagförslaget.

Läget vad gäller the Digital Services Act är att ministerrådet har diskuterat frågan och att vissa medlemsstater vill att även icke olagligt hat och hot på nätet skall avlägsnas från nätet.

Europaparlamentet håller å sin sida på att utarbeta en opinion, en slags åsiktsförklaring och grund för den fortsatta behandlingen. Utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) har under försommaren enats om en sådan – som under höstan kan komma att bli parlamentets (preliminära) position. Det är ömsom vin, ömsom vatten.

Bra saker i utskottets dokument:

  • Det skall vara tillåtet att använda nättjänster och att göra betalningar anonymt, där så är rimligt möjligt.
  • Kontextdriven snarare än persondata-driven annonsering såvida inte användaren aktivt ger sitt samtycke till det senare.
  • Användare skall ha rätt till krypterad kommunikation och trafik.
  • Olagligt material skall avlägsnas från nätet – inte blockeras.
  • Om material är lagligt eller ej skall avgöras av en oberoende rättslig instans – inte av administrativa instanser eller företag, efter politiska påtryckningar.
  • Uppladdningsfilter skall endast få användas undantagsvis.
  • Myndigheter i ett land skall inte kunna beordra nedtagning av innehåll på servrar / plattformar i en annan medlemsstat.
  • Plattformar skall inte tvingas att stänga av användare som postat olagligt innehåll.
  • Användarna bör få större kontroll över vilket innehåll som rekommenderas i deras flöden.

Så långt är det i stort sett bra. Men sedan har vi elefanten i rummet – Trusted Flaggers. Detta är tänkt att vara organisationer som företräder ”kollektiva intressen” – som skall fungera som statligt godkända nätgranskare, med direktlina till sociala medias abuse-avdelningar.

Ingen – inte ens de annars så alerta piratpartisterna – tycks ifrågasätta detta. Det enda utskottet säger är att Trusted Flaggers bör besitta sakkunskap inom det område de sätts att granska. Vilket knappast minskar risken för att olika särintressen, lobbygrupper och agenda-drivna grupper ges makt som nätcensorer.

Kan man över huvud taget vänta sig att nätcensorer som företräder kollektiva intressen kommer att vara objektiva och neutrala? Eller kommer de att sätta sina kollektiva intressen i främsta rummet? Vanligtvis kan man utgå från att kollektiva intressegrupper har en agenda som påverkar dess arbete.

Man kan tycka att detta borde vara en stor fråga. Men den förbigås i stort sett i tysthet.

Nästa steg blir för Europaparlamentet att jämka ihop utskotten till ett förslag som läggs fram i plenum, förmodligen under hösten. Dessutom skall ministerrådet, parallellt med parlamentets arbete, bestämma sin position. Därefter skall man försöka jämka samman dessa till ett slutligt förslag eller en kompromiss som alla EU-institutioner anser sig kunna leva med.

Läs mer:
• MEP Patrick Breyer (PP, DE) »
• LIBEs opinion (PDF) »

Uppladdningsfilter, datalagring, statligt godkända nätgranskare, av-kryptering och granskning av meddelanden och e-post på höstens politiska dagordning

av

Sommarlovet är över och det är dags att se över vilka nät-, yttrandefrihets- och övervakningsfrågor som finns på den politiska dagordningen i höst.

Sverige

  • Redan i somras skulle EU:s nya upphovsrättsdirektiv ha varit svensk lag. Någon remiss eller proposition har dock inte synts till. Delvis kan det bero på att EU-kommissionen dragit benen efter sig i den kontroversiella frågan om uppladdningsfilter. En annan sak att hålla ögonen på är hur direktivets absurda länkskatt är tänkt att implementeras i svensk lag.
  • Efter att EU-domstolen meddelat att den svenska lagen om datalagring måste skrivas om har regeringen tillsatt en utredning. Visserligen skall utredningen presenteras först våren 2023, men det är viktigt att hålla frågan levande – och då inte minst det faktum att den svenska datalagringen fortfarande kolliderar med domstolens nej till svepande lagring av data om alla medborgares alla tele- och datakommunikationer utan misstanke om brott.

EU

  • EU:s nya Digital Services Act (DSA) föreslår så kallade Trusted Flaggers – som är tänkta att vara organisationer som är statligt godkända nätgranskare, med direktlinje till sociala medias abuse-avdelningar.
  • Det finns krafter i både Europaparlamentet och ministerrådet som vill att DSA också skall innehålla allmänna uppladdningsfilter.
  • EU:s ministerråd vill i ett inspel kopplat till DSA att inte bara olagligt material skall plockas bort på nätet. Man vill även att icke olagligt hat och hot skall bort, vilket i så fall innebär att yttrandefrihetens gränser inte längre sätts av lag.
  • Under hösten väntas dom i EU-domstolen, där Polen överklagat artikel 17 i det nya upphovsrättsdirektivet, som kommer att leda till automatiska uppladdningsfilter. Domstolens generaladvokat ger (med vissa förbehåll) grönt ljus till artikel 17, men det händer emellanåt att domstolen går på en annan linje än dennes rekommendationer.
  • ChatControl 2.0 är uppföljningen till beslutet att ge meddelande- och e-post-tjänster möjlighet att av-kryptera och granska användarnas kommunikationer i jakt på sexuellt utnyttjande av barn. Under vintern kommer nästa steg, som förvänts göra detta obligatoriskt.
  • Kopplat till detta har EU presenterat ett diskussionspapper där man överväger att använda den metod som Apple valt (i vart fall i USA) för att komma åt bilder och sexuella övergrepp på barn. Det vill säga att kringgå kryptering genom att med något slags spionprogram granska bilder och meddelanden redan på användarens telefon. Vilket är ett av flera olika förslag man skissar på.
  • EU-kommissionen och ministerrådet överväger hur de skall kunna komma runt EU-domstolens nej till urskiljningslös datalagring utan misstanke om brott.
  • EU-kommissionen har föreslagit European Digital Identity Wallets, som är tänkta att användas för ID, pass, licenser, körkort, kollektivtrafikkort, sjukvårdsinformation, recept, inloggning på nätplttformar, betalningmedel med mera. Vilket kan öppna för ett omfattande övervakningssamhälle i vilket vi får blippa oss fram.
  • Europaparlamentets utskott för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) har sagt nej till till AI och biometrisk analys för massövervakning. Delar av minsterrådet och då speciellt Frankrike vill gå åt andra hållet och använda dessa verktyg.
  • I EU-kommissionens Code of Practice on Disinformation vill man att nätplattformarna i högre utsträckning skall av-monetarisera oönskat innehåll.
  • EU-kommissionen vill förbjuda anonyma betalningar med kryptovalutor och kontantbetalningar på över 10.000 euro.
  • Det pågår en diskussion (framförallt i ministerrådet) om att utöka registreringen av våra flygresor (PNR) till att även gälla tågresor, båtresor, bilhyra och hotellövernattningar.

Detta är bara ett urval av sådant som är på gång i svensk och europeisk politik under hösten. Det händer också att nya frågor dyker upp väldigt plötsligt.

Vi bevakar dessa och fler frågor. Du följer utvecklingen här på bloggen.

Video: Vill EU förbjuda lagliga yttranden online?
Skärmdump från Utrikesdepartementets samtal om demokrati på nätet

Regeringen i samtal med Facebook och Google om demokrati och mänskliga rättigheter

av

I en tyvärr sprakande och nästan ohörbar web-sändning organiserade Utrikesdepartementet idag ett samtal om demokrati på nätet mellan ansvariga ministrar och Facebook & Google.

Regeringens pressmeddelande:

»Demokrati på internet är temat för det dialogmöte som initierats av utrikesminister Ann Linde, kultur- och demokratiminister Amanda Lind och energi- och digitaliseringsminister Anders Ygeman onsdagen den 16 juni. I dialogen deltar Janne Elvelid, samhällspolitisk chef på Facebook Sverige, Sara Övreby, samhällspolitisk chef på Google Sverige, Marcin de Kaminski, chef för säkerhet och innovation på Civil Rights Defenders och Nadja Dolata, sakkunnig inom mänskliga rättigheter, genus och innovation. Samtalet modereras av journalisten Emanuel Karlsten.«

Regeringen efterlyste mer insatser mot hat och hot på nätet. Facebook efterlyste vägledning från politikerna. Google försökte förklara hur nätet fungerar. Civil Rights Defenders pekade på att detta är en debatt på ett sluttande plan där man måste upprätthålla de grundläggande fri- och rättigheterna. Och Dolata påpekade att det främst är människor i utsatta positioner som drabbas om yttrandefriheten inskränks.

Utrikesminister Ann Linde (S) tycktes i sammanhanget vara mest upprörd över att internet finns och att det ger möjlighet för folket att säga vad det tycker.

Att olagligt material skall plockas ner från plattformarna, det verkar alla vara överens om. Och det är vad som föreslås i EU:s Digital Services Act. Så – med risk för att tjata – vad som diskuteras är i vilken mån icke olagligt material skall plockas ner och i så fall vad och hur.

Frågan är hur man hade tänkt sig att politiken och statens våldsmonopol skall kunna ta ner material som inte är olagligt. Det vill säga lagligt. Det kan ju då knappast ske genom lagstiftning.

Alternativet är att politiken påverkar vad sociala media och nätplattformar skriver in i sina användarvillkor. Och då har man plötsligt genomfört en inskränkning av yttrandefriheten – efter politiska påtryckningar men utanför den öppna demokratiska processen och utanför lagstiftningen. Så är det till viss del redan. Och det är ett problem. Vill politikerna inskränka det fira ordet, då måste det ske genom lag som stiftas av riksdagen.

Räkna med att detta kommer att bli en stor fråga, inte minst på EU-nivå.

I många små steg inskränker EU det fria ordet online

av

Ett par saker håller just nu på att hända samtidigt i EU.

Dels är EU:s nya Digital Services Act (DSA) på väg att kapas av krafter som vill förbjuda även icke olagliga yttranden på nätet och som vill använda förordningen för att införa allmänna uppladdningsfilter.

Samtidigt har vi den nya förordningen om terror-relaterat innehåll online som vill se rutiner för att oönskat material plockas ner inom en timma, som ger myndigheter i ett EU-land rätt att stänga ner innehåll på servrar i andra länder – och som också kommer att leda till uppladdningsfilter.

I bakgrunden pågår arbete med en ny Code of Conduct on countering illegal hate speech online samt en European Democracy Action Plan. Båda syftar till att bekämpa hat och hot online och kan bli pådrivande för att skärpa sociala medias användarvillkor ytterligare.

Detta är bara några exempel på lagstiftning på gång som rör det fria ordet online i EU. De är var för sig oroväckande. Tillsammans kan de mynna ut i en censurapparat vars motsvarighet vi aldrig tidigare skådat.

Sedan blir det den för tillfället rådande politiska majoriteten, de för tillfället rådande politiska trenderna eller den senaste moralpaniken som kommer att styra vad som får uttryckas på nätet.

Vad som definieras som »hat« eller vem som är att betrakta som »terrorist« kan ändras med ett klubbslag.

Sluta censurera sådant som inte är olagligt

av

Att reglera internet och att övervaka folket tycks vara en prioriterad politisk uppgift. Det går med en rasande fart nu.

Pandemin har förmodligen gjort det lättare. Never waste a good crisis.

Jag noterar att Europol nu har börjat punktmarkera såväl högerextremister som vänsterextremister, islamister och corona-förnekare online. Vad jag förstår använder man sig inte av lagen, eftersom en del av det material man vill ha bort inte är olagligt. Istället anmäler man innehåll till de sociala nätverkens abuse-avdelningar för brott mot nämnda nätverks användarvillkor.

Vilket alltså innebär att statens våldsmonopol ägnar tid och resurser åt att tysta oönskade röster på nätet – som inte nödvändigtvis gör något olagligt. Man kan även fundera på om det är lagen eller Facebooks användarvillkor som skall vägleda polisen i dess förhållande till det fria ordet.

Idén med att göra känsliga inskränkningar i yttrandefriheten genom att påverka sociala media att uppdatera sina användarvillkor är dubiös. Skall man göra inskränkningar i det fria ordet, då skall det ske genom lag i en öppen demokratisk process. Inte genom diskreta påtryckningar mot sociala media.

I EU-kommissionens förslag till en Digital Services Act (DSA) skriver man att olagligt material skall plockas bort. En del länder i ministerrådet, med Frankrike i spetsen, vill gå längre och även avlägsna hat och hot. Men alltså hat och hot som inte redan fallit under rubriken olagligt? Det vill säga att avlägsna lagligt innehåll. See what they did there?

Europaparlamentets franske rapportör om DSA vill redan nu att uppladdningsfilter skall införas som något slags allmänt verktyg. Det vill säga automatisk granskning och i förekommande fall censur av allt du laddar upp – där din yttrandefrihet regleras av maskiner, algoritmer och av den som kontrollerar dessa.

Jag vill inte låta alarmistisk. Men denna slappa hållning gentemot den demokratiska rättsstatens grundläggande principer och metoder är olämplig. Vi håller på att flytta makten över det fria ordet från lagstiftning och rättsväsende till slutna rum.

Digital Services Act diskuteras

EU: Ministrar vill censurera icke olagliga yttranden på nätet

av

Vid måndagens möte med EU:s justitie- och inrikesministrar diskuterades bland annat EU:s nya Digital Services Act (DSA).

En central punkt i DSA är att olagligt material skall plockas ner från nätet. Men det räcker tydligen inte. Frankrike och flera andra länder vill att även till exempel hat skall avlägsnas. Det vill säga att innehåll som är oönskat och obehagligt – men inte nödvändigtvis olagligt – skall censureras.

För det första kan man fundera över de formella grunderna om en medlemsstat vill förbjuda sådant som inte är olagligt.

Man kan också undra vem som i så fall skall fatta detta beslut och på vilka grunder. Kommer det att bli som i förordningen om terror-relaterat innehåll online, TERREG – där en enskild tjänsteman i en medlemsstat kan beordra nedtagning av material i vilket annat EU-land som helst, utan föregående rättslig prövning?

Vidare öppnar detta för subjektiva bedömningar, vilket inte är rättssäkert.

Det fria ordet är centralt för ett demokratiskt samhälle. Tidigare generationer har kämpat i århundraden för yttrandefriheten. Människor har offrat sin frihet och i vissa fall sina liv för rätten att uttrycka åsikter som inte delas av makthavarna. Därför bör inskränkningar endast kunna ske genom lag och tillhörande rättslig prövning.

Räkna med att detta kommer att bli en stridsfråga.

• Sveriges Radio: Delade meningar i EU om vad man får säga på nätet »