Femte juli

Nätet till folket!

Uppladdningsfilter

Uppladdningsfilter handlar om automatiska, algoritmstyrda censurfilter som kommer att bli konsekvensen av bl.a. EU:s upphovsrättsdirektiv och förordningen om terror-relaterat innehåll online. Ett av problemen med detta är falska positiva, där innehåll som bör släppas igenom blir censurerat på grund av att algoritmerna inte begriper sig på kontext, humor och satir.

Uppladdningsfilter och gränsöverskridande nätcensur på bordet i EU:s nya Digital Services Act

av

Slut på end-to-end-kryptering, nya generella uppladdningsfilter och gränsöverskridande nätcensur är några av konsekvenserna om en av Europaparlamentets rapportörer för The Digital Services Act får sin vilja igenom.

EU:s nya Digital Services Act (DSA) håller just nu på att tröskas genom beslutsapparaten. I morgon, torsdag, skall Europaparlamentets utskott för rättsliga frågor (JURI) rösta om sitt utlåtande – som är författat av en konservativ fransk ledamot. Några nedslag:

Bland annat vill den ansvarige ledamoten Geoffroy Didier att DSA inte bara skall handla om sådant som publiceras offentligt, fritt för andra att ta del av. Han vill att den nya lagtiftningen även skall omfatta privata meddelanden. Utöver att detta strider mot brevhemligheten, rätten till privat kommunikation och rätten till privatliv innebär detta att myndigheterna även måste bereda sig tillgång till medborgarnas krypterade meddelanden.

Didier vill även se uppladdningsfilter för att permanent hålla oönskat innehåll borta från nätet. Vilket innebär att allt som alla laddar upp måste granskas och godkännas i förväg. Vilket är lika med förhandscensur – som kommer att skötas av maskiner och algoritmer som saknar sinne för sammanhang, legitima undantag och humor.

Rapportören vill även att JURI tar ställning för gränsöverskridande nedtagningsorder. Det vill säga att myndigheter i ett EU-land skall kunna beordra att innehåll på plattformar och servrar i andra medlemsstater skall plockas bort. Vilket kommer att leda till ett race-to-the-bottom, där alla enskilda länders strängaste åsiktslagar kommer att påtvingas hela EU.

Som om inte det är illa nog vill Didier att en nedtagningsorder i ett EU-land även skall gälla globalt. Man kan lätt inse att sådant kan komma att straffa sig genom att länder som Ryssland och Kina då kan komma att kräva att information som de ogillar även skall censureras i EU.

Den piratpartistiske ledamoten v Europaparlamentet Patrick Breyer (PP, DE) säger:

»The Rapporteur’s proposals are radical. They would i.e. threaten the secrecy of private correspondence and end-to-end encryption, mandate and encourage error-prone ex-ante upload filtering, introduce excessively short content take-down delays, enforce excessive national laws (e.g. in Poland or Hungary) throughout the EU and even globally, turn ‚trusted flaggers‘ into ‚trusted censors‘ and much more. I expect the vote to be very tight on several of these issues.«

• Läs mer hos Patrick Breyer »

Upphovsrättsdirektivet i långbänk

av

Om inte Sverige gör lag av EU:s upphovsrättsdirektiv inom kort kommer EU-kommissionen att dra Sverige inför EU-domstolen – trots att samma EU-domstol ännu inte beslutat om delar av direktivet är lagligt.

EU:s upphovsrättsdirektiv skulle ha varit svensk lag senast den 7 juni i år. Någon proposition, remiss, promemoria eller egentlig plan har inte synts till. Vilket i och för sig är en bra sak, då det innehåller delar som kommer att leda till uppladdningsfilter och länkskatt. Nu kan man dock inte räkna med att detta läge kommer att gälla någon längre tid, då EU-kommissionen kräver besked från regeringen. Samtidigt är hela frågan en soppa.

Tre dagar innan direktivet skulle vara lag lade EU-kommissionen fram sitt slutliga förslag till implementering av artikel 17 (som kommer att leda till uppladdningsfilter). Så någon tid för att upprätta ett skarpt lagförslag har knappast funnits. Skälet till att kommissionens riktlinjer dröjde var att den – faktiskt – försökte föra EU-domstolen bakom ljuset vad gäller att Polen överklagat just artikel 17.

Nu skriver Emanuel Karlsten att kommissionen den 26 juli krävde Sverige på svar om varför direktivet ännu inte är svensk lag. Och inte bara Sverige. Från kommissionens hemsida:

»The Commission has requested Austria, Belgium, Bulgaria, Cyprus, Czechia, Denmark, Estonia, Greece, Spain, Finland, France, Croatia, Ireland, Italy, Lithuania, Luxembourg, Latvia, Poland, Portugal, Romania, Sweden, Slovenia and Slovakia to communicate information about how the rules included in the Directive on Copyright in the Digital Single Market (Directive 2019/790/EU) are being enacted into their national law.«

Man vill ha svar senast nu på söndag. Men det kommer man knappast att få. Karlsten rapporterar:

»På Justitiedepartementet är man medveten om tidsfristen som kommissionen gett, men vill ännu inte svara på när eller hur de ska svara. Inte heller kan de ge tidsplan för när direktivet kan införlivas som svensk lag.

– Vi arbetar för fullt med att färdigställa förslaget till genomförande. Det går inte att ge något exakt datum för när remittering kommer att ske. Förhoppningen är dock att kunna göra det runt skiftet september/oktober, säger Patrik Sundberg, kansliråd på Justitiedepartementet.«

I EU-domstolen har dess generaladvokat rekommenderat att artikel 17 inte skall upphävas. Dock är det inte alltid domstolen går på generaladvokatens linje. Så frågan om artikel 17 ens är laglig är fortfarande en öppen fråga. Ändå kräver kommissionen att Sverige skyndar på med lagstiftning i frågan. Annars kommer man att släpa Sverige (och de övriga länderna ovan) inför… just det… EU-domstolen.

Fortsättning följer.

• Emanuel Karlsten: Upphovsrättsdirektivet ännu inte svensk lag – nu öppnar EU-kommissionen för rättsliga åtgärder mot Sverige »
• EU-kommissionen: Commission calls on Member States to comply with EU rules on copyright in the Digital Single Market »
• Reuters: Commission starts legal action against 23 EU countries over copyright rules »

Ständigt, dessa uppladdningsfilter

av

Uppladdningsfilter tycks vara på väg att bli något slags standard i EU:s internetrelaterade lagstiftning. Men vill vi verkligen att allt vi laddar upp till publika plattformar skall förhandscensureras – av maskiner?

Det började med artikel 17 i EU:s nya upphovsrättsdirektiv (EUCD) – som i praktiken kommer att leda till uppladdningsfilter. Sedan kom förordningen om terror-relaterat innehåll online (TERREG) – som också kommer att leda till uppladdningsfilter. Och vad gäller den föreslagna Digital Services Act (DSA) finns det starka krafter som vill lägga till uppladdningsfilter som något slags allmänt verktyg för att motverka att oönskat innehåll sprids.

Till att börja med måste vi fråga oss om det alls är lämpligt eller önskvärt att all text, alla bilder, all video, alla ljudfiler med mera som vi lägger upp på olika plattformar skall förhandscensureras.

Det rimliga borde var att om någon på nätet – precis som i övriga livet – gör något olagligt, då blir detta en fråga för rättsväsendet när handlingen väl har skett. Om detta sedan kan slås fast i en oberoende rättslig process, då kan innehållet tas ner.

Därför är förhandscensur av pressen förbjuden i Sverige. Detsamma borde gälla online.

Nästa fråga är om vi verkligen vill att sådan censur skall skötas av maskiner. Algoritmer klarar inte att ta hänsyn till sammanhang, förstå humor eller satir, göra undantag för memer eller kritik. Man kan med säkerhet säga att uppladdningsfilter kommer att stoppa mer information än vad som från början var tänkt. Det vill säga även information som bör få publiceras.

En tredje invändning är att om uppladdningsfilter väl finns på plats, då är det en enkel sak att utöka deras användningsområde. Sådan ändamålsglidning förekommer nästan alltid.

Jag förundras över hur vissa politiska partier kan hävda att om andra partier kommer till makten, då hotas den svenska demokratin – samtidigt som de förstnämnda inte tvekar att rulla ut verktyg för censur, kontroll och övervakning som ju faktiskt kan användas av framtida regeringar just för att inskränka den svenska demokratin.

Uppladdningsfilter, datalagring, statligt godkända nätgranskare, av-kryptering och granskning av meddelanden och e-post på höstens politiska dagordning

av

Sommarlovet är över och det är dags att se över vilka nät-, yttrandefrihets- och övervakningsfrågor som finns på den politiska dagordningen i höst.

Sverige

  • Redan i somras skulle EU:s nya upphovsrättsdirektiv ha varit svensk lag. Någon remiss eller proposition har dock inte synts till. Delvis kan det bero på att EU-kommissionen dragit benen efter sig i den kontroversiella frågan om uppladdningsfilter. En annan sak att hålla ögonen på är hur direktivets absurda länkskatt är tänkt att implementeras i svensk lag.
  • Efter att EU-domstolen meddelat att den svenska lagen om datalagring måste skrivas om har regeringen tillsatt en utredning. Visserligen skall utredningen presenteras först våren 2023, men det är viktigt att hålla frågan levande – och då inte minst det faktum att den svenska datalagringen fortfarande kolliderar med domstolens nej till svepande lagring av data om alla medborgares alla tele- och datakommunikationer utan misstanke om brott.

EU

  • EU:s nya Digital Services Act (DSA) föreslår så kallade Trusted Flaggers – som är tänkta att vara organisationer som är statligt godkända nätgranskare, med direktlinje till sociala medias abuse-avdelningar.
  • Det finns krafter i både Europaparlamentet och ministerrådet som vill att DSA också skall innehålla allmänna uppladdningsfilter.
  • EU:s ministerråd vill i ett inspel kopplat till DSA att inte bara olagligt material skall plockas bort på nätet. Man vill även att icke olagligt hat och hot skall bort, vilket i så fall innebär att yttrandefrihetens gränser inte längre sätts av lag.
  • Under hösten väntas dom i EU-domstolen, där Polen överklagat artikel 17 i det nya upphovsrättsdirektivet, som kommer att leda till automatiska uppladdningsfilter. Domstolens generaladvokat ger (med vissa förbehåll) grönt ljus till artikel 17, men det händer emellanåt att domstolen går på en annan linje än dennes rekommendationer.
  • ChatControl 2.0 är uppföljningen till beslutet att ge meddelande- och e-post-tjänster möjlighet att av-kryptera och granska användarnas kommunikationer i jakt på sexuellt utnyttjande av barn. Under vintern kommer nästa steg, som förvänts göra detta obligatoriskt.
  • Kopplat till detta har EU presenterat ett diskussionspapper där man överväger att använda den metod som Apple valt (i vart fall i USA) för att komma åt bilder och sexuella övergrepp på barn. Det vill säga att kringgå kryptering genom att med något slags spionprogram granska bilder och meddelanden redan på användarens telefon. Vilket är ett av flera olika förslag man skissar på.
  • EU-kommissionen och ministerrådet överväger hur de skall kunna komma runt EU-domstolens nej till urskiljningslös datalagring utan misstanke om brott.
  • EU-kommissionen har föreslagit European Digital Identity Wallets, som är tänkta att användas för ID, pass, licenser, körkort, kollektivtrafikkort, sjukvårdsinformation, recept, inloggning på nätplttformar, betalningmedel med mera. Vilket kan öppna för ett omfattande övervakningssamhälle i vilket vi får blippa oss fram.
  • Europaparlamentets utskott för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) har sagt nej till till AI och biometrisk analys för massövervakning. Delar av minsterrådet och då speciellt Frankrike vill gå åt andra hållet och använda dessa verktyg.
  • I EU-kommissionens Code of Practice on Disinformation vill man att nätplattformarna i högre utsträckning skall av-monetarisera oönskat innehåll.
  • EU-kommissionen vill förbjuda anonyma betalningar med kryptovalutor och kontantbetalningar på över 10.000 euro.
  • Det pågår en diskussion (framförallt i ministerrådet) om att utöka registreringen av våra flygresor (PNR) till att även gälla tågresor, båtresor, bilhyra och hotellövernattningar.

Detta är bara ett urval av sådant som är på gång i svensk och europeisk politik under hösten. Det händer också att nya frågor dyker upp väldigt plötsligt.

Vi bevakar dessa och fler frågor. Du följer utvecklingen här på bloggen.

Kanada inför drakoniska nätlagar

av

Kanada är nästa land som inför långtgående inskränkningar av yttrandefriheten på internet. Det ser ut som om man bestämt sig för att ta det sämsta ur olika länders lagstiftning och göra det till nationell lag.

Det pågår uppenbarligen något slags kapplöpning bland västerländska demokratier för att införa internetlagstiftning som begränsar yttrandefriheten online. Senast ut är Kanada.

EFF sammanfattar de viktigaste punkterna:

  • Man ger sig på ”skadligt innehåll” som i sig inte är olagligt, men som kan bedömas som upprörande eller stötande.
  • 24 timmar för att plocka ner flaggat material, vilket varken ger tid för en rimlig kontextuell eller juridisk bedömning.
  • Krav som i praktiken kommer att leda till automatiska uppladdningsfilter.
  • Obligatorisk rapportering av potentiellt skadligt innehåll till polis och säkerhetstjänst.
  • Blockering av web-sidor med olämpligt material.
  • Datalagring.
  • Inrättandet av en ”internet speech czar” med omfattande befogenheter.
  • Böter på upp till tre procent av plattformens omsättning eller tio miljoner dollar för företag som bryter mot reglerna.

Kanadas nya ”internet speech czar” skall även få tillträde till alla platser (utom bostäder):

»in which they believe on reasonable grounds there is any document, information or any other thing, including computer algorithms and software, relevant to the purpose of verifying compliance and preventing non-compliance . . . and examine the document, information or thing or remove it for examination or reproduction”; to hold hearing in response to public complaints, and, “do any act or thing . . . necessary to ensure compliance.«

Privat kommunikation är dock undantagen – men kommer ändå att falla i och med att västliga regeringar i något slags samordnad attack nu försöker bereda sig tillgång till medborgarnas krypterade chattar, meddelanden och-epost.

EFF: O (No!) Canada: Fast-Moving Proposal Creates Filtering, Blocking and Reporting Rules—and Speech Police to Enforce Them »

EU-domstolens generaladvokat ger grönt ljus till artikel 17 (uppladdningsfilter)

av

Idag har EU-domstolens generaladvokat presenterat sin rekommendation till dom i målet där Polen begärt att artikel 17 (som kommer att leda till uppladdningsfilter) i EU:s nya upphovsrättsdirektiv skall upphävas.

Generaladvokaten föreslår att artikel 17 inte skall upphävas – men rekommenderar att medlemsstaterna visar sunt förnuft vid implementeringen.

Det är värt att notera att detta inte är en dom, utan en rekommendation till dom. EU-domstolen följer oftast – men inte alltid – generaladvokatens rekommendationer.

Det är dock intressant att generaladvokaten inte hyser någon tvekan om att artikel 17 kommer att leda till uppladdningsfilter.

»As I will explain in this Opinion, that provision imposes on those providers obligations to monitor the content posted by the users of their services in order to prevent the uploading of protected works and subject matter which the rightholders do not wish to make accessible on those services. Such preventive monitoring will, as a general rule, take the form of filtering that content using software tools.«

Generaladvokaten förutser även att detta kan komma att bli problematiskt, då det finns motstridiga intressen:

»That filtering raises complex questions, put forward by the applicant, with regard to the freedom of expression and information of users of sharing services, guaranteed in Article 11 of the Charter of Fundamental Rights of the European Union (‘the Charter’). Further to its judgments in Scarlet Extended, (6)SABAM (7) and Glawischnig-Piesczek, (8) the Court will have to determine whether, and as the case may be the circumstances in which, such filtering is compatible with that freedom. It will have to take account of the advantages, but also the risks of such filtering and, in that connection, ensure that a ‘fair balance’ is maintained between, on the one hand, the interest of rightholders in the effective protection of their intellectual property and, on the other, the interest of those users, and the general public, in the free flow of information online.«

Han menar dock att om man följer de förbehåll som finns i artikel 17, då kan den stå kvar som den är.

»In this Opinion, I shall explain that, in my view, the EU legislature may, while observing freedom of expression, impose certain monitoring and filtering obligations on certain online intermediaries, provided, however, that those obligations are circumscribed by sufficient safeguards to minimise the impact of such filtering on that freedom. Since Article 17 of Directive 2019/790 contains, in my view, such safeguards, I shall propose that the Court should rule that that provision is valid and, consequently, that it should dismiss the action brought by the Republic of Poland. (9)«

Frågan är dock om medlemsstaterna verkligen tar hänsyn till dessa »safeguards« när direktivet görs till nationell lagstiftning. Detta speciellt som medlemsstaterna väljer lite olika vägar för sin implementation.

Enkelt uttryckt blir varje enskild medlemsstats implementation av artikel 17 avgörande. Anser man att ett lands lagstiftning strider mot nämnda skyddsåtgärder – då kan man starta en separat rättsprocess, som kan drivas ända upp till EU-domstolen.

Striden kommer alltså att stå land för land.

Jag får dock ett intryck av att generaladvokaten inte känner sig helt tvärsäker. Det är något i texten som antyder att domstolen kan komma till en annan slutsats. Vilket som sagt vore ovanligt, men inte unikt. Men stalltipset är ändå att man går på generaladvokatens linje.

• Generaladvokatens yttrande över mål C‑401/19; Republic of Poland v. European Parliament & Council of the European Union »

I många små steg inskränker EU det fria ordet online

av

Ett par saker håller just nu på att hända samtidigt i EU.

Dels är EU:s nya Digital Services Act (DSA) på väg att kapas av krafter som vill förbjuda även icke olagliga yttranden på nätet och som vill använda förordningen för att införa allmänna uppladdningsfilter.

Samtidigt har vi den nya förordningen om terror-relaterat innehåll online som vill se rutiner för att oönskat material plockas ner inom en timma, som ger myndigheter i ett EU-land rätt att stänga ner innehåll på servrar i andra länder – och som också kommer att leda till uppladdningsfilter.

I bakgrunden pågår arbete med en ny Code of Conduct on countering illegal hate speech online samt en European Democracy Action Plan. Båda syftar till att bekämpa hat och hot online och kan bli pådrivande för att skärpa sociala medias användarvillkor ytterligare.

Detta är bara några exempel på lagstiftning på gång som rör det fria ordet online i EU. De är var för sig oroväckande. Tillsammans kan de mynna ut i en censurapparat vars motsvarighet vi aldrig tidigare skådat.

Sedan blir det den för tillfället rådande politiska majoriteten, de för tillfället rådande politiska trenderna eller den senaste moralpaniken som kommer att styra vad som får uttryckas på nätet.

Vad som definieras som »hat« eller vem som är att betrakta som »terrorist« kan ändras med ett klubbslag.

Sluta censurera sådant som inte är olagligt

av

Att reglera internet och att övervaka folket tycks vara en prioriterad politisk uppgift. Det går med en rasande fart nu.

Pandemin har förmodligen gjort det lättare. Never waste a good crisis.

Jag noterar att Europol nu har börjat punktmarkera såväl högerextremister som vänsterextremister, islamister och corona-förnekare online. Vad jag förstår använder man sig inte av lagen, eftersom en del av det material man vill ha bort inte är olagligt. Istället anmäler man innehåll till de sociala nätverkens abuse-avdelningar för brott mot nämnda nätverks användarvillkor.

Vilket alltså innebär att statens våldsmonopol ägnar tid och resurser åt att tysta oönskade röster på nätet – som inte nödvändigtvis gör något olagligt. Man kan även fundera på om det är lagen eller Facebooks användarvillkor som skall vägleda polisen i dess förhållande till det fria ordet.

Idén med att göra känsliga inskränkningar i yttrandefriheten genom att påverka sociala media att uppdatera sina användarvillkor är dubiös. Skall man göra inskränkningar i det fria ordet, då skall det ske genom lag i en öppen demokratisk process. Inte genom diskreta påtryckningar mot sociala media.

I EU-kommissionens förslag till en Digital Services Act (DSA) skriver man att olagligt material skall plockas bort. En del länder i ministerrådet, med Frankrike i spetsen, vill gå längre och även avlägsna hat och hot. Men alltså hat och hot som inte redan fallit under rubriken olagligt? Det vill säga att avlägsna lagligt innehåll. See what they did there?

Europaparlamentets franske rapportör om DSA vill redan nu att uppladdningsfilter skall införas som något slags allmänt verktyg. Det vill säga automatisk granskning och i förekommande fall censur av allt du laddar upp – där din yttrandefrihet regleras av maskiner, algoritmer och av den som kontrollerar dessa.

Jag vill inte låta alarmistisk. Men denna slappa hållning gentemot den demokratiska rättsstatens grundläggande principer och metoder är olämplig. Vi håller på att flytta makten över det fria ordet från lagstiftning och rättsväsende till slutna rum.

Karlsten om problemen med uppladdningsfilter

av

Som vi tidigare rapporterat har EU-kommissionen publicerat sina riktlinjer till implementering av artikel 17 (tidigare 13) i EU:s nya upphovsrättsdirektiv. Det vill säga frågan om uppladdningsfilter.

Nu ser jag att den utmärkte Emanuel Karlsten gett sig in på att bevaka frågan. Han är bra på att gräva fram saker. Och han är på krigsstigen:

»I praktiken skulle det innebära att till exempel SVT, eller en filmstudio som Warner kan skapa ett referensbibliotek med allt sitt innehåll, vilket innebär att alla sajter som används av EU-medborgare förbjuds tillåta användare publicera något av det – bild, film eller ljud. Det är också plattformen som har ansvar att ändå tillåta bilder – om de görs i form av satir, humor eller kritik. Hur det i praktiken ska fungera är svårt att både förutse och förstå.

I grunden innebär det att det filter som tidigare heligt lovats inte skulle finnas, nu får en mer framträdande roll.«

Nu är frågan hur implementeringen är tänkt att ske i Sverige. Samtidigt finns det en möjlighet att EU-domstolen dödar artikel 17, då den överprövas där, på begäran av Polen.

• Emanuel Karlsten: Idag skulle upphovsrättsdirektivet varit lag i Sverige – därför dröjer det och därför är det problematiskt »
• EU-kommissionens vägledning om artikel 17 är en besvikelse »