Femte juli

Nätet till folket!

Digital Services Act

EU:s nya Digital Services Act (DSA) kommer att innehålla regler för plattformar online och sociala media. Den innehåller en del bra saker, som rätten till information och möjlighet att överklaga om en användare får ett inlägg censurerat eller vid avstängning. Andra saker är mer tveksamma, som till exempel Trusted Flaggers, som blir ett slags statligt godkända ordningsmän på nätet med direktlina till sociala medias abuse-avdelningar.

Kan EU bestämma över X och Meta?

av

EU-politiker vill använda EU:s nya Digital Services Act för att hejda X:s och Metas mer liberala tolkning av yttrandefriheten. Men det är oklart om någon sådan formell möjlighet finns. Däremot öppnas för informella påtryckningar och sanktioner.

Den senaste tiden har politiker hotat med EU:s nya Digital Services Act (DSA) till exempel när Elon Musk samtalat med Donald Trump och tyska AfD:s Alice Weidel på X.

Man har också mullrat mot Meta, efter att Mark Zuckerberg meddelat att man lättar på censuren och ersätter sina externa faktagranskare med community notes.

Trots allt buller kan DSA – formellt sett – endast användas för att avlägsna olagligt innehåll.

Men det finns problem om man ser till vad som de facto är olagligt. Till exempel kan nämnas att hädelse och information om eller främjande av abort är olaglig i vissa EU-länder. Det är inte som att det saknas orimliga lagar i EU:s medlemsstater.

EU är dessutom på väg att göra »hat« till ett EU-brott (som till exempel terrorism och vapensmuggling). Det vi ser nu är en del i en större helhet.

DSA är långt ifrån en kristallklar lagstiftning. Mycket stora onlineplattformar och mycket stora onlinesökmotorer förväntas identifiera, analysera och bedöma alla eventuella systemrisker i unionen som härrör från tjänsten. Vilket kan betyda lite vad som helst.

Utifrån detta skall man sedan införa rimliga, proportionella och effektiva riskbegränsningsåtgärder.

Ett sätt för EU att mygla med detta – som tillämpats under lång tid, redan innan DSA – är att politiken utsätter sociala media för påtryckningar, som syftar till att använda plattformarnas användarvillkor för att begränsa yttranden som vore allt för känsliga att förbjuda genom lag.

Strikt formellt sett kan det dock vara svårt för EU att använda DSA för att hindra Meta från att göra sig av med sina externa faktagranskare. Å andra sidan kan det bli en rättslig fråga huruvida community notes kan anses utgöra rimliga, proportionella och effektiva riskbegränsningsåtgärder.

Ser man till EU:s reaktioner på Musks samtal med Trump och Weidel (AfD) på X är det ett gungfly. Formellt sett har inget olagligt skett. Men det saknas inte röster som ser dem som systemhotande. Samtalet med Weidel granskades enligt uppgift av 150 EU-tjänstemän i jakt på något som stider mot DSA. Och i Tyskland finns vill tunga aktörer helt förbjuda AfD.

Här skall även nämnas att EU givit sig självt rätt att utfärda gigantiska böter för den som anses bryta mot DSA. (6% av den globala årsomsättningen.)

Vad finns det då för spärrar mot att använda DSA som verktyg för censur?

Artikel 10 i Europakonventionen om de mänskliga rättigheterna och artikel 11 i EU:s människorättsstadga (som är en del av EU:s fördrag) säger:

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser. Denna artikel hindrar inte en stat att kräva tillstånd för radio-, televisions- eller biografföretag.«

Notera särskilt avsnittet »utan offentlig myndighets inblandning«. Men denna rätt är inte absolut. I Europakonventionen 10:2 kommer undantagen:

»Eftersom utövandet av de nämnda friheterna medför ansvar och skyldigheter, får det underkastas sådana formföreskrifter, villkor, inskränkningar eller straffpåföljder som är föreskrivna i lag och som i ett demokratiskt samhälle är nödvändiga med hänsyn till den nationella säkerheten, den territoriella integriteten eller den allmänna säkerheten, till förebyggande av oordning eller brott, till skydd för hälsa eller moral, till skydd för annans goda namn och rykte eller rättigheter, för att förhindra att förtroliga underrättelser sprids eller för att upprätthålla domstolarnas auktoritet och opartiskhet.«

Vilket är en rätt omfattande brasklapp. Det är lätt att se hur EU kan komma att försöka klämma in rätt mycket under dessa undantag.

Därmed kan både fallen med X och Meta bli rena tolkningsfrågor. Dock har EU-domstolen (om frågan går dit) en tendens att sätta huvudregeln före undantagen. (Se domen som upphävde EU:s datralagringsdirektiv.) Men man kan aldrig säkert veta.

Möjligen kan även den amerikanska uppfattningen att DSA (m.m.) utgör handelshinder ha en avhållande effekt vad gäller att driva frågan till sin spets.

Sammanfattningsvis: DSA ger EU rätt att censurera olagligt innehåll. Det är inte alls uppenbart att varesig de frågor som nu rör X eller Meta bryter mot förordningen. Däremot ger DSA utrymme för både EU och medlemsstater att indirekt lägga sig i vad som publiceras – speciellt inom ramen för specialreglerna för stora aktörer. Och att utfärda gigantiska böter.

Panik i censurfabriken

av

Många är upprörda över att Meta skall sluta med externa faktagranskare. Vad det egentligen handlar om är att man vill kunna censurera information som INTE är olaglig.

Plötsligt fick vi en debatt om yttrandefriheten på nätet. Det var på tiden.

Meta slutar nu använda externa faktagranskare i USA. Man har även flaggat för att göra samma sak i EU.

En riskanalys kring konsekvenserna av detta är inlämnad till EU-kommissionen i enlighet med EU:s Digital Services Act (DSA). Sedan skall kommissionen yttra sig. Den lär ha invändningar.

Förändringarna har vållat uppståndelse och upprördhet. Nyss – när folk klagade på censuren hos Facebook & Co – hävdades att de sociala medieföretagen är privata och därför får göra som de vill.

Nu – när Meta släpper på censuren – är budskapet att dessa privata företag inte alls skall få göra som de vill, utan att de måste kontrollera och styra vilka åsikter folket får uttrycka.

Att ersätta de externa faktagranskarna med »community notes« (som på X) bör fungera. Är det något internet är bra på, då är det att slå ner på felaktigheter.

Crowdsourcad faktagranskning blir rimligen både omfattande och allsidig. Mer så än vad någon extern faktagranskare kan erbjuda.

En del politiker och skribenter har dock uttryckt sin irritation över community notes som sådana. Och det är naturligtvis jobbigt när folk ifrågasätter och lägger sig i.

Den moderata ledamoten av Europaparlamentet, Arba Kokalari, har varit en av nyckelpersonerna bakom DSA. Till Sveriges Radio säger hon så här om Metas slopade externa fakta-granskare…

»Det är en farlig väg att gå om Facebook och Instagram skulle bli en fristad för kriminella extremister och terrorister. Och jag kommer inte acceptera att de för den typen av politik också i Europa. I Europa har vi tydliga lagar där olagligt innehåll och desinformation måste tas ner av Facebook och Instagram. Och vägrar de göra det då kommer det komma konsekvenser.«

Till att börja med är detta en halmgubbe. Ingen har sagt något annat än att olagligt innehåll skall plockas bort. Ingen.

Kokalari bör även vara medveten om att Meta kommer att behålla sina interna innehålls-moderatorer och analysverktyg, vars uppgift bland annat är att stoppa kriminalitet och terrorism.

Vad det nu handlar om är externa granskare som kritiserats för politisk slagsida (speciellt i USA) och för att driva en egen agenda. En censur som enligt Mark Zuckerberg gått för långt.

Politiken vill kunna stoppa oönskad laglig information på sociala media. Vilket skapar något slags privatiserad åsiktspolis i ett forum där användaren i princip är rättslös.

En gång i tiden stod Kokalaris parti – Moderaterna – upp för yttrandefriheten. Idag ser de det fria ordet som ett problem. Idag är de för censur.

I DSA föreskrivs bland annat Trusted Flaggers, det vill säga statligt godkända faktagranskare som skall rekommendera vad som skall plockas bort på sociala media. Vilket Kokalari lyft som något bra, men varit ovillig att diskutera.

Nu skall tilläggas att även de andra partierna (utom SD) är medskyldiga till DSA. Men som EPP-gruppens rapportör om DSA i Europaparlamentet har Kokalari ett direkt ansvar.

Låt oss nu (med risk för att tjata) se till vad de grundläggande mänskliga rättigheterna har att säga. Ur Europakonventionen…

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser.«

Nyckelformuleringen är »frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning«. Trusted Flaggers går över den röda linjen. Politiska påbud om externa innehållsmoderatorer lika så. EU skall hålla fingrarna borta.

Möjligen kan hela EU:s Digital Services Act strida mot vad de mänskliga rättigheterna har att säga om yttrandefriheten. Att dränka sociala media i politiskt skapad, massiv byråkrati relaterad till vad som får sägas och skrivas är helt klart »offentlig myndighets inblandning«.

Zuckerbergs uppvaknande verkar vara när den politiska administrationen i USA direkt lade sig i vad som får sägas och icke sägas på nätet. Även om han just då snällt gjorde som han blev tillsagd.

Men nu blir det alltså ändring. Kan man ersätta externa faktagranskare med fungerande community notes och lite AI lär man dessutom spara pengar. Och få en bättre granskning.

EU kommer garanterat att bråka om att Meta vill avskaffa sina externa faktagranskare, då detta kolliderar med DSA:s ambitioner. EU har även givit sig själv rätt att utkräva astronomiska böter om sociala media inte gör som de blir tillsagda.

I sammanhanget bör man betänka att till exempel Facebook är ett amerikanskt företag, som inte får göra sig till verktyg för den amerikanska statens försök att inskränka yttrandefriheten. Man har precis kastat av dig det oket.

Nu kräver alltså EU att Facebook istället underkastar sig unionens mycket snävare regler för vad som får uttryckas. Vilket i så fall även drabbar amerikaner och alla andra i världen. Det känns inte rimligt.

EU är inte bara ett hinder för fri information och fri debatt. Vår lagstiftning hindrar utveckkling och framåtskridande. Eller för att citera Mark Zuckerberg:

»Europe has an ever-increasing number of laws, institutionalizing censorship, and making it difficult to build anything innovative there.«

Meta tar strid mot EU om censur

av

Tillsammans med den nya amerikanska administrationen kommer Meta att ta strid mot länder som kräver censur i sociala media utöver vad som är olagligt. Man nämner särskilt EU. Meta ersätter även sina faktagranskare med »community notes«, där användare kan påpeka när något är fel.

Meta gör sig av med externa faktagranskare för sina sociala media (Facebook, Instagram och Threads). Istället kommer man att göra som X (Twitter) och satsa på »community notes« där användarna själva får möjlighet att påpeka felaktigheter.

Detta var en av nyheterna i en video som Metas VD Mark Zuckerberg publicerade idag. Här är det viktigaste, i punktform:

  • Metas innehållsmoderering har nått en punkt där för många misstag begås.
  • Meta tänker förenkla sin innehållspolicy och återupprätta yttrandefriheten på sina plattformar.
  • Externa faktagranskare kommer att ersättas med »community notes« där användarna påtalar sakfel.
  • Metas faktagranskare har varit politiskt vinklade och skadat förtroendet för Meta.
  • Man kommer att lätta på censuren vad gäller ämnen som invandring och kön.
  • Istället för att låta sina automatiska filter söka efter all slags brott mot företagets policy kommer man att fokusera på olagligt innehåll och grova övertramp.
  • I lindrigare fall kommer man inte att vidta åtgärder med mindre än att en postning anmäls.
  • Man kommer att bli mer positiva till politiskt innehåll (som under en tid prioriterats ner).
  • Man flyttar sina team för innehållsmoderering och »Trust and Safety« från Kalifornien till Texas. Detta hoppas man kan minska misstankarna om politisk censur.
  • Meta kommer att samarbeta med President Trump för att slå tillbaka mot regeringar runt om i världen som ger sig på amerikanska sociala media för att få dem att censurera. Speciellt nämner Zuckerberg EU, Latinamerika och Kina.
  • Man vill återvända till sina rötter vad gäller att erbjuda människor en plattform för att göra sina röster hörda.

Ett citat »Europe has an ever increasing number of laws institutionalizing censorship and making it difficult to build anything innovative there.«

Detta kommer inte att tas emot väl av EU och speciellt inte av EU-kommissionen.

De aviserade ändringarna är närmast en krigsförklaring mot EU:s Digital Services Act – som kräver att stora plattformar inte bara skall ta bort olagligt innehåll utan även motverka icke-olagliga men olämpliga eller skadliga yttranden.

Meta gör förändringarna med den nya amerikanska administrationens stöd. Vilket innebär att EU måste tänka efter innan man ger sig på amerikanska sociala media. Den transatlantiska relationen kommer ändå att utsättas för nog med prövningar de närmaste åren.

På det hela taget är Metas utspel välkommet. Man stärker yttrandefriheten och drar gränsen vid sådant som är olagligt eller grovt överträder användarvillkoren.

Vilket känns rimligt.

Räkna dock med många och upprörda kommentarer från aktörer som tycker något annat. Speciellt från EU och traditionell media.

Man kan inte samtidigt ha massövervakning och säkra elektroniska kommunikationer

av

På ena sidan står politiker som vill kontrollera innehållet i alla medborgares elektroniska meddelanden. På den andra sidan finns ett ökat behov av säkra elektroniska kommunikationer. Men våra beslutsfattare duckar frågan.

Politik kolliderar inte sällan med verkligheten. Ett praktiskt exempel är EU:s ambitioner att övervaka medborgarnas elektroniska kommunikationer, som står i konflikt med ett ökat behov av säker elektronisk kommunikation.

EU vill använda AI och/eller spionprogram för att granska innehållet i alla européers elektroniska meddelanden inom ramen för Chat Control 2 (CSAM regulation).

Den nya EU-kommissionen och EU:s ministerråd vill se ett nytt regelverk för datalagring (lagring av metadata om allas telekommunikationer, elektroniska meddelanden, mobilpositioner med mera). Detta trots att EU-domstolen redan sagt nej till sådan.

Inom ramen för projektet Going Dark vill EU skapa verktyg och metoder för att komma åt totalsträckskrypterad (E2EE) elektronisk kommunikation.

Samtidigt ser vi hur främmande makt och kriminella också vill komma åt våra elektroniska kommunikationer.

I USA har statens verktyg för att kontrollera medborgarnas meddelanden missbrukats av kinesiska hackare. Tidigare har myndigheternas hela katalog av övervakningsverktyg hamnat i orätta händer.

I Nederländerna varnar underrättelsetjänsten i bestämda ordalag för konsekvenserna av Chat Control 2.

Nyligen varnade FBI och experter på cybersäkerhet till och med för att använda SMS. Behovet av säkra kommunikationer blir allt mer uppenbart.

Detta är bara några exempel. Intressekonflikten är uppenbar. Det gäller inte bara privatpersoner. Företags, organisationers, medias och myndigheters elektroniska meddelanden kommer också att utsättas för risker.

När det gäller människor som misstänks för brott har staten redan de verktyg som krävs för att komma åt all elektronisk kommunikation och allt som görs och finns på dessa personers telefoner och datorer genom hemlig dataavläsning.

Att man skall kunna övervaka personer och grupper som misstänks för brott är de flesta överens om.

Den politiska striden handlar om ifall denna övervakning skall utökas till att gälla alla. Det vill säga även vanliga hederliga människor, som inte misstänks för något brottsligt. Till priset av försämrad IT-säkerhet.

EU-domstolen har redan slagit fast principen: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Den rättsliga basen för domstolens bedömning är de grundläggande mänskliga rättigheterna. Dels handlar det om rätten till privatliv och privat kommunikation. Dels om vad yttrandefriheten har att säga om allas rätt att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning.

Nyligen efterlyste riksdagens lagråd en samlad översyn av den stora mängden lagar och verktyg för övervakning. Är övervakningen i proportion till de problem man säger sig vilja lösa?

Är övervakningen ens effektiv? Aktuella siffror visar att endast två av tio fall av hemlig avlyssning i Sverige leder till åtal.

Hur påverkar övervakning av alla samhällets fria åsiktsbildning och demokrati? Vilka är riskerna för att dessa verktyg kan komma att missbrukas, nu eller i morgon?

Det enda klara svar vi får från politiken är att man inte vill diskutera saken. Men så enkelt får våra makthavare inte komma undan.

EU:s nya demokratisköld tycks mest bestå av byråkrati

av

EU-kommissionen har aviserat en demokratisköld som skall skydda oss mot desinformation, påverkansoperationer och hybrid-angrepp. Men än så länge verkar det mest vara en ordsallad.

En av den nya EU-kommissionens prioriterade uppgifter är att sätta upp en »European Democracy Shield«. Syftet är att bekämpa desinformation, missinformation, hybrid-attacker påverkansoprationer från främmande makt med mera.

Det är möjligt att det behövs. Det är svårt att skaffa sig en bild av hur omfattande problemet är. Men låt oss anta att det finns ett verkligt hot och ett verkligt behov av gemensamt försvar.

I så fall bör det vara ett högklassigt försvar. För att försöka förstå frågan har jag läst Europaparlamentets briefing paper »Information integrity online and the European democracy shield«.

Det första som slår mig är att detta är del i något större. Europaparlamentets papper tar upp aktiva aktörer som FN, OECD, UNDP, the Alliance for Securing Democracy, Marshall-fonden, ungefär 500 NGO:er, allehanda amerikanska myndigheter – och EU, då speciellt dess utrikestjänst European External Action Service med både en speciell Task Force och ett Rapid Alert System.

Dokumentet innehåller väldigt mycket euro gibberish. Många buzz words, men mindre om vad man konkret vill göra. Vilket som regel är ett dåligt tecken. Ur briefen:

»The concept of information integrity is not a fixed analytical framework, and still lacks a clear definition… (…) Nevertheless, this evolving concept could offer a positive framework within which the EU can further expand its push to support healthy and sustainable information ecosystems – as a key pillar of the future European democracy shield – within and beyond the EU.«

Man tänker alltså ta något som man själv säger saknar ramverk eller ens definition… som modell för… hållbara ekosystem på informationsområdet i och utanför EU. Det låter snarare som ett argument för utökad byråkrati än ett effektivt försvar mot hybridattacker.

På det hela taget känns det som att EU vill att vi skall skydda oss mot digitala fiender med en sköld av byråkrati.

EU-kommissionen vill koordinera, boosta, enforca, promota och stämma av mot hållbarhetsmål. Men vi får aldrig riktigt veta hur.

På sidan åtta fångar en annan sak min uppmärksamhet:

»The enforcement of the EU’s digital regulations, for example, is arguably the strongest step ever to be taken at governmental level to hold online platforms accountable. However, the bolstering of the relevant acts, which will be a focus of the new Commission, could face challenges from the new Trump administration and its close ties with parts of the tech industry. This could bring the underlying friction between the rights-driven EU approach to digital regulation and the US market-driven model to the fore.«

Framförallt lär det vara EU:s Digital Services Act och dess skrivningar om att stora plattformar skall hålla efter olämpligt men icke olagligt innehåll som skaver.

Trump (och Musk) lär ha svårt att acceptera att amerikanska företag förväntas begränsa yttandefriheten globalt vad gäller innehåll som inte ens är olagligt.

Enligt uppgift skall Trump även ha sagt att USA:s engagemang i NATO och stödet till Ukraina kan påverkas av hur EU behandlar amerikanska företag under sina nya internetlagar.

Slutligen – hur man än vänder och vrider på frågan förutsätter EU:s nya »demokratisköld« att det finns någon instans som bestämmer vad som är rätt och fel, sant eller osant. Frågan är vilken denna instans skall vara och exakt vad det är den förväntas åstadkomma. Många lär känna sig kallade.

Vad, vem och hur är frågor som politiska förslag allt för sällan besvarar.

Denna text skall inte ses som kritik mot att vi gör något för att försvara oss mot illvilliga krafter i den digitala världen. Snarare är min farhåga att allt kommer att drunkna i eurokrati och institutionell dumhet. Samt att det finns stort utrymme för subjektivitet hos den som skall avgöra vad som i sammanhanget är problematiskt.

• Europaparlamentet: Information integrity online and the European democracy shield »

Nya EU-kommissionen och internet

av

Den nya EU-kommissionen kommer att ha fullt upp med att reglera internet, övervaka medborgarna och skrämma bort IT-investeringar från Europa.

Idag har Europaparlamentet godkänt den nya EU-kommissionen. Här är några frågor på dess bord som rör internet under mandatperioden.

Datalagring

2014 upphävde EU-domstolen EU:s direktiv om datalagring (lagring av metadata om allas telefonsamtal, SMS, e-post-meddelanden, uppkopplingar, mobilpositioner m.m.).

Detta med hänvisning till de grundläggande mänskliga rättigheterna och vad de har att säga om rätten till privatliv och privat korrespondens. Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Nu diskuteras ett nytt datalagringsdirektiv i EU, som är tänkt att försöka kringgå EU-domstolens beslut. Precis som i Sverige vill man även komma åt de olika meddelandetjänsterna. Speciellt de totalsträckskrypterade.

Ännu finns inget konkret på bordet, men det kommer. Gissningsvis rätt tidigt under mandatperioden då det tar åratal att få igenom ett nytt direktiv. Det skulle inte förvåna om förslaget redan ligger klart och väntar på tillträdande kommissionär Brunners skrivbord.

Chat Control 2 / CSAR

Den nya EU-kommissionen står fast vid Ylva Johanssons ursprungliga förslag om att låta AI granska innehållet i folks elektroniska kommunikationer (och molntjänster m.m.).

Om ministerrådet kommer fram till en position går frågan in i trilog-förhandlingar mellan EU-kommissionen, ministerrådet (client-side-scanning) och Europaparlamentet (som säger nej till Chat Control 2 i dess bärande delar).

Vilket med största sannolikhet kommer att landa i någon form av ja till förslaget. Om inte parlamentet upplever ett yttre tryck som får det att inse att ett hårdnackat nej ligger i dess intresse.

The Digital Services Act (DSA)

Den utgående EU-kommissionen lämnar efter sig frågan om hur det är tänkt att stora sociala media skall stoppa innehåll som man ogillar – men som inte är olagligt.

I en rättsstat bör det – i förväg – tydligt framgå vad som är tillåtet att säga eller ej. Det som inte uttryckligen är förbjudet måste vara tillåtet.

Det blir även upp till den nya kommissionen att se till att DSA:s krav på nätcensorer – Trusted Flaggers / betrodda anmälare) uppfylls. Riken är uppenbar att olika särintressen och intressegrupper kan komma att se en sådan roll för sig själva som ett verktyg för att kunna styra vad som sägs på nätet.

Hat & hot blir EU-brott

Kommissionen och parlamentet (inklusive alla svenska partier i Europaparlamsentet utom SD) driver på för att göra hat och hot till ett »EU-brott« i klass med terrorism och vapensmuggling.

Än så länge finns bara pladdriga policypapper och resolutioner som inte närmare berör vad det är som skall bli förbjudet att säga, skriva och posta. Men nu måste man bli mer konkreta.

Vad gäller »hat« är utrymmet för subjektiva bedömningar stort. Givet EU:s återkommande gräl med sociala media i allmänhet och X i synnerhet är det uppenbart att detta är en fråga som kommer att beröra yttrandefriheten på internet.

Vi följer denna dossier och återkommer när det händer något av betydelse.

Going Dark

Kommissionen, medlemsstaterna och Europol håller (vid sidan av Chat Control 2) på med ett projekt för att komma åt totalsträckskrypterad kommunikation, Going Dark.

Det finns dock redan en lösning, även om den har sina brister: Hemlig dataavläsning. Det vill säga spionprogram (client-side-scanning) på misstänktas telefoner och datorer som registrerar allt som sker på och kring enheten.

Dock drar frågan åt att man vill ha en generell möjlighet att komma åt krypterade meddelanden. Vilket kan kasta ett visst ljus över ministerrådets senaste förslag om client-side-scanning på allas telefoner och datorer som en del av Chat Control 2.

Nu återstår att se vad som kommer ut ur Going Dark-projektet. Blir det några förslag från kommissionen? Eller är detta något som medlemsstaterna kommer att hantera synkroniserat på nationell nivå?

EU, internet och världen

EU har en allt mer omfattande reglering vad gäller internet. Regler som den nya kommissionen har att upprätthålla – även om de driver IT-entreprenörer ut ur EU.

Chat Control 2 har föranlett meddelandetjänster som Signal att hota om att inte längre tillhandahålla sina tjänster i EU. Nya aktörer på meddelande-marknaden kommer att tvingas bygga in spion-moduler från början, vilket kommer att avskräcka nya aktörer som respekterar sina användares integritet.

GDPR gav oss inte bara cockie-eländet utan begränsade även EU-medborgares tillgång till en del utländska siter, bland annat utländsk media. Denna reglering gav dessutom våra företag en ny, kostsam byråkratisk börda.

EU:s nya AI-lagstiftning har än så länge medfört att Apple inte släpper alla sina AI-funktioner på mobiler i EU. Fler oönskade konsekvenser lär följa. Och investeringarna i AI kommer att ske i andra delar av världen.

The Digital Services Act har hamnat på kollissionskurs med yttrandefriheten. Den påbjuder även en omfattande byråkrati för stora sociala plattformar – vilket är en garanti för att startups som saknar Metas och Alphabets resurser och kår av jurister aldrig kommer att kunna etablera sig eller växa sig stora på markanden.

Detta drabbar inta bara oss i EU. Internet känner inga gränser. Om till exempel Chat Control 2 leder till bakdörrar till (än så länge) toitalsträckskrypterde meddelanden kommer sådana även att kunna utnyttjas av regimer i skurkstater för att förtrycka sin befolkning och opposition.

EU:s självbild är att man är »väldsledande« vad gäller att sätta en standard för reglering av IT. Det är inte helt säkert att det är en bra sak.

Detta var bara några exempel på vad som är i görningen. Följ oss för att hålla dig uppdaterad.

Möt de nya statligt godkända nätcensorerna

av

Trusted Flaggers – nätcensorer med en agenda eller allmänhetens tjänare? Nu är de här.

EU:s Digital Services Act (DSA) föreskriver att medlemsstaterna skaffar sig nätcensorer – Trusted Flaggers eller betrodda anmälare som de kallas på svenska.

Dessa skall ha en direktlina till sociala media. De kan föreslå men inte kräva att olagligt innehåll tas bort.

Redan i direktivets inledning kan vi läsa att Trusted Flaggers även skall hjälpa till med att identifiera information som är oförenlig med respektive socialt nätverks användarvillkor. Det vill säga även hålla efter innehåll som oftast inte är olagligt.

Statligt godkända nätcensorer skall alltså kunna rekommendera att innehåll som inte är olagligt (men strider mot plattformens användarvillkor) skall avlägsnas från internet. Har man verkligen tänkt igenom rollfördelningen här?

Men även om det endast skulle handla om att flagga uppenbart olagligt innehåll uppstår ett problem.

En statligt godkänd aktör – en Trusted Flagger – ges rätt att uppmana sociala media att censurera innehåll utan föregående rättslig prövning. Det är inte bra. Innan någon alls censurerar något på statens eller dess funktionärers order, måste man ju först fastställa om det som är tänkt att censureras är lagligt eller ej.

Längre in i texten (recital 58 & artikel 27) kan vi läsa att Trusted Flaggers även skall medverka vid analys av systemrisker; att de skall ha ett utökat samarbete med sociala media; att de skall medverka vid utbildning för sociala plattformar samt att de skall bidra till utformning av uppförandekoder.

Så mandatet kan bli väldigt brett.

I Tyskland är det hallå efter att landets första Trusted Flagger har utsetts. Det visar sig vara en offentligfinansierad verksamhet som ägnar sig åt att anmäla hat på nätet. Och som anklagas för att ha politisk slagsida.

Sverige har jämfört med detta någorlunda rimliga Trusted Flaggers på gång. ECPAT – Visst, flagga övergreppsmaterial. Nordic Content Protection och Rättighetsalliansen – Upphovsrättsorganisationer, ingen är förvånad. Stöldskyddsföreningen – Rimligt. Läkemedelsverket – OK. Om vi nu skall ha några betrodda anmälare alls…

Däremot är risken för politisering uppenbar när det börjar gå upp för diverse särintressen att de kan ansöka om att bli nätcensorer. Här är det upp till den ansvariga myndigheten – Post- & Telestyrelsen (PTS) – att hålla emot när aktivister med en agenda ställer sig i kö. För det kommer de att göra.

Det skall även bli intresant att se hur detta kommer att genomföras i EU:s olika medlemsstater. Utrymmet för inskränkningar av yttrandefriheten är inte obetydligt.

• Bakgrund: Trusted Flaggers – EU:s nya nätcensur dekonstruerad »

EU: Ingen läser pappren

av

Att EU:s nya lagstiftning öppnar för censur av icke-olagliga yttranden online är ingen nyhet. Att det uppmärksammas först nu beror på att ingen läser eller förstår pappren när besluten fattas.

Plötsligt blev det ett väldigt hallå om EU:s Digital Services Act (DSA) och dess påverkan på yttrandefriheten online. Men dess glidningar om att stoppa »skadligt« men icke olagligt innehåll är ingen nyhet.

Problemet fanns där från början. Men ingen reagerade förrän det var för sent, förrän vi ställdes inför fullbordat faktum. Som det brukar vara med EU.

På denna blogg har vi skrivit om DSA i åratal, genom hela processen. Vilket har uppskattats av våra läsare – men inte fått något genomslag i övrigt.

I den mån media publicerat något över huvud taget har det varit copy-pastat från EU-kommissionens tillrättalagda pressmeddelanden. Någon kritisk granskning har inte förekommit.

Vänta bara tills det går upp för folk att DSA även ger oss statligt godkända nätcensorer – Trusted Flaggers (sv: betrodda anmälare) – som får en direktlina till sociala media för att rekommendera vilket innehåll som skall plockas bort. Utan föregående rättslig prövning.

Dessa Trusted Flaggers är tänkta att vara olika organisationer, branschföreträdare (som upphovsrättsindustrin), myndigheter och särintressen. Företrädare för kollektiva intressen, som det stod i den ursprungliga texten.

Vad kan möjligen gå fel? I Sverige kommer dessa Trusted Flaggers att sortera under Post- och Telestyrelsen (PTS) och i EU under en helt ny myndighet.

Förutom här på bloggen har denna fråga (vad vi vet) bara uppmärksammats av ett par svenska regeringstjänstemän – vars varningar viftades bort av det då ansvariga statsrådet Ygeman (S).

Att en åklagare på Malta kan beordra nedtagning av information om abort på en svensk site (trots att informationen inte är olaglig här) kan också komma som en överraskning för många. Trots att gränsöverskridande nedtagningsorder finns klart utskrivna i DSA.

Våra försök att ta upp dessa saker med ansvariga svenska ledamöter i Europaparlamentet har fullständigt ignorerats. Det är som om de tycker att det är viktigare att få sitt namn på ett prestigeladdat lagpaket än att se till att det blir rätt och rimligt.

Vilket inte förvånar mig. Jag har jobbat där, så jag vet. Nästan ingen läser pappren. (Mer än de stackars översättarna.)

Och i den mån någon ändå gör det tycks de sakna förmåga att se det problematiska i att till exempel begränsa yttrandefriheten, inskränka de grundläggande mänskliga rättigheterna och bryta mot rättsstatens grundläggande principer.

Det gäller inte bara DSA. Snart sagt vilket EU-dokument man än granskar kommer man att hitta galenskaper, felaktigheter och förutsägbara oönskade konsekvenser. Som passerar både utskott, ministerråd och den svenska riksdagens EU-nämnd utan att någon reagerar.

Man skulle kunna frestas att misstänka att de inte vet vad de sysslar med.

Lite skämtsamt sägs ibland att i EU börjar man med att besluta. Sedan tar man reda på fakta. Därefter debatterar man. Det är en beskrivning som ligger skrämmande nära verkligheten.

Vad är det Musk och EU bråkar om? Egentligen?

av

Elon Musk utmanar EU:s nya nätlagstiftning – som är på väg att öppna för censur av icke olagliga yttranden.

X ägare Elon Musk och EU-kommissionären Thierry Breton grälar på X och i media.

Musk hävdar att EU lovat att inte bråka med X om han går med på att censurera visst (lagligt) innehåll. Han hävdar också att Meta och Google har sådana överenskommelser med EU.

Det är mycket möjligt att så är fallet. I så fall är det en skandal. Men mer troligt är att det handlar om hur man tolkar EU:s nya nätlagstiftning. (Mer om det nedan).

Breton skickar arga brev till Musk / X. I det senaste, som skrevs med anledning av Musks livesamtal med Trump på X kräver han…

»…that all proportionate and effective mitigation measures are put in place regarding the amplification of harmful content in connection with relevant events…«

Här dyker nyckelbegreppet »harmful content« upp. Skadlig information. Men inte olaglig. Frågan är vad – exakt vad – det är EU vill att X skall göra. Tysta folk? Skuggbanna? På vilken laglig grund?

Blå bricka

På ett mer praktiskt plan klagar EU på X blå bricka. Förr fick media, politiker, kändisar och fint folk en VIP-bricka vid sitt namn som verifikation på att de var viktiga och äkta.

Detta har ersatts med ett system där alla som är villiga att betala får en blå bricka (med mera). Vilket i någon mån innebär att användaren är verifierad.

Detta togs inte väl emot av de som haft en VIP-bricka. Och EU menar att folk nu kan luras att tro att vanliga användare är viktiga människor.

Vilket känns som ett tunt case.

»Harmful content«

EU:s Digital Services Act (DSA) ger rätt och skyldighet att plocka ner olagligt innehåll på sociala plattformar och sökmotorer. Vad som i sammanhanget är olagligt bestäms av nationell lag och EU:s lagstiftning.

Samtidigt nämns skadligt innehåll (harmful content) vad gäller systemrisker i specialregler för de största sociala plattformarna och sökmotorerna.

Dessa förväntas inventera och åtgärda systemrisker vad gäller skadligt innehåll, som till exempel desinformation.

Notera att DSA inte kan tvinga plattformarna att plocka ner annat än olagligt material – men att de samtidigt förväntas vidta åtgärder mot skadligt innehåll.

På samma sätt förväntas de största sökmotorerna på eget initiativ moderera sina sökresultat utifrån vad någon anser vara skadligt. Så begränsar EU yttrandefriheten genom ombud.

Exakt var detta landar får vi nog inte veta förrän saken avgjorts av EU-domstolen någon gång i framtiden. Det är en gummiparagraf som kan hänga samman med Musks gräl med EU om censur (ovan).

Nedtagningsorder

Sedan bör man notera att vad som är olagligt i EU:s olika medlemsstater skiljer sig åt. Till exempel är abort förbjuden på Malta och nästan helt förbjuden i Polen.

Således kan information om abort online censureras med hänvisning till DSA. Och det drabbar då oftast hela EU eftersom internet, sökmotorer och sociala media inte känner några nationsgränser.

DSA öppnar även för gränsöverskridande nedtagningsorder, även om den information som skall censureras inte är olaglig i det land där servern står.

Dessutom skall man hålla i minnet att EU planerar att göra »hat« till ett EU-brott i klass med terrorism och vapensmuggling. Vilket kan öppna för att mer innehåll klassas som olagligt på subjektiva grunder.

Att DSA »bara« ger utrymme för att censurera olagligt innehåll är en klen tröst om lagstiftarna ständigt gör fler och nya saker olagliga.

Nästan vad som helst kan göras olagligt, i god demokratisk ordning. Det är bara en fråga om politisk vilja och dagsform.

Låt oss slutligen påminna om vad Europakonventionen om de mänskliga rättigheterna och EU:s människorättsstadga har att säga om yttrandefriheten:

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser.«

• A guide to the Digital Services Act, the EU’s new law to rein in Big Tech »
• The EU Digital Services Act (DSA): everything you need to know »

• EU vill jämställa ”näthat” med terrorism »

Så hotas yttrandefriheten i EU

av

EU vill jämställa hat med terrorism. Men ännu har vi inte fått veta vilka yttranden det är man vill förbjuda. Och i Sverige får vi statligt godkända nätcensorer.

Australien, Kanada, Irland, Skottland… Det är som att en våg av inskränkningar av det fria ordet rullar fram över västvärlden.

I dagarna har den tyska regeringen förbjudit en tidning med tillhörande Youtube-kanal som enligt uppgift är allt för högerextrem.

Nu är ju Tyskland en smula speciellt – men man kan reagera på att stängningen inte är resultatet av ett domstolsutslag, utan av ett regeringsbeslut.

Annorlunda uttryckt: Personer av en politisk åskådning använder sin makt för att inskränka yttrandefriheten för personer med en annan politisk åskådning.

Det är lätt att se hur ett sådant mandat kan missbrukas för att tysta obekväma röster.

Beslutet har fattats av den tyska inrikesministern Nancy Faeser (SPD), som tidigare gjort sig känd för uttalandet om att »Den som hånar staten kommer att få med den starka staten att göra.« Som i gamla DDR.

Överallt finns det folk som gärna skulle vilja tysta andra, om de kunde.

Därför är det oroväckande att man nu tänker göra hat och hot till »EU-brott« av samma dignitet som till exempel terrorism och vapensmuggling.

Speciellt som man än så länge inte preciserat vilka yttranden det är man vill förbjuda.

Enda ledtråden är att Europaparlamentet uttalat att vad som skall anses utgöra hat »must not be limited only to certain grounds or motivations«. Vilket låter oroväckande.

Man efterlyser även en »holistisk respons« och en »multidimensionell approach«. Vad kan möjligen gå fel?

Vad allt detta betyder – vilka yttranden man vill förbjuda – lär vi få reda på nu efter EU-valet, när det är för sent för medborgarna att reagera med sin röst.

Det hela är en del i ett större pussel. Under förra mandatperioden antog EU sin nya Digital Services Act (DSA). Den föreskriver bland annat Trusted Flaggers (sv: betrodda anmälare).

Detta är nätgranskare som godkänts av staten och som får en direktlina till sociala media för att rekommendera vilket innehåll som bör plockas bort.

De skall vara olika organisationer och särintressen (i ursprungstexten talas om företrädare för »kollektiva intressen«) som alla lär ha en agenda.

I Sverige kommer systemet med med dessa nätcensorer att hanteras av Post- och Telestyrelsen (PTS). Räkna med att det finns villiga kandidater.

Det är ett faktum att yttrandefriheten nu inskränks. Risken är uppenbar att man i denna process kommer att gå bortom vad som är acceptabelt i en demokratisk rättsstat.

Europakonventionen om de mänskliga rättigheterna och EU:s egen rättighetsstadga säger:

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser.«

I sammanhanget kan det även vara på sin plats att påminna om den svenska grundlagen, Regeringsformen 2:1:

»Var och en är gentemot det allmänna tillförsäkrad
1. yttrandefrihet: frihet att i tal, skrift eller bild eller på annat sätt meddela upplysningar samt uttrycka tankar, åsikter och känslor,
2. informationsfrihet: frihet att inhämta och ta emot upplysningar samt att i övrigt ta del av andras yttranden, (…)«

Som vi brukar påpeka är de grundläggande mänskliga rättigheternas uppgift att skydda individen mot övergrepp från staten. Därför är det oroande när staten vill inskränka dem.