Femte juli

Nätet till folket!

Sociala media

Detta är kategorin för nyheter och bloggposter som rör sociala media - samt deras relation till sina användare.

Kan EU bestämma över X och Meta?

av

EU-politiker vill använda EU:s nya Digital Services Act för att hejda X:s och Metas mer liberala tolkning av yttrandefriheten. Men det är oklart om någon sådan formell möjlighet finns. Däremot öppnas för informella påtryckningar och sanktioner.

Den senaste tiden har politiker hotat med EU:s nya Digital Services Act (DSA) till exempel när Elon Musk samtalat med Donald Trump och tyska AfD:s Alice Weidel på X.

Man har också mullrat mot Meta, efter att Mark Zuckerberg meddelat att man lättar på censuren och ersätter sina externa faktagranskare med community notes.

Trots allt buller kan DSA – formellt sett – endast användas för att avlägsna olagligt innehåll.

Men det finns problem om man ser till vad som de facto är olagligt. Till exempel kan nämnas att hädelse och information om eller främjande av abort är olaglig i vissa EU-länder. Det är inte som att det saknas orimliga lagar i EU:s medlemsstater.

EU är dessutom på väg att göra »hat« till ett EU-brott (som till exempel terrorism och vapensmuggling). Det vi ser nu är en del i en större helhet.

DSA är långt ifrån en kristallklar lagstiftning. Mycket stora onlineplattformar och mycket stora onlinesökmotorer förväntas identifiera, analysera och bedöma alla eventuella systemrisker i unionen som härrör från tjänsten. Vilket kan betyda lite vad som helst.

Utifrån detta skall man sedan införa rimliga, proportionella och effektiva riskbegränsningsåtgärder.

Ett sätt för EU att mygla med detta – som tillämpats under lång tid, redan innan DSA – är att politiken utsätter sociala media för påtryckningar, som syftar till att använda plattformarnas användarvillkor för att begränsa yttranden som vore allt för känsliga att förbjuda genom lag.

Strikt formellt sett kan det dock vara svårt för EU att använda DSA för att hindra Meta från att göra sig av med sina externa faktagranskare. Å andra sidan kan det bli en rättslig fråga huruvida community notes kan anses utgöra rimliga, proportionella och effektiva riskbegränsningsåtgärder.

Ser man till EU:s reaktioner på Musks samtal med Trump och Weidel (AfD) på X är det ett gungfly. Formellt sett har inget olagligt skett. Men det saknas inte röster som ser dem som systemhotande. Samtalet med Weidel granskades enligt uppgift av 150 EU-tjänstemän i jakt på något som stider mot DSA. Och i Tyskland finns vill tunga aktörer helt förbjuda AfD.

Här skall även nämnas att EU givit sig självt rätt att utfärda gigantiska böter för den som anses bryta mot DSA. (6% av den globala årsomsättningen.)

Vad finns det då för spärrar mot att använda DSA som verktyg för censur?

Artikel 10 i Europakonventionen om de mänskliga rättigheterna och artikel 11 i EU:s människorättsstadga (som är en del av EU:s fördrag) säger:

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser. Denna artikel hindrar inte en stat att kräva tillstånd för radio-, televisions- eller biografföretag.«

Notera särskilt avsnittet »utan offentlig myndighets inblandning«. Men denna rätt är inte absolut. I Europakonventionen 10:2 kommer undantagen:

»Eftersom utövandet av de nämnda friheterna medför ansvar och skyldigheter, får det underkastas sådana formföreskrifter, villkor, inskränkningar eller straffpåföljder som är föreskrivna i lag och som i ett demokratiskt samhälle är nödvändiga med hänsyn till den nationella säkerheten, den territoriella integriteten eller den allmänna säkerheten, till förebyggande av oordning eller brott, till skydd för hälsa eller moral, till skydd för annans goda namn och rykte eller rättigheter, för att förhindra att förtroliga underrättelser sprids eller för att upprätthålla domstolarnas auktoritet och opartiskhet.«

Vilket är en rätt omfattande brasklapp. Det är lätt att se hur EU kan komma att försöka klämma in rätt mycket under dessa undantag.

Därmed kan både fallen med X och Meta bli rena tolkningsfrågor. Dock har EU-domstolen (om frågan går dit) en tendens att sätta huvudregeln före undantagen. (Se domen som upphävde EU:s datralagringsdirektiv.) Men man kan aldrig säkert veta.

Möjligen kan även den amerikanska uppfattningen att DSA (m.m.) utgör handelshinder ha en avhållande effekt vad gäller att driva frågan till sin spets.

Sammanfattningsvis: DSA ger EU rätt att censurera olagligt innehåll. Det är inte alls uppenbart att varesig de frågor som nu rör X eller Meta bryter mot förordningen. Däremot ger DSA utrymme för både EU och medlemsstater att indirekt lägga sig i vad som publiceras – speciellt inom ramen för specialreglerna för stora aktörer. Och att utfärda gigantiska böter.

Panik i censurfabriken

av

Många är upprörda över att Meta skall sluta med externa faktagranskare. Vad det egentligen handlar om är att man vill kunna censurera information som INTE är olaglig.

Plötsligt fick vi en debatt om yttrandefriheten på nätet. Det var på tiden.

Meta slutar nu använda externa faktagranskare i USA. Man har även flaggat för att göra samma sak i EU.

En riskanalys kring konsekvenserna av detta är inlämnad till EU-kommissionen i enlighet med EU:s Digital Services Act (DSA). Sedan skall kommissionen yttra sig. Den lär ha invändningar.

Förändringarna har vållat uppståndelse och upprördhet. Nyss – när folk klagade på censuren hos Facebook & Co – hävdades att de sociala medieföretagen är privata och därför får göra som de vill.

Nu – när Meta släpper på censuren – är budskapet att dessa privata företag inte alls skall få göra som de vill, utan att de måste kontrollera och styra vilka åsikter folket får uttrycka.

Att ersätta de externa faktagranskarna med »community notes« (som på X) bör fungera. Är det något internet är bra på, då är det att slå ner på felaktigheter.

Crowdsourcad faktagranskning blir rimligen både omfattande och allsidig. Mer så än vad någon extern faktagranskare kan erbjuda.

En del politiker och skribenter har dock uttryckt sin irritation över community notes som sådana. Och det är naturligtvis jobbigt när folk ifrågasätter och lägger sig i.

Den moderata ledamoten av Europaparlamentet, Arba Kokalari, har varit en av nyckelpersonerna bakom DSA. Till Sveriges Radio säger hon så här om Metas slopade externa fakta-granskare…

»Det är en farlig väg att gå om Facebook och Instagram skulle bli en fristad för kriminella extremister och terrorister. Och jag kommer inte acceptera att de för den typen av politik också i Europa. I Europa har vi tydliga lagar där olagligt innehåll och desinformation måste tas ner av Facebook och Instagram. Och vägrar de göra det då kommer det komma konsekvenser.«

Till att börja med är detta en halmgubbe. Ingen har sagt något annat än att olagligt innehåll skall plockas bort. Ingen.

Kokalari bör även vara medveten om att Meta kommer att behålla sina interna innehålls-moderatorer och analysverktyg, vars uppgift bland annat är att stoppa kriminalitet och terrorism.

Vad det nu handlar om är externa granskare som kritiserats för politisk slagsida (speciellt i USA) och för att driva en egen agenda. En censur som enligt Mark Zuckerberg gått för långt.

Politiken vill kunna stoppa oönskad laglig information på sociala media. Vilket skapar något slags privatiserad åsiktspolis i ett forum där användaren i princip är rättslös.

En gång i tiden stod Kokalaris parti – Moderaterna – upp för yttrandefriheten. Idag ser de det fria ordet som ett problem. Idag är de för censur.

I DSA föreskrivs bland annat Trusted Flaggers, det vill säga statligt godkända faktagranskare som skall rekommendera vad som skall plockas bort på sociala media. Vilket Kokalari lyft som något bra, men varit ovillig att diskutera.

Nu skall tilläggas att även de andra partierna (utom SD) är medskyldiga till DSA. Men som EPP-gruppens rapportör om DSA i Europaparlamentet har Kokalari ett direkt ansvar.

Låt oss nu (med risk för att tjata) se till vad de grundläggande mänskliga rättigheterna har att säga. Ur Europakonventionen…

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser.«

Nyckelformuleringen är »frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning«. Trusted Flaggers går över den röda linjen. Politiska påbud om externa innehållsmoderatorer lika så. EU skall hålla fingrarna borta.

Möjligen kan hela EU:s Digital Services Act strida mot vad de mänskliga rättigheterna har att säga om yttrandefriheten. Att dränka sociala media i politiskt skapad, massiv byråkrati relaterad till vad som får sägas och skrivas är helt klart »offentlig myndighets inblandning«.

Zuckerbergs uppvaknande verkar vara när den politiska administrationen i USA direkt lade sig i vad som får sägas och icke sägas på nätet. Även om han just då snällt gjorde som han blev tillsagd.

Men nu blir det alltså ändring. Kan man ersätta externa faktagranskare med fungerande community notes och lite AI lär man dessutom spara pengar. Och få en bättre granskning.

EU kommer garanterat att bråka om att Meta vill avskaffa sina externa faktagranskare, då detta kolliderar med DSA:s ambitioner. EU har även givit sig själv rätt att utkräva astronomiska böter om sociala media inte gör som de blir tillsagda.

I sammanhanget bör man betänka att till exempel Facebook är ett amerikanskt företag, som inte får göra sig till verktyg för den amerikanska statens försök att inskränka yttrandefriheten. Man har precis kastat av dig det oket.

Nu kräver alltså EU att Facebook istället underkastar sig unionens mycket snävare regler för vad som får uttryckas. Vilket i så fall även drabbar amerikaner och alla andra i världen. Det känns inte rimligt.

EU är inte bara ett hinder för fri information och fri debatt. Vår lagstiftning hindrar utveckkling och framåtskridande. Eller för att citera Mark Zuckerberg:

»Europe has an ever-increasing number of laws, institutionalizing censorship, and making it difficult to build anything innovative there.«

Meta tar strid mot EU om censur

av

Tillsammans med den nya amerikanska administrationen kommer Meta att ta strid mot länder som kräver censur i sociala media utöver vad som är olagligt. Man nämner särskilt EU. Meta ersätter även sina faktagranskare med »community notes«, där användare kan påpeka när något är fel.

Meta gör sig av med externa faktagranskare för sina sociala media (Facebook, Instagram och Threads). Istället kommer man att göra som X (Twitter) och satsa på »community notes« där användarna själva får möjlighet att påpeka felaktigheter.

Detta var en av nyheterna i en video som Metas VD Mark Zuckerberg publicerade idag. Här är det viktigaste, i punktform:

  • Metas innehållsmoderering har nått en punkt där för många misstag begås.
  • Meta tänker förenkla sin innehållspolicy och återupprätta yttrandefriheten på sina plattformar.
  • Externa faktagranskare kommer att ersättas med »community notes« där användarna påtalar sakfel.
  • Metas faktagranskare har varit politiskt vinklade och skadat förtroendet för Meta.
  • Man kommer att lätta på censuren vad gäller ämnen som invandring och kön.
  • Istället för att låta sina automatiska filter söka efter all slags brott mot företagets policy kommer man att fokusera på olagligt innehåll och grova övertramp.
  • I lindrigare fall kommer man inte att vidta åtgärder med mindre än att en postning anmäls.
  • Man kommer att bli mer positiva till politiskt innehåll (som under en tid prioriterats ner).
  • Man flyttar sina team för innehållsmoderering och »Trust and Safety« från Kalifornien till Texas. Detta hoppas man kan minska misstankarna om politisk censur.
  • Meta kommer att samarbeta med President Trump för att slå tillbaka mot regeringar runt om i världen som ger sig på amerikanska sociala media för att få dem att censurera. Speciellt nämner Zuckerberg EU, Latinamerika och Kina.
  • Man vill återvända till sina rötter vad gäller att erbjuda människor en plattform för att göra sina röster hörda.

Ett citat »Europe has an ever increasing number of laws institutionalizing censorship and making it difficult to build anything innovative there.«

Detta kommer inte att tas emot väl av EU och speciellt inte av EU-kommissionen.

De aviserade ändringarna är närmast en krigsförklaring mot EU:s Digital Services Act – som kräver att stora plattformar inte bara skall ta bort olagligt innehåll utan även motverka icke-olagliga men olämpliga eller skadliga yttranden.

Meta gör förändringarna med den nya amerikanska administrationens stöd. Vilket innebär att EU måste tänka efter innan man ger sig på amerikanska sociala media. Den transatlantiska relationen kommer ändå att utsättas för nog med prövningar de närmaste åren.

På det hela taget är Metas utspel välkommet. Man stärker yttrandefriheten och drar gränsen vid sådant som är olagligt eller grovt överträder användarvillkoren.

Vilket känns rimligt.

Räkna dock med många och upprörda kommentarer från aktörer som tycker något annat. Speciellt från EU och traditionell media.

EU:s nya demokratisköld tycks mest bestå av byråkrati

av

EU-kommissionen har aviserat en demokratisköld som skall skydda oss mot desinformation, påverkansoperationer och hybrid-angrepp. Men än så länge verkar det mest vara en ordsallad.

En av den nya EU-kommissionens prioriterade uppgifter är att sätta upp en »European Democracy Shield«. Syftet är att bekämpa desinformation, missinformation, hybrid-attacker påverkansoprationer från främmande makt med mera.

Det är möjligt att det behövs. Det är svårt att skaffa sig en bild av hur omfattande problemet är. Men låt oss anta att det finns ett verkligt hot och ett verkligt behov av gemensamt försvar.

I så fall bör det vara ett högklassigt försvar. För att försöka förstå frågan har jag läst Europaparlamentets briefing paper »Information integrity online and the European democracy shield«.

Det första som slår mig är att detta är del i något större. Europaparlamentets papper tar upp aktiva aktörer som FN, OECD, UNDP, the Alliance for Securing Democracy, Marshall-fonden, ungefär 500 NGO:er, allehanda amerikanska myndigheter – och EU, då speciellt dess utrikestjänst European External Action Service med både en speciell Task Force och ett Rapid Alert System.

Dokumentet innehåller väldigt mycket euro gibberish. Många buzz words, men mindre om vad man konkret vill göra. Vilket som regel är ett dåligt tecken. Ur briefen:

»The concept of information integrity is not a fixed analytical framework, and still lacks a clear definition… (…) Nevertheless, this evolving concept could offer a positive framework within which the EU can further expand its push to support healthy and sustainable information ecosystems – as a key pillar of the future European democracy shield – within and beyond the EU.«

Man tänker alltså ta något som man själv säger saknar ramverk eller ens definition… som modell för… hållbara ekosystem på informationsområdet i och utanför EU. Det låter snarare som ett argument för utökad byråkrati än ett effektivt försvar mot hybridattacker.

På det hela taget känns det som att EU vill att vi skall skydda oss mot digitala fiender med en sköld av byråkrati.

EU-kommissionen vill koordinera, boosta, enforca, promota och stämma av mot hållbarhetsmål. Men vi får aldrig riktigt veta hur.

På sidan åtta fångar en annan sak min uppmärksamhet:

»The enforcement of the EU’s digital regulations, for example, is arguably the strongest step ever to be taken at governmental level to hold online platforms accountable. However, the bolstering of the relevant acts, which will be a focus of the new Commission, could face challenges from the new Trump administration and its close ties with parts of the tech industry. This could bring the underlying friction between the rights-driven EU approach to digital regulation and the US market-driven model to the fore.«

Framförallt lär det vara EU:s Digital Services Act och dess skrivningar om att stora plattformar skall hålla efter olämpligt men icke olagligt innehåll som skaver.

Trump (och Musk) lär ha svårt att acceptera att amerikanska företag förväntas begränsa yttandefriheten globalt vad gäller innehåll som inte ens är olagligt.

Enligt uppgift skall Trump även ha sagt att USA:s engagemang i NATO och stödet till Ukraina kan påverkas av hur EU behandlar amerikanska företag under sina nya internetlagar.

Slutligen – hur man än vänder och vrider på frågan förutsätter EU:s nya »demokratisköld« att det finns någon instans som bestämmer vad som är rätt och fel, sant eller osant. Frågan är vilken denna instans skall vara och exakt vad det är den förväntas åstadkomma. Många lär känna sig kallade.

Vad, vem och hur är frågor som politiska förslag allt för sällan besvarar.

Denna text skall inte ses som kritik mot att vi gör något för att försvara oss mot illvilliga krafter i den digitala världen. Snarare är min farhåga att allt kommer att drunkna i eurokrati och institutionell dumhet. Samt att det finns stort utrymme för subjektivitet hos den som skall avgöra vad som i sammanhanget är problematiskt.

• Europaparlamentet: Information integrity online and the European democracy shield »

Socialdemokraterna och internet

av

I sitt förslag till nytt partiprogram vill Socialdemokraterna se politisk kontroll av de sociala plattformarna och deras algoritmer. Så att det blir rätt.

Socialdemokraterna har lagt fram ett förslag till nytt partiprogram. Denna gång finns en del intressanta saker om internet.

Den större bilden är att S ser internet som ett problem. Under rubriken »Demokratin urholkas« (sid. 12) kan vi läsa följande:

»I slutet på 1900-talet rådde stor optimism över den digitala kommunikationens ökade möjligheter att vidga människors vyer. Resultatet har ofta blivit det motsatta, när människor fastnat i alltmer felaktiga bilder av verkligheten. Självregleringen av dessa digitala plattformar har brustit. De har alltför ofta blivit kanaler för aktörer som förmedlat desinformation, påverkat val, spridit hat, radikaliserat och skadat det demokratiska samtalet. (…)«

Att S ogillar internet är ingen nyhet. Det har talats om att införa åldersgränser och man har gått till angrepp mot och misstänkliggjort debattörer på nätet som inte delar partiets åsikter och visioner. Kritik avfärdas inte sällan som hat, när argumenten tryter.

Vad som är en korrekt respektive felaktig bild av verkligheten kan – i vart fall i delar – debatteras. Uppenbart är dock att partiet vill ge sig självt tolkningsföreträde.

Detta är förvisso inte något som är unikt för S. Politiker i allmänhet ogillar att folk käftar emot och lägger sig i. Särskilt när sådana röster kan nå en stor publik på nätet.

Att fakta lätt kan kontrolleras med ett par knapptryckningar är också ett störningsmoment för våra politiker. Speciellt för dem som sätter dogmer och utopiska projekt före verkliga förhållanden.

Åter till texten kan man fundera över formuleringen om aktörer som påverkar val. Det kan förvisso stämma att det är ett problem om till exempel främmande makt försöker påverka våra allmänna val eller destabilisera vårt samhälle.

Men att det finns »aktörer« som försöker påverka den politiska debatten kan knappast avfärdas som ett problem med svepande formuleringar.

Till exempel gör vi på denna blogg allt vi kan för att påverka nätpolitiken, försvara rätten till privatliv och yttrandefrihet samt stå upp för nätets och dess användares frihet. Ofta i strid med politiker i allmänhet och S i synnerhet. (Se t.ex. Chat Control 2.)

Är det ett problem i S värld?

Man kan även diskutera huruvida det faktum att fler röster nu kan göra sig hörda har gynnat eller »skadat det demokratiska samtalet«.

Att det sedan finns rövhattar som inte kan bete sig som folk på nätet – precis som i samhället i övrigt – är något som man inte kommer åt genom att begränsa yttrandefriheten. Snarare fungerar inskränkningar i det fria ordet som en tryckkokare, om människor inte kan få utlopp för sin oro och frustration.

Vi hoppar vidare till avsnittet »Samhällsgemenskapen har urholkats« och sidan 13.

»Den bristande demokratiska kontrollen över digitala sociala plattformar har gjort det möjligt för algoritmer att styra vilka budskap som människor nås av. I kombination med minskade resurser för journalistik, ökad digitalisering och växande mängder desinformation har människors bild av vad som sker i världen blivit alltmer splittrad och ibland helt skild från sanningen. Många som tillbringar stor tid på sociala medier har mötts av normer om ökad konsumtion och egen framgång, snarare än om solidaritet och samhällsgemenskap.«

Här är frågan hur man vill öka den »demokratiska kontrollen« över sociala media och över algoritmerna. Hur man än vänder och vrider på formuleringen landar det i att man vill flytta makten över dem till politiken.

Du som följer denna blogg vet att politisk makt över internet inte alltid är ett helt lyckat koncept. Speciellt när politikerna inte begriper vad de lagstiftar om.

Det känns som att S drabbats av något slags nostalgi över en tid när informationen låg i gammelmedias händer och då dessa snällt copy-pastade och spred partiernas pressmeddelanden.

Man får även intrycket att S är frustrerade över att de själva inte lyckas nå samma framgång på nätet som andra aktörer.

Att människor idag vet oerhört mycket mer om vad som sker i världen än i det informationslandskap som förr kontrollerades av etermediemonopolet och en handfull dagstidningar är rimligen en bra sak. Men sådant kan vara svårt att diskutera med ett parti som historiskt velat hindra folk från att ta del av utländsk media.

Det nya partiprogrammets skrivningar om internet känns väldigt svepande och oprecisa. Det vore som sagt intressant att få veta exakt hur man tänkt göra verklighet av sina ord.

Vilka lagar vill man ändra och hur? Vem skall bestämma vad som skall få uttryckas eller ej? Hur har man tänkt underställa algoritmerna politisk kontroll?

Den fientliga inställningen till internet är inget som är unikt för S. I EU har alla partier och svenska regeringar av olika färg gjort sitt för att överreglera internet och skrämma bort IT-företag från Europa.

Men nu har S lagt fram sina förslag och det vore oerhört intressant att få till en diskussion om dem. Men känner vi våra politiker rätt är det mer troligt att det blir locket på.

Nya EU-kommissionen och internet

av

Den nya EU-kommissionen kommer att ha fullt upp med att reglera internet, övervaka medborgarna och skrämma bort IT-investeringar från Europa.

Idag har Europaparlamentet godkänt den nya EU-kommissionen. Här är några frågor på dess bord som rör internet under mandatperioden.

Datalagring

2014 upphävde EU-domstolen EU:s direktiv om datalagring (lagring av metadata om allas telefonsamtal, SMS, e-post-meddelanden, uppkopplingar, mobilpositioner m.m.).

Detta med hänvisning till de grundläggande mänskliga rättigheterna och vad de har att säga om rätten till privatliv och privat korrespondens. Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Nu diskuteras ett nytt datalagringsdirektiv i EU, som är tänkt att försöka kringgå EU-domstolens beslut. Precis som i Sverige vill man även komma åt de olika meddelandetjänsterna. Speciellt de totalsträckskrypterade.

Ännu finns inget konkret på bordet, men det kommer. Gissningsvis rätt tidigt under mandatperioden då det tar åratal att få igenom ett nytt direktiv. Det skulle inte förvåna om förslaget redan ligger klart och väntar på tillträdande kommissionär Brunners skrivbord.

Chat Control 2 / CSAR

Den nya EU-kommissionen står fast vid Ylva Johanssons ursprungliga förslag om att låta AI granska innehållet i folks elektroniska kommunikationer (och molntjänster m.m.).

Om ministerrådet kommer fram till en position går frågan in i trilog-förhandlingar mellan EU-kommissionen, ministerrådet (client-side-scanning) och Europaparlamentet (som säger nej till Chat Control 2 i dess bärande delar).

Vilket med största sannolikhet kommer att landa i någon form av ja till förslaget. Om inte parlamentet upplever ett yttre tryck som får det att inse att ett hårdnackat nej ligger i dess intresse.

The Digital Services Act (DSA)

Den utgående EU-kommissionen lämnar efter sig frågan om hur det är tänkt att stora sociala media skall stoppa innehåll som man ogillar – men som inte är olagligt.

I en rättsstat bör det – i förväg – tydligt framgå vad som är tillåtet att säga eller ej. Det som inte uttryckligen är förbjudet måste vara tillåtet.

Det blir även upp till den nya kommissionen att se till att DSA:s krav på nätcensorer – Trusted Flaggers / betrodda anmälare) uppfylls. Riken är uppenbar att olika särintressen och intressegrupper kan komma att se en sådan roll för sig själva som ett verktyg för att kunna styra vad som sägs på nätet.

Hat & hot blir EU-brott

Kommissionen och parlamentet (inklusive alla svenska partier i Europaparlamsentet utom SD) driver på för att göra hat och hot till ett »EU-brott« i klass med terrorism och vapensmuggling.

Än så länge finns bara pladdriga policypapper och resolutioner som inte närmare berör vad det är som skall bli förbjudet att säga, skriva och posta. Men nu måste man bli mer konkreta.

Vad gäller »hat« är utrymmet för subjektiva bedömningar stort. Givet EU:s återkommande gräl med sociala media i allmänhet och X i synnerhet är det uppenbart att detta är en fråga som kommer att beröra yttrandefriheten på internet.

Vi följer denna dossier och återkommer när det händer något av betydelse.

Going Dark

Kommissionen, medlemsstaterna och Europol håller (vid sidan av Chat Control 2) på med ett projekt för att komma åt totalsträckskrypterad kommunikation, Going Dark.

Det finns dock redan en lösning, även om den har sina brister: Hemlig dataavläsning. Det vill säga spionprogram (client-side-scanning) på misstänktas telefoner och datorer som registrerar allt som sker på och kring enheten.

Dock drar frågan åt att man vill ha en generell möjlighet att komma åt krypterade meddelanden. Vilket kan kasta ett visst ljus över ministerrådets senaste förslag om client-side-scanning på allas telefoner och datorer som en del av Chat Control 2.

Nu återstår att se vad som kommer ut ur Going Dark-projektet. Blir det några förslag från kommissionen? Eller är detta något som medlemsstaterna kommer att hantera synkroniserat på nationell nivå?

EU, internet och världen

EU har en allt mer omfattande reglering vad gäller internet. Regler som den nya kommissionen har att upprätthålla – även om de driver IT-entreprenörer ut ur EU.

Chat Control 2 har föranlett meddelandetjänster som Signal att hota om att inte längre tillhandahålla sina tjänster i EU. Nya aktörer på meddelande-marknaden kommer att tvingas bygga in spion-moduler från början, vilket kommer att avskräcka nya aktörer som respekterar sina användares integritet.

GDPR gav oss inte bara cockie-eländet utan begränsade även EU-medborgares tillgång till en del utländska siter, bland annat utländsk media. Denna reglering gav dessutom våra företag en ny, kostsam byråkratisk börda.

EU:s nya AI-lagstiftning har än så länge medfört att Apple inte släpper alla sina AI-funktioner på mobiler i EU. Fler oönskade konsekvenser lär följa. Och investeringarna i AI kommer att ske i andra delar av världen.

The Digital Services Act har hamnat på kollissionskurs med yttrandefriheten. Den påbjuder även en omfattande byråkrati för stora sociala plattformar – vilket är en garanti för att startups som saknar Metas och Alphabets resurser och kår av jurister aldrig kommer att kunna etablera sig eller växa sig stora på markanden.

Detta drabbar inta bara oss i EU. Internet känner inga gränser. Om till exempel Chat Control 2 leder till bakdörrar till (än så länge) toitalsträckskrypterde meddelanden kommer sådana även att kunna utnyttjas av regimer i skurkstater för att förtrycka sin befolkning och opposition.

EU:s självbild är att man är »väldsledande« vad gäller att sätta en standard för reglering av IT. Det är inte helt säkert att det är en bra sak.

Detta var bara några exempel på vad som är i görningen. Följ oss för att hålla dig uppdaterad.

Möt de nya statligt godkända nätcensorerna

av

Trusted Flaggers – nätcensorer med en agenda eller allmänhetens tjänare? Nu är de här.

EU:s Digital Services Act (DSA) föreskriver att medlemsstaterna skaffar sig nätcensorer – Trusted Flaggers eller betrodda anmälare som de kallas på svenska.

Dessa skall ha en direktlina till sociala media. De kan föreslå men inte kräva att olagligt innehåll tas bort.

Redan i direktivets inledning kan vi läsa att Trusted Flaggers även skall hjälpa till med att identifiera information som är oförenlig med respektive socialt nätverks användarvillkor. Det vill säga även hålla efter innehåll som oftast inte är olagligt.

Statligt godkända nätcensorer skall alltså kunna rekommendera att innehåll som inte är olagligt (men strider mot plattformens användarvillkor) skall avlägsnas från internet. Har man verkligen tänkt igenom rollfördelningen här?

Men även om det endast skulle handla om att flagga uppenbart olagligt innehåll uppstår ett problem.

En statligt godkänd aktör – en Trusted Flagger – ges rätt att uppmana sociala media att censurera innehåll utan föregående rättslig prövning. Det är inte bra. Innan någon alls censurerar något på statens eller dess funktionärers order, måste man ju först fastställa om det som är tänkt att censureras är lagligt eller ej.

Längre in i texten (recital 58 & artikel 27) kan vi läsa att Trusted Flaggers även skall medverka vid analys av systemrisker; att de skall ha ett utökat samarbete med sociala media; att de skall medverka vid utbildning för sociala plattformar samt att de skall bidra till utformning av uppförandekoder.

Så mandatet kan bli väldigt brett.

I Tyskland är det hallå efter att landets första Trusted Flagger har utsetts. Det visar sig vara en offentligfinansierad verksamhet som ägnar sig åt att anmäla hat på nätet. Och som anklagas för att ha politisk slagsida.

Sverige har jämfört med detta någorlunda rimliga Trusted Flaggers på gång. ECPAT – Visst, flagga övergreppsmaterial. Nordic Content Protection och Rättighetsalliansen – Upphovsrättsorganisationer, ingen är förvånad. Stöldskyddsföreningen – Rimligt. Läkemedelsverket – OK. Om vi nu skall ha några betrodda anmälare alls…

Däremot är risken för politisering uppenbar när det börjar gå upp för diverse särintressen att de kan ansöka om att bli nätcensorer. Här är det upp till den ansvariga myndigheten – Post- & Telestyrelsen (PTS) – att hålla emot när aktivister med en agenda ställer sig i kö. För det kommer de att göra.

Det skall även bli intresant att se hur detta kommer att genomföras i EU:s olika medlemsstater. Utrymmet för inskränkningar av yttrandefriheten är inte obetydligt.

• Bakgrund: Trusted Flaggers – EU:s nya nätcensur dekonstruerad »

Vad är det Musk och EU bråkar om? Egentligen?

av

Elon Musk utmanar EU:s nya nätlagstiftning – som är på väg att öppna för censur av icke olagliga yttranden.

X ägare Elon Musk och EU-kommissionären Thierry Breton grälar på X och i media.

Musk hävdar att EU lovat att inte bråka med X om han går med på att censurera visst (lagligt) innehåll. Han hävdar också att Meta och Google har sådana överenskommelser med EU.

Det är mycket möjligt att så är fallet. I så fall är det en skandal. Men mer troligt är att det handlar om hur man tolkar EU:s nya nätlagstiftning. (Mer om det nedan).

Breton skickar arga brev till Musk / X. I det senaste, som skrevs med anledning av Musks livesamtal med Trump på X kräver han…

»…that all proportionate and effective mitigation measures are put in place regarding the amplification of harmful content in connection with relevant events…«

Här dyker nyckelbegreppet »harmful content« upp. Skadlig information. Men inte olaglig. Frågan är vad – exakt vad – det är EU vill att X skall göra. Tysta folk? Skuggbanna? På vilken laglig grund?

Blå bricka

På ett mer praktiskt plan klagar EU på X blå bricka. Förr fick media, politiker, kändisar och fint folk en VIP-bricka vid sitt namn som verifikation på att de var viktiga och äkta.

Detta har ersatts med ett system där alla som är villiga att betala får en blå bricka (med mera). Vilket i någon mån innebär att användaren är verifierad.

Detta togs inte väl emot av de som haft en VIP-bricka. Och EU menar att folk nu kan luras att tro att vanliga användare är viktiga människor.

Vilket känns som ett tunt case.

»Harmful content«

EU:s Digital Services Act (DSA) ger rätt och skyldighet att plocka ner olagligt innehåll på sociala plattformar och sökmotorer. Vad som i sammanhanget är olagligt bestäms av nationell lag och EU:s lagstiftning.

Samtidigt nämns skadligt innehåll (harmful content) vad gäller systemrisker i specialregler för de största sociala plattformarna och sökmotorerna.

Dessa förväntas inventera och åtgärda systemrisker vad gäller skadligt innehåll, som till exempel desinformation.

Notera att DSA inte kan tvinga plattformarna att plocka ner annat än olagligt material – men att de samtidigt förväntas vidta åtgärder mot skadligt innehåll.

På samma sätt förväntas de största sökmotorerna på eget initiativ moderera sina sökresultat utifrån vad någon anser vara skadligt. Så begränsar EU yttrandefriheten genom ombud.

Exakt var detta landar får vi nog inte veta förrän saken avgjorts av EU-domstolen någon gång i framtiden. Det är en gummiparagraf som kan hänga samman med Musks gräl med EU om censur (ovan).

Nedtagningsorder

Sedan bör man notera att vad som är olagligt i EU:s olika medlemsstater skiljer sig åt. Till exempel är abort förbjuden på Malta och nästan helt förbjuden i Polen.

Således kan information om abort online censureras med hänvisning till DSA. Och det drabbar då oftast hela EU eftersom internet, sökmotorer och sociala media inte känner några nationsgränser.

DSA öppnar även för gränsöverskridande nedtagningsorder, även om den information som skall censureras inte är olaglig i det land där servern står.

Dessutom skall man hålla i minnet att EU planerar att göra »hat« till ett EU-brott i klass med terrorism och vapensmuggling. Vilket kan öppna för att mer innehåll klassas som olagligt på subjektiva grunder.

Att DSA »bara« ger utrymme för att censurera olagligt innehåll är en klen tröst om lagstiftarna ständigt gör fler och nya saker olagliga.

Nästan vad som helst kan göras olagligt, i god demokratisk ordning. Det är bara en fråga om politisk vilja och dagsform.

Låt oss slutligen påminna om vad Europakonventionen om de mänskliga rättigheterna och EU:s människorättsstadga har att säga om yttrandefriheten:

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser.«

• A guide to the Digital Services Act, the EU’s new law to rein in Big Tech »
• The EU Digital Services Act (DSA): everything you need to know »

• EU vill jämställa ”näthat” med terrorism »

Going Dark – så vill EU komma åt dina meddelanden och din data

av

Vi har sammanställt allt du behöver veta om EU:s projekt Going Dark – som är tänkt att ge myndigheterna tillgång till medborgarnas meddelanden och data.

Vi har tidigare skrivit om EU:s Going Dark-grupp. Tanken är att komma åt medborgarnas elektroniska kommunikation, särskilt krypterad sådan.

En »High-Level Expert Group« har tillsatts. Den bytte snabbt namn till en »High-Level Group«, då expertgrupper har högre krav på på öppenhet och allsidighet. Deltagarlistan har varit hemlig.

Gruppen är speciellt inriktad på att ge myndigheterna tillgång till krypterad kommunikation och data, geodata och komma åt användning av anonymiseringstjänster som VPN och TOR/darknet.

Man har diskuterat tillgång till data i användarnas enheter (mobil, dator, platta, spelkonsoll etc.), tillgång till data i meddelande-apparnas system samt tillgång till data i transit.

Gruppen har även tagit upp statstrojaner (hemlig dataavläsning) och hur man skall komma runt EU-domstolens förbud mot generell datalagring. (I Sverige har en utredare redan föreslagit ny datalagring och att meddelandeoperatörer skall tvingas att överlämna begärd data i läsbar, det vill säga icke krypterad form.)

Going Dark-projektet var uppe som en informationspunkt i riksdagens EU-nämnd den 1 december 2023. Justitieminister Gunnar Strömmer sa då att…

»Vi som land fortsätter att vara utomordentligt aktiva i detta och i gruppens arbete i syfte att kunna bidra till att det kan presenteras verksamma rekommendationer inför tillträdet av den nya kommissionen hösten 2024 och för att de rekommendationerna sedan ska genomföras.«

EU-nämnden hade inga frågor, åsikter eller kommentarer.

I anknytning till Going Dark-gruppens arbete gick de europeiska polischeferna ut via Europol med uppmaningen »European Police Chiefs call for industry and governments to take action against end-to-end encryption roll-out«.

Vad de vill ha är laglig tillgång (lawfull access by design) till kommunikationstjänsternas lagrade data och skanning i realtid efter olagliga aktiviteter i användarnas meddelanden.

I ett 42-punktsprogram vill Going Dark-gruppen nu att meddelande-appar skall certifieras av EU. Man vill ha inflytande över branschens produktprotokoll och tekniska arkitektur.

Gruppen vill ha ny datalagring. Den kräver tillgång till begärd data i läsbar (ej krypterad) form. Data om IP-nummer / port skall också lagras. Detta skall även gälla operatörer som är baserade utanför EU.

Utöver datalagring vill man också ha tillgång till data. (Här kan nämnas att Europols utökade mandat redan ger dem rätt att bereda sig tillgång till data hos privata aktörer. Detta gäller även data om personer som inte är misstänkta för brott.)

Man vill även kunna övervaka dig i din uppkopplade bil – och genom allt annat under rubriken internet of things.

Man efterlyser infrastruktur som är »compatible with the transfer in real time of interception of potentially very large amounts of data of various nature«.

Gruppen har tydligen problem med att komma åt »home routing« via 5G. Därför vill man vara med i utformandet av standarden för 6G. Och så vill man komma åt internettrafik som går via satellit.

Man vill ha ökade resurser, inte bara för att komma åt krypterad data utan även för att utveckla AI-verktyg för dataanalys. (Som Chat Control 2, i sin grundform.)

Gruppen vill även se en mekanism för gränsöverskridande utbyte av information om tekniska sårbarheter som kan utnyttjas för övervakning.

Man kräver »state-of-the-art technological solutions« och en ny researchgrupp för att komma åt totalsträckskrypterad /end-to-end-krypterad kommunikation.

Meddelandeplattformar som inte underkastar sig det ovanstående skall kunna utsättas för administrativa sanktioner och begränsad möjlighet att verka på EU:s marknad.

(När samma resonemang är på tapeten i förslaget om Chat Control 2 föreslås att meddelande-appar som inte lyder order skall förbjudas på de tekniska plattformarnas app-stores.)

Man talar till och med om fängelse för »non-cooperative hosting providers«.

Allt detta och mer därtill hoppas man skall ligga till grund för den nya EU-kommissionens arbete de kommande fem åren.

Här kan det vara på sin plats att konstatera att Europadomstolen i februari slog fast att kryptering är en mänsklig rättighet. Europakonventionen och EU:s egen rättighetsstadga säger att…

»Var och en har rätt till skydd för sitt privat- och familjeliv, sitt hem och sin korrespondens.«

Även EU-domstolen har fattat i sammanhanget principiellt viktiga beslut. När den upphävde EU:s datalagringsdirektiv 2014 etablerade den principen: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Dessutom har Europaparlamentet – i samband med behandlingen av Chat Control 2 – slagit fast följande relevanta punkter:

  • Ingen skanning av innehållet i totalsträckskrypterad / E2EE kommunikation.
  • Övervakning skall inriktas mot personer och grupper där det misstänks förekomma olagligt innehåll – inte vara generell.
  • Beslut om övervakning skall fattas av en domstol.

Man kan också konstatera att det inte finns något säkert sätt att komma åt krypterad information utan att också göra den tillgänglig för kriminella, främmande makt och andra aktörer med onda avsikter. Det har gjorts försök. Alla har misslyckats.

Det gäller även client-side-scanning oavsett om den sker på system- eller applikationsnivå. Den kräver svagheter i hård- eller mjukvaran som kan missbrukas. Finns det en bakdörr kommer information om den att läcka. Inte ens CIA och NSA har lyckats hålla sina verktyg hemliga.

Här skall också påpekas att det redan finns verktyg för client-side-scanning på systemnivå (hemlig dataavläsning) som efter prövning kan sättas in mot personer som faktiskt är misstänkta för brott. Men EU:s ministerråd och Europol tycker uppenbarligen att det inte räcker.

Ju mer man gräver ner sig i pappren, ju mer uppenbart blir det att Chat Control 2 inte kan ses som ett isolerat förslag. Det är en del i en större drive för att komma åt privat kommunikation och data. Det handlade aldrig om barnen.

Länkar och resurser:
• High-Level Group “Going Dark” outcome: A mission failure »
• Going Dark expert group – EU’s surveillance forge »
• Going Dark: Ett amerikanskt-europeiskt samarbete för att knäcka privat kommunikation i det dolda. »
• Going dark – EU:s krig mot krypterad kommunikation »
• EU-kommissionen: High-Level Group (HLG) on access to data for effective law enforcement »
• Europol: European Police Chiefs call for industry and governments to take action against end-to-end encryption roll-out »
• Europol: Equilibrium between security and privacy: new report on encryption »
• Europadomstolen om rätten till krypterad kommunikation »
• UNHCR: What is Encryption? »
• Anti-encryption EU expert group to make access to data a political and technical standard »
• EU-Staaten wollen Zugriff auf verschlüsselte Daten und mehr Überwachung »
• First insight: 42 key points of the secret #EUGoingDark surveillance plan for the new EU Commission
• Going Dark-gruppens 42-punktsprogram »

Socialdemokraternas ID-krav för sociala media hotar det fria ordet

av

Socialdemokraterna vill införa EU-regler om ID-krav för att öppna konto på sociala media. Vilket kan få allvarliga konsekvenser för yttrandefriheten och den fria åsiktsbildningen.

Pressmeddelandet säger »S vill att varje konto på stora sociala medieplattformar i EU ska gå att koppla till en riktig person. Du ska behöva identifiera dig, med exempelvis Bank-ID eller att ladda upp bild på ID-handling, när du skapar ett konto på de stora plattformarna inom EU.«

Socialdemokraterna vill även begränsa hur många konton en enskild person får ha.

Samtidigt verkar man inse att förslaget kan få orimliga konsekvenser, då man tillägger att »Det ska enligt förslaget inte finnas krav på att visa sitt riktiga namn utåt, men förslaget skulle göra att det går att identifiera vem som ligger bakom ett konto…«

Låt oss försöka bena ut detta. Yttrande- och tryckfrihetslagstiftningen är främst till för att garantera människors rätt att uttrycka sig utan att censureras eller drabbas av represalier från statens sida.

Vilket kolliderar med ett ID-krav, då staten tillsammans med Big Data är den aktör som enklast kan bereda sig tillgång till ett kontos bakomliggande identitet.

Visselblåsare, dissidenter, utsatta minoriteter och personer som befinner sig i konflikt med myndigheter är bara några exempel på personer vars praktiska möjlighet att göra sin röst hörd kan komma att inskränkas med dagens (s)-förslag.

Man kan även notera att idén om att införa ID-krav för sociala media på EU-nivå innebär att man ger de regeringar i olika EU-länder som man annars anklagar för bristande demokratiskt sinnelag möjlighet att efterforska och trakassera oppositionella.

Detta är bara några exempel på vad som står på spel. Kopplar man sedan ID-kravet till planerna om att göra hot till ett »EU-brott« (utan att närmare specificera vilka yttranden det är man vill förbjuda) öppnas skrämmande möjligheter till åsiktsförtryck.

I ett vidare perspektiv är det obehagligt när politiken vill bereda sig tillgång till sina kritikers identitet. Det är sådant som sker i Kina och Ryssland.

Dagens utspel är ett i raden av ogenomtänkta förslag om att inskränka internets frihet som saknar såväl kunskap i ämnet som en rimlig konsekvensanalys.

Slutligen framstår S-förslaget som inrikespolitiskt poserande, då det bara är EU-kommissionen som kan lägga fram förslag till lagstiftning på EU-nivå. Magdalena Anderssons inflytande är i sammanhanget högst begränsat, även om det finns en risk att hon ger kommissionen dumma idéer.