Femte juli

Nätet till folket!

Sociala media

Detta är kategorin för nyheter och bloggposter som rör sociala media - samt deras relation till sina användare.

Möt de nya statligt godkända nätcensorerna

av

Trusted Flaggers – nätcensorer med en agenda eller allmänhetens tjänare? Nu är de här.

EU:s Digital Services Act (DSA) föreskriver att medlemsstaterna skaffar sig nätcensorer – Trusted Flaggers eller betrodda anmälare som de kallas på svenska.

Dessa skall ha en direktlina till sociala media. De kan föreslå men inte kräva att olagligt innehåll tas bort.

Redan i direktivets inledning kan vi läsa att Trusted Flaggers även skall hjälpa till med att identifiera information som är oförenlig med respektive socialt nätverks användarvillkor. Det vill säga även hålla efter innehåll som oftast inte är olagligt.

Statligt godkända nätcensorer skall alltså kunna rekommendera att innehåll som inte är olagligt (men strider mot plattformens användarvillkor) skall avlägsnas från internet. Har man verkligen tänkt igenom rollfördelningen här?

Men även om det endast skulle handla om att flagga uppenbart olagligt innehåll uppstår ett problem.

En statligt godkänd aktör – en Trusted Flagger – ges rätt att uppmana sociala media att censurera innehåll utan föregående rättslig prövning. Det är inte bra. Innan någon alls censurerar något på statens eller dess funktionärers order, måste man ju först fastställa om det som är tänkt att censureras är lagligt eller ej.

Längre in i texten (recital 58 & artikel 27) kan vi läsa att Trusted Flaggers även skall medverka vid analys av systemrisker; att de skall ha ett utökat samarbete med sociala media; att de skall medverka vid utbildning för sociala plattformar samt att de skall bidra till utformning av uppförandekoder.

Så mandatet kan bli väldigt brett.

I Tyskland är det hallå efter att landets första Trusted Flagger har utsetts. Det visar sig vara en offentligfinansierad verksamhet som ägnar sig åt att anmäla hat på nätet. Och som anklagas för att ha politisk slagsida.

Sverige har jämfört med detta någorlunda rimliga Trusted Flaggers på gång. ECPAT – Visst, flagga övergreppsmaterial. Nordic Content Protection och Rättighetsalliansen – Upphovsrättsorganisationer, ingen är förvånad. Stöldskyddsföreningen – Rimligt. Läkemedelsverket – OK. Om vi nu skall ha några betrodda anmälare alls…

Däremot är risken för politisering uppenbar när det börjar gå upp för diverse särintressen att de kan ansöka om att bli nätcensorer. Här är det upp till den ansvariga myndigheten – Post- & Telestyrelsen (PTS) – att hålla emot när aktivister med en agenda ställer sig i kö. För det kommer de att göra.

Det skall även bli intresant att se hur detta kommer att genomföras i EU:s olika medlemsstater. Utrymmet för inskränkningar av yttrandefriheten är inte obetydligt.

• Bakgrund: Trusted Flaggers – EU:s nya nätcensur dekonstruerad »

Vad är det Musk och EU bråkar om? Egentligen?

av

Elon Musk utmanar EU:s nya nätlagstiftning – som är på väg att öppna för censur av icke olagliga yttranden.

X ägare Elon Musk och EU-kommissionären Thierry Breton grälar på X och i media.

Musk hävdar att EU lovat att inte bråka med X om han går med på att censurera visst (lagligt) innehåll. Han hävdar också att Meta och Google har sådana överenskommelser med EU.

Det är mycket möjligt att så är fallet. I så fall är det en skandal. Men mer troligt är att det handlar om hur man tolkar EU:s nya nätlagstiftning. (Mer om det nedan).

Breton skickar arga brev till Musk / X. I det senaste, som skrevs med anledning av Musks livesamtal med Trump på X kräver han…

»…that all proportionate and effective mitigation measures are put in place regarding the amplification of harmful content in connection with relevant events…«

Här dyker nyckelbegreppet »harmful content« upp. Skadlig information. Men inte olaglig. Frågan är vad – exakt vad – det är EU vill att X skall göra. Tysta folk? Skuggbanna? På vilken laglig grund?

Blå bricka

På ett mer praktiskt plan klagar EU på X blå bricka. Förr fick media, politiker, kändisar och fint folk en VIP-bricka vid sitt namn som verifikation på att de var viktiga och äkta.

Detta har ersatts med ett system där alla som är villiga att betala får en blå bricka (med mera). Vilket i någon mån innebär att användaren är verifierad.

Detta togs inte väl emot av de som haft en VIP-bricka. Och EU menar att folk nu kan luras att tro att vanliga användare är viktiga människor.

Vilket känns som ett tunt case.

»Harmful content«

EU:s Digital Services Act (DSA) ger rätt och skyldighet att plocka ner olagligt innehåll på sociala plattformar och sökmotorer. Vad som i sammanhanget är olagligt bestäms av nationell lag och EU:s lagstiftning.

Samtidigt nämns skadligt innehåll (harmful content) vad gäller systemrisker i specialregler för de största sociala plattformarna och sökmotorerna.

Dessa förväntas inventera och åtgärda systemrisker vad gäller skadligt innehåll, som till exempel desinformation.

Notera att DSA inte kan tvinga plattformarna att plocka ner annat än olagligt material – men att de samtidigt förväntas vidta åtgärder mot skadligt innehåll.

På samma sätt förväntas de största sökmotorerna på eget initiativ moderera sina sökresultat utifrån vad någon anser vara skadligt. Så begränsar EU yttrandefriheten genom ombud.

Exakt var detta landar får vi nog inte veta förrän saken avgjorts av EU-domstolen någon gång i framtiden. Det är en gummiparagraf som kan hänga samman med Musks gräl med EU om censur (ovan).

Nedtagningsorder

Sedan bör man notera att vad som är olagligt i EU:s olika medlemsstater skiljer sig åt. Till exempel är abort förbjuden på Malta och nästan helt förbjuden i Polen.

Således kan information om abort online censureras med hänvisning till DSA. Och det drabbar då oftast hela EU eftersom internet, sökmotorer och sociala media inte känner några nationsgränser.

DSA öppnar även för gränsöverskridande nedtagningsorder, även om den information som skall censureras inte är olaglig i det land där servern står.

Dessutom skall man hålla i minnet att EU planerar att göra »hat« till ett EU-brott i klass med terrorism och vapensmuggling. Vilket kan öppna för att mer innehåll klassas som olagligt på subjektiva grunder.

Att DSA »bara« ger utrymme för att censurera olagligt innehåll är en klen tröst om lagstiftarna ständigt gör fler och nya saker olagliga.

Nästan vad som helst kan göras olagligt, i god demokratisk ordning. Det är bara en fråga om politisk vilja och dagsform.

Låt oss slutligen påminna om vad Europakonventionen om de mänskliga rättigheterna och EU:s människorättsstadga har att säga om yttrandefriheten:

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser.«

• A guide to the Digital Services Act, the EU’s new law to rein in Big Tech »
• The EU Digital Services Act (DSA): everything you need to know »

• EU vill jämställa ”näthat” med terrorism »

Going Dark – så vill EU komma åt dina meddelanden och din data

av

Vi har sammanställt allt du behöver veta om EU:s projekt Going Dark – som är tänkt att ge myndigheterna tillgång till medborgarnas meddelanden och data.

Vi har tidigare skrivit om EU:s Going Dark-grupp. Tanken är att komma åt medborgarnas elektroniska kommunikation, särskilt krypterad sådan.

En »High-Level Expert Group« har tillsatts. Den bytte snabbt namn till en »High-Level Group«, då expertgrupper har högre krav på på öppenhet och allsidighet. Deltagarlistan har varit hemlig.

Gruppen är speciellt inriktad på att ge myndigheterna tillgång till krypterad kommunikation och data, geodata och komma åt användning av anonymiseringstjänster som VPN och TOR/darknet.

Man har diskuterat tillgång till data i användarnas enheter (mobil, dator, platta, spelkonsoll etc.), tillgång till data i meddelande-apparnas system samt tillgång till data i transit.

Gruppen har även tagit upp statstrojaner (hemlig dataavläsning) och hur man skall komma runt EU-domstolens förbud mot generell datalagring. (I Sverige har en utredare redan föreslagit ny datalagring och att meddelandeoperatörer skall tvingas att överlämna begärd data i läsbar, det vill säga icke krypterad form.)

Going Dark-projektet var uppe som en informationspunkt i riksdagens EU-nämnd den 1 december 2023. Justitieminister Gunnar Strömmer sa då att…

»Vi som land fortsätter att vara utomordentligt aktiva i detta och i gruppens arbete i syfte att kunna bidra till att det kan presenteras verksamma rekommendationer inför tillträdet av den nya kommissionen hösten 2024 och för att de rekommendationerna sedan ska genomföras.«

EU-nämnden hade inga frågor, åsikter eller kommentarer.

I anknytning till Going Dark-gruppens arbete gick de europeiska polischeferna ut via Europol med uppmaningen »European Police Chiefs call for industry and governments to take action against end-to-end encryption roll-out«.

Vad de vill ha är laglig tillgång (lawfull access by design) till kommunikationstjänsternas lagrade data och skanning i realtid efter olagliga aktiviteter i användarnas meddelanden.

I ett 42-punktsprogram vill Going Dark-gruppen nu att meddelande-appar skall certifieras av EU. Man vill ha inflytande över branschens produktprotokoll och tekniska arkitektur.

Gruppen vill ha ny datalagring. Den kräver tillgång till begärd data i läsbar (ej krypterad) form. Data om IP-nummer / port skall också lagras. Detta skall även gälla operatörer som är baserade utanför EU.

Utöver datalagring vill man också ha tillgång till data. (Här kan nämnas att Europols utökade mandat redan ger dem rätt att bereda sig tillgång till data hos privata aktörer. Detta gäller även data om personer som inte är misstänkta för brott.)

Man vill även kunna övervaka dig i din uppkopplade bil – och genom allt annat under rubriken internet of things.

Man efterlyser infrastruktur som är »compatible with the transfer in real time of interception of potentially very large amounts of data of various nature«.

Gruppen har tydligen problem med att komma åt »home routing« via 5G. Därför vill man vara med i utformandet av standarden för 6G. Och så vill man komma åt internettrafik som går via satellit.

Man vill ha ökade resurser, inte bara för att komma åt krypterad data utan även för att utveckla AI-verktyg för dataanalys. (Som Chat Control 2, i sin grundform.)

Gruppen vill även se en mekanism för gränsöverskridande utbyte av information om tekniska sårbarheter som kan utnyttjas för övervakning.

Man kräver »state-of-the-art technological solutions« och en ny researchgrupp för att komma åt totalsträckskrypterad /end-to-end-krypterad kommunikation.

Meddelandeplattformar som inte underkastar sig det ovanstående skall kunna utsättas för administrativa sanktioner och begränsad möjlighet att verka på EU:s marknad.

(När samma resonemang är på tapeten i förslaget om Chat Control 2 föreslås att meddelande-appar som inte lyder order skall förbjudas på de tekniska plattformarnas app-stores.)

Man talar till och med om fängelse för »non-cooperative hosting providers«.

Allt detta och mer därtill hoppas man skall ligga till grund för den nya EU-kommissionens arbete de kommande fem åren.

Här kan det vara på sin plats att konstatera att Europadomstolen i februari slog fast att kryptering är en mänsklig rättighet. Europakonventionen och EU:s egen rättighetsstadga säger att…

»Var och en har rätt till skydd för sitt privat- och familjeliv, sitt hem och sin korrespondens.«

Även EU-domstolen har fattat i sammanhanget principiellt viktiga beslut. När den upphävde EU:s datalagringsdirektiv 2014 etablerade den principen: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Dessutom har Europaparlamentet – i samband med behandlingen av Chat Control 2 – slagit fast följande relevanta punkter:

  • Ingen skanning av innehållet i totalsträckskrypterad / E2EE kommunikation.
  • Övervakning skall inriktas mot personer och grupper där det misstänks förekomma olagligt innehåll – inte vara generell.
  • Beslut om övervakning skall fattas av en domstol.

Man kan också konstatera att det inte finns något säkert sätt att komma åt krypterad information utan att också göra den tillgänglig för kriminella, främmande makt och andra aktörer med onda avsikter. Det har gjorts försök. Alla har misslyckats.

Det gäller även client-side-scanning oavsett om den sker på system- eller applikationsnivå. Den kräver svagheter i hård- eller mjukvaran som kan missbrukas. Finns det en bakdörr kommer information om den att läcka. Inte ens CIA och NSA har lyckats hålla sina verktyg hemliga.

Här skall också påpekas att det redan finns verktyg för client-side-scanning på systemnivå (hemlig dataavläsning) som efter prövning kan sättas in mot personer som faktiskt är misstänkta för brott. Men EU:s ministerråd och Europol tycker uppenbarligen att det inte räcker.

Ju mer man gräver ner sig i pappren, ju mer uppenbart blir det att Chat Control 2 inte kan ses som ett isolerat förslag. Det är en del i en större drive för att komma åt privat kommunikation och data. Det handlade aldrig om barnen.

Länkar och resurser:
• High-Level Group “Going Dark” outcome: A mission failure »
• Going Dark expert group – EU’s surveillance forge »
• Going Dark: Ett amerikanskt-europeiskt samarbete för att knäcka privat kommunikation i det dolda. »
• Going dark – EU:s krig mot krypterad kommunikation »
• EU-kommissionen: High-Level Group (HLG) on access to data for effective law enforcement »
• Europol: European Police Chiefs call for industry and governments to take action against end-to-end encryption roll-out »
• Europol: Equilibrium between security and privacy: new report on encryption »
• Europadomstolen om rätten till krypterad kommunikation »
• UNHCR: What is Encryption? »
• Anti-encryption EU expert group to make access to data a political and technical standard »
• EU-Staaten wollen Zugriff auf verschlüsselte Daten und mehr Überwachung »
• First insight: 42 key points of the secret #EUGoingDark surveillance plan for the new EU Commission
• Going Dark-gruppens 42-punktsprogram »

Socialdemokraternas ID-krav för sociala media hotar det fria ordet

av

Socialdemokraterna vill införa EU-regler om ID-krav för att öppna konto på sociala media. Vilket kan få allvarliga konsekvenser för yttrandefriheten och den fria åsiktsbildningen.

Pressmeddelandet säger »S vill att varje konto på stora sociala medieplattformar i EU ska gå att koppla till en riktig person. Du ska behöva identifiera dig, med exempelvis Bank-ID eller att ladda upp bild på ID-handling, när du skapar ett konto på de stora plattformarna inom EU.«

Socialdemokraterna vill även begränsa hur många konton en enskild person får ha.

Samtidigt verkar man inse att förslaget kan få orimliga konsekvenser, då man tillägger att »Det ska enligt förslaget inte finnas krav på att visa sitt riktiga namn utåt, men förslaget skulle göra att det går att identifiera vem som ligger bakom ett konto…«

Låt oss försöka bena ut detta. Yttrande- och tryckfrihetslagstiftningen är främst till för att garantera människors rätt att uttrycka sig utan att censureras eller drabbas av represalier från statens sida.

Vilket kolliderar med ett ID-krav, då staten tillsammans med Big Data är den aktör som enklast kan bereda sig tillgång till ett kontos bakomliggande identitet.

Visselblåsare, dissidenter, utsatta minoriteter och personer som befinner sig i konflikt med myndigheter är bara några exempel på personer vars praktiska möjlighet att göra sin röst hörd kan komma att inskränkas med dagens (s)-förslag.

Man kan även notera att idén om att införa ID-krav för sociala media på EU-nivå innebär att man ger de regeringar i olika EU-länder som man annars anklagar för bristande demokratiskt sinnelag möjlighet att efterforska och trakassera oppositionella.

Detta är bara några exempel på vad som står på spel. Kopplar man sedan ID-kravet till planerna om att göra hot till ett »EU-brott« (utan att närmare specificera vilka yttranden det är man vill förbjuda) öppnas skrämmande möjligheter till åsiktsförtryck.

I ett vidare perspektiv är det obehagligt när politiken vill bereda sig tillgång till sina kritikers identitet. Det är sådant som sker i Kina och Ryssland.

Dagens utspel är ett i raden av ogenomtänkta förslag om att inskränka internets frihet som saknar såväl kunskap i ämnet som en rimlig konsekvensanalys.

Slutligen framstår S-förslaget som inrikespolitiskt poserande, då det bara är EU-kommissionen som kan lägga fram förslag till lagstiftning på EU-nivå. Magdalena Anderssons inflytande är i sammanhanget högst begränsat, även om det finns en risk att hon ger kommissionen dumma idéer.

När EU fruktar folket inskränks yttrandefriheten

av

EU vill upphöja näthat till ett federalt EU-brott, i klass med terrorism. Men man tänker inte berätta vad det är för yttranden man vill förbjuda. Inte före EU-valet. Samtidigt pumpas skattepengar in i organisationer som försöker tysta röster på internet som har avvikande åsikter.

Jag kan inte släppa det här med att EU-kommissionen – påhejad av Europaparlamentet – vill göra hat och hot till EU-brott av samma dignitet som terrorism och vapensmuggling.

Hat är en känsla. Hot är en handling.

Vad gäller olaga hot har vi redan den lagstiftning som krävs. Så vi släpper den bollen just nu och fokuserar på hat.

Existerande EU-lagstiftning kräver redan kriminalisering av hatpropaganda och hatbrott på grund av ras, hudfärg, religion, härkomst, nationellt eller etniskt ursprung.

Hatpropaganda på grund av ovanstående skäl är sedan tidigare kriminaliserad i alla medlemsstater. I de flesta länder gäller detta även missaktning baserad på kön och sexuell läggning.

Även här finns alltså redan den lagstiftning som krävs. Så vad är det man är ute efter?

Europaparlamentets senaste resolution i ämnet är vag. Parlamentet säger att vad som i sammanhanget skall anses utgöra hat ”must not be limited only to certain grounds or motivations”. Man efterlyser även en ”holistisk respons” och en ”multidimensionell approach”.

Ett mycket brett mandat med andra ord. Det är lätt att misstänka att man vill kriminalisera oönskade och konträra yttranden. Sådant ser man ju allt oftare nu för tiden.

I veckan friade den tyska konstitutionsdomstolen i Karlsruhe en högprofilerad Youtuber som anmälts för en tweet, i vilken han kritiserade att den tyska regeringen sänder hundratals miljoner av skattebetalarnas pengar till talibanerna i Afghanistan.

Anmälare var den tyska regeringens minister för ekonomiskt samarbete och utveckling. Den regering vars inrikesminister nyligen deklarerade att den som hånar staten kommer att få med den starka staten att göra.

Chefen för den tyska inrikes säkerhetstjänsten säger att medborgarnas tal- och tankemönster börjar bli problematiska. Vilket av historiska skäl väckt en del reaktioner. Det var så det lät i Östtyskland under det kommunistiska förtrycket.

I Skottland har en långtgående åsiktslagstiftning väckt uppmärksamhet den senaste tiden. Den har lett till en anstormning av anmälningar av yttranden som folk stör sig på, i en sådan volym att polisen flaggat för att det kommer att gå ut över dess övriga verksamhet.

Australiens regering vill att inlägg på sociala media som den ogillar skall censureras i hela världen. Om alla länder som vill censurera internet kan tillämpa global censur kommer det inte att bli mer än kattvideos kvar.

I alla EU-länder finns gott om politiker och byråkrater som ogillar när folk ifrågasätter, lägger sig i och käftar emot.

Debattörer som fått slut på logiska argument stämplar gärna fullt relevant kritik som näthat och kräver censur.

Ett ständigt samtalsämne bland politiska makthavare i Bryssel är hur man skall kunna begränsa oönskade men icke olagliga yttranden på nätet. Detta sker delvis genom påtryckningar (utanför den demokratiska processen) mot de stora nätplattformarna.

EU sänder även skattepengar till organisationer som The European Digital Media Observatory som skall samordna faktakontrollen på nätet. Så att folk skriver rätt.

EU är också med och finansierar the Global Disinformation Index – vars affärsidé är att svartlista webplatser som tycker fel, så att annonsörer kan undvika dem. Dess definition av desinformation är »adversarial narratives«, vilket väl närmast kan översättas med konträra narrativ. Det vill säga avvikande åsikter.

Med the Digital Services Act gav EU sig självt den lagliga rätten att censurera internet. Plus statligt godkända nätcensorer. Och en möjlighet att i princip stänga av internet om det skulle knipa.

Och nu vill man alltså upphöja hat till ett EU-brott – utan att berätta exakt vad det är man vill förbjuda. I vart fall inte före EU-valet.

Det finns skäl att fundera över om vi verkligen vill att länder som Frankrike, Tyskland och Ungern skall ges makt över den svenska yttrande- och tryckfriheten – som i flera avseenden är världsunik.

Vad kan möjligen gå fel?

• Läs även: EU vill jämställa ”näthat” med terrorism »

EU:s ministerråd vill reglera influencers, youtubers, podcasters och bloggare

av

EU:s ministerråd vill att de som skapar självständigt innehåll på nätet skall regleras och kontrolleras.

I EU:s allt mer omfattande reglering av allt som har med internet att göra har turen nu kommit till »influencers«. Den här gången är det EU:s ministerråd som vill se uppstramade regler.

Hur definierar man då en influencer?

»[O]nline content creators who post content on social media or video sharing platforms through which they impact society, public opinion or personal views of their audience, often showcased through their authenticity-based relationship with their audience.«

Vilket låter som i princip alla som skapar självständigt innehåll på nätet – bloggare, youtubers, podcasters, medborgarjournalister… Möjligen kan alla som använder sociala media omfattas.

Vad är det ministerrådet vill göra? Till att börja med:

»[Influencers] should have a sense of responsibility towards their audience and understand the potential impact that commercial practices, sharing mis- and disinformation, online hate speech, cyberbullying and other harmful content may have on their audience and its well-being.«

Vilket låter lite vagt. Men om man skrapar på ytan vill ministerrådet se en koordinerad approach för att få kreatörer av innehåll att följa EU:s Audiovisual Media Service Directive, Digital Services Act, Unfair Commercial Practices Directive, unionens konkurrenslagstiftning, dess konsumenträtts-direktiv samt European Media Freedom Act.

Nu kan man visserligen mena att kreatörer på nätet skall omfattas av samma regler som alla andra. Men problemet är att mycket av de ovanstående regelverken är skrivna med stora aktörer och plattformar i åtanke – som har egna jurister och resurser för att hantera byråkrati. Vilket mindre och enskilda kreatörer som regel saknar.

Risken är att fria kreatörer kommer att få ägna en stor del av sin tid åt pappersarbete istället för att skapa.

Frankrike har en liknande lagstiftning, där den som inte följer reglerna kan dömas till böter på 300.000 euro eller två år i fängelse.

Man bör för övrigt se detta i ett lite större perspektiv. EU är på gång med nya förslag i syfte att inskränka yttrandefriheten på nätet. Ambitionen tycks vara att allt skall regleras och kontrolleras.

Länk:
• Council strengthens call to make influencers accountable for their actions »

Relaterat:
• Hård kritik mot förslag om nätcensur inför EU-valet »
• EU tänker inskränka yttrandefriheten »
• EU:s framväxande Sanningsministerium »
• Trusted Flaggers – EU:s nya nätcensur dekonstruerad »

Hård kritik mot förslag om nätcensur inför EU-valet

av

EU-kommissionen vill kontrollera innehållet i sociala media och sökmotorer inför sommarens EU-val. Experterna sågar förslagen.

EU-kommissionen har sänt upp en del testballonger om hur man kan motverka desinformation och otillbörlig påverkan i EU-valet: Guidelines for Providers of Very Large Online Platforms and Very Large Online Search Engines on the Mitigation of Systemic Risks for Electoral Processes.

Detta blir extra intressant då det är första gången EU:s nya Digital Services Act (DSA) prövas i skarpt läge.

Electronic Frontier Foundation (EFF) skriver bland annat att kommissionen fokuserar för hårt på användargenererat innehåll – och för lite på plattformarnas egna processer och grundläggande mänskliga rättigheter, speciellt yttrandefriheten.

EFF konstaterar även att det saknas definitioner av till exempel »hat« och »desinformation«, vilket är ett problem om man vill bekämpa sådant. Innehåll bör inte kunna stoppas bara för att det anses vara »problematiskt«.

Man varnar även för allt för nära samarbete mellan plattformar / sökmotorer och myndigheter. Det gäller speciellt om sådant samarbete inte är öppet och transparent. Vidare:

»[W]e recommend that the Guidelines acknowledge the potential of abuse of the trusted flagger provision in the DSA. As pointed out in previous comments and publications, the DSA lacks general safeguards for users, opening the door to potential notice, action, and human rights misuse. Any guidance should therefore stress that trusted flaggers must have the collective interests of the public and the protection of fundamental rights in mind. This is particularly true for authorities that have been awarded the status of a trusted flagger.«

Detta handlar alltså om de trusted flaggers (sv: betrodda anmälare) som skall godkännas av staten och få en direktlina till sociala media för att rekommendera vilket innehåll som skall plockas bort. Detta är speciellt problematiskt då sådana förutsätts vara organisationer som kan antas ha en egen agenda. Läs mer här »

Denna kritik är dock inget mot den bredsida som professor Alexander Peukert vid Goethe-Universität Frankfurt am Main avfyrar. Som en av de ledande experterna på EU:s nya Digital Services Act (DSA) vänder han denna nya lagstiftning mot EU-kommissionen.

Enkelt uttryckt menar han att stora delar av ovan nämnda guidelines inte är förenliga med DSA.

Till att börja med noterar han att det saknas definitioner och bedömning om vad som kan anses vara proportionerligt. Han kritiserar också den bristande transparens (och bristande regelverk) kring alla de aktörer som kommissionen vill skall vara med och moderera innehåll.

Vidare noteras att många av de fact checkers som kan komma att användas är baserade i länder utanför EU, främst i USA. Peukert menar att man i vart fall bör ställa samma krav på dem som på trusted flaggers, till exempel att de skall vara baserade i EU.

Det föreslagna samarbetet mellan plattformar / sökmotorer och myndigheterna för att moderera innehåll sågar han helt. Sådant saknar lagligt stöd i DSA. Detta gäller även kommissionens idéer om att märka AI-genererat innehåll.

Detta för att bara ta några exempel.

Nu återstår att se vilka skarpa förslag EU-kommissionen kommer att lägga fram.

Risken är att den kommer att bortse från kritiken och gå bortom sitt mandat.

Länkar:
• Disinformation and Elections: EFF and ARTICLE 19 Submit Key Recommendations to EU Commission »
• Verfassungsblog: Risky Recommendations »
• Guidelines for Providers of Very Large Online Platforms and Very Large Online Search Engines on the Mitigation of Systemic Risks for Electoral Processes »

Relaterat:
• Trusted Flaggers – EU:s nya nätcensur dekonstruerad »
• EU tänker inskränka yttrandefriheten »
• EU:s framväxande Sanningsministerium »

Liberalerna vill förbjuda anonymitet online

av

Liberalerna vill lagstifta om barns skärmtid – helt i onödan och till priset av ID-krav för sociala media, spel och streamingtjänster.

Liberalerna vill införa barnlås för sociala media, spel och streamingtjänster efter kl 23 på kvällen.

”Utgångspunkten är att barn ska sova på nätterna och gå i skolan på dagarna” säger partiledare Johan Pehrson.

Partiet vill även göra detta till en kampanjfråga i sommarens EU-val. Det vill säga att man kräver reglering på EU-nivå.

Till att börja med krävs inga regeländringar eller lagstiftning för att föräldrar skall kunna begränsa sina barns skärmtid. Det är enkelt att göra redan nu. Här är instruktionerna för Apple respektive Android.

Liberalerna vet helt enkelt inte vad de talar om. Vilket i och för sig inte är unikt när det gäller politik och internet.

Att lyfta frågan till något slags allmän reglering blir fel på så många plan. Till exempel kan man tycka att barns skärmtid är föräldrarnas ansvar, inte statens.

Dessutom förutsätter en allmän reglering att man vet hur gamla användarna är. Vilket kräver någon form av identifiering. Vilket i så fall måste omfatta alla användare. Resultatet blir att det inte kommer att gå att använda de nämnda tjänsterna anonymt.

Det är rätt uppenbart vad ”Liberalerna” sysslar med här: De lägger fram ett förslag som de vet att media och andra kommer att nappa på – även om förslaget i sig är galet eller meningslöst. Allt för att synas och få uppmärksamhet.

Detta till priset av att dra igång en politisk diskussion som kan landa i ID-krav för sociala media, spel, streamingtjänster med mera.

Liberalerna är alltså villiga att offra ett fritt och öppet internet för att få publicitet.

Väcker man en sådan här fråga på EU-nivå kan man vara rätt säker på att fler kommer att plocka upp den. Idéer till fler och nya lagar får snabbt ett eget liv. Och innan man vet ordet av är det ett skarpt lagförslag.

Detta måste stoppas i tid.

EU:s framväxande Sanningsministerium

av

Redan innan EU hunnit göra hat och hot till ”federala” EU-brott har en omfattande byråkrati byggts upp för att begränsa det fria ordet online.

Håller EU på att bygga upp en ny byråkrati för nätcensur? Här är ett EU-projekt som vi kan använda för att börja nysta i frågan:

»The European Digital Media Observatory (EDMO) brings together fact-checkers, media literacy experts, and academic researchers to understand and analyse disinformation, in collaboration with media organisations, online platforms and media literacy practitioners.

EDMO will deploy a platform to support the work of a multidisciplinary community with expertise in the field of online disinformation. EDMO will contribute to a deeper understanding of disinformation relevant actors, vectors, tools, methods, dissemination dynamics, targets, and impact on society.«

Inom observatoriets ram ryms ett tiotal olika samarbetsorgan. Man tycks även ha nära band till EU-finansierade European Fact-Checking Standards Network (EFCSN). Detta är ett slags plattform för godkända organisationer som ägnar sig åt faktagranskning i medlemsstaterna. (I Sverige Källkritikbyrån, tidigare känd som Metros viralgranskare.)

Detta skall ses i ljuset av att EU:s nya Digital Services ACT (DSA) etablerar de verktyg som behövs för att kunna censurera innehåll på nätet.

DSA föreskriver även statligt godkända nätcensorer, så kallade Trusted Flaggers (”betrodda anmälare”) som skall få en direktlina till sociala media för att rekommendera vilket innehåll som bör plockas bort.

Man skall också komma ihåg att EU-kommissionen under nästa mandatperiod (efter EU-valet) kommer att lägga fram nya förslag syftande till att utöka listan över ”federala” EU-brott med hat och hot. Det finns mycket i kommissionens och Europaparlamentets dokument om detta som är oroande vad gäller yttrandefriheten.

Så, ja. Det håller på att växa fram en EU-byråkrati kring det fria ordet online.

Vilket är oroväckande med tanke på EU:s track record av att förvandla även de bästa intentioner till en byråkratisk mardröm – som med GDPR.

Desinformation är naturligtvis ett problem då sådan innebär att någon medvetet eller omedvetet sprider objektivt felaktig information. Detta påverkar människors verklighetsbild och därmed även deras förmåga att fatta informerade beslut.

Desinformation online kan bemötas på flera sätt. Ofta sker det spontant genom att andra användare regerar på felaktigheter. På X använder man denna typ av crowdsourcing för att låta användarna påpeka felaktigheter och tillföra relevant information i community notes.

Andra plattformar har en modell där anställda moderatorer tillämpar företagsledningens policybeslut. Vilket är en mer centralstyrd modell där input om sanning och kontext fattas av en mindre grupp människor. Vilket i värsta fall kan skapa single points of failure.

Det saknas inte exempel på information som varit förbjuden att framföra på sociala media men som sedan visat sig vara i stort sett korrekt och blivit allmänt vedertagen. För att undvika sådant kan det möjligen vara bättre med community notes som tillför relevant information än moderatorer som censurerar information.

Allt kompliceras av att vissa politiker och samhällsdebattörer har en tendens att avfärda kritik och åsikter de inte delar som desinformation, hat och hot. Sådant riskerar att bli kontraproduktivt och att i slutändan bara stärka de populistiska krafter man oroar sig över.

Detta är en fråga som måste hårdbevakas. Risken är att yttrandefriheten online kan komma att inskränkas på ett sätt som hotar våra grundläggande fri- och rättigheter.

Skurkstater i FN vill ta kontroll över internet

av

Ryssland, Kina och Iran vill göra FN:s Cybercrime Treaty till ett verktyg för kontroll och förtryck. Nästa vecka kan allt avgöras.

29 januari till 9 februari genomförs slutförhandlingar om FN:s Cybercrime Treaty. Den text som ligger på bordet är problematisk.

Får länder som Ryssland, Kina, Iran och Pakistan som de vill öppnas dörren för censur och övervakning på ett sätt som står i konflikt med grundläggande mänskliga rättigheter. Några exempel:

  • Man är inte ens överens om vad »cyberbrottslighet« egentligen är. Vilket skapar utrymme för godtycke.
  • Vad vi i de demokratiska rättsstaterna betraktar som helt lagliga yttranden online kan komma att kriminaliseras.
  • Verksamhet som bedrivs av cybersäkerhetsexperter, visselblåsare, aktivister och journalister kan komma att kriminaliseras.
  • Säker elektronisk kommunikation kommer att undermineras.
  • IT-tekniker kan tvingas kringgå dagens verktyg för säkerhet online.
  • Data och information kan komma att delas och hämtas över gränserna på ett sätt som går bortom vad som kan anses vara lämpligt, nödvändigt och proportionerligt. Detta utan rimligt dataskydd och utan hänsyn till rättsstatens grundläggande principer.

Den sista punkten innebär att internetoperatörer och nätplattformar kan tvingas lämna ut information om sina användare och deras aktiviteter till skurkstater.

I sammanhanget skall man komma ihåg att många länder anser saker vara olagliga som är helt lagliga och självklara i en demokratisk rättsstat och i ett öppet samhälle.

Enkelt uttryckt är den aktuella texten skräddarsydd för auktoritära och totalitära stater som vill övervaka folket, kontrollera oliktänkande och hindra fri information.

Texten är inte förenlig med svensk eller EU:s lagstiftning. Och om man skall vara petig, inte heller med FN:s egen stadga om de mänskliga rättigheterna.

Dessutom finns redan nödvändiga konventioner på området, som Budapest-konventionen. Dock anser bland andra Ryssland att dessa inte går långt nog.

Så väl IT-industrin som ett hundratal organisationer som arbetar med mänskliga rättigheter och nätets frihet protesterar högljutt. Trots detta har fördraget svällt vad gäller såväl syfte som form.

EFF:s Policy Director for Global Privacy Katitza Rodriguez säger:

»The proposed treaty needs more than just minor adjustments; it requires a more focused, narrowly defined approach to tackle cybercrime. This change is essential to prevent the treaty from becoming a global surveillance pact rather than a tool for effectively combating core cybercrimes. With its wide-reaching scope and invasive surveillance powers, the current version raises serious concerns about cross-border repression and potential police overreach. Above all, human rights must be the treaty’s cornerstone, not an afterthought. If states can’t unite on these key points, they must outright reject the treaty.«

Vad gäller FN:s medlemsstater har motståndet varit trögt i starten – men verkar nu i sista stund ta fart. Bland andra USA, EU, Kanada, Nya Zeeland och ett antal latinamerikanska länder motsätter sig förslaget som det ligger i sin senaste version.

I sammanhanget är det värt att påminna om FN:s egen 5 juli-resolution som säger att mänskliga rättigheter offline även skall gälla online.

• EFF and More Than 100+ NGOS Set Non-Negotiable Redlines Ahead of UN Cybercrime Treaty Negotiations »

• Joint Statement on the Proposed Cybercrime Treaty Ahead of the Concluding Session »

• On eve of final negotiations, US says consensus growing around ‘narrow’ UN cybercrime treaty »

• Latest UN Cybercrime Treaty draft a ‘significant step in the wrong direction,’ experts warn »