Femte juli

Nätet till folket!

Sociala media

Detta är kategorin för nyheter och bloggposter som rör sociala media - samt deras relation till sina användare.

Statligt godkända nätgranskare och gränsöverskridande nätcensur – klubbat av Europaparlamenet

av

EU:s Digital Services Act (DSA) har nu klubbats av Europaparlamentet. Lagpaketet är problematiskt på flera sätt och de flesta bra förslag som diskuterats har försvunnit under lagstiftningsprocessen.

Statligt godkända nätgranskare – Trusted Flaggers / betrodda anmälare – som skall rekommendera vilket innehåll som sociala media skall ta bort blir nu verklighet i alla EU-länder. Dessa förväntas företräda »kollektiva intressen«, vilket öppnar för olika särintressen att censurera internet.

Vi kommer också att få gränsöverskridande nedtagningsorder. Vilket innebär att myndigheter i till exempel Ungern, Polen och Frankrike kan beordra att innehåll skall plockas bort från svenska plattformar och servrar. Detta även om innehållet i fråga inte är olagligt här.

Den goda nyheten är att den som får innehåll censurerat i sociala media skall informeras om varför det sker och få möjlighet att överklaga.

Under resans gång har ett antal bra förslag skalats bort. Det blir ingen rätt till anonymitet online. Ingen rätt till kryptering. Inget förbud mot datalagring. Och inget förbud mot uppladdningsfilter.

Man kan även notera att EU nu fått ännu mer reglering och politisk styrning av nätet. Vilket lär komma att bidra till att startups (morgondagens Google, Facebook och Twitter) kommer att etablera sig utanför unionen.

DSA är nu i princip färdigbehandlad och det återstår att se hur den kommer att tillämpas i medlemsländerna. Det skall bli speciellt intressant att se vilka som blir Trusted Flaggers.

Nu klubbas EU:s Digital Services Act

av

Statligt utsedda nätgranskare och gränsöverskridande nätcensur blir konsekvensen av EU:s Digital Services Act, som just nu är på väg att godkännas.

Idag har EU:s ministerråd godkänt den (bakom stängda dörrar) slutförhandlade Digital Services Act (DSA). I morgon väntas Europaparlamentets utskott för den inre marknaden (IMCO) göra det samma. Sedan återstår bara ett sista OK från Europaparlamentet i plenum.

Detta innebär bland annat att statligt utsedda nätgranskare – så kallade Trusted Flaggers – med rätt att rekommendera sociala media att ta bort innehåll blir verklighet. Dessa skall, enligt dokumenten, företräda »kollektiva intressen« och kommer att ha en direktlina till de olika sociala plattformarna så att deras rekommendationer prioriteras.

Vi kommer även att få gränsöverskridande nedtagningsorder. Vilket innebär att myndigheter i ett EU-land kan beordra att innehåll skall censureras i en annan medlemsstat – även om detta innehåll inte är olagligt i det senare. Vad kan möjligen gå fel?

Det är även intressant vad som inte finns i DSA. Det finns ingen rätt till anonymitet. Inte någon rätt till kryptering. Det finns inte heller något skydd mot svepande datalagring eller uppladdningsfilter.

Nu återstår att se hur DSA kommer att tillämpas. Till exempel vilka som blir statligt utsedda nätgranskare och hur deras mandat kommer att omsättas i praktiken.

• Läs mer: Digital Service Act shows EU‘s unwillingness to take digital age into its own hands »

I dag börjar nya regler för nätcensur att gälla i EU #TERREG

av

Ny EU-lag kommer att kräva uppladdningsfilter som granskar allt du publicerar. Den tycks även ge justitieminister Morgan Johansson makt att censurera internet.

Idag träder EU-förordningen om terror-relaterat innehåll online (TERREG) i kraft.

Den föreskriver att terror-relaterat innehåll på anmodan skall tas bort av sociala media och andra plattformar – inom en timma. Vilket kan vara praktsikt omöjligt för en mindre plattform eller forum.

Den föreskriver även att sådant material som en gång plockats ner skall hållas borta. Vilket innebär att man måste kontrollera allt som alla skriver och laddar upp.

Det enda rimliga sättet att göra detta är med maskiner och deras algoritmer. Uppladdningsfilter. Automatiserad censur. Syftet kan sedan lätt utökas.

Det sker faktiskt redan i andra syften. EU:s upphovsrättsdirektiv ställde sådana krav på plattformar att de endast kan tillgodoses med automatiska uppladdningsfilter.

Tanken på automatiskt beslutsfattande känns inte helt bekväm. Maskiner har nämligen ingen känsla för kontext, ingen humor och ingen social kompetens.

Allt du skriver och laddar upp kommer att granskas innan det går online. Så att du inte publicerar något olämpligt. Vilket implicerar att staten inte litar på dig.

Några nedslag i EU:s faktablad:

»Terrorist Content Online Regulation provides a legal framework to ensure that hosting service providers, that make content available to the public, address the misuse of their services for the dissemination of terrorist content online. Online platforms will be obliged to remove terrorist content upon receiving a removal order from Member States’ authorities within one hour and to take measures when their platforms are exposed to terrorist content.«

En imponerande vag formulering om uppladdningsfilter:

»There is no obligation to use automated tools to identify or remove content. Where platforms choose to use such tools, they need to ensure human oversight and publicly report on their functioning.«

Något tvång på uppladdningsfilter? Nej något sådant har vi inte. Bara regler som gör att att sådana blir nödvändiga… Det hela är milt kafka-artat.

Den stora grejen med internet var att alla kunde publicera sig fritt – utan att fråga någon annan om lov. Med uppladdningsfilter känns det lite som grindvakternas återkomst.

Det blir värre. Från Politico:

»Public authorities such as law enforcement, interior ministries and Europol can now require a platform or cloud services to remove specific posts, music, livestreams, photos and videos inciting violence and glorifying terrorist attacks. Promoting terrorist groups and instructions for how to commit an attack will also be forbidden online.«

Inrikesminister i Sverige är justitieminister Morgan Johansson. Det verkar alltså som om vi har en EU-förordning som ger Morgan Johansson rätt att ta bort saker från internet. Är det verkligen så klokt? Är det ens förenligt med svensk grundlag?

Man kan även notera att Morgan Johansson är ansvarig för tillkomsten av TERRG, som svensk representant på EU:s ministerråd när förordningen bereddes. Man kan således säga att han givit sig själv rätten att censurera.

»Any European Union country, from Hungary to Poland, can tell a company to remove terrorist content across the bloc.«

Det vill säga att Morgan Johansson även kan ta bort innehåll på spanska plattformar. Ungern kommer att kunna ta bort innehåll på franska siter. Det kan bli intressant att följa.

Gränsöverskridande nedtagningsorder etableras även som ett mer generellt verktyg i EU:s nya Digital Services Act. Vilket väcker frågor som om en polsk åklagare kommer att kunna stänga ner information om abort (på polska, kan vi anta) på ett svenskt forum.

Nåväl. Folk var varnade. Ingen brydde sig. Nu är vi här.

• Politico: Online platforms now have an hour to remove terrorist content in the EU »
• EU-kommissionens sida om TERREG »
• EU-kommissionens faktablad »

Går Chat Control att stoppa?

av

Att Tyskland är emot Chat Control är bra. Men det räcker inte för att stoppa förslaget.

Som vi rapporterat vill EU-kommissionen att operatörerna skall av-kryptera och öppna dina elektroniska meddelanden och din e-post. För att sedan låta sina algoritmer inspektera och analysera dess innehåll. Och i förekommande fall överlämna det till polisen.

Förevändningen är att kontrollera att du inte ägnar dig åt sexuella övergrepp mot barn.

EU-kommissionen måste ju ta i lite om man vill kringgå medborgarnas grundläggande, konventionsskyddade rätt till privatliv och privat korrespondens. Tänk på barnen!

Meddelande-appar som inte samarbetar kommer att förbjudas i Apples och Googles app-stores. Alla skall med. Även moln-tjänster, enligt uppgift.

När verktyget för detta sedan är på plats kan syftet enkelt utökas. Som det brukar bli med övervakningslagar.

Chat Control måste stoppas.

Glädjande nog säger den tyska regeringen nej. Vilket är en bra början.

En EU-förordning läggs fram av EU-kommissionen. Sedan skall både ministerrådet och Europaparlamentet komma överens om texten, vilket i slutskedet brukar ske bakom stängda dörrar.

Vi vet att det finns motståndare till Chat Control i Europaparlamentet. Det kommer att bli en strid.

I ministerrådet fattas beslut med minst 55% av rösterna och måste representera minst 65% av unionens medborgare. Tyskland har en röst av 27. Och 19% av EU:s befolkning. Vilket innebär att det krävs ytterligare 14 länder med minst 46% av unionens medborgare för att stoppa Chat Control. (Om man utgår från att kommissionens förslag är huvudproposition.)

Nästa möte med EU:s justitie- och inrikesministrar kommer att äga rum den 9-10 juni i Luxemburg. Då påbörjas processen för att ta ställning till förslaget om Chat Control. Fast annat står för tillfället betydligt högre upp på dagordningen.

Men förr eller senare kommer man att behöva ta tag i saken. Att Tyskland säger nej kommer att väga tungt. Samtidigt kan man anta att till exempel fransmännen är mer entusiastiska.

Frankrike har för övrigt EU-ordförandeskapet detta halvår. I sommar är det Tjeckien och på andra sidan årsskiftet Sverige. Så striden om Chat Control kan mycket väl komma att landa i det svenska ordförandeskapets knä.

En möjlighet är att det blir så mycket debatt och buller om Chat Control att EU-kommissionen drar tillbaka sitt förslag. Men då måste folk vakna till och ta sig samman.

(Det kan i sammanhanget nämnas att EU-kommissionens ordförande ”Zensursula” von der Leyen fick dra tillbaka ett liknande förslag när hon var familjeminister i den tyska regeringen.)

Det känns som om det är läge för nätet att mobilisera för den digitala brevhemligheten.

Spana gärna på misstänkta. Men inte på vanligt, hederligt folk!

Länkar:
• Skarpt EU-förslag idag: Av-kryptering och granskning av alla meddelanden och all e-post »
• Granskning: Lobbykampanjen för #ChatControl »
• Stoppa EU-lag som kräver insyn i chattar »
• EU avskaffar rätten till privat korrespondens »
• Tyskland stoppar EU:s ChatControl? »
• Lagförslag »

Granskning: Lobbykampanjen för #ChatControl

av

Varifrån kommer förslaget om att granska innehållet i alla EU-medborgares alla meddelanden, chattar och all e-post? Tyska Netzpolitik har grävt i ämnet.

I går presenterade EU-kommissionen sitt förslag till ChatControl / meddelandekontroll. Förslaget är kraftigt försenat och har även mött hård kritik från EU-kommissionens tjänstemän. Så hur hamnade vi här?

Det började med att EU antog nya regler till skydd för medborgarnas rätt till privatliv och privat kommunikation online. Alla var i princip överens om att stärka detta skydd, då. Men snabbt påbörjades en lobbykampanj från den amerikanska organisationen Thorn.

Organisationen är grundad av Hoillywood-stjärnan Ashton Kutcher och hans dåvarande fru Demi Moore. Thorn äger dessutom det kommersiella verktyget Safer, som syftar till att identifiera barnporr och övergrepp mot barn (CSAM).

Thorn drev fram ett undantag från de nya EU-reglerna, vilket tillät operatörer och plattformar att granska innehållet i användares meddelanden, chattar och e-post på jakt efter CSAM. Och efter ytterligare lobbyinsatser från Thorn föreslår EU nu alltså att detta skall bli obligatoriskt.

Thorn har haft en extremt god tillgång till makthavare i EU. Man har haft möten med EU-kommissionärer, deras personal och även påverkat enskilda länder som Tyskland och Sverige.

Mängden möten och nivån på dessa saknar närmast motstycke. Bland dem man träffat finns bland andra EU-kommissionens ordförande Ursula von der Leyen och inrikeskommissionär Ylva Johansson.

Dock är man inte så pigga på att avslöja vad dessa möten handlat om. Se nedan.

Samtidigt har EU-kommissionär Ylva Johansson vägrat träffa företrädare för nätfrihets- och medborgarrättsorganisationer som har haft invändningar mot ChatControl.

Efter att ha arbetat i Europaparlamentet i fem år kan jag med säkerhet påstå att det ovanstående inte är ett normalt förfarande. Vilket stärker mig i misstanken om att man använder CSAM som murbräcka för en framtida övervakning av våra elektroniska kommunikationer i andra syften. Denna typ av lagar drabbas alltid av ändamålsglidning.

• Läs mer hos Netzpolitik: How a Hollywood star lobbies the EU for more surveillance »

Skarpt EU-förslag idag: Av-kryptering och granskning av alla meddelanden och all e-post

av

Innehållet i alla dina elektroniska kommunikationer och det du lagrar på molntjänster skall nu granskas för att kontrollera att du inte ägnar dig åt sexuella övergrepp mot barn.

Tidigare har EU genom speciallagstiftning gjort det möjligt för nätplattformar, meddelandetjänster, e-post-leverantörer med flera att av-kryptera och granska innehållet i användarnas privata kommunikationer. Syftet är att kontrollera att du inte ägnar dig åt barnporr.

Idag har EU-kommissionen lagt fram #ChatControl2 – som gör detta obligatoriskt.

Vi kommer att gräva i det 137-sidiga förslaget till förordning för att granska detaljerna. En del saker kan man dock redan notera. Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) har gjort en sammanställning. Några exempel:

  • Förslaget omfattar telefoni, e-post, Messenger, chattar (även i spel och på datingsidor) samt videokonferenser.
  • Text, bilder, video och tal kommer att kontrolleras.
  • End-to-end-krypterad kommunikation omfattas också, vilket kan komma att kräva client-side-scanning på din digitala enhet.
  • Även sociala media och molntjänster omfattas.
  • Eftersom alla tjänster potentiellt kan användas för olaglig verksamhet kommer alla att omfattas av förordningen.
  • Automatisk scanning av innehåll kommer att ske, trots att erfarenheter visar att det leder till felaktiga flaggningar i nio av tio fall.
  • Man vill använda maskininlärning/AI för att identifiera tidigare okänt material.
  • Ålderskontroll för alla tjänster och applikationer som kan användas för sexuella kontakter med barn. (Detta får som konsekvens att det blir omöjligt att vara anonym på i princip alla tjänster. Vilket i sin tur kommer att få oönskade konsekvenser.)
  • App-stores måste radera appar som inte underordnar sig ChatControl2.

Detta är bara några exempel och vi återkommer när vi grävt vidare i förslaget.

Det hela skall samordnas av ett »EU Center« placerat hos Europol – som just fått mandat att även lagra data om personer som inte är misstänkta för brott och som även fått direkt tillgång till data hos privata aktörer.

MEP Patrick Breyer (PP, DE) är även först ute med en kommentar:

»Apart from ineffective web blocking, the proposed chat control threatens to destroy digital privacy of correspondence and secure encryption. Scanning personal cloud storage would result in the mass surveillance of private photos. Mandatory age verification would end anonymous communication. Appstore censorship would be the end of secure messenger apps and patronise young people. The proposal does not include the overdue obligation on law enforcement agencies to report and remove known abusive material on the net, nor does it provide for Europe-wide standards for effective prevention measures, victim support and counselling and effective criminal investigations. Von der Leyen continues to chart the territory of censorship, mass surveillance, anonymity bans and paternalism, while leaving the activities of child porn rings completely untouched. The proposed measures deprive the entire population of trust, self-determination and security on the net. This plan is nothing other than terrorism against our digital fundamental rights, which I will not relent to fight.

This Big Brother attack on our mobile phones, private messages and photos with the help of error-prone algorithms is a giant step towards a Chinese-style surveillance state. Chat control is like the post office opening and scanning all letters – ineffective and illegal. Even the most intimate nude photos and sex chats can suddenly end up with company personnel or the police. Those who destroy the digital secrecy of letters destroy trust. We all depend on the security and confidentiality of private communication: People in need, victims of abuse, children, the economy and also state authorities.«

Elefanten i rummet är att när denna typ av övervakning väl införts, då kan syftet lätt utökas. Och vi vet att ändamålsglidning i princip alltid sker, vad gäller övervakningslagar.

Vi återkommer med fler detaljer och kommenterer i takt med att förslaget analyseras.

Länkar:
• EU-kommissionen: Fighting child sexual abuse: Commission proposes new rules to protect children »
• Lagtexterna »
• MEP Patrick Breyer (PP, DE): EU chat control bill: fundamental rights terrorism against trust, self-determination and security on the Internet »

Första demonstrationen mot #ChatControl2, idag i Berlin.

Varför lämnar Socialdemokraterna Twitter?

av

I en tweet meddelar Socialdemokraterna att de slutar twittra. Frågan är varför.

Expressen rapporterar:

»Partiet har 118 000 följare på plattformen och att de skulle välja att inaktivera kontot under brinnande valår är otippat.

Johannes Svensson, presstalesperson för Socialdemokraterna bekräftar att det är en officiell tweet och att kontot inte är hackat.

– Det som jag kort kan säga är att vi fokuserar på att vara ute på gator och torg i valrörelsen och träffa folk, och att vi kommer ha andra kanaler. Och i just den här kanalen så är det samtalsklimatet som vi inte tycker är produktivt, säger han.«

Det är onekligen originellt att överge en kommunikationskanal med hundratusentals följare och med möjlighet att nå betydligt fler väljare än så. Speciellt i upptakten till en valrörelse.

Man tycker alltså att samtalsklimatet på Twitter inte är produktivt. Det skulle vara intressant att se analysen bakom denna slutsats. Vad är det i samtalsklimatet som är problematiskt? Att folk kan säga emot, ifrågasätta och ställa det statsbärande partiet till svars?

Borde inte medborgare som engagerar sig i samtalet med de politiska partierna vara något som välkomnas i en demokrati?

Det finns en allmän tendens att stämpla kritik och motargument på nätet som hat och hot. Speciellt när sådan kritik har en poäng eller fakta på sin sida. Är det något sådant som spökar i detta fall?

Eller handlar det möjligen om en markering mot att Elon Musk vill köpa Twitter? Men är då dagens ägare – BlackRock, Morgan Stanley och saudiska kungahuset – bättre?

Man kan notera att Socialdemokraterna historiskt sett har haft ett ansträngt förhållande till fri information. Förslag om förbud mot parabolantenner och motståndet mot fria etermedia kan nämnas.

Motviljan mot fri information är förvisso inte unik för Socialdemokraterna. Så gott som alla partier vill införa statligt godkända nätcensorer, uppladdningsfilter, gränsöverskridande nätcensur och granskning av medborgarnas elektroniska kommunikationer.

Förmodligen längtar politikerna tillbaka till den tid då deras information var enkelriktad, utan möjlighet för mottagaren att kommentera. Allt var så mycket enklare för partistrategerna när deras påståenden inte genast kunde analyseras, faktagranskas och kritiseras offentligt.

Den som har makten över informationen har makten över folket.

Nu återstår att se om Socialdemokraterna verkligen klarar av att bojkotta Twitter. Och hur kommer profilerade s-twittrare som Morgan Johansson och Annika Strandhäll att göra?

Trusted Flaggers – EU:s nya nätcensur dekonstruerad

av

Här är ett försök att enkelt förklara några av problemen med de nya statligt godkända nätcensorerna i EU:s Digital Services Act.

EU:s nya Digital Services Act (DSA, förordningen om digitala tjänster) är tänkt att anpassa unionens lagstiftning till dagens tekniska verklighet. Den innehåller både bra och dåliga saker. Till exempel skall olagligt material tas bort, vilket ger samma regler på nätet som i den fysiska världen. Vilket känns rimligt.

I en rättsstat skall yttrandefrihetens gränser sättas av lag som stiftats i god demokratisk ordning. Sedan är det upp till rättsväsendet att avgöra om ett visst yttrande överträtt denna gräns eller ej – i en fristående rättslig prövning, där den tilltalade har rätt att försvara sig.

Med DSA blir det annorlunda. Nu blir det inte någon rättslig prövning. Istället skall statligt godkända nätcensorer – Trusted Flaggers / »betrodda anmälare« – få en direktlinje till sociala media för att rekommendera vilket innehåll de tycker bör avlägsnas.

En Trusted Flagger kan vara en myndighet, en intresseorganisation, ett särintresse, en branschorganisation eller annan företrädare för vad förordningen kallar »kollektiva intressen«.

Här flyttar man alltså makten över yttrandefriheten från lag och rättsväsende till intressenter som är part i målet. Vilket känns direkt olämpligt.

I grunden är det tänkt att Trusted Flaggers skall identifiera vad de anser vara olagligt innehåll och anmäla detta till respektive sociala media för åtgärd. Men som i så många andra EU-förslag har allt fått ett eget liv i processen.

Redan i direktivets inledning kan vi läsa att Trusted Flaggers även skall hjälpa till med att identifiera information som är oförenlig med respektive socialt nätverks användarvillkor. Det vill säga innehåll som oftast inte är olagligt.

Statligt godkända nätcensorer skall alltså kunna rekommendera att innehåll som inte är olagligt skall avlägsnas från internet.

Här skall man komma ihåg att EU:s politiska beslutsapparat under många år använt sig av påtryckningar mot sociala media för att få dem att ändra sina användarvillkor på olika sätt. På så vis har man kunnat begränsa det fria ordet utan en massa krångel som lagstiftning, demokratisk process och offentlig debatt.

Längre in i texten (recital 58 & artikel 27) kan vi läsa att Trusted Flaggers även skall medverka vid analys av systemrisker; att de skall ha ett utökat samarbete med sociala media; att de skall medverka vid utbildning för sociala plattformar samt att de skall bidra till utformning av uppförandekoder.

Här har alltså makten över det fria ordet flyttats från lagstiftning och rättsväsende till användarvillkor och särintressen. Samt att de nya nätcensorerna kommer att få en massa extra uppgifter. Och det blir värre.

Till exempel är det värt att notera att vad som är lagligt respektive olagligt skiljer sig mellan olika länder – samtidigt som internet inte känner några nationsgränser.

I förordningen vill man att en myndighet i ett EU-land skall kunna beordra borttagning av innehåll på servrar i andra medlemsstater. Detta även om innehållet i fråga inte är olagligt i det land där servern står.

Vilket innebär att franska, polska och bulgariska inskränkningar i det fria ordet även kan komma att drabba Sverige – utan stöd i svensk lag, i sak.

Detta är verkligen inte bra. Man kan undra om politikerna förstår vad de sysslar med.

DSA är nu färdigbehandlad i Europaparlamentets utskott och i ministerrådet. Trilogförhandlingarna mellan kommissionen, rådet och parlamentet är avslutade. Allt är klappat och klart för beslut.

Under resans gång – i utskott och förhandlingar – har mycket lagts till utöver vad som anges ovan. Vi vet redan att mer som kan vara problematiskt och en hel del ny micro management tillkommit.

Enligt Europaparlamentets ansvariga tjänstemän kommer den slutliga texten dock inte att kunna offentliggöras förrän om ungefär två veckor.

Sedan är det klart för ministerrådet och parlamentet att snabbt klubba DSA. Och eftersom det är en förordning kommer den att gälla rakt av, exakt som den är skriven, i hela EU. (Till skillnad från direktiv, som inarbetas i varje medlemslands existerande lagstiftning)

Nördarna som räddar Twitters själ?

av

Vilket liv det blev när Musk nu vill köpa Twitter. Litar man mindre på honom när det gäller det fria ordet än de nuvarande ägarna? Vilka är BlackRock, Morgan Stanley och det saudiska kungahuset.

Om jag får spekulera, så tror jag att Musk har idéer. Han har redan talat om open source. Tänk om han kan utnyttja Twitters användarbas för att skapa något verkligt universellt? Vad håller just nu på att bli tekniskt möjligt?

På Twitter skriver företagets medgrundare Jack Dorsey:

»In principle, I don’t believe anyone should own or run Twitter. It wants to be a public good at a protocol level, not a company. Solving for the problem of it being a company however, Elon is the singular solution I trust. I trust his mission to extend the light of consciousness.«

Detta handlar kanske om något mer än det fria ordet. En räddningsoperation för en teknisk vision.

• Bloomberg: Musk Is the ‘Singular Solution I Trust’ for Twitter, Dorsey Says »

EU-kommissionen låter samtidigt påpeka att det är den som bestämmer hur allt skall vara: