Femte juli

Nätet till folket!

Nätkultur

Nätkultur är vår kategori för kulturella fenomen på nätet och om internetkultur i allmänhet.

Amelia – nätfenomenet som plågar den brittiska regeringen

av

Offentligfinansierad brittisk åsiktsbildning mot främlingsfientlighet gick spektakulärt fel – och skapade en viral motkraft.

Storbritannien har drabbats av internetfenomenet Amelia. I memes och AI-genererade videor framför hon invandringskritiska åsikter.

Bakgrunden är intressant och ett exempel på när statlig åsiktsbildning får oförutsedda konsekvenser. Det hela började med att en myndighet tog fram ett slags online-spel som syftade till att bekämpa främlingsfientlighet och högerextremism.

I detta spel förekom en karaktär med »högerextrema« preferenser vid namn Amelia. En ung goth-tjej med attityd och lila hår. Utfallet i spelet kunde bli att ju mer »höger« man svarade, ju mer fick man hänga med Amelia.

Men Amelia lever vidare som AI-avatar och poster girl för brittisk invandringskritik. Hon säger det många tycker men inte vågar säga. Hon har blivit viral. Och hon är okänslig för den storm av kritik som hon utsätts för. Memer kan inte blöda.

Det hela tycks bli större och större. Och hon har redan fått en rågblond tysk motsvarighet.

Det började alltså med statlig åsiktsbildning i form av ett »spel« som säkert kostade miljoner i skattepengar att ta fram – och slutade i ett viralt utbrott av rakt motsatta åsikter där alla Amelia-memes och videor som nu produceras i pojkrum runt om på de brittiska öarna har en kostnad på nära noll. The irony.

Etablerad media och politiker rasar.

• The Guardian: Meet ‘Amelia’: the AI-generated British schoolgirl who is a far-right social media star »
• LBC: AI character ’Amelia’ designed to prevent extremism ’taken over’ by the far-right »

CC0

EU-parlamentariker vill förbjuda bild-AI

av

Ett antal ledamöter i Europaparlamentet vill utöka AI-reglerna i EU:s Digital Omnibus med ett förbud mot… »pornification apps« – vilka inte ens existerar.

Detta efter att Grok (precis som många andra AI) genererat bilder där en persons ansikte används på en av- eller lättklädd kropp. (T.ex. Ebba Buschs bikinibild.)

Vad som åsyftas torde vara de AI-tjänster som kan generera bilder. Vilket omfattar allt från OpenAI:s ChatGPT och Grok till rena bildgeneratorer som Midjourney och Googles NanoBanana. (Vilket även går att göra med Photoshop eller skalpell och klister.)

Det vill säga tjänster där bildgeneration ofta är en mindre del av verksamheten – och där lättklädda fejkbilder är en försumbar del av den totala mängden genererade bilder, i den mån de går att prompta fram över huvud taget.

Men några »pornification apps« existerar inte i AI:s ekosystem och allmänna utbud. Vill man ha ett förbud, då får man förbjuda AI som sådant.

Man kan förvisso styra bild-AI-tjänster till att inte generera lättklätt och vågat eller på andra sätt stötande innehåll. Vilket redan sker på i stort sett alla större AI-tjänster.

Men det är en helt annan sak att förbjuda dessa tjänster – med omfattande oönskade konsekvenser för alla som sysslar med sådant som bildhantering, grafisk formgivning och konst.

Det är som att förbjuda ordbehandlingsprogram för att någon kan använda dem för att skriva något snuskigt eller kränkande.

I sammanhanget kan man även fråga sig om det är så klokt att gå efter de verktyg som eventuellt används istället för den person som använder dem för att göra något som eventuellt är olagligt.

Som vanligt tycks politikerna inte begripa vad de sysslar med. Specielt inte när det råder moralpanik.

En av de ansvariga rapportörerna i Europaparlamentet är svenska Arba Kokalari (m) – som dock inte svarat på medias frågor om vad hon tycker.

• Parliament AI leads split on banning pornification apps »

CC0

USA: EU begränsar yttrandefriheten globalt

av

USA:s kongress anklagar EU för att påverka yttrandefriheten globalt. Rapporten väcker obekväma frågor även för oss i Europa.

Amerikanska kongressens justitieutskott har presenterat en rapport med namnet »The Foreign Censorship Threat, Part II: Europe’s Decade-Long Campaign to Censor the Global Internet and How it Harms American Speech in the United States«.

Tesen är att EU genom lagstiftning som till exempel Digital Services Act (DSA) inte bara inskränker det fria ordet i Europa – utan även för amerikaner i USA. Vilket i princip är ett korrekt konstaterande.

Även om DSA inte gäller i USA skapas incitament som leder till globala policyändringar, vilket indirekt påverkar amerikanska användare.

Detta är ingen nyhet. Och det har pågått länge, långt före DSA. Själv har jag skrivit om saken i 10-15 års tid. Enkelt uttryckt:

1) När politiker i EU vill inskränka det fria ordet utan att gå den krångliga vägen via lagstiftning utövar man istället påtryckningar mot sociala medier – för att dessa skall skärpa sina användarvillkor och regler för moderering. Vilket resulterar i att man begränsar yttrandefriheten utan demokratisk process eller demokratiskt mandat.

2) De sociala medieplattformarna ändrar då sina användarvillkor med mera, vilket av praktiska skäl sker på en global nivå. Inskränkningarna i yttrandefriheten får alltså konsekvenser i hela världen.

3) Detta drabbar amerikanska sociala medie-företag och användare – varpå de senare i praktiken får se sin yttrandefrihet begränsad.

Rapporten ger exempel på möten av detta slag. Vilket för tanken till när dåvarande justitieminister Morgan Johansson (S) flera gånger kallade upp sociala medier till departementet under åren 2017-21.

Påtryckningar har alltså skett på såväl EU-nivå som nationellt i medlemsstaterna.

Fin plattform ni har, tråkigt om något skulle hända med den…

Rapporten har en poäng här, underbyggd med dokumentation som begärts in från de olika sociala medie-företagen.

Rapporten visar även hur EU påverkat rapporteringen om det amerikanska presidentvalet. Vilket direkt drabbar berörda användare i USA.

Ett exempel som sticker ut är när dåvarande EU-kommissionären Thierry Breton hotade X med DSA i samband med att Elon Musk genomförde sin live-intervju med Donald Trump på plattformen. Man skulle rent av kunna tala om valpåverkan från främmande makt.

Politiskt är detta ett minfält då tidigare läckta dokument och utfrågningar visat hur den förra amerikanska administrationen varit direkt inblandad i att tysta ner vissa saker (som Hunter Bidens laptop) i sociala medier.

Rapporten tar även upp hur demonetarisering (strypta annonsintäkter) använts. Vilket EU uttryckligen nämner som möjlighet i sin Code of Practice on Disinformation, i kommissionens styrdokument till densamma, i Digital Services Act, i European Democracy Action Plan med mera.

Ett betydande antal lagliga konton och inlägg har demonetiserats efter påtryckningar från yttre aktörer.

Det har även drabbat amerikanska konton – vilket i praktiken inskränkt deras yttrandefrihet i USA och globalt.

Generellt sett har detta verktyg främst använts mot konton på den politiska högerkanten. Detta utan formella beslut eller rättsmedel för den drabbade.

Man kan även nämna skuggbanning – shadow banning, det vill säga begränsad spridning – som ett verktyg som används i sammanhanget.

Yttrandefriheten skyddas av den amerikanska konstitutionen – men bara mot staten. Här uppstår ett principiellt intressant problem när privata aktörer begränsar amerikaners möjlighet att nå ut, efter påtryckningar från främmande makt (EU).

En sak som slår mig med rapporten är att EU:s politiker och funktionärer ibland hotar med att stänga ner sociala medier om de inte lever upp till deras och DSA:s krav. Speciellt som de senare i delar är väldigt diffusa.

DSA ger ingen sådan möjlighet utöver att beordra att olagligt innehåll tas bort. Men EU kan inte stänga ner något. Vad man däremot kan göra är att bötfälla och ställa orimliga byråkratiska krav. Men inte mer än så.

Om man vill förbjuda en social medieplattform kan det endast ske i de enskilda medlemsstaterna, efter rättslig prövning. Och då förmodligen inte mer än tillfälligt.

Det är som att eurokraterna inte vet vad som står i deras egna lagar och regler.

Avslutningsvis – rapporten är ömsom vin ömsom vatten. Den innehåller en del högst relevant kritik. Men även missuppfattningar, generaliseringar och partsinlagor. Man skall komma ihåg att rapporten tagits fram av den republikanska majoriteten i kongressutskottet.

Men det vore tråkigt om de relevanta delarna skulle skymmas av politiska blockeringar.

• New Report Exposes European Commission Decade-Long Campaign to Censor American Speech »
• Direkt till PDF:en »

CC0

Myndighet vill se fängelse för fulstreaming

av

Åklagarmyndigheten vill låta fängsla folk som tittar på fulstreamad IP-TV. Men förslaget handlar även om att sänka ribban för övervakning.

En utredning (SOU 2025:100) föreslår åtgärder mot olaglig IP-TV (fulstreaming). För konsumenter skall det bli kriminellt att titta och att inneha, köpa eller importera olaglig avkodningsutrustning (piratboxar).

Utredningen föreslår i första hand böter för användare och upp till sex års fängelse för den som organiserar fulstreaming.

Nu har Åklagarmyndigheten yttrat sig över utredningen – och den vill gå hårdare fram. SVT rapporterar:

»Åklagarmyndigheten [går] längre än den tidigare utredningen och föreslår att privatpersoner ska kunna dömas till fängelse. Syftet är att ge polisen rätt att använda tvångsmedel som husrannsakan i vanliga hem.«

Intressant nog specificerar Åklagarmyndigheten inte vilket fängelsestraff man vill kunna ge tittare. Vilket är viktigt i sammanhanget.

Fängelsestraff i straffskalan öppnar för husrannsakan. Misstanke om brott med ett lägsta fängelsestraff på två år öppnar även för hemliga tvångsmedel som avlyssning, övervakning och hemlig dataavläsning. Vilket möjligen kan bli aktuellt för den som misstänks stå bakom fulstreaming.

Fulstreaming är förvisso ett brott. Men är det ett så allvarligt brott att staten skall låta spärra in människor? Vi talar trots allt om ett vardagsbrott som begås av cirka 700.000 användare.

Det känns som att det inte handlar om strängare straff i sig – utan snarare om att sänka ribban för användning av husrannsakan och hemliga tvångsmedel.

Mekanismen är välkänd: Straffskalor justeras för att normalisera mer långtgående intrång i privatlivet.

Detta är en oroande utveckling.

CC0

Med oklara regler kan makten tysta obekväma röster

av

Med diffus eller verklighetsfrånvänd lagstiftning blir vi alla brottslingar. Vilket kan användas mot oss om vi blir besvärliga.

Låt oss för ett ögonblick anta att staten, dess politiker eller dess funktionärer tröttnar på en politisk motståndare. Eller lackar till mot någon som avslöjat besvärande uppgifter. Eller bara i största allmänhet vill markera mot någon envis typ eller grupp som tycker fel.

Redan har man använt påtryckningar mot betalningssystemen mot allt från Wikileaks till kanadensiska protesterande truckers. Att utestänga någon från dessa system (eller rent av konfiskera deras medel) är ett effektivt sätt att få tyst på folk.

Men det finns fler sätt. Just nu är Storbritannien på väg att införa åldersgränser eller möjligen ett förbud (!) mot VPN. Bortsett från att makthavarna uppenbarligen inte begriper vad de sysslar med öppnar sådant för att staten alltid kommer att ha en hållhake på individen.

Om man skulle förbjuda VPN (hur?) skulle var och varannan människa förvandlas till en brottsling. Vilket kan vara behändigt att ta till ifall överheten skulle vilja sätta någon medborgare på plats.

»Show me the man, and I will find you a crime.« Bara att bli anklagad och rättsprocessen kan ibland vara värre än ett eventuellt straff – oavsett om den tilltalade är skyldig eller oskyldig.

Samma mönster kan vi se med EU:s Digital Services Act. DSA kräver att stora sociala medier och sökmotorer skall analysera och bedöma »systemrisker«. Man talar om skadligt men lagligt material som bör begränsas. Men det är inte helt uppenbart exakt vad man avser.

EU sätter upp oklara regler. Sedan påstår man att plattformar bryter mot dem. Och eftersom man inte definierat vad det är som inte skall få uttryckas, kan denna regel tillämpas med stort godtycke för att bötfälla sociala medier med astronomiska belopp. Särskilt om man ogillar deras verksamhet.

Annorlunda uttryckt: EU talar inte om vad det är som inte får sägas. Men om det ändå sker kan man straffa plattformarna. Vilket om inte annat kommer att leda till en övermoderering som inte är i yttrandefrihetens anda.

Så skapas ett system där folk som är obekväma och sociala medier som har högt till tak kan tämjas av Bryssel.

Avslutningsvis skall sägas att enligt DSA kan EU inte stänga ner sociala medier (mer än möjligen tillfällig blockering). Det kan bara medlemsstater göra. Men DSA skapar ett verktyg för att ställa extrema byråkratiska krav och inskränka tillgängligheten på app-stores för aktörer man ogillar. Plus ge orimligt höga böter.

Vi har sagt det förr: Med DSA vill politikerna ta kontroll över internet.

CC0

UK: När gamla medier flyttar in hos nya

av

I Storbritannien visar mätningar att Youtube gått om BBC.

Så nu föreslås lagstiftning som skall tvinga Youtube att prioritera BBC-innehåll.

Nu har visserligen BBC och Youtube redan ingått ett frivilligt avtal om att lägga ut mer material från BBC. Men det tycks inte stoppa Ofcoms förslag om lagstiftning.

Public Service – We have ways of making you watch…

För en djupdykning i ämnet, se Evan Edingers video nedan:

CC0

EU vill stoppa Grok

av

EU vill att xAI drar tillbaka Grok från den europeiska marknaden. Om inte kan man tänka sig att förbjuda detta AI-verktyg.

EU har startat en utredning mot xAI:s verktyg Grok. Enligt tyska Handelsblatt är målet att få bort Grok från den europeiska marknaden. Detta antingen genom att få xAI att frivilligt dra tillbaka tjänsten här eller genom att förbjuda den.

Skälet skall vara att Grok har använts för att generera lättklädda och möjligen även pornografiska bilder av verkliga människor. Till exempel har näringsminister Ebba Busch avbildats i bikini.

xAI har dock redan för en vecka sedan meddelat att Grok vidtagit tekniska åtgärder för att stoppa manipulation av bilder och filmer som visar riktiga människor i sexuella situationer. Men det räcker inte för EU-kommissionen.

Nu finns det massor av olika tjänster för AI-stödd bildgenerering som låter folk göra samma sak som EU kritiserar Grok för, såväl online som i form av fristående program som användarna kan köra på sina egna datorer. Men de tycks EU-kommissionen inte bry sig om.

Det är svårt att bortse från misstanken att Grok behandlas hårdare än andra – inte minst eftersom dess ägare är politiskt kontroversiell i EU. Vilket i så fall rimmar illa med idén om ett öppet och fritt samhälle där olika idéer kan mötas och brytas mot varandra.

Men problemet är större än så: Grok är inte bara ett verktyg som kan generera bilder – utan en allmän AI-modell på samma sätt som till exempel ChatGPT. Det vill säga ett verktyg för att söka kunskap, göra research och sammanställa information.

EU vill alltså vidta åtgärder mot en delfunktion som riskerar att slå mot hela modellen. Återigen kan man fråga sig om EU:s politiker begriper vad de sysslar med.

Att tvinga Grok att lämna den europeiska marknaden vore ett skott mot fri information och kunskapsinhämtning. Det kommer att ge oss färre modeller, baserade på mindre träningsdata och begränsad metodpluralism. Det vore ett skott mot fri kunskapsbildning bara för att man ogillar Elon Musk.

Själv använder jag normalt fyra eller fem olika allmänna AI-tjänster, varav Grok är en. På detta sätt kan jag minska risken för att AI hallucinerar. Jag kan få fler infallsvinklar och mer information. Jag hittar fler källor. Och jag kan fördjupa min analys genom att resonera med olika modeller.

Men nu vill EU alltså stoppa en av dessa AI-plattformar. Det gör mig genuint upprörd. Man vill begränsa informationens mångfald. Man vill inskränka vår tillgång till fakta och kunskap. Man vill göra det svårare för oss att hitta källor. Det är rent auktoritära fasoner.

Vad är det för information EU-kommissionen vill hindra oss från att få tillgång till – och varför? På vilket sätt vore det bra för Europa med begränsad tillgång till existerande information?

TILLÄGG/EDIT: Jag begriper inte riktigt hur EU tror sig kunna blockera Grok. Om jag förstår rätt kan EU bara driva igenom tillfälliga åtgärder. EU kan utreda, bötfälla, kräva ändringar, och i extremfall begära tillfälliga åtgärder. Man kan göra livet så juridiskt och ekonomiskt dyrt att bolaget själv drar sig ur EU. Och skapa ett läge där app-butiker, betalningsförmedlare och molnleverantörer backar. Men makten ligger hos medlemsstaterna. De kan beordra DNS- eller IP-blockering, kräva app-butiksnedtagning och använda nationell lag. Och det är nog inte otänkbart att några vill göra.

• SvD/TT: Grok utreds efter fejkade sexbilder »
• Reuters: EU Commission to open proceedings against Grok on Monday, reports Handelsblatt »
• Handelsblatt: EU-Kommission eröffnet Verfahren gegen Chatbot Grok »

CC0

EU-lagar öppnar för åsiktsregistrering

av

När politiker vill ha ID-krav på sociala medier öppnar de för åsiktsregistrering.

Politiker runt om i världen diskuterar ID-krav för sociala medier. Tydligast med detta krav i Sverige är Socialdemokraterna som uttalat vill förbjuda anonyma konton – och att politiken »tar kontroll över utvecklingen«.

Men med ID-krav följer en påtaglig risk att man kan registrera vem som tycker vad. Detta är uppgifter som sedan kan komma att användas mot dig. Ifall du tycker fel.

I Sverige är det förbjudet för staten att registrera folks politiska åsikter. Detta är reglerat i grundlagen. (RF 2:3)

Vad gäller företag och andra privata aktörer gäller GDPR, som ger ett visst skydd mot åsiktsregistrering. GDPR kräver dataminimering, ändamålsbegränsning, begränsningar mot känslig profilering samt transparens gentemot användaren.

Risken är dock att många användare förlorar detta skydd genom att slentrianmässigt ge sitt samtycke till undantag i sociala mediers användarvillkor.

Viss lagstiftning – som EU:s Digital Services Act (DSA) – skapar samtidigt starka incitament för åsiktsanalys och åsiktsprofilering. Den ålägger plattformarna att göra riskbedömningar vad gäller samhällspåverkan, systemrisker och hot mot demokratin.

Detta kräver att sociala medier analyserar politiskt innehåll, identifierar användargrupper, kartlägger spridningsmönster, drar slutsatser om åsikter, samt ägnar sig åt beteendeanalys och mönsterigenkänning.

Även om det i dessa fall inte är staten som registrerar åsikter är det ändå den som indirekt kräver att det sker. På så sätt outsourcar staten en verksamhet som den själv inte får bedriva.

Hanteringen av metadata är i praktiken mindre reglerad. Detta trots att sådan data kan vara nog så effektiv vad gäller att identifiera politiska åsikter och att bygga sociogram.

Exempel på metadata är vem du kommunicerar med; när, hur ofta och hur länge detta sker; vilka konton du följer; vilka inlägg du delar och interagerar med; vilka ämnen du återkommer till samt hur ditt beteende förändras över tid.

Användning av metadata är juridiskt diffus, politiskt användbar och demokratiskt riskabel. Den förre NSA- och CIA-chefen General Michael Hayden konstaterade att »We kill people based on metadata.«

Enda sättet att inte bli indirekt åsiktsregistrerad är att vara anonym och verka under pseudonym på sociala medier.

Vilket allt fler politiker vill sätta stopp för. De vill kunna koppla åsikter och metadata till identitet. Som sedan kan lagras, jämföras, delas och begäras ut. Finns informationen kommer den att användas.

CC0

Europa utmanar X med W

av

W presenteras som ett europeiskt svar på X. Plattformen lanseras på WEF i Davos, talar om värderingar och verifiering – samt väcker frågor om öppenhet och vem som är välkommen.

Från World Economic Forum i Davos meddelas att det kommer att lanseras en ny europeisk social medieplattform: W. Detta skall tydligen dels tolkas som »We« och dels som »Values« & »Verified«.

VD blir den tyska juristen Prof. Dr. Anna Zeiter, LL.M, som har kopplingar till World Economic Forum och som även sitter i MTG:s styrelse.

Grundaren av det svenska klimatnätverket We Don’t Have Time, Ingmar Rentzhog (Greta Thunbergs förste PR-konsult) är enligt uppgift en av initiativtagarna.

W lanseras i övrigt av en grupp i WEF-sfären som sägs rymma tidigare svenska politiker från regeringarna Reinfeldt och Löfven samt några näringslivsprofiler.

Vad vi vet om W:

  • ID-krav
  • Baserad på europeiska servrar
  • GDPR- och DSA-kompatibel
  • Man vill värna europeiska värderingar
  • Man vill tackla desinformation och förtroendekrisen för nuvarande sociala medier

Inte en plats för visselblåsare och dissidenter, kan man anta.

Vill man vara lite elak kan man tänka sig att grundarna vill skapa en social medieplattform dit viktigt folk kan migrera – så att man äntligen får till den där bojkotten av X som S-ledaren Magdalena Andersson efterlyste förra veckan. (Eller rent av en blockering av X i EU.)

Nu är jag för konkurrens och jag hoppas verkligen att W blir ett vettigt och bra debattforum, öppet för alla. En plats där man kan föra ett rimligt samtal om viktiga saker. En plats där makthavare kan möta engagerade medborgare i en konstruktiv dialog.

Men jag har mina dubier. Risken är att det blir ännu ett LinkedIn, så tråkigt att det självdör. Eller att folk som ifrågasätter, käftar emot och är besvärliga flyttar med från X – och då blir det så där jobbigt igen.

Kommer vanligt folk att hänga på W? Att projektet lanseras på WEF i Davos utstrålar inte direkt folklighet.

Kommer användare att få tycka vad de vill, i vart fall så länge de uttrycker sig vårdat? Kommer modereringen att vara transparent? Hur kommer algoritmerna att hantera kritik mot makten?

När verifiering, DSA-logik och Davos-normer kombineras riskerar det fria ordet att begränsas genom design snarare än genom förbud.

Men som sagt, lycka till! Vi behöver fler aktörer på den sociala medie-marknaden.

• Europeans set to launch an alternative to X. It’s called W »

• Se delar av W:s presentationsvideo på X »

• Neue Plattform gegen Fake News – W Social will Twitter Konkurrenz machen »

CC0