Femte juli

Nätet till folket!

Ålderskontroll – en trojansk häst

av

Det finns inga tekniska hinder för att utöka syftet med EU:s app för ålderskontroll.

Åldersverifiering för sociala medier (med mera) innebär att alla – i minst ett led – måste identifiera sig innan de får ta del av eller dela innehåll. Vilket i sig är problematiskt ur ett principiellt perspektiv.

EU:s »mini wallet« – som skall hantera detta i väntan på EU:s riktiga digitala ID och plånbok – sägs hantera ålderskollen på ett sätt som är bättre än med andra system.

Istället för att tvingas dela sina ID-handlingar med diverse tredjepartstjänster på alla aktuella sidor skall man bara behöva göra detta en gång – mot utfärdaren när man sätter upp sin app.

Kontrollen på de olika webplatser som berörs sker då med så kallat Zero-Knowledge Proof. Det vill säga att den enda information som sänds över till webbplatsen är om användaren är över eller under den aktuella åldersgränsen.

Detta är naturligtvis bättre än alternativen. Men kan vi lita på att det håller över tid?

När EU-kommissionens ordförande Ursula von der Leyen meddelade att appen för åldersverifiering nu rullas ut, gjorde hon ett par kategoriska uttalanden. Det ena var att den skulle fungera på alla tekniska plattformar. Det visade sig vara fel. Det andra var att den använder Zero-Knowledge Proof.

I en lång bloggpost oroas nu VPN-operatören Mullvad av att det senare inte är hårdkodat i modellen.

Det vill säga att den kan jobba med ZKP där plattformen bara får reda på användarens ålder, utan att avslöja för appen vilka webbplatser användaren besöker. Men detta är inte en teknisk begränsning – utan ett politiskt val, som kan ändras när som helst.

Huruvida appen kommer att användas för att till exempel registrera vilka sidor användaren besöker är därmed bara en fråga om den för tillfället rådande politiska viljan.

Detta gäller särskilt då varje EU-land kommer att utveckla sin egen variant av appen.

Med tanke på att EU har blivit allt mer inriktat på att kontrollera innehåll online, finns det skäl att oroa sig för hur systemet kan komma att användas i framtiden.

När det väl finns på plats kan det enkelt utökas till andra former av åtkomstkontroll som registrering av besök, innehållsfiltrering och geografisk blockering.

System för övervakning och kontroll utökas nästan alltid till syfte och form. Finns verktygen kommer man att använda dem. Utifrån erfarenhet kan vi därför anta att detta öde även kommer att drabba EU:s ID-koll för sociala medier.

Därför är den relevanta principfrågan om man skall behöva identifiera sig mot staten för att få besöka olika webbplatser – eller ej.

• Mullvad: Age verification for social media – the beginning of the end for a free internet? »

CC0

Staten, AI och maktens frestelser

av

»Frestelsen att använda en kontroll- och övervakningsstat med AI:s kapacitet för politiska syften och egen vinning måste vara enorm.«

Jag är utvecklingsoptimist och gillar »artificiell intelligens«. Egentligen tror jag att maskininlärning är ett ord som leder mer rätt. System som kan ta in våldsamt stora mängder information och gå igenom den på ett ögonblick för att sedan redovisa resultatet i ett användargränssnitt som är anpassat för människor.

Men det finns naturligtvis risker med AI. EU har därför infört ett nytt regelverk för att reglera dess användning. Detta regelverk har dock ett undantag för polis och underrättelseväsen. Vilket råkar vara två områden där utrymmet för missbruk av tekniken är uppenbart.

Vilket även gäller statsapparaten i ett bredare perspektiv. Det är först nu som tekniken existerar för verkligt bred massövervakning, sociala kreditsystem, klimatkrediter och analys av vad som rör sig i folkdjupet. Detta är verktyg som kan användas av makthavare för att uppnå politiska mål och föra samhället i en mer auktoritär riktning.

I veckan klubbade riksdagen igenom en lag som – inom vissa gränser – tillåter polisen att använda kamerabevakning med automatiserad ansiktsigenkänning i realtid. Vilket sedan kan kopplas till olika databaser, datalagring och uppgifter som kan hämtas in online. Europol har redan fått rätt att bereda sig tillgång till information ur privata aktörers databaser.

Övervakningsstaten väver en allt tätare väv – under förevändningen att det är för att skydda oss från gängvåld, terrorister, farsoter och annat som vi är rädda för. Men som Hannah Arendt påpekar i sitt standardverk om den totalitära statens rötter…

»Brott mot de mänskliga rättigheterna kan alltid rättfärdigas med förevändningen att det rätta är lika med det som är bra eller nyttigt för helheten i kontrast till delarna.«

De flesta diktatorer och auktoritära system (förutom rena kleptokrater) menar sig verka för en god, större sak. För vilken man inte accepterar att enskilda individer står i vägen eller uppvisar bristande entusiasm.

Det finns mycket goda skäl för att rätten till privatliv är en grundläggande mänsklig rättighet. Information är makt. Och den stat som vet för mycket om sina medborgare kan även kontrollera dem, förtrycka oppositionella och befästa sin makt.

De grundläggande mänskliga rättigheternas funktion är att skydda individen mot övergrepp från staten. Därför är det oroväckande när staten (genom politiken) steg för steg inskränker och gör avsteg från dessa rättigheter.

Frestelsen att använda en kontroll- och övervakningsstat med AI:s kapacitet för politiska syften och egen vinning måste vara enorm.

CC0

Nytt förslag om datalagring i höst?

av

Tecken tyder på att EU försöker återuppväcka den datalagring som EU-domstolen ogiltigförklarade år 2014.

EU:s datalagringsdirektiv kom till efter bombdåden i Madrid (2004) och London (2005). Bland de drivande fanns den dåvarande svenske justitieministern Thomas Bodström (S).

Då nationell säkerhet är nationell kompetens behövde EU ett sätt att ändå ta kontroll över frågan. Det löste man genom att göra den till en fråga om den inre marknaden.

Det vill säga att man »harmoniserade« den datalagring som vissa medlemsstater ville införa på egen hand. Så att de teleoperatörer som tvingades lagra data om våra kommunikationer inte skulle behandlas olika i olika länder.

Vilket naturligtvis bara var en bakdörr för överstatlig lagstiftning om mer övervakning.

Efter mycket bråk antogs datalagringsdirektivet (2006/24/EG) våren 2006 och infördes i EU:s medlemsstater.

Direktivet föreskrev att tele- och nätoperatörer skulle lagra data om folks telefonsamtal. SMS, e-postmeddelanden, nätuppkopplingar, mobilpositioner med mera. Detta gällde metadata som vem, när och var – men inte innehåll.

2014 ogiltigförklarade EU-domstolen direktivet. Domstolen slog fast att generell och odifferentierad lagring av allas trafikdata strider mot EU:s grundläggande rättigheter – framför allt rätten till privatliv och skyddet för personuppgifter.

Vilket ledde till att vissa länder upphävde datalagringen, medan andra struntade i domen och fortsatte som förut. Vilket domstolen har klagat på i senare domar.

I Sverige gjordes mindre ändringar i lagen, dock utan att lösa det grundläggande problem som domstolen lyft fram. Men man tillsatte en utredning.

Denna utredning har presenterats under mandatperioden och vill se en utökad datalagring. Även meddelandetjänster skall omfattas. Och det skall inte bara handla om metadata, då operatörerna även skall bli skyldiga att överlämna innehållet i meddelanden till myndigheterna – i läsbar (det vill säga okrypterad) form.

En lagrådsremiss har presenterats och skickats på remissrunda. Men den har sågats av ett flertal tunga remissinstanser, däribland Försvarsmakten. Efter det har det blivit tyst i frågan och någon proposition har inte presenterats för riksdagen. Därmed blir det inget under denna mandatperiod.

En inte alltför vågad gissning är att man väntar på att EU skall göra ett omtag i frågan.

EU-kommissionen har sänt ut ett antal trevare. EU:s ministerråd har meddelat att man vill låta datalagra allt ner till data om dina beställningar på Foodora. Europol försöker stressa på processen.

Det mesta tyder på att ett förslag kommer nu i höst och att planen är att driva igenom det innan den nuvarande mandatperioden i EU löper ut sommaren 2029.

CC0

Riksdagen ger grönt ljus för automatisk ansiktsigenkänning

av

Riksdagen har röstat ja till att låta polisen använda AI-teknik för automatiserad ansiktsigenkänning i realtid.

Som vanligt säger man att den här tekniken bara skall användas i allvarliga fall. Vi får väl se hur det blir med den saken. Övervakningslagar tenderar att utökas såväl vad gäller syfte som metod.

Detta är en teknik som EU:s AI-förordning egentligen förbjuder – men samtidigt tillåter genom undantag för brottsbekämpande myndigheter. Ett undantag som utnyttjas till fullo i den nu klubbade lagen.

Med detta beslut urholkas argumentet att den som har rent mjöl i påsen inte har något att frukta. Används denna teknik måste man skanna allas ansikten för att hitta den man söker.

Från Storbritannien vet vi att tekniken återkommande har identifierat fel personer, vilket har lett till att oskyldiga stoppats, visiterats eller frihetsberövats. Tekniken tycks ha särskilt stora problem med att identifiera etniska minoriteter och kvinnor korrekt.

Beslutet väcker frågor om hur tekniken kan komma att kopplas samman med andra databaser och analysplattformar, till exempel det ökända och kritiserade Palantir.

Detta är i praktiken en avgrening från det EU-finansierade INDECT-projektet (2009-14), vars syfte var att utveckla intelligenta system för att automatiskt upptäcka hot och brottslighet i urbana miljöer. Projektet knöt samman övervakningskameror, internet och databaser för att identifiera och flagga för »avvikande beteenden«. Därför blir frågan om hur den nya tekniken kopplas till andra analys- och övervakningssystem särskilt intressant.

(När jag arbetade för Piratpartiet i Europaparlamentet försökte vi stoppa EU:s finansiering av INDECT.)

• Riksdagen: Polisens användning av AI för ansiktsigenkänning i realtid »

CC0

Tyska politiker vill kontrollera vad folk ser i sociala medier

av

I Tyskland vill delstaterna lyfta betrodda mediers synlighet framför annan information i sociala medier och sökmotorer.

De tyska delstatliga mediemyndigheterna (Landesmedienanstalten) kan komma att få inflytande över nyhetsartiklars synlighet i sociala medier och sökmotorer.

Den här gången handlar det inte om censur utan om innehåll som plattformarna förväntas lyfta fram framför annat.

Det finns redan en tysk reglering som säger att betrodda mediers appar skall vara mer synliga i Apples och Googles app-stores än andra. Det man nu diskuterar är att lyfta fram visst innehåll från vissa mediehus i sociala medier genom att skruva på algoritmerna.

Landesmedien-anstalterna som bestämmer över detta är i teorin fristående. Men deras ledamöter utses av delstatsparlamenten, de finansieras av delstaterna och de utövar offentlig tillsyn. Så i praktiken är de politiska organ.

Att den politiska makten skall styra informationsflödet är en dålig nygammal tysk idé. Nu vill man alltså göra samma sak igen – men med förment goda intentioner (som avgörs av det för tillfället rådande politiska modet).

Hur detta är tänkt att gå ihop med Europakonventionens artikel 10 om yttrandefrihet är en gåta…

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser.«

Att delstatliga organ går in och prioriterar viss information högre än annan i folks flöden känns väldigt mycket som »offentlig myndighets inblandning«.

Man bör i sammanhanget hålla i minnet att begränsningar av de grundläggande mänskliga rättigheterna som regel motiveras med kollektivets bästa.

Det gäller även om det handlar om missriktad välvilja i namn av kampen för demokrati och mot desinformation.

Att mediefrågorna ligger på delstatsnivå i Tyskland beror på att man inte vill riskera att en central regering tar kontroll över alla medier (igen). Men då delstaternas mediemyndigheter samverkar och samordnar sig blir resultatet att alla ägg ändå läggs i samma korg.

• So bauen die Medienanstalten an einer Pflicht zur Bevorzugung „verlässlicher“ Medien in den sozialen Netzwerken »

CC0

Tysk oenighet om åldersgränser online

av

Det finns en spricka i den tyska regeringen kring åldersgränser för sociala medier.

Det råder oenighet i den tyska regeringen om åldersgränser för sociala medier. Och splittringen återfinns inom det borgerliga CDU/CSU-blocket.

Medan förbundskansler Friedrich Merz (CDU) vill se åldersgränser, är budskapet från inrikesminister Alexander Dobrindt (CSU) det motsatta. I en intervju med Funke Mediengruppe säger han…

»Föräldrarna – inte staten – skall bestämma när ett barn skall få en telefon och tillgång till sociala medier.«

Dobrindt menar att en åldersgräns är svår att upprätthålla och i stort sett ineffektiv.

Samtidigt stöder den socialdemokratiska regeringspartnern SPD – som har familje- och justitieministerposterna – kravet på åldersgränser och kräver att processen snabbas upp.

Det är samtidigt värt att notera att Tyskland inte vill använda den nya EU-appen för åldersverifiering. Istället vill de se en egen lösning. En expertkommission under familjeministeriet väntas presentera sin rekommendation i sommar.

CC0

Är AI ett hinder för intellektuellt framåtskridande?

av

AI:s språkmodeller speglar främst det dominerande narrativet och riskerar därför att vilseleda genom att utelämna relevant information.

Vi har väl alla varit med om att AI:s språkmodeller hävdar en sak – för att sedan backa när ny information tillförs. Står man på sig kan det till och med hända att den LLM man använder hittar vetenskapliga papper som stöder andra teser än den som maskinen först har framfört.

Det vill säga att man inte kan lita på det första svaret man får. Som i alla andra sammanhang måste man vara källkritisk, ställa uppföljande frågor och uttryckligen efterlysa avvikande teser och vetenskapliga papper som säger något annat.

Detta beror rimligen på att språkmodellerna viktar olika teser utifrån hur omskrivna och allmänt spridda de är. För AI hade jorden fortfarande varit platt.

Inte sällan är svaren på saker vi frågar AI om inom vårt område närmast copy-paste från EU:s eller regeringens presmeddelanden, som sedan även klistrats in i TT-telegram och traditionell medias rapportering.

Det är först när man har lyckats bryta sig igenom denna vall som man hittar den riktigt intressanta informationen och de rapporter som utmanar det dominerande narrativet.

Men för att lyckas med det måste man veta vilka frågor man ska ställa. Vilket i sin tur bygger på att man redan har kännedom om de aktuella politiska processerna i fråga.

Resultatet blir att den som saknar omfattande bakgrundsinformation riskerar att vilseledas av AI genom vad modellerna utelämnar. Det är ett problem.

Att det fungerar så här bekräftas i en ny studie i tidskriften Nature. Den visar att det inte bara är techjättar och regeringar som formar språkmodellernas världsbild, utan att etablerade medier också har ett starkt bidragande inflytande.

Studien visar även att medias inflytande över AI är större i länder med begränsad pressfrihet. Vilket inte heller är så konstigt. Men intressant.

Då mycket av dagens journalistik är öppet agendadriven, även i länder med stor pressfrihet, väcks därför frågan om AI:s objektivitet – eftersom den tränas på sådan information.

Själva uttrycket »artificiell intelligens« riskerar att leda fel. Det handlar inte om intelligens i betydelsen självständigt tänkande – utan om maskininlärning, som till sin natur befäster etablerade narrativ.

Även vad gäller AI tycks min gamle samhällskunskapslärares varningsord vara relevanta: All information har en avsändare. Alla avsändare har ett syfte med sin information.

• Nature: State media control influences large language models »

CC0

Om EU lägger locket på kommer kritiken att koka över

av

Framtiden är dyster för ett samhälle där övervakningen ständigt expanderar och yttrandefriheten naggas i kanterna.

Driver man denna utveckling till sin spets blir vår framtid ett auktoritärt kontrollsamhälle där man inte får säga vad man vill.

Vad gäller yttrandefriheten är spelplanen komplicerad. På ena fronten har vi politiker som är fokuserade på att behålla makten, kontrollen och sin image. Och deras funktionärer.

De har skapat välmenade projekt och narrativ som ofta får oväntade och oönskade konsekvenser. Därför ifrågasätts de också av populistiska krafter när de kolliderar med verkligheten.

Dagens politiska ledare misstänker att vi kommer att få något slags odemokratiskt samhälle om någon annan än de själva har makten. Och de är övertygade om att de har rätt och att de kämpar för det goda.

På andra sidan finns oppositionella, samhällskritiker, besvärligt folk, oliktänkande, människor som oroas över utvecklingen i den praktiska verkligheten och som tycker att nu får det vara färdigtramsat. Att vi måste skärpa oss.

Dessa människor drivs främst av en önskan om att ordning skall råda och att vårt samhälle skall fungera på ett rimligt sätt. De betraktar politiker, myndigheter, medier och vad som kan kallas eliten som ansvariga för de problem som har uppstått.

Här uppstår en friktionsyta.

I vår uppkopplade värld kan vem som helst faktagranska, skapa opinion och lägga sig i med ett knapptryck. Inte alla är insatta i alla detaljer. Inte alla uttrycker sig elegant.

Vilket politikerna upplever som problematiskt och hotfullt.

Det är här EU:s Digital Services Act kommer in. Enligt DSA måste sociala medier ta bort skadligt innehåll och sådant som kan anses skapa »systemiska risker«.

Förenklat handlar det senare till exempel om sådant som kan påverka samhället, demokratin, val, folkhälsa, barns säkerhet, grundläggande rättigheter och det offentliga samtalet.

Eftersom nästan all information påverkar det offentliga samtalet kan begreppet tolkas brett. Till exempel påverkar den här texten det offentliga samtalet just nu.

Det finns ingen lista över vad som skall censureras. Det förväntas de sociala medierna räkna ut själva. Om inte kan de få miljardböter.

Resultatet blir övermoderering, skuggbanningar, demonetisering, avstängningar och att man tar in faktagranskare som ofta misstänks ha en egen agenda.

Om politiken inte vill eller klarar av att hantera verkliga problem ligger det nära till hands för den att i stället försöka tysta kritiken.

Frågan är dock om det är en hållbar plan att lägga locket på samhällskritiken. Det löser inga verkliga problem. Och det riskerar att fungera som en tryckkokare. Vilket bara eskalerar saker och ting ytterligare.

CC0

C-22: Kanadas nya datalagring och Chat Control i ett

av

Även Kanada är på väg mot ett mer reglerat och övervakat internet. Lagförslag C-22 öppnar för metadata-lagring, ökad myndighetsåtkomst och hårdare kontroll av digital kommunikation.

Kanada följer nu EU, Australien, Storbritannien och andra länder som reglerar internet. Lagförslag C-22 (Lawful Access Act, 2026) är regeringens nya försök att införa datalagring och utöka dess åtkomst till digital kommunikation.

Enkelt uttryckt innebär C-22:

  • Hårdare regler för sociala medier, digitala plattformar, meddelandetjänster och operatörer.
  • Ökade befogenheter för myndigheter. Till exempel tillgång till metadata och krav på samarbete som öppnar för mer omfattande krav i framtiden.
  • Skydd för barn online — samma argument som i många länder används för att motivera ökad kontroll av digital kommunikation.
  • Nya regler kring AI-genererat sexuellt material och sexuella deepfakes.
  • Möjlighet till utökad spårbarhet och datalagring.

Det vill säga ungefär samma saker som i andra västländer som försöker ta kontrollen över internet.

Kritiken från yttrandefrihetsaktivister, jurister, teknikexperter och integritetsorganisationer är omfattande:

  • Lagring av metadata kan avslöja människors hela sociala liv. Nätverk och relationer kan kartläggas utan att innehåll behöver läsas. Journalister, aktivister och oppositionella riskerar därmed övervakning.
  • Datalagringen är inte begränsad till misstänktas data. Istället skapas ett system där hela befolkningens metadata sparas »ifall det behövs senare«.
  • Om tjänster måste möjliggöra spårbarhet och åtkomst, skapas indirekt tryck mot totalsträckskrypterad (E2EE) kommunikation. Meddelande-appen Signal hotar att lämna Kanada om lagen blir verklighet.
  • Detaljerna kan senare fastställas genom regleringar och ministerbeslut som rundar den öppna demokratiska processen i parlamentet. Detta gör det lättare för regeringen att till exempel utöka datatyper, förlänga lagringstider och bredda övervakningen.

Argumenten känns igen. Och på samma sätt som när det gäller liknande lagar i andra länder finns det inga garantier mot ändamålsglidning.

Diskussionen i Kanada är extra känslig med tanke på att en tidigare regering har spärrat bankkonton för personer som deltagit i politiska protester. Medborgarna vet alltså att politiken inte tvekar att använda extraordinära maktbefogenheter.

Oh, Canada!

CC0

Merkel, sociala medier och demokratin

av

Tysklands tidigare förbundskansler Angela Merkel prisades idag av EU för sitt ledarskap. I sitt tacktal kritiserade hon sociala medier, som hon menar är ett hot mot demokratin.

Idag tilldelades ett 20-tal personer den nyinrättade Europeiska förtjänstorden. Bland dem Tysklands tidigare förbundskansler Angela Merkel. I sitt tacktal i Europaparlamentet sa hon bland annat:

»Och demokratin är också under press. Och här vill jag bara nämna ett område där Europeiska unionen enligt min mening idag är en föregångare. Det gäller utvecklingen av så kallade sociala medier, där fakta plötsligt inte längre är fakta, där sanningar kan kallas lögner och lögner kan kallas sanningar, där känslor och fakta blandas samman. Och därmed är själva grundvalarna för den europeiska upplysningen i fara.«

Naturligtvis missförstås och vantolkas en hel del i sociala medier. Som i all mänsklig kommunikation. Och som i traditionella medier.

Det hanterar man rimligen bäst genom att ta debatten, inte genom att försöka begränsa den.

Att Merkel av många hålls ansvarig för delar av dagens tyska och europeiska problem spelar sannolikt också in. Många är upprörda. Och en del av dem ger uttryck för sina åsikter och känslor på sociala medier — inte alltid på ett elegant sätt.

Det går därför att förstå att Merkel ogillar sociala medier. Men det är svårt att frigöra sig från misstanken om att det kanske snarare är kritiken i sig än informationsbäraren som stör henne.

Och detta är knappast unikt för Merkel. Makthavare har i alla tider haft ett komplicerat förhållande till offentlig kritik. Därför ser vi också återkommande krav på ökad kontroll över informationsflöden, hårdare reglering av nätplattformar och olika former av styrning av vad som anses acceptabelt innehåll online.

Merkels anförande kan ses som ännu en signal om att Europas politiska ledning vill koppla ett fastare grepp om internet och sociala medier. (Även AI fick för övrigt en kritisk passning i talet.)

Det känns som om detta är en kamp där insatserna hela tiden höjs.

• Se även MEP Charlie Weimers (SD) relaterade kommentar på X »

CC0