Femte juli

Nätet till folket!

Riksdagen ger grönt ljus för automatisk ansiktsigenkänning

av

Riksdagen har röstat ja till att låta polisen använda AI-teknik för automatiserad ansiktsigenkänning i realtid.

Som vanligt säger man att den här tekniken bara skall användas i allvarliga fall. Vi får väl se hur det blir med den saken. Övervakningslagar tenderar att utökas såväl vad gäller syfte som metod.

Detta är en teknik som EU:s AI-förordning egentligen förbjuder – men samtidigt tillåter genom undantag för brottsbekämpande myndigheter. Ett undantag som utnyttjas till fullo i den nu klubbade lagen.

Med detta beslut urholkas argumentet att den som har rent mjöl i påsen inte har något att frukta. Används denna teknik måste man skanna allas ansikten för att hitta den man söker.

Från Storbritannien vet vi att tekniken återkommande har identifierat fel personer, vilket har lett till att oskyldiga stoppats, visiterats eller frihetsberövats. Tekniken tycks ha särskilt stora problem med att identifiera etniska minoriteter och kvinnor korrekt.

Beslutet väcker frågor om hur tekniken kan komma att kopplas samman med andra databaser och analysplattformar, till exempel det ökända och kritiserade Palantir.

Detta är i praktiken en avgrening från det EU-finansierade INDECT-projektet (2009-14), vars syfte var att utveckla intelligenta system för att automatiskt upptäcka hot och brottslighet i urbana miljöer. Projektet knöt samman övervakningskameror, internet och databaser för att identifiera och flagga för »avvikande beteenden«. Därför blir frågan om hur den nya tekniken kopplas till andra analys- och övervakningssystem särskilt intressant.

(När jag arbetade för Piratpartiet i Europaparlamentet försökte vi stoppa EU:s finansiering av INDECT.)

• Riksdagen: Polisens användning av AI för ansiktsigenkänning i realtid »

CC0

Tyska politiker vill kontrollera vad folk ser i sociala medier

av

I Tyskland vill delstaterna lyfta betrodda mediers synlighet framför annan information i sociala medier och sökmotorer.

De tyska delstatliga mediemyndigheterna (Landesmedienanstalten) kan komma att få inflytande över nyhetsartiklars synlighet i sociala medier och sökmotorer.

Den här gången handlar det inte om censur utan om innehåll som plattformarna förväntas lyfta fram framför annat.

Det finns redan en tysk reglering som säger att betrodda mediers appar skall vara mer synliga i Apples och Googles app-stores än andra. Det man nu diskuterar är att lyfta fram visst innehåll från vissa mediehus i sociala medier genom att skruva på algoritmerna.

Landesmedien-anstalterna som bestämmer över detta är i teorin fristående. Men deras ledamöter utses av delstatsparlamenten, de finansieras av delstaterna och de utövar offentlig tillsyn. Så i praktiken är de politiska organ.

Att den politiska makten skall styra informationsflödet är en dålig nygammal tysk idé. Nu vill man alltså göra samma sak igen – men med förment goda intentioner (som avgörs av det för tillfället rådande politiska modet).

Hur detta är tänkt att gå ihop med Europakonventionens artikel 10 om yttrandefrihet är en gåta…

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser.«

Att delstatliga organ går in och prioriterar viss information högre än annan i folks flöden känns väldigt mycket som »offentlig myndighets inblandning«.

Man bör i sammanhanget hålla i minnet att begränsningar av de grundläggande mänskliga rättigheterna som regel motiveras med kollektivets bästa.

Det gäller även om det handlar om missriktad välvilja i namn av kampen för demokrati och mot desinformation.

Att mediefrågorna ligger på delstatsnivå i Tyskland beror på att man inte vill riskera att en central regering tar kontroll över alla medier (igen). Men då delstaternas mediemyndigheter samverkar och samordnar sig blir resultatet att alla ägg ändå läggs i samma korg.

• So bauen die Medienanstalten an einer Pflicht zur Bevorzugung „verlässlicher“ Medien in den sozialen Netzwerken »

CC0

Tysk oenighet om åldersgränser online

av

Det finns en spricka i den tyska regeringen kring åldersgränser för sociala medier.

Det råder oenighet i den tyska regeringen om åldersgränser för sociala medier. Och splittringen återfinns inom det borgerliga CDU/CSU-blocket.

Medan förbundskansler Friedrich Merz (CDU) vill se åldersgränser, är budskapet från inrikesminister Alexander Dobrindt (CSU) det motsatta. I en intervju med Funke Mediengruppe säger han…

»Föräldrarna – inte staten – skall bestämma när ett barn skall få en telefon och tillgång till sociala medier.«

Dobrindt menar att en åldersgräns är svår att upprätthålla och i stort sett ineffektiv.

Samtidigt stöder den socialdemokratiska regeringspartnern SPD – som har familje- och justitieministerposterna – kravet på åldersgränser och kräver att processen snabbas upp.

Det är samtidigt värt att notera att Tyskland inte vill använda den nya EU-appen för åldersverifiering. Istället vill de se en egen lösning. En expertkommission under familjeministeriet väntas presentera sin rekommendation i sommar.

CC0

Är AI ett hinder för intellektuellt framåtskridande?

av

AI:s språkmodeller speglar främst det dominerande narrativet och riskerar därför att vilseleda genom att utelämna relevant information.

Vi har väl alla varit med om att AI:s språkmodeller hävdar en sak – för att sedan backa när ny information tillförs. Står man på sig kan det till och med hända att den LLM man använder hittar vetenskapliga papper som stöder andra teser än den som maskinen först har framfört.

Det vill säga att man inte kan lita på det första svaret man får. Som i alla andra sammanhang måste man vara källkritisk, ställa uppföljande frågor och uttryckligen efterlysa avvikande teser och vetenskapliga papper som säger något annat.

Detta beror rimligen på att språkmodellerna viktar olika teser utifrån hur omskrivna och allmänt spridda de är. För AI hade jorden fortfarande varit platt.

Inte sällan är svaren på saker vi frågar AI om inom vårt område närmast copy-paste från EU:s eller regeringens presmeddelanden, som sedan även klistrats in i TT-telegram och traditionell medias rapportering.

Det är först när man har lyckats bryta sig igenom denna vall som man hittar den riktigt intressanta informationen och de rapporter som utmanar det dominerande narrativet.

Men för att lyckas med det måste man veta vilka frågor man ska ställa. Vilket i sin tur bygger på att man redan har kännedom om de aktuella politiska processerna i fråga.

Resultatet blir att den som saknar omfattande bakgrundsinformation riskerar att vilseledas av AI genom vad modellerna utelämnar. Det är ett problem.

Att det fungerar så här bekräftas i en ny studie i tidskriften Nature. Den visar att det inte bara är techjättar och regeringar som formar språkmodellernas världsbild, utan att etablerade medier också har ett starkt bidragande inflytande.

Studien visar även att medias inflytande över AI är större i länder med begränsad pressfrihet. Vilket inte heller är så konstigt. Men intressant.

Då mycket av dagens journalistik är öppet agendadriven, även i länder med stor pressfrihet, väcks därför frågan om AI:s objektivitet – eftersom den tränas på sådan information.

Själva uttrycket »artificiell intelligens« riskerar att leda fel. Det handlar inte om intelligens i betydelsen självständigt tänkande – utan om maskininlärning, som till sin natur befäster etablerade narrativ.

Även vad gäller AI tycks min gamle samhällskunskapslärares varningsord vara relevanta: All information har en avsändare. Alla avsändare har ett syfte med sin information.

• Nature: State media control influences large language models »

CC0

Om EU lägger locket på kommer kritiken att koka över

av

Framtiden är dyster för ett samhälle där övervakningen ständigt expanderar och yttrandefriheten naggas i kanterna.

Driver man denna utveckling till sin spets blir vår framtid ett auktoritärt kontrollsamhälle där man inte får säga vad man vill.

Vad gäller yttrandefriheten är spelplanen komplicerad. På ena fronten har vi politiker som är fokuserade på att behålla makten, kontrollen och sin image. Och deras funktionärer.

De har skapat välmenade projekt och narrativ som ofta får oväntade och oönskade konsekvenser. Därför ifrågasätts de också av populistiska krafter när de kolliderar med verkligheten.

Dagens politiska ledare misstänker att vi kommer att få något slags odemokratiskt samhälle om någon annan än de själva har makten. Och de är övertygade om att de har rätt och att de kämpar för det goda.

På andra sidan finns oppositionella, samhällskritiker, besvärligt folk, oliktänkande, människor som oroas över utvecklingen i den praktiska verkligheten och som tycker att nu får det vara färdigtramsat. Att vi måste skärpa oss.

Dessa människor drivs främst av en önskan om att ordning skall råda och att vårt samhälle skall fungera på ett rimligt sätt. De betraktar politiker, myndigheter, medier och vad som kan kallas eliten som ansvariga för de problem som har uppstått.

Här uppstår en friktionsyta.

I vår uppkopplade värld kan vem som helst faktagranska, skapa opinion och lägga sig i med ett knapptryck. Inte alla är insatta i alla detaljer. Inte alla uttrycker sig elegant.

Vilket politikerna upplever som problematiskt och hotfullt.

Det är här EU:s Digital Services Act kommer in. Enligt DSA måste sociala medier ta bort skadligt innehåll och sådant som kan anses skapa »systemiska risker«.

Förenklat handlar det senare till exempel om sådant som kan påverka samhället, demokratin, val, folkhälsa, barns säkerhet, grundläggande rättigheter och det offentliga samtalet.

Eftersom nästan all information påverkar det offentliga samtalet kan begreppet tolkas brett. Till exempel påverkar den här texten det offentliga samtalet just nu.

Det finns ingen lista över vad som skall censureras. Det förväntas de sociala medierna räkna ut själva. Om inte kan de få miljardböter.

Resultatet blir övermoderering, skuggbanningar, demonetisering, avstängningar och att man tar in faktagranskare som ofta misstänks ha en egen agenda.

Om politiken inte vill eller klarar av att hantera verkliga problem ligger det nära till hands för den att i stället försöka tysta kritiken.

Frågan är dock om det är en hållbar plan att lägga locket på samhällskritiken. Det löser inga verkliga problem. Och det riskerar att fungera som en tryckkokare. Vilket bara eskalerar saker och ting ytterligare.

CC0

C-22: Kanadas nya datalagring och Chat Control i ett

av

Även Kanada är på väg mot ett mer reglerat och övervakat internet. Lagförslag C-22 öppnar för metadata-lagring, ökad myndighetsåtkomst och hårdare kontroll av digital kommunikation.

Kanada följer nu EU, Australien, Storbritannien och andra länder som reglerar internet. Lagförslag C-22 (Lawful Access Act, 2026) är regeringens nya försök att införa datalagring och utöka dess åtkomst till digital kommunikation.

Enkelt uttryckt innebär C-22:

  • Hårdare regler för sociala medier, digitala plattformar, meddelandetjänster och operatörer.
  • Ökade befogenheter för myndigheter. Till exempel tillgång till metadata och krav på samarbete som öppnar för mer omfattande krav i framtiden.
  • Skydd för barn online — samma argument som i många länder används för att motivera ökad kontroll av digital kommunikation.
  • Nya regler kring AI-genererat sexuellt material och sexuella deepfakes.
  • Möjlighet till utökad spårbarhet och datalagring.

Det vill säga ungefär samma saker som i andra västländer som försöker ta kontrollen över internet.

Kritiken från yttrandefrihetsaktivister, jurister, teknikexperter och integritetsorganisationer är omfattande:

  • Lagring av metadata kan avslöja människors hela sociala liv. Nätverk och relationer kan kartläggas utan att innehåll behöver läsas. Journalister, aktivister och oppositionella riskerar därmed övervakning.
  • Datalagringen är inte begränsad till misstänktas data. Istället skapas ett system där hela befolkningens metadata sparas »ifall det behövs senare«.
  • Om tjänster måste möjliggöra spårbarhet och åtkomst, skapas indirekt tryck mot totalsträckskrypterad (E2EE) kommunikation. Meddelande-appen Signal hotar att lämna Kanada om lagen blir verklighet.
  • Detaljerna kan senare fastställas genom regleringar och ministerbeslut som rundar den öppna demokratiska processen i parlamentet. Detta gör det lättare för regeringen att till exempel utöka datatyper, förlänga lagringstider och bredda övervakningen.

Argumenten känns igen. Och på samma sätt som när det gäller liknande lagar i andra länder finns det inga garantier mot ändamålsglidning.

Diskussionen i Kanada är extra känslig med tanke på att en tidigare regering har spärrat bankkonton för personer som deltagit i politiska protester. Medborgarna vet alltså att politiken inte tvekar att använda extraordinära maktbefogenheter.

Oh, Canada!

CC0

Merkel, sociala medier och demokratin

av

Tysklands tidigare förbundskansler Angela Merkel prisades idag av EU för sitt ledarskap. I sitt tacktal kritiserade hon sociala medier, som hon menar är ett hot mot demokratin.

Idag tilldelades ett 20-tal personer den nyinrättade Europeiska förtjänstorden. Bland dem Tysklands tidigare förbundskansler Angela Merkel. I sitt tacktal i Europaparlamentet sa hon bland annat:

»Och demokratin är också under press. Och här vill jag bara nämna ett område där Europeiska unionen enligt min mening idag är en föregångare. Det gäller utvecklingen av så kallade sociala medier, där fakta plötsligt inte längre är fakta, där sanningar kan kallas lögner och lögner kan kallas sanningar, där känslor och fakta blandas samman. Och därmed är själva grundvalarna för den europeiska upplysningen i fara.«

Naturligtvis missförstås och vantolkas en hel del i sociala medier. Som i all mänsklig kommunikation. Och som i traditionella medier.

Det hanterar man rimligen bäst genom att ta debatten, inte genom att försöka begränsa den.

Att Merkel av många hålls ansvarig för delar av dagens tyska och europeiska problem spelar sannolikt också in. Många är upprörda. Och en del av dem ger uttryck för sina åsikter och känslor på sociala medier — inte alltid på ett elegant sätt.

Det går därför att förstå att Merkel ogillar sociala medier. Men det är svårt att frigöra sig från misstanken om att det kanske snarare är kritiken i sig än informationsbäraren som stör henne.

Och detta är knappast unikt för Merkel. Makthavare har i alla tider haft ett komplicerat förhållande till offentlig kritik. Därför ser vi också återkommande krav på ökad kontroll över informationsflöden, hårdare reglering av nätplattformar och olika former av styrning av vad som anses acceptabelt innehåll online.

Merkels anförande kan ses som ännu en signal om att Europas politiska ledning vill koppla ett fastare grepp om internet och sociala medier. (Även AI fick för övrigt en kritisk passning i talet.)

Det känns som om detta är en kamp där insatserna hela tiden höjs.

• Se även MEP Charlie Weimers (SD) relaterade kommentar på X »

CC0

Google svävar på målet om säkerhet i molnet

av

Kan man lita på att amerikanska molntjänster inte delar din data med myndigheterna? Svaret är nej. Använder du dem bör allt viktigt vara egenhändigt krypterat.

Ny Teknik rapporterar om ett panelsamtal hos Bahnhof om vem som har makten och kontrollen över data som lagras i molnet. Rekommenderad läsning.

Kärnfrågan är om svensk data som är lagrad hos till exempel Google kan lämnas ut till amerikanska myndigheter under CLOUD Act och liknande lagar.

»Lagen, som antogs i USA 2018, ger FBI och andra brottsbekämpande myndigheter rätten att begära ut data från tech- och molntjänstleverantörer – oavsett var dessa efterfrågade data är placerade i världen.«

Googles samhällspolitiska chef i Sverige, Irene Ek, säger att Google Cloud står fast vid sina kunder och bestrider den här typen av utlämningskrav så långt de kan juridiskt. Men sedan?

» – Det rör sig om rent hypotetiska fall. Men i så fall säger vi till kunden att vi vill ha tillgång till deras data, men samtidigt inte kan berätta varför (…). Kunden kan då vägra att lämna ut den till oss.«

Vilket då rimligen bygger på att datan är krypterad och att endast kunden har krypteringsnyckeln.

Men krypterad data kan de knappast vägra att lämna ut, även om myndigheterna kanske inte kommer åt innehållet i läsbar form.

Således bör slutsatsen vara: Lagra bara egenhändigt krypterad information i amerikanska molntjänster. Eller molntjänster i allmänhet.

• Ny Teknik: Frågan om USA-moln som Google inte vill svara på – ”Full transparens” »

CC0

Det EU ser och inte ser

av

EU:s digitala politik motverkar sina egna mål och skrämmer bort nyföretagande.

EU:s nya app för åldersverifiering riskerar att öka beroendet av Apple och Google. Samtidigt säger man sig vilja minska vårt beroende av amerikansk Big Tech.

Man utesluter andra OS trots att EU-kommissionen har upphöjt ökad interoperabilitet till ett honnörsord i sina nya regleringar.

Det är svårt att få EU-ledarnas ord och handling att gå ihop.

Det är inte heller som att man gör det lättare för europeiska företag att slå sig in på marknaden. Eller att ens starta.

Det är bara Big Tech som har resurser nog att hantera all den compliance som följer med EU:s Digital Services Act och Digital Markets Act.

Det är en helt ny byråkrati som byggs upp i Bryssel och som förgrenar sig ut i medlemsstaterna när teknik, pappersexercis och innehåll skall regleras och kontrolleras.

Regelverken är ofta vaga kring vilket innehåll plattformarna förväntas agera mot. Men mycket tydliga med att företagen kan drabbas av astronomiska böter om de inte följer de politiska signalerna.

Jag håller fast vid min tes att politikerna inte begriper vad de sysslar med. De gör saker för att de låter bra – även om de i praktiken är verklighetsfrånvända.

De förstår inte att de skapar oväntade (well…) och oönskade konsekvenser. Deras utopiska idéer blockerar deras varseblivning.

Priset vi får betala är att Europa hamnar på efterkälken när företag etablerar sig i länder med rimligare lagstiftning och mindre byråkrati.

CC0

EU:s åldersapp strider mot EU:s egna regler

av

EU:s egna regler om konkurrens och den inre marknaden kan sätta stopp för den app för åldersverifiering som nu lanseras. Den kan även strida mot unionens Digital Markets Act.

På veckans internationella konferens om säkerhet för minderåriga online upprepade EU-kommissionens ordförande Ursula von der Leyen sitt budskap från när hon lanserade unionens nya app för ålderskontroll…

»Finally, any age restriction model depends on reliable age verification. And here, we have good news: We have developed an age verification app that will soon be available, and it ticks all the boxes the highest privacy standards in the world, it works on any device, it is easy to use and it is fully open source. Here in Denmark, it will be rolled out by summer. It is built on the success of our European COVID App; you might recall that one.«

Det där är helt enkelt inte sant. EU:s nuvarande lösning för åldersverifikation (»mini-wallet«) fungerar i praktiken bara på Apples iOS och de distributioner av Android som finns inom Googles ekosystem. Det innebär att alternativa Android-distributioner som LineageOS, GrapheneOS och /e/OS riskerar att exkluderas i den nuvarande designen.

Att vissa OS stängs ute kan vara ett brott mot EU:s egna regler om den inre marknaden. Det kan bli väldigt intressant om någon driver saken i domstol. Bland annat har EU långtgående regler för teknikneutralitet.

Om vissa produkter eller operativsystem i praktiken inte kan använda centrala samhällsfunktioner eller får sämre tillgång till nätplattformar, då kan man argumentera för att marknaden snedvrids. Särskilt om dessa är lagliga i EU.

Konkurrensrätten kan därmed bli relevant, om en dominerande aktör gynnas genom att EU‑lösningen knyts till dess infrastruktur, speciellt om det tränger undan alternativa system.

Samtidigt som man nu lägger kontrollen över åldersverifieringen i Apples och Googles händer, vill EU:s Digital Markets Act motverka att stora IT-företag agerar grindvakter. Syftet är att stärka interoperabiliteten, stimulera öppna ekosystem och minska beroendet av Apple och Google. Hur detta är tänkt att gå ihop med den nya EU-appen är oklart.

Någon lösning för stationära datorer och laptops finns inte. Där kommer du förmodligen att få upp en QR-kod som du sedan måste skanna med appen i mobiltelefonen. Vilket alltså kräver att du har en kompatibel mobiltelefon för att kunna använda sociala medier med mera på din dator.

Här riskerar EU-kommissionen att snärja in sig i sina egna regelverk. Det är som att den ena handen inte vet vad den andra gör.

Sammanfattningsvis: Om lösningen i praktiken utestänger vissa operativsystem, ökar beroendet av två amerikanska gatekeepers, kräver vissa typer av mobiltelefon, försvårar anonymitet och påverkar öppen interoperabilitet – då kan proportionalitetsfrågan bli väldigt relevant.

Min bedömning är att EU:s modell för åldersverifiering — i sin nuvarande form — kommer att falla om den prövas av EU-domstolen.

Relaterat:
• EU lägger förslag om åldersgränser online i sommar »

CC0