Femte juli Nätet till folket!

Nätet till folket!

Storebror

Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.

EU-kommissionen: Övervakning är viktigare än mänskliga rättigheter

av Lämna en kommentar

Jag vill inte låta alarmistisk. Men Österrikes regering, den tyska regeringen, den europeiska dataskyddsmyndigheten och FN:s människorättskommissionär har en poäng:

EU-kommissionens förslag om att granska innehållet i våra elektroniska meddelanden är ett hot mot rätten till privatliv och rätten till privat korrespondens. Vilka är grundläggande mänskliga rättigheter.

Man kan förstå att tyskarna tycker att förslaget är olämpligt. De vet ju hur det kan gå.

Spana på dem som misstänks för brott. Inte alla andra, hela tiden.

Förslaget är märkligt i så många delar. För att skydda barnen på internet vill man bland annat införa en 17-årsgräns för meddelande-appar. Vilket känns direkt verklighetsfrånvänt.

Och vad värre är, man vill låta maskiner och deras algoritmer söka igenom alla människors privata elektroniska meddelanden i jakt på misstänkt innehåll och fula gubbar.

Kommissionen vill använda AI för att identifiera misstänkt innehåll. Vilket händelsevis sammanfaller med att man vill ha ett undantag för law enforcement i EU:s AI Act.

Detta är ett verktyg som sedan kan användas för att söka efter vad som helst. Och vi vet hur det är med övervakningslagar. De utökas alltid till syfte och metod. FRA-lagen och datalagringen är ett par exempel.

Att skydda barnen är bara en lämplig, känsloladdad murbräcka för en närmast allomfattande övervakning av alla människors elektroniska meddelanden.

Ändamålsglidning är enkelt ordnad, då en ny myndighet knuten till Europol skall utforma verktyget. Sedan räcker det med ett klubbslag för att utöka syftet. Vilket som sagt är vad som brukar ske.

En nördig detalj är att förslaget – #Chat Control – hänvisar till den inre marknaden som rättslig grund. Man litar inte på att medlemsstaterna kan sköta saken.

Och man tar inte medborgarnas rättigheter på allvar, utan väljer att istället vifta bort dessa.

Här är ett citat ur den inledande texten (sid 13) i EU-kommissionens förslag:

»Samtidigt påverkar åtgärderna i förslaget i första hand utövandet av de grundläggande rättigheterna för användarna av tjänsterna i fråga. Dessa rättigheter omfattar i synnerhet de grundläggande rättigheterna till respekten för privatlivet (bland annat att all kommunikation är konfidentiell, som en del av den mer allmänna rätten till respekt för privatlivet och familjelivet), skyddet av personuppgifter samt yttrande- och informationsfriheten. Även om dessa rättigheter är mycket viktiga är det ingen av dem som måste skyddas till varje pris, utan de måste beaktas i förhållande till deras funktion i samhället.«

Vänta nu! Med risk för att tjata:

De mänskliga rättigheterna är i någon mening absoluta. Det finns visserligen specificerade undantag. Men våra rättigheter skall i princip vara orubbliga. Inte kompromissas bort.

EU-domstolen har redan slagit fast principen: Övervaka dem som misstänks för brott, inte alla andra, hela tiden. Detta skedde när den 2014 upphävde EU:s datalagringsdirektiv.

De mänskliga rättigheternas syfte är att skydda individen från övergrepp från staten. Det är deras ”funktion i samhället”. Därför bör man se upp när statens styrande vill inskränka dessa rättigheter.

Kommissionen skriver som synes rakt ut att dessa rättigheter inte behöver försvaras. Tillåt mig framföra en avvikande mening.

Övergrepp mot barn skall bekämpas med lämpliga lagliga medel – inte genom att upphäva alla människors grundläggande mänskliga rättigheter. Mänskliga rättigheter offline skall gälla även online.

(Men även om kommissionen avfärdar de mänskliga rättigheterna anger den (på sid 12) att förslaget i vart fall är prövat så att det överensstämmer med klimatlagstiftningen.)

Detta förslag kan och bör gå i papperskorgen.

Det finns nämligen redan lagstiftning som tillåter plattformar och operatörer att frivilligt skanna sina användares kommunikationer i jakt på sexuella övergrepp på barn. Vilket sker på bred front.

Vad den nya lagen syftar till är att göra sådan övervakning obligatorisk. Och den skall ske med EU:s egenutvecklade sökverktyg – istället för med de som redan framgångsrikt används. Allt under överinseende av en ny myndighet kopplad till Europol.

Vad kan möjligen gå fel?

Den svenska regeringen – som just nu är ordförandeland i EU – bör göra gemensam sak med Österrike och Tyskland och säga nej till ChatControl.

Lagstiftningsdokument:
• Kommissionens förslag »
• Legislative Observatory »

Några relevanta länkar:
• ChatControl.eu »
• ChatControl – granskning av EU-kommissionens förslag
• PP: EU-kommissionär Ylva Johansson ljuger om #ChatControl »
• ChatControl – nu är det skarpt läge i EU, men regeringen vill inte tala om saken »
• UN Human Rights Commissioner warns against chat control »

ChatControl – granskning av EU-kommissionens förslag

av 2 kommentarer

Somliga tycks avfärda kritiken mot EU-kommissionens planer på att granska innehållet i vår e-post och våra elektroniska meddelanden som alarmism. Så låt oss titta närmare på vad som står i kommissionens egen text.

Grundupplägget är att meddelandetjänster måste göra en riskbedömning om huruvida deras tjänster kan användas för att sprida bilder på sexuella övergrepp mot barn eller för grooming.

Här är några av de kriterier som är relevanta. I kapitel 2:1:2 nämns bland annat:

  • Om tjänsten används eller sannolikt kommer att användas av barn.
  • Om tjänsten gör det möjligt för användare att söka efter andra användare.
  • Om tjänsten gör det möjligt för användare att kontakta andra användare direkt.
  • Om tjänsten gör det möjligt för användare att dela bilder eller videoklipp med andra användare.

Vilket – uppenbart – omfattar i princip alla elektroniska kommunikationstjänster och meddelande-appar.

I dessa fall skall man införa ålderskontroller och ”begränsningsåtgärder” (2:4:3). Man skall ”vidta rimliga åtgärder för att hindra användare som är barn från att få tillgång till de programvaruapplikationer” som faller inom riskbedömningen ovan.

(Som barn avser man ”varje fysisk person som är yngre än 18 år”. Och som användare som är barn ”fysisk person som använder en relevant informationssamhällestjänst och som är en fysisk person som är yngre än 17 år”.)

Här får vi alltså en åldersgräns på 17 år för att få använda elektroniska meddelandetjänster och meddelande-appar. Vilket känns en smula verklighetsfrånvänt.

Detta tänker man lösa genom att ”tillhandahållare av programvarubutiker” (app-stores) inför en åldersgräns för köp eller nedladdning av existerande eller nya meddelande-appar. (2:6:1)

För tjänster som faller inom riskbedömningen ovan (alltså i princip alla) gäller även att en myndighet i det land inom vars jurisdiktion en meddelande-tjänst/app ligger kan/skall utfärda en spårningsorder. (2:2:1)

Detta innebär att myndigheten skall ”utfärda en spårningsorder som ålägger en värdtjänstleverantör eller en leverantör av interpersonella kommunikationstjänster under den medlemsstatens jurisdiktion att vidta de åtgärder som anges i artikel 10 för att spåra sexuella övergrepp mot barn på nätet på en viss tjänst”.

Det vill säga granska innehållet i användarnas kommunikationer.

Vi läser vidare (2:2:10.1):

”Värdtjänstleverantör och leverantörer av interpersonella kommunikationstjänster som har mottagit en spårningsorder ska verkställa den genom att installera och använda teknik för att spåra spridningen av känt eller nytt material med sexuella övergrepp mot barn eller kontaktsökning med barn, beroende på vad som är tillämpligt, med hjälp av motsvarande indikatorer som tillhandahålls av EU-centrumet i enlighet med artikel 46.”

”EU-centret” är en ny myndighet kopplad till Europol. Som alltså skall tillhandahålla verktyg för övervakningen och till vilken flaggade meddelanden skall rapporteras in.

Eftersom alla meddelandetjänster rimligen faller under riskbedömningen ovan skall dessa alltså kontrollera så att inget otillbörligt sker som har med barn att göra. Vilket kräver att i princip alla kommunikationer granskas.

Skall man kunna upptäcka eller stoppa något måste man ju kontrollera allt.

Vi kommer att återkomma med ytterligare analyser av texten och EU-kommissionär Ylva Johanssons påståenden. Men en sak är viktig att påpeka redan nu:

Det finns redan en lagstiftning som gör det möjligt för plattformar och meddelandetjänster att skanna sina användares meddelanden i syfte att bekämpa sexuella övergrepp mot barn. Vilket också sker på de stora plattformarna. Skillnaden är att det nya förslaget gör granskning av folks meddelanden obligatorisk.

Den nu gällande lagen är tillfällig och går ut sommaren 2024. Kommissionär Ylva Johansson påstår att det efter detta datum blir omöjligt att skydda minderåriga på nätet om inte den nya lagen antas. Vilket är fel – då den nu gällande, tillfälliga lagen kan förlängas eller göras permanent.

Slutligen kan noteras att Österrike säger nej till ChatControl, eftersom den strider mot landets konstitution. Och Tyskland är på gång att säga nej – eftersom förslaget strider mot vad de mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens. Dock räcker det inte med dessa två länder för att uppnå en blockerande minoritet i EU:s ministerråd.

Lagstiftningsdokument:
• Kommissionens förslag »
• Legislative Observatory »

Några relevanta länkar:
• ChatControl.eu »
• EU vill granska innehållet i alla dina elektroniska kommunikationer »
• PP: EU-kommissionär Ylva Johansson ljuger om #ChatControl »
• ChatControl – nu är det skarpt läge i EU, men regeringen vill inte tala om saken »
• UN Human Rights Commissioner warns against chat control »

ChatControl – nu är det skarpt läge i EU, men regeringen vill inte tala om saken

av 2 kommentarer

Idag är frågan om inspektion av innehållet i din e-post och dina elektroniska meddelanden uppe till debatt i LEWP i EU:s ministerråd, under svenskt ordförandeskap. Men det går inte att få veta vad regeringen tycker eller vilken linje den kommer att driva.

Visst, det är mycket nu. Krig i Europa, skenande inflation, energikris, våldsbrottslighet… Samtidigt har vi en ny regering som knappt hunnit bli varm i kläderna. Dessutom är Sverige nu ordförandeland i EU – med tusentals nya frågor att ta tag i. Men ändå.

Idag och i morgon kommer the Law Enforcement Working Party i EU:s ministerråd att diskutera EU-kommissionens förslag om att öppna folks e-post och elektroniska meddelanden för att granska dess innehåll – allmänt kallat ChatControl. Vilket rimligen står i strid med vad de mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens.

Detta kommer att ske under det sittande svenska ordförandeskapet.

Ändå verkar det stört omöjligt att få veta vad den svenska regeringen tycker i frågan och vilken linje den kommer att driva. Inte heller de andra partierna är speciellt intresserade av att diskutera saken.

Det närmaste man kommer är den enkät som internetopatören Bahnhof gjorde inför valet förra hösten. Vilken också lämnade många frågetecken:

  • Vänsterpartiet har inte tagit ställning – men är försiktigt tveksamma till det liggande förslaget och samtidigt positiva till dess uppgivna syfte.
  • Miljöpartiet ”kommer att analysera förslagen i sin helhet innan vi fattar beslut”.
  • Socialdemokraterna verkar positivt inställda till ChatControl men har inte tagit slutlig ställning till förslaget.
  • Centerpartiet är skeptiskt till förslaget – men sympatiserar med syftet.
  • Liberalerna svarade inte på Bahnhofs enkät (men partiets nya partisekreterare Gulan Avci svarade när vi frågade henne i en valstuga att det behövs övervakning och ville hellre tala om gängen).
  • Moderaterna anser att förslaget behöver granskas i detalj.
  • Kristdemokraterna är för ChatControl.
  • Sverigedemokraterna har inte tagit ställning – och tycks förstå både kritiken och syftet.

Apropå vårt valstugereportage kan man notera att partiernas fotfolk generellt sett verkar rätt skeptiska till ChatControl, även om inte någon kände till något av substans om förslaget.

I allt väsentligt svävar de politiska partierna (utom KD) på målet och är direkt ovilliga att ge klara besked eller ens diskutera frågan. Men det duger inte, för nu är det skarpt läge.

Och nu är det Sverige som håller i taktpinnen i EU:s ministerråd. Där är frågan kontroversiell. Österrike säger blankt nej, då förslaget strider mot landets konstitution. Även Tyskland kommer sannolikt att säga nej. (Detta räcker dock inte för en blockerande minoritet i rådet.)

Som det ser ut just nu kan EU alltså komma att inskränka en av våra grundläggande mänskliga rättigheter – rätten till privat korrespondens. Men ingen är intresserad av att tala om saken.

(Vi har utan framgång sökt Justitiedepartementet och de flesta partier för en kommentar.)

Detta ökar risken för att vi än en gång kommer att ställas inför fullbordat faktum, när det är för sent för att reagera. Det känns som ett demokratiskt problem.

Man kan bara spekulera, men jag ser några möjliga förklaringar (som inte utesluter varandra):

Den första är att regeringen och de flesta partier inte vet och inte hunnit ta ställning till förslaget. Den andra är att man för allt i världen inte vill ha en ny debatt om privatliv och övervakning. Den tredje är att de tror eller hoppas att ingen bryr sig.

Men vi kommer att fortsätta tjata på dem.

Läs mer:
• ChatControl.eu »
• EU vill granska innehållet i alla dina elektroniska kommunikationer »

Lagstiftningsdokument:
• Kommissionens förslag »
• Legislative Observatory »

PP: EU-kommissionär Ylva Johansson ljuger om #ChatControl

av 2 kommentarer

På en konferens med bl.a. ministrar från ett antal medlemsstater har EU-kommissionär Ylva Johansson försvarat sitt förslag om granskning av innehållet i folks e-post och alla elektroniska kommunikationer.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) anklagar henne rakt ut för att ljuga – och ger i videon ovan flera exempel.

En pikant detalj är att konferensen anordnats av Europaparlamentes nu avsatta vice talman Eva Kaili (S&D, GR) som är en av de främsta förespråkarna för #ChatControl. Kaili sitter sedan en tid häktad, anklagad för korruption.

• Direktlänk till videon ovan »

• Läs mer: EU vill granska innehållet i alla dina elektroniska kommunikationer »

• Samlingssida: ChatControl.eu »

ChatControl – en lägesuppdatering

av Lämna en kommentar

Skall innehållet i din e-post och alla dina elektroniska meddelanden kontrolleras av maskiner? Frågan avgörs just nu i EU.

Som vi tjatat om vill EU-kommissionen att medborgarnas e-post och alla övriga elektroniska meddelanden skall av-krypteras, öppnas och att dess innehåll skall inspekteras – i jakt på visst olagligt innehåll. Så var ligger frågan idag?

I Europaparlamentet håller utskottet för mänskliga rättigheter (LIBE) ännu en utfrågning i ämnet tisdag den 24 januari. LIBE är ansvarigt huvudutskott.

Även utskottet för den inre marknaden (IMCO), kulturutskottet (CULT), budgetutskottet (BUDG) och utskottet för kvinnors rättigheter (FEMM) förbereder yttranden. I FEMM är den svenska socialdemokraten Heléne Fritzon ansvarig rapportör.

Samtidigt är den starkaste förespråkaren för ChatControl i parlamentet – vice talman Eva Kaili (S&D, GR) – ute ur bilden, då hon nu sitter häktad för att ha tagit emot mutor.

I ministerrådet kommer dess Law Enforcement Working Party att ta upp frågan denna vecka, den 19 och 20 januari. (Under det pågående svenska ordförandeskapet.)

I ministerrådet säger Österrike blank nej till ChatControl. Det mest talar för att även Tyskland kommer att säga nej. Detta räcker dock inte för en blockerande minoritet i rådet.

Ansvarig och drivande EU-kommissionär – Ylva Johansson – är angelägen om att få till ett beslut så snabbt som möjligt. Bakgrunden hårt komprimerad:

Just nu gäller en tillfällig lag som ger meddelandetjänster m.fl. möjlighet att frivilligt granska innehållet i sina användares meddelanden (ChatControl 1). Denna lag gäller bara till sommaren 2024. Tanken är att den då skall ersättas med en ny lag som gör sådan granskning obligatorisk (ChatControl 2). Finns den senare inte på plats i tid kommer sådan meddelandekontroll inte längre att kunna ske. Vilket EU-kommissionen till varje pris vill undvika.

(Dock finns det inget som hindrar att den gällande, tillfälliga lagen förlängs. Vilket skulle lösa problemet.)

Ylva Johanssons talepunkt är att den nya lagen måste komma på plats i tid. Samtidigt finns tecken som tyder på att processen kan komma att dra ut på tiden.

En intressant detalj: Kommissionen har valt att se ChatControl som en inre marknadsfråga, inte som en fråga om mänskliga rättigheter – då de senare föreskriver att människor skall ha rätt till privatliv och privat korrespondens… EU-domstolen lär, om frågan kommer dit, ha en annan uppfattning.

Läs mer i vår tidigare bloggpost som innehåller bakgrund, beskrivning och matnyttiga länkar: EU vill granska innehållet i alla dina elektroniska kommunikationer »

En annan sida med en utmärkt sammanställning av läget, resurser och länkar är ChatControl.eu som du finner här.

Lagstiftningsdokument:
• Kommissionens förslag »
• Legislative Observatory »

Lagen om utlandsspioneri och massövervakningen

av 2 kommentarer

Är Sveriges roll i den globala massövervakningen skälet till höstens lag om utlandsspioneri och tillhörande begränsning av den grundlagsskyddade tryckfriheten?

Nyligen antogs den hårt kritiserade lagen om utlandsspioneri, med tillhörande grundlagsändring. GP hade en bra sammanfattning:

»Det blir straffbart att under vissa omständigheter röja hemliga uppgifter som förekommer inom Sveriges internationella samarbeten och som kan skada Sveriges förhållande till någon annan stat eller mellanfolklig organisation.«

Kritiken går ut på att det blir svårare för media och whistleblowers att avslöja oegentligheter. Regeringen skriver på sin hemsida:

»Utlands­spioneri samt de former av obehörig befatt­ning med hemlig upp­gift och vårds­lös­het med hemlig upp­gift som har sin grund i utlands­spioneri kriminali­seras även som tryck- och yttrande­frihets­brott. Med­delar­friheten och anskaffar­friheten begränsas när det gäller utlands­spioneri, grovt utlands­spioneri och grov obehörig befatt­ning med hemlig uppgift med grund i utlands­spioneri.«

Vilket är rätt anmärkningsvärt.

En populär uppfattning är att detta kan ha med EU att göra.

Därför var det intressant att Frankrikes president Macron kritiserade den nya svenska lagen, i samband med statsminister Kristerssons besök i Paris nyligen. Macron menade att den är ett hot mot medias frihet.

Macron skulle knappast kritisera en svensk lag om den tillkommit för att tillfredsställa EU:s önskemål.

Och det kan knappast ha med Nato att göra heller, då lagen förberetts och haft sin första läsning innan ett svenskt medlemsskap var aktuellt. (Propositionen lades fram av regeringen Löfven.)

Om det inte är EU eller Nato som drivit fram denna kontroversiella lag, varför har den då klubbats? (Även om vårt förhållande till både EU och Nato kommer att omfattas av den.)

Nu blir det en spekulation:

Av Edward Snowdens avslöjanden om den amerikanska massövervakningen (och av EU-parlamentets utfrågningar om massövervakningen) framgår det att Sverige har ett mycket speciellt och nära förhållande till de så kallade Five Eyes-länderna. Det vill säga underättelsesamarbetet mellan USA, Storbritannien, Kanada, Australien och Nya Zeeland.

I sammanhanget är det värt att notera att den svenska FRA-lagen urholkats och drabbats av ändamålsglidning sedan den stiftades. Till exempel får utländska underrättelsetjänster nu direkt tillgång till FRA:s tjänster.

Aftonbladet skrev när det begav sig:

»Regeringens förslag innebär att en utländsk underrättelse- eller säkerhetstjänst ska medges direktåtkomst hos Försvarsmakten och FRA till personuppgifter som behandlas i försvarsunderrättelseverksamhet.« (…) »De nya lagförslagen innebär också att FRA får rätt att signalspana mot verksamhet även om den inte riktas mot Sverige eller svenska intressen.«

Mark Klamberg, professor i internationell rätt kommenterade saken så här till TT:

»I nuvarande lagstiftning måste signalspaning ske gentemot hot mot Sverige eller för att tillgodose svenska intressen. Detta krav försvinner med lagförslaget och det som jag upplever som mest uppseendeväckande. Det är kopplat till direktåtkomst, Sverige blir mer av en avlyssningscentral eller filial till underättelsetjänster i större länder.«

Man behöver inte hänfalla åt konspirationsteorier för att ana ett samband.

Att det är detta samarbete som drivit fram den nya lagen om utlandsspioneri är som sagt en spekulation. Men en sak är klar – det omfattas av den.

Avslöjanden av den typ som skedde under FRA-striden blir nu direkt olagliga. (Även om man redan då gjorde försök att tysta dem som spred dem.) Vilket är problematiskt ur ett demokratiskt perspektiv.

Sverige är nu en del av den globala massövervakningen. Och det har just blivit olagligt att avslöja saker om den.

Relaterade poster:
• FRA-lagen – politikens totala svek (2021) »
• Nya FRA-lagen: Sveriges dubbla lojaliteter (2021) »

AI sågar AI-stödd massövervakning

av Lämna en kommentar

Vad tycker en AI-chat om massövervakning i allmänhet och AI-stödd massövervakning i synnerhet? Varför bryr sig inte folk om övervakningsstaten och vad kan man göra åt det? Vi frågade ChatGPT, som även fick skriva en dikt om betydelsen av rätten till privatliv.

AI-verktyg som ChatGPT är intressanta, även om man inte ser dem som självständigt tänkande. Enkelt uttryckt styrs de av de texter de tränats på och av de människor som givit systemet feedback. Därför kan de vara intressanta för att sammanställa information från ett större fält, speciellt om de tränats på stora textvolymer.

Dessutom skall man vara medveten om att hur man ställer frågan påverkar svaret.

Så här kommer ett experiment. Vad har ChatGPT att säga om massövervakning och om AI-stödd dito? Med reservation för att våra frågor kan vara en smula ledande.

• Till att börja med gav vi ChatGPT i uppgift att sammanställa fem starka argument mot massövervakning. (Svaren är översatta och förkortade av oss.)

  1. Massövervakning strider mot rätten till privatliv, som i sin tur är en mänsklig rättighet.
  2. Massövervakning kan leda till maktmissbruk, utpressning, hot och diskriminering.
  3. Massövervakning har en avkylande effekt på yttrandefriheten, speciellt om åsikterna i fråga är impopulära eller kontroversiella.
  4. Massövervakning är ofta ineffektiv. Ofta är riktad övervakning bättre på att bekämpa brottslighet.
  5. Massövervakning är kostsam. Detta drabbar skattebetalarna och pengarna skulle kunna användas bättre.

• Ge oss nu fem starka skäl för massövervakning.

  1. Massövervakning kan hindra terrorism och annan brottslighet. Genom att sama in stora mängder data kan myndigheterna identifiera mönster och trender som kan identifiera och förebygga brottslighet.
  2. Massövervakning kan bidra till stärkt nationell säkerhet.
  3. Massövervakning kan bidra till att öka allmän säkerhet, till exempel genom att övervaka sociala media och andra kommunikationskanaler i realtid.
  4. Massövervakning kan användas för att fånga och åtala brottslingar samt förse myndigheterna med bevis som kan användas i domstol.
  5. Massövervakning kan rättfärdigas i vissa fall som till exempel när det gäller nationell eller allmän säkerhet. I dessa fall måste fördelarna vara större än de negativa konsekvenserna.

• EU:s nya AI Act reglerar AI på många sätt, men gör ett svepande undantag för statens egen användning för övervakning. Så vi frågade vilka riskerna är med AI-stödd massövervakning.

  1. Det finns en risk för att data och algoritmer blir partiska, beroende på vilken data de tränats på och hur de utvecklats.
  2. Bristande transparens – vilket leder till att det blir svårt att förstå hur de fattar beslut och att hålla någon ansvarig. Detta gör det även svårare att identifiera och hantera problem och fel i systemen.
  3. Missbruk och maktövergrepp. Till exempel kan myndigheter frestas att fokusera på grupper eller individer baserat på deras politiska uppfattning eller andra särskiljande drag.
  4. Förlorat privatliv, då AI stödd massövervakning kan analysera och tolka data på ett mer avancerat sätt än vad människor förmår. Detta kan leda till profilering och spårning av folks aktiviteter på ett aldrig tidigare skådat sätt.
  5. Lagliga och etiska problem – till exempel vad gäller balansen mellan säkerhet och privatliv.

• Intressant. Låt oss nu fråga varför människor inte tycks intressera sig för eller oroas över massövervakningen.

  1. Bristande medvetenhet om vad som sker, vilket i sin tur leder till att folk får svårt att förstå massövervakningens konsekvenser.
  2. Bristande förståelse även bland dem som är medvetna om massövervakningen, vilket gör att de inte förstår frågans allvar.
  3. Frikoppling från konsekvenser. Människor som inte känner sig personligt påverkade förstår inte vilken skada som kan uppkomma.
  4. Tro på auktoriteter. Många litar på att myndigheterna kommer att använda systemen på ett ansvarsfullt sätt och ser därför inte riskerna.
  5. Apati. Många bryr sig inte, har andra prioriteringar eller tror att de ändå inte kan göra något åt situationen.

• Hur får man då folk intresserade av kampen mot massövervakningen?

  1. Utbilda allmänheten.
  2. Understryk de negativa personliga konsekvenserna.
  3. Använd exempel och anekdoter.
  4. Betona de kollektiva konsekvenserna som minskat förtroende för myndigheterna, underminerad demokrati och maktmissbruk.
  5. Engagera er i media och använd sociala media.

• Finns det då några bättre alternativ till massövervakning?

  1. Riktad spaning mot grupper och personer som är misstänkta för brottslig verksamhet istället för mot hela befolkningen.
  2. Underrättelse-styrd spaning som inkluderar såväl traditionellt polisarbete som moderna metoder (som data-analys) – syftande till att förhindra brott innan de begås.
  3. Stärkt lagskydd för privatliv, ökad transparens och ansvarsutkrävande, främjande av kryptering och annan teknik som stärker rätten till privatliv (och privat korrespondens).

Visst, som man frågar får man svar. Men det är ändå rätt imponerande. Om inte annat som sökmotor för att samla information och argument om ett visst ämne. Med reservation för vilken information den tränats på, hur det skett och vem som styrt processen.

Det kan bli intressant om vi så småningom får AI-sytem baserad på större informationsmängder, kanske rent av hela internet. Tro inte annat än att Google jobbar på den saken.

Vad gäller poesi finns dock en del övrigt att önska vad gäller litterär verkshöjd – även om det inte går att invända mot innehållet i sak.

• ”Write an original poem about privacy.”

Privacy, a right
So often taken for granted
But oh so vital

In this age of technology
Where screens and cameras reign supreme
Privacy is threatened

But without it, we lose
A piece of ourselves, a sanctuary
In which to be alone

So let us fight for it
This right to be unseen, unknown
Privacy must be protected

Twitter, Musk och yttrandefriheten

av 1 kommentar

Elon Musks köp av Twitter väcker känslor. Låt mig fundera högt kring saken...

Yttrandefrihet är en mänsklig rättighet. FN:s deklaration om de mänskliga rättigheterna säger, i artikel 19:

»Var och en har rätt till åsiktsfrihet och yttrandefrihet. Denna rätt innefattar frihet att utan ingripande hysa åsikter samt söka, ta emot och sprida information och idéer med hjälp av alla uttrycksmedel och oberoende av gränser.«

För tio år sedan antog FN sin 5 juli-resolution (tillkommen på initiativ av Sverige och USA) som säger:

»Affirms that the same rights that people have offline must also be protected online, in particular freedom of expression, which is applicable regardless of frontiers and through any media of one’s choice, in accordance with articles 19 of the Universal Declaration of Human Rights and the International Covenant on Civil and Political Rights;«

Europakonventionen om de mänskliga rättigheterna föreskriver i artikel 10:

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser.«

Samma sak sägs i artikel 11 i EU:s människorättsstadga, som är en del av EU:s fördrag.

Så principen är tämligen klar och tydlig.

Nu skall det tilläggas att mänskliga rättigheter reglerar förhållandet mellan individen och staten. Och Twitter är ett privat företag, som kan göra som det vill – inom lagens råmärken.

Men det känns ändå rimligt att världens ledande digitala klotterplank ansluter sig till de grundläggande värderingar och principer som utgör grunden för ett samhälle med fredlig, civiliserad samexistens – det vill säga de mänskliga rättigheterna.

Ur detta perspektiv känns det lovande att Twitters nya ägare, Elon Musk, säger sig vara en stark anhängare av principen om yttrandefrihet.

Men Twitters tidigare historia är inte helt lysande.

De dokument som nu släpps (the Twitter files) visar på en subjektiv censur av åsikter och av uppgifter som med tiden visat sig vara korrekta.

En sak med censur är att det finns en morgondag – i vars ljus censur på partiska eller lösa grunder kan komma att dömas hårt. Och när det sker ifrågasätts hela den aktuella plattformens trovärdighet. Speciellt när det handlar om en dominerande plattform med global räckvidd.

När det även kryper fram att Twitter censurerat eller påverkat innehåll i samråd med amerikanska myndigheter och offentliga institutioner – då kan det till och med handla om brott mot landets konstitution. Första tillägget skyddar uttryckligen yttrandefriheten.

Så detta är en soppa.

Det går inte att veta om Elon Musk förmår omvandla Twitter till vad det bör vara – en i möjligaste mån objektiv plattform. Men han tycks i vart fall ha ambitionen.

Detta har väckt en proteststorm från vissa debattörer, aktivister, media och politiker. Vreden tycks även rikta sig mot att Musk visat att Twitter än så länge klarar sig rätt bra utan en stor del av sin icke-tekniska personal.

Det är omöjligt att säga hur detta kommer att utvecklas. Men jag tänker ändå fall sticka ut huvudet och önska Musk och Twitter lycka till i sin ambition att stärka det fria ordet.

/ HAX

(Edit: Då det är omstritt exakt vad amerikanska myndigheter betalt Twitter för, har jag strukit ett stycke om detta.)

När AI-stödd Crime Prediction slår fel

av Lämna en kommentar

Här är ett lästips: My sons were profiled by a racist predictive policing system — the AI Act must prohibit these systems »

Historien kommer från Nederländerna och det är en mor som berättar hur hennes söner hamnat på en lista över potentiella brottslingar – genom att myndigheterna samlar in stora mängder information från skolan och andra sammanhang. Information som ibland pekar helt fel.

Speciellt kafka-artat blir det när en av de faktorer som vägs in är kontakter med polisen – och att dessa kontakter (ID-kontroller etc.) är konsekvensen av att objektet finns på listan i fråga.

På så sätt blir systemet självförstärkande även om det är inne på helt fel spår.

Resultatet blir hembesök av polisen, opåkallad arrestering och annan kränkande behandling som knappast stärker den utsattes känsla av samhörighet med samhället i övrigt.

Detta är inte första gången holländska datasystem utpekar oskyldiga människor som brottsliga.