CSAM

Skrota Chat Control 2 istället för att ändra i förslaget

10 november 2025 av Henrik Alexandersson

När EU:s ministerråd nu plockar bort de mest kontroversiella delarna av Chat Control 2 uppstår nya frågetecken. Därför är det bättre att skrota förslaget helt.

Trots lättnaden över att EU:s ministerråd är på väg att ta bort kravet på obligatorisk granskning av innehållet i medborgarnas elektroniska meddelanden i Chat Control 2 – får vi inte släppa ögonen från bollen.

Problemet när man lyfter ut delar av ett förslag är att allt hänger samman. Det man vill bli av med förankras på olika ställen i texten och det gäller att bli av med allt.

Nu varnar den tidigare ledamoten i Europaparlamentet Patrick Breyer (PP, DE) för en del detaljer i det danska kompromissförslaget (som är tänkt att behandlas i expressfart i ministerrådet). I ett brev till rådets medlemmar skriver han bland annat:

»Article 4(1) obliges providers to take ”all reasonable mitigation measures”. By defining ”voluntary detection activities” under Regulation (EU) 2021/1232 as ”reasonable,” national authorities, empowered by Article 27, will be able to enforce their implementation, thus making them mandatory. This negates the entire purpose of removing Articles 7-11.«

»All reasonable mitigation measures«. Vilket i vart fall i teorin öppnar för vad som helst – inklusive client-side-scanning / spionprogram på folks telefoner och datorer. I vart fall på nationell nivå.

Om detta är ett förbiseende eller medvetet är oklart. Men det är ett klassiskt knep i ministerrådet att genomföra sådant man inte får igenom på EU-nivå synkat på nationell nivå istället – vilket i pricnip ger samma resultat.

Den senaste texten tycks även gå bortom att bara granska bilder, video och länkar. Text, ljud och metadata kan komma att ingå i den frivilliga skanningen. Enligt Breyer glider texten även mot att öppna för att låta AI försöka identifiera tidigare okänt övergreppsmaterial, vilket är en teknik som ännu inte finns tillgänglig i något slags tillförlitlig form.

Dessutom öppnar texten för åldersverifiering för sociala medier och i app-butiker, men inte bestämda åldersgränser i lagstiftningen. (Det är en nationell fråga.) Detta kan ses som att man inför mekanismen för den princip om åldersverifiering som etablerades med Digital Services Act.

Problemet med åldersverifiering är att alla måste identifiera sig samt att ingen kan vara anonym.

Detta för att ta några exempel på frågetecken i texten. Allt blir stökigt när man lyfter ut kärnpunkterna ur ett förslag men låter allt annat vara kvar. Utrymmet för missar, fel- och fultolkningar samt oförutsedda och oönskade konsekvenser är betydande.

Därför är det bättre att sända tillbaka hela förslaget om Chat Control 2 till EU-kommissionen för att göras om i grunden – med respekt för vad Europakonventionen om de mänskliga rättigheterna säger om rätten till privatliv och privat kommunikation. Och inom principen som EU-domstolen slagit fast:

Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

• Det senaste förslaget i EU:s ministerråd (6 november) »

Relaterat:
• Interne Dokumente: EU-Staaten wollen Chatkontrolle-Gesetz ohne weitere Änderungen »

Resurser:
• Chatcontrol.se »
• Chatcontrol.eu »

CC0

Chat Control 2 stoppas – tills vidare

9 november 2025 av Henrik Alexandersson

Allt tyder på att EU:s ministerråd nu skrotar Chat Control 2:s obligatoriska skanning av innehållet i folks elektroniska meddelanden. Förhandlingar med parlamentet och kommissionen börjar då efter årsskiftet.

Nu börjar detaljerna om Chat Control 2 i EU:s ministerråd klarna.

1) Man stryker förslaget om obligatorisk skanning av innehållet i folks elektroniska meddelanden.

2) Chat Control 1 – frivillig skanning av icke totalsträckskrypterande (E2EE) meddelanden – permanentas. Användarna måste vara informerade om att så sker. (Som idag.)

3) EU Center kopplat till Europol blir kvar. Här skall den första sållningen av anmält innehåll med övergrepp mot barn göras, för att minska arbetsbördan hos de nationella polismyndigheterna.

4) Meddelandeplattformar som bedöms som »högrisk« måste samarbeta med EU Center och utveckla skyddstekniker, men utan krav på att läsa användarnas privata meddelanden.

5) Kommissionen skall utvärdera tekniken – och om det anses vara möjligt utan att kränka grundläggande rättigheter, kan man återkomma med ett nytt lagförslag om obligatorisk skanning.

Medlemsstaterna sägs vara i stort sett överens om denna approach. Frågan kommer upp på rådets Law Enforcement Working Party och på ambassadörsnivå i COREPER II. Därefter kan beslut fattas utan diskussion som en »A-punkt« på vilket ministerrådsmöte som helst. (IPRED klubbades på sin tid som en A-punkt på rådet för fiskerifrågor.)

Danmark har signalerat att man därefter anser sig vara klara med Chat Control 2 för sin del. Vilket innebär att trilogförhandlingarna (bakom stängda dörrar) mellan EU:s ministerråd, parlamentet och kommissionen lär börja efter årsskiftet – under det då tillträdande cypriotiska ordförandeskapet.

Allt det ovanstående med reservation för att någon större medlemsstat sätter sig på tvären i sista stund eller för fulspel.

Samtidigt som de värsta delarna av Chat Control 2 nu tycks vara stoppade gnälls det bakom kulisserna. De flesta medlemsstater vill egentligen hellre ha client-side-scanning. De tyska tjänstemännen i Bryssel är närmast i uppror över tyska justitieministerns nej till Chat Control 2. Och det skall ha diskuterats att ändra förslagets rättsliga grund för att förenkla ett genomförande.

Tro inte annat än att förslaget om att granska innehållet i medborgarnas elektroniska meddelanden återkommer i en eller annan form. Till exempel inom ramen för Protect EU, redan nästa år. Eller nationellt i Sverige, via »bakdörrslagen«.

• Det danska ordförandeskapets kompromissförslag (30 oktober) »
• Der Kampf um die Chatkontrolle ist noch nicht vorbei (4 november) »
• EU-Rat könnte verpflichtende Chatkontrolle verwerfen (6 november) »

Resurser:
• Chatcontrol.se »
• Chatcontrol.eu »

CC0

Chatcontrol: Än är segern inte vunnen

22 november 2023 av Henrik Alexandersson

Även om Europaparlamentet sågat Chat Control 2 är frågan inte avgjord. Ministerrådet kan fortfarande ”rädda” EU-kommissionär Ylva Johanssons förslag om massövervakning av medborgarnas elektroniska meddelanden.

Nu har Europaparlamentet officiellt tagit ställning mot i princip allt som är dåligt i EU-kommissionens förslag till Chat Control 2.

Detta får ses som en seger för det motstånd som fokuserat på de grundläggande mänskliga rättigheterna. Sådant tvingar ibland politikerna att vakna upp och höja blicken.

Men detta får inte leda till att motståndet mot Chatcontrol avtar. Allt kan fortfarande gå galet. Nu riktas allt ljus mot EU:s ministerråd och dess möte den 4-5 december. (Samt riksdagens EU-nämnd den 1 december.)

EU-kommissionär Ylva Johansson tycks visserligen öppna för en förlängning av Chat Control 1 (frivillig skanning av innehållet i medborgarnas elektroniska meddelanden) om det inte går att driva igenom Chat Control 2 (obligatorisk skanning).

Men ministerrådet kan fortfarande hålla Chat Control 2 på banan. Skulle rådet ställa sig bakom det ursprungliga förslaget eller någon variant av detta – då går frågan till trilog-förhandlingar mellan kommissionen, rådet och parlamentet. Sådana sker bakom stängda dörrar och kan landa lite hur som helst.

I ministerrådet finns länder som är för kommissionens förslag, länder som säger nej och länder som vill ha en kompromiss. Det spanska ordförandeskapet vill helst gå längre än kommissionen, men tycks ha insett att det är att gapa över för mycket.

Det finns alltså (minst) tre olika linjer i rådet, vilket kan göra det svårt att få till ett beslut.

Bland andra Tyskland, Österrike, Nederländerna och Finland säger nej. Sveriges regering driver en egen kompromiss som är nästan, men inte riktigt lika dålig som det ursprungliga förslaget.

Ett wild card är Polen, som fram tills nu sagt nej till Chat Control 2. Dock är det oklart vad den nya polska regeringen tycker. Skulle Polen byta fot från ett nej till ett ja blir det betydligt svårare att få till en eventuell blockerande minoritet i ministerrådet.

Dessutom har Europaparlamentets nej till förslagets centrala delar ändrat spelplanen. Att få igenom Chat Control 2 i sin ursprungliga form är nu i princip omöjligt.

Att rådet skulle gå på parlamentets linje är också osannolikt, eftersom många medlemsstater välkomnar Chatcontrol som ett sätt att bygga ut övervakningsstaten.

Om frågan drar ut på tiden i rådet går den vid årsskiftet över till nästa ordförandeland, Belgien. Det innebär i så fall också att frågan kan dras in i vårens EU-valrörelse, vilket många vill undvika.

En möjlighet är att rådet väljer att sända tillbaka Chat Control 2 till kommissionen för att omarbetas. Men även då kan frågan bli het i EU-valet.

Man kan också tänka sig att kommissionen själv inser att förslaget saknar nödvändigt stöd och därför drar tillbaka det. Det vore dock en allvarlig prestigeförlust – samtidigt som det öppnar för att frågan kan komma tillbaka i en eller annan form under nästa mandatperiod.

Vad som händer nu är en öppen fråga. Därför gäller det att hålla motståndet mot Chat Control 2 vid liv.

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

• Använd denna mail-robot för att protestera mot förslaget om Chatcontrol »

Följ oss även på Twitter: @femtejuli

Chatcontrol: Ett stort steg framåt och ett bakåt

14 november 2023 av Henrik Alexandersson

Europaparlamentet säger nej till urskiljningslös granskning av innehållet i medborgarnas elektroniska meddelanden. Men kräver samtidigt åldersgränser (ID-krav) för porrsiter.

Nu har Europaparlamentets utskott för mänskliga rättigheter och inrikes frågor – LIBE – röstat om EU-kommissionens förslag till ny massövervakning, Chat Control 2.

Som vi tidigare kunnat berätta är LIBE:s partiöverskridande kompromiss ett stort steg åt rätt håll – då utskottet skrotar i princip allt som är kontroversiellt med förslaget:

Ingen skanning av innehållet i totalsträckskrypterad / E2EE kommunikation.
Övervakning skall inriktas mot personer och grupper där det misstänks förekomma olagligt innehåll – inte vara generell.
Beslut om övervakning skall fattas av en domstol.
Ingen skanning (med AI) efter olagligt innehåll (grooming) i elektroniska konversationer.
Ingen obligatorisk åldersverifiering för meddelande-appar.
Anonyma konton på meddelande-appar skall vara tillåtna.

Samtidigt har ett nytt problematiskt förslag smugit sig in. I den nya artikel 4a(e) om porrsiter kan vi läsa att utskottet vill införa åldersgränser.

Vilket är problematiskt på fler sätt. Ålderskontroll kräver att man identifierar sig. Vilket öppnar för registrering av folks sexuella preferenser och vanor.

Man kan även tänka sig att porrsiter fyller en seriös funktion för tonåringar under åldersgränsen som vill utforska sin sexualitet utan att blanda in någon annan.

Plus att internet inte känner några gränser. EU kan kanske tvinga europeiska porrsiter att införa en åldersgräns – men hur har man tänkt sig hantera icke-europeiska siter som inte tillämpar ålderskontroll. Skall de blockeras?

Det finns även skäl att vara försiktig med personuppgifter som kan komma att missbrukas av den som samlar in dem. Oseriösa aktörer kan sätta upp porrsiter med syfte att stjäla användarnas persondata i brottsligt syfte – om en åldersgräns med ID-kontroll blir obligatorisk.

Det är synd att en i övrigt bra kompromiss kommer med detta helt nya, ogenomtänkta och farliga förslag. Men det är lång väg kvar till beslut, så det kan komma att ändras.

Vad händer nu? Den 4-5 december skall EU:s ministerråd hantera frågan om Chat Control 2. I rådet diskuterar man fortfarande EU-kommissionär Ylva Johanssons ursprungliga förslag i olika varianter. Vilket är oförenligt med Europaparlamentets position.

Det är inte otänkbart att rådet sänder tillbaka Chat Control 2 till EU-kommissionen för att omarbetas. Det innebär i så fall att frågan skjuts upp till efter EU-valet nästa sommar.

Skulle ministerrådet däremot hålla fast vid någon variant av det ursprungliga förslaget blir det förhandlingar (trilog) mellan rådet, parlamentet och kommissionen – vilket kan sluta hur som helst.

Det finns även rykten om att EU-kommissionen kan komma att lägga förslag om att förlänga den nu gällande Chat Control 1 som ger plattformar och operatörer rätt att frivilligt söka efter olagligt innehåll – till skillnad från Chat Control 2 som gör det obligatoriskt.

Uppdatering: I en utfrågning i riksdagen säger kommissionär Ylva Johansson nu att hon vill förlänga Chat Control 1, enligt ovan.

Läs mer:
• Chatcontrol: Kompromiss i Europaparlamentet »
• Chatcontrol – vad händer efter Europaparlamentets nej? »
• Europaparlamentets dokument »

Relevant debattartikel:
• Europaportalen: Riksdagen måste säga nej till Chat Control 2.0 »

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

• Använd denna mail-robot för att protestera mot förslaget om Chatcontrol »

Följ oss även på Twitter: @femtejuli

Chat Control är en idiotisk och farlig idé

22 juni 2022 av Henrik Alexandersson

EU-kommissionen föreslår obligatorisk granskning av innehållet i all e-post, alla elektroniska meddelanden, chattar, IP-samtal, Zoom-möten och allt du lagrar på molntjänster. Åldersgräns skall införas för alla appar som kan användas för elektronisk kommunikation, vilket innebär att ingen kommer att kunna vara anonym på nätet.

Syftet är att bekämpa sexuella övergrepp mot barn. Men förslaget har gigantiska luckor, som innebär att sådana övergrepp kan ske ändå. Istället offras vanligt, hederligt folks rätt till privat kommunikation.

Vi bad ledamoten av Europaparlamentet Patrick Breyer (Piratpartiet, Tyskland) förklara närmare i videon ovan.

Youtube: Chat Control is a stupid and dangerous idea (feat. MEP Patrick Breyer) »

Skarpt EU-förslag idag: Av-kryptering och granskning av alla meddelanden och all e-post

11 maj 2022 av Henrik Alexandersson

Innehållet i alla dina elektroniska kommunikationer och det du lagrar på molntjänster skall nu granskas för att kontrollera att du inte ägnar dig åt sexuella övergrepp mot barn.

Tidigare har EU genom speciallagstiftning gjort det möjligt för nätplattformar, meddelandetjänster, e-post-leverantörer med flera att av-kryptera och granska innehållet i användarnas privata kommunikationer. Syftet är att kontrollera att du inte ägnar dig åt barnporr.

Idag har EU-kommissionen lagt fram #ChatControl2 – som gör detta obligatoriskt.

Vi kommer att gräva i det 137-sidiga förslaget till förordning för att granska detaljerna. En del saker kan man dock redan notera. Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) har gjort en sammanställning. Några exempel:

Förslaget omfattar telefoni, e-post, Messenger, chattar (även i spel och på datingsidor) samt videokonferenser.
Text, bilder, video och tal kommer att kontrolleras.
End-to-end-krypterad kommunikation omfattas också, vilket kan komma att kräva client-side-scanning på din digitala enhet.
Även sociala media och molntjänster omfattas.
Eftersom alla tjänster potentiellt kan användas för olaglig verksamhet kommer alla att omfattas av förordningen.
Automatisk scanning av innehåll kommer att ske, trots att erfarenheter visar att det leder till felaktiga flaggningar i nio av tio fall.
Man vill använda maskininlärning/AI för att identifiera tidigare okänt material.
Ålderskontroll för alla tjänster och applikationer som kan användas för sexuella kontakter med barn. (Detta får som konsekvens att det blir omöjligt att vara anonym på i princip alla tjänster. Vilket i sin tur kommer att få oönskade konsekvenser.)
App-stores måste radera appar som inte underordnar sig ChatControl2.

Detta är bara några exempel och vi återkommer när vi grävt vidare i förslaget.

Det hela skall samordnas av ett »EU Center« placerat hos Europol – som just fått mandat att även lagra data om personer som inte är misstänkta för brott och som även fått direkt tillgång till data hos privata aktörer.

MEP Patrick Breyer (PP, DE) är även först ute med en kommentar:

»Apart from ineffective web blocking, the proposed chat control threatens to destroy digital privacy of correspondence and secure encryption. Scanning personal cloud storage would result in the mass surveillance of private photos. Mandatory age verification would end anonymous communication. Appstore censorship would be the end of secure messenger apps and patronise young people. The proposal does not include the overdue obligation on law enforcement agencies to report and remove known abusive material on the net, nor does it provide for Europe-wide standards for effective prevention measures, victim support and counselling and effective criminal investigations. Von der Leyen continues to chart the territory of censorship, mass surveillance, anonymity bans and paternalism, while leaving the activities of child porn rings completely untouched. The proposed measures deprive the entire population of trust, self-determination and security on the net. This plan is nothing other than terrorism against our digital fundamental rights, which I will not relent to fight.
This Big Brother attack on our mobile phones, private messages and photos with the help of error-prone algorithms is a giant step towards a Chinese-style surveillance state. Chat control is like the post office opening and scanning all letters – ineffective and illegal. Even the most intimate nude photos and sex chats can suddenly end up with company personnel or the police. Those who destroy the digital secrecy of letters destroy trust. We all depend on the security and confidentiality of private communication: People in need, victims of abuse, children, the economy and also state authorities.«

Elefanten i rummet är att när denna typ av övervakning väl införts, då kan syftet lätt utökas. Och vi vet att ändamålsglidning i princip alltid sker, vad gäller övervakningslagar.

Vi återkommer med fler detaljer och kommenterer i takt med att förslaget analyseras.

Länkar:
• EU-kommissionen: Fighting child sexual abuse: Commission proposes new rules to protect children »
• Lagtexterna »
• MEP Patrick Breyer (PP, DE): EU chat control bill: fundamental rights terrorism against trust, self-determination and security on the Internet »

Första demonstrationen mot #ChatControl2, idag i Berlin.

EU: Ministerrådet vill ha ”lösningar” vad gäller datalagring, kryptering, eBevis och Darknet

8 november 2021 av Henrik Alexandersson

På ett möte i slutet av veckan kommer EU:s inrikesministrar att göra ett nytt försök att återuppväcka datalagringen och kringgå kryptering av meddelanden. På kuppen riskerar man våra grundläggande fri- och rättigheter och säkerheten för elektronisk kommunikation.

Den 11-12 november håller EU:s inrikes- och justitieministrar möte i Slovenien. På dagordningen finns ”appropriate solutions regarding data retention, encryption, e-evidence and the darknet”. Detta i namn av att bekämpa sexuella övergrepp mot barn online (CSAM). Till mötet har man även bjudit in representanter för USA, västra Balkan, EU-kommissionen, Europol, Eurojust och Europaparlamentet.

I sammanhanget skall nämnas att Chatcontrol 2 – obligatorisk avkryptering och granskning av alla användares alla meddelanden – drabbats av ändamålsglidning redan innan det finns något konkret förslag på papper. Barns säkerhet på nätet används här som murbräcka för en mer omfattande övervakning av folkets nätkommunikationer.

Det är intressant att se att man vill blåsa nytt liv i datalagringen. EU:s datalagringsdirektiv upphävdes som bekant av EU-domstolen – som menar att svepande lagring av alla medborgares alla telekommunikationer utan misstanke om brott strider mot de mänskliga rättigheterna.

Hur man tänkt ta sig runt EU-domstolens beslut är oklart. Men veckans möte tyder på att man vill göra ett nytt försök.

Man kan även undra vilka ”lämpliga lösningar” ministerrådet tänkt sig vad gäller kryptering. Som påpekats många gånger finns inga lösningar som upprätthåller krypteringens funktion och integritet och samtidigt ger myndigheterna en bakdörr. Kringgår man kryptering, då blir nätet mindre säkert för oss alla.

Det känns som om vi sett liknande möten förr. Och precis som förr önskar man sig saker som inte är förenliga med medborgarnas rätt till privatliv och säker elektronisk kommunikation.

• Statewatch: Policing the internet: interior ministers to seek ”solutions regarding data retention, encryption, e-evidence and the darknet” »

EU: ChatControl 2.0 skjuts på framtiden?

5 november 2021 av Henrik Alexandersson

Den nya reglering som kommer att göra det obligatoriskt för alla nätets meddelandetjänster att av-kryptera och granska sina användares kommunikationer var tänkt att presenteras till månadsskiftet. Nu har den skjutits på framtiden. Det är oklart varför – men en möjlighet är att EU-kommissionen vill utvidga meddelandekontrollen till fler syften.

Tidigare i år beslutade EU om tillfälliga regler för ChatControl – det vill säga av-kryptering och granskning av nätanvändarnas meddelanden och kommunikationer i syfte att bekämpa sexuella övergrepp på barn (CSAM). De reglerna gör det möjligt men inte obligatoriskt med sådan granskning. Samtidigt meddelades att ChatControl 2.0 är på väg, som gör detta obligatoriskt för alla meddelande- och kommunikationsplattformar.

ChatControl 2.0 var tänkt att presenteras den 1 december. Nu verkar det dock som om frågan i vart fall tillfälligt har plockats bort från EU-kommissionens agenda.

Vi vet inte varför. Men det finns ett antal tänkbara förklaringar.

Det kan handla om att sådan övervakning strider mot förbudet mot krav på generell övervakning, GDPR och/eller ePrivacy-förordningen.

Relaterat till detta kan nämnas att EU-domstolen som bekant förbjudit urskiljningslös lagring av data om alla medborgares tele- och datakommunikationer med mindre än att det finns en misstanke mot enskilda eller grupper av användare. Detta kan även appliceras på ChatControl – vilket kommer att kräva en del kreativitet från EU-kommissionens sida för att komma runt.

Alternativt kan man ha upptäckt praktiska hinder vad gäller att tvinga alla meddelandeoperatörer i hela världen att av-kryptera och granska alla europeiska användares meddelanden. Det saknas inte heller kritiker bland människorättsaktivister, krypteringsexperter, ledamöter av Europaparlamentet med flera.

En annan tolkning är att man behöver tid för att inkludera andra syften i ChatControl. Kommissionen (med flera) har till exempel nämnt terrorism och inre säkerhet.

Det är också tänkbart att man vill samordna lagstiftningen med andra länder, främst då USA och Balkan-länderna.

Möjligen är det en kombination av två eller flera av de ovanstående skälen.

Vad vi dock vet är att det – förr eller senare – kommer ett förslag om obligatorisk av-kryptering och granskning av alla användares alla elektroniska meddelanden på alla plattformar.

Länkar:
• EU Commission postpones mandatory screening of encrypted chats »
• Chatcontrol – irriterat i Europaparlamentet »
• Wrong strategy: The Commission fails to tackle child sexual abuse (video) »
• EU to attack safe encryption (video) »

Skall sökmotorer tolka dina avsikter och tillrättavisa dig om du gör något olämpligt?

24 september 2021 av Henrik Alexandersson

Apple skjuter upp sin skanning av användarnas meddelanden och bilder på iCloud. Samtidigt kommer signaler om att man kommer att övervaka sökningar och Siri i jakt på olagligt material.

Efter protester har Apple meddelat att man skjuter upp skanning av meddelanden (text och eventuella bilder) i jakt på olagliga kontakter med barn. Man skjuter även upp skanningen av användarnas lagrade bilder på ICloud.

Detta är möjligen en god nyhet. Men att Apple skjuter upp denna form av övervakning av sina användare innebär inte att förslaget skrotats. Det har bara lagts på is för tillfället.

I samband med att Apple meddelade detta dök det upp en annan intressant sak:

»Siri and Search are also being updated to intervene when users perform searches for queries related to CSAM. These interventions will explain to users that interest in this topic is harmful and problematic, and provide resources from partners to get help with this issue.«

Man tänker alltså låta Siri och nätsökningar tolka användarnas förfrågningar för att utreda om de håller på med något som kan vara kopplat till sexuellt utnyttjande av barn. Även om få kanske har invändningar mot just detta, skall man ha klart för sig att syftet snabbt kan utökas eller förändras.

Vi är alltså på väg mot en situation där sökmotorer förväntas tolka vad vi vill och håller på med – och sedan tillrättavisa oss ifall vi gör något som den som för tillfället kontrollerar systemet ogillar.

Sorry Dave, I cannot do that.

• Apple: Expanded Protections for Children »
• EFF: Why EFF Flew a Plane Over Apple’s Headquarters »

Relaterat:
• Forskare varnar för Apples nya meddelande- och bildkontroll »
• Femte juli protesterar mot Apple »

Forskare varnar för Apples nya meddelande- och bildkontroll

24 augusti 2021 av Henrik Alexandersson

Forskare vid Princeton University har testkört en egen variant av Apples nya system för att övervaka och granska sina användares meddelanden och bilder. De kom fram till att det är farligt.

Som vi tidigare rapporterat tänker Apple börja skanna sina användares meddelanden och bilder i jakt på sexuellt utnyttjande av barn, till en början i USA. Även EU överväger ett liknande system, för alla. Men detta kommer inte utan risk för missbruk och ändamålsglidning.

Princeton-forskarna skapade faktiskt en test-version av ett system liknande Apples redan innan Apple själva lanserade det. Och man kom fram till att det finns risker. Den mest uppenbara är ändamålsglidning.

»Our system could be easily repurposed for surveillance and censorship. The design wasn’t restricted to a specific category of content; a service could simply swap in any content-matching database, and the person using that service would be none the wiser.«

Man ser även ett problem med falska flaggningar.

»The content-matching process could have false positives, and malicious users could game the system to subject innocent users to scrutiny.«

Apple har tidigare – när man stod på användarnas sida – uttalat att enda sättet att undvika att kraftfulla övervakningsverktyg missbrukas är att aldrig skapa dem. Men det var då.

• Washington Post: We built a system like Apple’s to flag child sexual abuse material — and concluded the tech was dangerous »