Storebror
Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.
Tyskland stoppar EU:s ChatControl?
EU vill granska innehållet i alla dina elektroniska kommunikationer. Men nu ser Tyskland ut att säga nej.
Som vi tidigare rapporterat vill EU av-kryptera, öppna och kontrollera innehållet i alla medborgares alla elektroniska meddelanden, chattar, e-post med mera (ChatControl). Syftet är att bekämpa sexuella övergrepp mot barn.
Men det ser ut som om Tyskland kommer att säga nej i ministerrådet. Justitieminister Marco Buschmann (FDP) och digitaliseringsminister Volker Wissing (FDP) var först ut med att säga stopp. Och nu säger även inrikesminister Nancy Faeser (SPD) nej.
Faeser säger till Spiegel »Jag anser att det inte är förenligt med våra fri- och rättigheter att kontrollera alla privata meddelanden utan anledning.«
Hon menar att det är bättre att spana mot digitala miljöer där man vet att det faktiskt förekommer sexuella övergrepp mot barn, för att snabbt kunna sätta in polisiära insatser.
Om Tyskland säger nej kommer det att bli svårt för EU-kommissionär Ylva Johansson att driva igenom idén om ChatControl. Men än är striden inte avgjord.
EU avskaffar rätten till privat korrespondens
EU-kommissionen vill att alla dina elektroniska meddelanden, alla chattar och all din e-post skall av-krypteras och att dess innehåll skall granskas. Förslaget kallas informellt ChatControl – eller meddelandekontroll på svenska.
Granskningen skall göras av till exempel sociala media, meddelandetjänster och e-post-leverantörer. Ambitionen är att innehållet i alla EU-medborgares alla elektroniska kommunikationer skall granskas.
Detta kommer att ske med hjälp av maskiner och deras algoritmer. Misstänkt material kommer att överlämnas till polisen.
Ironiskt nog håller politiken med detta på att tvinga de nätjättar som redan kritiseras för att veta allt för mycket om sina användare att öppna och ta del av innehållet i våra meddelanden.
Förevändningen är att kontrollera att du inte sprider barnporr eller ägnar dig åt sexuellt utnyttjande av barn.
Detta är en perfekt politisk murbräcka. Vem är väl för sexuella övergrepp på barn?
Men det finns många problem med detta förslag. Några exempel:
Siffror från Schweiz visar att nio av tio sådana flaggningar är falska flaggningar. Därmed drabbas helt oskyldiga människor av misstanken om att de ägnar sig åt barnporr.
40 procent av flaggat material tycks vara tonåringar som sänder bilder på sig själva till andra tonåringar. Vilket i vart fall delvis är en annan fråga.
Enligt förslaget skall en åldersgräns införas för meddelande-appar och meddelandetjänster. Vilket gör det omöjligt att kommunicera anonymt. Detta kan drabba till exempel whistleblowers, journalister, själasörjare, läkare, advokater, medborgarrättsaktivister och många andra som har ett helt legitimt intresse av att kommunicera anonymt.
Dessutom skall man komma ihåg att övervakningslagar alltid drabbas av ändamålsglidning.
FRA skulle bara spana på ryssen. Detta har med tiden ändrats så att man nu även får spana på svenska kommunikationer inom landet.
Trots löften om motsatsen är FRA-butiken nu öppen för allehanda svenska och utländska myndigheter.
Datalagringen skulle bara användas för att bekämpa allvarlig brottslighet. Snabbt blev den ett verktyg för att jaga fildelare. Den blev även populär hos Skatteverket, för att snoka i folks privatliv.
Vad är det som säger att syftet inte kommer att utökas även denna gång?
Vill vi verkligen avskaffa den digitala brevhemligheten? Enligt Europakonventionen om de mänskliga rättigheterna är rätten till privatliv och privat korrespondens en grundläggande mänsklig rättighet.
Vill vi verkligen att allt vi skriver, säger och sänder till varandra skall granskas?
Litar vi verkligen på att maskiner och algoritmer kan göra en rimlig analys av våra meddelanden?
Det måste finnas andra sätt att bekämpa sexuella övergrepp mot barn, utan att avskaffa vår rätt till privat kommunikation. (Det kan nämnas att EU:s direktiv från 2011 om att skydda barn från sexuellt utnyttjande i stora delar ännu inte har implementerats.)
Det är även värt att notera att det redan utan de nya EU-reglerna samlas outredda ärenden om sexuellt utnyttjande av barn på hög hos polisen i många EU-länder. Man kanske skulle börja med att beta av dem?
En sak kan sägas med säkerhet: På samma sätt som andra övervakningslagar drabbats av ändamålsglidning kommer syftet med ChatControl att utökas med tiden.
Därför är det bättre att hålla den dörren stängd.
Relaterat:
• Piratpartiets Katarina Stensson skriver idag i SvD: Stoppa EU-lag som kräver insyn i chattar »
• Granskning: Lobbykampanjen för #ChatControl »
• Skarpt EU-förslag idag: Av-kryptering och granskning av alla meddelanden och all e-post »
• Aktuella lagförslag »
EU gör Europol till ett europeiskt NSA
EU gör Europols tidigare olagliga insamling av persondata om icke misstänkta medborgare laglig – och öppnar för AI och algoritmbaserade verktyg för ökat automatiserat beslutsfattande.
Aktivister och media börjar nu borra sig ner i EU:s nyligen antagna utökade mandat för den europeiska polisorganisationen Europol. Vi har tidigare rapporterat om huvuddragen, men djävulen finns som vanligt i detaljerna. Bill Goodwin på Computer Weekly har en omfattande genomgång. Vi gör en del nedslag i hans text.
Som vi tidigare rapporterat kommer Europol nu att samla in persondata från företag, internetoperatörer och sociala media. Detta gäller även data om personer som inte är misstänkta för brott, vilket tidigare varit olagligt.
Medlemsstaterna kommer att förse den europeiska polisorganisationen med data som till exempel passageraruppgifter från flyget (snart även båt, tåg, bilhyror och hotellövernattningar) och uppgifter man dammsugit upp från sociala media.
Det finns farhågor om att sådan data kommer att samlas in på nationell nivå utan tillräcklig kontroll och respekt för individens rätt till privatliv – och att den kommer att »tvättas« genom att matas in i nya, centrala databaser.
Samtidigt får Europol allt större möjligheter att samla in och dela data från tredje land – som inte alltid uppfyller europeiska krav på rättsstat och medborgerliga fri- och rättigheter.
EU:s dataskyddsombudsman har uttryckt oro för hur man hanterat data redan innan beslutet om ett utvidgat mandat. »Without putting in place the safeguards provided in the Europol regulation, individuals run the risk of being wrongly linked to criminal activity across the EU, with all the potential damage to their private and professional lives that that entails.«
Med det nya mandatet kommer dataskyddsombudmannen att få minskad insyn i hur Europol hanterar sin data.
Europol får nu även rätt att utveckla algoritmer och AI för automatiskt beslutsfattande och förutspående polisarbete (pre-crime). För att träna upp systemet kommer man att samla in data sets från medlemsstaterna – såväl rörande brottslig verksamhet som om vanliga, hederliga medborgare som inte gjort eller misstänks ha gjort något fel.
Detta kolliderar med Europaparlamentets tidigare rekommendation att inte tillåta AI för till exempel automatiskt beslutsfattande vid pre-crime-analyser. Parlamentet har alltså fattat två helt motstridiga beslut.
Med tanke på att Europol redan tidigare brutit mot reglerna och sparat olaglig data känns det utökade mandatet oroväckande.
Ambitionen tycks vara att göra Europol till en motsvarighet till amerikanska NSA (»collect it all«) eller brittiska GCHQ.
• Läs mer i Computer Weekly: Europol gears up to collect big data on European citizens after MEPs vote to expand policing power »
Granskning: Lobbykampanjen för #ChatControl
Varifrån kommer förslaget om att granska innehållet i alla EU-medborgares alla meddelanden, chattar och all e-post? Tyska Netzpolitik har grävt i ämnet.
I går presenterade EU-kommissionen sitt förslag till ChatControl / meddelandekontroll. Förslaget är kraftigt försenat och har även mött hård kritik från EU-kommissionens tjänstemän. Så hur hamnade vi här?
Det började med att EU antog nya regler till skydd för medborgarnas rätt till privatliv och privat kommunikation online. Alla var i princip överens om att stärka detta skydd, då. Men snabbt påbörjades en lobbykampanj från den amerikanska organisationen Thorn.
Organisationen är grundad av Hoillywood-stjärnan Ashton Kutcher och hans dåvarande fru Demi Moore. Thorn äger dessutom det kommersiella verktyget Safer, som syftar till att identifiera barnporr och övergrepp mot barn (CSAM).
Thorn drev fram ett undantag från de nya EU-reglerna, vilket tillät operatörer och plattformar att granska innehållet i användares meddelanden, chattar och e-post på jakt efter CSAM. Och efter ytterligare lobbyinsatser från Thorn föreslår EU nu alltså att detta skall bli obligatoriskt.
Thorn har haft en extremt god tillgång till makthavare i EU. Man har haft möten med EU-kommissionärer, deras personal och även påverkat enskilda länder som Tyskland och Sverige.
Mängden möten och nivån på dessa saknar närmast motstycke. Bland dem man träffat finns bland andra EU-kommissionens ordförande Ursula von der Leyen och inrikeskommissionär Ylva Johansson.
Dock är man inte så pigga på att avslöja vad dessa möten handlat om. Se nedan.
Samtidigt har EU-kommissionär Ylva Johansson vägrat träffa företrädare för nätfrihets- och medborgarrättsorganisationer som har haft invändningar mot ChatControl.
Efter att ha arbetat i Europaparlamentet i fem år kan jag med säkerhet påstå att det ovanstående inte är ett normalt förfarande. Vilket stärker mig i misstanken om att man använder CSAM som murbräcka för en framtida övervakning av våra elektroniska kommunikationer i andra syften. Denna typ av lagar drabbas alltid av ändamålsglidning.
• Läs mer hos Netzpolitik: How a Hollywood star lobbies the EU for more surveillance »
Skarpt EU-förslag idag: Av-kryptering och granskning av alla meddelanden och all e-post
Innehållet i alla dina elektroniska kommunikationer och det du lagrar på molntjänster skall nu granskas för att kontrollera att du inte ägnar dig åt sexuella övergrepp mot barn.
Tidigare har EU genom speciallagstiftning gjort det möjligt för nätplattformar, meddelandetjänster, e-post-leverantörer med flera att av-kryptera och granska innehållet i användarnas privata kommunikationer. Syftet är att kontrollera att du inte ägnar dig åt barnporr.
Idag har EU-kommissionen lagt fram #ChatControl2 – som gör detta obligatoriskt.
Vi kommer att gräva i det 137-sidiga förslaget till förordning för att granska detaljerna. En del saker kan man dock redan notera. Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) har gjort en sammanställning. Några exempel:
- Förslaget omfattar telefoni, e-post, Messenger, chattar (även i spel och på datingsidor) samt videokonferenser.
- Text, bilder, video och tal kommer att kontrolleras.
- End-to-end-krypterad kommunikation omfattas också, vilket kan komma att kräva client-side-scanning på din digitala enhet.
- Även sociala media och molntjänster omfattas.
- Eftersom alla tjänster potentiellt kan användas för olaglig verksamhet kommer alla att omfattas av förordningen.
- Automatisk scanning av innehåll kommer att ske, trots att erfarenheter visar att det leder till felaktiga flaggningar i nio av tio fall.
- Man vill använda maskininlärning/AI för att identifiera tidigare okänt material.
- Ålderskontroll för alla tjänster och applikationer som kan användas för sexuella kontakter med barn. (Detta får som konsekvens att det blir omöjligt att vara anonym på i princip alla tjänster. Vilket i sin tur kommer att få oönskade konsekvenser.)
- App-stores måste radera appar som inte underordnar sig ChatControl2.
Detta är bara några exempel och vi återkommer när vi grävt vidare i förslaget.
Det hela skall samordnas av ett »EU Center« placerat hos Europol – som just fått mandat att även lagra data om personer som inte är misstänkta för brott och som även fått direkt tillgång till data hos privata aktörer.
MEP Patrick Breyer (PP, DE) är även först ute med en kommentar:
»Apart from ineffective web blocking, the proposed chat control threatens to destroy digital privacy of correspondence and secure encryption. Scanning personal cloud storage would result in the mass surveillance of private photos. Mandatory age verification would end anonymous communication. Appstore censorship would be the end of secure messenger apps and patronise young people. The proposal does not include the overdue obligation on law enforcement agencies to report and remove known abusive material on the net, nor does it provide for Europe-wide standards for effective prevention measures, victim support and counselling and effective criminal investigations. Von der Leyen continues to chart the territory of censorship, mass surveillance, anonymity bans and paternalism, while leaving the activities of child porn rings completely untouched. The proposed measures deprive the entire population of trust, self-determination and security on the net. This plan is nothing other than terrorism against our digital fundamental rights, which I will not relent to fight.
This Big Brother attack on our mobile phones, private messages and photos with the help of error-prone algorithms is a giant step towards a Chinese-style surveillance state. Chat control is like the post office opening and scanning all letters – ineffective and illegal. Even the most intimate nude photos and sex chats can suddenly end up with company personnel or the police. Those who destroy the digital secrecy of letters destroy trust. We all depend on the security and confidentiality of private communication: People in need, victims of abuse, children, the economy and also state authorities.«
Elefanten i rummet är att när denna typ av övervakning väl införts, då kan syftet lätt utökas. Och vi vet att ändamålsglidning i princip alltid sker, vad gäller övervakningslagar.
Vi återkommer med fler detaljer och kommenterer i takt med att förslaget analyseras.
Länkar:
• EU-kommissionen: Fighting child sexual abuse: Commission proposes new rules to protect children »
• Lagtexterna »
• MEP Patrick Breyer (PP, DE): EU chat control bill: fundamental rights terrorism against trust, self-determination and security on the Internet »
Ny belgisk datalagring kan förbjuda meddelandeappar som Signal
Med ny lagstiftning om datalagring ställer Belgien krav på meddelandetjänster att spara information som de i vissa fall inte har. Vilket kan innebära ett stopp för appar som Signal.
Belgien gör ett nytt försök att gå runt EU-domstolens nej till generell datalagring. (Lagring av data om allas alla telefonsamtal, SMS, meddelanden, uppkopplingar, positionsdata m.m.)
Som vi tidigare rapporterat kan den nya ”riktade” belgiska datalagringen ändå leda till att data om allas alla telekommunikationer kan komma att lagras, eller sådan data för alla som vistas på speciella platser eller i vissa områden.
Nu har ytterligare information tillkommit. Bits of Freedom skriver:
»The new Belgian proposal goes beyond the previous data retention obligation. Under the ”old” legislation, a provider was only obliged to retain data they collected anyway. Data that the provider did not have could not be retained. You can’t keep what you don’t have. (…) The new Belgian proposal, however, doesn’t leave it at that. The new proposed legislation forces providers to record that data on behalf of the government, even if the provider doesn’t see a need for it itself. The proposal therefore is not only an obligation to retain data, but also to record it.«
Vilket slår mot meddelandeappar som Signal:
»It means that chat services such as Signal will become illegal. The developers of Signal pride themselves on the fact that they really only store the data they genuinely need, and no more than that. They do so, because you can’t leak what you don’t have. Signal only knows when an account was created, and when a user last connected to the network. It does not keep track of who sends a message to whom and when. But the Belgians now want to force Signal not only to keep track of that, but also to store that information for a very long time. And since that is exactly what Signal does not want to do, it means Signal is doomed.«
Den föreslagna nya belgiska datalagringen är intressant , då den kan ses som en testballong för de EU-stater som vill kringgå EU-domstolens förbud mot svepande datalagring. Att gå denna väg, land för land, har redan diskuterats som alternativ till ett nytt EU-direktiv.
Vilket innebär att även Sverige kan få liknande lagstiftning i framtiden.
I ett närbesläktat svenskt fall hotar Post- och Telestyrelsen internetoperatören Bahnhof med vite om de inte lämnar ut information om portnummer, trots att sådan inte finns lagrad.
Den ständigt växande övervakningsstaten
Hur mycket övervakning kan vi införa innan den blir ett demokratiskt problem? Bryr sig någon?
Förra veckan gav Europaparlamentet polismyndigheten Europol rätt att registrera människor som inte är misstänkta för brott. Europol fick även direkt tillgång till data hos privata aktörer som Facebook, Google och Microsoft.
För två veckor sedan beslutade riksdagen om »modernare regler för användningen av tvångsmedel«. Polisen får rätt att genomsöka externa servrar och molntjänster. Enskilda kan tvingas att låsa upp sin mobiltelefon om polisen vill titta i den. Med mera.
ChatControl2 innebär att alla elektroniska meddelanden och all e-post skall avkrypteras och att dess innehåll skall granskas. Den senaste informationen är att detta förslag kommer att läggas fram denna vecka, efter upprepade förseningar.
ChatControl2 / meddelandekontroll bryter – enligt intern kritik i EU-kommissionen – mot förbudet mot generell övervakning, förslaget är tekniskt oklart och det respekterar inte individens rätt till privatliv. Ändå ser det ut att nu läggas fram.
Samtidigt pågår utfrågningar i Europaparlamentet på grund av att medlemsstater som Polen och Spanien använt övervakningsverktygt Pegasus för att spionera på oppositionella. Till och med ledamöter av parlamentet har avlyssnats och deras mobiler genomsökts.
Trots EU-domstolens upprepade protester tänker EU-kommissionen även lägga fram ett nytt förslag till datalagring. Det vill säga lagring av data om alla medborgares alla telefonsamtal, meddelanden, uppkopplingar och mobilpositioner.
Ett antal EU-länder – däribland Sverige – struntar för övrigt i att EU-domstolen redan för åtta år sedan sa nej till datalagring. Den svenska lagen på området lär vara olaglig, om den skulle prövas rättsligt. Regeringens envishet är på gränsen till domstolstrots.
Detta är bara några exempel på vad som är aktuellt, nyligen klubbats eller är på gång.
Lägg till detta all övervakning som redan beslutats inom ramen för till exempel hemlig dataavläsning, FRA-spaning åt allehanda myndigheter och årtionden av samlad, ständigt expanderande lagstiftning på området.
Övervakning läggs till övervakning. Förr eller senare blir den ett demokratiskt problem. Men ingen tycks bry sig.
Frågan är om någon ens har en total överblick över alla former av övervakning som införts på nationell respektive EU-nivå.
Europol får utökat mandat för övervakning
Europol får nu rätt att lagra data om medborgare som inte är misstänkta för brott. Man får också direkt tillgång till data hos privata aktörer som Google, Microsoft och Facebook.
Europaparlamentet har idag godkänt Europols nya, utökade mandat. Som vi tidigare rapporterat ger man nu grönt ljus för den tidigare olagliga lagringen av data om medborgare som inte är misstänkta för brott. (Beslutet gäller retroaktivt.) Man godkänner även att Europol ges direkt tillgång till data hos privata aktörer på nätet.
Europol får även möjlighet att använda AI för brottsförebyggande arbete. Det vill säga pre-crime-utredningar, riktade mot brott som ännu inte begåtts. Detta innebär en risk för flaggning av falska positiva, vilket i sin tur kan leda till att helt oskyldiga kommer att drabbas.
Chloé Berthélémy, Policy Advisor på European Digital Rights (EDRi) säger:
»The European Union is transforming its law enforcement agency into a data black hole. Europol will be allowed to collect and share data left, right, and centre without much restriction or control. The reform of Europol also validates the development, deployment and use of harmful policing technologies that will undermine people’s most basic rights.«
Laure Baudrihaye-Gérard, Legal Director (Europe) på organisationen Fair Trials säger:
»No law enforcement agency should be above the law. Europol already has vast amounts of data processing power and we have seen that EU institutions are turning a blind eye to its unlawful and high-risk activities. Extending Europol’s mandate sets a dangerous precedent, implying that law enforcement can operate without accountability or oversight. It is highly concerning for fundamental rights in the EU.«
Länkar:
• Europaparlamentet: Parliament backs giving more powers to Europol, but with supervision »
• Fair Trials: Europol’s ever-increasing mandate: European Parliament fails to stand up for fundamental rights »
Tidigare, relaterat:
• Europol får fortsätta registrering av icke misstänkta »
• Europol’s expanding mandate: European Parliament must stand against unaccountable and discriminatory policing »
Varför lämnar Socialdemokraterna Twitter?
I en tweet meddelar Socialdemokraterna att de slutar twittra. Frågan är varför.
Expressen rapporterar:
»Partiet har 118 000 följare på plattformen och att de skulle välja att inaktivera kontot under brinnande valår är otippat.
Johannes Svensson, presstalesperson för Socialdemokraterna bekräftar att det är en officiell tweet och att kontot inte är hackat.
– Det som jag kort kan säga är att vi fokuserar på att vara ute på gator och torg i valrörelsen och träffa folk, och att vi kommer ha andra kanaler. Och i just den här kanalen så är det samtalsklimatet som vi inte tycker är produktivt, säger han.«
Det är onekligen originellt att överge en kommunikationskanal med hundratusentals följare och med möjlighet att nå betydligt fler väljare än så. Speciellt i upptakten till en valrörelse.
Man tycker alltså att samtalsklimatet på Twitter inte är produktivt. Det skulle vara intressant att se analysen bakom denna slutsats. Vad är det i samtalsklimatet som är problematiskt? Att folk kan säga emot, ifrågasätta och ställa det statsbärande partiet till svars?
Borde inte medborgare som engagerar sig i samtalet med de politiska partierna vara något som välkomnas i en demokrati?
Det finns en allmän tendens att stämpla kritik och motargument på nätet som hat och hot. Speciellt när sådan kritik har en poäng eller fakta på sin sida. Är det något sådant som spökar i detta fall?
Eller handlar det möjligen om en markering mot att Elon Musk vill köpa Twitter? Men är då dagens ägare – BlackRock, Morgan Stanley och saudiska kungahuset – bättre?
Man kan notera att Socialdemokraterna historiskt sett har haft ett ansträngt förhållande till fri information. Förslag om förbud mot parabolantenner och motståndet mot fria etermedia kan nämnas.
Motviljan mot fri information är förvisso inte unik för Socialdemokraterna. Så gott som alla partier vill införa statligt godkända nätcensorer, uppladdningsfilter, gränsöverskridande nätcensur och granskning av medborgarnas elektroniska kommunikationer.
Förmodligen längtar politikerna tillbaka till den tid då deras information var enkelriktad, utan möjlighet för mottagaren att kommentera. Allt var så mycket enklare för partistrategerna när deras påståenden inte genast kunde analyseras, faktagranskas och kritiseras offentligt.
Den som har makten över informationen har makten över folket.
Nu återstår att se om Socialdemokraterna verkligen klarar av att bojkotta Twitter. Och hur kommer profilerade s-twittrare som Morgan Johansson och Annika Strandhäll att göra?
