Femte juli Nätet till folket!

Nätet till folket!

Privatliv

Rätten till privatliv är en grundläggande mänsklig rättighet, vilket bland annat slås fast i Europakonventionen för de mänskliga rättigheterna samt i EU:s stadga. Här publicerar vi nyheter om hur myndigheter, företag och andra aktörer vill skaffa sig tillgång till vår privata information.

Forskare varnar för Apples nya meddelande- och bildkontroll

av 2 kommentarer

Forskare vid Princeton University har testkört en egen variant av Apples nya system för att övervaka och granska sina användares meddelanden och bilder. De kom fram till att det är farligt.

Som vi tidigare rapporterat tänker Apple börja skanna sina användares meddelanden och bilder i jakt på sexuellt utnyttjande av barn, till en början i USA. Även EU överväger ett liknande system, för alla. Men detta kommer inte utan risk för missbruk och ändamålsglidning.

Princeton-forskarna skapade faktiskt en test-version av ett system liknande Apples redan innan Apple själva lanserade det. Och man kom fram till att det finns risker. Den mest uppenbara är ändamålsglidning.

»Our system could be easily repurposed for surveillance and censorship. The design wasn’t restricted to a specific category of content; a service could simply swap in any content-matching database, and the person using that service would be none the wiser.«

Man ser även ett problem med falska flaggningar.

»The content-matching process could have false positives, and malicious users could game the system to subject innocent users to scrutiny.«

Apple har tidigare – när man stod på användarnas sida – uttalat att enda sättet att undvika att kraftfulla övervakningsverktyg missbrukas är att aldrig skapa dem. Men det var då.

• Washington Post: We built a system like Apple’s to flag child sexual abuse material — and concluded the tech was dangerous »

Skriv på mot Apples övervakningsplaner

av Lämna en kommentar

Gör som 5 juli-stiftelsens ordförande, Oscar Swartz, och skriv på EFF:s upprop mot Apples planer på att granska sina användares bilder och meddelanden.

I nästa uppdatering av operativsystemen för mobiler och datorer kommer Apple att rulla ut en funktion för att granska sina användares bildalbum och meddelanden. Detta kommer i ett första skede att gälla i USA, men sådant brukar ju sprida sig. Dessutom överväger EU ett liknande system för alla mobiltelefoner, när Apple väl öppnat den dörren.

Protestera du också. Uppropets text är kort och koncis:

Don’t Scan Our Phones
The “child safety” changes Apple plans to install on iOS 15 and macOS Monterey undermine user privacy, and break the promise of end-to-end encryption.

I urge Apple to reconsider these systems. Continuous scanning of images won’t make kids safer, and may well put more of them in danger. Installing the photo-scanning software on our phones will spur governments around the world to ask for more surveillance and censorship abilities than they already have.

Länk: Tell Apple: Don’t Scan Our Phones »

Uppladdningsfilter, datalagring, statligt godkända nätgranskare, av-kryptering och granskning av meddelanden och e-post på höstens politiska dagordning

av Lämna en kommentar

Sommarlovet är över och det är dags att se över vilka nät-, yttrandefrihets- och övervakningsfrågor som finns på den politiska dagordningen i höst.

Sverige

  • Redan i somras skulle EU:s nya upphovsrättsdirektiv ha varit svensk lag. Någon remiss eller proposition har dock inte synts till. Delvis kan det bero på att EU-kommissionen dragit benen efter sig i den kontroversiella frågan om uppladdningsfilter. En annan sak att hålla ögonen på är hur direktivets absurda länkskatt är tänkt att implementeras i svensk lag.
  • Efter att EU-domstolen meddelat att den svenska lagen om datalagring måste skrivas om har regeringen tillsatt en utredning. Visserligen skall utredningen presenteras först våren 2023, men det är viktigt att hålla frågan levande – och då inte minst det faktum att den svenska datalagringen fortfarande kolliderar med domstolens nej till svepande lagring av data om alla medborgares alla tele- och datakommunikationer utan misstanke om brott.

EU

  • EU:s nya Digital Services Act (DSA) föreslår så kallade Trusted Flaggers – som är tänkta att vara organisationer som är statligt godkända nätgranskare, med direktlinje till sociala medias abuse-avdelningar.
  • Det finns krafter i både Europaparlamentet och ministerrådet som vill att DSA också skall innehålla allmänna uppladdningsfilter.
  • EU:s ministerråd vill i ett inspel kopplat till DSA att inte bara olagligt material skall plockas bort på nätet. Man vill även att icke olagligt hat och hot skall bort, vilket i så fall innebär att yttrandefrihetens gränser inte längre sätts av lag.
  • Under hösten väntas dom i EU-domstolen, där Polen överklagat artikel 17 i det nya upphovsrättsdirektivet, som kommer att leda till automatiska uppladdningsfilter. Domstolens generaladvokat ger (med vissa förbehåll) grönt ljus till artikel 17, men det händer emellanåt att domstolen går på en annan linje än dennes rekommendationer.
  • ChatControl 2.0 är uppföljningen till beslutet att ge meddelande- och e-post-tjänster möjlighet att av-kryptera och granska användarnas kommunikationer i jakt på sexuellt utnyttjande av barn. Under vintern kommer nästa steg, som förvänts göra detta obligatoriskt.
  • Kopplat till detta har EU presenterat ett diskussionspapper där man överväger att använda den metod som Apple valt (i vart fall i USA) för att komma åt bilder och sexuella övergrepp på barn. Det vill säga att kringgå kryptering genom att med något slags spionprogram granska bilder och meddelanden redan på användarens telefon. Vilket är ett av flera olika förslag man skissar på.
  • EU-kommissionen och ministerrådet överväger hur de skall kunna komma runt EU-domstolens nej till urskiljningslös datalagring utan misstanke om brott.
  • EU-kommissionen har föreslagit European Digital Identity Wallets, som är tänkta att användas för ID, pass, licenser, körkort, kollektivtrafikkort, sjukvårdsinformation, recept, inloggning på nätplttformar, betalningmedel med mera. Vilket kan öppna för ett omfattande övervakningssamhälle i vilket vi får blippa oss fram.
  • Europaparlamentets utskott för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) har sagt nej till till AI och biometrisk analys för massövervakning. Delar av minsterrådet och då speciellt Frankrike vill gå åt andra hållet och använda dessa verktyg.
  • I EU-kommissionens Code of Practice on Disinformation vill man att nätplattformarna i högre utsträckning skall av-monetarisera oönskat innehåll.
  • EU-kommissionen vill förbjuda anonyma betalningar med kryptovalutor och kontantbetalningar på över 10.000 euro.
  • Det pågår en diskussion (framförallt i ministerrådet) om att utöka registreringen av våra flygresor (PNR) till att även gälla tågresor, båtresor, bilhyra och hotellövernattningar.

Detta är bara ett urval av sådant som är på gång i svensk och europeisk politik under hösten. Det händer också att nya frågor dyker upp väldigt plötsligt.

Vi bevakar dessa och fler frågor. Du följer utvecklingen här på bloggen.

Kameraövervakningen revisited

av Lämna en kommentar

Förr i tiden var övervakningskameror den stora integritetsfrågan. Då var kamerorna ändå rätt dumma. De sände en signal till någon som tittade på en monitor. Eller så bandade man bara, ifall det skulle hända något, för att kunna titta i efterhand. Vilket nu plötsligt framstår som relativt oskyldigt.

Nu för tiden kan kameraövervakning – om man vill – kompletteras med automatisk ansiktsigenkänning och följa enskilda personer i realtid. Ditt ansikte skannas av kameror lite varstans på stan. Sedan kan myndigheterna skaffa sig en god bild av hur du rört dig och var du befunnit dig. (Skatteverket måste älska det här.)

För de myndigheter som till äventyrs vill registrera vilka personer som deltar i ett politiskt möte eller en demonstration är detta ett fantastiskt verktyg. Se till exempel hur tekniken används av Kina i Hong Kong.

Du behöver inte vara en person of interest för att bli aktivt övervakad. De nya systemen använder AI för att identifiera och rent av förutse problem. De analyserar allas beteende, flocken. Algoritmer studerar våra rörelsemönster, vårt humör och våra små egenheter. Gör du något som bryter mot mönstret noteras det. Ditt beteende matas in i matrisen.

EU har finansierat sådana här projekt i årtionden. Trots visst motstånd i Europaparlamentet. INDECT var mest på tapeten när jag jobbade där.

Än så länge är automatiserad ansiktsigenkänning allt för kontroversiellt i de flesta europeiska länder. Men tekniken finns där. Den är betald av EU:s skattebetalare. Och Frankrike, vars ledare är positiva till automatisk ansiktsigenkänning, ser sig som ett föregångsland.

Det är rätt tydligt vart vi är på väg om vi inte sätter stopp för det här. Men det är inte helt tydligt var gränsen mellan vad som är acceptabelt och massövervakning går.

För vad det är värt snubblade jag över en internationell studie från år 2019 om hur effektiv video/kameraövervakning egentligen är. Några slutsatser:

  • Kameraövervakning har ingen effekt mot våldsbrott. Däremot minskar den droghandel och egendomsbrott.
  • Kameraövervakning minkar brottsligheten på parkeringsplatser och i kollektivtrafiken, men inte lika mycket i bostadsområden och inte alls i stadskärnor och bostadshus.
  • Vill man stoppa brottslighet räcker det inte med att banda det som sker, utan det kräver även en aktivt bevakat live-feed och direkt respons.
  • Det räcker inte med bara kameraövervakning. För att bli effektiv behöver den kompletteras med allt från bättre gatubelysning till säkerhetsvakter.
  • Enligt erfarenheter från Sverige, USA och Kanada minskar kameraövervakning inte antalet brott – vilket däremot är fallet i Sydkorea och Storbritannien.

De flesta svenskar är positiva till mer kameraövervakning. Men då kan det vara värt att komma ihåg att den inte är någon universallösning – och att det mest är en tidsfråga innan den blir en del av den automatiserade massövervakning som inte gör någon skillnad mellan att hålla ett öga på kriminella och att övervaka vanliga, hederliga människor som bara sköter sitt.

Video: Så avslöjade telefonen katolsk präst på gaybar

av Lämna en kommentar

Generalsekreteraren för katolska biskopskonferensen i USA, USCCB, har avgått efter att den fundamentalistiska bloggen The Pillar avslöjat att prästen varit på såväl gaybarer som en gaysauna, enligt platsdata som de kopplat till hans telefon, och som ska härröra från en dejtingapp, troligtvis Grindr.

Det intressanta i den här historien är att The Pillar säger sig ha köpt dessa data på laglig väg. Grävjobbet består i att koppla denna anonyma data till prästens telefon. Men bloggarna är förtegna om exakt hur de gjort, och Grindr är mycket kritiska i sitt svar.

Vi pratar om gayskandalen och frågar oss om EU är bättre rustat för liknande spionage:

Läs mer

USA: Nya långtgående krav på alla som har med kryptovaluta att göra

av Lämna en kommentar

I USA:s nya infrastrukturpaket ställs långtgående krav på reglering och beskattning av digitala valutor. Vissa av dessa förefaller direkt orealistiska eller omöjliga.

Det föreskrivs bland annat att alla som har med kryptovalutor att göra skall se till att ha kundkännedom och redovisa alla transaktioner till skattemyndigheterna.

Vem som är att betrakta som mäklare av digitala valutor kommer också att utökas. Enligt en tolkning (lagen är inte helt glasklar) till den punkt där alla som möjliggör eller medverkar till transaktioner med kryptovalutor (till exempel den browser du använder och kanske till och med din ISP) omfattas av den nya rapporteringsplikten.

Den nya lagstiftningen träder ikraft år 2023, om den inte ändras innan dess. Se mer i videon nedan.

Youtube: New Infrastructure Bill Could KILL Crypto »

EU överväger Apples lösning för att identifiera övergrepp mot barn online

av 2 kommentarer

Förra veckan rapporterade vi om Apples plan på att granska meddelanden och bilder på avsändarens telefon och på så sätt föregripa att de sänds redan innan de krypterats – i syfte att bekämpa sexuella övergrepp mot barn (CSA). Det visade sig att detta är en lösning som Apple främst tänkt sig använda i USA. Men snabbt dök det upp information som visar att EU överväger samma modell.

I ett läckt diskussionspapper från EU-kommissionen (PDF) visar det sig att man överväger att göra i princip samma sak som Apple presenterade förra veckan och fick hård kritik för. Man kan till exempel fråga sig vad som alls är vitsen med end-to-end-krypterad (E2EE) kommunikation om den ändå granskas redan innan den hunnit krypteras och sändas. Dessutom finns en berättigad oro för ändamålsglidning, då denna metod även kan användas i andra syften och på så sätt undergräva rätten till privat kommunikation i ett vidare perspektiv.

I EU-kommissionens dokument skissas på en rad olika lösningar. Vissa är väldigt komplicerade och integritetskränkande. Några är lite enklare – till exempel ovanstående, som i princip är en kopia av vad Apple föreslagit. Men likväl illavarslande.

Vilken väg EU-kommissionen tänker föreslå är fortfarande okänt. Men det kan vara rimligt att anta att man kommer att vara öppna för en modell som redan används av en av de stora aktörerna på andra delar av dess marknad.

Apple börjar skanna meddelanden och bilder i jakt på övergrepp mot barn – vilket även öppnar dörren för övervakning i andra syften (uppdaterad)

av 7 kommentarer

Apple inför nu automatisk kontroll av alla bilder som går till eller från minderåriga användare i företagets meddelandetjänst. Man kommer även att kontrollera alla användares alla bilder, för att identifiera eventuella sexuella övergrepp mot barn. Även om syftet sägs vara gott är detta slutet för Apple som ett varumärke som sätter sina användares rätt till privatliv i främsta rummet.

Barnporr är vid sidan av terrorism myndigheternas effektivaste murbräcka vad gäller att inskränka vår rätt till privatliv på nätet och för att införa nya former av övervakning. För vem vill eller vågar säga emot – även om konsekvenserna av sådan övervakning blir långtgående och oönskade? När systemen väl är på plats är det bara en tidsfråga innan de börjar användas även för andra, mindre ädla, syften.

Till Apples försvar skall sägs att de försöker respektera användarnas rätt till privatliv längst möjligt. Analysen av bilder kommer inte att ske centralt, utan till en början på användarens mobil, dator eller platta. Vid ett visst antal misstänkta träffar kommer bilderna att översändas till Apple för mänsklig granskning innan de eventuellt sänds vidare till berörda organisationer och myndigheter.

Minderåriga (som är anslutna till ett familjekonto) kommer att få varningar om de försöker sända eller ta emot misstänkta bilder. Om de ändå väljer att gå vidare med att sända / titta på dem – då kommer deras föräldrar att aviseras. Vilket, om man tänker efter, också kan vara problematiskt i vissa fall där föräldrar och vårdnadshavare inte har barnens bästa för ögonen. Till exempel i familjer där föräldrarna själva utsätter sina barn för övergrepp eller där det råder så kallad hederskultur.

Den som vill ha mer detaljer kan följa länkarna nedan. Den större frågan är vad detta betyder i förhållande till den allt mer allomfattande övervakningsstaten. EFF skriver:

»Apple can explain at length how its technical implementation will preserve privacy and security in its proposed backdoor, but at the end of the day, even a thoroughly documented, carefully thought-out, and narrowly-scoped backdoor is still a backdoor.«

Diego Naranjo, Head of Policy på EDRi:

»Apple has decided to undermine end-to-end encryption and make all its users vulnerable to censorship and surveillance. By allowing scanning of photos in private communications and iCloud, Apple products will become a threat to their users. The company should take a step back, abandon these changes and defend people from corporate and government surveillance.«

Detta är en central punkt. Apple överger i praktiken end-to-end-kryptering (även om de själva formulerar saken på annat sätt) när innehåll som tidigare varit skyddat kan komma att granskas respektive överföras till andra aktörer. Det mest privacy-medvetna företaget blir nu ett av alla andra som lägger benen i vädret för Storebror.

När Apple öppnar dörren – då är det inte en fråga om ifall man kommer att öppna den även vad gäller alla andra förevändningar för övervakning, utan bara när.

Uppdatering: Enligt SR kommer denna verksamhet till en början att rullas ut i USA utan ytterligare information om när/om den kommer till EU. Vilket har en viss logik eftersom EU nyligen fattat beslut om ChatControl som ger meddelandetjänster möjlighet (och snart även skyldighet) att avkryptera och granska alla användares meddelanden i samma syfte. I EU ger nya regler om eBevis (med mera) även myndigheterna tillgång till filer i olika molntjänster som iCloud (där Apple-användares bilder m.m. lagras) och Dropbox – gränsöverskridande och utan föregående rättslig prövning. Så oavsett när eller om Apples nya kontroll kommer till Europa, så är vi i praktiken redan där.

Länkar:
• Apple: Expanded Protections for Children »
• EFF: Apple’s Plan to ”Think Different” About Encryption Opens a Backdoor to Your Private Life »
• EDRi: iSpy with my little eye: Apple’s u-turn on privacy sets a precedent and threatens everyone’s security «

Regeringens dubbelbluff om datalagringen

av 1 kommentar

Oavsett vad man tycker om övervakning var dagens presskonferens om datalagringen, med inrikesminister Damberg (S), ett försök att blanda bort korten. Man avledde dels uppmärksamhet från att Sverige fortfarande inte följer EU-domstolens dom som säger att man inte får ha svepande övervakning av alla utan misstanke om brott. Dels var det Damberg presenterade som regeringens nya idéer mot gängvåldet sådant som kommer att komma från EU ändå, varesig vi vill eller inte.

Idag presenterade regeringen en ny utredning om datalagring, som inte skall vara klar förrän efter nästa riksdagsval. Med detta hoppas man slå två flugor i en smäll: Dels vill man undvika en debatt om den olagliga svenska datalagringen. Dels hoppas man framstå som handlingskraftig mot brottsligheten, trots att nästan allt som presenterades är sådant som redan är under beredning i EU.

Dessutom överväger EU sin strategi i frågan. Det kan bli ett nytt datalagringsdirektiv, som i så fall kommer att stå över svensk lag. Det kan också bli en gemensam rekommendation (som inte kräver beredning i demokratisk ordning). Eller så låter man medlemsstaterna sköta frågan på egen hand. Var detta landar vet vi inte. Men det finns en risk för att utredningen kommer att vara inaktuell innan den ens är klar.

Datalagring vad gäller kommunikationsappar samt tillgång till användarnas molntjänster var två av punkterna på dagens presskonferens. Detta får möjligen regeringen att framstå som handlingskraftig mot brottsligheten. Men det är inte ens regeringens egna idéer – utan kommer från aktuella förslag i EU och Europarådet, till exempel eBevis och revideringen av Budapestkonventionen. (Länk 1 | Länk 2)

I ett pressmeddelande säger inrikesminister Damberg (S):

»Efter en dom i EU-domstolen släcktes lampan för brottskämpande myndigheter när datalagringen plötsligt stoppades. På regeringens initiativ återinfördes datalagringen i oktober 2019 och då fick brottsbekämpningen tillbaka ett av sina viktigaste verktyg. Nu tar vi nästa steg genom ett nytt initiativ för att se till att reglerna om datalagring moderniseras och effektiviseras ytterligare i takt med teknikutvecklingen.«

Vad Damberg inte säger är att även den aktuella svenska lagen om datalagring strider mot EU-domstolens förbud mot svepande övervakning av alla människors telekommunikationer utan misstanke om brott.

Enda skälet till att vi har den lag vi har är att dess senaste variant (ännu) inte prövats av EU-domstolen. Det är mycket troligt att detta är det verkliga skälet till att man nu tillsätter en utredning – men att man tog chansen att paketera den som insatser mot den ständigt aktuella gängbrottsligheten.

Datalagringen – lagring av data om alla människors alla tele- och datakommunikationer och positionsdata, utan misstanke om brott – är en fråga som kommer att fortsätta spöka för regeringen (av vilken färg den än är).

• Regeringens pressmeddelande »
• Regeringens digitala pressträff och presentationsbilder »