Femte juli

Nätet till folket!

Privatliv

Rätten till privatliv är en grundläggande mänsklig rättighet, vilket bland annat slås fast i Europakonventionen för de mänskliga rättigheterna samt i EU:s stadga. Här publicerar vi nyheter om hur myndigheter, företag och andra aktörer vill skaffa sig tillgång till vår privata information.

Massövervakning i smitto-krisens spår

av

Nu börjar vi se hur mobilteknik och positionsdata börjar rullas ut i Corona-krisens spår.

»Att kunna spåra hur misstänkta bärare av coronaviruset rör sig har visat sig vara ett viktigt verktyg för att kontrollera pandemin, säger Marylouise McLaws, teknisk rådgivare till Världshälsoorganisationens globala enhet för kontroll av infektioner, och tillika professor i folkhälsa vid University of New South Wales i Australien.« (…)

»För att kontrollera att den misstänkt smittade inte lämnar hemmet har myndigheterna bett de misstänkta att slå på lokalisering på sina mobiler och att klicka på länkar som skickar per sms med jämna mellanrum. Klicken måste ske inom en viss kort tid så att de misstänkt smittade inte kan lämna hemmet med mobilen lämnad hemma. I vissa fall har myndigheterna även gjort fysiska besök för att kontrollera att den misstänkte håller sig hemma.«

Computer Sweden: WHO:s rådgivare: Dags att spåra smittade med mobilen »

»The Coronavirus (COVID-19) disease poses a global public health challenge of unprecedented proportions. In order to tackle it, countries around the world need to engage in co-ordinated, evidence-based responses. Our responses should be grounded in solidarity, support and respect for human rights, as the Council of Europe Commissioner for Human Rights has highlighted. The use of high-quality data can support the vital work of scientists, researchers, and public health authorities in tracking and understanding current pandemic.

However, some of the actions taken by governments and businesses under exceptional circumstances today, can have significant repercussions on freedom of expression, privacy and other human rights both today and tomorrow.«

EDRi: EDRi calls for fundamental rights-based responses to COVID-19 »

»Governments around the world are demanding new dragnet location surveillance powers to contain the COVID-19 outbreak. But before the public allows their governments to implement such systems, governments must explain to the public how these systems would be effective in stopping the spread of COVID-19. There’s no questioning the need for far-reaching public health measures to meet this urgent challenge, but those measures must be scientifically rigorous, and based on the expertise of public health professionals.

Governments have not yet met that standard, nor even shown that extraordinary location surveillance powers would make a significant contribution to containing COVID-19. Unless they can, there’s no justification for their intrusions on privacy and free speech, or the disparate impact these intrusions would have on vulnerable groups. Indeed, governments have not even been transparent about their plans and rationales.«

EFF: Governments Haven’t Shown Location Surveillance Would Help Contain COVID-19 »

Datasäkerhets-gurun Bruce Schneier sätter upp ett antal krav man bör kunna ställa när sådan övervakning rullas ut:

  • Intrång i människors privatliv måste vara nödvändiga och stå i proportion till vad som offras.
  • Datainsamling måste grunda sig på vetenskap, inte förutfattade meningar.
  • Datainsamlingen måste upphöra när krisen är över.
  • Transparens: Myndigheterna måste förklara vad de gör, varför och vilken data de samlar in.
  • Rättsstatliga principer: Om en individs fri- och rättigheter inskränks på grund av insamlad data måste det finnas en möjlighet att få saken rättsligt prövad.

Bruce Schneier: Emergency Surveillance During COVID-19 Crisis »

Och i länder som Tyskland finns redan en omfattande debatt om saken: Regierung will mehr Durchgriffsrechte »

Läs även vår tidigare post: Kommer smitto-krisen att leda oss in i en Storebrors-stat? »

Kommer smitto-krisen att leda oss in i en Storebrors-stat?

av

Den pågående smitto-krisen kan leda in i en Storebrors-stat.

Ett exempel är hur appar snabbt och enkelt kan sättas upp för att hålla koll på människors risk-status och var de befinner sig. I Kina är detta redan verklighet. I Aftonbladet beskriver Mattias Beijmo några av riskerna:

För de som tycker att stater mer fritt ska få tillgång till våra digitala fotspår är coronaviruset en gudagåva. På samma sätt som kriget mot terrorismen varit ständig förklaringsmodell för allsköns kränkningar av vår integritet, kommer nu viruset vara det som öppnar portarna för att innovativt använda appar som redan finns i vår mobil för att skydda samhället.

Så kan det säkert vara. Dagens Nyheter tycks redan driva den linjen på ledarplats. Det är bara en tidsfråga tills myndigheter och politiska partier hakar på.

När systemet sedan är infört, då är risken uppenbar att det blir kvar. För att det kan vara bra att ha. För att polisen tycker det är praktiskt. För att det underlättar planering av kollektivtrafiken. Och så vidare.

Våra mobiler är redan idag spårsändare som låter myndigheterna kartlägga var vi befunnit oss, så infrastrukturen finns redan på plats. Företag som Google och Facebook säljer redan data om användarnas beteende. Och det finns redan appar som övervakar vår hälsa.

Något större principiellt paradigmskifte är det inte heller. Med FRA-lagen är det redan klart att staten kan skanna av en stor del av våra elektroniska kommunikationer. Och med datalagringen har en princip etablerats som ger myndigheterna klartecken till att betrakta hela befolkningen som potentiella skurkar och terrorister.

Om smitto-krisen tvingar på oss en ny typ av övervakning, då står sista försvarslinjen vid hur lagstiftningen reglerar hur den får användas. Vilket inte är något absolut skydd mot missbruk av systemet. Men det enda som i så fall står mellan oss och ett dystopiskt Storebrors-samhälle.

Nu gäller det att vara uppmärksam och vaksam.

/ HAX

Internationellt rullar polisen ut automatiserad ansiktsigenkänning i stor skala

av

Ur två bloggposter från Matthias Monroy:

»The European Union is extending the cross-border query of biometric data to faces. Searches should also be possible with still images from surveillance cameras. Up to now, only individuals may be processed in the Prüm framework, but soon bulk searches could be permitted.«

Prüm Decision: European criminal police offices agree on face recognition system »

»The International Police Organisation is developing a system to identify unknown persons by facial images. Interpol stores photos and videos from Internet service providers and other companies in a separate database. Interpol has also been using Clearview services for face recognition.«

Clearview AI: What does Interpol use face recognition for? »

TERREG: Ännu ett akut hot mot ett fritt och öppet internet

av

EU fullständigt sprutar ur sig lagförslag efter lagförslag som på ena eller andra sättet underminerar internets öppenhet och frihet.

2019 förlorade vi kampen mot EU:s upphovsrättsdirektiv – och de uppladdningsfilter som är tänkta att hindra oss från att ladda upp information på nätet som är eller kan misstänkas vara upphovsrättsskyddad.

Med detta etablerades principen om automatiserad förhandscensur i EU:s regelverk.

Och nu är en förordning om terror-relaterat innehåll på internet (TERREG) i hög fart på väg genom EU:s beslutsapparat.

Med denna förordning vill EU omöjliggöra uppladdning – det vill säga publicering – av sådant som kan anses vara »terror-relaterat«. Inte ens vetenskapen, journalistiken eller konsten kommer att undantas, om ministerrådet får som det vill.

Det kan förvisso vara rimligt att försöka hålla nätet fritt från terroristers propaganda och infotainment. På samma sätt som det kan vara rimligt att vänligt men bestämt skjuta alla åt sidan som de facto är beredda att angripa det civiliserade västerländska samhället med våld.

Detta måste ske med största respekt för det fria ordet, våra fri- och rättigheter och det demokratiska samhällets principer. Tyvärr verkar TERREG inte ta dessa faktorer på det allvar de förtjänar.

Men låt oss utgå från att terror-relaterat innehåll på nätet skall bort. Exakt vad är det då som skall bort? Var går gränsen mellan vad som är acceptabelt och oacceptabelt?

Här måste etableras något slags standard. Och plötsligt har vi nya lagar om vad som får respektive inte får publiceras på internet. Med allt vad sådant brukar medföra av oförutsedda och oönskade konsekvenser.

Men även om vi bortser från sådana invändningar är förslaget till förordning illa skrivet.

Till exempel föreslås att terror-relaterat innehåll på nätet skall vara avlägsnat inom en timma. När så är tekniskt möjligt, vill Europaparlamentet tillägga. Vilket ministerrådet tjurskalligt motsätter sig.

Och i andra ändan av systemet har vi uppladdningsfiltret. Ministerrådets position:

»Hosting service providers shall use “proactive measures” to prevent the re-upload of content previously taken down and to detect and identify alleged terrorist content.«

På andra sidan står Europaparlamentet som säger nej till uppladdningsfilter. Parlamentet tvingas även påpeka att vi bara kan stifta lagar som gäller i EU – och att rådets krav på global filtrering inte är möjligt.

Detta är bara några av problemen med TERREG. Vi kommer att återkomma med fler bloggposter i ämnet. Om du vill läsa mer rekommenderas följande länkar.

• Bland andra Tim Berners-Lee, Vint Cerf och Bruce Schneier varnar för TERREG: Nätpionjärer varnar för EU-förslag mot terror-relaterat innehåll på internet »

• Den tyske piratpartisten i Europaparlamentet, Patrick Breyer, sitter med i den trialog i vilken EU:s olika institutioner försöker komma överens om TERREG. Läs hans genomgång av ärendet här »

Nästa trialog-förhandling är planerad till den 18 mars, om smittoläget tillåter.

Så växer övervakningsstaten snabbare än lagstiftningen

av

Företaget Clearview har en enkel men obehaglig affärsidé: Man dammsuger internet och sociala media på bilder av identifierbara personer. Sedan tillhandahåller man en tjänst för automatiserad ansiktsigenkänning.

För en tid sedan drabbades Clearview av en läcka – där deras kunder exponeras i varierande omfattning.

Av denna läcka framgår det att Clearview har gjort affärer med svenska myndigheter. Datainspektionen försöker nu utreda vilka myndigheter det handlar om – och i vilken mån något olagligt förekommit. (Värt att notera är dock att Datainspektionen redan i höstas gav polisen rätt att använda automatiserad ansiktsigenkänning, i vart fall på försök.)

Medan vi väntar på vad som kommer ut ur detta, så pekar fallet på en oroväckande trend. I allt större utsträckning använder sig myndigheter runt om i världen av privata företag och tjänster – vad gäller sådant som de själva inte kan eller får syssla med, eller som befinner sig i gråzonen.

Det behöver inte vara automatiserad ansiktsigenkänning. Det kan lika gärna handla om persondata, som samlas in och sedan säljs av nätjättarna, Big Data och data brokers.

Förr talades mycket om risken med samkörning av olika register. Detta är fortfarande en risk – som ökar i takt med att allt fler nya register och datakällor kan kopplas till systemen. Det gäller så väl data och tjänster från privata aktörer som EU:s allt mer långtgående krav på informationsdelning mellan medlemsstaternas olika register.

Detta är problematiskt på många sätt. Bland annat genom att myndigheterna får tillgång till en infrastruktur för kontroll och övervakning som varken kräver demokratiskt godkännande eller demokratisk kontroll.

Det kommersiella alternativet till datalagring och hemlig dataavläsning – utanför lagen?

av

Protocol.com rapporterar:

»U.S. law enforcement agencies signed millions of dollars worth of contracts with a Virginia company after it rolled out a powerful tool that uses data from popular mobile apps to track the movement of people’s cell phones, according to federal contracting records and six people familiar with the software.

The product, called Locate X and sold by Babel Street, allows investigators to draw a digital fence around an address or area, pinpoint mobile devices that were within that area, and see where else those devices have traveled, going back months, the sources told Protocol.«

Detta är intressant. Det finns med andra ord kommersiella tjänster som gör samma saker som datalagringen och i viss mån hemlig dataavläsning.

Den centrala frågan är om detta kan ske utanför vad som regleras i lag. Vilket i så fall är problematiskt.

En annan aspekt är att detta är en tjänst (utvecklad för anpassad annonsering) som kan köpas av i princip vem som helst.

Länk: Through apps, not warrants, ‘Locate X’ allows federal law enforcement to track phones »

Fransk dom mot automatiserad ansiktsigenkänning i skolan

av

Frankrike har fått sitt första domstolsutslag om automatiserad ansiktsigenkänning.

Earlier this month, the Administrative Court of Marseille heard our case against facial recognition systems controlling access to two high schools in Nice and Marseille. These systems were authorised in December by the PACA Region as “experimental”. Yesterday, the Court annulled this decision.

The Court found that the Region had no power to take this decision – schools only have such powers. Furthermore, the Court found that it breached the GDPR: these systems were based on “consent”, but students’ consent cannot be “freely given” because of the authority relationship that binds them to the school’s administration.

Läs mer hos La Quadrature de Net »

EU jobbar på gemensamt system för automatisk ansiktsigenkänning

av

Ibland går det undan i EU.

Först ville EU-kommissionen införa ett tre- till femårigt förbud mot teknik för automatiserad ansiktsigenkänning på allmän plats – medan man utvärderar risker och möjligheter.

Sedan försvann detta förbud plötsligt ur de aktuella arbetsdokumenten.

Och nu: EU har givit konsultjätten Deloitte i uppdrag att utreda hur medlemsstaterna kan samordna register och system för automatiserad ansiktsigenkänning.

Från inte alls till alla alltid. En fullständig u-sväng, med andra ord.

Länk: EU police plan massive facial recognition database »

EU, Sverige och friheten på nätet

av

Friheten – och då inte minst yttrandefriheten på internet är under attack – från den politiska makten.

I EU har man nu ett nytt upphovsrättsdirektiv som öppnat upp för automatisk filtrering av sådant som användare laddar upp på sociala media. Det vill säga automatiserad förhandscensur.

I det EU-direktiv mot terrorrealaterat innehåll på nätet som just nu är under beredning vill medlemsstaterna att oönskat material skall plockas bort inom en timma – inte bara från sociala plattformar utan även från enskilda individers molntjänster, som Dropbox. Vilket förutsätter att även privat information måste övervakas, analyseras och filtreras. Man säger rakt ut att man vill se uppladdningsfilter. Och medlemsstaterna ser i sammanhanget inte något skäl att göra undantag för utbildning, konst, journalistik eller forskning.

Just nu pågår även arbetet med att ta fram en Digital Services Act – som bland annat är tänkt att innehålla gemensamma EU-regler mot hat och hot på nätet – istället för den nationella lagstiftning där bland andra Frankrike och Tyskland är pådrivande. Det finns skäl att tro att genensam EU-lagstiftning på området kommer att utgå från just de länder som har den strängaste lagstiftningen på området.

Även Sveriges »digitaliseringsminister«, Anders Ygeman (S), har varit ute i media och flaggat för att göra plattformarna ansvariga för vad deras användare laddar upp på nätet.

I sammanhanget kan det vara bra att komma ihåg även andra förslag som bollats i EU-apparaten – som ID-krav vid uppkoppling och ett EU-operativsystem.

I den EU-finansierade forskningen finns bland annat projekt som syftar till ökad övervakning av vad folk tycker och säger online. Till exempel PREVISION (A predictive platform running analytics through data obtained from ”online social networks, the open web, the Darknet, CCTV and video surveillance systems, traffic and financial data sources, and many more”.) Och CONNEXION (A predictive policing tool relying on social media, ’dark web’, and IoT data.) Allt kopplat till automatiserad övervakning, beteendeanalys och en uppsjö olika register.

Om man lägger samman alla de olika delarna får man en förfärande helhetsbild. En lång rad olika förslag som vart för sig är problematiska ger tillsammans ett system för övervakning och censur som inte hör hemma i en demokratisk rättsstat.

Politikerna, de vill bara ha mer av samma. Så kommer det alltid att vara. Om vi inte vill leva i en outhärdlig Storebrors-stat måste motståndet därför komma underifrån, från folket. Och det börjar bli ont om tid.

Magert resultat för NSA:s massövervakning

av

Bruce Schneier:

»A National Security Agency system that analyzed logs of Americans’ domestic phone calls and text messages cost $100 million from 2015 to 2019, but yielded only a single significant investigation, according to a newly declassified study.

Moreover, only twice during that four-year period did the program generate unique information that the F.B.I. did not already possess, said the study, which was produced by the Privacy and Civil Liberties Oversight Board and briefed to Congress on Tuesday.«

Länk: Newly Declassified Study Demonstrates Uselessness of NSA’s Phone Metadata Program »