Femte juli

Nätet till folket!

Övervakning

I denna kategori samlar vi nyheter som har med övervakning och massövervakning att göra. Det gäller såväl på nätet som i den fysiska världen.

En av EU fastställd värdegrund för AI?

av

EU:s ministerråd har diskuterat artificiell intelligens. Speciellt upprymda tycks man vara över möjligheten att använda AI för att identifiera tal, video och bilder som man vill få bort från nätet.

Man har även en vision om digitala AI-assistenter:

”Combined with a natural language interface, this technology could form the basis for a digital assistant. Such an assistant could take instructions through a natural written and spoken discussion, providing a common interface to a variety of applications at the same time, and adapt to the needs of the user. The same technology could power customer service bots that answer questions from citizens. In spoken language mode, the assistant would be helpful to police patrols busy dealing with people involved in incidents. Developing smart digital assistants is vital for making future information overload manageable, but at the same time, we must ensure that the resulting system is transparent to the user.”

Det är säkert, ur ministrarnas perspektiv, önskvärt. Dock kan man fråga sig om AI-verktyg bäst växer fram om de formuleras, specificeras och blir låsta av politiker – eller om spontan utveckling, erfarenhet och best practice kanske är en bättre väg.

Ministrarna funderar vidare…

A society permeated with AI may become too complex to comprehend, which would entail a fundamental lack of transparency. This can be mitigated through system design: for example, a digital assistant should be required to be able to explain its reasoning, and undergo an ethical audit.”

Men bör detta vara en politisk fråga?

Och vad menas egentligen med att AI skall underställas »an ethical audit«? I så fall måste vi först komma överens om ett gemensamt gällande etiskt regelverk. Givet att detta skall fungera mot ett AI som enligt den populära uppfattningen är »smartare«, mer logiskt och mer rationellt än människor – så kan man ana att politiskt fastställda etiska ramar kan orsaka en del absurda syntaxfel.

Ministrarna förutspår även att AI kan möjliggöra autonoma miniatyrdrönare med ansiktsigenkänning. Och om det gläder dem, då skulle de bara veta vilka oerhört kraftfulla verktyg för övervakning som AI kan komma att sätta i deras händer – som de ännu inte ens kan föreställa sig.

Där har politiken en uppgift – att sätta lagliga gränser för hur överheten får använda AI för att övervaka folket.

Länk: EU plans for Artificial Intelligence (AI): Get ready to meet you friendly ”digital assistant” »

Krav på att EU utreder datalagringens risker

av

EU:s ministerråd vill gärna se ett nytt datalagringsdirektiv, efter det som ogiltigförklarats av EU-domstolen. Den avgående EU-kommissionen har inte velat röra datalagringen. Så nu är frågan vad den nya EU-kommissionen kommer att göra.

I väntan på besked skriver 30 europeiska organisationer för nätfrihet och digitala rättigheter brev till EU-kommissionen. Ur innehållet…

While the concept of blanket data retention appeals to law enforcement agencies, it has never been shown that the indiscriminate retention of traffic and location data of over 500 million Europeans was necessary, proportionate or even effective.

Blanket data retention is an invasive surveillance measure of the entire population. This can entail the collection of sensitive information about social contacts (including business contacts), movements and private lives (e.g. contacts with physicians, lawyers, workers councils, psychologists, helplines, etc.) of hundreds of millions of Europeans, in the absence of any suspicion. Telecommunications data retention undermines professional confidentiality and deters citizens from making confidential communications via electronic communication networks. The retained data is also of high interest for criminal organisations and unauthorized state actors from all over the world. Several successful data breaches have been documented. Blanket data retention also undermines the protection of journalistic sources and thus compromises the freedom of the press. Overall, it damages preconditions of open and democratic societies.

Brevet mynnar sedan ut i ett önskemål om en grundlig utvärdering av datalagringen – inte minst ur ett medborgarrättsligt perspektiv – innan man går vidare.

Läs hela brevet här: Civil society calls for a proper assessment of data retention »

Hack avslöjar ryskt sabotage och spioneri på nätet

av

Ett lästips från Forbes:

Red faces in Moscow this weekend, with the news that hackers have successfully targeted FSB—Russia’s Federal Security Service. The hackers managed to steal 7.5 terabytes of data from a major contractor, exposing secret FSB projects to de-anonymize Tor browsing, scrape social media, and help the state split its internet off from the rest of the world. The data was passed to mainstream media outlets for publishing.

Hacket har tydligen utförts av en grupp som kallar sig 0v1ru$ och informationen spridits vidare av Digital Revolution.

Läs mer: Russia’s Secret Intelligence Agency Hacked: ’Largest Data Breach In Its History’ »

Krav på samtycke för ansiktsigenkänning

av

I veckan har EU-ländernas dataskyddsmyndigheter träffats i Bryssel. Bland annat har man diskuterat att kräva samtycke för automatiserad ansiktigenkänning.

Politico rapporterar:

In particular, the watchdogs are looking to reclassify facial recognition data as ”biometric data,” which under the GDPR is considered ”sensitive data” and requires explicit consent from the person whose data is being collected as well as other stricter privacy protections. Without these, collection of the data is forbidden.

Räkna med att detta kommer att möta motstånd bland EU:s justitie- och inrikesministrar – som ju i princip aldrig missar en chans till utökad övervakning och kontroll av medborgarna.

Politico: Europe eyes stricter rules on facial recognition »

Nu vill EU även registrera våra tåg- och båtresor

av

Under rubriken »vad var det vi sa«: Det finska EU-ordförandeskapet vill gå vidare med registrering av våra resor till att även omfatta tåg och båt.

EU har redan ett kritiserat system för registrering av upp till 60 datapunkter kring våra flygresor, PNR.

Nu har det finska EU-ordförandeskapet lyft frågan om att utöka registreringen till internationella resor med tåg och båt. Övriga EU-länder sägs vara i stort sett positiva till förslaget, även om man avvaktar ett rättsfall om PNR. Förmodligen kommer ett skarpt förslag under våren nästa år.

Som tongångarna är i EU kan man även förvänta sig att hyrbilar och hotellövernattningar kommer att registreras i nästa steg.

Länk: Finnland treibt Komplettüberwachung aller Reisebewegungen in der EU voran »

De får ansvar för nätfrågorna i Europaparlamentet

av

Det börjar klarna vilka som kommer att leda utskotten i Europaparlamentet. Här är de utskott som har störst påverkan på nätfrågorna:

IMCO (inre marknad och konsumentskydd) kommer att ledas av Petra De Sutter som är belgisk grön.

CULT (kultur) – tyska CDU-politikern Sabine Verheyen.

JURI (juridiska frågor) – Gilles Lebreton från franska Nationell Samling (tidigare Nationella Fronten).

LIBE (mänskliga rättigheter, rättspolitik, säkerhet) – Juan Fernando Lopez Aguilar som är socialdemokratisk spanjor.

Om man till exempel ser till upphovsrättsfrågor, då är JURI och CULT de viktigaste utskotten. Och de leds alltså av politiker som från partier / länder som knappast är intresserade av att reformera upphovsrätten.

LIBE har bland annat hand om frågor som rör fri- och rättigheter. Utskottet leds av en spansk socialdemokratisk veteran som kan frågorna, men som inte alltid är beredd att ta strid.

Hela listan: All the Committee Chairs and Vice-Chairs of the European Parliament revealed »

Tveksamhet inför ansiktsigenkänning kopplad till polisens kroppskameror

av

Det har blivit allt vanligare att polisen runt om i världen använder kroppskameror. Syftet med dessa är att dokumentera vad som verkligen sker vid ett ingripande – vilket även anses minska risken för övergrepp från polisens sida. Vilket är en bra sak.

Men tekniken går ständigt framåt. Och nu har det blivit möjligt att koppla polisens kroppskameror till ansiktsigenkänning – som syftar till att identifiera de människor vars ansikten kommer i kamerornas väg.

Vilket innebär att ett verktyg som var tänkt att öka rättssäkerheten plötsligt också håller på att bli ett verktyg för övervakning av allmänheten.

Detta oroar inte bara medborgarrättsaktivister. Även de företag som tillverkar kroppsburna kameror är avvaktande till utvecklingen. Till exempel har ett av dem, Axon, pausat sin utveckling av kameror med ansiktsigenkänning. Företaget skriver:

Technology is moving much faster than legislative bodies and courts can respond. Hence, we believe it is critical for technology leaders to work hard to understand the ethical, legal, and community implications for new technologies that are too new to be effectively covered by existing law.

Kritik kommer även från akademiker och en del politiker. Till exempel menar the California Assembly att kroppskameror med ansiktsigenkänning leder till att medborgarna tvingas välja mellan att undvika att att interagera och samarbeta med ordningsmakten – eller få bilder av sitt ansikte registrerade, analyserade och lagrade som potentiellt misstänkta brottslingar.

EFF:
• A Major Police Body Camera Maker Hits Pause on Face Surveillance »
• California: Stop Face Surveillance on Police Body-Worn Cameras »

5G sätter stopp för telefonavlyssning?

av

EU:s justitie- och inrikesministrar konstaterar yrvaket att den nya 5G-tekniken kan medföra problem för den ständigt ökande telefonavlyssningen.

EDRi rapporterar:

»The documents warn that various aspects of the technology underpinning 5G communications networks could make traditional wiretapping methods far more complicated or even render them useless. For example, the IMSI code – used to identify an individual device – will be encrypted, meaning “the security authority authorities are no longer able to locate or identify the mobile device,” according to Europol. 5G networks will also be able to detect false “base stations” – making it impossible to use IMSI catchers (or “stingrays”), devices that imitate telecoms antennae in order to discreetly acquire user data. Other issues such as network slicing, edge computing, and network function virtualisation raise their own problems, leading to significant new challenges for law enforcement agencies wanting access to individuals’ data.«

Samtidigt öppnar den nya tekniken i kombination med »the internet of things« nya möjligheter till övervakning. I USA har data som genereras i allt från smarta vattenmätare till pacemakers och bilars inbyggda digitala säkerhetssystem använts som bevis i domstol.

Man kan anta att ministerrådets oro kommer att öka kraven på datalagring – det vill säga data som lagras hos teleoperatörerna istället för att uppsnappas i realtid.

EDRi: EU worries over the possibility of losing wiretapping powers »

Kina installerar spionprogram på turisters mobiltelefoner

av

Vice Motherboard rapporterar:

Foreigners crossing certain Chinese borders into the Xinjiang region, where authorities are conducting a massive campaign of surveillance and oppression against the local Muslim population, are being forced to install a piece of malware on their phones that gives all of their text messages as well as other pieces of data to the authorities, a collaboration by Motherboard, Süddeutsche Zeitung, the Guardian, the New York Times, and the German public broadcaster NDR has found.

Vilket naturligtvis är en oacceptabel integritetskränkning. Men hur skall västvärlden kunna protestera med trovärdighet, när vi själva använder »statstrojaner« och spionprogram? I Sverige är nya lagar om »hemlig dataavläsning« just nu på väg genom det politiska systemet.

Länk: China Is Forcing Tourists to Install Text-Stealing Malware at its Border »

USA diskuterar förbud mot säker kryptering

av

Man skulle kunna tycka att debatten om kryptering borde vara över. Att göra kryptering olaglig är såväl idiotiskt som omöjligt. Och att skapa bakdörrar utsätter oss inte bara för Storebrors nyfikna granskning – utan gör oss dessutom sårbara för angrepp från till exempel cyberbrottslingar och främmande makt, eftersom sådana verktyg bevisligen läcker.

Men det hindrar inte politiker och byråkrater…

»Senior Trump administration officials met on Wednesday to discuss whether to seek legislation prohibiting tech companies from using forms of encryption that law enforcement can’t break — a provocative step that would reopen a long-running feud between federal authorities and Silicon Valley.« (…)

»The DOJ and the FBI argue that catching criminals and terrorists should be the top priority, even if watered-down encryption creates hacking risks. The Commerce and State Departments disagree, pointing to the economic, security and diplomatic consequences of mandating encryption “backdoors.” DHS is internally divided.«

Politico: Trump officials weigh encryption crackdown »