Femte juli

Nätet till folket!

Storebror

Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.

WhatsApp – motstridiga uppgifter om bakdörr

av

Forbes avslöjade häromdagen att WhatsApp planerar en bakdörr för att göra tjänstens end-to-end-krypterade meddelanden tillgängliga:

In Facebook’s vision, the actual end-to-end encryption client itself such as WhatsApp will include embedded content moderation and blacklist filtering algorithms. These algorithms will be continually updated from a central cloud service, but will run locally on the user’s device, scanning each cleartext message before it is sent and each encrypted message after it is decrypted.

The company even noted that when it detects violations it will need to quietly stream a copy of the formerly encrypted content back to its central servers to analyze further, even if the user objects, acting as true wiretapping service.

Detta får kanske ses som en lösning för att komma åt meddelanden utan att ge myndigheterna en bakdörr. Men det är ändå ett intrång i användarnas privata kommunikation.

Man kan även anta att om ett sådant system sjösätts, då kommer myndigheterna ändå att vilja ha direkt tillgång till alla flaggade meddelanden. Bruce Schneier kommenterar:

Once this is in place, it’s easy for the government to demand that Facebook add another filter — one that searches for communications that they care about — and alert them when it gets triggered.

Of course alternatives like Signal will exist for those who don’t want to be subject to Facebook’s content moderation, but what happens when this filtering technology is built into operating systems?

Idag kommer så en dementi från WhatsApp. Forbes:

On July 25th, WhatsApp’s parent company Facebook did not dispute the characterization posed to it that it planned to ”moderat[e] end to end encrypted conversations such as WhatsApp by using on device algorithms,” with the spokesperson pointing to Zuckerberg’s own blog post calling for precisely such filtering. This afternoon, Vice President of WhatsApp Will Cathcart contradicted this, offering “we have not done this, have zero plans to do so, and if we ever did it would be quite obvious and detectable that we had done it. We understand the serious concerns this type of approach would raise which is why we are opposed to it.”

Motstridiga uppgifter, således. Möjligen kan det vara uppmärksamheten som fått WhatsApp att backa. Eller så finns det delade meningar mellan WhatsApp och dess ägare Facebook.

Intressant nog sker detta samtidigt som de så kallade Five Eyes-nationerna efterlyser en bakdörr till WhatsApp och andra krypterade meddelandetjänster. The Guardian:

British, American and other intelligence agencies from English-speaking countries have concluded a two-day meeting in London amid calls for spies and police officers to be given special, backdoor access to WhatsApp and other encrypted communications.

Myndigheternas krav på tillgång till krypterade meddelanden i de vanligaste apparna avsedda för konsumenter är något av en följetong. Och de verkar aldrig ge sig.

Samtidigt finns det andra metoder – som end-to-end-krypterad e-post – att ta till för den som verkligen vill dölja innehållet i sin kommunikation med andra. Vilket i praktiken aldrig går att knäcka eller förbjuda.

Det långsiktiga hotet mot vår rätt till privat kommunikation kan dock – som Bruce Schneier påpekar ovan – komma från att bakdörrar byggs in redan i datorernas och våra smarta enheters operativsystem. Och från statliga spionprogram som kan komma åt allt på våra enheter och läsa våra krypterade meddelanden innan de krypterats eller efter att de avkrypterats.

Länkar:
• Forbes: The Encryption Debate Is Over – Dead At The Hands Of Facebook »
• Bruce Schneier: Facebook Plans on Backdooring WhatsApp »
• The Guardian: Calls for backdoor access to WhatsApp as Five Eyes nations meet »

FN-rapportör orolig för Julian Assanges hälsa

av

Wikileaks grundare, Julian Assange, sitter där han sitter i det brittiska högsäkerhetsfängelset Belmarsh – i väntan på eventuell utlämning till USA.

Han har fått besök av FN:s specielle rapportör om tortyr Nils Melzer och två läkare. Till la Repubblica säger Melzer att han är djupt oroad över Assanges hälsotillstånd. Såväl Storbritannien som USA, Sverige och Ecuador får kritik i den diplomatiska korrespondens som nyligen offentliggjorts.

”Gravely concerned”. The UN Special Rapporteur on torture, Nils Melzer, does not mince words in conveying his serious concerns about the situation of the WikiLeaks founder, Julian Assange. Last May, Melzer visited Assange at the Belmarsh high-security prison in London assisted by two doctors who are experts on torture and inhuman or degrading treatment. At that time, Nils Melzer had already publicly denounced that Assange showed ”all symptoms typical of prolonged exposure to psychological torture”, but in a newly released diplomatic correspondence, the UN Special Rapporteur accuses the United States, Britain, Sweden and Ecuador of grave responsibility for the highly worrying condition of Assange and denounces the risk of his extradition to the US exposing him to excessively severe criminal sanctions and serious abuses of his human rights.

Att Assange har hälsoproblem är kanske inte att förvånas över. Han har tillbringat ett och ett halvt år i husarrest, sju år på Ecuadors ambassad i London och nu sitter han i ett brittiskt högsäkerhetsfängelse i 50 veckor. Utlämnas han till USA kan han komma att dömas till upp till 175 år i fängelse – för publicistisk verksamhet som de amerikanska myndigheterna vill klassa som spioneri.

Sverige får en hel del kritik av FN-rapportören:

As for the rape case, which will expire only in August 2020, the UN Special Rapporteur writes that ”All records available to me show that Mr. Assange voluntarily and consistently cooperated with the Swedish police and prosecutors, both during his presence in Sweden in 2010 and after he sought refuge at the Ecuadorian Embassy in June 2012”. The rape investigation was closed in 2010 by the Stockholm chief prosecutor Eva Finné, just five days after it had been opened. Finné had determined that the ”conduct alleged by (the complainant) discloses no crime at all”. In the last nine years the rape investigation has been opened three times and the UN Special Rapporteur notes that ”for almost nine years, the Swedish authorities have consistently maintained, revived and fueled the ”rape”-suspect narrative against Mr. Assange” and that ”In reality, the complainants never intended to report a sexual offense against Mr. Assange, but they had been pressured (”railroaded”) into doing so by the Swedish police and had subsequently decided to ’sell’their story to the tabloid press”.

Sverige anser sig dock inte ha gjort något fel:

The British and Ecuadorian authorities have not yet responded to the UN Special Rapporteur’s conclusions on Julian Assange, while the US and Sweden promptly replied. They deny everything: Julian Assange has never been arbitrarily detained by Sweden and Britain, as the UN Working Group on Arbitrary Detention (UNWGAD) established four years ago: he stayed in the Embassy voluntarily and could have left at any time, the US and Sweden say. This denial strategy by the US and Sweden does not address why, for example, Sweden didn’t appeal the UNWGAD’s decision, if it considered it fundamentally wrong, whereas Britain did appeal it, but lost its appeal.

Läs mer: UN Special Rapporteur on torture says he is “gravely concerned” about the situation of Julian Assange »

Det ständiga kriget om kryptering

av

I årtionden har det rasat en strid där myndigheter i olika länder antingen vill förbjuda kryptering eller ha »bakdörrar« till krypterade meddelandetjänster. Nu senast är det US Attorney General William Barr som givit sig in i debatten:

While speaking today in New York, Barr demanded eavesdropping mechanisms be added to consumer-level software and devices, mechanisms that can be used by investigators to forcibly decrypt and pry into strongly end-to-end encrypted chats, emails, files, and calls. No ifs, no buts.

Men inte heller Barr kan förklara hur man skall kunna knäcka krypterade meddelanden utan att skapa säkerhetsluckor som kan utnyttjas av till exempel kriminella, terrorister eller främmande makt. Och vi vet ju att myndigheternas olika övervakningsverktyg förr eller senare läcker ut till obehöriga.

Dessutom håller ordningsmakt och säkerhetstjänster i ett antal länder på att lansera »stats-trojaner«, det vill säga spionprogram som låter myndigheterna övervaka misstänktas datorer och smarta enheter – för att bland annat kunna fånga upp data innan den krypteras och efter att den blivit avkrypterad. Även detta är ett otrevligt och integritetskränkande verktyg som lätt kan hamna i orätta händer och missbrukas. Men det inriktas i vart fall (lämpligen) mot människor som faktiskt är misstänkta för något brottsligt, inte mot hela befolkningen. Så myndigheterna har faktiskt redan ett slags bakdörr. (I Sverige är en lag om »hemlig dataavläsning« på väg till riksdagen.)

Samtidigt finns det ingen politiker i världen som (på ett rimligt sätt) kan förbjuda kryptering som sådan eller kräva bakdörrar till exempelvis privat, end-to-end-krypterad e-post. Den som verkligen vill kunna sända och ta emot krypterade meddelanden som myndigheterna inte kan läsa kommer alltid att kunna göra det. Det går liksom inte att »av-uppfinna« krypteringen.

Länkar:
• Tech firms “can and must” put backdoors in encryption, AG Barr says »
• Low Barr: Don’t give me that crap about security, just put the backdoors in the encryption, roars US Attorney General »
• EFF: Don’t Let Encrypted Messaging Become a Hollow Promise »

En av EU fastställd värdegrund för AI?

av

EU:s ministerråd har diskuterat artificiell intelligens. Speciellt upprymda tycks man vara över möjligheten att använda AI för att identifiera tal, video och bilder som man vill få bort från nätet.

Man har även en vision om digitala AI-assistenter:

”Combined with a natural language interface, this technology could form the basis for a digital assistant. Such an assistant could take instructions through a natural written and spoken discussion, providing a common interface to a variety of applications at the same time, and adapt to the needs of the user. The same technology could power customer service bots that answer questions from citizens. In spoken language mode, the assistant would be helpful to police patrols busy dealing with people involved in incidents. Developing smart digital assistants is vital for making future information overload manageable, but at the same time, we must ensure that the resulting system is transparent to the user.”

Det är säkert, ur ministrarnas perspektiv, önskvärt. Dock kan man fråga sig om AI-verktyg bäst växer fram om de formuleras, specificeras och blir låsta av politiker – eller om spontan utveckling, erfarenhet och best practice kanske är en bättre väg.

Ministrarna funderar vidare…

A society permeated with AI may become too complex to comprehend, which would entail a fundamental lack of transparency. This can be mitigated through system design: for example, a digital assistant should be required to be able to explain its reasoning, and undergo an ethical audit.”

Men bör detta vara en politisk fråga?

Och vad menas egentligen med att AI skall underställas »an ethical audit«? I så fall måste vi först komma överens om ett gemensamt gällande etiskt regelverk. Givet att detta skall fungera mot ett AI som enligt den populära uppfattningen är »smartare«, mer logiskt och mer rationellt än människor – så kan man ana att politiskt fastställda etiska ramar kan orsaka en del absurda syntaxfel.

Ministrarna förutspår även att AI kan möjliggöra autonoma miniatyrdrönare med ansiktsigenkänning. Och om det gläder dem, då skulle de bara veta vilka oerhört kraftfulla verktyg för övervakning som AI kan komma att sätta i deras händer – som de ännu inte ens kan föreställa sig.

Där har politiken en uppgift – att sätta lagliga gränser för hur överheten får använda AI för att övervaka folket.

Länk: EU plans for Artificial Intelligence (AI): Get ready to meet you friendly ”digital assistant” »

Facebooks jätteböter – betyder de något i praktiken?

av

Facebook har fått böta fem miljarder dollar i USA, för sin roll i Cambridge Analytica-affären. Men vad innebär det i praktiken? För den vanlige nätanvändaren är det knappast någon garanti mot framtida missbruk av persondata.

Cambridge Analytica-affären har blivit ett politiskt slagträ, som används för att ifrågasätta valet av Donald Trump till president i USA och resultatet av Brexit-omröstningen i Storbritannien. Detta har kommit att överskugga historiens kärna: Att Facebook gav CA tillgång till persondata för 50 miljoner användare – och att CA fortsatte använda denna även efter att Facebook insett sitt misstag och återkallat företagets rätt att använda nämnda data.

Att Facebook kapitaliserar på sina användares persondata är inget unikt. Det är deras affärsidé.

Skillnaden är att denna gång användes det i politiska syften istället för att marknadsföra konsumentprodukter. Men i grunden är kärnfrågan densamma oavsett om persondatan används för att sälja Trump eller schampo: Manipulation av enskilda individer med hjälp av stora mängder personlig data.

Det är alltså inte reklam eller marknadsföring som sådan som väckt uppmärksamhet. Det råder en rätt allmänt utbredd insikt om att persondata är priset man får betala för tillgång till tjänster som Facebook, Google, Twitter & Co. Och då kommer det alltid att finnas en moralisk gråzon för i vilka syften denna data används.

De flesta lär vara överens om att det är i sin ordning för politiska partier att använda sociala media och annonsering i dessa för att nå potentiella väljare. (En av CA:s medarbetare kom från Obamas allmänt hyllade sociala medie-satsning.) Och redan med ett fåtal datapunkter är det möjligt att göra sådan marknadsföring synnerligen effektiv. Vilket även riktar moralens strålkastare mot de politiska partierna. Hur djupt borrar till exempel de svenska partierna i persondata under sina kampanjer?

Genom åren har Socialdemokraterna varit mästare på något liknande – fast analogt. Med hjälp av röstlängder, opinionssiffror, valdeltagande, tidigare valresultat samt så mycket demografisk data de kan få fram lyckas de välja ut områden där partiets valmaskineri kan nå bäst resultat. Detta är knappast något man kan eller vill förbjuda. Men det ligger i stor sett inom samma verksamhetsfält som vad CA sysslar med.

Oaktat Facebook och CA eller vad vi tycker om saken – så är detta den verklighet som gäller.

I fallet med CA var datakällan från Facebook gigantisk. Och även om den dörren nu kanske är stängd för politiska spindoctors under överskådlig framtid – så är Facebook långt ifrån den enda källan till användbar persondata. Och CA är (var) inte det enda bolag som sysslar med att samla in och djupanalysera persondata. Enda skillnaden är att dessa aktörer är mer eller mindre okända för allmänheten och media.

Dessutom finns ett sidospår i debatten som få tycks ägna någon uppmärksamhet: Vilken data och vilken dataanalys har staten tillgång till – och i vilket syfte? Detta är en gigantisk godispåse för myndigheter och politiker – som kan användas för allt från att effektivisera kollektivtrafiken till att kartlägga personer med avvikande åsikter eller beteende.

Frågan om Facebook & Cambridge Analyticas roll i den amerikanska presidentvalskampanjen och Brexit-kampanjen är i sig intressant. Men bakom den debatten döljer sig ett stort, känsligt och i stora delar outforskat frågekomplex – som reser frågor om de politiska partiernas förhållande till folket och statens förhållande till medborgaren.

Länkar:
• Nu är det klart: Facebook får böta 47 miljarder för dataskandalen »
• Facebook to pay $5bn fine as regulator settles Cambridge Analytica complaint »
• Wikipedia: Facebook–Cambridge Analytica data scandal »
• Trots dataskandaler och rekordböter – Facebook går bättre än väntat »
• 9 reasons the Facebook FTC settlement is a joke »
• Netflix släpper dokumentär om Cambridge Analytica »
• Netflix documentary explores Facebook-Cambridge Analytica data scandal »
• EU privacy ruling against Facebook to come by end 2019 »

Krav på att EU utreder datalagringens risker

av

EU:s ministerråd vill gärna se ett nytt datalagringsdirektiv, efter det som ogiltigförklarats av EU-domstolen. Den avgående EU-kommissionen har inte velat röra datalagringen. Så nu är frågan vad den nya EU-kommissionen kommer att göra.

I väntan på besked skriver 30 europeiska organisationer för nätfrihet och digitala rättigheter brev till EU-kommissionen. Ur innehållet…

While the concept of blanket data retention appeals to law enforcement agencies, it has never been shown that the indiscriminate retention of traffic and location data of over 500 million Europeans was necessary, proportionate or even effective.

Blanket data retention is an invasive surveillance measure of the entire population. This can entail the collection of sensitive information about social contacts (including business contacts), movements and private lives (e.g. contacts with physicians, lawyers, workers councils, psychologists, helplines, etc.) of hundreds of millions of Europeans, in the absence of any suspicion. Telecommunications data retention undermines professional confidentiality and deters citizens from making confidential communications via electronic communication networks. The retained data is also of high interest for criminal organisations and unauthorized state actors from all over the world. Several successful data breaches have been documented. Blanket data retention also undermines the protection of journalistic sources and thus compromises the freedom of the press. Overall, it damages preconditions of open and democratic societies.

Brevet mynnar sedan ut i ett önskemål om en grundlig utvärdering av datalagringen – inte minst ur ett medborgarrättsligt perspektiv – innan man går vidare.

Läs hela brevet här: Civil society calls for a proper assessment of data retention »

Vad menar EU med »skadligt« innehåll på nätet?

av

EDRi reagerar på EU:s läckta planer för internet under den kommande mandatperioden:

»To guide its future policy initiatives, the Commission says it wants to analyse policy options for both illegal and potentially “harmful” but legal content. While the definition of what is illegal is decided as part of the democratic process in our societies, it is unclear which content should be considered “harmful” and who makes that call. Moreover, the term “harmful” lacks a legal definition, is vague and its meaning often varies depending on the context, time, and people involved. The term should therefore not form the basis for lawful restrictions on freedom of expression under European human rights law.«

Läs hela posten: More responsibility to online platforms – but at what cost? »

Se även vår post från förra veckan: EU:s Digital Services Act – mer reglering och censur »

Hack avslöjar ryskt sabotage och spioneri på nätet

av

Ett lästips från Forbes:

Red faces in Moscow this weekend, with the news that hackers have successfully targeted FSB—Russia’s Federal Security Service. The hackers managed to steal 7.5 terabytes of data from a major contractor, exposing secret FSB projects to de-anonymize Tor browsing, scrape social media, and help the state split its internet off from the rest of the world. The data was passed to mainstream media outlets for publishing.

Hacket har tydligen utförts av en grupp som kallar sig 0v1ru$ och informationen spridits vidare av Digital Revolution.

Läs mer: Russia’s Secret Intelligence Agency Hacked: ’Largest Data Breach In Its History’ »