Nu stresstestas det öppna samhället

Låt mig börja med att säga att jag inte tror annat än att de åtgärder som nu sätts in mot coronaviruset införs med de bästa intentioner och utan baktankar. De är förmodligen rimligt rätt och nödvändiga.

Men vi skall hålla i minne att det är en sak att införa frihetsinskränkningar – och en helt annan att avskaffa dem. Det är lätt hänt att makthavare ser sin sin chans att istället göra dem permanenta. »Slösa aldrig bort bort en bra kris« – som det politiska ordspråket säger.

Kommer till exempel insamlingen av den (förvisso anonymiserade) mobildata som EU nu vill ha att upphöra när krisen är över? Eller kommer den politiska makten och dess funktionärer att inse vilken oerhört rik källa till information om folket sådan data är? Så att de kan betrakta oss från ovan, som en myrstack – även efter krisen.

Snart kommer attackerna på det fria ordet och mot ett fritt och öppet internet. Det är bara en tidsfråga.

Detta är förvisso första gången mänskligheten möter en livestreamad existentiell kris i en uppkopplad värld. Så vi rör oss på delvis outforskad mark.

Och när nu även vanliga människor kan göra sin röst hörd online, ifrågasätta och lägga sig i – då blir det fria ordet på nätet lätt ett störningsmoment för överheten.

Detta medan internet i själva verket är det nya, fantastiska verktyg som vi kan använda för att så snabbt som möjligt bygga upp vår värld igen efter krisen. Och som låter oss arbeta, kommunicera och beställa hem mat (och prylar från Amazon) på ett smittsäkert sätt.

Möjligen kan man befara att traditionell media och internet ibland är en olycklig kombination. Jag har påpekat det tidigare:

Den nyhetscykel som förr var något dygn är i vår uppkopplade tid på sin höjd ett par timmar. Allt måste ständigt drivas framåt. Läsarna måste ges omedelbar tillfredsställelse och man måste få större genomslag än konkurrenterna. Varje klick är viktigt.

Så media måste alltid ha något nytt att komma med – för att hålla sig flytande. Vilket kan bidra till att skruva upp tonläget och skapa något slags masspsykos.

Jag tror helt enkelt att medias sensationalism i sammanhanget är ett större problem än att vissa vanliga människor gapar och bär sig åt i sociala media.

Detta sagt utan att undervärdera krisens djup och allvar. Men få saker blir bättre av att vi stressar upp oss över sådant som ännu inte har inträffat – och i många fall aldrig kommer att inträffa. Om inte annat för att människor i panik tenderar att fatta sämre och mindre rationella beslut än de som håller huvudet kallt.

 

Corona: Mobiloperatörer delar nu platsdata med EU

Vodafone, Deutsche Telekom, Orange, Telefonica, Telecom Italia , Telenor, Telia och A1 Telekom Austria delar nu platsdata med EU för att spåra smitta.

Reuters:

»Worries about governments’ use of technology to monitor those in quarantine and track infections have intensified in recent weeks over possible privacy violations, with some raising the spectre of state surveillance.

The Commission will use anonymised data to protect privacy and aggregate mobile phone location data to coordinate measures tracking the spread of the virus, an EU official said.

To further assuage privacy concerns, the data will be deleted once the crisis is over, the official said, adding that the EU plan is not about centralising mobile data nor about policing people.«

EU:s Data Protection Supervisor (EDPS) Wojciech Wiewiorowski påpekar samtidigt att det är viktigt att detta bara är en tillfällig åtgärd:

»The EDPS often stresses that such developments usually do not contain the possibility to step back when the emergency is gone. I would like to stress that such solution should be still recognised as extraordinary.«

Dessutom lanserar enskilda EU-länder egna appar. I Polen har man till exempel en för att hålla koll på människor i hemkarantän. Den som inte laddar ner den riskerar att få besök av polisen.

Länk: Vodafone, Deutsche Telekom, 6 other telcos to help EU track virus »

Hur hade krisen sett ut utan internet?

Vi skall vara tacksamma för att vi lever i en tid då världen är uppkopplad – när vi drabbas av kriser som Corona-viruset.

Nu kan vi hålla kontakt med nära och kära, jobba på distans, beställa hem allt från verktyg till pizza, konsumera nöjen och kultur, vara omedelbart uppdaterade om utvecklingen och tillsammans finna nya lösningar på nya problem.

Redan om vi backar bandet bara några årtionden hade denna kris sett helt annorlunda ut: What if the coronavirus had hit us 25 years ago? »

»Imagine, for a moment, that the Coronavirus had hit us, say, 25 years earlier. I’m not talking about the Middle Ages, or the Victorian era. Just 25 years – a time that is well within living memory (or at least, I remember it quite well).

What would “Corona ‘95” look like?

For a start, if you are staying indoors, your only connections to the outside world are a landline telephone, TV, radio, and if you have a subscription, a newspaper. There is this new thing called “the internet”, but unless you are a tech whizz, you will probably not have heard of it yet (I certainly hadn’t). There are so few internet users that nobody even bothers to count them. Records on internet usage begin in 1998, when just 9% of UK households had internet access (today: 93%.)«

Vilket leder oss fram till vårt komplexa förhållande till internet idag. Mark Scott i Politico: Coronavirus crisis shows Big Tech for what it is — a 21st century public utility »

»There’s deep irony in Big Tech’s new role as a utility.

First in Europe, and then in the U.S., some lawmakers called for these digital behemoths to be broken up, urging the need for greater competition in a world that has come to be dominated by a select few Silicon Valley brands.

But it’s this exact dominance — Google in search results, Facebook in social media, Amazon in online deliveries — that has made their collective response to COVID-19 so essential.

By becoming monopolies in each of their digital arenas, these firms have done things that, say, a litany of mini-Googles could not have done: provide a one-stop-shop for people in dire need of information, communication and other basic online services. In a crisis, it turns out that such network effects — everyone congregating in one place online — can actually save lives.«

Även om nätjättarnas dominans kan vara problematisk är det möjligt – eller rent av troligt – att politisk inblandning och styrning ger oss ett sämre internet, sämre sociala plattformar och sämre onlinetjänster. Och därmed även gör oss sämre på att kunna hantera kriser och katastrofer.

I morgon kommer det att finnas helt nya, ännu bättre och mer användbara tjänster på internet. Tjänster och plattformar som vi ännu inte känner till och som ännu inte har sett dagens ljus. De kommer att byggas av entreprenörer, kreatörer och riskkapitalister – inte av staten.

Därför är det problematiskt att EU är på väg att reglera sönder internet, så till den grad att de startups som skulle kunna bli morgondagens nätjättar aldrig kommer att se dagens ljus. I vart fall inte i Europa.

Och därför är kampen för ett fritt och öppet internet så viktig.

EU förbereder nytt direktiv om datalagring

I corona-krisens skugga förbereder EU ett nytt direktiv om datalagring. Som bekant ogiltigförklarade EU-domstolen det förra direktivet, eftersom det strider mot de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv.

EU-kommissionären för säkerhet och »inrikes frågor« Ylva Johansson har beställt en studie av hur ett nytt direktiv kan rullas ut. Riktlinjerna tycks ha en kraftig slagsida till förmån för att datalagring skall införas. (EDIT: Studien kan ha beställts innan Johansson tillträdde, då förmodligen på tjänstemannanivå. Vilket dock inte ändrar något i sak.)

Digital Courage kommenterar saken bland annat så här:

»In November 2019, the EU Commission ordered a study on mass data retention of telephone and internet data. The Belgian consulting firm Milieu was awarded the contract and is to complete the study by mid-2020. Milieu is to prepare a “retrospective fact finding support study”, which is to provide the Commission with facts supporting the reflection process that has been ongoing since 2017. We have criticised this reflection process on several occasions, because it merely explores options for blanket mass surveillance without examining alternatives that may be more favourable to the people’s fundamental rights.«

Den piratpartistiske, tyske ledamoten av Europaparlamentet Patrick Breyer skriver i ett uttalande:

»Instead of an independent scientific study, a commercial consultant firm has been contractually obliged to accept all changes to the final report the EU Commission demands. Instead of a transparent procedure, only government representatives in Council are being informed about the process. Instead of involving all affected groups in the study, data protection authorities, professional associations and civil society will not even be asked. Instead of an open-ended approach, EU Security Commissioner Johannsson has already spoken out in favour of new ‘legislation for data retention’ late last year in the Civil Liberties Committee.«

Det verkar med andra ord som om EU-kommissionen (och förmodligen även ministerrådet) redan på förhand bestämt sig för att ignorera eller runda EU-domstolens kritik mot datalagringen.

• Digital Courage: Blanket data retention: biased study by the EU Commission »
• MEP Patrick Breyer (Pp) »
• Utredningens hårt censurerade beställning / direktiv (PDF) »

Massövervakning i smitto-krisens spår

Nu börjar vi se hur mobilteknik och positionsdata börjar rullas ut i Corona-krisens spår.

»Att kunna spåra hur misstänkta bärare av coronaviruset rör sig har visat sig vara ett viktigt verktyg för att kontrollera pandemin, säger Marylouise McLaws, teknisk rådgivare till Världshälsoorganisationens globala enhet för kontroll av infektioner, och tillika professor i folkhälsa vid University of New South Wales i Australien.« (…)

»För att kontrollera att den misstänkt smittade inte lämnar hemmet har myndigheterna bett de misstänkta att slå på lokalisering på sina mobiler och att klicka på länkar som skickar per sms med jämna mellanrum. Klicken måste ske inom en viss kort tid så att de misstänkt smittade inte kan lämna hemmet med mobilen lämnad hemma. I vissa fall har myndigheterna även gjort fysiska besök för att kontrollera att den misstänkte håller sig hemma.«

Computer Sweden: WHO:s rådgivare: Dags att spåra smittade med mobilen »

»The Coronavirus (COVID-19) disease poses a global public health challenge of unprecedented proportions. In order to tackle it, countries around the world need to engage in co-ordinated, evidence-based responses. Our responses should be grounded in solidarity, support and respect for human rights, as the Council of Europe Commissioner for Human Rights has highlighted. The use of high-quality data can support the vital work of scientists, researchers, and public health authorities in tracking and understanding current pandemic.

However, some of the actions taken by governments and businesses under exceptional circumstances today, can have significant repercussions on freedom of expression, privacy and other human rights both today and tomorrow.«

EDRi: EDRi calls for fundamental rights-based responses to COVID-19 »

»Governments around the world are demanding new dragnet location surveillance powers to contain the COVID-19 outbreak. But before the public allows their governments to implement such systems, governments must explain to the public how these systems would be effective in stopping the spread of COVID-19. There’s no questioning the need for far-reaching public health measures to meet this urgent challenge, but those measures must be scientifically rigorous, and based on the expertise of public health professionals.

Governments have not yet met that standard, nor even shown that extraordinary location surveillance powers would make a significant contribution to containing COVID-19. Unless they can, there’s no justification for their intrusions on privacy and free speech, or the disparate impact these intrusions would have on vulnerable groups. Indeed, governments have not even been transparent about their plans and rationales.«

EFF: Governments Haven’t Shown Location Surveillance Would Help Contain COVID-19 »

Datasäkerhets-gurun Bruce Schneier sätter upp ett antal krav man bör kunna ställa när sådan övervakning rullas ut:

  • Intrång i människors privatliv måste vara nödvändiga och stå i proportion till vad som offras.
  • Datainsamling måste grunda sig på vetenskap, inte förutfattade meningar.
  • Datainsamlingen måste upphöra när krisen är över.
  • Transparens: Myndigheterna måste förklara vad de gör, varför och vilken data de samlar in.
  • Rättsstatliga principer: Om en individs fri- och rättigheter inskränks på grund av insamlad data måste det finnas en möjlighet att få saken rättsligt prövad.

Bruce Schneier: Emergency Surveillance During COVID-19 Crisis »

Och i länder som Tyskland finns redan en omfattande debatt om saken: Regierung will mehr Durchgriffsrechte »

Läs även vår tidigare post: Kommer smitto-krisen att leda oss in i en Storebrors-stat? »

24.000 forskningsrapporter om Corona nu tillgängliga online

Vi skall vara rätt tacksamma för att vi lever i ett uppkopplat samhälle när Corona-krisen slår till.

Det gäller inte bara distansarbete och att hålla kontakt. Just nu är ett fritt och öppet internet av stor betydelse för den forskning som skall bekämpa pandemin:

»Today researchers collaborating across several organizations released the Covid-19 Open Research Dataset (CORD-19), which includes over 24,000 research papers from peer-reviewed journals as well as sources like bioRxiv and medRxiv (websites where scientists can post non-peer-reviewed preprint papers). The research covers SARS-CoV-2 (the scientific name for the coronavirus), Covid-19 (the scientific name for the disease), and the coronavirus group. It represents the most extensive collection of scientific literature related to the ongoing pandemic and will continue to update in real time as more research is released.«

Länk: Over 24,000 coronavirus research papers are now available in one place »

Corona-krisen: Youtube övergår till mer automatisk granskning av innehåll

Youtube meddelar:

»Our Community Guidelines enforcement today is based on a combination of people and technology: Machine learning helps detect potentially harmful content and then sends it to human reviewers for assessment. As a result of the new measures we’re taking, we will temporarily start relying more on technology to help with some of the work normally done by reviewers. This means automated systems will start removing some content without human review, so we can continue to act quickly to remove violative content and protect our ecosystem, while we have workplace protections in place.«

Mänskliga granskare sänds alltså hem – av smittskyddsskäl. Maskinerna tar över.

Utan att ta ställning till om detta är nödvändigt eller ej, så kommer det att innebära en mer fyrkantig granskning av innehåll – då maskiner som bekant har problem med kontext, satir och ton. Youtube medger det själva:

»As we do this, users and creators may see increased video removals, including some videos that may not violate policies.«

I takt med att corona-krisen breder ut sig får vi nog räkna med att maskinell granskning av innehåll kommer att bli allt vanligare, både på Youtube och andra plattformar. Häromdagen fick till exempel Facebooks granskande algoritmer fnatt – även då på grund av att krisen medfört neddragning av mänsklig granskning.

En sak att vara uppmärksam på är om trenden mot mer automatiserad granskning kommer att hålla i sig även efter krisen. Det håller ju till exempel nätplattformarnas kostnader nere.

Kommer smitto-krisen att leda oss in i en Storebrors-stat?

Den pågående smitto-krisen kan leda in i en Storebrors-stat.

Ett exempel är hur appar snabbt och enkelt kan sättas upp för att hålla koll på människors risk-status och var de befinner sig. I Kina är detta redan verklighet. I Aftonbladet beskriver Mattias Beijmo några av riskerna:

För de som tycker att stater mer fritt ska få tillgång till våra digitala fotspår är coronaviruset en gudagåva. På samma sätt som kriget mot terrorismen varit ständig förklaringsmodell för allsköns kränkningar av vår integritet, kommer nu viruset vara det som öppnar portarna för att innovativt använda appar som redan finns i vår mobil för att skydda samhället.

Så kan det säkert vara. Dagens Nyheter tycks redan driva den linjen på ledarplats. Det är bara en tidsfråga tills myndigheter och politiska partier hakar på.

När systemet sedan är infört, då är risken uppenbar att det blir kvar. För att det kan vara bra att ha. För att polisen tycker det är praktiskt. För att det underlättar planering av kollektivtrafiken. Och så vidare.

Våra mobiler är redan idag spårsändare som låter myndigheterna kartlägga var vi befunnit oss, så infrastrukturen finns redan på plats. Företag som Google och Facebook säljer redan data om användarnas beteende. Och det finns redan appar som övervakar vår hälsa.

Något större principiellt paradigmskifte är det inte heller. Med FRA-lagen är det redan klart att staten kan skanna av en stor del av våra elektroniska kommunikationer. Och med datalagringen har en princip etablerats som ger myndigheterna klartecken till att betrakta hela befolkningen som potentiella skurkar och terrorister.

Om smitto-krisen tvingar på oss en ny typ av övervakning, då står sista försvarslinjen vid hur lagstiftningen reglerar hur den får användas. Vilket inte är något absolut skydd mot missbruk av systemet. Men det enda som i så fall står mellan oss och ett dystopiskt Storebrors-samhälle.

Nu gäller det att vara uppmärksam och vaksam.

/ HAX

Facebooks censur-bugg visar risken med uppladdningsfilter

Igår fick Facebooks algoritmer fnatt och började censurera / spam-märka helt seriösa länkade artiklar från etablerad media – vilket fick som konsekvens att folk inte kunde dela dem.

Enligt uppgift skall ett underliggande problem vara att den pågående smittspridningen reducerat Facebooks stab av mänskliga granskare av innehåll. När systemet då började få egna idéer tog det därför ett tag innan det upptäcktes och kunde åtgärdas.

Kan man få ett bättre exempel på riskerna med automatisk filtrering av uppladdat innehåll?

Ändå är det precis vad som krävs med EU:s nya upphovsrättsdirektiv. Då måste allt som laddas upp (bild, text, ljud, rörliga bilder, filer) granskas, analyseras och godkännas. Det samma gäller med den föreslagna EU-regleringen mot terror-relaterat innehåll på nätet – för att kunna blockera visst innehåll måste allt som laddas upp förhandsgranskas och analyseras.

Med tanke på volymerna måste denna granskning utföras av maskiner som saknar känsla för till exempel kontext, även om det förhoppningsvis kommer att finnas något sätt att begära omprövning inför en människa.

EU är på väg att driva oss in i en situation där vi inte bara får förhandscensur – utan även automatiserad förhandscensur utförd av humorfria maskiner.

Det är inte acceptabelt.

Internationellt rullar polisen ut automatiserad ansiktsigenkänning i stor skala

Ur två bloggposter från Matthias Monroy:

»The European Union is extending the cross-border query of biometric data to faces. Searches should also be possible with still images from surveillance cameras. Up to now, only individuals may be processed in the Prüm framework, but soon bulk searches could be permitted.«

Prüm Decision: European criminal police offices agree on face recognition system »

»The International Police Organisation is developing a system to identify unknown persons by facial images. Interpol stores photos and videos from Internet service providers and other companies in a separate database. Interpol has also been using Clearview services for face recognition.«

Clearview AI: What does Interpol use face recognition for? »