EU satsar på röstigenkänning i övervakningssyfte

Det är inte bara metoder för automatiserad ansiktsigenkänning som utvecklas av EU. I projektet ROXANNE bygger man nu ett system för röstidentifiering. När projektet är färdigutvecklat kan det användas för att sålla ut personer som myndigheterna vill övervaka eller granska, ur den allmänna telefontrafiken.

Med sitt  »Speaker Identification Integrated Project« (SIIP) har EU redan varit inblandat i ett projekt för röstigenkänning baserad på karaktäristiska, individuella röstprofiler. Detta har dock inte varit så framgångsrikt som man hoppats. Bland annat har man haft för många »falska positiva« för att systemet skall vara hanterbart.

Därför lanseras nu ROXANNEReal time netwOrk, teXt and speaker ANalytics for combating orgaNized crimE. (!)

ROXANNE kommer bland annat att använda sig av bland annat följande faktorer för att identifiera individer som talar med varandra:

  • Personlig röstprofil
  • Metadata
  • Samtalshistorik och vanor
  • Vilken kommunikationskanal som används
  • Mobilers IMEI-nummer
  • Geodata
  • Tidpunkt
  • Språkhantering, nyckelord och fraser
  • De uppringdas / uppringarnas demografi
  • Material och information från till exempel övervakning och sociala nätverk
  • Övriga digitala fotavtryck

Detta kan – tillsammans med annan data som samlats in och registrerats ge en bättre träffsäkerhet vad gäller att identifiera en enskild person som deltar i ett telefonsamtal. (Än så länge är systemet bättre på att identifiera män än kvinnor.)

Som verktyg för att identifiera misstänkta och ännu icke misstänkta i t.ex. ett omfattande avlyssningsmaterial, kan detta säkert vara effektivt. Det gör det även möjligt för polisen att använda en större trål, utan att riskera att drunkna i material som man inte hinner gå igenom. Vilket – å andra sidan – även innebär att fler oskyldiga kommer att övervakas.

Men ROXANNE kan även användas för generell övervakning, för att sålla ut vissa samtal och personer ur den allmänna telefontrafiken. Vilket i så fall innebär att alla människor – även sådana som inte är misstänkta för något brottsligt – kan komma att få sina telefonsamtal övervakade och analyserade.

Då kränks helt uppenbart rätten till privat kommunikation, som ju är en konventionsskyddad grundläggande mänsklig rättighet.

Länkar:
• Netzpolitik: EU entwickelt Abhörplattform mit Sprachanalyse und Gesichtserkennung »
• EU-kommissionen: Real time network, text, and speaker analytics for combating organized crime »
ROXANNE:s hemsida – deltagande organisationer »

EU diskuterar hemlig dataavläsning – för alla

Myndigheternas kamp mot kryptering – det vill säga medborgarnas rätt till privat kommunikation – går vidare.

Ett förslag är att införa hemlig dataavläsning – så kallade statstrojaner – på alla datorer, telefoner och andra enheter.

Färdriktningen är mycket tydlig i ett internt dokument från EU:s ministerråd (PDF). Bland annat hänvisar man till motsvarande arbete inom den så kallade Five Eyes-koalitonen, som är ett samarbete mellan underrättelsetjänsterna i USA, UK, Kanada, Australien och Nya Zeeland. Det finns alltså skäl att tro att det handlar om ett koordinerat angrepp mot rätten till privat kommunikation.

EU-kommissionen är uppenbarligen med på noterna. Säkerhetskommissionär Ylva Johansson säger att hon inte ser någon motsättning mellan att granska alla medborgares elektroniska kommunikation och deras rätt till privatliv. (!)

I ett annat arbetsdokument lägger det tyska EU-ordförandeskapet fram ett antal alternativ. Precis som i ministerrådets dokument framgår det att man ser frågan om sexuella övergrepp mot barn som en lämplig ursäkt för att rulla ut denna nya övervakning – som i verkligheten har ett mycket bredare syfte.

Ett av förslagen är att meddelanden skall analyseras redan innan de sänds, på avsändarens enhet. (Se illustrationen ovan.) Det vill säga hemlig dataavläsning / statstrojaner. Vilket innebär att statliga spionprogramvara måste installeras på alla medborgares alla datorer och andra enheter. Vilket då även kan bereda staten tillgång till alla våra meddelanden och chattar, alla våra program och appar, alla våra mobilbilder, alla våra kontakter, alla våra filer och allt vi gör online.

Detta är förfärande i sig. Lägg sedan till detta att EU vill gå fram med ett nytt förslag om allmän datalagring, elektroniskt EU-ID, automatiserad ansikts- och röstigenkänning, uppladdningsfilter och nätcensur. Man överväger även att tvinga nätplattformar, sociala media och meddelandetjänster att hjälpa till med att avkryptera sina användares meddelanden.

Förslagen kan i förlängningen komma att leda till att bara vissa meddelandetjänster (vars kryptering kan knäckas) blir tillåtna i EU. Vilket i så fall vore unikt för ett demokratiskt samhälle. Detta är något vi tidigare bara sett i länder som Ryssland och Kina.

Att oroas över denna utveckling är inte att överdriva eller ropa vargen kommer. Detta är politiska förslag, dokumenterade svart på vitt. De är tänkta att förverkligas under denna mandatperiod (2019-24). Och det tyska ordförandeskapet vill se konkreta åtgärder mot kryptering redan innan årsskiftet.

Relaterat:
• EFF: Orders from the Top: The EU’s Timetable for Dismantling End-to-End Encryption »
• Pp: Flera länder kräver bakdörrar i kryptering »
• Bruce Schneier: The Risks of Mandating Backdoors in Encryption Products »
EU och Europol satsar på att knäcka kryptering »
Aktuell lista – så hotar EU vårt fria och öppna internet »

EU tänker punktmarkera 20 nätjättar

EU skall enligt Financial Times vara på väg att sätta up en »hit list« på 20 stora nätföretag som man tänker punktmarkera.

Citatet via Slashdot, då FT-artikeln ligger bakom betalvägg:

Under the plans, large platforms that find themselves on the list will have to comply with tougher regulation than smaller competitors, according to people familiar with the discussions, including new rules that will force them to share data with rivals and an obligation to be more transparent on how they gather information.

The list will be compiled based on a number of criteria, including market share of revenues and number of users, meaning the likes of Facebook and Google are likely to be included. Those deemed to be so powerful that rivals cannot trade without using their platforms could also be added.

The move to gain new powers is part of a growing effort in Brussels to force big technology companies to change their business practices without a full investigation or any finding that they have broken existing laws. It follows complaints that the current regulatory regime has resulted in weak and belated action, which has done little to foster competition.

The number of companies and the precise criteria for the list is still being discussed, but it is the latest indication of how serious the EU is about coming up with powers to limit the power of platforms seen as ”too big to care.”

Å ena sidan är det fullt begripligt att EU oroas av nätjättarnas dominans.

Å andra sidan är det en dålig juridisk metod att ha olika regler för olika juridiska (och fysiska) personer – speciellt i de fall kategoriseringen baseras på subjektiva bedömningar. Lagar skall vara så generella som möjligt och gälla lika för alla.

Speciellt uppseendeväckande är det som är markerat i fetstil i citatet ovan. EU tycks alltså resonera ungefär så här: Vi har skrivit lagar som inte riktigt fungerar – så nu ger vi oss på vissa företag ändå, fast utan stöd av de lagar vi själva stiftat.

Den offentliga makten skall utövas under lagarna. Det borde vara självklart. Och den som inte bryter mot någon lag skall inte heller trakasseras av myndigheterna.

Detta är tyvärr inte första gången som EU ägnar sig åt post-demokratiska metoder. Till exempel har man sedan länge utövat påtryckningar mot sociala media för att de skall skärpa sina användarvillkor – när det gäller sådant som politikerna själva inte vill eller vågar gå fram med lagstiftningsvägen.

Slutligen: Vill man verkligen bryta de amerikanska nätjättarnas dominans – då borde man sluta sönderreglera IT, internet och den digitala ekonomin i Europa, så att morgondagens nätjättar inte skräms bort från att etablera sig här.

Automatisk nätcensur i corona-krisens spår

Nej, detta handlar inte om vad man får eller inte får säga om Corona / COVID 19 på sociala media – utan om vad pandemin har inneburit vad gäller censur av övrigt innehåll.

EFF har djupdykt i frågan om vad som händer när moderering av innehåll styrs om från människor till maskiner i pandemins spår:

”While human content moderation doesn’t scale and comes with high social costs, it is indispensable. Automated systems are simply not capable of consistently identifying content correctly. Human communication and interactions are complex, and automated tools misunderstand the political, social or interpersonal context of speech all the time. That is why it is crucial that algorithmic content moderation is supervised by human moderators and that users can contest takedowns. As Facebook’s August 2020 transparency report shows, the company’s approach to content moderation during the coronavirus pandemic has been lacking in both human oversight and options for appeals.”

Ingen möjlighet att överklaga:

”When content is removed on either Facebook or Instagram, people typically have the option to contest takedown decisions. Typically, when the appeals process is initiated, the deleted material is reviewed by a human moderator and the takedown decision can get reversed and content reinstated. During the pandemic, however, that option has been seriously limited, with users receiving notification that their appeal may not be considered. According to the transparency report, there were zero appeals on Instagram during the second quarter of 2020 and very few on Facebook.”

Beslut om vad som får skrivas på sociala media fattas nu alltså helt och hållet av maskiner. Vilket är en rätt svindlande tanke.

Det visar sig också att Facebook och dess dotterbolag Instagram tillämpar olika principer för moderering av innehåll.

Nu återstår att se om sociala media kommer att fortsätta låta algoritmer fortsätta moderera innehåll utan egentlig mänsklig kontroll även efter corona-krisen. Maskiner är ju billigare än människor.

Hur som helst måste det till en rimlig och fungerande funktion för att överklaga beslut när innehåll censureras. En funktion där den drabbade tillåts argumentera för sin sak med mer än bara en maskin.

EFF: Facebook’s Most Recent Transparency Report Demonstrates the Pitfalls of Automated Content Moderation »

Kassettskattens sista dödsryckning?

Även om den så kallade kassettskatten – privatkopieringsavgiften – är under utredning och förhoppningsvis kommer att avskaffas, har ett nytt avtal träffats mellan elektronikbranschen och Copyswede om att göra datorer, mobiler, spelkonsoler och lagringsmedia dyrare.

Privatkopieringsavgiften infördes för att ge artisterna kompensation för när någon tog en vinylskiva – som han eller hon köpt – och gjorde en kopia på ett kassettband, till exempel för att lyssna på i sin Walkman. Redan detta var obegripligt. Varför skall människor tvingas betala för att lyssna på musik som de ärligen köpt – om lyssningen sker på en annan enhet? Det är ju knappast så att folk lyssnar på flera enheter samtidigt.

Utvecklingen gick vidare. Vi fick CD-skivor och iPods. Vilket gjorde det orimliga med denna avgift än tydligare. Varför skall man inte få lyssna på den musik man redan köpt på andra enheter än ljudanläggningen hemma, utan att betala extra?

Men det är inte bara iPods som kan lagra information, som till exempel musik. Snabbt kom privatkopieringsavgiften att omfatta minnesmedia, hårddiskar, mobiler, plattor, datorer, spelkonsoler m.m. Allt som teoretiskt sett kan användas för att lagra musik skulle avgiftsbeläggas. Detta även om nämnda lagringsmedia aldrig över huvud taget används för att lagra musik i någon form.

Varför skall musikindustrin ha betalt för att du eller jag lagrar våra dokument, foton, meddelanden, program och operativsystem?

Idag är det hela än mer absurt. Nu lyssnar folk mest på strömmande musik – utan att behöva lagra något över huvud taget. Ändå vill musikbranschen ha pengar när du köper ett USB-minne, ett minneskort, en mobil eller en dator.

Och i grunden kvarstår frågan från kassettbands-tiden: Varför skall man behöva betala för att lyssna på musik man själv har köpt, bara för att det sker på en annan enhet?

Plus den nyare frågan: Varför skall musikindustrin ha betalt för lagringsmedia som inte används för att lagra musik?

Länkar:
• Feber: Nya privatkopieringsavgiften spikad (inkl. ny prislista) »
• Nordic Hardware: Nära dubbla datoravgifter när Copyswede skriver avtal (inkl. ny prislista) »

Relaterat:
• Regeringen utreder nya lagar för privatkopiering »

EU-domstolen säger nej till datalagring – igen

Idag har EU-domstolen presenterat ännu en dom som säger nej till urskiljningslös datalagring utan misstanke om brott.

Redan 2014 upphävde EU-domstolen EU:s datalagringsdirektiv – med hänvisning till att det strider mot de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv och privat korrespondens. 2016 kom ytterligare en dom med samma innebörd, efter att Storbritannien och Sverige inte rättat sig efter den tidigare domen.

Dagens dom i EU-domstolen riktar sig mot Frankrike, Belgien och Storbritannien – men får konsekvenser för alla medlemsstater som inte rättat sig efter tidigare domar och fortsatt din lagring av data om alla medborgares tele- och datakommunikationer. Till exempel Sverige.

EU-domstolen säger i korthet följande:

  • EU-lag står över nationell lag, även vad gäller datalagring.
  • Datalagring får bara förekomma om det finns en konkret misstanke om brott eller ett konkret hot mot nationell säkerhet.
  • Datalagring skall vara ett undantag, inte ett normaltillstånd.
  • Beslut om datalagring skall fattas av domstol eller motsvarande myndighet.
  • Svepande, urskiljningslös datalagring utan konkret misstanke om brott är inte tillåten.

Vad innebär detta?

  • Den svenska datalagringen i sin senaste utformning skulle med största säkerhet inte klara en prövning i EU-domstolen.
  • Detta gäller även andra medlemsstater som inte följer tidigare domar i ärendet.
  • Domen komplicerar saken för EU-kommissionär Ylva Johansson, som meddelat att EU-kommissionen planerar att lägga fram ett nytt datalagringsdirektiv.

Kommentarer:

EDRi:

“Today’s judgement is a massive blow to existing laws in France, UK and Belgium and to other current data retention practices by Member States”, said Diego Naranjo, Head of Policy at European Digital Rights (EDRi). “With this judgement, the CJEU essentially rules that, States can only engage in general and indiscriminate data retention when they face a “serious threat to national security” that is present or foreseeable, when subject to a court or administrative body review. The CJEU has put a stop to current illegal practices and disregards practices that are not under a national court’s scrutiny in the name of national security or in the fight against “terrorism””, he added.

Privacy International:

”Today’s judgment reinforces the rule of law in the EU. In these turbulent times, it serves as a reminder that no government should be above the law. Democratic societies must place limits and controls on the surveillance powers of our police and intelligence agencies.

While the Police and intelligence agencies play a very important role in keeping us safe, they must do so in line with certain safeguards to prevent abuses of their very considerable power. They should focus on providing us with effective, targeted surveillance systems that protect both our security and our fundamental rights.”

Datalagring fungerar inte

En rapport från Europaparlamentets utredningstjänst  noterar följande:

• In Austria, as of 2015, there is no more blanket data retention law in effect. Since then, the crime clearance rate has massively increased (from 44% in 2015 to 52.5% in 2018), the number of reported crimes has decreased.
• In the Netherlands, there is no longer any indiscriminate data retention law in effect since 2016. Since then, the crime clearance rate has increased considerably (from 25.5% in 2016 to 28.5% in 2018).
• In Germany, the indiscriminate retention of communications data is no longer in force since 2011. Since then, the crime clearance rate has slightly increased (from 55% in 2011 to 58% in 2018), the number of of recorded crime has decreased (from 6 million in 2011 to 5.6 million in 2018).
Italy has had blanket data retention in effect for years. The crime clearance rate has remained pretty much the same.
• In Spain, indiscriminate data storage is in effect. The the number of offences is roughly stable, the crime clearance rate has dropped considerably. Also, in the area of cybercrime, the supposed benefits which would be visible in the crime rate significantly increased, however, the clearance rate has declined substantially.
• In Sweden – the country of origin of the European Security Commissioner – indiscriminate data retention is practiced. The crime clearance rate has decreased (from 17% in 2009 to 14% in 2018).

A similar US data retention program has also been found to have produced new leads in only two cases.

Lagring av data om alla medborgares alla tele- och datakommunikationer tycks alltså leda till sämre uppklarningsprocent.

Länkar:

• EU-domstolens pressmeddelande (PDF)»
• EDRi: The data retention regimes of France, United Kingdom and Belgium are illegal says CJEU »
• Privacy International: Ruling by EU’s highest court finds that UK, French and Belgian mass surveillance regimes must respect privacy, even in the context of national security »
• MEP Patrick Breyer, Pp DE »
• Europaparlamentets studie om datalagringens effektivitet »
• Joint NGO letter: No data retention in the EU!  (PDF)»

Länkskatt: Google betalar en miljard USD

Google kommer att betala en miljard USD till de stora mediehusen de närmaste tre åren. I samband med detta lanserar man Google News Showcase – som kommer att ge Big Media en gräddfil till användarna.

Idén om »länkskatt« – det vill säga att nätplattformar skall tvingas betala för att länka till de stora nyhetssiterna är inte bara en stridsfråga i Europa. I bland annat Australien pågår just nu en dragkamp, där lagstiftarna vill att plattformarna skall betala en del av sina annonsinkomster till Big Media.

Reuters om Google News Showcase:

»The product, which allows publishers to pick and present their stories, will launch on Google News on Android devices and eventually on Apple devices.«

Att Google delvis kapitulerar innebär inte att länkskatt är en bra idé. Den är lika absurd och feltänkt som från början.

Man kan snabbt se ett antal problem:

  1. Uppgörelser av denna typ kan bara ingås av stora och kapitalstarka nätplattformar. Vilket kommer att göra det ännu svårare för eventuella utmanare, startupps och mindre konkurrenter.
  2. När Big Data gör upp med Big Media – då ställs alla mindre och alternativa media utanför.
  3. Användarna kommer att få ett mer styrt och kontrollerat nyhetsutbud.

Här ser vi åter igen oväntade och oönskade konsekvenser av politiska beslut. Big Data kan kanske bära nya och stora kostnader. Men man stänger samtidigt dörren för alla utmanare. Vilket kan vara en förklaring till att vi inte har några europeiska nätjättar.

Reuters: Google to pay publishers $1 billion over three years for their news »

EU och internet: Ständigt dessa uppladdningsfilter

Plötsligt tycks all internet-relaterad politik i EU innehålla uppladdningfilter. Hur gick det till och vad betyder det?

De mest kontroversiella delarna i EU:s upphovsrättsdirektiv röstades igenom i Europaparlamentet med minimal majoritet. Hade det inte varit för att några enskilda ledamöter röstade fel – så hade vi förmodligen sluppit både uppladdningsfilter och »länkskatt«.

En viktig punkt i upphovsrättsdirektivet (artikel 13/17) var att sociala media och andra nätplattformar kan hållas ansvariga ifall dess användare laddar upp upphovsrättsskyddat material. (Vilket för övrigt strider mot eHandelsdirektivets regel om budbärarimmunitet.)

Vi kritiker varnade för att detta kommer att leda till uppladdningsfilter. Dumheter, skrämselpropaganda och hjärnspöken – svarade direktivets anhängare.

Vi kritiker varnade även för ändamålsglidning – att uppladdningsfilter kan komma att användas på fler områden än bara upphovsrätt. Svartmålning, trams och konspirationsteorier – svarade direktivets supporters.

Innan upphovsrättsdirektivet ens hunnit implementeras i medlemsstaterna dök förordningen om terror-relaterat innehåll online upp. Och gissa vad? Om ministerrådet får som det vill, då kommer den att föreskriva uppladdningsfilter.

Notera att här gick uppladdningsfilter från att hantera formellt sett olagligt material (upphovsrätt) till att användas för att blockera vissa åsikter.

I nästa ögonblick förklarade EU-kommissionär Ylva Johansson att uppladdningsfilter kan vara ett lämpligt verktyg för att bekämpa övergrepp mot barn på nätet. Och vem vågar väl säga emot – och riskera att framstå som någon som är för nämnda övergrepp?

EU förbereder ett större lagstiftnings- och regleringspaket för internet – the Digital Services Act. Just nu håller Europaparlamentet på att skriva en förberedande rapport i ämnet. Och gissa vad? Där föreslår man uppladdningsfilter som ett lämpligt verktyg för att kontrollera internet.

I Europaparlamentets utskott för medborgerliga rättigheter, rättvisa och inrikesfrågor (LIBE) har till och med den svenska ledamot som i EU-valrörelsen profilerade sig som den mest högljudde motståndaren till uppladdningsfilter – moderaternas Tomas Tobé – röstat för uppladdningsfilter i ovan nämnda rapport.

Ständigt, dessa uppladdningsfilter. Ständigt denna ändamålsglidning.

Betänk följande: Om uppladdningsfilter skall fungera för ett eller annat ändamål – då måste man granska och analysera allt som alla laddar upp. Rubbet. Vilket för övrigt borde bryta mot förbudet om generell övervakning. Men det bryr man sig uppenbarligen inte om.

Uppladdningsfilter är ett hot mot ett fritt och öppet internet. De är ett hot mot fri information och yttrandefrihet. De kommer att leda till automatiserad nätcensur utan förmåga att bedöma kontext. De har smugits in i systemet – tvärs emot vad politikerna dyrt och heligt lovade under striden om upphovsrättsdirektivet. Och de har redan drabbats av en tydlig ändamålsglidning.

Uppladdningsfilter måste därför bli en av de stora stridfrågorna när EU nu utformar sin nya Digital Services Act.

Video: Aktuella nätnyheter

Kommenterade nätnyheter:

• Uppladdningsfilter för åsikter
• M sviker om uppladdningsfilter
• EU vill avkryptera alla meddelanden
• Digital Services Act

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

Fri information – i teori och praktik

Idag är det »The International Day for Universal Access to Information« – proklamerad av UNESCO.

Låt oss då kika på hur det ser ut vad gäller universell tillgång till information.

Man kan notera att offentlighetsprincipen blir allt mer kringskuren, inte sällan som en anpassning till EU:s mer slutna kultur.

EU vill inte bara se uppladdningsfilter för att stoppa upphovsrättsskyddat material – utan även åsikter (TERREG).

EU:s upphovsrättsdirektiv gav oss även den absurda länkskatten – som kommer att försvåra länkande till viktig och intressant information.

Det har aviserats att EU:s nya Digital Services Act kommer att etablera EU-gemensamma regler för vad som får publiceras på nätet. (Och i en rapport i ämnet till Europaparlamentet föreslås en europeisk digital järnridå, ungefär som the Great Firewall of China.)

Detta för att inte nämna de sociala plattformarnas (Facebook, Twitter, Youtube) spretiga regler för att moderera innehåll.

Vad gäller den vällovliga ambitionen att förbättra allmän tillgång till information – så är politiken och verkligheten på väg i rakt motsatt riktning.