Femte juli

Nätet till folket!

Storebror

Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.

USA: presidentvalet, internet och övervakningen

av

Vad innebär det amerikanska presidentvalet när det kommer till internetfrågorna och övervakningen? Vi kan naturligtvis inte veta, men det finns ledtrådar.

Sociala media

Mycket talar för att Donald Trump kommer att tvinga de sociala plattformarna på nätet att bestämma sig. Är de rena plattformar, som inte kan hållas ansvariga för vad deras användare uttrycker? Eller är de publicister som styr och redigerar innehållet på sina siter, med det redaktionella ansvar detta medför?

Om Joe Biden vinner kan man vänta sig mer av en anpassning till EU:s nya nätregler (Digital Services Act) för harmoniserade regelverk på båda sidor Atlanten. I vart fall brukar demokraterna och EU synka rätt väl vad gäller reglering av internet.

Dataöverföring (Privacy Shield / Safe Harbor)

Avtalet om säker överföring och hantering av persondata från EU till USA har (i sina olika varianter) fått hård kritik. Bland andra EU-domstolen anser att det inte ger tillräckliga garantier mot att sådan data hamnar i händerna på amerikanska underrättelseorgan. Domstolen har nu upphävt avtalet.

Trump ser detta (och en del annat som EU sysslar med på nätområdet) som handelshinder. Och vad gäller Biden, så var han vicepresident när de avtal upprättades mellan EU och USA som EU-domstolen nu har underkänt.

Massövervakning

USA har nu upphört med vissa av de former av automatiserad massövervakning som avslöjades av Edward Snowden – helt enkelt för att de inte varit effektiva. Vissa har även förklarats olagliga av domstol.

Vad som händer nu är svårt att veta. Man bör dock hålla i minne att Obama-administrationen (där Biden var vicepresident) var pådrivande för olika former av massövervakning.

Oavsett vem som vinner kan man utgå från att USA kommer att ägna sig åt den massövervakning man anser behövs för att upprätthålla den nationella säkerheten.

Edward Snowden

President Trump har funderat högt om att benåda visselblåsaren Edward Snowden, som avslöjade NSA:s globala massövervakning. Hur det sedan blir med den saken är omöjligt att veta. Trump funderar ju ofta högt, om många olika saker.

Däremot kan man utgå från att demokraternas Joe Biden är fientligt inställd mot Snowden. Åter handlar det om historiska skäl, från tiden för Obama-administrationen.

Julian Assange (Wikileaks)

Det är komplicerat. Trump-administratione har begärt Assange utlämnad från Storbritannien – misstänkt för allt från dataintrång till spioneri, trots att det Wikileaks ägnat sig åt snarare kan betraktas som journalistik.

Bidens Obama-administration lät bli att göra samma sak – eftersom man ansåg att just gränsdragningen mot journalistik var för känslig och att det hela kunde sluta i dålig publicitet.

Samtidigt är Bidens demokratiska parti ursinnigt på Wikileaks såväl för publiceringen av krigsdagböckerna som ambassadtelegrammen – och framförallt för att Assange medverkade till spridandet av läckt information från partiets mailserver, i samband med förra presidentvalet.

Möjligen skulle demokraternas nära förhållande till media kunna leda till att begäran om utlämning dras tillbaka och att åtalspunkterna blir vilande. Den ömsesidiga fiendskapen mellan Assange och det demokratiska partiet gör dock detta mindre troligt.

Vad kan vi förvänta oss av EU:s Digital Services Act?

av

Den 2 december är det tänkt att EU-kommissionen skall lägga fram sitt förslag till en övergripande Digital Services Act (DSA).

Man har haft en öppen konsultation, där vem som helst kunnat framföra åsikter. Vilket bland andra vi på 5 juli-stiftelsen gjort. Vår position är i korthet: Nej till förhandscensur och uppladdningsfilter. Försvara budbärarimmuniteten för icke-redaktionella plattformar och upprätthåll förbudet mot generell övervakning.

Vilket råkar vara centrala och känsliga frågor i processen, där det finns starka krafter som drar åt andra hållet.

Europaparlamentets utskott har nu också lagt fram sina rapporter, som snarast är att betrakta som åsikter och önskningar – eftersom det ännu inte finns något förslag från kommissionen att ta ställning till. Bland annat oroas man över användarnas rättssäkerhet när material plockas ner på nätet. Samtidigt finns det en viss oenighet om till exempel uppladdningsfilter.

Huvudrapporten (JURI) kommer sedan att gå till omröstning i plenum. Men det är som sagt bara en rapport, inte lagstiftning.

Just uppladdningsfilter är en intressant fråga. I grunden finns det inget sådant verktyg inom lagstiftningen. Istället är uppladdningsfilter en konsekvens av att EU:s nya upphovsrättsdirektiv gör nätplattformarna ansvariga för om deras användare laddar upp upphovsrättsskyddat material. Enda sättet för dem att skydda sig mot sådant är att använda automatiserade uppladdningsfilter. Computer says no.

I striden runt upphovsrättsdirektivet påstod dess förespråkare att det inte finns och aldrig kommer att finnas något sådant som uppladdningsfilter, att allt sådant är hjärnspöken. Men knappt hann bläcket på direktivet torka innan förslaget till förordning om terror-relaterat innehåll online (TERREG) dök upp. Kring det pågår förhandlingar just nu. Ministerrådets linje är att de där fiffiga uppladdningsfiltren från upphovsrättsdirektivet, sådana skall vi ha i TERREG. Därpå var inrikeskommissionär Ylva Johansson ute och krävde uppladdningsfilter för att bekämpa brott.

De uppladdningsfilter som nyss beskrevs som fantasifoster och skräckpropaganda rullas alltså nu ut på bred front – främst av samma människor som nyss förnekade dess existens.

Man kan nog räkna med att just uppladdningsfilter blir en av de centrala konfliktytorna när kommissionen lägger fram sitt förslag.

I dokumenten och uppsnacket inför DSA talades mycket om att införa gemensamma EU-regler för vad som får uttryckas online – istället för att ha spretig lagstiftning som skiljer sig åt mellan medlemsstaterna.

Den diskussionen har nu helt tystnat. Vilket inte behöver betyda att man övergivit tanken. Snarare är det nog så att EU-kommissionen inte vill väcka den björn som sover. Man vet att det kommer att bli debatt och protester. Därför vill man ge kritikerna så lite tid som möjligt för att formera sitt motstånd.

Samtidigt kan man inte utesluta att medlemsstaterna vill behålla makten över sådana regler – och därför sätter sig på tvären.

Vi får se vad EU-kommissionen lägger fram den 2 december. Allt man med säkerhet kan säga är att det kommer att handla om mycket mer än bara det ovanstående. Och då blir det skarpt läge.

Ett oväntat hinder för övervakningsstaten: 5G

av

Som vi tidigare rapporterat satsar EU nu på att knäcka eller kringgå kryptering av meddelanden. Även länderna i det så kallade Five Eyes-samarbetet (US, UK, Kanada, Australien och Nya Zeeland) satsar på att skapa bakdörrar till kryptering. Japan och Indien är andra länder som satsar på området.

Utöver att bakdörrar till kryptering gör hela vår IT-infrastruktur osäker – så finns det ett problem som övervakningsstaten måste lösa först: 5G.

Statewatch rapporterar:

»A new senior police working group will try to advance the police demand to retain wiretapping abilities with 5G technology. However, the technical architecture of 5G makes this extremely difficult, if not impossible. The German Presidency is seeking formal recognition from the Council’s Law Enforcement Working Party for this new body, named the ’European Heads of Lawful Interception Units’. As well as EU and Schengen states, the UK will apparently also be involved.«

Det visar sig alltså att 5G-tekniken är ett påtagligt hinder för övervakning och avlyssning.

Och då har massövervakningens vänner ett mer akut problem än kryptering att hantera. Skall man över huvud taget kunna knäcka ett krypterat meddelande, då måste man ju komma åt det först.

Om 5G omöjliggör traditionell övervakning, då måste myndigheterna förmodligen kapa (den fortfarande krypterade) trafiken där den övergått i kabel på väg in till meddelandetjänsten. Förmodligen i samarbete med varje respektive meddelandetjänst, som vanligtvis finns i andra jurisdiktioner.

Det blir krångligt att hantera, om alls möjligt. Därav EU:s nyvaknade intresse för hemlig dataavläsning (stats-trojaner med tillgång till allt som finns och sker på en dator, smartphone eller annan enhet). Men i stor skala kan sådan nog bara genomföras med för ändamålet förinstallerad mjuk- eller hårdvara. Vilket i sin tur rimligen bör kräva lagstiftning, i en öppen demokratisk process.

Vi får se om förslaget till EU:s nya Digital Services Act ger några ledtrådar, när det släpps i början av december.

Kortvideo: FRA 2020 – ändamålsglidningen är fullbordad

av

Tolv år efter FRA-omröstningen – och nu fullbordas ändamålsglidningen.

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

FRA – det slutliga sveket

av

Nu öppnar såväl regeringen som delar av oppositionen för att Försvarets Radioanstalt, FRA, även skall få övervaka och analysera innehåll i telekommunikationer inom landet.

Som FRA-motståndarna påpekade från början, så var det bara en tidsfråga. Steg för steg har tillgång till den så kallade FRA-shoppen givits till allt fler myndigheter. Och nu har ändamålsglidningen nått den punkt där de sista löftena om hur FRA-lagen skulle användas är på väg att kastas i papperskorgen.

Detta är knappast förvånande. Däremot är det skamligt av Socialdemokraterna att utvidga en lag som de själva röstade emot, även om det då bara var av taktiska skäl. Också Miljöpartiet bör skämmas – som offrat vad som kanske var ett äkta engagemang mot FRA-lagen i utbyte mot makt, för en plats i regeringen.

Samtidigt driver EU nu frågor (uppladdningsfilter, nätcensur, avkryptering m.m.) som också landar i att man kommer att övervaka, kontrollera och analysera innehållet i vanligt folks kommunikationer. Kampen om individens rätt till privatliv och privat korrespondens har därmed utvidgats till en strid på flera fronter.

SR: FRA kan få möjligheter att signalspana i Sverige »

EU satsar på röstigenkänning i övervakningssyfte

av

Det är inte bara metoder för automatiserad ansiktsigenkänning som utvecklas av EU. I projektet ROXANNE bygger man nu ett system för röstidentifiering. När projektet är färdigutvecklat kan det användas för att sålla ut personer som myndigheterna vill övervaka eller granska, ur den allmänna telefontrafiken.

Med sitt  »Speaker Identification Integrated Project« (SIIP) har EU redan varit inblandat i ett projekt för röstigenkänning baserad på karaktäristiska, individuella röstprofiler. Detta har dock inte varit så framgångsrikt som man hoppats. Bland annat har man haft för många »falska positiva« för att systemet skall vara hanterbart.

Därför lanseras nu ROXANNE – Real time netwOrk, teXt and speaker ANalytics for combating orgaNized crimE. (!)

ROXANNE kommer bland annat att använda sig av bland annat följande faktorer för att identifiera individer som talar med varandra:

  • Personlig röstprofil
  • Metadata
  • Samtalshistorik och vanor
  • Vilken kommunikationskanal som används
  • Mobilers IMEI-nummer
  • Geodata
  • Tidpunkt
  • Språkhantering, nyckelord och fraser
  • De uppringdas / uppringarnas demografi
  • Material och information från till exempel övervakning och sociala nätverk
  • Övriga digitala fotavtryck

Detta kan – tillsammans med annan data som samlats in och registrerats ge en bättre träffsäkerhet vad gäller att identifiera en enskild person som deltar i ett telefonsamtal. (Än så länge är systemet bättre på att identifiera män än kvinnor.)

Som verktyg för att identifiera misstänkta och ännu icke misstänkta i t.ex. ett omfattande avlyssningsmaterial, kan detta säkert vara effektivt. Det gör det även möjligt för polisen att använda en större trål, utan att riskera att drunkna i material som man inte hinner gå igenom. Vilket – å andra sidan – även innebär att fler oskyldiga kommer att övervakas.

Men ROXANNE kan även användas för generell övervakning, för att sålla ut vissa samtal och personer ur den allmänna telefontrafiken. Vilket i så fall innebär att alla människor – även sådana som inte är misstänkta för något brottsligt – kan komma att få sina telefonsamtal övervakade och analyserade.

Då kränks helt uppenbart rätten till privat kommunikation, som ju är en konventionsskyddad grundläggande mänsklig rättighet.

Länkar:
• Netzpolitik: EU entwickelt Abhörplattform mit Sprachanalyse und Gesichtserkennung »
• EU-kommissionen: Real time network, text, and speaker analytics for combating organized crime »
• ROXANNE:s hemsida – deltagande organisationer »

EU diskuterar hemlig dataavläsning – för alla

av

Myndigheternas kamp mot kryptering – det vill säga medborgarnas rätt till privat kommunikation – går vidare.

Ett förslag är att införa hemlig dataavläsning – så kallade statstrojaner – på alla datorer, telefoner och andra enheter.

Färdriktningen är mycket tydlig i ett internt dokument från EU:s ministerråd (PDF). Bland annat hänvisar man till motsvarande arbete inom den så kallade Five Eyes-koalitonen, som är ett samarbete mellan underrättelsetjänsterna i USA, UK, Kanada, Australien och Nya Zeeland. Det finns alltså skäl att tro att det handlar om ett koordinerat angrepp mot rätten till privat kommunikation.

EU-kommissionen är uppenbarligen med på noterna. Säkerhetskommissionär Ylva Johansson säger att hon inte ser någon motsättning mellan att granska alla medborgares elektroniska kommunikation och deras rätt till privatliv. (!)

I ett annat arbetsdokument lägger det tyska EU-ordförandeskapet fram ett antal alternativ. Precis som i ministerrådets dokument framgår det att man ser frågan om sexuella övergrepp mot barn som en lämplig ursäkt för att rulla ut denna nya övervakning – som i verkligheten har ett mycket bredare syfte.

Ett av förslagen är att meddelanden skall analyseras redan innan de sänds, på avsändarens enhet. (Se illustrationen ovan.) Det vill säga hemlig dataavläsning / statstrojaner. Vilket innebär att statliga spionprogramvara måste installeras på alla medborgares alla datorer och andra enheter. Vilket då även kan bereda staten tillgång till alla våra meddelanden och chattar, alla våra program och appar, alla våra mobilbilder, alla våra kontakter, alla våra filer och allt vi gör online.

Detta är förfärande i sig. Lägg sedan till detta att EU vill gå fram med ett nytt förslag om allmän datalagring, elektroniskt EU-ID, automatiserad ansikts- och röstigenkänning, uppladdningsfilter och nätcensur. Man överväger även att tvinga nätplattformar, sociala media och meddelandetjänster att hjälpa till med att avkryptera sina användares meddelanden.

Förslagen kan i förlängningen komma att leda till att bara vissa meddelandetjänster (vars kryptering kan knäckas) blir tillåtna i EU. Vilket i så fall vore unikt för ett demokratiskt samhälle. Detta är något vi tidigare bara sett i länder som Ryssland och Kina.

Att oroas över denna utveckling är inte att överdriva eller ropa vargen kommer. Detta är politiska förslag, dokumenterade svart på vitt. De är tänkta att förverkligas under denna mandatperiod (2019-24). Och det tyska ordförandeskapet vill se konkreta åtgärder mot kryptering redan innan årsskiftet.

Relaterat:
• EFF: Orders from the Top: The EU’s Timetable for Dismantling End-to-End Encryption »
• Pp: Flera länder kräver bakdörrar i kryptering »
• Bruce Schneier: The Risks of Mandating Backdoors in Encryption Products »
• EU och Europol satsar på att knäcka kryptering »
• Aktuell lista – så hotar EU vårt fria och öppna internet »

EU tänker punktmarkera 20 nätjättar

av

EU skall enligt Financial Times vara på väg att sätta up en »hit list« på 20 stora nätföretag som man tänker punktmarkera.

Citatet via Slashdot, då FT-artikeln ligger bakom betalvägg:

Under the plans, large platforms that find themselves on the list will have to comply with tougher regulation than smaller competitors, according to people familiar with the discussions, including new rules that will force them to share data with rivals and an obligation to be more transparent on how they gather information.

The list will be compiled based on a number of criteria, including market share of revenues and number of users, meaning the likes of Facebook and Google are likely to be included. Those deemed to be so powerful that rivals cannot trade without using their platforms could also be added.

The move to gain new powers is part of a growing effort in Brussels to force big technology companies to change their business practices without a full investigation or any finding that they have broken existing laws. It follows complaints that the current regulatory regime has resulted in weak and belated action, which has done little to foster competition.

The number of companies and the precise criteria for the list is still being discussed, but it is the latest indication of how serious the EU is about coming up with powers to limit the power of platforms seen as ”too big to care.”

Å ena sidan är det fullt begripligt att EU oroas av nätjättarnas dominans.

Å andra sidan är det en dålig juridisk metod att ha olika regler för olika juridiska (och fysiska) personer – speciellt i de fall kategoriseringen baseras på subjektiva bedömningar. Lagar skall vara så generella som möjligt och gälla lika för alla.

Speciellt uppseendeväckande är det som är markerat i fetstil i citatet ovan. EU tycks alltså resonera ungefär så här: Vi har skrivit lagar som inte riktigt fungerar – så nu ger vi oss på vissa företag ändå, fast utan stöd av de lagar vi själva stiftat.

Den offentliga makten skall utövas under lagarna. Det borde vara självklart. Och den som inte bryter mot någon lag skall inte heller trakasseras av myndigheterna.

Detta är tyvärr inte första gången som EU ägnar sig åt post-demokratiska metoder. Till exempel har man sedan länge utövat påtryckningar mot sociala media för att de skall skärpa sina användarvillkor – när det gäller sådant som politikerna själva inte vill eller vågar gå fram med lagstiftningsvägen.

Slutligen: Vill man verkligen bryta de amerikanska nätjättarnas dominans – då borde man sluta sönderreglera IT, internet och den digitala ekonomin i Europa, så att morgondagens nätjättar inte skräms bort från att etablera sig här.

Automatisk nätcensur i corona-krisens spår

av

Nej, detta handlar inte om vad man får eller inte får säga om Corona / COVID 19 på sociala media – utan om vad pandemin har inneburit vad gäller censur av övrigt innehåll.

EFF har djupdykt i frågan om vad som händer när moderering av innehåll styrs om från människor till maskiner i pandemins spår:

”While human content moderation doesn’t scale and comes with high social costs, it is indispensable. Automated systems are simply not capable of consistently identifying content correctly. Human communication and interactions are complex, and automated tools misunderstand the political, social or interpersonal context of speech all the time. That is why it is crucial that algorithmic content moderation is supervised by human moderators and that users can contest takedowns. As Facebook’s August 2020 transparency report shows, the company’s approach to content moderation during the coronavirus pandemic has been lacking in both human oversight and options for appeals.”

Ingen möjlighet att överklaga:

”When content is removed on either Facebook or Instagram, people typically have the option to contest takedown decisions. Typically, when the appeals process is initiated, the deleted material is reviewed by a human moderator and the takedown decision can get reversed and content reinstated. During the pandemic, however, that option has been seriously limited, with users receiving notification that their appeal may not be considered. According to the transparency report, there were zero appeals on Instagram during the second quarter of 2020 and very few on Facebook.”

Beslut om vad som får skrivas på sociala media fattas nu alltså helt och hållet av maskiner. Vilket är en rätt svindlande tanke.

Det visar sig också att Facebook och dess dotterbolag Instagram tillämpar olika principer för moderering av innehåll.

Nu återstår att se om sociala media kommer att fortsätta låta algoritmer fortsätta moderera innehåll utan egentlig mänsklig kontroll även efter corona-krisen. Maskiner är ju billigare än människor.

Hur som helst måste det till en rimlig och fungerande funktion för att överklaga beslut när innehåll censureras. En funktion där den drabbade tillåts argumentera för sin sak med mer än bara en maskin.

EFF: Facebook’s Most Recent Transparency Report Demonstrates the Pitfalls of Automated Content Moderation »