Femte juli

Nätet till folket!

EU

Denna kategori använder vi för att samla nyheter och poster som har med EU att göra. Idag kommer de flesta initiativ som gäller internetfrågorna därifrån - för att sedan bli lag i medlemsstaterna.

Problemen med automatiserad ansiktsigenkänning

av

Man måste hålla isär saker och ting när man talar om automatiserad ansiktsigenkänning.

Det kan handla om verktyg som i efterhand går igenom till exempel övervakningsfilm kopplad till en brottsplats för att utreda om vissa personer befunnit sig där. Detta är i stort sett oproblematiskt, då det handlar om att automatisera något som annars hade utförts ändå, fast av människor. (Även om datorerna inte kan göra samma breda analys av en bild och dess allmänna kontext som en människa, vilket kan leda till att annat som är av intressant i en utredning missas.)

Sedan har vi poliser som på eget bevåg använder Clearview-appen för att identifiera folk med hjälp av aggregerad information från sociala media m.m. Vilket inte är och inte bör vara tillåtet. Skall ansiktsigenkänning alls användas, då skall det ske under ordnade och rättssäkra former med myndighetens egna verktyg.

Vi har också företag som använder ansiktsigenkänning för att kunna identifiera sina kunder och därmed förbättra kundupplevelsen. Och Big Data som vill kunna kartlägga oss och våra vanor, i utbyte mot användbara gratis tjänster som mail, online-dokument, lagring, kommunikation och sociala plattformar. Vilket delvis är en annan och större fråga.

Sedan har vi kameraövervakning i realtid kopplad till automatiserad ansiktsigenkänning. Det vill säga att man inte nödvändigtvis söker efter någon speciell person – utan är mer intresserade av om någon av intresse skulle dyka upp i folkströmmarna. Sådan övervakning kan även användas för att punktbevaka en enskild individ, om det finns tillräckligt mycket kameror (som i t.ex.London). Detta är problematiskt.

För det första innebär det att man övervakar hederliga medborgare, som inte är misstänkta för något brott. Att behandla alla som potentiella brottslingar och att urskiljningslöst övervaka alla som råkar befinna sig på allmän plats hör inte hemma i en demokratisk rättsstat.

Det handlar även om att fritt kunna röra sig i det samhälle man lever i, utan att ständigt behöva känna sig övervakad.

Sedan är detta ett verktyg som lätt kan användas av staten för att förtrycka sin befolkning, kartlägga oppositionella och förfölja oliktänkande. Det behöver inte handla om ondska. Det kan lika gärna vara fråga om överdriven ambition, missriktad välvilja eller inkompetens.

Medborgarrättsaktivister har framfört kritik mot denna utveckling under lång tid. EU har i årtionden finansierat utvecklingsprojekt som INDECT – vars mål har varit just kameraövervakning med automatiserad ansiktsigenkänning i realtid, kopplad till beteendeanalys och myndigheternas olika register. Och nu befinner vi oss vid den punkt där dessa system är klara att rullas ut.

Reclaim your face har en lista över hur automatiserad ansiktsigenkänning används på olika, problematiska sätt runt om i Europa. Där kan man även skriva under ett Europeiskt Medborgarinitiativ som kräver att EU reglerar användningen på ett sätt som respekterar individens rätt till privatliv.

Chat Control – slutet för privat korrespondens online

av

»The EU wants to have all private chats, messages, and emails automatically searched for suspicious content, generally and indiscriminately. The stated aim: To prosecute child pornography. The result: Mass surveillance through fully automated real-time messaging and chat control and the end of secrecy of digital correspondence.«

Patrick Breyer, ledamot av Europaparlamentet för Piratpartiet, DE.

Länk: Messaging and chat control – The End of the Privacy of Digital Correspondence »

Medborgarrättsorganisationer rasar mot EU:s nya nätcensur

av

Ett 60-tal organisationer har skrivit brev till Europaparlamentets ledamöter och vädjat till dem om att rösta nej till förordningen om terror-relaterat innehåll online (TERREG/TCO).

Bland undertecknarna finns bland andra Amnesty, Europeiska Medborgarrätsuniuonen, EFF, EDRi, Polska Helsingfors-kommittén, Human Rights Watch, Internationella Juristkommissionen, CCC, La Quadrature Du Net,  Reportrar utan gränser, Statewatch, Wikimedia och svenska DFRI.

De praktiska problemen med TERREG är:

  • Flaggat material skall som huvudregel plockas ner inom en timma, vilket blir praktiskt svårt att hantera för mindre plattformar.
  • Denna snäva tidsram ger inget utrymme för rättsliga överväganden – och någon föregående rättslig prövning kommer inte att ske.
  • Myndigheter i ett EU-land kan beordra nedtagning av material i en annan medlemsstat, utan klartecken från den senare.
  • Nerplockat material skall inte kunna laddas upp igen. Även om texten (efter förhandlingar) noga undviker ordet ”uppladdningsfilter” – så är användning av just automatiska uppladdningsfilter den enda praktiskt användbara metoden. Och uppladdningsfilter innebär att allt som du och alla andra laddar upp måste granskas av maskiner inna det kan publiceras.

Det finns även invändningar mot att detta kan komma att drabba journalistisk verksamhet, forskning, dokumentation och lagföring av övergrepp.

Förslaget är dessutom oroväckande svävande när det gäller att definiera vad som egentligen anses vara terrorism och terror-relaterat.

Elefanten i rummet – som tyvärr inte berörs i brevet – är att detta även etablerar en censur av åsikter online i EU. Förvisso terroristers åsikter. Men när principen väl är etablerad kan det ändras med ett klubbslag.

Tar man ett steg tillbaka och betraktar den större bilden – då kan man konstatera att samtidigt som TERREG är på väg att bli lag, så är EU-apparaten även på väg att kräva av-kryptering och granskning av nätanvändarnas meddelanden och e-post i namn av att skydda barn mot övergrepp. Sammantaget blir detta en storebrorsstat som granskar, analyserar och i förekommande fall censurerar det mesta som sker online.

Länkar:
• DW: Rights groups slam EU online terrorist content law »
• Liberties: Free Speech Advocates Urge EU Legislators to Vote ’No’ to Automated Censorship Online »

Sociala media, användarnas rättigheter och nya statligt godkända censorer

av

Sociala medias ofta till synes slumpartade censur av inlägg och avstängning av användare är en ständig källa till irritation. Speciellt som det inte går att kontakta de olika plattformarna – och då den som censureras inte får reda på varför. Vilket blir extra problematiskt med tanke på nätjättarnas dominerande ställning i debatten.

Men det kan bli ändring på den saken. I EU:s föreslagna Digital Services Act (DSA) vill man att den som blir censurerad skall få veta varför – och även få en reell möjlighet att överklaga beslutet.

Även om detta är detaljreglering av hur privata företag skall bedriva in verksamhet – så kommer många användare säkert att välkomna att de nu kommer att få något som ger viss ”rättsäkerhet”. (Även om begreppet rättssäkerhet snarare handlar om förhållandet mellan individen och staten / rättsväsendet.)

Problemet med DSA är att förordningen vill införa ett nytt censurinstrument – så kallade ”trusted flaggers” som enligt förslaget skall representera ”kollektiva intressen” och som skall få en egen gräddfil till respektive sociala medieplattforms abuse-avdelning.

Det skall förvisso vara offentligt vilka dessa ”trusted flaggers” är. Och om de missköter si skall de kunna mista sitt uppdrag. Men det ligger fortfarande något obehagligt över att införa statligt godkända nätgranskare. Speciellt om dessa skall företräda ”kollektiva intressen” – vilket förmodligen kommer att öppna dörren för olika särintressen och identitetspolitiska överväganden. Vilket kan bli en soppa.

Generellt sett bör gränserna för det fria ordet sättas av lagstiftaren och sedan upprätthållas av ett oväldigt rättsväsende. Att sätta icke-statliga aktörer som officiellt godkända censorer kommer garanterat att skapa helt nya konflikter.

Nu gäller det att se till att DSA behåller ”rättssäkerheten” för sociala medias användare – samtidigt som ”trusted flaggers” inte ytterligare bidrar till polariseringen av samhällsdebatten.

Relaterat:
• At a glance: Does the EU Digital Services Act protect freedom of expression? »
• Nätjättarnas makt är ett frihetligt dilemma »

EU hotar rätten till privat korrespondens online

av

EU är på väg att ge grönt ljus för granskning av dina meddelanden och även din e-post.

Vi har skrivit om detta tidigare – men vi tänker fortsätta tjata, eftersom debatten om detta är närmast obefintlig.

Motivet man anger den här gången är att man vill kontrollera så att du inte ägnar dig åt sexuella övergrepp på barn. Vilket tycks räcka för att tysta all kritik.

Få känner till förslaget, det finns i princip ingen debatt om det, media är ointresserade, Europaparlamentet har i stort sett sagt ja redan i förväg – och givet syftet är det möjligt att de flesta människor anser att ändamålet helgar medlen.

Men innan vi ställs inför fullbordat faktum tycker vi att det är en del saker du bör känna till.

Det handlar alltså om dina meddelanden och din e-post. (Möjligen undantaget e-post som är PGP-krypterad användare till användare, som i princip är omöjlig att komma åt.) Men vanliga meddelanden i olika appar och vanliga e-postmeddelanden skall kunna avkrypteras, granskas och analyseras. Det gäller även bilder och videofilmer som du sänder – samt video-mötestjänster som Skype, Zoom med flera.

Detta är en gigantisk uppgift. Därför kommer det att ske automatiskt.

Problemet är att algoritmerna inte är speciellt bra på detta. När Schweiz provade något liknande gick det nio falska flaggningar på en äkta.

Det innebär alltså att i nio fall av tio kommer misstanken om sexuella övergrepp mot barn att riktas mot någon oskyldig. Vilket innebär att den som är oskyldig har mest att frukta.

Flaggade meddelanden kommer sedan att överföras till en privat organisation i USA. Där skall de granskas igen och i förekommande fall översändas till polis eller andra myndigheter och organisationer.

Och när det gäller sexuella övergrepp mot barn kommer det att räcka med en misstanke – även om den är felaktig – för att du skall få problem.

Du kan vara oskyldigt misstänkt utan att ens veta om det förrän polisen knackar på dörren – eller innan du stoppas i något främmande lands passkontroll. Den som är oskyldig har, som sagt, mest att frukta.

Men det är inte det enda problemet.

I och med att dina meddelanden och din e-post kommer att kunna avkrypteras blir de även tillgängliga för allehanda myndigheter och underrättelseorgan. Kom ihåg amerikanska NSA:s devis: Collect it all.

Man kan även fundera på hur EU resonerar. Ena stunden vill man skydda användarnas data mot företag som Google, Facebook med flera. Och i nästa ögonblick vill man att våra meddelanden och vår e-post skall avkrypteras – vilket kommer att göra innehållet i dessa tillgängligt för just Google, Facebook och alla andra företag du använder för dina meddelanden och din e-post.

Vi vet dessutom att sådana här lagar alltid drabbas av ändamålsglidning.

När man väl använt sexuella övergrepp mot barn som murbräcka – då kommer man med största säkerhet att utvidga mandatet för att även kunna söka efter annat. Så är det i princip alltid. Finns verktygen, då kommer man ständigt att hitta nya användningsområden.

Europeiska datatillsynsmyndigheten (EDPS) anser att lagförslaget varken är nödvändigt eller proportionerligt. Det saknar laglig grund, tydliga regler och tillräckliga skyddsåtgärder.

EU-parlamentets utredningstjänst (EPRS) anser att en sådan här lag endast bör inriktas mot personer som är misstänkta för att ägna sig åt något brottsligt. Man pekar även på att förslaget strider mot dataskyddsförordningen, GDPR.

UNICEF menar att förbättrad integritet och dataskydd för barn är bättre än automatisk övervakning av deras kommunikation.

Men i Europaparlamentet har en stor majoritet sagt ja till att gå vidare med lagstiftningsarbetet. Trilogförhandlingar pågår. Samtliga svenska partier i parlamentet har röstat ja till att gå vidare, utom Vänsterpartiet som är avvaktande.

Sedan blir det snabbehandling. Den konsoliderade texten väntas släppas av EU-kommissionen i april och godkännas i Europaparlamentet under sessionen i maj månad.

Även om alla sympatiserar med syftet och även om det råder stor politisk enighet – så är detta ett hot mot rätten till privat kommunikation online.

Vilket är allvarligt. Rätten till privatliv och privat korrespondens är en grundläggande rättighet – fastlagen i bland annat Europakonventionen om de mänskliga rättigheterna. Men det tycks ingen bry sig om.

Hur som helst bör du vara medveten om att det i princip är slut med privat korrespondens online. I den mån sådan i praktiken alls existerat.

Länkar:
• EU öppnar för automatisk granskning och analys av alla dina meddelanden och all din e-post »
• Fyra problem med förslaget om automatisk granskning av privat kommunikation »
• The End of the Privacy of Digital Correspondence »
• SD, MP, S, M, C, L och KD är för övervakning av chatt, email och videosamtal »
• EU allt närmare kontroll av innehållet i alla nätanvändares alla meddelanden »

EU-domstolen: Även ”inbäddade” bilder på nätet kan kräva tillstånd

av

EU-domstolen har kommit fram till att »inbäddade« bilder – det vill säga bilder som inte ligger på den publicerande sitens server, utan är inlänkade – kräver den ursprungliga upphovsmannens tillstånd. Men tydligen bara om man kringgår skyddsåtgärder mot inbäddning som vidtagits av rättighetsinnehavaren.

Det aktuella förhandsavgörandet handlar om hur Deutsche Digitale Bibliothek (DDB) – som drivs av Stiftung Preußischer Kulturbesitz (SPK) och som själva har licens för de bilder de publicerar – skall hantera andra siter som använder bilder från DDB genom att länka / bädda in bilder och thumbnails på sina siter.

EU-domstolen skriver:

»Artikel 3.1 i Europaparlamentets och rådets direktiv 2001/29/EG av den 22 maj 2001 om harmonisering av vissa aspekter av upphovsrätt och närstående rättigheter i informationssamhället ska tolkas på så sätt att den omständigheten att upphovsrättsligt skyddade verk som med upphovsrättsinnehavarens tillstånd har gjorts tillgängliga och fritt åtkomliga för allmänheten på en annan webbplats integreras i en tredje parts internetsida, genom tekniken med inbäddning, utgör en överföring till allmänheten, i den mening som avses i denna bestämmelse, om integreringen sker genom att skyddsåtgärder mot inbäddning som har vidtagits eller ålagts av rättighetsinnehavaren kringgås.«

Ur motiveringen:

»När upphovsrättsinnehavaren har vidtagit eller ålagt sina licenstagare att använda sig av begränsningsåtgärder mot inbäddning för att begränsa tillgången till upphovsrättsinnehavarens verk från andra webbplatser än dess licenstagares webbplatser, utgör det första tillgängliggörandet på den ursprungliga webbplatsen och det andra tillgängliggörandet, genom tekniken med inbäddning, följaktligen olika överföringar till allmänheten, och därför krävs att de berörda rättighetsinnehavarna lämnar sitt tillstånd med avseende på var och en av dem (se, analogt, dom av den 29 november 2017, VCAST, C‑265/16, EU:C:2017:913, punkt 49).«

Det är intressant att notera att domstolen med sitt beslut går emot generaladvokatens förslag, vilket i och för sig inte är unikt men ovanligt.

Europol får utökade befogenheter – och större tillgång till persondata

av

Det europeiska polissamarbetet Europol (som numera är en EU-myndighet) skall få ett nytt regelverk.

Som vi tidigare rapporterat innebär detta bland annat ökade resurser för att knäcka kryptering och automatiserad tillgång till persondata från privata företag. Utanför den officiella debatten har Europol även på egen hand utökat sitt mandat till att också omfatta bekämpning av desinformation.

Här är ytterligare några förändringar:

  • Europol får starta egna utredningar, utan att någon medlemsstat är inblandad.
  • Europol får även utreda icke-gränsöverskridande brottslighet, på eget initiativ, i en enskild medlemsstat.
  • Närmare samarbete skall etableras med den europeiska åklagarmyndigheten (EuPPO) och EU:s myndighet för att bekämpa fusk och korruption (OLAF).
  • Närmare samarbete skall kunna etableras med tredje land (ej EU-länder), inte minst i förbyggande syfte.
  • Närmare samarbete skall kunna etableras med olika underrättelsetjänster.
  • Europol får möjlighet att samköra och korsreferera olika register, vilket lett till kritik från EU:s dataskyddsombudsman.
  • Europol skall använda sig av AI och får omfattande tillgång till persondata för att utvärdera, träna, testa och validera dess algoritmer.
  • Europol skall också få rätt att på eget initiativ flagga människor i Schengen Information System (gräns- och personkontroll).

Det hela beräknas kosta 178 miljoner euro och kommer att behandlas av Europaparlamentet under hösten. Sedan kommer EU – de facto – att ha en federal polis.

Länkar:
• Proposals for new Europol Regulation »
•  EU-kommissionens förslag (75 sidor, PDF) »

Digitalt EU-ID och elektroniskt journalsystem på EU-kommissionens önskelista

av

EU-kommissionen har presenterat sina digitala mål för år 2030. Ett par exempel:

Man vill skapa ett digitalt EU-ID, som man hoppas att minst 80% av medborgarna kommer att använda. Det skall ses mot bakgrund av att man i EU i 10-15 års tid har diskuterat ID-krav för att över huvud taget kunna koppla upp sig mot eller verka på nätet. Detta är viktigt att hålla ögonen på.

»By 2030, the EU framework should have led to wide deployment of a trusted, user-controlled identity, allowing each citizen to control their own online interactions and presence. Users can make a full use of online services easily and throughout the EU while preserving their privacy.«

Man vill ha 100% täckning vad gäller lagring av medborgarnas medicinska journaler. Språket är något svävande, men vi vet sedan tidigare att det är ett centraliserat, EU-gemensamt journalsystem som är målet. Vilket säkert kommer att väcka en hel del debatt.

»The ability for European citizens to access, and control access to, their electronic health records (EHR) across the EU should be greatly improved by 2030 based on common technical specifications for health data sharing, interoperability, developing the secure infrastructure, as well as taking actions to facilitate the public acceptability of sharing health information with the medical community.«

Dokumentet säger många vackra saker om hur EU:s digitala industri är viktig och måste utvecklas. Vilket inte riktigt rimmar med hur man driver bort startups och riskkapital från EU genom att överreglera internet.

På önskelistan finns även gigabit för alla; »Cutting edge Semiconductors«; ett klimatneutralt EU-moln med 10.000 noder; kvantdatorer; miljövänlig IT-verksamhet med bättre balans mellan könen – samt att man vill upprätta en »inter-institutionell deklaration om digitala principer« innan årets slut. Och mycket annat.

• EU-kommissionens inforgraphics »
• 2030 Digital Compass: the European way for the Digital Decade (PDF) »

EU: En soppa av motstridiga förslag och beslut om övervakning

av

En ögonblicksbild från EU:s beslutsapparat:

  • 2020 fattade man beslut om en European Electronic Communications Code (EECD) – som gav användarna starkt skydd för elektronisk korrespondens.
  • Nu vill man fatta ett beslut om »chat control« – det vill säga att alla meddelandetjänster förväntas avkryptera alla sina användares alla meddelanden for att undersöka om de innehåller något som kan kopplas till övergrepp mot barn. Detta som en »tillfällig« lag, på grund av att EECC ovan inte tillåter plattformarna att snoka i sina användares meddelanden.
  • Gällande ePrivacy-förordning förbjuder samtidigt generell övervakning av vad folk har för sig på internet. Denna regel föreslås tas upp och fortsätta gälla inom ramen för den föreslagna Digital Services Act (DSA).
  • En ny ePrivacy-förordning är på gång. Dess syfte var att skydda användarna från plattformarnas insamling av användarnas persondata. Nu vill ministerrådet mjuka upp den för att ge plattformarna tillgång till användarnas metadata, utan att samtycke krävs.
  • Samtidigt ställer både EU:s upphovsrättsdirektiv och förordningen om terror-relaterat innehåll online krav som i praktiken kommer att kräva uppladdningsfilter. Vilket kommer att kräva att allt innehåll som alla laddar upp måste granskas.
  • Redan 2014 beslutade EU-domstolen att upphäva datalagringsdirektivet – eftersom det inte är tillåtet med svepande övervakning av alla, utan misstanke om brott.

Detta är en soppa av motstridiga förslag och beslut.

Gissningsvis är upplägget så här: The European Electronic Communications Code gick längre vad gäller att skydda nätanvändarnas rätt till privatliv än myndigheterna hade tänkt sig. Med förslaget om »chat control« vill man nu införa en tillfällig lag för att kunna fortsätta den övervakning av innehållet i användarnas kommunikationer som bl.a. Facebook och Google redan ägnar sig åt. I ett tredje steg vill man att den nya ePrivacy-förordningen skall permanenta detta undantag. Så att man kan fortsätta övervaka folk.

Det ändrar dock inte det faktum att the Digital Services Act ser ut att innehålla ett fortsatt förbud mot generell övervakning. Det ändrar inte heller det faktum att EU-domstolen har förbjudit svepande övervakning av alla utan misstanke om brott.

Det är också värt att notera att EU med ena handen vill skydda användarnas data och metadata från Facebook och Google – samtidigt som man kräver att Facebook, Google & Co skall öppna och granska innehållet i sina användares privata meddelanden. Motsvarande resonemang gäller uppladdningsfilter i dess olika reinkarnationer.

Hur man tänkt få ihop allt detta är högst oklart. Lägg därtill att EU-kommissionen flaggat för ett nytt datalagringsdirektiv – och oredan blir ännu värre.

Här är en del aktuella länkar, för den som vill försöka förstå:
• PP: ePrivacy-förordningen närmar sig trilogförhandlingar »
• MEP Patrick Breyer (PP, DE): Attack on digital privacy – Council position on ePivacy does not deserve its name! »
• Netzpolitik: EU-Staaten verwässern digitales Briefgeheimnis »
• Lukasz Olejnik: Analysing the Council of the EU ePrivacy Regulation – is it obsolete? »
• EU öppnar för automatisk granskning och analys av alla dina meddelanden och all din e-post »
• EU allt närmare kontroll av innehållet i alla nätanvändares alla meddelanden »
• Aktuella EU-planer som kan inskränka friheten online »

Ny datalagring i EU – med speciellt intresse för IP-adresser

av

Vi vet redan att EU-kommissionen och EU:s ministerråd vill se ett nytt datalagringsdirektiv.

Det förra datalagringsdirektivet upphävdes av EU-domstolen på grund av att det strider mot de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv och privat kommunikation.

Enkelt uttryckt menar domstolen att man inte urskiljningslöst får lagra all data om alla medborgares alla tele- och datakommunikationer. Det måste finnas ett konkret syfte, misstänkta och en tidsram.

Nu har det dykt upp ett internt arbetspapper från ministerrådets portugisiska ordförandeskap. I detta vill man diskutera med de andra medlemsstaterna hur man skall tacka frågan. (PDF »)

Speciellt vill man diskutera IP-adresser:

1. Do Member States interpret the possibility of retention of source IPs addresses, established in the recent case law of the Court, as including both static and dynamic IPs? Would or should this include source-port numbers? What are the views on only retaining source but not destination IP addresses?

2. Do Member States consider it to be in line with the jurisprudence of the ECJ that Internet Protocol addresses, strictly needed to identify a subscriber, should include first login IP, last login IP or the login IP used at a specific moment in time? Should this be considered as ’subscriber’ or ’traffic’ data if the IP address is used solely to identify a person?

Det skall bli intressant att se vad som kommer ut av detta. Hur som helst är det klart att processen för att ta fram ett nytt datalagringsdirektiv har börjat.

Vi kan möjligen räkna med ett förslag till nytt direktiv redan i år. Fast det kommer att kräva mycket trixande för att komma runt EU-domstolens ställningstagande – som ju i princip underkänner hela konceptet med datalagring.