Kategori: Storebror

17 områden där EU vill bygga ut övervakning, kontroll och censur

Henrik Alexandersson Lämna en kommentar

Massor av internet-och IT-relaterad lagstiftning har redan klubbats eller är på väg genom EU-apparaten. Det är så mycket att det blir svårt att få en överblick. Låt oss därför ge en ögonblicksbild av vad som är att vänta under den innevarande europeiska mandatperioden (2019-24).

Artificiell Intelligens: EU uppmanar visserligen till försiktighet vad gäller användning av AI för övervakning – men öppnar samtidigt för en lång rad undantag där AI ändå kan användas för övervakning från myndigheternas sida.

ChatControl: Meddelanden och e-post skall av-krypteras för att kontrollera om det förekommer sexuellt utnyttjande av minderåriga. Detta kan lätt utökas till andra syften.

Code of Conduct on countering illegal hate speech online: EU-kommissionär Ylva Johansson har flaggat för att en ny EU-gemensam uppförandekod skall sättas upp vad gäller hat och hot på nätet.

Corona-pass: EU vill se en gemensam app för att möjliggöra en återgång till normalt liv för vaccinerade, testade och personer med antikroppar. Detta öppnar även nya möjligheter för övervakning.

Datalagring: Ett nytt datalagringsdirektiv är på väg. Tanken är att lagra data om alla medborgares alla tele- och datakommunikationer för att kunna kontrollera vem som har kontakt med vem, var folk befunnit sig och när de har varit uppkopplade. Frankrike vill ändra EU:s fördrag och stadgan om de mänskliga rättigheterna för att EU-domstolen inte skall kunna stoppa direktivet.

eBevis: Polisiära myndigheter i alla EU:s medlemsstater kommer att kunna begära ut uppgifter om användare samt kommunikationsdata och lagrad information från till exempel en internetoperatör, social plattform eller app-tjänst i vilket medlemsland som helst.

EU-ID: Ett elektroniskt EU-ID finns på EU-kommissionens önskelista. Vilket i princip kommer att göra det omöjligt att vara anonym på nätet.

European Democracy Action Plan: Syftet är bland annat att bekämpa hat och desinformation online. Vilket alltid brukar landa i kontroversiella frågor om var gränsen går och vem som skall bestämma vad som är rätt och sant.

Europol: Den europeiska polismyndigheten arbetar intensivt för att knäcka krypterade kommunikationer. Man har flaggat för att man vill ha direkt tillgång till information hos privata aktörer (som till exempel internetoperatörer). Europol håller även på att utöka sitt mandat till att bekämpa desinformation.

Interconnected bank account registers: Den hårt kritiserade och misskötta överföringen av europeisk bankdata för analys hos amerikanska säkerhetsmyndigheter är tänkt att ersättas av ett centralt EU-register – för att lagra och analysera data om alla finansiella transaktioner inom det europeiska banksystemet.

Länkskatt: EU:s nya upphovsrättdirektiv kommer att leda till att det blir enklast för sociala media att sluta avtal med de stora mediehusen – på små, nya och alternativa medias bekostnad.

Patientjournaler: EU-kommissionen vill se ett heltäckande, centraliserat europeiskt system för medicinska journaler.

PNR: EU-kommissionen och ministerrådet vill utöka registreringen av våra resor (och om detaljer kring dessa). Detta gäller redan för flygresor, men man diskuterar att utöka registreringen till att även gälla hyrbilar, tågresor, båtresor och hotellövernattningar.

ROXANNE: Ett EU-finansierat projekt för röstigenkänning,

TERREG: Förordningen om terror-relaterat innehåll online innebär censur av åsikter online. Notera att det handlar om åsikter som inte nödvändigtvis är olagliga. Detta kan enkelt utvidgas till andra syften. TERREG kommer även att tvinga fram användning av uppladdningsfilter. Förordningen säger också att flaggat material skall plockas ner inom en timma (utan föregående rättslig prövning) och öppnar för att myndigheter i ett EU-land kan beordra nedtagning av innehåll på servrar i andra medlemsstater.

Trusted flaggers: EU:s nya Digital Services Act kommer att ge oss statligt godkända innehållsgranskare på nätet – vars anmälningar skall prioriteras av nätplattformarna.

Uppladdningsfilter: Allt som alla laddar upp kommer att inspekteras, analyseras och i förekommande fall censureras. Detta för att stoppa upphovsrättsskyddat material och terror-relaterad information. Dessa syften kan enkelt komma att utvidgas. Vissa EU-länder vill även se uppladdningsfilter som ett allmänt verktyg inom the Digital Services Act.

Detta är bara en del av allt som är på gång när det gäller internet, IT, övervakning och kontroll i EU. Nya förslag tillkommer hela tiden. Men vi tycker att det är viktigt att man inte bara gräver ner sig i enskilda förslag, utan även ser till den större bilden. Och sammantaget är det ingen tvekan om att EU är på väg att utvecklas till en kontroll- och övervakningsstat, som även begränsar det fria ordet online.

Signals Facebook-kritiska annonser stoppade på Instagram

Henrik Alexandersson Lämna en kommentar

Facebook kritiseras för en omfattande insamling av data om sina användare.

Vilket kommunikations-appen Signal ville göra en poäng av, med en annonskampanj. På Instagram. Som ägs av Facebook. Se några av annonserna ovan.

Facebook-koncernen sa nej och stoppade annonserna. Vilket möjligen kommer att göra dem än mer uppmärksammade. Att tysta kritik är som regel en dålig idé.

Signal: The Instagram ads Facebook won’t show you »

Chatcontrol får grönt ljus – alla meddelanden kan kontrolleras

Henrik Alexandersson Lämna en kommentar

I går hölls den avslutande trialog-förhandlingen om Chatcontrol I EU – som öppnar för operatörerna att avkryptera och kontrollera innehållet i alla meddelanden och all e-post i jakt på barnporr och grooming riktad mot underåriga.

Vilket i praktiken leder till att alla dina elektroniska kommunikationer kan komma att granskas och i förekommande fall översändas till en privat organisation i USA, för vidare överföring till polisen.

Även den som är oskyldig har allt att frukta, då denna analys kommer att göras av maskiner som varken begriper kontext eller skillnaden mellan oskyldiga semesterbilder och barnporr. Erfarenheter visar att 86% av alla sådana flaggningar är felaktiga. Så skriv inget som kan missuppfattas eller vantolkas av maskinerna och dess algoritmer.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) säger:

»This unprecedented deal means all of our private e-mails and messages will be subjected to privatised real-time mass surveillance using error-prone incrimination machines inflicting devastating collateral damage on users, children and victims alike. Countless innocent citizens will come under false suspicion of having committed a crime, under-agers will see self-generated nudes (sexting) fall in wrong hands, abuse victims will loose safe channels for counselling. This agreement sets a terrible precedent and is a result of a campaign of disinformation and moral blackmailing. Unleashing such denunciation machines is ineffective, illegal and irresponsible. It’s using totalitarian methods in a democracy.«

Gårdagens uppgörelse gör det tillåtet för operatörer att göra denna granskning, trots EU-lagstiftningens förbud mot allmän övervakning. Och nu förbereder EU-kommissionen ett lagförslag som gör sådan granskning obligatorisk.

Sedan är frågan när syftet med detta verktyg kommer att drabbas av ändamålsglidning, snarare än om så kommer att ske.

Läs mer hos Patrick Breyer »

Rapport: Behovet av censur av terror-relaterat innehåll online är överdrivet

Henrik Alexandersson 2 kommentarer

Som vi rapporterat har Europaparlamentet antagit förordningen om terror-relaterat innehåll online (TERREG) – utan votering.

Men behövs TERREG över huvud taget? Vi har hittat en intressant rapport (PDF) från The Global Network on Extremism and Technology som använt textanalys för att kartlägga förekomsten av just terror-relaterat innehåll online.

Det visar sig att förekomsten av sådant material idag är betydligt mindre än tidigare. Jämfört med toppen runt år 2015 har förekomsten av terror-relaterat innehåll online minskat med ungefär 85%. Vilket innebär att det inte är ett så stort problem som EU-kommissionen och ministerrådet vill göra gällande.

Mycket talar för att förordningen mest är något som EU tagit till för att visa handlingskraft efter de terror-angrepp som ägde rum för runt fem år sedan – men som idag är en rätt meningslös åtgärd.

Dessutom skall man hålla i minnet att direkt olagligt material (stämpling, uppvigling m.m.) redan är olagligt i medlemsstaterna – och därför skall plockas bort ändå.

Vad TERREG däremot gör är att ställa orimliga krav på att flaggat material skall plockas ner inom en timma och utan föregående rättslig prövning, möjlighet för myndigheter i ett land att beordra nedtagning av innehåll på plattformar och servrar i andra länder – samt ställa krav som i praktiken kommer att kräva uppladdningsfilter (som måste granska allt som alla laddar upp) för att hålla material som en gång flaggats borta.

Nu när förordningen ändå är godkänd har vi fått ett verktyg för censur av åsikter online – som lätt kan utökas till att gälla annat än bara terror-relaterat innehåll. (Dessutom är det fortfarande oklart exakt vad man menar med ”terrorism”.)

Se MEP Marcel Kolajas (PP, CZ) anförande i Europaparlamentet »

Relaterat: EU adopts law giving tech giants one hour to remove terrorist content »

Frankrike vill inskränka de mänskliga rättigheterna för att kunna datalagra

Henrik Alexandersson Lämna en kommentar

Precis som Sverige har Frankrike problem med datalagringen, det vill säga lagring om data av alla medborgares alla tele- och datakommunikationer. 2014 upphävdes EU:s datalagringsdirektiv, då EU-domstolen kom fram till att det strider mot de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv.

Efter att EU-domstolen även underkänt den franska lagen om datalagring vill regeringen nu att landets högsta domstol skall strunta i EU-domstolens dom. Vilket är anmärkningsvärt för att komma från ett land som i andra sammanhang driver frågan om EU:s överstatlighet hårt.

Den franska regeringen vill även ändra EU:s fördrag och stadgan om de mänskliga rättigheterna – för att göra datalagring möjlig.

Man vill alltså inskränka de mänskliga rättigheterna för att kunna expandera övervakningsstaten. Vilket också är anmärkningsvärt, för att komma från ett land som i andra sammanhang anser sig vara de mänskliga rättigheternas vagga – även om landet haft ett något blandat förhållande till nämnda rättigheter.

En sådan inskränkning kommer i så fall inte bara att gälla Frankrike, utan hela EU. Det vill säga att den franska ivern att rulla ut övervakningsstaten även kommer att drabba dig och inskränka dina fri- och rättigheter. Och naturligtvis kommer en sådan inskränkning att få effekter på fler områden än bara det avsedda.

Tyvärr kan man räkna med att det franska förslaget kommer att få brett stöd i EU:s ministerråd, om det läggs fram som ett skarpt förslag. Dock är det bara EU-kommissionen (som förmodas vara fördragens väktare) som kan lägga fram ett sådant förslag. Och förhoppningsvis kommer i så fall Europaparlamentet att bjuda motstånd. Men de franska idéerna bör bemötas tidigt, redan nu, för att det inte skall behöva gå så långt.

Våra grundläggande rättigheter är individens yttersta skydd mot staten – och skall inte kompromissas bort, vattnas ur eller kringgås.

Läs mer: Frankrike föreslår att skriva om EU:s fördrag om medborgerliga rättigheter för att kunna bygga ut övervakningsstaten »

EU: Nätcensur antagen utan votering – före debatten i plenum

Henrik Alexandersson Lämna en kommentar

Europaparlamentets arbetsordning är hopplöst snårig och komplicerad. Dessutom är det inte alltid man följer den, då man inte vill ha en massa stök. Och nu, detta:

Europaparlamentet har just godkänt förordningen om terror-relaterat innehål online utan omröstning i plenum. Debatten i plenum kommer dock, enligt föredragningslistan, att äga rum först i morgon, onsdag kl 20:30. (!)

Den piratpartistiske, tyske ledamoten Patrick Breyer skriver på sin blogg:

»The European Parliament Civil Liberties Committee voted in favour of the regulation. The plenary approved it without vote.«

Vilket är en smula absurt. Åter tycks man handla enligt modellen: Först beslutar man. Sedan debatterar man. Därefter tar man reda på fakta.

Sammanfattningsvis har vi nu fått censur av åsikter online, krav på nedtagning av flaggat innehåll inom en timma, rätt för myndigheter i ett land att beordra nedtagning av material på servrar i andra länder (utan samråd med landet i fråga) och ett krav på att flaggat material inte skall kunna läggas upp igen – vilket i praktiken kommer att kräva uppladdningsfilter, även om man noga undviker att använda det ordet i dokumenten.

Nu återstår att se om det eventuellt blir någon prövning av förordningen i domstol.

Länkar:
• MEP Patrick Breyer (PP, DE) »
• Breyers anförande i LIBE (video) »

Uppladdningsfilter – det nya normala i EU:s nätpolitik

Henrik Alexandersson Lämna en kommentar

Först var det artikel 17 (f.d. 13) i EU:s upphovsrättsdirektiv som kommer att kräva uppladdningsfilter, även om man inte använder det ordet. Sedan kom förordningen om terror-relaterat innehåll online (TERREG) som röstas igenom i Europaparlamentet på torsdag – som också i praktiken kommer att kräva uppladdningsfilter, åter utan att använda själva ordet i texten. Och nu föreslår Spanien att EU:s nya Digital Services Act (DSA) skall innehålla uppladdningsfilter för att se till att innehåll som tidigare tagits ner förblir borta.

Ett övergripande problem med uppladdningsfilter är att allt som alla laddar upp måste inspekteras, granskas och i förekommande fall censureras. Dels är det både integritetskränkande och en form av automatiserad censur. Dels kommer lagstiftningens krav att medföra att startups och nya, små utmanare till de sociala mediejättarna kommer att få svårt att bedriva verksamhet – eftersom uppladdningsfilter är komplicerade och kostsamma. På så sätt stärks Facebooks, Twitters och Youtubes dominerande ställning, på mindre konkurrenters bekostnad.

Vidare är automatiserade uppladdningsfilter korkade. De kan inte bedöma kontext. De kan därför inte släppa igenom sådant som rimligen borde släppas igenom – som memes, satir, kritik och debatt. Vilket kommer att leda till att innehåll som inte borde censureras ändå kommer att stoppas.

Som Piratpartiet noterar i en bloggpost går uppladdningsfilter inte heller ihop med den EU-lagstiftning som förbjuder plattformarna att övervaka alla användares aktivitet. Detta bör gå att få prövat i EU-domstolen, dock inte innan sådan lagstiftning redan är på plats.

Det ser alltså ut som om uppladdningsfilter är på väg att bli det nya normala i EU:s nätlagstiftning. Något som vore intressant att undersöka är hur sådan lagstiftning går ihop med den svenska grundlagens förbud mot förhandscensur.

Länkar:
• Piratpartiet: Spanien föreslår att generella uppladdningsfilter ska ingå i Digital Services Act »
• Netzpolitik: Entfernung illegaler Inhalte entzweit EU-Länder »

Belgisk domstol upphäver datalagring

Henrik Alexandersson Lämna en kommentar

I slutet av förra veckan upphävde den belgiska författningsdomstolen landets lag om datalagring. Vilket är i linje med att EU-domstolen redan för sex år sedan upphävde EU:s datalagringsdirektiv. Motiveringen är den samma: Man får inte urskiljningslöst övervaka eller samla metadata om alla medborgares alla telekommunikationer utan misstanke om brott.

Enligt uppgift skall domen ha orsakat stor oreda inom den belgiska polisen. Men med tanke på vad som beslutats i EU-domstolen borde detta inte komma som någon överraskning för någon.

Nu tycks belgarna försöka det svenska tricket: Att skriva en ny lag för att kringgå EU-domstolens dom. Sverige har gjort detta ett par gånger. Första gången fick vi smäll på fingrarna av domstolen, igen. Och enda skälet till att vi ändå har en ännu nyare, ytterligare justerad svensk lag om datalagring är att den inte har prövats rättsligt. Om det skulle ske, då skulle den falla på samma sätt som den tidigare.

Påhejad av ministerrådet håller EU-kommissionen nu på att ta fram ett nytt datalagringsdirektiv. Hur man tänkt förena idén om lagring av all teledata med EU-domstolens tidigare domar är än så länge oklart.

Länk: Constitutional Court throws out data retention law »

Kritiska röster om EU:s nya regelverk för AI

Henrik Alexandersson Lämna en kommentar

I går presenterade EU-kommissionen sitt »Proposal for a Regulation on a European approach for Artificial Intelligence«.

Som vi tidigare rapporterat – utifrån läckt material  – vill EU-kommissionen ha ett förbud mot användning av AI för övervakning. Detta gäller speciellt övervakning kopplad till kameraövervakning med ansiktsigenkänning i realtid. Dock är detta inget heltäckande förbud, utan innehåller ett antal undantag och brasklappar.

Nu börjar reaktionerna på förslaget droppa in. Sarah Chander, Senior Policy Lead on AI hos European Digital Rights (EDRi) säger:

»Whilst it is positive that the Commission acknowledges that some uses of AI are simply unacceptable and need to be prohibited, the draft law does not prohibit the full extent of unacceptable uses of AI and in particular all forms of biometric mass surveillance. This leaves a worrying gap for discriminatory and surveillance technologies used by governments and companies. The regulation allows too wide a scope for self-regulation by companies profiting from AI. People, not companies need to be the centre of this regulation.«

Lotte Houwing, från nederländska Bits of Freedom:

»Biometric mass surveillance reduces our bodies to walking barcodes with the intention of judging the links between our data, physical appearance and our intentions. We should protect this sensitive data because we only have one face, which we cannot swap or leave at home. Once we give up this data we will have lost all control.«

ZDNet rapporterar:

»For Nick Holliman, professor at Newcastle University’s school of computing, the vagueness of the EU’s new rules reflect a lack of understanding of a technology that takes on many different shapes. ”There are risks of harm from not regulating AI systems, especially in high-risk areas, but the nature of the field is such that regulations are being drafted onto a moving target,” Holliman tells ZDNet.

In practice, says Holliman, the regulation seems unworkable, or designed to be defined in detail through case law – and the very idea of having to worry about this type of overhead is likely to drive many businesses away.«

Ytterligare ett citat från samma källa:

»”The EU has wider issues to do with the tech ecosystem: it’s very bureaucratic, it’s hard to get funding, it’s a top-down mentality,” Wolfgang Fengler, lead economist in trade and competitiveness at the World Bank, tells ZDNet. ”The challenge is that these new rules can be seen as business-unfriendly – and I’m not talking for Google, but for small startups operating in the EU.”«

Den tjeckiske ledamoten av Euopaparlamentet, piratpartisten Marcel Kolaja säger:

»The Commission’s plan on AI still leaves some loopholes. Even though the Commission pretends that practices such as biometric identification are banned, in reality, wide exemptions still remain. But these practices could easily be exploited by governments and lead to mass surveillance. And that is unacceptable for us. We have to set clear rules for AI that will protect the freedom of our citizens and will not discriminate against anyone of them. Once the proposal comes to “our table” in the Parliament, I will work to bring the necessary adjustments to the regulation.«

Man kan även notera att förslaget belyser ett problem med hela EU:s beslutsprocess. Med en reglering för hela EU, införd uppifrån, riskerar man att skapa single points of failure. Vilket kan ställas i kontrast mot om olika länder utformar sin egen politik och med tiden lär sig av varandras erfarenheter.

Och det är lite som med EU:s Digital Services Act – man sätter upp ett stelt regelverk för något som ständigt genomgår en dynamisk förändring.

Resurser:
• EDRi: Artificial Intelligence and Fundamental Rights: Document Pool »