Krav på stopp för automatisk ansiktsigenkänning i EU

»Just like China and Russia, some EU Member States such as France are exploring the use of facial recognition and behavioral detection technology to control public spaces. I don’t want to live with technology that permanently matches my face in public or reports ‘unusual behaviour’. Such mass surveillance has a massive chilling effect on society, results in false incrimination and discriminates certain groups of people such as people of colour or elderly. Now is the time for the Commission to live up to its promises on ethical AI and propose a ban on biometric mass surveillance!«

Patrick Breyer, piratpartistisk ledamot av Europaparlamentet från Tyskland.

Lägg förhandlingarna om EU:s nya nätcensur på is till efter corona-krisen

EU-kommissionen fortsätter att försöka stressa fram en uppgörelse om förordningen om terror-relaterat innehåll online (TERREG/TCO).

Detta sker vid sämsta möjliga tidpunkt.

Alla är fokuserade på corona-krisen, vilket lär leda till att TERREG:s viktiga principfrågor inte får den genomlysning och debatt som är nödvändig.

Medlemsstaterna befinner sig i olika grad av undantagstillstånd, grundläggande fri- och rättigheter är satta på undantag och i vissa länder styr regeringarna med fullmaktslagar.

Att i detta läge forcera fram lagstiftning om nätcensur är direkt olämpligt.

Demokratin är för tillfället stresstestad nog som det är.

Och det är inte alls så bråttom som EU-kommissionär Ylva Johansson vill göra gällande. Enda skälet till att hon vill få till en  snabb uppgörelse är att Kroatien – som är EU:s ordförandeland detta halvår – går helt i kommissionens ledband.

Om yttrandefriheten på nätet över huvud taget skall inskränkas – då måste det ske med eftertanke och försiktighet. Vilket i princip inte är möjligt nu när Europaparlamentet går på sparlåga och många ledamöter inte kan delta i fysiska möten.

Förhandlingarna om TERREG måste läggas på is till dess normala arbetsförhållanden har återupprättats och en rimlig demokratisk process kan garanteras.

Läs mer om problemen med TERREG i länkarna nedan:

• Piratpartiet: Terrorförordningen – ett angrepp på nätfriheten »
• Läs MEP Patrick Breyers (Pp) sammanställning av förhandlingsläget »
TERREG – Ännu ett akut hot mot ett fritt och öppet internet »
EU-kommissionen vill att det corona-stängda Europaparlamentet godtar nya uppladdningsfilter »

Nu utarbetas gemensamma EU-regler för yttrandefriheten på nätet

Det börjar dyka upp dokument som rör EU:s nya Digital Services Act (DSA). Än så länge handlar det mest om vaga formuleringar dolda i byråkratiskt fikonspråk. Men ändå är ambitionen rätt tydlig: Politisk micro management på EU-nivå av det mesta som har med internet att göra.

I denna bloggpost skall jag försöka fokusera på sådant som rör yttrandefrihet online.

I ett tidigt internt arbetspapper från EU-kommissionens tjänstemän skriver man bland annat följande:

»Social networks face multiple divergent rules for removing illegal hate speech on their services in different Member States (eg. Germany, France), and different rules for text or video material. As a result, the fight against online hate ls expensive and inefficient across the Single Market, without binding safeguards for freedom of expression.«

Man vill alltså se gemensamma EU-regler för att (bland annat) bekämpa hat och hot online. Vilket kan bli intressant, med tanke på de olika medlemsstaternas skiftande traditioner och policies när det gäller yttrande- och tryckfrihet. Här skall till exempel Sverige, Frankrike och Ungern in under ett gemensamt regelverk.

Den 19 februari presenterade den nytillträdda kommissionen sitt första vitpapper i ämnet. Där kan vi bland annat läsa följande:

»A trustworthy environment in which citizens are empowered in how they act and interact, and of the data they provide both online and offline. A European way to digital transformation which enhances our democratic values, respects our fundamental rights, and contributes to a sustainable, climate-neutral and resource-efficient economy.« (…)

»In order to protect European democracies and the values underpinning them, the Commission will continue to develop and implement innovative and proportionate rules for a trustworthy digital society. Such a digital society should be fully inclusive, fair and accessible for all.

In this context, it is essential that the rules applicable to digital services across the EU are strengthened and modernised, clarifying the roles and responsibilities of online platforms. The sale of illicit, dangerous or counterfeit goods, and dissemination of illegal content must be tackled as effectively online as it is offline.«

Här är man som synes mindre konkret – och lindar in allt i politiskt snömos som kan betyda lite vad som helst och som är till intet förpliktigande.

Så över till Europaparlamentet som håller på att utarbeta en egen initiativ-rapport (vilket är parlamentets rekommendation, inte lagstiftning). Här blir det en smula mer konkret:

»20. Calls on the Commission to address the increasing differences and fragmentations of national rules in the Member States and to propose concrete legislative measures including a notice-and-action mechanism, that can empower users to notify online intermediaries of the existence of potentially illegal online content or behaviour; is of the opinion that such measures would guarantee a high level of users’ and consumers’ protection while promoting consumer trust in the online economy;

21. Notes that there is no ‘one size fits all’ solution to all types of illegal and harmful content and cases of misinformation online; believes, however, that a more aligned approach at Union level, taking into account the different types of content, will make the fight against illegal content more effective;

22. Considers that voluntary actions and self-regulation by online platforms across Europe have brought some benefits, but additional measures are needed in order to ensure the swift detection and removal of illegal content online;«

Rapportören efterlyser »clear and detailed procedures and measures related to the removal of illegal content online, including a harmonised legally-binding European notice-and action mechanism«.

Man kan lätt få intryck av att »illegal content« inte har så mycket med åsikter och yttrandefrihet att göra. Till exempel nämns »hate speech« bara en gång i förslaget till rapport. Men då skall man vara medveten om att kommissionens ordförande själv förklarat att olika regler för vad som får sägas på nätet i olika länder (som Tyskland och Frankrike) är ett problem som man vill lösa med ett enhetligt regelverk under DSA. Vilket också återspeglas i det första citatet ovan.

Om jag får spekulera, så tror jag att otydligheten är avsiktlig. Man vet att detta är en het potatis. Så om man kan bunta ihop allt från försäljning av olagliga produkter till icke önskvärda yttranden – då blir det mindre uppenbart vad man sysslar med. I vart fall på detta tidiga stadie i processen. På så sätt försöker man frontförkorta, genom att skjuta upp den jobbiga debatten till ett senare tillfälle.

Den tyske piratpartistiske ledamoten av Europaparlamentet beskriver sin och andra ledamöters position i en bloggpost (mina markeringar):

»The European Parliaments Legal Affairs Committee’s opinion rapporteur MEP Patrick Breyer (Pirate Party) has now published a list of 15 key points and opened it for discussion on the net. Breyer calls for an explicit ban on upload filters, a right to anonymous use of internet services, ensuring that terms and conditions comply with human rights, penalties for abusive take-down notices, an obligation of providers to report known crime online, giving users control over their timelines to curb the spread of false reports and racism, a right to maintain contacts when users leave Facebook, Whatsapp etc. for competing networks (interconnectivity).

Alex Agius Saliba, the rapporteur of the lead Internal Market Committee, on the other hand, considers providers have a “social responsibility” to prevent abuse of their services. The “quick detection and deletion of illegal content online” was necessary. Internet providers should be obliged to verify the identity and registration data of business customers. For the Committee on Civil Liberties, Justice and Home Affairs, MEP Paul Tang calls for creating a single Union sign-in system and opposes compulsory biometric identification, while his colleague Adam Bielan calls for publishers to be better able to defend themselves against unjustified removal requests. On behalf of the Transport Committee, Josianne Cutaja demands that providers of transport and tourism portals such as Uber and Airbnb shall verify the legality of posted offers and the identity of the providers. Petra Kammerevert, rapporteur of the Committee on Culture and Education, believes that proactive measures should be reserved for public authorities and that journalistic publications should not be subject to pre-control and filtering.«

Du kan lämna dina åsikter och kommentarer om Breyers olika ändringsförslag här. »

Som vanligt är det krångligt och komplicerat att ge sig in i EU:s lagstiftningsarbete. Men nödvändigt. Det är nämligen nu slaget står om yttrandefriheten på nätet.

/ HAX

Felaktig data från dansk datalagring kan ha spridits i hela EU

Som vi tidigare rapporterat har Danmark haft problem med sin datalagring. Under åtta års tid han felaktig data ha använts i upp till 10.000 polisutredningar.

Nu utreder både den danska motsvarigheten till Datainspektioner och EU:s European Data Protection Board vad som skett. Tusentals rättsfall har åter öppnats för att se om felaktig data lett till felaktiga domar eller beslut.

Till att börja med pekar detta på risker, brister och osäkerhet i de uppgifter om hämtas ut från lagringen av data om medborgarnas tele- och nätkommunikationer. Men även EU:s princip om informationsdelning kan förvärra problemen. Den piratpartistiske ledamoten av Europaparlamentet Patrick Breyer förklarar:

»This issue is also highly problematic considering that Denmark exchanges communications data with other Member States. While the Commission said Denmark was obliged under the data protection directive to notify recipients of false communications data, the Danish police representative said they were only answering questions from receiving authority. The data protection authority would need to make sure all receiving authorities are notified of errors and, in the meantime, notified that the data MAY be erroneous.«

Enkelt uttryckt: EU:s informationsdelning mellan medlemsstaterna och i olika gemensamma databaser riskerar att sprida uppgifter som bygger på felaktig data i så vida kretsar att det kan bli svårt att rätta till.

Detta väcker även frågor om hur den svenska datalagringen granskas och kvalitetssäkras.

Länkar:
• MEP Patrick Breyer (PP, DE) om bristerna i den danska datalagringen »
• Ur arkiven – Danmark: Datalagringen igång igen efter att allvarliga brister avslöjats »

Goddag yxskaft när EU:s ministerråd svarar på frågor om datalagring

Det har utbrutit något slags lågintensivt krig om ett eventuellt nytt datalagringsdirektiv i EU.

Här är en skriftlig fråga från den tyske piratpartistiske ledamoten i Europaparlamentet, Patrick Breyer, till ministerrådets president. Det är en rätt kort skriftväxling, så den återges i sin helhet.

MEP Patrick Breyer (Pp) till ministerrådet:

In view of the ‘Conclusions of the Council of the European Union on Retention of Data for the Purpose of Fighting Crime’:

1. Does the Council accept that data retention legislation which ‘applies even to persons for whom there is no evidence capable of suggesting that their conduct might have a link, even an indirect or remote one, with serious criminal offences’(1) and which ‘does not require there to be any relationship between the data which must be retained and a threat to public security’(2) violates EC law?

2. Does the Council accept that merely exempting persons whose communications are subject to the obligation of professional secrecy does not, for all other persons whose communications data are to be retained, ensure that there is a ‘relationship between the data which must be retained and a threat to public security’ (3) and therefore does not satisfy the principle of proportionality?

3. Does the Council have any evidence that crime clearance rates in Member States with data retention laws in effect are significantly higher than crime clearance rates in Member States with no data retention laws in effect?

Ministerrådets svar:

As pointed out by the Honourable Member, the June 2019 Council Conclusions on Retention of Data for the Purpose of Fighting Crime summarise the progress made during the reflection process, which was launched in 2017 in order to analyse the requirements of the relevant case-law of the Court of Justice, in particular the TELE2 and DRI Judgments, and provide guidance for future work on the definition of possible solutions.

The Council Conclusions stress that the use of data retention and similar investigative measures should be guided by the protection of fundamental rights and freedoms as enshrined in the EU Charter and the principles of purpose limitation, necessity and proportionality.

Furthermore they specify that any legislative reforms at either national or European level should be compliant with the requirements of the EU Charter as interpreted by the Court of Justice. However the Council did not take a position on the issues raised by the Honourable Member. The Council, in accordance with Article 241 of the TFEU, requested the Commission to carry out a study on the issue of data retention.

Goddag yxskaft!

Ministerrådets svar kan enkelt och med bred pensel sammanfattas så här:

  1. Vi funderar – sedan två år tillbaka – över det där med massövervakning.
  2. Vi är medvetna om de mänskliga rättigheterna – även när vi våldför oss på dem.
  3. Eftersom det inte finns några bevis för att datalagring leder till att fler brott klaras upp – så svarar vi inte på frågan. Men vi har diskuterat att tillsätta en utredning.

Man kan notera en viss arrogans i ministerrådets inställning till det där med mänskliga rättigheter, rätten till privatliv och proportionalitet.

Respekten för de grundläggande mänskliga rättigheter som är basen för den demokratiska västerländska rättsstaten borde vara större.

Se även: Ylva Johansson flaggar för ett nytt datalagringsdirektiv i EU »

 

Ylva Johansson flaggar för ett nytt datalagringsdirektiv i EU

Det var kanske bara en tidsfråga. Men nu säger alltså EU:s nya »säkerhetskommissionär« Ylva Johansson att det behövs ett nytt datalagringssdirektiv – trots att EU-domstolen har slagit fast att svepande övervakning av alla människor utan brottsmisstanke inte är tillåten.

Ovan en screendump av en tweet från den tyske piratpartisten och ledamoten av Europaparlamentet Patrick Breyer, som hört henne tala om saken i parlamentets utskott för mänskliga rättigheter (LIBE).

Frågan är hur detta är tänkt att gå till, med tanke på att EU-domstolen upphävt det förra direktivet på principiella grunder (att det bryter mot vad de mänskliga rättigheterna stadgar om rätten till privatliv).

Ylva Johanssons partikamrater i den svenska regeringen lär dock bli glada. De har ju just drivit igenom en ny svensk lag om datalagring som står i strid med EU-domstolens upprepade beslut.

(Tweetens länk »)

Nu står striden om nästa uppladdningsfilter i EU

Trialogförhandlingar har nu inletts mellan Europaparlamentet, EU-kommissionen och ministerrådet vad gäller förslaget om att hindra spridning av terror-relaterat innehåll på internet. EDRi rapporterar:

»On 17 October 2019, the European Parliament, the Council of the European Union (EU) and the European Commission started closed-door negotiations, trilogues, with a view to reaching an early agreement on the Regulation on preventing the dissemination of terrorist content online.

The European Parliament improved the text proposed by the European Commission by addressing its dangerous pitfalls and by reinforcing rights-based and rights-protective measures. The position of the Council of the European Union, however, supported the “proactive measures” the Commission suggested, meaning potential “general monitoring obligations” and in practice, automated detection tools and upload filters to identity and delete “terrorist content”.«

Förhandlingarna har alltså bara just börjat. Och det finns tre saker att vara extra uppmärksam på:

  • Kommissionen och ministerrådet vill att anmält innehåll skall plockas ner inom 24 timmar (utan någon föregående rättslig prövning).
  • Kommissionen och ministerrådet vill ha automatisk filtrering för att hindra att nedplockat material postas igen.
  • Detta står rimligen i strid med eHandelsdirektivets förbud mot generell övervakning av vad användare av olika plattformar laddar upp.

Och än så länge verkar positionerna låsta. Den tyske ledamoten av Europaparlamentet Patrick Breyer (Pp) som ingår i parlamentets förhandlingsdelegation twittrade härom dagen:

»First #TERREG trilogue completed. Good news: Parliament team set to prevent #uploadfilters and #overblocking. Bad news: Governments and Commission not relenting. #SaveYourInternet«

Fortsättning följer.

• EDRi: Trilogues on terrorist content: Upload or re-upload filters? Eachy peachy. »
• Netzpolitik.org: Uploadfilter gegen Terror: EU-Parlament wehrt sich gegen automatisierte Allheilmittel »
• Tarnkappe.info: EU-Parlament: Startschuss für Verhandlungen wegen Uploadfiltern »

EU-fråga: Accepterar ministerrådet att EU-domstolen säger nej till allmän datalagring?

Patrick Breyer, tysk piratpartistisk ledamot av Europaparlamentet, har ställt en skriftlig fråga till ministerrådet om datalagring. Den är rätt kort, så här är den i sin helhet:

In view of the ‘Conclusions of the Council of the European Union on Retention of Data for the Purpose of Fighting Crime’:

1. Does the Council accept that data retention legislation which ‘applies even to persons for whom there is no evidence capable of suggesting that their conduct might have a link, even an indirect or remote one, with serious criminal offences’ and which ‘does not require there to be any relationship between the data which must be retained and a threat to public security’ violates EU law?

2. Does the Council accept that merely exempting persons whose communications are subject to the obligation of professional secrecy does not, for all other persons whose communications data are to be retained, ensure that there is a ‘relationship between the data which must be retained and a threat to public security’ and therefore does not satisfy the principle of proportionality?

3. Does the Council have any evidence that crime clearance rates in Member States with data retention laws in effect are significantly higher than crime clearance rates in Member States with no data retention laws in effect?

Vad innebär detta och varför är det viktigt?

Bakgrund: Efter att EU-domstolen ogiltigförklarade EU:s datalagringsdirektiv (och även den svenska datalagringen) har frågan gått i långbänk. Ministerrådet vill se ett nytt direktiv. Den avgående EU-kommissionen har duckat frågan. Och nu får den tillträdande kommissionen ta ställning till om ett nytt direktiv skall tas fram – och i så fall hur det skall se ut för att följa EU-domstolens tidigare beslut. Om det alls är möjligt.

Frågan: Breyers frågor är högst relevanta att rikta till den av EU:s institutioner som är mest pådrivande för ett nytt datalagringsdirektiv. Hur ställer sig ministerrådet/rådet till frågan om svepande registrering av alla medborgares data- och telekommunikationer utan att det föreligger misstanke om brott? Hitintills har ministerrådet bara sagt att man vill ha datalagring, men inte svarat på några kritiska frågor.

Accepterar ministerrådet EU-domstolens underkännande av datalagringsdirektivet? Finns det något reellt samband mellan all den data som samlas in och allmän säkerhet? Står intrånget i individens privatliv i proportion till nyttan? Och kan man påvisa att länder med datalagring lyckas lösa fler brott än de utan?

Vi väntar med intresse på svar.

Nu står striden om EU:s automatiska censur av terrorrelaterat innehåll på nätet

EU:s »terrorfilter« är en fråga som nu åter börjat röra sig efter EU-valet. Den tyske piratpartistiske ledamoten Patrick Breyer är en av Europaparlamentets förhandlare. Han förklarar:

Today, the European Parliament’s civil liberties committee has recommended “Trilogue” negotiations on the EU scheme to “prevent the dissemination of terrorist content online” which may make, inter alia, upload filters mandatory.

In a series of closed-door meetings, the European Parliament and the Council (representing the member state governments) will hammer out a final text acceptable to both institutions. It’s the last chance to make changes before the Regulation gets adopted. Meetings are to start in October.

Vad är det då man skall diskutera?

  • Europaparlamentet vill att terrorrelaterat innehåll skall plockas bort om det förekommer på plattformar med användargenererat material. EU:s ministerråd och EU-kommissionen vill att detta även skall gälla för tjänster för elektronisk kommunikation och molntjänster.
  • Ministerrådet och kommissionen vill att det aktuella materialet skall plockas bort inom en timma. Parlamentet menar att det måste finnas undantag för när detta inte är praktiskt möjligt, speciellt vad gäller mindre nätsiter.
  • Parlamentet vill ha undantag för material som publiceras i undervisningssyfte, konstnärligt syfte, som del i journalistisk verksamhet eller forskning. De andra institutionerna säger nej.
  • Europaparlamentet vill att beslut om att avlägsna material skall fattas av en domstol, genom någon form av rättsligt förfarande eller i vart fall av en oberoende instans. De andra institutionerna ser inget behov av detta, utan vill låta medlemsstaterna hantera förfarandet som de vill.
  • Ministerrådet vill att en medlemsstat skall kunna begära att material plockas bort varsomhelst i EU. Parlamentet anser att denna möjlighet bara skall finnas i det egna landet – och att man i andra fall får vända sig till respektive medlemsstat med en begäran.
  • Ministerrådet och kommissionen vill öppna för att nätplattformarna skall kunna uppmanas (»referral«) att även avlägsna material som inte är direkt olagligt. Parlamentet säger nej till detta.
  • Ministerrådet och kommissionen kräver automatiska uppladdningsfilter för att identifiera och avlägsna terrorrelaterat innehåll. Europaparlamentet säger nej till filtrering och annan ständig övervakning av vad som laddas upp.

Mer information och länkar till relevanta dokument hittar du på Patrick Breyers officiella blogg »