Femte juli Nätet till folket!

Nätet till folket!

Europaparlamentet

Europol får utökat mandat för övervakning

av 1 kommentar

Europol får nu rätt att lagra data om medborgare som inte är misstänkta för brott. Man får också direkt tillgång till data hos privata aktörer som Google, Microsoft och Facebook.

Europaparlamentet har idag godkänt Europols nya, utökade mandat. Som vi tidigare rapporterat ger man nu grönt ljus för den tidigare olagliga lagringen av data om medborgare som inte är misstänkta för brott. (Beslutet gäller retroaktivt.) Man godkänner även att Europol ges direkt tillgång till data hos privata aktörer på nätet.

Europol får även möjlighet att använda AI för brottsförebyggande arbete. Det vill säga pre-crime-utredningar, riktade mot brott som ännu inte begåtts. Detta innebär en risk för flaggning av falska positiva, vilket i sin tur kan leda till att helt oskyldiga kommer att drabbas.

Chloé Berthélémy, Policy Advisor på European Digital Rights (EDRi) säger:

»The European Union is transforming its law enforcement agency into a data black hole. Europol will be allowed to collect and share data left, right, and centre without much restriction or control. The reform of Europol also validates the development, deployment and use of harmful policing technologies that will undermine people’s most basic rights.«

Laure Baudrihaye-Gérard, Legal Director (Europe) på organisationen Fair Trials säger:

»No law enforcement agency should be above the law. Europol already has vast amounts of data processing power and we have seen that EU institutions are turning a blind eye to its unlawful and high-risk activities. Extending Europol’s mandate sets a dangerous precedent, implying that law enforcement can operate without accountability or oversight. It is highly concerning for fundamental rights in the EU.«

Länkar:
• Europaparlamentet: Parliament backs giving more powers to Europol, but with supervision »
• Fair Trials: Europol’s ever-increasing mandate: European Parliament fails to stand up for fundamental rights »

Tidigare, relaterat:
• Europol får fortsätta registrering av icke misstänkta »
• Europol’s expanding mandate: European Parliament must stand against unaccountable and discriminatory policing »

Idag tar EU ännu ett steg mot nätcensur

av 1 kommentar

Varför är ingen intresserad av att EU är på väg att införa statligt godkänd nätcensur?

Idag röstar Europaparlamentets ansvariga utskott (IMCO) om EU:s nya Digital Services Act. Som vi redan rapporterat finns det massor av tveksamma förslag och begränsningar av informationens frihet i denna materia.

Det finns 2.297 ändringsförslag. Så det kommer säkert att ta ett par dagar innan det finns en konsoliderad version av vad utskottet verkligen kom fram till.

Men en sak vet vi redan nu: EU kommer att införa statligt godkända nätcensorer, så kallade Trusted Flaggers.

Det finns olika meningar i parlamentet om dessa trusted flaggers bara skall kunna rekommendera sociala media att ta ner oönskat material – eller om de skall ges makt att beordra att så skall ske.

Men märkligt få deltagare i debatten, om ens någon (inte ens Piratpartiet) tycks reagera på införandet av Trusted Flaggers som sådant. Vill vi verkligen ha statligt godkända nätcensorer?

Kan vi i vart fall diskutera vilka dessa nätcensorer i så fall skall vara? Exakt vad menar EU-kommissionen med att dessa skall vara företrädare för ”kollektiva intressen”? Kommer myndigheter att ges makt att censurera internet?

Kan vi – för en gångs skull – diskutera detta innan vi ställs inför fullbordat faktum?

Nätcensur och uppladdningsfilter i EU – viktig omröstning innan årsskiftet

av 1 kommentar

Trots en mindre försening är EU:s Digital Services Act på väg mot viktiga nyckelvoteringar i Europaparlamentet. Resultatet kan till exempel bli nätcensur, uppladdningsfilter, granskning av privata meddelanden och att andra länder får makt över vad som får finnas på svenska servrar.

I går skulle Europaparlamentets utskott för den inre marknaden – IMCO – ha röstat om EU:s nya Digital Services Act (DSA). Detta har dock skjutits upp till förmån för en utskottsöverskridande utfrågning med Facebooks visselblåsare Frances Haugen.

Då IMCO är huvudansvarigt utskott för DSA innebär detta förmodligen att omröstningen med sina totalt 2.297 ändringsförslag först kommer att ske nästa månad och att huvudvoteringen i parlamentets plenum skjuts fram från december till januari. Därefter kan förhandlingar börja mellan parlamentet, ministerrådet och kommissionen.

Detta ger oss lite mer tid att diskutera och opinionsbilda kring DSA. Och det saknas inte kontroversiella inslag.

Till exempel diskuteras att utöka DSA till att inte bara gälla innehåll som görs allmänt tillgängligt, utan även privat kommunikation. Det vill säga att man vill lägga sig i vad enskilda individer kommunicerar sinsemellan. Vilket i sin tur innebär att all privat kommunikation måste granskas.

Idén om Trusted Flaggers håller på att expandera. Från början handlade det om att företrädare för ”kollektiva intressen” skulle få en gräddfil till sociala media – för att rekommendera vilket innehåll som bör plockas bort. Detta har nu svällt till att dessa Trusted Flaggers skall få rätt att beordra borttagning av innehåll, automatiskt och utan granskning.

Man har även dammat av idén om att myndigheterna i ett EU-land skall kunna beordra nedtagning av innehåll på plattformar i andra länder. Vilket innebär att till exempel polska eller franska myndigheter skall kunna censurera innehåll på svenska servrar.

En annan viktig fråga gäller uppladdningsfilter. Sådana förordas av bland andra parlamentets rättsliga utskott – JURI. Tanken är att maskiner och deras algoritmer skall se till att hålla innehåll som en gång plockats ner borta för alltid. Maskiner och algoritmer som varken förstår kontext, humor eller kritik.

Detta är bara några av alla saker som är problematiska med DSA. Om du håller med om vår kritik, då kan du nu ha fått en månad till för att bilda opinion mot förslagen – innan parlamentets huvudvotering.

Länkar:
• EDRi: Digital Services Act: The EDRi guide to 2,297 amendment proposals »
• EDRi: Digital Services Act / Digital Markets Act: Document pool »
• EFF: Europe’s Digital Services Act: On a Collision Course With Human Rights »
• Piratpartiet: DSA: Resultat från omröstningen i JURI »
• Vilka blir EU:s nya nätcensorer? »
• Stoppa den nya nätcensuren! »
• Det är nu staten tar kontroll över sociala media »
• Video: Varning för nätcensur i EU:s nya Digital Services Act »

Europaparlamentet: Nej till automatiserad ansiktsigenkänning

av Lämna en kommentar

I en resolution (ej lagstiftning) har Europaparlamentet uttalat att man vill se ett förbud mot användning av AI och automatisk ansiktsigenkänning i samband med massövervakning.

Med 403 mot 259 röster uttalade Europaparlamentet på tisdagskvällen att man bland annat vill se ett förbud mot AI-stödd automatisk ansiktsigenkänning vid massövervakning.

EDRi sammanfattar:

»The report urges the European Commission to implement ‘a ban on any processing of biometric data, including facial images, for law enforcement purposes that leads to mass surveillance in publicly accessible spaces’. It also calls for ‘a moratorium on the deployment of facial recognition systems for law enforcement purposes that have the function of identification’, coupled with the ‘permanent prohibition of the use of automated analysis and/or recognition in publicly accessible spaces of other human features, such as gait, fingerprints, DNA, voice, and other biometric and behavioural signals’. Lastly, it urges an end to the use of private databases (like Clearview AI); and an end of EU funding for mass surveillance projects.«

Detta är i linje med vad EU-kommissionen tidigare uttalat. Frågan är dock hur ministerrådet ställer sig. Dels vill många medlemsstater använda den nya tekniken. Dels är säkerhet nationell kompetens, så en del länder (som Frankrike) kommer förmodligen inte att bry sig om vad kommissionen och parlamentet säger – och försöka stoppa försök till ny lagstiftning på området.

Inte desto mindre är gårdagens votering ett framsteg vad gäller rätten till privatliv.

I rapporten/resolutionen argumenterar man även för ökad transparens och konsekvensanalyser vad gäller AI och övervakning.

Den tyske, piratpartistiske ledamoten av Europaparlamentet Patrick Breyer säger:

»This vote is a historic breakthrough for the movement to prevent a China-style dystopian future of biometric mass surveillance in Europe. There is not a single example of real-time biometric surveillance preventing a terrorist attack or other such events. We must stand up against biometric mass surveillance in our public spaces because these technologies wrongfully report large numbers of innocent citizens, systematically discriminate against under-represented groups and have a chilling effect on a free and diverse society.

The European Parliament now needs to fight to have this ban implemented in the AI Act! I call on all citizens to increase the pressure on the surveillance-hungry EU governments by signing the European Citizens’ Initiative #ReclaimYourFace.«

Frågan kommer alltså att återkomma i EU:s så kallade AI Act.

Läs mer:
• EDRi: Celebrating a strong European Parliament stance on AI in law enforcement »
• MEP Patrick Breyer (PP, DE): Historic moment – European Parliament speaks out for the first time in favour of banning biometric mass surveillandce in the EU »
• PP EU: Breaktrough – Parliament calls for ban of biometric mass surviellance »
• TechCrunch: European Parliament backs ban on remote biometric surveillance »
• Politico: European Parliament calls for a ban on facial recognition »
• EUObserver: MEPs back EU facial-recognition ban for police »

Uppladdningsfilter och gränsöverskridande nätcensur på bordet i EU:s nya Digital Services Act

av 3 kommentarer

Slut på end-to-end-kryptering, nya generella uppladdningsfilter och gränsöverskridande nätcensur är några av konsekvenserna om en av Europaparlamentets rapportörer för The Digital Services Act får sin vilja igenom.

EU:s nya Digital Services Act (DSA) håller just nu på att tröskas genom beslutsapparaten. I morgon, torsdag, skall Europaparlamentets utskott för rättsliga frågor (JURI) rösta om sitt utlåtande – som är författat av en konservativ fransk ledamot. Några nedslag:

Bland annat vill den ansvarige ledamoten Geoffroy Didier att DSA inte bara skall handla om sådant som publiceras offentligt, fritt för andra att ta del av. Han vill att den nya lagtiftningen även skall omfatta privata meddelanden. Utöver att detta strider mot brevhemligheten, rätten till privat kommunikation och rätten till privatliv innebär detta att myndigheterna även måste bereda sig tillgång till medborgarnas krypterade meddelanden.

Didier vill även se uppladdningsfilter för att permanent hålla oönskat innehåll borta från nätet. Vilket innebär att allt som alla laddar upp måste granskas och godkännas i förväg. Vilket är lika med förhandscensur – som kommer att skötas av maskiner och algoritmer som saknar sinne för sammanhang, legitima undantag och humor.

Rapportören vill även att JURI tar ställning för gränsöverskridande nedtagningsorder. Det vill säga att myndigheter i ett EU-land skall kunna beordra att innehåll på plattformar och servrar i andra medlemsstater skall plockas bort. Vilket kommer att leda till ett race-to-the-bottom, där alla enskilda länders strängaste åsiktslagar kommer att påtvingas hela EU.

Som om inte det är illa nog vill Didier att en nedtagningsorder i ett EU-land även skall gälla globalt. Man kan lätt inse att sådant kan komma att straffa sig genom att länder som Ryssland och Kina då kan komma att kräva att information som de ogillar även skall censureras i EU.

Den piratpartistiske ledamoten v Europaparlamentet Patrick Breyer (PP, DE) säger:

»The Rapporteur’s proposals are radical. They would i.e. threaten the secrecy of private correspondence and end-to-end encryption, mandate and encourage error-prone ex-ante upload filtering, introduce excessively short content take-down delays, enforce excessive national laws (e.g. in Poland or Hungary) throughout the EU and even globally, turn ‚trusted flaggers‘ into ‚trusted censors‘ and much more. I expect the vote to be very tight on several of these issues.«

• Läs mer hos Patrick Breyer »

Chatcontrol - graf över omröstningen i Europaparlamentet

#ChatControl – kommentarer dagen efter

av 3 kommentarer

I går röstade Europaparlamentet – som vi rapporterat – för att elektroniska meddelanden och e-post skall avkrypteras och analyseras i jakt på övergrepp mot barn. Här kommer en del reaktioner och information.

Till att börja med röstade de tre svenska miljöpartisterna mot sin grupplinje – och gav alltså sitt stöd till förslaget. Det börjar bli ett mönster att MP:s ledamöter överger partiets tidigare linje för medborgarnas rätt till privatliv.

Europaparlamentets vice talman Marcel Kolaja (PP, CZ) är kritisk:

»According to Kolaja, it is necessary to protect children, but mass surveillance through private messages scanning is not the proper solution, saying it could affect many citizens. The adopted derogation is “a big blow to our digital privacy,” Kolaja said.«

EDRi kommenterar:

»Diego Naranjo, head of policy at European Digital Rights (EDRi), told EURACTIV the proposal was “rushed”, and failed to strike a balance between the right to privacy and the need to protect children online because “the discussion was instead shifted from rational to emotional arguments.”«

Ur samma artikel:

»Alexander Hanff, a former victim of child abuse (…) openly criticised the provision, arguing it will deprive victims of channels for confidential counselling. “It will not prevent children from being abused, it will simply drive the abuse further underground, make it more and more difficult to discover it. It will ultimately lead to more children being abused,” Hanff said.«

MEP Patrick Breyer (PP, DE) kommenterar:

»The adoption of the first ever EU regulation on mass surveillance is a sad day for all those who rely on free and confidential communications and advice, including abuse victims and press sources. The regulation deals a death blow to the confidentiality of digital correspondence. It is a general breach of the dam to permit indiscriminate surveillance of private spaces by corporations – by this totalitarian logic, our post, our smartphones or our bedrooms could also be generally monitored. Unleashing such denunciation machines on us is ineffective, illegal and irresponsible.

Indiscriminate searches will not protect children and even endanger them by exposing their private photos to unknown persons, and by criminalising children themselves. Already overburdened investigators are kept busy with having to sort out thousands of criminally irrelevant messages. The victims of such a terrible crime as child sexual abuse deserve measures that prevent abuse in the first place. The right approach would be, for example, to intensify undercover investigations into child porn rings and reduce of the years-long processing backlogs in searches and evaluations of seized data.«

MEP Sophie in ‘t Veld (LIB, NL) säger:

»Whenever we asked critical questions about the legislative proposals, immediately the suggestion was created that I wasn’t sufficiently committed to fighting child sexual abuse.«

Detta är som vi tidigare noterat en tillfälliga regler. Nu gäller det att vara uppmärksam vad gäller nästa steg, som blir en mer permanent lagstiftning – som kan komma att bli mer omfattande och omfatta fler syften.

Länkar:
• EP vice-president slams ePrivacy derogation »
• New EU law allows screening of online messages to detect child abuse »
• EU Parliament lets companies look for child abuse on their platforms, with reservations »
•  MEP Patrick Breyer »
• #ChatControl – idag klubbas EU:s övervakning av elektronisk kommunikation »

#ChatControl – idag klubbas EU:s övervakning av elektronisk kommunikation

av 1 kommentar

Idag har Europaparlamentet beslutat att dina meddelanden och din e-post skall avkrypteras och dess innehåll granskas.

Syftet är att bekämpa barnporr och sexuella övergrepp mot barn. Med tanke på ämnets känsliga natur har det lett till att berättigad kritik och omsorg om medborgarnas rätt till privatliv helt hamnat i skugga.

Läs vår tidigare beskrivning av frågan, dess bakgrund och process här. »

Dagens beslut gäller en tillfällig reglering, som i ett senare steg är tänkt att ersättas med ett mer permanent regelverk. Och här gäller det att se upp.

När frågan återkommer finns det många som vill utöka denna massövervakning av våra elektroniska kommunikationer till att även gälla andra syften. Det finns även de som vill se detta som ett allmänt verktyg i massövervakningens tjänst.

Så vi fortätter att bevaka frågan – för att uppmärksamma eventuell ändamålsglidning.

Länkar:
• MEP Patrick Breyer (PP, DE) »
• Klart att klubbas i EU – avkryptering och granskning av e-post och meddelanden »
• Se gårdagens debatt i Europaparlamentet här (18:25-19:05) »

EP/LIBE: Nej till AI och biometrisk analys för massövervakning

av 1 kommentar

I Europaparlamentet har utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) antagit en rapport om AI och biometrisk massövervakning. MEP Patrick Breyer (PP, DE) skriver på sin blogg:

»Today, the Committee on Civil Liberties, Justice and Home Affairs (LIBE) adopted a report on the use of artificial intelligence by police and judiciary by 36 votes to 24 with 6 abstentions. The successful compromise text calls, among other things, on the Commission „to implement, through legislative and non-legislative means, and if necessary infringement proceedings, a ban on any processing of biometric data, including facial images, for law enforcement purposes that leads to mass surveillance in publicly accessible spaces” (paragraph 15b). MEPs also call on the Commission to stop funding biometric research that is likely to lead to indiscriminate mass surveillance in public spaces.«

Detta innebär att AI-baserad teknik för analys av biometrisk data (som till exempel automatiserad ansiktsigenkänning) inte får användas för massövervakning. Däremot får den användas för att söka specifika mål, till exempel från övervakningsfilmer från en brottsplats. Man håller således fast vid principen om att det skall finnas en misstanke eller ett konkret brott innan man får använda dessa verktyg.

Breyer kommenterar:

»This report is a milestone in the fight against biometric mass surveillance in Europe, because for the first time a majority in the European Parliament wants to put an end to this total form of surveillance. Biometric and mass surveillance and behavioral prediction technology in our public spaces undermines our freedoms and threatens our open society.«

Detta är en rapport, inte lagstiftning. Och det återstår att se hur Europaparlamentet kommer att rösta i plenum.

Graf: Så röstade utskottet LIBE om Chatcontrol

#Chatcontrol klar för slutlig votering

av Lämna en kommentar

I Europaparlamentet har Utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor – LIBE – nu röstat ja till avkryptering och skanning av innehållet i dina meddelanden och din epost i jakt på barnporr och olämpliga kontakter med barn.

Läs vår tidigare post om detta – och varför det är problematiskt. Med länksamling. »

Med detta kan frågan gå vidare till votering i plenum, kanske redan så snart som 7-10 juni. Där kommer #Chatcontrol att godkännas, med applåder och en förkrossande majoritet.

Röstsiffrorna i LIBE (ovan) ger en fingervisning. I sammanhanget kan man notera att Alice Bah Kuhnke (MP) röstade emot den gröna grupplinjen i utskottet.

Nästa steg blir att hålla ögonen på denna övervakning – så att den inte missbrukas, så att oskyldiga inte drabbas och så att den inte råkar ut för ändamålsglidning.

Läs mer hos MEP Patrick Breyer (PP, DE) och se även ovan nämnda bloggpost.

Europaparlamentet fortsätter brottas med datalagringen

av Lämna en kommentar

Idag har Europaparlamentets utskott för mänskliga rättigheter (LIBE) debatterat datalagringen.

Inte för att det finns något konkret förslag att ta ställning till. EU-kommissionen och ministerrådet har flaggat för att de vill ha ett nytt datalagringsdirektiv. Men man har ännu inga konkreta idéer om hur det skulle kunna se ut. Framförallt har man ingen klar uppfattning om hur datalagring skall kunna vara laglig – med tanke på att det förra direktivet upphävdes av EU-domstolen.

EU-domstolen har upprepade gånger slagit fast att urskiljningslös lagring av data om alla medborgares tele- och datakommunikationer inte får förekomma – och att övervakning måste begränsas till konkreta misstankar om brott.

Europaparlamentet står och stampar på samma plats som kommissionen och ministerrådet. De stora partigrupperna menar att datalagring behövs – men har ingen aning om hur detta kan ske utan att kollidera med EU-domstolens dom. Mindre partigrupper som liberalerna och de gröna/piraterna försöker påpeka detta, men utan att någon verkar bry sig.

Trots att Europaparlamentets egen utredningstjänst kommit fram till att det inte finns någon direkt koppling mellan datalagring och uppklarningsprocent för brott, upprepar många påståenden om det motsatta.

Under debatten framkom till och med åsikten att det vore diskriminerande (!) att bara lagra data när det finns en misstanke om brott.

Så vad händer nu? En välgrundad gissning är att man kommer att försöka få till en rapport (ej lagstiftning) där Europaparlamentet ger kommissionen och ministerrådet sin välsignelse vad gäller att fortsätta arbetet med ett nytt datalagringsdirektiv.

Men så länge man inte adresserar kärnfrågan – urskiljningslös datalagring av allt, utan brottsmisstanke – kommer man inte att komma någonstans. Då kommer EU-domstolen även att upphäva det nya direktivet och vi är tillbaka på ruta ett igen.

En sak att hålla ögonen på är att det finns tecken (bl.a. från Europol) om att myndigheterna kan vilja ha direktåtkomst till data som finns lagrad hos operatörerna, utan att behöva bry sig om att gå via respektive operatör. I Sverige har det redan gjorts sådana framstötar från polisens sida.

Detta kommer att bli en utdragen process, under vilken det är viktigt att hålla ögonen på bollen: Datalagring strider mot de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv och privat korrespondens – vilket har fastslagits av EU-domstolen.