Femte juli

Nätet till folket!

IMCO

Chatcontrol: Blandade signaler från IMCO

av

Ännu ett utskott i Europaparlamentet tar ställning: Ja till Chatcontrol i princip, men nej till förslagets centrala delar.

Europaparlamentets utskott för konsumentskydd och den inre marknaden – IMCO – antog förra veckan sin rapport om EU-kommissionens förslag om ny massövervakning, Chatcontrol.

Den dåliga nyheten är att utskottet säger ja till Chatcontrol.

Den goda nyheten är att IMCO i nästa andetag säger nej till det mesta av substans i förslaget:

  • Nej till försvagad totalsträckskryptering (end-to-end-encryption). Vilket rimligen innebär att innehållet i sådana meddelanden inte kommer att kunna granskas. (Frågan är om detta även är ett nej till client-side-scanning / spionprogram på telefoner och datorer.)
  • Nej till automatiserad sökning efter grooming (kontakter med minderåriga i sexuellt syfte) i medborgarnas elektroniska meddelanden. Vilket känns klokt. Dels finns tekniken inte idag. Dels finns skäl att anta att den kan leda till ett stort antal felaktiga flaggningar.
  • Ingen åldersgräns för meddelande-appar i app-stores. Därmed räddas även rätten att kunna kommunicera anonymt.
  • Ingen eftersökning efter tidigare okänt olagligt innehåll. På samma sätt som vad gäller grooming finns idag ingen fungerande eller tillförlitlig teknik för detta.

Men ändå säger sig utskottet alltså ”i princip” vara för kommissionens förslag om Chatcontrol.

På något sätt känns det som om det hade varit lättare att säga helt nej till Chatcontrol 2 (obligatorisk granskning av innehållet i människors elektroniska meddelanden på olika plattformar) och istället förlänga den redan existerande Chatcontrol 1 (frivillig granskning).

Chatcontrol 1 är långt ifrån oproblematisk, men absolut mindre problematisk än Chatcontrol 2.

Notera att detta bara är ett av de utskott i Europaparlamentet som yttrar sig över förslaget.

Netzpolitik:
• Ausschuss will Chatkontrolle an vier Stellen stutzen »

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

• Använd denna mail-robot för att protestera mot förslaget om Chatcontrol »

Följ oss även på Twitter: @femtejuli

EP-utskott: Nej till biometrisk massövervakning

av

I Europaparlamentet är man skeptisk mot biometrisk massövervakning. Vilket bäddar för konflikt med EU-kommissionen och ministerrådet.

Europaparlamentets utskott för mänskliga rättigheter (LIBE) och den inre marknaden (IMCO) har idag fattat ett par viktiga och intressanta beslut om artificiell intelligens. Eller i vart fall om AI som vi känner den just nu.

• Nej till biometrisk massövervakning

Utskotten vill förbjuda biometrisk massövervakning (till exempel automatiserad ansiktsigenkänning) i realtid på allmän plats; användning av biometrisk analys i efterhand i de flesta fall; automatiserad känsloanalys i polisiära syften, vid gränskontroller, på arbetsplatser och inom utbildning.

Detta går emot EU-kommissionens ursprungliga förslag om att i princip undanta förbud mot biometrisk massövervakning för brottsbekämpande ändamål.

Det finns i sammanhanget skäl att anta att ministerrådet kommer att gå på kommissionens linje.

Om Europaparlamentet röstar i enlighet med utskottens förslag när frågan kommer upp i plenum lär det alltså bli krångliga trilog-förhandlingar med de två andra institutionerna.

• Diskriminering och mänskliga rättigheter

Utskotten säger nej till biometrisk massövervakning – speciellt sådan som kan leda till diskriminering, biometrisk kategorisering, förebyggande brottsbekämpning (”pre crime”) samt masstrålning efter biometrisk data med syfte att upprätta databaser för övervakning.

Utvecklare av AI med hög riskprofil skall genomföra en konsekvensanalys ur ett människorättsperspektiv – som sedan skall publiceras av berörda myndigheter.

Bland annat kan utvecklare av chat bots (som Chat GPT) åläggas ökad transparens.

Man vill även begränsa användningen av AI vad gäller gränskontroller och migration – vilket medlemsstaterna knappast kommer att gå med på.

• Frågetecken

Som synes fokuserar man på biometrisk massövervakning. Samtidigt skall man komma ihåg att LIBEs rapport om Chat Control / CSA Regulation stöder EU-kommissionens förslag om att använda AI för att granska innehållet i alla människors elektroniska meddelanden, i syfte att upptäcka visst olagligt beteende.

Det kan alltså vara värt att notera att användning av AI för massövervakning är en betydligt större fråga än bara biometrisk data.

Precis som när det gäller DSA/DMA utgår den nya lagstiftningen (av naturliga skäl) från dagens teknik och marknad. Vilket kan leda till oväntade konsekvenser i framtiden.

Man bör även hålla i minnet att internet är gränslöst. Lagstiftarna säger sig vilja skapa en världsledande standard som andra ansluter sig till. Men konsekvensen kan lika gärna bli att företagen (och då speciellt start ups) kan komma att etablera sig i andra delar av världen. Vilket är något vi redan ser tecken på med EU:s allt mer omfattande och byråkratiska nätlagstiftning.

Ambitionen i LIBE och IMCO är god. Grundläggande mänskliga rättigheter skall försvaras. Men här finns massor av frågetecken och möjliga oväntade och oönskade konsekvenser. Samt en risk för att lagstiftningen kommer att vara föråldrad redan innan den införs.

Det finns, som sagt, även en överhängande risk för att kommissionen och ministerrådet kommer att köra över parlamentet i denna fråga.

Men, för att avrunda positivt ger vi ordet till den piratpartistiske, tyske ledamoten av Europaparlamentet Patrick Breyer:

“Today’s vote is a historic breakthrough for the movement to prevent a China-style dystopian future of biometric mass surveillance in Europe. There is no evidence whatsoever that this error-prone technology ever found a single terrorist. We will continue to fight against facial surveillance technology in our public spaces, because they wrongfully report large numbers of innocent citizens, systematically discriminate against under-represented groups and have a chilling effect on a free and diverse society. In the upcoming plenary vote, monitoring our behavior in public to report us for allegedly ‘abnormal’ activity needs to be added to the list of bans. This mass surveillance technology, which the French government plans to bring to Europe, chills diversity and pushes us into conformity, which is the opposite of the open society we want to live in.“

• Patrick Breyer (PP, DE) AI Act: Lead committees to ban facial surveillance in Europe »
• EDRi: EU Parliament sends a global message to protect human rights from AI »

#ChatControl /#CSAR – Europaparlamentet tycker till

av

Nej till centrala detaljer men ändå ja till #ChatControl när det första av fem utskott i Europaparlamentet lämnar ett yttrande.

EU-kommissionens förslag om att granska innehållet i våra elektroniska meddelanden tycks möta en del motstånd i Europaparlamentet. Det har redan gnisslat en del när EU-kommissionär Ylva Johansson frågades ut om sitt förslag.

Det är rapportören (Alex Saliba, S&D) i utskottet för den inre marknaden (IMCO) som lagt fram en första uppsättning ändringsförslag (PDF).

Till att börja med säger han nej till en åldersgräns för att ladda ner eller använda olika meddelande-appar. Dels är förslaget orealistiskt, dels innebär rapportörens nej en möjlighet till fortsatt anonym användning.

Ändringsförslag 17a (på sid 16) är också högst intressant:

»End-to-end encryption is an important tool to guarantee the security and confidentiality of the communications of users, including those of children. Any restrictions of encryption could potentially be abused by malicious third parties. In order to ensure effective consumer trust, nothing in this Regulation should be interpreted as prohibiting providers of information society services from providing their services applying encryption, restricting or undermining such encryption in the sense of being detrimental to users’ expectations of confidential and secure communication services. Member States should not prevent providers of information society services from providing their services applying encryption, considering that such encryption is essential for trust in and security of the digital services, and effectively prevents unauthorised third party access.«

Med andra ord: Bort med tassarna från kryptering och krypterade meddelanden.

Det blir dock lite konstigt när rapportören ändå tycks stödja kommissionens förslag om granskning av innehållet i elektroniska meddelanden som sådant. Detta då i princip alla meddelandetjänster i varierande omfattning är krypterade.

Ledamoten Patrick Breyer (PP, DE) kommenterar:

»However, ineffective netblocks with collateral damage for many legitimate contents could still be imposed. Above all, indiscriminate chat control would still be implemented: Excluding encrypted communication and telephony, leaving AI algorithms out of it – all this would not change the fact that the end of digital secrecy of correspondence for most emails and chats is imminent. Digital privacy of correspondence does not only apply to encrypted communication!«

IMCO är bara ett av de utskott som skall yttra sig. Även kulturutskottet (KULT), budgetutskottet (BUDG) och utskottet för kvinnofrågor (FEMM) skall lägga fram egna dokument. I FEMM är den svenska socialdemokraten Heléne Fritzon rapportör.

När dessa utskott är klara med sin behandling under våren går ärendet till utskottet för mänskliga rättigheter (LIBE) för huvudbehandling förmodligen i september. Därefter kan förslaget komma upp i plenum – och Europaparlamentet slå fast sin position.

Även om det finns positiva tecken från Europaparlamentet, så verkar medlemsstaterna i ministerrådet dra åt ett annat håll. Till att börja med är man splittrade, då i vart fall Österrike och Tyskland kommer att säga nej. (Vilket dock inte räcker för en blockerande minoritet.)

Vidare odlas en märklig idé i rådet om att internetoperatörerna skall åläggas att hitta och identifiera tidigare okänt olagligt innehåll.

När både parlamentet och rådet har sina positioner klara sker en så kallad trilog, som är en förhandling bakom stängda dörrar mellan de två institutionerna och kommissionen. Detta väntas ske mot slutet av året.

Sedan skall resultatet av dessa förhandlingar godkännas en sista gång i parlamentet och rådet. Där kan det bli et ja, ett nej eller bakläxa.

Enkelt uttryckt står frågan och väger. Så om man vill påverka, då är det lättare nu än längre fram.

Läs mer:
• First parliamentary amendments on EU Child Sexual Abuse Regulation: Some poison teeth are pulled, but indiscriminate chat control still looming »
• Draft opinion från IMCO (PDF, ENG) »

Lagstiftningsdokument:
• Kommissionens förslag »
• Legislative Observatory »

Relaterade länkar:
• ChatControl.eu »
• ChatControl – granskning av EU-kommissionens förslag
• EU-kommissionen: Övervakning är viktigare än mänskliga rättigheter »
• PP: EU-kommissionär Ylva Johansson ljuger om #ChatControl »
• ChatControl – nu är det skarpt läge i EU, men regeringen vill inte tala om saken »
• UN Human Rights Commissioner warns against chat control »
• ChatControl – detta händer i ministerrådet »
• EU:s ministerråd vill kontrollera allt du gör på nätet
• ChatControl: EU-kommissionen duckar alla jobbiga frågor »

TLDR:
• ChatControl / CSA Regulation – enkelt förklarad »

Idag tar EU ännu ett steg mot nätcensur

av

Varför är ingen intresserad av att EU är på väg att införa statligt godkänd nätcensur?

Idag röstar Europaparlamentets ansvariga utskott (IMCO) om EU:s nya Digital Services Act. Som vi redan rapporterat finns det massor av tveksamma förslag och begränsningar av informationens frihet i denna materia.

Det finns 2.297 ändringsförslag. Så det kommer säkert att ta ett par dagar innan det finns en konsoliderad version av vad utskottet verkligen kom fram till.

Men en sak vet vi redan nu: EU kommer att införa statligt godkända nätcensorer, så kallade Trusted Flaggers.

Det finns olika meningar i parlamentet om dessa trusted flaggers bara skall kunna rekommendera sociala media att ta ner oönskat material – eller om de skall ges makt att beordra att så skall ske.

Men märkligt få deltagare i debatten, om ens någon (inte ens Piratpartiet) tycks reagera på införandet av Trusted Flaggers som sådant. Vill vi verkligen ha statligt godkända nätcensorer?

Kan vi i vart fall diskutera vilka dessa nätcensorer i så fall skall vara? Exakt vad menar EU-kommissionen med att dessa skall vara företrädare för ”kollektiva intressen”? Kommer myndigheter att ges makt att censurera internet?

Kan vi – för en gångs skull – diskutera detta innan vi ställs inför fullbordat faktum?

Nätcensur och uppladdningsfilter i EU – viktig omröstning innan årsskiftet

av

Trots en mindre försening är EU:s Digital Services Act på väg mot viktiga nyckelvoteringar i Europaparlamentet. Resultatet kan till exempel bli nätcensur, uppladdningsfilter, granskning av privata meddelanden och att andra länder får makt över vad som får finnas på svenska servrar.

I går skulle Europaparlamentets utskott för den inre marknaden – IMCO – ha röstat om EU:s nya Digital Services Act (DSA). Detta har dock skjutits upp till förmån för en utskottsöverskridande utfrågning med Facebooks visselblåsare Frances Haugen.

Då IMCO är huvudansvarigt utskott för DSA innebär detta förmodligen att omröstningen med sina totalt 2.297 ändringsförslag först kommer att ske nästa månad och att huvudvoteringen i parlamentets plenum skjuts fram från december till januari. Därefter kan förhandlingar börja mellan parlamentet, ministerrådet och kommissionen.

Detta ger oss lite mer tid att diskutera och opinionsbilda kring DSA. Och det saknas inte kontroversiella inslag.

Till exempel diskuteras att utöka DSA till att inte bara gälla innehåll som görs allmänt tillgängligt, utan även privat kommunikation. Det vill säga att man vill lägga sig i vad enskilda individer kommunicerar sinsemellan. Vilket i sin tur innebär att all privat kommunikation måste granskas.

Idén om Trusted Flaggers håller på att expandera. Från början handlade det om att företrädare för ”kollektiva intressen” skulle få en gräddfil till sociala media – för att rekommendera vilket innehåll som bör plockas bort. Detta har nu svällt till att dessa Trusted Flaggers skall få rätt att beordra borttagning av innehåll, automatiskt och utan granskning.

Man har även dammat av idén om att myndigheterna i ett EU-land skall kunna beordra nedtagning av innehåll på plattformar i andra länder. Vilket innebär att till exempel polska eller franska myndigheter skall kunna censurera innehåll på svenska servrar.

En annan viktig fråga gäller uppladdningsfilter. Sådana förordas av bland andra parlamentets rättsliga utskott – JURI. Tanken är att maskiner och deras algoritmer skall se till att hålla innehåll som en gång plockats ner borta för alltid. Maskiner och algoritmer som varken förstår kontext, humor eller kritik.

Detta är bara några av alla saker som är problematiska med DSA. Om du håller med om vår kritik, då kan du nu ha fått en månad till för att bilda opinion mot förslagen – innan parlamentets huvudvotering.

Länkar:
• EDRi: Digital Services Act: The EDRi guide to 2,297 amendment proposals »
• EDRi: Digital Services Act / Digital Markets Act: Document pool »
• EFF: Europe’s Digital Services Act: On a Collision Course With Human Rights »
• Piratpartiet: DSA: Resultat från omröstningen i JURI »
• Vilka blir EU:s nya nätcensorer? »
• Stoppa den nya nätcensuren! »
• Det är nu staten tar kontroll över sociala media »
• Video: Varning för nätcensur i EU:s nya Digital Services Act »

”Uppladdningsfiltret är olagligt”

av

Uppladdningsfiltret är den mest kontroversiella delen av det upphovsrättsdirektiv som just nu är under utarbetning i EU-maskineriet.

Förutom allt annat man kan invända mot ”censurmaskinen” – som att den kommer att leda till självcensur och inskränkning av yttrandefriheten för EU-medborgarna – konstaterar nu Glyn Moody att filtret kommer bryta mot andra EU-lagar, oavsett på vilket sätt det införs:

Article 13’s automated general upload filters are either voluntary, in which case they are illegal under the GDPR, or they are mandatory, and therefore illegal under the E-commerce Directive. There’s no other possibility. What’s clear is that upload filters are illegal in all situations, and must therefore be dropped from the Copyright Directive completely.

Hittills har två parlamentariska utskott (LIBE och IMCO) röstat för att stryka artikel 13 från upphovsrättsdirektivet, medan två utskott (ITRE och CULT) vill behålla filtret. Nästa utskott till röstning är JURI.

Parlamentariska utskott

Förklaring till förkortningarna för utskotten ovan:

  • LIBE: Medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor
  • IMCO: Inre marknaden och konsumentskydd
  • ITRE: Industrifrågor, forskning och energi
  • CULT: Kultur och utbildning
  • JURI: Rättsliga frågor

Look who’s stalking – två till utskott säger sitt om Eprivacyförordningen

av

Efter att konsumentutskottet Imco vände sig mot konsumenterna i förra veckans omröstning om EUs eprivacyförordning har nu två andra utskott kommit fram till betydligt bättre yttranden, rapporterar Edri.

  • Utskottet för rättsliga frågor, Juri, har röstat för formuleringar som stärker EU-konsumenternas integritet, enligt Edri. Till exempel tycker Juri inte att det spelar någon roll för ett mejls sekretess om det är ”in transit” eller lagras – operatören ska ändå hålla fingrarna borta. Därmed går man emot Imco i denna fråga.
  • På samma tema har utskottet för Industrifrågor, forskning och energi, Itre, röstat för rätten till stark kryptering.

De två utskotten röstade den 2 oktober 2017 om sina slutgiltiga yttranden om Eprivacyförordningen, som varit ute på remiss sedan 2016.

De olika utskottens yttranden kommer sammanvägas när ”superutskottet” Libe nästa vecka fattar det beslut som kommer ligga till underlag för hur EU-parlamentet röstar.

Libe är utskottet för Medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor.

Förutom Eprivacyförordningen kommer Libe att rösta om Upphovsrättsdirektivet, och då inte minst det kontroversiella uppladdningsfiltret (”censurmaskinen”) och den kritiserade länkskatten (”googleskatten”). I de frågorna är det dock Juri som är huvudutskott och som kommer sammanväga övriga utskotts betänkanden.

Och här har vi Edris roliga satirbild i dess helhet:

lookwhostaking_poster_750_80

EU-utskott sviker EU-medborgarna

av

EU-parlamentets utskott för inre marknad och konsumentskydd, IMCO, har granskat kommissionens förslag till Eprivacyförordning och kommit med ett slutgiltigt yttrande.

Edri konstaterar att yttrandet är så urvattnat att det knappast kan sägas skydda de konsumenter som utskottet har till uppgift att skydda. Stryk ”konsumentskydd” från ert namn, skriver Edri sarkastiskt och radar upp bevisen för hur utskottet svikit EU-medborgarna – läs hela listan här.

Mycket gäller ändringar i ordval som gör det möjligt för de stora jättarna att kringgå det konsumentskydd som ursprungligen var tanken med Eprivacyförordningen.

Till exempel ska mejlsekretess – vad detta nu än må innebära – enbart gälla medan mejl är ”in transit”, inte när de är lagrade hos en tjänsteleverantör. Googles eposttjänst Gmail har ända sedan lanseringen 2005 haft som affärsidé att analysera innehållet i användarnas mejl för att på bästa sätt kunna rikta reklam till dem. Den nya formuleringen gör att Google slipper fundera på hur Eprivacyförordningen skulle påverka eposttjänsten. Man förstår att det är mycket lobbying och kanske många bjudmiddagar som ligger bakom de harmlösaste formuleringar.

I slutändan kan EU-parlamentet välja att inte ta hänsyn till IMCOs yttrande. Så skedde när den Allmänna dataskyddsförordningen antogs, eftersom IMCO hade en, som Edri uttrycker det, ”extremist anti-consumer position”.

Utskotten är tillsatta av EU-parlamentet och ska granska lagförslag utifrån EU-medborgarnas bästa. Kanske är det dags att granska utskotten och fråga sig varför de gång efter annan landar i ståndpunkter som går rakt emot EU-medborgarnas bästa.