En kort video om problemen med EU:s uppladdningsfilter.
Chatcontrol får grönt ljus – alla meddelanden kan kontrolleras
I går hölls den avslutande trialog-förhandlingen om Chatcontrol I EU – som öppnar för operatörerna att avkryptera och kontrollera innehållet i alla meddelanden och all e-post i jakt på barnporr och grooming riktad mot underåriga.
Vilket i praktiken leder till att alla dina elektroniska kommunikationer kan komma att granskas och i förekommande fall översändas till en privat organisation i USA, för vidare överföring till polisen.
Även den som är oskyldig har allt att frukta, då denna analys kommer att göras av maskiner som varken begriper kontext eller skillnaden mellan oskyldiga semesterbilder och barnporr. Erfarenheter visar att 86% av alla sådana flaggningar är felaktiga. Så skriv inget som kan missuppfattas eller vantolkas av maskinerna och dess algoritmer.
Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) säger:
»This unprecedented deal means all of our private e-mails and messages will be subjected to privatised real-time mass surveillance using error-prone incrimination machines inflicting devastating collateral damage on users, children and victims alike. Countless innocent citizens will come under false suspicion of having committed a crime, under-agers will see self-generated nudes (sexting) fall in wrong hands, abuse victims will loose safe channels for counselling. This agreement sets a terrible precedent and is a result of a campaign of disinformation and moral blackmailing. Unleashing such denunciation machines is ineffective, illegal and irresponsible. It’s using totalitarian methods in a democracy.«
Gårdagens uppgörelse gör det tillåtet för operatörer att göra denna granskning, trots EU-lagstiftningens förbud mot allmän övervakning. Och nu förbereder EU-kommissionen ett lagförslag som gör sådan granskning obligatorisk.
Sedan är frågan när syftet med detta verktyg kommer att drabbas av ändamålsglidning, snarare än om så kommer att ske.
Rapport: Behovet av censur av terror-relaterat innehåll online är överdrivet
Som vi rapporterat har Europaparlamentet antagit förordningen om terror-relaterat innehåll online (TERREG) – utan votering.
Men behövs TERREG över huvud taget? Vi har hittat en intressant rapport (PDF) från The Global Network on Extremism and Technology som använt textanalys för att kartlägga förekomsten av just terror-relaterat innehåll online.
Det visar sig att förekomsten av sådant material idag är betydligt mindre än tidigare. Jämfört med toppen runt år 2015 har förekomsten av terror-relaterat innehåll online minskat med ungefär 85%. Vilket innebär att det inte är ett så stort problem som EU-kommissionen och ministerrådet vill göra gällande.
Mycket talar för att förordningen mest är något som EU tagit till för att visa handlingskraft efter de terror-angrepp som ägde rum för runt fem år sedan – men som idag är en rätt meningslös åtgärd.
Dessutom skall man hålla i minnet att direkt olagligt material (stämpling, uppvigling m.m.) redan är olagligt i medlemsstaterna – och därför skall plockas bort ändå.
Vad TERREG däremot gör är att ställa orimliga krav på att flaggat material skall plockas ner inom en timma och utan föregående rättslig prövning, möjlighet för myndigheter i ett land att beordra nedtagning av innehåll på plattformar och servrar i andra länder – samt ställa krav som i praktiken kommer att kräva uppladdningsfilter (som måste granska allt som alla laddar upp) för att hålla material som en gång flaggats borta.
Nu när förordningen ändå är godkänd har vi fått ett verktyg för censur av åsikter online – som lätt kan utökas till att gälla annat än bara terror-relaterat innehåll. (Dessutom är det fortfarande oklart exakt vad man menar med ”terrorism”.)
Se MEP Marcel Kolajas (PP, CZ) anförande i Europaparlamentet »
Relaterat: EU adopts law giving tech giants one hour to remove terrorist content »
Frankrike vill inskränka de mänskliga rättigheterna för att kunna datalagra
Precis som Sverige har Frankrike problem med datalagringen, det vill säga lagring om data av alla medborgares alla tele- och datakommunikationer. 2014 upphävdes EU:s datalagringsdirektiv, då EU-domstolen kom fram till att det strider mot de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv.
Efter att EU-domstolen även underkänt den franska lagen om datalagring vill regeringen nu att landets högsta domstol skall strunta i EU-domstolens dom. Vilket är anmärkningsvärt för att komma från ett land som i andra sammanhang driver frågan om EU:s överstatlighet hårt.
Den franska regeringen vill även ändra EU:s fördrag och stadgan om de mänskliga rättigheterna – för att göra datalagring möjlig.
Man vill alltså inskränka de mänskliga rättigheterna för att kunna expandera övervakningsstaten. Vilket också är anmärkningsvärt, för att komma från ett land som i andra sammanhang anser sig vara de mänskliga rättigheternas vagga – även om landet haft ett något blandat förhållande till nämnda rättigheter.
En sådan inskränkning kommer i så fall inte bara att gälla Frankrike, utan hela EU. Det vill säga att den franska ivern att rulla ut övervakningsstaten även kommer att drabba dig och inskränka dina fri- och rättigheter. Och naturligtvis kommer en sådan inskränkning att få effekter på fler områden än bara det avsedda.
Tyvärr kan man räkna med att det franska förslaget kommer att få brett stöd i EU:s ministerråd, om det läggs fram som ett skarpt förslag. Dock är det bara EU-kommissionen (som förmodas vara fördragens väktare) som kan lägga fram ett sådant förslag. Och förhoppningsvis kommer i så fall Europaparlamentet att bjuda motstånd. Men de franska idéerna bör bemötas tidigt, redan nu, för att det inte skall behöva gå så långt.
Våra grundläggande rättigheter är individens yttersta skydd mot staten – och skall inte kompromissas bort, vattnas ur eller kringgås.
EU: Nätcensur antagen utan votering – före debatten i plenum
Europaparlamentets arbetsordning är hopplöst snårig och komplicerad. Dessutom är det inte alltid man följer den, då man inte vill ha en massa stök. Och nu, detta:
Europaparlamentet har just godkänt förordningen om terror-relaterat innehål online utan omröstning i plenum. Debatten i plenum kommer dock, enligt föredragningslistan, att äga rum först i morgon, onsdag kl 20:30. (!)
Den piratpartistiske, tyske ledamoten Patrick Breyer skriver på sin blogg:
»The European Parliament Civil Liberties Committee voted in favour of the regulation. The plenary approved it without vote.«
Vilket är en smula absurt. Åter tycks man handla enligt modellen: Först beslutar man. Sedan debatterar man. Därefter tar man reda på fakta.
Sammanfattningsvis har vi nu fått censur av åsikter online, krav på nedtagning av flaggat innehåll inom en timma, rätt för myndigheter i ett land att beordra nedtagning av material på servrar i andra länder (utan samråd med landet i fråga) och ett krav på att flaggat material inte skall kunna läggas upp igen – vilket i praktiken kommer att kräva uppladdningsfilter, även om man noga undviker att använda det ordet i dokumenten.
Nu återstår att se om det eventuellt blir någon prövning av förordningen i domstol.
Länkar:
• MEP Patrick Breyer (PP, DE) »
• Breyers anförande i LIBE (video) »
Uppladdningsfilter – det nya normala i EU:s nätpolitik
Först var det artikel 17 (f.d. 13) i EU:s upphovsrättsdirektiv som kommer att kräva uppladdningsfilter, även om man inte använder det ordet. Sedan kom förordningen om terror-relaterat innehåll online (TERREG) som röstas igenom i Europaparlamentet på torsdag – som också i praktiken kommer att kräva uppladdningsfilter, åter utan att använda själva ordet i texten. Och nu föreslår Spanien att EU:s nya Digital Services Act (DSA) skall innehålla uppladdningsfilter för att se till att innehåll som tidigare tagits ner förblir borta.
Ett övergripande problem med uppladdningsfilter är att allt som alla laddar upp måste inspekteras, granskas och i förekommande fall censureras. Dels är det både integritetskränkande och en form av automatiserad censur. Dels kommer lagstiftningens krav att medföra att startups och nya, små utmanare till de sociala mediejättarna kommer att få svårt att bedriva verksamhet – eftersom uppladdningsfilter är komplicerade och kostsamma. På så sätt stärks Facebooks, Twitters och Youtubes dominerande ställning, på mindre konkurrenters bekostnad.
Vidare är automatiserade uppladdningsfilter korkade. De kan inte bedöma kontext. De kan därför inte släppa igenom sådant som rimligen borde släppas igenom – som memes, satir, kritik och debatt. Vilket kommer att leda till att innehåll som inte borde censureras ändå kommer att stoppas.
Som Piratpartiet noterar i en bloggpost går uppladdningsfilter inte heller ihop med den EU-lagstiftning som förbjuder plattformarna att övervaka alla användares aktivitet. Detta bör gå att få prövat i EU-domstolen, dock inte innan sådan lagstiftning redan är på plats.
Det ser alltså ut som om uppladdningsfilter är på väg att bli det nya normala i EU:s nätlagstiftning. Något som vore intressant att undersöka är hur sådan lagstiftning går ihop med den svenska grundlagens förbud mot förhandscensur.
Länkar:
• Piratpartiet: Spanien föreslår att generella uppladdningsfilter ska ingå i Digital Services Act »
• Netzpolitik: Entfernung illegaler Inhalte entzweit EU-Länder »
Belgisk domstol upphäver datalagring
I slutet av förra veckan upphävde den belgiska författningsdomstolen landets lag om datalagring. Vilket är i linje med att EU-domstolen redan för sex år sedan upphävde EU:s datalagringsdirektiv. Motiveringen är den samma: Man får inte urskiljningslöst övervaka eller samla metadata om alla medborgares alla telekommunikationer utan misstanke om brott.
Enligt uppgift skall domen ha orsakat stor oreda inom den belgiska polisen. Men med tanke på vad som beslutats i EU-domstolen borde detta inte komma som någon överraskning för någon.
Nu tycks belgarna försöka det svenska tricket: Att skriva en ny lag för att kringgå EU-domstolens dom. Sverige har gjort detta ett par gånger. Första gången fick vi smäll på fingrarna av domstolen, igen. Och enda skälet till att vi ändå har en ännu nyare, ytterligare justerad svensk lag om datalagring är att den inte har prövats rättsligt. Om det skulle ske, då skulle den falla på samma sätt som den tidigare.
Påhejad av ministerrådet håller EU-kommissionen nu på att ta fram ett nytt datalagringsdirektiv. Hur man tänkt förena idén om lagring av all teledata med EU-domstolens tidigare domar är än så länge oklart.
Kritiska röster om EU:s nya regelverk för AI
I går presenterade EU-kommissionen sitt »Proposal for a Regulation on a European approach for Artificial Intelligence«.
Som vi tidigare rapporterat – utifrån läckt material – vill EU-kommissionen ha ett förbud mot användning av AI för övervakning. Detta gäller speciellt övervakning kopplad till kameraövervakning med ansiktsigenkänning i realtid. Dock är detta inget heltäckande förbud, utan innehåller ett antal undantag och brasklappar.
Nu börjar reaktionerna på förslaget droppa in. Sarah Chander, Senior Policy Lead on AI hos European Digital Rights (EDRi) säger:
»Whilst it is positive that the Commission acknowledges that some uses of AI are simply unacceptable and need to be prohibited, the draft law does not prohibit the full extent of unacceptable uses of AI and in particular all forms of biometric mass surveillance. This leaves a worrying gap for discriminatory and surveillance technologies used by governments and companies. The regulation allows too wide a scope for self-regulation by companies profiting from AI. People, not companies need to be the centre of this regulation.«
Lotte Houwing, från nederländska Bits of Freedom:
»Biometric mass surveillance reduces our bodies to walking barcodes with the intention of judging the links between our data, physical appearance and our intentions. We should protect this sensitive data because we only have one face, which we cannot swap or leave at home. Once we give up this data we will have lost all control.«
ZDNet rapporterar:
»For Nick Holliman, professor at Newcastle University’s school of computing, the vagueness of the EU’s new rules reflect a lack of understanding of a technology that takes on many different shapes. ”There are risks of harm from not regulating AI systems, especially in high-risk areas, but the nature of the field is such that regulations are being drafted onto a moving target,” Holliman tells ZDNet.
In practice, says Holliman, the regulation seems unworkable, or designed to be defined in detail through case law – and the very idea of having to worry about this type of overhead is likely to drive many businesses away.«
Ytterligare ett citat från samma källa:
»”The EU has wider issues to do with the tech ecosystem: it’s very bureaucratic, it’s hard to get funding, it’s a top-down mentality,” Wolfgang Fengler, lead economist in trade and competitiveness at the World Bank, tells ZDNet. ”The challenge is that these new rules can be seen as business-unfriendly – and I’m not talking for Google, but for small startups operating in the EU.”«
Den tjeckiske ledamoten av Euopaparlamentet, piratpartisten Marcel Kolaja säger:
»The Commission’s plan on AI still leaves some loopholes. Even though the Commission pretends that practices such as biometric identification are banned, in reality, wide exemptions still remain. But these practices could easily be exploited by governments and lead to mass surveillance. And that is unacceptable for us. We have to set clear rules for AI that will protect the freedom of our citizens and will not discriminate against anyone of them. Once the proposal comes to “our table” in the Parliament, I will work to bring the necessary adjustments to the regulation.«
Man kan även notera att förslaget belyser ett problem med hela EU:s beslutsprocess. Med en reglering för hela EU, införd uppifrån, riskerar man att skapa single points of failure. Vilket kan ställas i kontrast mot om olika länder utformar sin egen politik och med tiden lär sig av varandras erfarenheter.
Och det är lite som med EU:s Digital Services Act – man sätter upp ett stelt regelverk för något som ständigt genomgår en dynamisk förändring.
Resurser:
• EDRi: Artificial Intelligence and Fundamental Rights: Document Pool »
Upphovsrättsdirektivet: EU-kommissionen på väg att svika sina löften om artikel 17 och uppladdningsfilter?
I sommar skall EU:s nya upphovsrättsdirektiv vara implementerat i medlemsstaternas lagstiftning. Oredan är stor – speciellt när det gäller den kontroversiella artikel 17 (tidigare artikel 13) som kommer att tvinga fram uppladdningsfilter.
Det hela kompliceras av att Polen har tagit artikel 17 till EU-domstolen. Från domstolen kommer nu besked om att generaladvokatens yttrande över fallet – som var tänkt att presenteras nu på torsdag – skjuts fram tre månader.
Skälet till detta är att domstolen väntar på EU-kommissionens riktlinjer för implementering av direktivet i allmänhet och artikel 17 i synnerhet. Några sådana riktlinjer har dock inte setts till, trots att det bara är två månader kvar tills direktivet skall vara lag i medlemsstaterna.
Communia rapporterar:
»While the Commission has been hinting at the imminent release of the guidance for a few months now, the timing indicates that the Commission precisely wanted to avoid giving the Advocate General time to study the guidance. This does not bode well for the fundamental rights safeguards the Commission is planning to present. Signals are mounting that the delays are the result of intense behind-the-scenes political wrangling aimed at undermining the user rights safeguards to be included in the guidance.«
Nu har 21 organisationer som arbetar med nätfrågor skrivit ett öppet brev. Åter till Communia:
»The letter urges the Commission “not to weaken its guidance through open ended exception clauses that seem to benefit particular rightsholders at the expense of users’ fundamental rights” and stresses that “strong ex-ante fundamental rights protections are necessary to meet the obligation of result to protect users’ fundamental rights.”
The letter further highlights the fact that, by issuing guidance that substantially diverges from the position taken before the CJEU, the Commission would indicate that it is ultimately lacking the political will to ensure that the required fundamental rights protections will be included in national implementations of the directive.«
I utkastet till riktlinjer (som presenterats för domstolen) har man givit intryck av att man tänker respektera användarnas rättigheter. Tanken var att garantera att garantera att medlemsstaterna bara blockerar uppladdningar som uppenbart bryter mot upphovsrätten. Det vill säga att man gör undantag för memes, satir, kritik, samhällsdebatt m.m. Detta togs dock inte emot väl av upphovsrättsindustrin och medlemsstater som Frankrike. Sedan dess är det tyst från kommissionens sida.
»Almost half a year later the guidance is still nowhere to be seen. Yesterday Commissioner Thierry Breton informed members of the CULT committee of the European Parliament that the guidance would be presented “within the next weeks”, but refused to answer a direct question from MEP Marcel Kolaja if the guidance would “defend the legal interpretation that the Commission held before the CJEU, according to which only manifestly infringing content may be blocked?”.«
På det hela taget verkar det som om kommissionen är på väg att backa från de garantier som man tidigare givit – och att man försökt föra EU-domstolen bakom ljuset.
Vilket är precis vad vi som kritiserat upphovsrättsdirektivet varnat för. Artikel 17 – som kommer att leda till uppladdningsfilter – är helt enkelt inte förenlig med rimliga rättigheter för användarna. Den är i praktiken ogenomförbar utan att inskränka internets frihet och öppenhet på ett oacceptabelt sätt.
Extra surt är detta eftersom upphovsrättsdirektivet antogs med hårfin majoritet i Europaparlamentet. Till råga på allt fälldes avgörandet av en handfull ledamöter som efteråt meddelat att de röstade fel.
Från den svenska regeringens sida syns inga livstecken i frågan – trots att upphovsrättsdirektivet skall vara svensk lag senast den 1 juli i år.
Video: EU inför censur av åsikter online
Nu inför EU censur av åsikter online – och ingen tycks bry sig.
En video om EU:s nya förordning om terror-relaterat innehåll online och problemen med denna.