Femte juli Nätet till folket!

Nätet till folket!

EU:s ministerråd

EU: Ministerrådet öppnar dörren för AI-stödd massövervakning

av Lämna en kommentar

EU:s ministerråd kan tänka sig AI-stödd massövervakning. Samtidigt säger en majoritet i Europaparlamentet nej.

EU:s ministerråd har enat om en gemensam linje för de kommande förhandlingarna om unionens nya AI Act. Man kan notera att rådet är oroväckande vagt vad gäller användning av artificiell intelligens för massövervakning.

Många medlemsstater är närmast entusiastiska inför möjligheten att använda AI för övervakning och kontroll. Det gäller inte minst AI som stöd för biometrisk massövervakning.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) kommenterar:

»The position adopted today would enable a dystopian future of biometric mass surveillance in Europe, potentially exposing everybody to constant identification, monitoring their behaviour and analysing their emotions in public spaces. It would justify the permanent and ubiquitious deployment of face surveillance to look for the thousands of ‚victims‘, ‚threats‘ and suspects of ‚serious crime‘ that are wanted at any time. We must not normalise a culture of suspicion and side with authoritarian regimes which use AI for repression of civil society, for social scoring, human rights violations, and total surveillance.«

I sammanhanget är det värt att notera att experiment med till exempel AI-stödd automatiserad ansiktsigenkänning visat sig ha en hög felprocent (falska positiva).

I grunden ligger samma principfråga som för datalagringen. EU:s datalagringsdirektiv upphäves av EU-domstolen för att det strider mot rätten till privatliv. Enkelt uttryckt får övervakning endast inriktas mot personer som misstänks för brott – inte omfatta alla hela tiden, utan skäl.

I Europaparlamentet säger samtidigt en majoritet nej till AI-stödd massövervakning.

Läckta EU-dokument: Ministerrådet vill ha allmän meddelandekontroll och lagstifta om kryptering

av 1 kommentar

Att EU verkligen har ambitionen att granska innehållet i alla människors alla elektroniska kommunikationer framgår av ministerrådets egna dokument.

Nyligen skrev jag om riskerna med EU:s nya Chat Control / meddelandekontoll. Det vill säga av-kryptering och inspektion av innehållet i alla dina elektroniska kommunikationer. Vars syfte är att kontrollera att du inte ägnar dig åt sexuella övergrepp på barn.

Jag påpekade även risken för ändamålsglidning. Nu visar det sig att EU:s ministerråd redan planerat för sådan.

I ett läckt dokument från 11 april visar det sig att medlemsstaternas justitie- och inrikesministrar (Morgan Johansson för Sverige) enkelt uttryckt vill utöka idén om Chat Control till att även gälla terrorism. Och det finns även dokument som pekar på att Chat Control är tänkt att omfatta kamp mot all slags brottslighet:

»… lawful and targeted access to encrypted information in the context of criminal investigations and prosecutions…«

Tänk på barnen, var alltså bara en förevändning. En murbräcka.

Ministrarna vill också ha en EU-förordning om »tillgång till digital information inklusive krypterad data«.

Man tänker alltså lagstifta om att ge myndigheterna tillgång till krypterad information. Vilket med nödvändighet leder till att sådan kryptering korrumperas och blir osäker. Antingen har man säker kryptering eller så har man det inte. Man kan inte bli bara lite gravid.

Dessutom vill ministrarna att AI skall användas för att processa massdata i kampen mot allvarlig brottslighet, våldsam extremism och terrorism. Fler syften lär tillkomma, som vanligt.

Här kan det vara på sin plats att påpeka att Europakonventionen om de mänskliga rättigheterna slår fast att rätten till privatliv och privat korrespondens är en grundläggande mänsklig rättighet.

Vilket är den princip som EU-domstolen lutade sig mot när den upphävde EU:s datalagringsdirektiv 2014.

Då handlade det om att samla in data om alla människors alla elektroniska kommunikationer, utan misstanke om brott. Nu vill man alltså göra ett liknande försök, men inriktat på innehållet i våra kommunikationer. Vilket känns en smula skamlöst.

Detta och mycket annat kommer att diskuteras på ministerrådsmötet i Luxemburg den 9 juni.

• Data retention and decryption: Justice and Home Affairs Council wants more surveillance »
• EU counter-terror shopping list: sanctions against “radical rhetoric”, intelligence agencies in asylum proceedings »

Tyskland stoppar EU:s ChatControl?

av 3 kommentarer

EU vill granska innehållet i alla dina elektroniska kommunikationer. Men nu ser Tyskland ut att säga nej.

Som vi tidigare rapporterat vill EU av-kryptera, öppna och kontrollera innehållet i alla medborgares alla elektroniska meddelanden, chattar, e-post med mera (ChatControl). Syftet är att bekämpa sexuella övergrepp mot barn.

Men det ser ut som om Tyskland kommer att säga nej i ministerrådet. Justitieminister Marco Buschmann (FDP) och digitaliseringsminister Volker Wissing (FDP) var först ut med att säga stopp. Och nu säger även inrikesminister Nancy Faeser (SPD) nej.

Faeser säger till Spiegel »Jag anser att det inte är förenligt med våra fri- och rättigheter att kontrollera alla privata meddelanden utan anledning.«

Hon menar att det är bättre att spana mot digitala miljöer där man vet att det faktiskt förekommer sexuella övergrepp mot barn, för att snabbt kunna sätta in polisiära insatser.

Om Tyskland säger nej kommer det att bli svårt för EU-kommissionär Ylva Johansson att driva igenom idén om ChatControl. Men än är striden inte avgjord.

• Messengerüberwachung dürfte an Deutschland scheitern »

EU skapar nytt regelverk för kryptovalutor

av Lämna en kommentar

EU håller på att bygga upp ett nytt regelverk för kryptovalutor. Även om man kan vara skeptisk till lagstiftning som sådan på området – så är det allmänna omdömet att den framlagda texten kunde varit värre.

Proposal for a Regulation of the European Parliament and of the Council on Markets in Crypto-assets är det formella namnet på den nya förordning som EU håller på att ta fram om kryptovalutor. (Procedure 2020/0265/COD) Ministerrådet har yttrat sig över förslaget. (PDF, 405 sidor) Europaparlamentet har dock inte formulerat sin position ännu.

Med tanke på att EU ofta tycker till om och reglerar saker man inte begriper sig på verkar man denna gång i vart fall ha tagit sakkunskapen till hjälp. Här är förslagets huvudpunkter som det ligger efter behandlingen i ministerrådet:

  • Unika kryptotillgångar som NFT:s omfattas inte av regleringen.
  • ”Utility Tokens” som ger tillgång till en vara eller tjänst omfattas inte av regleringen.
  • Krypto-tillgångar som delas ut gratis omfattas inte av regleringen.
  • Krypto-tillgångar som skapas automatiskt för underhåll av blockkedjan (DLT) eller validering av transaktioner ”in the context of a consensus mechanism” omfattas inte av regleringen.
  • Krypto-tillgångar/tokens (stablecoins) som är direkt kopplade till en viss (fiat)valuta kommer att regleras mycket hårt. De får endast ges ut av erkända kreditinstitutioner.
  • ”Asset-referenced tokens” (stablecoins) som inte är elektroniska tokens men som påstår sig luta sitt värde mot en valuta eller valutakorg kommer också att regleras mycket hårt.
  • Krypto-tillgångar som inte omfattas av någon av de ovanstående grupperna (till exempel digital valuta som inte utlovar något visst värde och som inte är utility tokens) kommer att omfattas av viss reglering. Detta verkar mest vara inriktat på att hindra bedrägerier.

Nu är jag absolut ingen expert på krypto-valutor. Men mitt intryck är att man rätt mycket öppnar dörren för seriösa aktörer att ägna sig åt krypto-valutor under tämligen fria former. Men att man sätter gränsen där det uppstår kopplingar till nationella valutor. Vilket knappast är oväntat.

Kanske kan en viss reglering även leda till att banker och andra finansinstitut släpper sin beröringsskräck mot kunder som har tillgångar i kryptovalutor.

ZeroHedge/Belgian Politics skriver:

»Cryptocurrency will still be the ’Wild West of Finance’; but now there will be a new Sheriff in town. And that Sheriff, is the European Union. It does no longer tolerate unregulated stablecoins; it does no longer tolerate shady projects with no utility, crappy white papers, and misleading marketing; and it sure as hell does no longer tolerate unprofessional exchanges who screw EU citizens out of their money. But it does like innovation and it will try not to hinder development in the cryptocurrency and blockchain space because they have made similar mistakes before in other industries.

This text has clearly been written by highly knowledge civil servants and has been endorsed by EU Ministers of Finance with a more open approach to blockchain and cryptocurrencies than their non-EU counterparts. The EU made the mistake of allowing the US/Asia to dominate the tech industry. They do not want to repeat that mistake with the cryptocurrency space.«

Nu återstår att se vad Europaparlamentet kommer att göra av saken.

EU: Ministerrådet vill ha ”lösningar” vad gäller datalagring, kryptering, eBevis och Darknet

av 1 kommentar

På ett möte i slutet av veckan kommer EU:s inrikesministrar att göra ett nytt försök att återuppväcka datalagringen och kringgå kryptering av meddelanden. På kuppen riskerar man våra grundläggande fri- och rättigheter och säkerheten för elektronisk kommunikation.

Den 11-12 november håller EU:s inrikes- och justitieministrar möte i Slovenien. På dagordningen finns ”appropriate solutions regarding data retention, encryption, e-evidence and the darknet”. Detta i namn av att bekämpa sexuella övergrepp mot barn online (CSAM). Till mötet har man även bjudit in representanter för USA, västra Balkan, EU-kommissionen, Europol, Eurojust och Europaparlamentet.

I sammanhanget skall nämnas att Chatcontrol 2 – obligatorisk avkryptering och granskning av alla användares alla meddelanden – drabbats av ändamålsglidning redan innan det finns något konkret förslag på papper. Barns säkerhet på nätet används här som murbräcka för en mer omfattande övervakning av folkets nätkommunikationer.

Det är intressant att se att man vill blåsa nytt liv i datalagringen. EU:s datalagringsdirektiv upphävdes som bekant av EU-domstolen – som menar att svepande lagring av alla medborgares alla telekommunikationer utan misstanke om brott strider mot de mänskliga rättigheterna.

Hur man tänkt ta sig runt EU-domstolens beslut är oklart. Men veckans möte tyder på att man vill göra ett nytt försök.

Man kan även undra vilka ”lämpliga lösningar” ministerrådet tänkt sig vad gäller kryptering. Som påpekats många gånger finns inga lösningar som upprätthåller krypteringens funktion och integritet och samtidigt ger myndigheterna en bakdörr. Kringgår man kryptering, då blir nätet mindre säkert för oss alla.

Det känns som om vi sett liknande möten förr. Och precis som förr önskar man sig saker som inte är förenliga med medborgarnas rätt till privatliv och säker elektronisk kommunikation.

• Statewatch: Policing the internet: interior ministers to seek ”solutions regarding data retention, encryption, e-evidence and the darknet” »

EU:s ministerråd vill se insatser mot icke olagliga yttranden på nätet

av 1 kommentar

EU:s ministerråd har skissat på en rekommendation till medlemsstaterna vad gäller hat och hot på (och utanför) nätet (hate speech). Detta kan ses som ett tidigt inspel när EU under mandatperioden kommer att uppdatera sitt regelverk på området.

Kärnpunkten är artikel 3:

»For the purposes of this Recommendation, hate speech is understood as all kinds of expressions, which spread, incite to, promote or justify violence, hatred, discrimination or prejudice against a person, or a group of persons, that is based on presumed or real personal characteristics or status including [”race”/race], colour, language, religion, citizenship, national or ethnic origin, age, disability, sex, gender, gender identity and sexual orientation.«

Detta är något av en gummiparagraf, som kan tolkas på lite olika sätt beroende på hur man läser den.

Hårddraget skulle den kunna förbjuda yttranden som i raljanta former påstår att amerikaner är högljudda och påträngande. (Främjar en fördom baserad på antagna eller verkliga karaktärsegenskaper baserade på nationalitet.)

EU-regler om hat och hot samt svensk lagstiftning om hets mot folkgrupp har – trots sina goda intentioner – ett stort inbyggt problem: De behandlar inte människor lika inför lagen.

Enkelt uttryck ger de vissa grupper av människor ett särskilt skydd (speciella rättigheter) framför andra. (Detta utifrån en lista som dessutom tycks växa med tiden.) Resultatet blir special- och särlagstiftning som inte gäller lika för alla. Vilket som regel är en dålig sak som kan få förfärande konsekvenser.

De öppnar dessutom för att likvärdiga yttranden kan komma att bedömas helt olika, beroende på omständigheterna. Vilket kan göra det svårt att i förväg veta vad som är tillåtet respektive förbjudet att säga.

Över till punkt 5.2:

»Hate speech that does not entail criminal, civil or administrative liability, but nevertheless causes prejudice and hate and raises concerns in terms of tolerance, civility, inclusion and respect for the rights of others, should be addressed through other, non-legal, means.«

Frågan är vad ministerrådet har med icke olagliga yttranden att göra. Och vad som menas med »other, non-legal, means«.

I punkt 7 påpekar man specifikt att sexistiskt näthat kräver särskilda insatser. Dock oklart vilka.

Vidare lägger man massor av ansvar på nätplattformarna och operatörerna (internet intermediaries). Punkt 29 och 35:

»Internet intermediaries should fulfil their human rights due diligence, under which they should comply with legal obligations, and act upon their corporate social responsibility to address hate speech…«

»Internet intermediaries should, in addition to ensuring transparency of removal criteria and mechanisms, develop and apply alternatives, in particular for content that is not likely to be subject to criminal, civil or administrative liability, such as de-amplification and de-monetisation, supporting initiatives that encourage the reporting of hate speech and use of education, counter and alternative speech, promotion of human rights and positive social values to address hate speech.«

Här säger man alltså att icke olagligt material som anses olämpligt skall hållas tillbaka, av nätplattformarna. Med andra ord har vi en lagstiftare som menar att yttrandefrihetens gränser – i vad mening EU har med dem att skaffa – inte nödvändigtvis behöver sättas av lagen.

Naturligtvis har sociala media sina egna användarvillkor. Men att EU:s ministerråd uttryckligen uppmanar dem att begränsa vissa icke olagliga yttranden genom till exempel skuggbanning eller de-monetarisering känns olämpligt för en demokratisk rättsstat.

Det är det gamla vanliga problemet: Om det finns saker som politikerna vill ha bort från nätet, men som kan vara kontroversiella att förbjuda genom lagstiftning – då fixar man det genom påtryckningar mot sociala media. Bakom stängda dörrar. Så att man slipper allt krångel med lagstiftning, debatt och demokrati.

Detta dokument är som sagt bara en skiss. Men glädjande nog är man öppna för åsikter, fram till den 8 augusti. Själva dokumentet (Word) hittar du här.

(BIld: Mohamed Hassan på Pixabay)

EU-förhandlingar: Ja till nätcensur och uppladdningsfilter

av 1 kommentar

Trilog-förhandlingarna mellan EU-kommissionen, ministerrådet och Europaparlamentet om EU:s nya förordning om terror-relaterat innehåll online uppges vara klara.

Dåliga saker:

  • Flaggat material måste som regel plockas ner inom en timma.
  • Myndigheterna i en medlemsstat kommer att kunna beordra censur av material på servrar i andra EU-länder.
  • Plattformar åläggs att vara proaktiva i att förhindra spridning av oönskat material – vilket i praktiken betyder uppladdningsfilter, för att gå igenom allt som alla laddar upp. (»Obligations for service providers to address proactively the misuse of their services for the dissemination of terrorist content online.«)

Bra saker:

  • Man gör ett undantag för journalism, konst, forskning m.m.
  • Det skall finnas en mekanism för att överklaga.

Detta enligt EU-kommissionens pressmeddelande. Reservation för att det är en partsinlaga.

I ett vidare perspektiv innebär detta att EU tar det principiella steget att införa nätcensur för åsikter. Dessutom kommer denna censur i huvudsak att vara automatiserad.

Det må visserligen handla om terror-relaterat innehåll, än så länge. Men när censurverktygen väl finns på plats, då kan mandatet för vad som skall censureras lätt utökas.

Nu skall denna överenskommelse dels godkännas av EU:s ministerråd, vilket mest blir en formsak. Dels av Europaparlamentet – där det finns en sista möjlighet att säga nej till nätcensur. Dock verkar de stora partigrupperna redan ha bestämt sig för att rösta ja.

EDIT: Föga förvånande finns det lite olika bilder av vad man kommit fram till. Ovanstående bygger som sagt på EU-kommissionens pressmeddelande. Mer information kan tillkomma när andra sidan uttalat sig.

Uppdatering: Motstridiga besked om uppladdningsfilter i TERREG/TCO »

Goddag yxskaft när EU:s ministerråd svarar på frågor om datalagring

av Lämna en kommentar

Det har utbrutit något slags lågintensivt krig om ett eventuellt nytt datalagringsdirektiv i EU.

Här är en skriftlig fråga från den tyske piratpartistiske ledamoten i Europaparlamentet, Patrick Breyer, till ministerrådets president. Det är en rätt kort skriftväxling, så den återges i sin helhet.

MEP Patrick Breyer (Pp) till ministerrådet:

In view of the ‘Conclusions of the Council of the European Union on Retention of Data for the Purpose of Fighting Crime’:

1. Does the Council accept that data retention legislation which ‘applies even to persons for whom there is no evidence capable of suggesting that their conduct might have a link, even an indirect or remote one, with serious criminal offences’(1) and which ‘does not require there to be any relationship between the data which must be retained and a threat to public security’(2) violates EC law?

2. Does the Council accept that merely exempting persons whose communications are subject to the obligation of professional secrecy does not, for all other persons whose communications data are to be retained, ensure that there is a ‘relationship between the data which must be retained and a threat to public security’ (3) and therefore does not satisfy the principle of proportionality?

3. Does the Council have any evidence that crime clearance rates in Member States with data retention laws in effect are significantly higher than crime clearance rates in Member States with no data retention laws in effect?

Ministerrådets svar:

As pointed out by the Honourable Member, the June 2019 Council Conclusions on Retention of Data for the Purpose of Fighting Crime summarise the progress made during the reflection process, which was launched in 2017 in order to analyse the requirements of the relevant case-law of the Court of Justice, in particular the TELE2 and DRI Judgments, and provide guidance for future work on the definition of possible solutions.

The Council Conclusions stress that the use of data retention and similar investigative measures should be guided by the protection of fundamental rights and freedoms as enshrined in the EU Charter and the principles of purpose limitation, necessity and proportionality.

Furthermore they specify that any legislative reforms at either national or European level should be compliant with the requirements of the EU Charter as interpreted by the Court of Justice. However the Council did not take a position on the issues raised by the Honourable Member. The Council, in accordance with Article 241 of the TFEU, requested the Commission to carry out a study on the issue of data retention.

Goddag yxskaft!

Ministerrådets svar kan enkelt och med bred pensel sammanfattas så här:

  1. Vi funderar – sedan två år tillbaka – över det där med massövervakning.
  2. Vi är medvetna om de mänskliga rättigheterna – även när vi våldför oss på dem.
  3. Eftersom det inte finns några bevis för att datalagring leder till att fler brott klaras upp – så svarar vi inte på frågan. Men vi har diskuterat att tillsätta en utredning.

Man kan notera en viss arrogans i ministerrådets inställning till det där med mänskliga rättigheter, rätten till privatliv och proportionalitet.

Respekten för de grundläggande mänskliga rättigheter som är basen för den demokratiska västerländska rättsstaten borde vara större.

Se även: Ylva Johansson flaggar för ett nytt datalagringsdirektiv i EU »

 

En av EU fastställd värdegrund för AI?

av Lämna en kommentar

EU:s ministerråd har diskuterat artificiell intelligens. Speciellt upprymda tycks man vara över möjligheten att använda AI för att identifiera tal, video och bilder som man vill få bort från nätet.

Man har även en vision om digitala AI-assistenter:

”Combined with a natural language interface, this technology could form the basis for a digital assistant. Such an assistant could take instructions through a natural written and spoken discussion, providing a common interface to a variety of applications at the same time, and adapt to the needs of the user. The same technology could power customer service bots that answer questions from citizens. In spoken language mode, the assistant would be helpful to police patrols busy dealing with people involved in incidents. Developing smart digital assistants is vital for making future information overload manageable, but at the same time, we must ensure that the resulting system is transparent to the user.”

Det är säkert, ur ministrarnas perspektiv, önskvärt. Dock kan man fråga sig om AI-verktyg bäst växer fram om de formuleras, specificeras och blir låsta av politiker – eller om spontan utveckling, erfarenhet och best practice kanske är en bättre väg.

Ministrarna funderar vidare…

A society permeated with AI may become too complex to comprehend, which would entail a fundamental lack of transparency. This can be mitigated through system design: for example, a digital assistant should be required to be able to explain its reasoning, and undergo an ethical audit.”

Men bör detta vara en politisk fråga?

Och vad menas egentligen med att AI skall underställas »an ethical audit«? I så fall måste vi först komma överens om ett gemensamt gällande etiskt regelverk. Givet att detta skall fungera mot ett AI som enligt den populära uppfattningen är »smartare«, mer logiskt och mer rationellt än människor – så kan man ana att politiskt fastställda etiska ramar kan orsaka en del absurda syntaxfel.

Ministrarna förutspår även att AI kan möjliggöra autonoma miniatyrdrönare med ansiktsigenkänning. Och om det gläder dem, då skulle de bara veta vilka oerhört kraftfulla verktyg för övervakning som AI kan komma att sätta i deras händer – som de ännu inte ens kan föreställa sig.

Där har politiken en uppgift – att sätta lagliga gränser för hur överheten får använda AI för att övervaka folket.

Länk: EU plans for Artificial Intelligence (AI): Get ready to meet you friendly ”digital assistant” »