En kort video om riskerna med övervakning.
Storebror
Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.
Mer information och sämre säkerhet i EU:s nya superregister
Det franska EU-ordförandeskapet vill utvidga lagringen av DNA, biometrisk data och persondata – automatisera den och samköra allt med AI-baserade övervakningssystem.
Statewatch rapporterar:
»The French Presidency of the Council is seeking EU-wide comparisons of every DNA profile held by police forces against all those held by other national police forces, as well as EU policing agency Europol, as part of plans to upgrade the ‘Prüm’ network of police databases. It also hopes to automate the police exchange of facial images by eliminating requirements for human review.«
»The proposals come in an amended version of a proposal originally published by the European Commission in December 2021, which will upgrade the Prüm network of DNA, fingerprint and vehicle registration databases to include facial images and “police records”, as well as driving licence data, if the Council has its way.«
Man vill alltså se registrering av fler personuppgifter och underlätta för medlemsstaterna att göra automatiska sökningar i registren, utan mänsklig kontroll.
Vilket innebär att även myndigheter i länder som Rumänien kommer att få automatisk tillgång till flera av den svenska polisens databaser. Länder med dålig IT-säkerhet. Länder som redan har problem med korruption. Länder som misstänks läcka information till kriminella nätverk och främmande makt.
Med Europols nya mandat godkänns även dess tidigare olagliga lagring av data om personer som inte är misstänkta för brott. Man får också direkt tillgång till data hos bland andra Google och Microsoft. Allt det ovanstående kan nu knytas samman i ett nätverk, tillgängligt för myndigheterna i alla 27 EU-länder plus Storbritannien.
Det skall också noteras att Frankrike driver på för mer automatiserad och AI-baserad övervakning i realtid, kopplad till just sådana register som här diskuteras.
Riskerna för informationsläckage och missbruk är uppenbara.
• EU: Policing: France proposes massive EU-wide DNA sweep, automated exchange of facial images »
Julian Assange ytterligare ett steg närmare utlämning till USA
I London har Westminster Magistrates’ Court godkänt utlämning av Wikileaks grundare Julian Assange till USA. Ärendet går nu till den brittiska inrikesministern, men kan fortfarande överklagas till Storbritanniens High Court.
Om Assange utlämnas till USA riskerar han upp till 175 års fängelse för spioneri. Detta trots att Wikileaks bara mottagit och publicerat information som är besvärande för makthavarna, på samma sätt som ett antal stora internationella tidningar.
Dessutom håller det amerikanska målet på att falla samman, då myndigheternas nyckelvittne avslöjats som mytoman, provokatör och tagit tillbaka sina uppgifter.
Om Assange utlämnas till USA för åtal där väcker det viktiga principiella frågor om pressens frihet. Då kan all media som publicerar besvärande, läckta uppgifter också åtalas. Vilket är ett uppenbart hot mot pressens frihet.
Nu granskas hemlig europeisk övervakning i politiska syften
Idag har Europaparlamentet startat utfrågningar om spionprogramvaran Pegasus, som bland annat använts för att spionera mot oppositionella i Polen och Spanien.
Pegasus är en spionprogramvara som tillverkas av israeliska NSO Group. Enkelt uttryckt möjliggör den hemlig dataavläsning och ger tillgång till det mesta som finns på en mobil eller surfplatta.
Det finns gott om exempel på hur Pegasus använts för att övervaka journalister och oppositionella runt om i världen. Det gäller även europeiska länder som Polen och Spanien.
Katalanska politiker, ledamöter av Europaparlamentet, jurister, människorättsaktivister och deras anhöriga är exempel på personer som övervakats med detta verktyg.
Att detta är ett demokratiskt problem är uppenbart. Men problemet är även tekniskt. För att kunna använda hemlig dataavläsning behöver myndigheterna utnyttja tidigare okända säkerhetsluckor i vår IT-infrastruktur. Dessa luckor lämnas sedan öppna, istället för att täppas till – för att övervakningen skall kunna fortsätta. På så sätt blir vi alla mindre säkra.
Även svensk polis använder sig av hemlig dataavläsning. Om det sker med Pegasus går inte att få reda på. Men svenska staten har alltså samma slags verktyg för övervakning som de länder som inte kunnat motstå frestelsen att använda den i politiska syften.
• Extensive Mercenary Spyware Operation against Catalans Using Pegasus and Candiru »
• More Polish opposition figures found to have been targeted by Pegasus spyware »
• Pegasus och annan statlig spyware sågas av FN-kommissionär »
Faran med dåliga AI-system i statens tjänst
Myndigheters användning av AI för kontroll av medborgarna har redan fått förfärande konsekvenser. Nu vill EU:s franska ordförandeskap utöka användningen.
I Nederländerna använde skattemyndigheten en dålig självlärande algoritm för att komma till rätta med bidragsfusk bland barnfamiljer. Resultatet blev katastrofalt.
Tiotusentals oskyldiga familjer drabbades av stora återbetalningskrav, som ödelade deras ekonomier. Människor begick självmord. Tusentals barn togs ifrån sina familjer.
Nu har skattemyndigheten dömts till 3,7 miljoner euro i böter. Regeringen tvingades avgå. Och tiotusentals människor har fått sina liv ödelagda.
Det kan hända igen – Frankrike driver på.
Detta kan vara bra att känna till när EU nu är på väg att sjösätta sin AI Act. Hittills har man varit försiktig vad gäller att använda AI för brottsbekämpning, just på grund av att det ibland kan gå fruktansvärt fel.
Nu flaggar det franska EU-ordförandeskapet för en kursändring som leder till ökad användning av AI bland de rättsvårdande myndigheterna. Speciellt gäller detta polisens användning av biometrisk data.
Vilket i sin tur ligger helt i linje med EU:s långsiktiga ekonomiska stöd till system som samkör bland annat kameraövervakning med ansiktsigenkänning i realtid, övrig biometrisk data, AI-baserad beteendeanalys samt myndigheternas existerande och nya register. Redan för tio år sedan varnades för konsekvenserna av detta.
Inget datasystem är bättre än hur det utformas. Och självlärande AI-system tycks tendera att förvärra ogenomtänkt input över tid.
Som vanligt är det den som är oskyldig som har mest att frukta.
Länkar:
• Dutch scandal serves as a warning for Europe over risks of using algorithms »
• EU: AI Act: Plans to loosen controls on law enforcement use of artificial intelligence »
• Civil society calls on the EU to ban predictive AI systems in policing and criminal justice in the AI Act »
Kortvideo: Säg nej till EU:s nya nätcensur
Podcast om EU:s förbud mot anonyma krypotobetalningar, nätcensur och ChatControl
Jag medverkar i podcasten Bara Bitcoin – som denna gång inte bara handlar om Bitcoin.
Vi diskuterar bland annat EU:s förslag om förbud mot anonyma betalningar med kryptovaluta, nätcensur och Trusted Flaggers i EU:s nya Digital Services Act samt förslaget om av-kryptering och granskning av all e-post och alla elektroniska meddelanden (ChatControl2).
Låt inte EU införa nätcensur i tysthet
I EU:s Digital Services Act föreslås så kallade Trusted Flaggers, betrodda anmälare på svenska.
Myndigheter, intresseorganisationer, särintressen och andra kollektiva intressen kan få rollen som Trusted Flaggers.
En Trusted Flaggers uppgift är att identifiera sådant som denne anser vara olämpligt, på nätet.
Dessa skall få en direktlina till sociala media, för att ”rekommendera” vad som bör tas bort.
Och de sociala medieplattformarna lär i huvudsak göra som de blir tillsagda.
På vilket sätt är detta inte censur?
När blev det en bra idé att låta myndighetspersoner inskränka yttranden på nätet? Är det verkligen genomtänkt att ge organisationer makt över det fria ordet? Och med vilken rätt kommer dessa Trusted Flaggers att plocka bort icke olagligt innehåll?
Ja, icke olagligt innehåll. Olagligt material skall plockas bort ändå. Det står uttryckligen i samma förslag. Vad man tänker ta bort är icke olagligt material som man finner… olämpligt.
Så får det inte gå till i en rättsstat. Yttrandefrihetens gränser skall sättas av lag som tydligt slår fast vad som inte får sägas. Inte av byråkrater, aktivister, organisationer och deras agendor.
Detta känns inte helt genomtänkt. Inte minst är sammansmältningen mellan staten och olika organisationer problematisk.
På annat håll i EU:s Digital Services Act slås det fast att den som blir censurerad i sociala media skall ha någon rimlig form av möjlighet att överklaga ett sådant beslut. Och det är ju en bra sak, hur man nu tänkt hantera de stora mängder fall som kan förväntas.
Vad händer då om någon överklagar att innehåll censurerats på Facebook – om denna censur skett på anmodan av Trusted Flaggers? Är det Meta eller staten man skall processa mot?
Detta för att inte tala om hur systemet med Trusted Flaggers kan missbrukas i länder som Ungern.
Kommer religiösa organisationer att tillåtas bli Trusted Flaggers? De är ju vad förslaget uttryckligen vill ha, nämligen företrädare för »kollektiva intressen«. Greenpeace? LO? Svenskt Näringsliv?
Inse vad man håller på att ställa till med.
Låt inte EU införa nätcensur i tysthet.
EU-domstolen upprepar: Det är förbjudet att använda allmän datalagring
EU-domstolen har idag – återigen – slagit fast att medlemsstater inte kan använda sig av olaglig datalagring i rättsfall.
Med anledning av ett uppmärksammat rättsfall på Irland upprepar EU-domstolen att medlemsstater inte får använda den datalagring som redan ogiltigförklarats av densamma i sina nationella domstolar.
2014 upphävde domstolen EU:s datalagringsdirektiv. Den slog fast att allmän, urskiljningslös lagring av data om medborgarnas tele- och datakommunikationer inte får förekomma utan konkret misstanke om brott. Sådan lagring strider mot de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv och privat korrespondens.
Om datalagring alls skall förekomma måste den begränsas i omfattning och tid samt avse ett specifikt hot eller brott.
Vilket många medlemsstater i stort sett har struntat i. Domstolen skriver i ett pressmeddelande:
»The Court confirms that EU law precludes the general and indiscriminate retention of traffic and location data relating to electronic communications for the purposes of combating serious crime.
The national court may not impose a temporal limitation on the effects of a declaration of invalidity of a national law that provides for such retention.«
Dagens dom kan bli vägledande för domstolar i hela EU.
Länkar:
• EU-domstolens pressmeddelande (PDF) »
• Reuters: Top EU court says phone data cannot be held ’indiscriminately’ »
EU-förbud mot anonyma kryptobetalningar
Europaparlamentets utskott för mänskliga rättigheter (LIBE) respektive ekonomi (ECON) föreslår ett förbud mot anonyma kryptobetalningar. En förordning kan komma mycket snabbt.
Det började med att EU-kommissionen föreslog ett förbud mot anonyma kryptobetalningar över 1.000 euro, vilket är dumt nog i sig.
En reglering kommer inte bara att drabba kryptobranschen, utan även alla som sänder eller tar emot betalning i kryptovaluta. Allt måste registreras.
Innan kryptotillgångar realiseras skall den handelsplats du använder kontrollera att du inte ägnar dig åt penningtvätt eller terrorfinansiering. Det blir med andra ord samma tjafs som om du försöker hantera kontanter på banken.
Som vanligt blir resultatet att bara de stora, etablerade aktörerna kommer att ha råd med all administration, all juridik och allt krångel. Startups och andra mindre aktörer på kryptomarknaden kommer att slås ut.
Service providers som handelsplatser skall registreras och godkännas. Alla andra skall stoppas. Hur man nu tänkt sig att det skall gå till.
Även enskilda personer som har en fristående (self-hosted) kryptoplånbok måste hålla en förteckning över sina transaktioner. I detta fall verkar det dock som om anmälningsplikt uppstår först vid transaktioner på över 1.000 euro.
Utöver penningtvätt och terrorfinansiering anger man även Rysslands invasion av Ukraina som skäl till förslaget. Vilket är ironiskt då kryptovalutor kan vara räddningen för många på flykt som inte har tillgång till sin ukrainska bank.
Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) kommenterar förslaget:
»Banning anonymous crypto currency payments altogether would not have any significant effect on crime, but would deprive law-abiding citizens of their financial freedom. For example, opposition figures like Alexei Nawalny are increasingly dependent on anonymous donations in virtual currencies. Banks have also cut off donations to Wikileaks in the past. With the creeping abolition of real and virtual cash, there is the threat of negative interest rates and the shutting off of the money supply at any time. We should have a right to be able to pay and donate online without our financial transactions being recorded in a personalised way.«
»To disrupt the promising development of alternative and decentralised options in finance in this way is outrageous. We need to find ways to take the best features of cash into our digital future. The Pirates will continue to fight for the proposal to be thrown off the table.«
Detta för att inte nämna säkerhetsriskerna med nya databaser för transaktioner med kryptovaluta. En honungsburk för cyberskurkar och för dem som vill snoka i folks liv.
Elefanten i rummet är att resten av världen inte kommer att bry sig om EU:s nya regler. Eller har man tänkt blockera alla de miljontals aktörer som handlar med eller i kryptovalutor utanför unionen?
EU är på väg att stifta en lag som inte går att upprätthålla. Samtidigt gör den miljontals vanliga människor till brottslingar om de använder sina egna kryptotillgångar utan att det rapporteras till staten. Detta är tecken på en dålig lag.
Dessutom driver vi ännu en del av IT-branschen ut ur EU genom överdriven reglering, ogenomtänkta lagar och onödigt krångel. Kryptovalutor kommer att forma vår framtid. Men Europa kommer inte längre att vara i framkant. Det hela är häpnadsväckande inskränkt.
Så vad händer nu? Europaparlamentet skall rösta om saken i plenum. Det kan ske redan denna vecka, även om ärendet inte kommit upp på dagordningen ännu. Annars lär det bli i början av maj.
Sedan går frågan till trilogförhandlingar med ministerrådet och EU-kommissionen. Utfallet av dessa förhandlingar skall sedan godkännas av både ministerrådet och parlamentet. Sedan blir det lag. (Under vissa förutsättningar kan det gå ännu snabbare.)
Som det ser ut nu kommer parlamentet att rösta igenom utskottens förslag med bred majoritet – om det inte uppstår en folkstorm illa kvickt.
Länkar:
• Coindesk: EU Parliament Passes Privacy-Busting Crypto Rules Despite Industry Criticism »
• Euronews: EU lawmakers back tough traceability rules on crypto transfers in fight against money laundering »
• MEP Patrick Breyer (PP, DE): Digital cash: EU Parliament attacks anonymous payments in cryptocurrencies »