Femte juli Nätet till folket!

Nätet till folket!

Storebror

Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.

Faran med dåliga AI-system i statens tjänst

av 1 kommentar

Myndigheters användning av AI för kontroll av medborgarna har redan fått förfärande konsekvenser. Nu vill EU:s franska ordförandeskap utöka användningen.

I Nederländerna använde skattemyndigheten en dålig självlärande algoritm för att komma till rätta med bidragsfusk bland barnfamiljer. Resultatet blev katastrofalt.

Tiotusentals oskyldiga familjer drabbades av stora återbetalningskrav, som ödelade deras ekonomier. Människor begick självmord. Tusentals barn togs ifrån sina familjer.

Nu har skattemyndigheten dömts till 3,7 miljoner euro i böter. Regeringen tvingades avgå. Och tiotusentals människor har fått sina liv ödelagda.

Det kan hända igen – Frankrike driver på.

Detta kan vara bra att känna till när EU nu är på väg att sjösätta sin AI Act. Hittills har man varit försiktig vad gäller att använda AI för brottsbekämpning, just på grund av att det ibland kan gå fruktansvärt fel.

Nu flaggar det franska EU-ordförandeskapet för en kursändring som leder till ökad användning av AI bland de rättsvårdande myndigheterna. Speciellt gäller detta polisens användning av biometrisk data.

Vilket i sin tur ligger helt i linje med EU:s långsiktiga ekonomiska stöd till system som samkör bland annat kameraövervakning med ansiktsigenkänning i realtid, övrig biometrisk data, AI-baserad beteendeanalys samt myndigheternas existerande och nya register. Redan för tio år sedan varnades för konsekvenserna av detta.

Inget datasystem är bättre än hur det utformas. Och självlärande AI-system tycks tendera att förvärra ogenomtänkt input över tid.

Som vanligt är det den som är oskyldig som har mest att frukta.

Länkar:
• Dutch scandal serves as a warning for Europe over risks of using algorithms »
• EU: AI Act: Plans to loosen controls on law enforcement use of artificial intelligence »
• Civil society calls on the EU to ban predictive AI systems in policing and criminal justice in the AI Act »

Podcast om EU:s förbud mot anonyma krypotobetalningar, nätcensur och ChatControl

av Lämna en kommentar

Jag medverkar i podcasten Bara Bitcoin – som denna gång inte bara handlar om Bitcoin.

Vi diskuterar bland annat EU:s förslag om förbud mot anonyma betalningar med kryptovaluta, nätcensur och Trusted Flaggers i EU:s nya Digital Services Act samt förslaget om av-kryptering och granskning av all e-post och alla elektroniska meddelanden (ChatControl2).

Lyssna på Spotify eller där poddar finns »

Låt inte EU införa nätcensur i tysthet

av 4 kommentarer

I EU:s Digital Services Act föreslås så kallade Trusted Flaggers, betrodda anmälare på svenska.

Myndigheter, intresseorganisationer, särintressen och andra kollektiva intressen kan få rollen som Trusted Flaggers.

En Trusted Flaggers uppgift är att identifiera sådant som denne anser vara olämpligt, på nätet.

Dessa skall få en direktlina till sociala media, för att ”rekommendera” vad som bör tas bort.

Och de sociala medieplattformarna lär i huvudsak göra som de blir tillsagda.

På vilket sätt är detta inte censur?

När blev det en bra idé att låta myndighetspersoner inskränka yttranden på nätet? Är det verkligen genomtänkt att ge organisationer makt över det fria ordet? Och med vilken rätt kommer dessa Trusted Flaggers att plocka bort icke olagligt innehåll?

Ja, icke olagligt innehåll. Olagligt material skall plockas bort ändå. Det står uttryckligen i samma förslag. Vad man tänker ta bort är icke olagligt material som man finner… olämpligt.

Så får det inte gå till i en rättsstat. Yttrandefrihetens gränser skall sättas av lag som tydligt slår fast vad som inte får sägas. Inte av byråkrater, aktivister, organisationer och deras agendor.

Detta känns inte helt genomtänkt. Inte minst är sammansmältningen mellan staten och olika organisationer problematisk.

På annat håll i EU:s Digital Services Act slås det fast att den som blir censurerad i sociala media skall ha någon rimlig form av möjlighet att överklaga ett sådant beslut. Och det är ju en bra sak, hur man nu tänkt hantera de stora mängder fall som kan förväntas.

Vad händer då om någon överklagar att innehåll censurerats på Facebook – om denna censur skett på anmodan av Trusted Flaggers? Är det Meta eller staten man skall processa mot?

Detta för att inte tala om hur systemet med Trusted Flaggers kan missbrukas i länder som Ungern.

Kommer religiösa organisationer att tillåtas bli Trusted Flaggers? De är ju vad förslaget uttryckligen vill ha, nämligen företrädare för »kollektiva intressen«. Greenpeace? LO? Svenskt Näringsliv?

Inse vad man håller på att ställa till med.

Låt inte EU införa nätcensur i tysthet.

EU-domstolen upprepar: Det är förbjudet att använda allmän datalagring

av 2 kommentarer

EU-domstolen har idag – återigen – slagit fast att medlemsstater inte kan använda sig av olaglig datalagring i rättsfall.

Med anledning av ett uppmärksammat rättsfall på Irland upprepar EU-domstolen att medlemsstater inte får använda den datalagring som redan ogiltigförklarats av densamma i sina nationella domstolar.

2014 upphävde domstolen EU:s datalagringsdirektiv. Den slog fast att allmän, urskiljningslös lagring av data om medborgarnas tele- och datakommunikationer inte får förekomma utan konkret misstanke om brott. Sådan lagring strider mot de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv och privat korrespondens.

Om datalagring alls skall förekomma måste den begränsas i omfattning och tid samt avse ett specifikt hot eller brott.

Vilket många medlemsstater i stort sett har struntat i. Domstolen skriver i ett pressmeddelande:

»The Court confirms that EU law precludes the general and indiscriminate retention of traffic and location data relating to electronic communications for the purposes of combating serious crime.

The national court may not impose a temporal limitation on the effects of a declaration of invalidity of a national law that provides for such retention.«

Dagens dom kan bli vägledande för domstolar i hela EU.

Länkar:
• EU-domstolens pressmeddelande (PDF) »
• Reuters: Top EU court says phone data cannot be held ’indiscriminately’ »

EU-förbud mot anonyma kryptobetalningar

av Lämna en kommentar

Europaparlamentets utskott för mänskliga rättigheter (LIBE) respektive ekonomi (ECON) föreslår ett förbud mot anonyma kryptobetalningar. En förordning kan komma mycket snabbt.

Det började med att EU-kommissionen föreslog ett förbud mot anonyma kryptobetalningar över 1.000 euro, vilket är dumt nog i sig.

En reglering kommer inte bara att drabba kryptobranschen, utan även alla som sänder eller tar emot betalning i kryptovaluta. Allt måste registreras.

Innan kryptotillgångar realiseras skall den handelsplats du använder kontrollera att du inte ägnar dig åt penningtvätt eller terrorfinansiering. Det blir med andra ord samma tjafs som om du försöker hantera kontanter på banken.

Som vanligt blir resultatet att bara de stora, etablerade aktörerna kommer att ha råd med all administration, all juridik och allt krångel. Startups och andra mindre aktörer på kryptomarknaden kommer att slås ut.

Service providers som handelsplatser skall registreras och godkännas. Alla andra skall stoppas. Hur man nu tänkt sig att det skall gå till.

Även enskilda personer som har en fristående (self-hosted) kryptoplånbok måste hålla en förteckning över sina transaktioner. I detta fall verkar det dock som om anmälningsplikt uppstår först vid transaktioner på över 1.000 euro.

Utöver penningtvätt och terrorfinansiering anger man även Rysslands invasion av Ukraina som skäl till förslaget. Vilket är ironiskt då kryptovalutor kan vara räddningen för många på flykt som inte har tillgång till sin ukrainska bank.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) kommenterar förslaget:

»Banning anonymous crypto currency payments altogether would not have any significant effect on crime, but would deprive law-abiding citizens of their financial freedom. For example, opposition figures like Alexei Nawalny are increasingly dependent on anonymous donations in virtual currencies. Banks have also cut off donations to Wikileaks in the past. With the creeping abolition of real and virtual cash, there is the threat of negative interest rates and the shutting off of the money supply at any time. We should have a right to be able to pay and donate online without our financial transactions being recorded in a personalised way.«

»To disrupt the promising development of alternative and decentralised options in finance in this way is outrageous. We need to find ways to take the best features of cash into our digital future. The Pirates will continue to fight for the proposal to be thrown off the table.«

Detta för att inte nämna säkerhetsriskerna med nya databaser för transaktioner med kryptovaluta. En honungsburk för cyberskurkar och för dem som vill snoka i folks liv.

Elefanten i rummet är att resten av världen inte kommer att bry sig om EU:s nya regler. Eller har man tänkt blockera alla de miljontals aktörer som handlar med eller i kryptovalutor utanför unionen?

EU är på väg att stifta en lag som inte går att upprätthålla. Samtidigt gör den miljontals vanliga människor till brottslingar om de använder sina egna kryptotillgångar utan att det rapporteras till staten. Detta är tecken på en dålig lag.

Dessutom driver vi ännu en del av IT-branschen ut ur EU genom överdriven reglering, ogenomtänkta lagar och onödigt krångel. Kryptovalutor kommer att forma vår framtid. Men Europa kommer inte längre att vara i framkant. Det hela är häpnadsväckande inskränkt.

Så vad händer nu? Europaparlamentet skall rösta om saken i plenum. Det kan ske redan denna vecka, även om ärendet inte kommit upp på dagordningen ännu. Annars lär det bli i början av maj.

Sedan går frågan till trilogförhandlingar med ministerrådet och EU-kommissionen. Utfallet av dessa förhandlingar skall sedan godkännas av både ministerrådet och parlamentet. Sedan blir det lag. (Under vissa förutsättningar kan det gå ännu snabbare.)

Som det ser ut nu kommer parlamentet att rösta igenom utskottens förslag med bred majoritet – om det inte uppstår en folkstorm illa kvickt.

Länkar:
• Coindesk: EU Parliament Passes Privacy-Busting Crypto Rules Despite Industry Criticism »
• Euronews: EU lawmakers back tough traceability rules on crypto transfers in fight against money laundering »
• MEP Patrick Breyer (PP, DE): Digital cash: EU Parliament attacks anonymous payments in cryptocurrencies »

EU:s nya nätcensur – enkelt förklarad

av 1 kommentar

De flesta inser att censur är något problematiskt och dåligt.

Censur är förtryck av vissa yttranden och åsikter. Därför bör censur förekomma så lite som möjligt i en demokratisk rättstat.

Med censur blir den demokratiska processen en meningslös gest, då olika åsikter inte längre kan brytas mot varandra.

Utan ett fritt utbyte av tankar blir opposition omöjlig. Samhället stagnerar.

Idiotiska påståenden skall bemötas i en fri, öppen debatt – inte censureras.

Skall yttrandefriheten ändå begränsas, då måste det ske genom lag som stiftas i en transparent, demokratisk process – och som tydligt anger vad det är som inte får sägas.

De flesta inser att ett fritt och öppet internet är en förutsättning för vårt moderna samhälle.

Kampen för ett fritt internet handlar inte bara om att slippa bli övervakad, censurerad och kartlagd.

Det är även en kamp för själens frihet, samarbete, kreativitet, marknad och samhällets allmänna utveckling.

Därför är inskränkningar av internets frihet inte bara en fråga för den som är intresserad av nätpolitik – utan något som berör alla.

Internet är ett verktyg för framåtskridande. Därför måste dess frihet upprätthållas.

Så långt har vi alltså noterat att censur är dåligt och att ett fritt och öppet internet är viktigt.

Då är frågan varför ingen bryr sig när EU nu inför censur av internet.

Myndigheter, intresseorganisationer, särintressen och ”företrädare för kollektiva intressen” kommer att tilldelas rollen som Trusted Flaggers. Betrodda anmälare, på svenska.

Dessa skall ha en direktlinje till sociala media, för att rekommendera vilket innehåll som skall plockas bort.

Notera nu att detta inte handlar om olaglig information. Sådan kommer att plockas bort ändå.

Detta handlar om lagligt innehåll som anses olämpligt.

Varpå vi överger principen att yttrandefrihetens gränser skall sättas genom lag.

Då blir det istället byråkrater, lobbyorganisationer och särintressen som bestämmer vad som får sägas och skrivas – utifrån sina subjektiva premisser och referensramar.

Vad kan väl möjligen gå fel?

Trusted Flaggers är en del av EU:s nya Digital Services Act. Ingen tycks bry sig eller reagera. Inga kritiska politiska röster hörs. Inget intresse uppvisas från medias sida. Ingen debatt förs.

Varannan svensk vågar inte uttrycka sin åsikt

av Lämna en kommentar

Varannan svensk ägnar sig åt självcensur. Och halva befolkningen vill inskränka sina meningsmotståndares demokratiska rättigheter.

SOM-institutet har genomfört en opinionsundersökning med en del uppseendeväckande resultat.

  • 53% av svenskarna svarade att de inte anser sig kunna tala öppet om sina uppfattningar eftersom andra kan tycka att de är stötande.
  • 21% av svenskarna kan tänka sig att inskränka den grundlags­stadgade rätten att få uttrycka sina åsikter i tal och skrift, för grupper de själva ogillar.
  • C:a 35% är beredda att upphäva dessa gruppers rätt att demonstrera eller att bilda en organisation.
  • 45% ansåg att personer som tillhör den ogillade gruppen inte borde få kandidera till riksdagen.
  • De mest ogillade grupperna var sverigedemokrater, vaccinmotståndare, abortmotståndare och muslimer.
  • Minst toleranta mot andra är de som sympatiserar med Sverigedemokraterna och Socialdemokraterna.

Hälften av svenskarna vågar alltså inte säga vad de tycker. Och nästan hälften av befolkningen vill inskränka de demokratiska rättigheterna för andra, vars åsikter man inte delar.

Vad är det för demokrati om hälften av befolkningen skräms till tystnad?

Principen om allas lika rättigheter är central för en demokratisk rättsstat. Det är när man lämnat den som man öppnat för historiens mörkaste kapitel.

Givet dessa siffror är det kanske inte konstigt att så få bryr sig när internets frihet inskränks, information censureras och kontrollstaten rullas ut.

• Läs mer: Intolerans och självcensur präglar det politiska klimatet »

Oklart om överföring av persondata från EU till USA, trots uppgifter om provisoriskt avtal

av Lämna en kommentar

Ännu en gång annonseras ett avtal om överföring av persondata från EU till USA. Och ännu en gång tycks man ha missat kärnfrågan.

Det har meddelats att EU och USA har ingått ett nytt preliminärt avtal för att reglera överföring av europeisk persondata (från Facebook, Google och många andra) till USA.

Någon text att ta ställning till finns dock inte ännu. Och man har inte förklarat hur man tänkt komma runt de problem som fällde den senaste varianten av EU-US Privacy Shield.

Kärnfrågan gäller EU:s dataskyddsförordning (GDPR) och risken för att europeisk användardata kan komma att hamna i den amerikanska massövervakningens händer.

Enkelt uttryckt vill EU att samma skydd skall gälla för persondata som överförs till USA som för persondata som lagras i EU.

Kommer man inte runt detta, då är risken uppenbar att EU-domstolen kommer att ogiltigförklara avtalet, på samma grund som de tidigare varianterna.

Och än så länge finns inga tecken på att den underliggande principfrågan är löst.

Juristen Max Schrems driver motståndet mot överföring av persondata till USA som inte håller europeisk standard. Han säger:

»We already had a purely political deal in 2015 that had no legal basis. From what you hear we could play the same game a third time now. The deal was apparently a symbol that von der Leyen wanted, but does not have support among experts in Brussels, as the US did not move.«

Det ser med andra ord ut som om överföringen av persondata från EU till USA kommer att hänga i luften ett tag till. Tyvärr, då detta innebär stor osäkerhet för många företag.

Länkar:
• Början på slutet på molnkaoset? Nytt provisoriskt avtal mellan USA och EU »
• ”Privacy Shield 2.0”? – First Reaction by Max Schrems »
• EU, US strike preliminary deal to unlock transatlantic data flows »

Relaterat:
• Bakgrund: Dragkampen om överföring av persondata mellan EU och USA »