Femte juli

Nätet till folket!

Rättssäkerhet

Rätten till en opartisk och rättvis rättslig prövning samt principen om att människor skall betraktas som oskyldiga till dess motsatsen bevisats är centrala principer för en demokratisk rättsstat. Ändå urholkas dessa ständigt, i namn av än det ena, än det andra. I nätsammanhang kan det ofta handla om principen att ingen skall straffas eller censureras utan förgående rättslig prövning.

Genomsökning av datorer och telefoner vid inresa till USA nu till domstol

av

EFF meddelar att man nu tillsammans med ACLU tar DHS genomsökning av data på resenärers datorer, plattor och mobiler till domstol.

The Electronic Frontier Foundation (EFF) and the ACLU today asked a federal court to rule without trial that the Department of Homeland Security violates the First and Fourth Amendments by searching travelers’ smartphones and laptops at airports and other U.S. ports of entry without a warrant.

The request for summary judgment comes after the groups obtained documents and deposition testimony revealing that U.S. Customs and Border Protection and U.S. Immigration and Customs Enforcement authorize border officials to search travelers’ phones and laptops for general law enforcement purposes, and consider requests from other government agencies when deciding whether to conduct such warrantless searches.

Förra året genomfördes 33.000 sådana kontroller.

Länk » New Documents Reveal DHS Asserting Broad, Unconstitutional Authority to Search Travelers’ Phones and Laptops »

Moment 22 i kampen mot massövervakning i USA

av

Electronic Frontier Foundation, EFF, försöker stoppa amerikansk massövervakning genom juridisk aktivism. Så här ser det senaste hindret i den kampen ut:

”The Justice Department insists that our legal fight against this spying is bound by a Catch-22: no one can sue unless the court first determines that they were certainly touched by the vast surveillance mechanisms of the NSA. But, the government argued successfully, the court cannot decide whether any particular person’s email, web searches, social media or phone calls were touched by the surveillance unless the government admits it. Which, of course, it will not do.”

Länk: Judge Dodges Legality of NSA Mass Spying, Citing Secrecy Claims »

Känslig personlig information blir tillgänglig för polisen i alla EU-länder

av

EU går vidare med sitt projekt för automatiserad informationsdelning mellan medlemsstaternas polismyndigheter.

Syftet är att öka de lokala polismyndigheternas tillgång till information för att bekämpa brottslighet, terrorism m.m.

Samtidigt skall man vara medveten om att detta även gäller medlemsstater som har brister vad gäller att upprätthålla rättsstatens principer. Och medlemsstater som har problem med korruption inom de rättsvårdande myndigheterna.

Ett problem me detta är risken för att känslig personlig information kommer att läcka till obehöriga, när den blir tillgänglig för polisen i 28 olika medlemsstater.

Statewatch: Police press ahead with efforts to automate cross-border data-sharing »

Behöver AI en värdegrund? I så fall vilken?

av

Debatten om artificiell intelligens – AI – är på väg in på ett nytt spår. Nu handlar det om vilken »värdegrund« AI-systemen skall utrustas med.

Här finns två kolliderande synsätt: Antingen att AI-system skall utgå från verkliga förhållanden, vara objektiva och neutrala – för att åstadkomma optimala resultat. Eller att framtidens AI bör utrustas med något slags värdegrund.

Båda synsätten har sina problem.

Ett »neutralt« AI kan bli överdrivet utilitaristiskt på ett sätt som strider mot humanistiska principer, rättsstatens grunder och de demokratiska värdena.

Ett moraliskt riggat AI måste å andra sidan matas med något slags värdegrund. Frågan är då vilken värdegrund. Och vem som skall bestämma över detta.

(Sedan är AI naturligtvis inte ett universellt system, utan många olika.)

Detta är frågor som redan diskuteras och där det kan bli fråga om politiska beslut.

EU vill ta fram ett etiskt regelverk för AI. I den sammanfattande beskrivningen kan vi bland annat läsa… »AI systems should be used to enhance positive social change and enhance sustainability and ecological responsibility.« Vilket i sig är parametrar som öppnar för många olika, subjektiva tolkningar.

Samtidigt menar en del forskare att det är ett problem att AI främst utvecklas av vita, heterosexuella män…

Man kan även fundera över vad AI kommer att innebära vad gäller frågor som centralplanering, övervakning och maktutövning i vidare termer. Dessa verktyg kommer att kunna användas för att manipulera folket – och för att förtrycka det. I det fördolda eller öppet. Detta är dock en aspekt av frågan som i princip inte alls diskuteras.

Länkar:
• Europe to pilot AI ethics rules, calls for participants »
• Forskare varnar för diskriminerande artificiell intelligens »

USA tycks förbereda spioneri-åtal mot Julian Assange

av

USA har som bekant begärt Wikileaks grundare och huvudredaktör Julian Assange utlämnad från Storbritannien. Detta rör ett fall av misstänkt (men inte fullbordat) fall av dataintrång, med ett maximalt straff på fem år i fängelse.

Det är många som misstänkt att detta bara är en täckmantel för att få Assange utlämnad. Och när han sedan är på amerikansk mark – då kan man åtala honom för ytterligare brott. Till exempel spioneri, som kan ge dödsstraff.

Tyska Netzpolitik.org rapporterar:

”Right after the London police carried Julian Assange from the Ecuadorian embassy, the United States demanded his extradition. A March 2018 indictment charges him with conspiracy to commit computer intrusion, carrying a maximum penalty of five years in prison. But that is not the entire truth.

Only one day after writing the indictment, the US Attorney’s Office admitted it was also investigating Assange for the „unauthorized receipt and dissemination of secret information“. That is what the Department of Justice wrote in a letter to former WikiLeaks spokesperson Daniel Domscheit-Berg, which we are publishing in full.”

Om detta stämmer, då har det betydelse för det brittiska utlämningsärendet. Storbritannien får inte utvisa människor till länder där de riskerar dödsstraff.

Brevet från United States Department of Justice och United States Attorney’s Office som bekräftar den utökade amerikanska utredningen publiceras i sin helhet i den länkade texten nedan.

Netzpolitik: WikiLeaks: The US is indeed investigating Assange for publishing secret information, DOJ letter suggests »

Överfiltrering är redan ett problem i sociala media

av

Efter attacken mot en moské i Nya Zeeland har Facebook och Youtube kämpat för att rensa bort nya uppladdningar av den live-stream som sändes av attentatsmannen.

Det rör sig om stora volymer och man har fått använda sig av automatisk filtrering för uppgiften. Detta är dock inte utan problem. EDRi förklarar:

”How many unrelated videos have been wrongfully removed by automatic filters? Facebook says, for example: “Out of respect for the people affected by this tragedy and the concerns of local authorities, we’re also removing all edited versions of the video that do not show graphic content.” This is information that is apparently not in violation of the rules of the platform (or even the law), but that is blocked out of deference to the next of kin.

However empathetic that might be, it also shows how much our public debate depends on the whims of one commercial company. What happens to videos of journalists reporting on the events? Or to a video by a victim’s relative, who uses parts of the recording in a commemorative video of her or his own? In short, it’s very problematic for a dominant platform to make such decisions.”

Det beskriver rätt väl problemet med automatisk filtrering. Resultatet blir överfiltrering utan någon hänsyn till den kontext i vilken publiceringen sker. Vilket i slutändan är till skada för det fria ordet.

EDRi: What the YouTube and Facebook statistics aren’t telling us »

Snowden om hur Assange särbehandlas av amerikanska myndigheter

av

”The DOJ’s defense of not charging Trump is look he tried to commit a crime but he failed to actually do this. And at the same time they’re charging Julian Assange under precisely the opposite theory. Where they say ‘Look, Julian may not have actually cracked a password—we don’t have any evidence that he did, we’re not even going to try to prove that he did, we’re going to say that the agreement to try is enough. (…) So this is a real question of a two-tiered system of justice.”

Edward Snowden om de dubbla måttstockar som uppenbarligen används av amerikanska myndigheter – om man jämför Mueller-rapporten med målet mot Julan Assange.

Länk: Edward Snowden: Assange’s Arrest and the Mueller Report Show a ‘Two-Tiered System of Justice’ »

De verkliga riskerna med AI

av

Artificiell intelligens – AI – är begreppet på allas läppar. Och debatten tycks till största delen röra sig i något slags science fiction-kontext. Tillspetsat är frågan om AI kan komma att bli självständigt och hota mänskligheten. Det är förvisso en intressant diskussion. Men det finns mer närstående och mer akuta frågor att diskutera. Detta speciellt som organisationer som EU, G7 och G20 nu försöker utforma en politik på området.

• AI – under vems kontroll och med vilket syfte?

AI – oavsett om det handlar om kompletta system eller enskilda applikationer – är oerhört kraftfulla verktyg. De kan till exempel användas för att manipulera opinionen, filtrera information eller rent av för att förtrycka människor.

Diskussionen har hitintills mest handlat om hur de etablerade nätjättarna kan komma att använda sådana verktyg. Vilket naturligtvis är på sin plats. Men vi får inte glömma hur de kan användas i statens och politikens händer. Detta speciellt i en tid då yttrandefriheten blir allt mer kringskuren och det fria flödet av information stryps genom politiska beslut.

Vi har redan system för massövervakning och datalagring som saknar motstycke i historien. Vad händer när all denna information kan analyseras, systematiseras och kontrolleras i stor skala med AI eller AI-liknande verktyg?

Hur kommer det att bli när överheten inser att AI kan användas för att manipulera folkets känslor och för politisk »nudging«? Eller för att påverka olika åsikters genomslag och spridning?

Här gäller det att vara ytterst uppmärksam på alla politiska initiativ – och att se till att de medborgerliga fri- och rättigheterna upprätthålls även i online-världen. Detta är rättigheter som redan urholkas i många små steg, inte minst genom beslut i EU.

• AI på riktigt?

Min andra farhåga är av en mer teknisk karaktär. Att utveckla AI är en gigantisk uppgift. Och alla vill vara med på tåget. Risken är att vi (i vart fall inledningsvis) kommer att möta mycket »fusk-AI« som egentligen inte är AI, utan mer en anpassning och återanvändning av redan existerande koncept och systemmoduler. Men som ändå kommer att användas och presenteras som om det handlade om fullvärdig AI.

Detta kan få märkliga och oönskade konsekvenser. Vi kan få se mycket av övervakning, kontroll och datalagring re-lanseras som AI med något överordnat syfte – trots att det egentligen bara handlar om vanlig massövervakning och vilja att snoka i människors privatliv.

AI kan i sig vara en risk. Och AI i EU:s, statens och politikernas händer är garanterat en risk.

/ HAX

• Techcrunch: Europe to pilot AI ethics rules, calls for participants »
• EU-kommissionen: Ethics guidelines for trustworthy AI »
• Europaparlamentet: EU planerar att investera 9,2 miljarder euro i viktig digital teknik »

Europaparlamentet röstar om terror-filter

av

Under onsdagen voterar Europaparlamentet om sin position avseende förordningen om terror-relaterat innehåll online.

Alla som har en website blir tvingade att se till att eventuellt terror-relaterat innehåll kommer bort inom en timma – och att det inte laddas upp igen.

Bland de punkter som Europaparlamentet har att ta ställning till finns frågan om man uttryckligen skall kräva uppladdningsfilter eller ej. Utskottet säger nej, men detta riskerar att ändras i plenarvoteringen. Dessutom kan man fråga sig vad parlamentet tror sig vinna genom att inte nämna ordet »uppladdningsfilter« – när förslaget ändå är skrivet så att det förutsätter att sådana måste användas.

Detta blir problematiskt på samma sätt som artikel 13/17 i upphovsrättsdirektivet: Det flyttar makten över det fria ordet från lagarna och våra domstolar – till privata företag och deras användarvillkor. Vilket är direkt olämpligt i en demokratisk rättsstat.

Läs även:
• Pirate MEP Julia Reda »
• Emanuel Karlstens analys »
• Techdirt »

Uppdatering: Parlamentet röstade igenom terrorlag som tvingar alla sajter att ta bort propaganda inom en timme »