Femte juli

Nätet till folket!

Rättssäkerhet

Rätten till en opartisk och rättvis rättslig prövning samt principen om att människor skall betraktas som oskyldiga till dess motsatsen bevisats är centrala principer för en demokratisk rättsstat. Ändå urholkas dessa ständigt, i namn av än det ena, än det andra. I nätsammanhang kan det ofta handla om principen att ingen skall straffas eller censureras utan förgående rättslig prövning.

Överfiltrering är redan ett problem i sociala media

av

Efter attacken mot en moské i Nya Zeeland har Facebook och Youtube kämpat för att rensa bort nya uppladdningar av den live-stream som sändes av attentatsmannen.

Det rör sig om stora volymer och man har fått använda sig av automatisk filtrering för uppgiften. Detta är dock inte utan problem. EDRi förklarar:

”How many unrelated videos have been wrongfully removed by automatic filters? Facebook says, for example: “Out of respect for the people affected by this tragedy and the concerns of local authorities, we’re also removing all edited versions of the video that do not show graphic content.” This is information that is apparently not in violation of the rules of the platform (or even the law), but that is blocked out of deference to the next of kin.

However empathetic that might be, it also shows how much our public debate depends on the whims of one commercial company. What happens to videos of journalists reporting on the events? Or to a video by a victim’s relative, who uses parts of the recording in a commemorative video of her or his own? In short, it’s very problematic for a dominant platform to make such decisions.”

Det beskriver rätt väl problemet med automatisk filtrering. Resultatet blir överfiltrering utan någon hänsyn till den kontext i vilken publiceringen sker. Vilket i slutändan är till skada för det fria ordet.

EDRi: What the YouTube and Facebook statistics aren’t telling us »

Snowden om hur Assange särbehandlas av amerikanska myndigheter

av

”The DOJ’s defense of not charging Trump is look he tried to commit a crime but he failed to actually do this. And at the same time they’re charging Julian Assange under precisely the opposite theory. Where they say ‘Look, Julian may not have actually cracked a password—we don’t have any evidence that he did, we’re not even going to try to prove that he did, we’re going to say that the agreement to try is enough. (…) So this is a real question of a two-tiered system of justice.”

Edward Snowden om de dubbla måttstockar som uppenbarligen används av amerikanska myndigheter – om man jämför Mueller-rapporten med målet mot Julan Assange.

Länk: Edward Snowden: Assange’s Arrest and the Mueller Report Show a ‘Two-Tiered System of Justice’ »

De verkliga riskerna med AI

av

Artificiell intelligens – AI – är begreppet på allas läppar. Och debatten tycks till största delen röra sig i något slags science fiction-kontext. Tillspetsat är frågan om AI kan komma att bli självständigt och hota mänskligheten. Det är förvisso en intressant diskussion. Men det finns mer närstående och mer akuta frågor att diskutera. Detta speciellt som organisationer som EU, G7 och G20 nu försöker utforma en politik på området.

• AI – under vems kontroll och med vilket syfte?

AI – oavsett om det handlar om kompletta system eller enskilda applikationer – är oerhört kraftfulla verktyg. De kan till exempel användas för att manipulera opinionen, filtrera information eller rent av för att förtrycka människor.

Diskussionen har hitintills mest handlat om hur de etablerade nätjättarna kan komma att använda sådana verktyg. Vilket naturligtvis är på sin plats. Men vi får inte glömma hur de kan användas i statens och politikens händer. Detta speciellt i en tid då yttrandefriheten blir allt mer kringskuren och det fria flödet av information stryps genom politiska beslut.

Vi har redan system för massövervakning och datalagring som saknar motstycke i historien. Vad händer när all denna information kan analyseras, systematiseras och kontrolleras i stor skala med AI eller AI-liknande verktyg?

Hur kommer det att bli när överheten inser att AI kan användas för att manipulera folkets känslor och för politisk »nudging«? Eller för att påverka olika åsikters genomslag och spridning?

Här gäller det att vara ytterst uppmärksam på alla politiska initiativ – och att se till att de medborgerliga fri- och rättigheterna upprätthålls även i online-världen. Detta är rättigheter som redan urholkas i många små steg, inte minst genom beslut i EU.

• AI på riktigt?

Min andra farhåga är av en mer teknisk karaktär. Att utveckla AI är en gigantisk uppgift. Och alla vill vara med på tåget. Risken är att vi (i vart fall inledningsvis) kommer att möta mycket »fusk-AI« som egentligen inte är AI, utan mer en anpassning och återanvändning av redan existerande koncept och systemmoduler. Men som ändå kommer att användas och presenteras som om det handlade om fullvärdig AI.

Detta kan få märkliga och oönskade konsekvenser. Vi kan få se mycket av övervakning, kontroll och datalagring re-lanseras som AI med något överordnat syfte – trots att det egentligen bara handlar om vanlig massövervakning och vilja att snoka i människors privatliv.

AI kan i sig vara en risk. Och AI i EU:s, statens och politikernas händer är garanterat en risk.

/ HAX

• Techcrunch: Europe to pilot AI ethics rules, calls for participants »
• EU-kommissionen: Ethics guidelines for trustworthy AI »
• Europaparlamentet: EU planerar att investera 9,2 miljarder euro i viktig digital teknik »

Europaparlamentet röstar om terror-filter

av

Under onsdagen voterar Europaparlamentet om sin position avseende förordningen om terror-relaterat innehåll online.

Alla som har en website blir tvingade att se till att eventuellt terror-relaterat innehåll kommer bort inom en timma – och att det inte laddas upp igen.

Bland de punkter som Europaparlamentet har att ta ställning till finns frågan om man uttryckligen skall kräva uppladdningsfilter eller ej. Utskottet säger nej, men detta riskerar att ändras i plenarvoteringen. Dessutom kan man fråga sig vad parlamentet tror sig vinna genom att inte nämna ordet »uppladdningsfilter« – när förslaget ändå är skrivet så att det förutsätter att sådana måste användas.

Detta blir problematiskt på samma sätt som artikel 13/17 i upphovsrättsdirektivet: Det flyttar makten över det fria ordet från lagarna och våra domstolar – till privata företag och deras användarvillkor. Vilket är direkt olämpligt i en demokratisk rättsstat.

Läs även:
• Pirate MEP Julia Reda »
• Emanuel Karlstens analys »
• Techdirt »

Uppdatering: Parlamentet röstade igenom terrorlag som tvingar alla sajter att ta bort propaganda inom en timme »

Julian Assange – vad som står på spel

av

Wikileaks grundare och huvudredaktör Julian Assange har överlämnats av ecuadorianska myndigheter till brittisk polis.

OK, jag skulle inte heller vilja ha honom som inneboende. Men nu gäller det att reda ut vad som gäller – och vad i denna soppa som är viktigt.

Till att börja med kommer Assange att ställas till svars för att ha brutit mot de brittiska borgensreglerna. Detta kan ge honom böter eller ett kortare fängelsestraff.

Vad gäller de svenska sex-anklagelserna kommer signaler om att specialåklagare Ny överväger att öppna ärendet på nytt. Det fallet förefaller väldigt svagt. Men framförallt kanske Sverige inte vill ha första tjing på Assange – och bli tvunget att hantera den fullständiga skitstorm som kommer att utbryta när USA vill ha honom utlämnad.

Än så länge obekräftade uppgifter gör också gällande att USA redan har kommit med en begäran om att Assange skall utlämnas. Det finns ju ett mål förberett mot honom, även om detaljerna är hemliga. Och det är här det blir riktigt intressant.

I USA handlar det om att Wikileaks & Assange läckt information om makten och dess handlingar till allmänheten. Det vill säga att han har ägnat sig åt journalistisk verksamhet.

Wikileaks har läckt information om vad som verkligen skedde i krigen i Irak och Afghanistan. Vilket, om inte annat, amerikanska folket och amerikanska skattebetalare har rätt att veta.

Wikileaks har läckt de berömda amerikanska ambassadtelegrammen – som exponerade att så väl amerikanska som andra länders ledare har en dubbel agenda och aktivt försöker föra folket bakom ljuset. (Detta gäller även den svenska regeringen.)

Wikileaks har läckt interna mail från det amerikanska Demokratiska partiet – som bland annat visar hur dess makthavare fulspelat för att bli av med konkurrenter till Hillary Clinton i de senaste primärvalen.

Allt detta är utmärkt journalistiskt arbete. Det är sådant som traditionell media borde ha grävt upp och avslöjat. Och det är en demokratisk välgärning att exponera makten inför folket.

Det är detta som är det viktiga – och som riskerar att skymmas av allt annat i Cirkus Assange.

Uppdatering från Londonpolisen:

Julian Assange, 47, (03.07.71) has today, Thursday 11 April, been further arrested on behalf of the United States authorities, at 10:53hrs after his arrival at a central London police station. This is an extradition warrant under Section 73 of the Extradition Act. He will appear in custody at Westminster Magistrates’ Court later today (Thursday, 11 April).

Uppdatering 2: De amerikanska rättsliga dokumenten (PDF) »

Minister hotar dra in Bahnhofs tillstånd

av

I vad som kan betraktas som ett uttalande på gränsen till ministerstyre hotar inrikesminister Mikael Damberg (S) internetoperatören Bahnhof. Han riktar kritik mot att Bahnhof inte vill räta in sig i ledet om datalagringen och säger:

”Men om det är så att man vägrar följa svensk lagstiftning så har ju Post- och telestyrelsen olika verktyg. Man kan besluta om vite men man kan också ytterst återkalla operatörens tillstånd.”

Detta är mycket anmärkningsvärt. Speciellt som det är Bahnhof som följer lagen – och regeringen som envist obstruerar.

I ett brev till Expressens ledarredaktion redde Bahnhofs jurist nyligen ut begreppen:

”Alla operatörer har en skyldighet enligt ePrivacy-direktivet och LEK att radera uppgifter som de inte längre behöver. Om en operatör skulle spara uppgifter för att tillgodose andra behov bryter man både mot svensk lag och EU-rätten.”

Det skall i sammanhanget nämnas att EU-domstolen upphävt EU-direktivet om datalagring. Domstolen har även upprepade gånger ogiltigförklarat den svenska datalagringen. Vilket regeringen inte tycks bry sig om.

Länk: Damberg angriper Bahnhof: Skyddar kriminella »

Uppdatering: Bahnhofs vd: ”Rena maffiametoder från Mikael Damberg” »

IVA kritiserar EU:s nya direktiv om upphovsrätt

av

”Samtidigt sker en förskjutning av ansvar som en följd av direktivet. Detta kan ses som ett avsteg från svenska grundläggande principer inom området; de svenska mediegrundlagarna innehåller ett censurförbud vilket innebär att staten inte ska ha rätt att i förväg förhindra yttranden.”

Ingenjörsvetenskapsakademien kritiserar artikel 13/17 i EU:s nya upphovsrättsdirektiv »

Facebook skapar en egen »Högsta Domstol«

av

Frågan om vad som skall få publiceras på Facebook är aktuell, kontroversiell och känslig. Nu föreslår företaget en lösning – ett slags etiskt råd på 40 personer. Wired har fördjupat sig i förslaget:

Facebook will pick the initial cohort, saving it from the Kafkaesque process of drafting a separate committee to pick the final committee. After that, the members will pick their own successors, none of whom may be Facebook employees, past or present, or government officials. Board members will split into smaller panels to deliberate on individual cases and will choose their own dockets, based on referrals from Facebook users and from Facebook itself. Their collective decisions will be public, but their individual votes won’t be. (…)

With the board, Facebook is designing oversight in its own image. In doing so, it’s also opening itself up to a new wave of criticism about which 40 experts it considers to be worthy of the public trust.

Initiativet är begripligt. Möjligen kommer det att höja nivån på vissa beslut. Samtdigt är antalet fallgropar närmast oändligt.

Och i slutändan landar det i ett nu för tiden ständigt problem: Att makten över det fria ordet flyttas från lagarna och rättsväsendet till privata företag och deras användarvillkor.

Wired: Real Facebook Oversight Requires More Than a 40-Expert Board »

EU:s glömda förslag om automatiserad nätcensur

av

Samtidigt som debatten rasar om uppladdningsfiltret i EU:s nya direktiv om upphovsrätt finns ännu ett förslag som innehåller automatiserad nätcensur: Regulation on Dissemination of Terrorist Content Online.

Det handlar om en ny förordning som skall stoppa terrorelaterat innehåll på nätet. (Av erfarenhet vet vi att sådana förslag, på något magiskt sätt, snabbt brukar utökas med det luddiga begreppet hatfullt innehåll i största allmänhet.)

Förordningen stadgar inte bara att visst innehåll snabbt skall plockas bort av de plattformar där det publiceras. Den kräver även att sådant material inte skall kunna laddas upp igen, när det väl plockats ner.

Hur man än vänder och vrider på frågan – så innebär detta att allt som laddas upp måste granskas, analyseras och i förekommande fall censureras. Vilket är en övermänsklig uppgift. Så detta måste hanteras automatiskt.

Åter flyttas alltså frågan om yttrandefrihet och censur från lagar och domstolar till nätplattformarnas användarvillkor och algoritmer. Vilket inte är lämpligt i en demokratisk rättsstat.

Läs mer: WITNESS brings together voices to push back on dangerous EU “Dissemination of Terrorist Content” proposal »