Överfiltrering är redan ett problem i sociala media

Efter attacken mot en moské i Nya Zeeland har Facebook och Youtube kämpat för att rensa bort nya uppladdningar av den live-stream som sändes av attentatsmannen.

Det rör sig om stora volymer och man har fått använda sig av automatisk filtrering för uppgiften. Detta är dock inte utan problem. EDRi förklarar:

”How many unrelated videos have been wrongfully removed by automatic filters? Facebook says, for example: “Out of respect for the people affected by this tragedy and the concerns of local authorities, we’re also removing all edited versions of the video that do not show graphic content.” This is information that is apparently not in violation of the rules of the platform (or even the law), but that is blocked out of deference to the next of kin.

However empathetic that might be, it also shows how much our public debate depends on the whims of one commercial company. What happens to videos of journalists reporting on the events? Or to a video by a victim’s relative, who uses parts of the recording in a commemorative video of her or his own? In short, it’s very problematic for a dominant platform to make such decisions.”

Det beskriver rätt väl problemet med automatisk filtrering. Resultatet blir överfiltrering utan någon hänsyn till den kontext i vilken publiceringen sker. Vilket i slutändan är till skada för det fria ordet.

EDRi: What the YouTube and Facebook statistics aren’t telling us »

Dubbla budskap från EU om framtidens digitala teknik

Europaparlamentet meddelar att »EU planerar att investera 9,2 miljarder euro i viktig digital teknik«. Bland de områden som räknas upp finns »höghastighetsdatorer, artificell intelligens, cybersäkerhet och digital kompetens«.

Å ena sidan är det bra att EU insett att Europa håller på att hamna på efterkälken vad gäller framtidens digitala teknik.

Å andra sidan kan man undra vad det tjänar till att kasta skattepengar på denna digitala teknik – när man samtidigt reglerar internet så hårt att startups och riskkapitalister hellre gör sina satsningar utanför EU.

Det är lite som att EU trycker bromsen och gasen i botten samtidigt.

Europaparlamentet: EU planerar att investera 9,2 miljarder euro i viktig digital teknik »

EU vill ha undantag från Facebook-regler mot utländsk påverkan i EU-valet

I svallvågorna efter Trump, Brexit och Cambridge Analytica har Facebook skärpt upp reglerna för politisk annonsering. Till exempel kräver man nu en registrerad kontakt i det land mot vilket politiska annonser riktar sig. Detta för att undvika manipulation och utländsk påverkan.

Man skulle kunna tro att detta skulle välkomnas av de politiker som kritiserat Facebook. Men tvärt om, EU:s institutioner och politiska grupper tycker det är för besvärligt. Så de vill ha ett undantag från de regler som gäller för alla andra.

EUobserver skriver om saken – och noterar i förbigående…

”With European tech unable to offer any meaningful alternative to challenge Facebook’s dominance, pan-European political groups are forced to use its services.”

Vilket blir en smula absurt, med tanke på att EU är på väg att reglera sönder internet – och därmed driva de startups som skulle kunna bli morgondagens konkurrenter till Facebook att etablera sig utanför Europa.

Länk: EU want Facebook pan-EU advert fix for May elections »

Snowden om hur Assange särbehandlas av amerikanska myndigheter

”The DOJ’s defense of not charging Trump is look he tried to commit a crime but he failed to actually do this. And at the same time they’re charging Julian Assange under precisely the opposite theory. Where they say ‘Look, Julian may not have actually cracked a password—we don’t have any evidence that he did, we’re not even going to try to prove that he did, we’re going to say that the agreement to try is enough. (…) So this is a real question of a two-tiered system of justice.”

Edward Snowden om de dubbla måttstockar som uppenbarligen används av amerikanska myndigheter – om man jämför Mueller-rapporten med målet mot Julan Assange.

Länk: Edward Snowden: Assange’s Arrest and the Mueller Report Show a ‘Two-Tiered System of Justice’ »

De verkliga riskerna med AI

Artificiell intelligens – AI – är begreppet på allas läppar. Och debatten tycks till största delen röra sig i något slags science fiction-kontext. Tillspetsat är frågan om AI kan komma att bli självständigt och hota mänskligheten. Det är förvisso en intressant diskussion. Men det finns mer närstående och mer akuta frågor att diskutera. Detta speciellt som organisationer som EU, G7 och G20 nu försöker utforma en politik på området.

• AI – under vems kontroll och med vilket syfte?

AI – oavsett om det handlar om kompletta system eller enskilda applikationer – är oerhört kraftfulla verktyg. De kan till exempel användas för att manipulera opinionen, filtrera information eller rent av för att förtrycka människor.

Diskussionen har hitintills mest handlat om hur de etablerade nätjättarna kan komma att använda sådana verktyg. Vilket naturligtvis är på sin plats. Men vi får inte glömma hur de kan användas i statens och politikens händer. Detta speciellt i en tid då yttrandefriheten blir allt mer kringskuren och det fria flödet av information stryps genom politiska beslut.

Vi har redan system för massövervakning och datalagring som saknar motstycke i historien. Vad händer när all denna information kan analyseras, systematiseras och kontrolleras i stor skala med AI eller AI-liknande verktyg?

Hur kommer det att bli när överheten inser att AI kan användas för att manipulera folkets känslor och för politisk »nudging«? Eller för att påverka olika åsikters genomslag och spridning?

Här gäller det att vara ytterst uppmärksam på alla politiska initiativ – och att se till att de medborgerliga fri- och rättigheterna upprätthålls även i online-världen. Detta är rättigheter som redan urholkas i många små steg, inte minst genom beslut i EU.

• AI på riktigt?

Min andra farhåga är av en mer teknisk karaktär. Att utveckla AI är en gigantisk uppgift. Och alla vill vara med på tåget. Risken är att vi (i vart fall inledningsvis) kommer att möta mycket »fusk-AI« som egentligen inte är AI, utan mer en anpassning och återanvändning av redan existerande koncept och systemmoduler. Men som ändå kommer att användas och presenteras som om det handlade om fullvärdig AI.

Detta kan få märkliga och oönskade konsekvenser. Vi kan få se mycket av övervakning, kontroll och datalagring re-lanseras som AI med något överordnat syfte – trots att det egentligen bara handlar om vanlig massövervakning och vilja att snoka i människors privatliv.

AI kan i sig vara en risk. Och AI i EU:s, statens och politikernas händer är garanterat en risk.

/ HAX

• Techcrunch: Europe to pilot AI ethics rules, calls for participants »
• EU-kommissionen: Ethics guidelines for trustworthy AI »
• Europaparlamentet: EU planerar att investera 9,2 miljarder euro i viktig digital teknik »

Artikel 13 kan falla på grund av frihandelsavtal med Kanada

EU-apparaten är så stor och komplex att snart sagt varje beslut som fattas får oväntade konsekvenser någon annanstans i systemet. Här är en intressant artikel hos Techdirt på detta tema:

Could Article 13’s Upload Filters Be Thrown Out Because Of The EU-Canada Trade Deal CETA? »

Texten tar upp hur artikel 13 i EU:s nya upphovsrättsdirektiv dels står i strid med EU:s eHandels-direktiv – dels hur det kolliderar med EU:s frihandelsavtal med Kanada, CETA.

Här finns utrymme för massor av juridisk aktivism för att stoppa EU:s uppladdningsfilter. Men tyvärr måste direktivet nog implementeras i nationell lagstiftning innan frågan går till domstol.

Europaparlamentet röstar om terror-filter

Under onsdagen voterar Europaparlamentet om sin position avseende förordningen om terror-relaterat innehåll online.

Alla som har en website blir tvingade att se till att eventuellt terror-relaterat innehåll kommer bort inom en timma – och att det inte laddas upp igen.

Bland de punkter som Europaparlamentet har att ta ställning till finns frågan om man uttryckligen skall kräva uppladdningsfilter eller ej. Utskottet säger nej, men detta riskerar att ändras i plenarvoteringen. Dessutom kan man fråga sig vad parlamentet tror sig vinna genom att inte nämna ordet »uppladdningsfilter« – när förslaget ändå är skrivet så att det förutsätter att sådana måste användas.

Detta blir problematiskt på samma sätt som artikel 13/17 i upphovsrättsdirektivet: Det flyttar makten över det fria ordet från lagarna och våra domstolar – till privata företag och deras användarvillkor. Vilket är direkt olämpligt i en demokratisk rättsstat.

Läs även:
• Pirate MEP Julia Reda »
• Emanuel Karlstens analys »
• Techdirt »

Uppdatering: Parlamentet röstade igenom terrorlag som tvingar alla sajter att ta bort propaganda inom en timme »

EU:s upphovsrättsdirektiv – vad vi kan lära för framtiden

EU:s upphovsrättsdirektiv har antagits av ministerrådet. Inklusive artikel 11/15 (»länkskatten«) och artikel 13/17 (uppladdningsfiltret). Nu skall detta införlivas i 28 medlemsstaters nationella lagstiftning inom två år.

Emanuel Karlsten, som gjort en stor medborgarjournalistisk gärning i frågan, undrar i en kommentar hur det kunde bli så här. Varför vaknade aldrig media? Varför väcktes inte det politiska motståndet i tid? Hur kunde den massiva opinion som är mot direktivet bara ignoreras?

En del av svaret är att folk inte bryr sig i tid. Vi på 5 juli-stiftelsen har varnat för direktivet och tjatat om saken i åratal, utan att någon tagit någon direkt notis om saken. Häri ligger ett problem som inte är unikt för detta direktiv: Det är i början av processen som man har störst chans att påverka. Men då är medias, övriga politikers och allmänhetens intresse oerhört svårt att väcka. Reaktionerna kommer som regel när allt i princip redan är för sent.

Vilket är oerhört frustrerande. Men det är så det är. Det är något att lära av för framtiden. Och just därför kommer vi att fortsätta att gräva fram och exponera dåliga politiska förslag i ett tidigt stadium. Men för att stoppa dåliga lagar krävs, som sagt, att fler reagerar. Och att de reagerar i ett tidigare skede.

Det kan fortfarande finnas tekniska möjligheter att stoppa upphovsrättsdirektivet. Man kan gå den juridiska vägen, men förmodligen inte förrän direktivet blivit lag i alla medlemsstater. Och det är värt att komma ihåg att efter EU-valet skall det utses en ny EU-kommission, som är beroende av Europaparlamentets godkännande. Kanske går det att använda detta som politisk hävstång för att stoppa de värsta delarna av direktivet. Vi får väl se.

Under tiden mal EU:s byråkratiska kvarnar vidare. Just nu är en förordning om terrorrelaterat innehåll online på väg genom Europaparlamentets utskott. Det ställer också krav som förutsätter uppladdningsfilter. Men kommer någon att bry sig? I tid?

/ HAX