Nu står striden om nästa uppladdningsfilter i EU

Trialogförhandlingar har nu inletts mellan Europaparlamentet, EU-kommissionen och ministerrådet vad gäller förslaget om att hindra spridning av terror-relaterat innehåll på internet. EDRi rapporterar:

»On 17 October 2019, the European Parliament, the Council of the European Union (EU) and the European Commission started closed-door negotiations, trilogues, with a view to reaching an early agreement on the Regulation on preventing the dissemination of terrorist content online.

The European Parliament improved the text proposed by the European Commission by addressing its dangerous pitfalls and by reinforcing rights-based and rights-protective measures. The position of the Council of the European Union, however, supported the “proactive measures” the Commission suggested, meaning potential “general monitoring obligations” and in practice, automated detection tools and upload filters to identity and delete “terrorist content”.«

Förhandlingarna har alltså bara just börjat. Och det finns tre saker att vara extra uppmärksam på:

  • Kommissionen och ministerrådet vill att anmält innehåll skall plockas ner inom 24 timmar (utan någon föregående rättslig prövning).
  • Kommissionen och ministerrådet vill ha automatisk filtrering för att hindra att nedplockat material postas igen.
  • Detta står rimligen i strid med eHandelsdirektivets förbud mot generell övervakning av vad användare av olika plattformar laddar upp.

Och än så länge verkar positionerna låsta. Den tyske ledamoten av Europaparlamentet Patrick Breyer (Pp) som ingår i parlamentets förhandlingsdelegation twittrade härom dagen:

»First #TERREG trilogue completed. Good news: Parliament team set to prevent #uploadfilters and #overblocking. Bad news: Governments and Commission not relenting. #SaveYourInternet«

Fortsättning följer.

• EDRi: Trilogues on terrorist content: Upload or re-upload filters? Eachy peachy. »
• Netzpolitik.org: Uploadfilter gegen Terror: EU-Parlament wehrt sich gegen automatisierte Allheilmittel »
• Tarnkappe.info: EU-Parlament: Startschuss für Verhandlungen wegen Uploadfiltern »

EU-dokument kräver fler åsiktspoliser på nätet

Det är alltid lite av en utmaning att läsa EU-dokument – som ofta uttrycker sig så vagt att viktiga saker slinker igenom under radarn.

Just nu sitter jag och funderar över Europaparlamentets dokument »MOTION FOR A RESOLUTION to wind up the debate on the statements by the Council and the Commission pursuant to Rule 132(2) of the Rules of Procedure on foreign electoral interference and disinformation in national and European democratic processes (2019/2810(RSP)«.

Det handlar främst om otillbörlig utländsk påverkan på val och av den demokratiska processen.

De flesta är nog överens om att utländsk påverkan av våra val kan vara skadligt och farligt. Samt att Ryssland är en speciellt aktiv aktör vad gäller sådan verksamhet.

Men jag kan inte låta bli att undra över några av resolutionens punkter…

4. Expresses deep concern about the fact that evidence of interference is continuously coming to light, often with indications of foreign influence, in the run-up to all major national and European elections, with much of this interference benefiting anti-EU, extremist and populist candidates and targeting specific minorities and vulnerable groups to serve the wider purpose of undermining the appeal of democratic and equal societies;

Frågan som blir hängande i luften är vad som är »acceptabel« information och vad som är otillbörligt. Det kan ju till exempel finnas helt legitima nyhetsartiklar i andra länders media, vars innehåll i sak gynnar eller missgynnar vissa partier och kandidater – oavsett vilka dessa är eller vad de tycker. Någonstans här måste man nog dra en gräns och sätta upp en definition. Annars är detta en gummiparagraf som kan tolkas lite hur som helst – och lätt missbrukas för att tysta obekväma röster.

13. Calls on all actors involved to continue with their efforts to ensure that the democratic process, as well as elections, are protected from foreign state and non-state interference and manipulation; points in particular to the need to improve media literacy and civic education from an early age in order to allow those targeted by disinformation campaigns to identify the information provided as biased; encourages the Member States, therefore, to include specific courses on media literacy in their school curricula, and to develop information campaigns targeted on the segments of the population that are more vulnerable to disinformation;

Att lära barn att vara källkritiska är en bra sak. Men är det statens uppgift? Genom den europeiska historien är det ju faktiskt stater som stått för de största och mest groteska övergreppen mot individen. Att det då skall vara en fråga för staten/EU att forma ett visst förhållningssätt till information hos ungdomen – det känns tveksamt.

Och att »utforma informationskampanjer riktade mot de segment i befolkningen som är speciellt sårbara för desinformation« är – med en välvillig tolkning – kanske på sin plats även om det är att bekämpa eld med eld. Men då måste vi ju veta att de informationskampanjer som EU vill se verkligen är sakliga och opartiska. Tyvärr kan man inte automatiskt utgå från att så är fallet.

För övrigt ser det lite illa ut att schablonmässigt kalla egna insatser för informationskampanjer och andras för propaganda. Speciellt som EU driver många olika kampanjer för att påverka de egna medborgarnas attityder och beteende.

20. Considers that the EU should work towards practical solutions to support and strengthen democratic, independent and diverse media in the countries of the EU neighbourhood and in the countries in the Western Balkans which are candidates for EU accession;

Resolutionen handlar alltså om att minska utländsk påverkan på våra demokratiska processer. Men den föreslår samtidigt att EU skall verka för att stödja och stärka media i andra länder. Det går förvisso att sympatisera med tanken på att allt vore bättre med mer av fria, oberoende kvalitetsmedia i vår omvärld. Men att kritisera andra länder för informationspåverkan och sedan kräva att vi gör samma sak själva (om än med de bästa intentioner) känns som upplagt för självmål.

28. Calls on the Commission to evaluate possible legislative and non-legislative actions which can result in intervention by social media platforms with the aim of systematically labelling content shared by bots, reviewing algorithms in order to make them as unbiased as possible, and closing down accounts of persons engaging in illegal activities aimed at the disruption of democratic processes or at instigating hate speech, while not compromising on freedom of expression;

Här skulle det vara intressant att veta vad man egentligen menar med att störa den demokratiska processen. Att ifrågasätta, säga emot och att försöka förändra opinionen är ju faktiskt att lägga sig i beslutsprocessen på ett för makthavarna icke önskvärt sätt. Och hur menar man att man skall kunna stänga ner människors konton på sociala media och samtidigt »inte kompromissa vad gäller friheten att uttrycka sig«?

29. Calls on the Commission and the Member States to support public institutions, thinktanks, NGOs, and grassroots cyberactivists that are working on issues of propaganda and disinformation, and to make funding and support available for public awareness-raising campaigns aimed at increasing the resilience of EU citizens to disinformation;

Detta kan tolkas som att man vill se fler åsiktspoliser på nätet. Ett av många problem är att detta är en gråzon. Vem skall bestämma vad som anses vara propaganda? Hur skall en objektiv faktagranskning gå till? Exakt vad för slags information är det EU:s medborgare skall göras motståndskraftiga mot? Och hur är dessa verktyg tänkta att fungera om vi olyckligtvis skulle få politiska ledare med lömska ambitioner?

Och så påminner resolutionen oss om att EU redan reserverat 4.175.000.000 euro för att stödja medias frihet, undersökande journalistik och skydd för journalister. Frågan man här måste ställa sig är i vilken grad dessa media är beredda att bita den hand som föder dem…

Jag är kanske onödigt cynisk, misstänksam och negativ. Men det oavanstående är typiskt för politik i allmänhet och för EU i synnerhet. Man beslutar saker som låter bra – utan att fullt ut tänka igenom dem. Man är så övertygad om det egna systemets godhet och rättfärdighet att man inte ens tänker tanken att de verktyg man skapar kan hamna i orätta händer. Och man mäter ogärna sig själva med samma moraliska måttstock som används för andra.

Tack och lov är detta »bara« en resolution – inte lagstiftning.

/ HAX

Facebooks jätteböter – betyder de något i praktiken?

Facebook har fått böta fem miljarder dollar i USA, för sin roll i Cambridge Analytica-affären. Men vad innebär det i praktiken? För den vanlige nätanvändaren är det knappast någon garanti mot framtida missbruk av persondata.

Cambridge Analytica-affären har blivit ett politiskt slagträ, som används för att ifrågasätta valet av Donald Trump till president i USA och resultatet av Brexit-omröstningen i Storbritannien. Detta har kommit att överskugga historiens kärna: Att Facebook gav CA tillgång till persondata för 50 miljoner användare – och att CA fortsatte använda denna även efter att Facebook insett sitt misstag och återkallat företagets rätt att använda nämnda data.

Att Facebook kapitaliserar på sina användares persondata är inget unikt. Det är deras affärsidé.

Skillnaden är att denna gång användes det i politiska syften istället för att marknadsföra konsumentprodukter. Men i grunden är kärnfrågan densamma oavsett om persondatan används för att sälja Trump eller schampo: Manipulation av enskilda individer med hjälp av stora mängder personlig data.

Det är alltså inte reklam eller marknadsföring som sådan som väckt uppmärksamhet. Det råder en rätt allmänt utbredd insikt om att persondata är priset man får betala för tillgång till tjänster som Facebook, Google, Twitter & Co. Och då kommer det alltid att finnas en moralisk gråzon för i vilka syften denna data används.

De flesta lär vara överens om att det är i sin ordning för politiska partier att använda sociala media och annonsering i dessa för att nå potentiella väljare. (En av CA:s medarbetare kom från Obamas allmänt hyllade sociala medie-satsning.) Och redan med ett fåtal datapunkter är det möjligt att göra sådan marknadsföring synnerligen effektiv. Vilket även riktar moralens strålkastare mot de politiska partierna. Hur djupt borrar till exempel de svenska partierna i persondata under sina kampanjer?

Genom åren har Socialdemokraterna varit mästare på något liknande – fast analogt. Med hjälp av röstlängder, opinionssiffror, valdeltagande, tidigare valresultat samt så mycket demografisk data de kan få fram lyckas de välja ut områden där partiets valmaskineri kan nå bäst resultat. Detta är knappast något man kan eller vill förbjuda. Men det ligger i stor sett inom samma verksamhetsfält som vad CA sysslar med.

Oaktat Facebook och CA eller vad vi tycker om saken – så är detta den verklighet som gäller.

I fallet med CA var datakällan från Facebook gigantisk. Och även om den dörren nu kanske är stängd för politiska spindoctors under överskådlig framtid – så är Facebook långt ifrån den enda källan till användbar persondata. Och CA är (var) inte det enda bolag som sysslar med att samla in och djupanalysera persondata. Enda skillnaden är att dessa aktörer är mer eller mindre okända för allmänheten och media.

Dessutom finns ett sidospår i debatten som få tycks ägna någon uppmärksamhet: Vilken data och vilken dataanalys har staten tillgång till – och i vilket syfte? Detta är en gigantisk godispåse för myndigheter och politiker – som kan användas för allt från att effektivisera kollektivtrafiken till att kartlägga personer med avvikande åsikter eller beteende.

Frågan om Facebook & Cambridge Analyticas roll i den amerikanska presidentvalskampanjen och Brexit-kampanjen är i sig intressant. Men bakom den debatten döljer sig ett stort, känsligt och i stora delar outforskat frågekomplex – som reser frågor om de politiska partiernas förhållande till folket och statens förhållande till medborgaren.

Länkar:
• Nu är det klart: Facebook får böta 47 miljarder för dataskandalen »
• Facebook to pay $5bn fine as regulator settles Cambridge Analytica complaint »
• Wikipedia: Facebook–Cambridge Analytica data scandal »
• Trots dataskandaler och rekordböter – Facebook går bättre än väntat »
• 9 reasons the Facebook FTC settlement is a joke »
• Netflix släpper dokumentär om Cambridge Analytica »
• Netflix documentary explores Facebook-Cambridge Analytica data scandal »
• EU privacy ruling against Facebook to come by end 2019 »

Franska politiker vill förbjuda näthat mot bönder och politiska åsikter

Frankrike är på väg att anta en ny lag som kräver att »hatiskt innehåll« skall plockas ner från sociala plattformar (m.fl) inom 24 timmar.

När det gäller vem, vad eller vilka som skall »skyddas« av denna regel tycks franska politiker nu tävla med varandra vad gäller att komma med förslag. Till exempel menar vissa att det skall vara förbjudet att »stigmatisera« jordbruksverksamhet. Andra föreslår att skyddet mot näthat även skall omfatta politiska åsikter.

Det har till och med föreslagits att man skall ha en »öppen lista« över sådant som skall skyddas mot näthat – på vilken landets politiker kan lägga till och ta bort saker lite som de vill.

Att fransmännen lyfter locket av denna Pandoras ask är tyvärr inte oväntat.

Länk: Politicians Queue Up To Make France’s Proposed Law Against ’Hateful Content’ Far, Far Worse »

Säpos förslag om förbud mot att inneha eller titta på terrorpropaganda är naivt

I veckan som gick krävde Säpo-chefen Klas Friberg att regeringen skall utreda ett förbud mot att inneha eller titta på terrorpropaganda.

»Säkerhetspolisen ser att en kriminalisering skulle ge möjlighet att lagföra enskilda individer. En kriminalisering skulle också ha en dämpande effekt vad gäller radikalisering. Det gäller inte minst unga personer som är propagandans främsta målgrupp.«

TT rapporterar:

Enligt Friberg hittar polisen ofta våldsbejakande islamistisk propaganda vid husrannsakningar gällande kontraterrorism, men på grund av att det inte är ett brott att inneha den typen av propaganda har Säkerhetspolisen svårt att ingripa.

Att tro att människor som lockas av en blodtörstig terrororganisation skulle bry sig om ett sådant förbud verkar naivt.

Dessutom bör man fråga sig om något blir bättre om Säpo inte skulle kunna stärka sina misstankar genom att sådant material går att finna hos de personer man utreder. (Om vi antar att ett förbud verkligen skulle efterlevas.) Och kan det inte vara till nytta för Säpo att se vilka som delar sådan propaganda och i vilken kontext det sker?

Samtidigt är de oväntade och oönskade konsekvenserna inte direkt svåra att förutse. Hur hanterar man till exempel journalister, forskare och människorättsorganisationer som behöver tillgång till sådant som terrororganisationer publicerar online? Eller helt vanliga människor som vill bilda sig en egen uppfattning om vad som sker i deras omvärld?

Var går gränsen? Strikt tolkade skulle vissa internationella definitioner av terrorism öppna för att vår regering ägnar sig åt terrorpropaganda.

Vem bestämmer vad som skall klassas som terrorism? Många skulle till exempel betrakta regional separatism som terrorism. Och hur skiljer man nyhetsrapportering om en terror-relaterad händelse från propaganda?

Alternativet är att låta människor få se vad som faktiskt händer i deras omvärld – även om det är motbjudande och obehagligt. För vad kan antas bli bättre om vi inte får reda på vad vårt öppna och fria samhälles fiender har för sig?

Slutligen: Det känns som en dålig plan om staten skall kunna förbjuda information baserat på ett löst och oklart regelverk för att definiera vem avsändaren är. Det kan öppna för att förbjuda i stort sett vad som helst.

Länkar: DN » | Omni » | TT »

När staten säger att du ägnar dig åt fake news

Tänk dig att du avslöjar något missförhållande som har med politiker eller staten att göra.

Tänk dig sedan att staten stämplar ditt avslöjande som falska nyheter. Inte för att dina uppgifter är fel. Utan för att det stör makthavarna att du rapporterar om saken.

Tänk dig därefter att staten har stiftat lagar som gör det olagligt för sociala media att rapportera om sådant som staten anser vara fake news. Vilket leder till att ditt avslöjande inte får den spridning det borde ha.

Denna dystopi är redan verklighet i länder som Ryssland, Singapore och Frankrike. Många skulle vilja se ett liknande system på EU-nivå. Och i en del länder används istället etiketten »näthat« för att hindra att obekväm information sprids – hur korrekt, relevant och av allmänintresse den än må vara.

Det är så det blir när makten känner sig hotad av fri information. Vilket makten alltid gör, även i till synes demokratiskt anständiga länder. Detta är dock en aspekt som ytterst sällan diskuteras när drevet går mot sociala media och nätbaserade informationskanaler.

Därmed inte annat sagt än att det finns falska nyheter och näthat. Men det uppstår problem när detta används som ursäkt för att stoppa information och analys som är av allmänintresse. Vilket sker allt oftare.

Länk: When the Government Says You’re Fake News »

Youtubes nya censur suddar i Europas historia

Youtube har i enlighet med sin senaste policy beslutat att censurera den klassiska nazityska propagandafilmen »Viljans Triumf« – i vilken Leni Riefenstahl skildrar den då nytillträdda regimens bombastiska Nürnberg-möte.

Filmen är ett centralt historiskt dokument, ett viktigt exempel på propagandans makt och ett av filmhistoriens mest intressanta verk. Men Youtubes nya policy som säger nej till »videos that promote or glorify Nazi ideology, which is inherently discriminatory« tar ingen som helst hänsyn till kontext.

En central fråga är hur folk skall lära sig känna igen förtryck, totalitära krafter, krigshets, masspsykos och propaganda om alla spår av sådant raderas från historien. Det lämnar människor – speciellt ungdomar – värnlösa mot nästa vettvilling eller mordiska regim som dyker upp.

Det finns också en mörk ironi i att Youtube inskränker det fria ordet för att markera mot en ideologi som på sin tid kännetecknades av att med eftertryck bekämpa det fria ordet.

Indiewire kommenterar:

As a matter of pure formalism, the movie exists on the same continuum as Sergei Eistenstein’s “Battleship Potemkin” in its capacity to galvanize a sense of national pride through the language of film.

Vilket pekar på ett annat problem: Dagens censur är ofta enögd i det att den fokuserar på vissa totalitära och auktoritära strömningar. Samtidigt som man skjuter in sig på ett slags politiskt vansinne – så lämnar man andra förtryckande ideologier, som har en högre body count, ifred.

Youtube håller just på att snärja in sig i censurfrågorna på ett sätt som kan komma att hota plattformens själva existens.

/ HAX

Länkar:
• YouTube Pulls ‘Triumph of the Will’ For Violating New Hate Speech Policy »
• The Impossibility Of Content Moderation: YouTube’s New Ban On Nazis Hits Reporter Who Documents Extremism, Professor Teaching About Hitler »
• Youtube i censur-träsket »

Så skyddar Facebook (och EU) krigsbrottslingar

Facebooks användarvillkor ger plattformen rätt att plocka bort terror-relaterat innehåll. Vilket är i linje med det nya EU-direktiv som kommer att kräva sådant material snabbt plockas bort från olika nätplattformar.

Facebooks syfte är att inte publicera sådant som användare (och speciellt annonsörer) kan finna stötande. Och EU säger sig vilja stoppa »terrorpropaganda« och rekrytering till olika terrorsekter.

Ett problem med detta är att det blivit en kamp mot klockan för organisationer och myndigheter som vill säkra bevis för krigsbrott, innan dessa plockas bort.

Om inte annat borde det upprättas register över vad som plockas bort – och finnas en möjlighet för dem som har legitimt behov av att ta del av materialet att göra så.

Sedan kan man i vart fall fundera över om det verkligen är en så bra idé att censurera verkligheten, även om den är motbjudande.

Techdirt: Flip Side To ’Stopping’ Terrorist Content Online: Facebook Is Deleting Evidence Of War Crimes »

The Atlantic: Tech Companies Are Deleting Evidence of War Crimes »

Så fungerar Rysslands nya digitala järnridå

Ryssland har som bekant antagit en lag som på engelska benämns »Sovereign Internet«. Även om den inte helt förvandlar internet i landet till ett intranet, så ger det staten stor kontroll över vilket innehåll medborgarna kan få ta del av.

Derek Zimmer förklarar saken hos Privacy News Online:

The bill does more than just forcing ISPs to prefer routing within Russia, it also also forces ISPs to only allow Russian DNS services. These two things combined equal a lot more than just stopping the threat of foreign-driven internet outages. It strengthens censorship and intelligence within Russia.

If you control the DNS servers of everyone in the country, you then control the vast majority of what people can see and do by blocking content or redirecting users to sites that better serves the government’s aims. This is a practice that China does regularly with its great firewall.

Länk: Russia’s “Sovereign Internet” is About Counterintelligence »

Facebook: Mer transparens för annonser i EU-valet

Nervositeten ökar inför EU-valet:

Facebook will implement tools to make political advertising more transparent during the upcoming European Parliament election, including so-called issue-ads, the company announced Monday.

“In late March, we will launch new tools to help prevent interference in the upcoming election and make political advertising on Facebook more transparent,” Nick Clegg, the company’s newly appointed VP for global affairs and communications, said at a Brussels event today. (…)

People and organizations wishing to run political ads will need to be authorized by the platform and all ads will have to contain “paid for by” disclaimers, Clegg said.

Transparens är bra. Men att de som vill annonsera i samband med EU-valet måste godkännas i förväg kan bli stökigt. Speciellt som vissa av EU:s makthavare tycks betrakta all kritik som fake news. Och det finns ju redan ett nära samarbete mellan EU och Facebook för att försöka styra upp innehållet på sociala media.

Politico.eu: Facebook to roll out ad transparency rules ahead of European election »