Ett rationellt förhållningssätt till hat och hot på nätet

EU arbetar som bekant med sin nya Digital Services Act – som bland annat kommer att sätta upp regler som rör hot och hat på nätet.

Låt oss hoppas att EU-kommissionen lyssnar till David Kaye –som är »UN Special Rapporteur on the promotion and protection of the right to freedom of opinion and expression«.

I sin senaste rapport ger han uttryck för en oro för att nätföretag och stater kan komma att inskränka grundläggande fri- och rättigheter i sin iver att hantera verkliga och upplevda kränkningar på nätet. EDRi förklarar…

»Firstly under the legality criteria, Kaye uses human rights law to show that any regulation of hate speech online (as offline) must be genuinely unlawful, not just offensive or harmful. It must be regulated in a way that does not give “excessive discretion” to governments or private actors, and gives independent routes of appeal to impacted individuals. Conversely, the current situation gives de facto regulatory power to internet companies by allowing (and even pressuring) them to act as the arbiters of what does and does not constitute free speech. Coupled with error-prone automated filters and short takedown periods incentivising over-removal of content, this is a free speech crisis in motion.«

Länk » Hate speech online: Lessons for protecting free expression »

Nätdebatten är en kamp om makten över ordet, agendan och verklighetsbilden

Den som vill diskutera nätfrågor nuförtiden måste ha flera tankar i huvudet samtidigt. Många aktörer driver dubbla agendor. Sådant som ur ett perspektiv kan ses som en rimlig åtgärd eller reglering kan ur ett annat få oväntade och oönskade konsekvenser. De krafter som påstås vara goda visar sig inte vara alltigenom goda – och de onda inte alltigenom onda.

Naturligtvis är det problematiskt när Facebook, Google eller staten samlar på sig allt för mycket information om människor. Naturligtvis är det problematiskt om det sprids falska nyheter som syftar till att påverka allmänna val eller destabilisera vår demokrati. Naturligtvis kan hat och hot på nätet vara ett problem.

Men man skall akta sig för att reagera reflexmässigt. Risken är att man bara ersätter ett problem med ett annat (eller flera), som möjligen är värre. Eller att man offrar ett större värde för att lösa ett mindre problem.

Ändå är det precis vad som sker. Debattörer och politiker kräver ständigt mer reglering. Traditionella media kräver att bli räddade från en ny marknad på vilken deras gamla affärsmodeller inte fungerar. Människor som får mothugg i nätdebatten upplever sig som kränkta och kräver censur.

Ta till exempel frågan om det nya stoppet för politisk annonsering på Twitter. Företaget hävdar att budskap förtjänar att spridas genom sin egen kraft istället för mot betalning. Vilket låter ädelt men är fullständigt naivt. Resultatet blir bara att etablerade partier och kandidater med en upparbetad skara följare kan fortsätta nå en bred publik genom sina vanliga postningar – medan nya och små utmanare hindras från att ge sina budskap större spridning. Inte undra på att Twitters tilltag applåderas av stora delar av etablissemanget.

Här skall man hålla i minnet att varje inskränkning av möjligheten att uttrycka sig innebär att mängden tillgänglig information som krävs för att till exempel göra ett informerat och väl genomtänkt val minskar.

Eller ta kravet på att Facebook skall faktakolla politiska annonser. Hur är det över huvud taget tänkt att gå till? Vem skall avgöra vad som är sant eller falskt? Hur skall man göra när det råder oenighet om verklighetsbilden? Och vad innebär detta för den som vill ifrågasätta »etablerade« uppfattningar, påståenden och förhållanden?

I sammanhanget bör man även ägna debattörerna en del uppmärksamhet. Många krav på reglering kommer från politiken – där man som regel ogillar att internet ger vanligt folk möjlighet att ifrågasätta, lägga sig i och framföra besvärliga åsikter. Andra krav kommer från de media som ogillar den nya konkurrensen på nätet – och som vill försvara sin makt över agendan. (Samma media som f.ö. drivit fram den absurda idén om »länkskatt« i EU.)

Så även om det som sagt finns sådant som är problematiskt med nätkulturen och dess aktörer – så bör man komma ihåg att det mycket handlar om makten över ordet, agendan och verklighetsbilden. Lite som när tryckpressen skakade om sin tids maktstrukturer. Det vill säga att många av det fria ordets gamla grindvakter blir irrelevanta.

/ HAX

Tips: På måndag den 11 november kl 18:30 drabbar Publicistklubben samman i en debatt med de svenska Facebook-cheferna. Den livesänds på PK:s hemsida och på dess Facebook-sida.

Tyskland stiftar pre-crime-lag mot hat och hot på nätet, EU väntas följa efter

Tyskland är på väg att skärpa sina redan hårda lagar mot hot och hat på nätet. Politico rapporterar…

In proposals published Wednesday, Angela Merkel’s government announced new measures to force social media platforms to proactively report illegal content such as death threats or incitement of hatred on their platforms to law enforcement. That follows complaints that it takes too long to follow up on harmful content because police must wait until people file official charges.

Berlin will also create a new federal police unit to handle the submissions, and companies will be required to hand over the IP address, or online identifier, of those publishing hateful material.

Frågan är hur detta skall gå till rent praktiskt. Under den gällande NetzDG-lagen skall anmält olagligt material plockas ner inom 1-7 dygn. Men om plattformarna måste agera proaktivt – då kräver detta rimligen automatisk granskning av allt som laddas upp. Och problemen med automatisk, algoritmdriven filtrering är redan väl kända.

Den nya tyska lagstiftningen kan för övrigt komma att bli vägledande för hela EU:

Within the European Commission, officials are considering similar efforts as part of the so-called Digital Services Act that is expected to overhaul the level of responsibilities that digital players must hold for what is circulated online. That comes as Brussels is pushing for greater efforts to clamp down on terrorist content, as well as greater efforts by social media companies to stop the spread of misinformation online.

Politico: Germany lays down marker for online hate speech laws »

 

Facebook, Twitter, politiken och sanningen

Från alla håll – inklusive inifrån företaget – kommer krav på att Facebook skall faktakolla politiska annonser. Vilket Mark Zuckerberg är tveksam till.

Diskussionen väcker frågor. Vad är egentligen sanning? Vem skall bedöma det?

Till synes motstridiga påståenden kan ibland båda vara korrekta. Och inte sällan är det långt från glasklart vad som är korrekt och vad som är fel – om inte annat för att data är ofullständiga eller för att man kan använda olika modeller för att bedöma samma sak. Att sätta sig till doms över vad som är sant och falskt i politisk marknadsföring är helt enkelt en övermänsklig, förmodligen omöjlig uppgift.

Twitter har å sin sida just meddelat att man från och med 22 november säger nej till politisk annonsering.

Det kan naturligtvis vara ett sätt att komma runt tolkningsproblemen ovan. Men det reser genast helt nya frågor.

Vad är en politisk annons? Om den kommer från ett politiskt parti eller en politisk kandidat är svaret rätt uppenbart. Men hur bedömer man frågan om till exempel Greenpeace eller ett företag annonserar om något som i grunden är en politisk fråga – och som kan komma att påverka hur människor röstar?

Och vad är politik? Hur skall man till exempel bedöma en annons från Amnesty som kritiserar bristen på mänskliga rättigheter i Kina?

Slutligen kan man förutse en del oklarheter som kommer att uppstå om politiska annonser blir förbjudna, men inte politiska postningar. Det lär resultera i högkonjunktur i trollfabriken.

Man kan förstå att både Facebook och Twitter sitter i en rävsax. Så det skall bli intressant att se hur detta utvecklar sig. Men vad gäller att kontrollera fakta, så verkar man ha glömt bort att det finns en aktör till – nämligen användarna. Om en politiker ljuger på nätet (oavsett om det är i en annons eller en vanlig postning) så kommer det omedelbart att uppmärksammas och påpekas av användare som är av en annan uppfattning. Därför kommer lögner alltid att slå tillbaka.

Och i ett vidare perspektiv är naturligtvis alla inskränkningar av det fria ordet beklagliga – även om både Facebook och Twitter är privata företag som får göra som de vill inom ramen för sina avtal med användarna.

Svårt att göra rimlig lagstiftning av EU:s upphovsrättsdirektiv

Arbetet med att göra EU:s nya upphovsrättsdirektiv till lag har börjat, såväl i Sverige som i EU. Man kan ana att de tjänstemän som arbetar med frågan börjar inse direktivets vidare problem och implikationer. Detta inte minst efter att Frankrike bestämt sig för att rusa i förväg med den så kallade länkskatten – vilket har resulterat i att Google helt enkelt har slutat publicera länkar med substans till franska media.

I Sverige har Justitiedepartementet satt upp en referensgrupp för att diskutera genomförandet av direktivet inklusive de kontroversiella delarna »länkskatt« och »uppladdningsfilter«. Det hela verkar rätt avslaget, om man får tro rapporterna. Emanuel Karlsten skriver om gårdagens möte:

»Promemorian innehöll få kontroversiella förslag. Det förefaller också som att de flesta som deltog på mötet inte hade hunnit läsa igenom promemorian innan mötet och därför inte hunnit ha någon kvalificerad åsikt. Promemorian är även denna gång en tjänstemannaprodukt och alltså inte ens regeringens inofficiell åsikt.«

Politikerna försöker gömma sig bakom departementets tjänstemän, som i sin tur gömmer sig bakom tungrodda promemorior. Detta kommer förmodligen inte att leda någonstans alls. Istället kommer frågan att bli en rent politisk strid som avgörs i riksdagen.

I EU bedriver man också en dialog med inblandade parter, för att få fram något slags riktlinjer eller vägledning för hur direktivet skall implementeras i medlemsstaterna. Det verkar inte heller gå överdrivet bra.

Utifrån vad som framkommit från mötet den 15 oktober verkar man mest trampa vatten.

Detta är precis vad man kunde vänta sig. Politikerna röstar igenom en orimlig lagstiftning som är omöjlig att driva igenom utan att offra viktiga värden – vilket de tjänstemän som skall göra lag av besluten inte kan göra något åt. Här finns inbyggda problem, målkonflikter och juridiska återvändsgränder. Men direktivet är klubbat. Resultatet lär bli dålig lagstiftning.

Vilket i sin tur belyser problemet med att politiker har makt över sådant de inte begriper sig på.

Länkar:
• Emanuel Karlsten: Här är justitiedepartementets tolkning av ”länklicensen” »
• EDRi: EU copyright dialogues: The next battleground to prevent upload filters »
Frankrike vill ha en ny EU-myndighet för att tvinga Google att betala ”länkskatt” »

Onlinespel: Konsumentuppror för yttrandefrihet

Onlinespelsföretaget Blizzard har råkat i blåsväder sedan det stängt av spelare som uttryckt sympati med demokratirörelsen i Hong Kong. Aftonbladet skriver:

»Tidigare i veckan stängde speljätten av Chung ”Blitzchung” Ng Wai från Hearthstone Grandmasters. Anledningen var att han utropat ”befria Hongkong, vår tids revolution!” mitt under den livesända turneringen.

Spelaren blev också av med sina prispengar och får inte tävla i ”Hearthstone” fram till den 5 oktober nästa år. Arrangören anser att han har brutit mot turneringens regler som förbjuder politiska handlingar.

Blizzards beslut har orsakat ramaskri på sociala medier. Flera fans skriver till exempel att de avslutat sin prenumeration på ”World of Warcraft”. När protesterna var som värst tvingades utvecklaren stänga ner sitt Reddit-forum.«

En av de i sak ytterst relevanta protesterna kan du se i meddelandet ovan.

Länkar:
• Aftonbladet: Spelarna gör uppror mot Blizzard – efter Hongkong-skandalen »
• ArsTechnica: Lawmakers express “deep concern” over Blizzard’s Hong Kong protest response »
• CNet: Blizzard, Hearthstone and the Hong Kong protests: What you need to know »

Nu står striden om nästa uppladdningsfilter i EU

Trialogförhandlingar har nu inletts mellan Europaparlamentet, EU-kommissionen och ministerrådet vad gäller förslaget om att hindra spridning av terror-relaterat innehåll på internet. EDRi rapporterar:

»On 17 October 2019, the European Parliament, the Council of the European Union (EU) and the European Commission started closed-door negotiations, trilogues, with a view to reaching an early agreement on the Regulation on preventing the dissemination of terrorist content online.

The European Parliament improved the text proposed by the European Commission by addressing its dangerous pitfalls and by reinforcing rights-based and rights-protective measures. The position of the Council of the European Union, however, supported the “proactive measures” the Commission suggested, meaning potential “general monitoring obligations” and in practice, automated detection tools and upload filters to identity and delete “terrorist content”.«

Förhandlingarna har alltså bara just börjat. Och det finns tre saker att vara extra uppmärksam på:

  • Kommissionen och ministerrådet vill att anmält innehåll skall plockas ner inom 24 timmar (utan någon föregående rättslig prövning).
  • Kommissionen och ministerrådet vill ha automatisk filtrering för att hindra att nedplockat material postas igen.
  • Detta står rimligen i strid med eHandelsdirektivets förbud mot generell övervakning av vad användare av olika plattformar laddar upp.

Och än så länge verkar positionerna låsta. Den tyske ledamoten av Europaparlamentet Patrick Breyer (Pp) som ingår i parlamentets förhandlingsdelegation twittrade härom dagen:

»First #TERREG trilogue completed. Good news: Parliament team set to prevent #uploadfilters and #overblocking. Bad news: Governments and Commission not relenting. #SaveYourInternet«

Fortsättning följer.

• EDRi: Trilogues on terrorist content: Upload or re-upload filters? Eachy peachy. »
• Netzpolitik.org: Uploadfilter gegen Terror: EU-Parlament wehrt sich gegen automatisierte Allheilmittel »
• Tarnkappe.info: EU-Parlament: Startschuss für Verhandlungen wegen Uploadfiltern »

Öppnade EU-domstolen just dörren för mer automatisk filtrering av innehåll på nätet?

I ett förtalsrelaterat mål har EU-domstolen kommit fram till att Facebook kan föreläggas att hindra att innehåll publiceras, om det är är identiskt med sådant som tidigare förklarats olagligt av domstol. Även om beslutet har en viss logik – så måste man fråga sig: hur? I praktiken lär det vara omöjligt utan automatisk filtrering av allt som alla användare laddar upp.

EDRi skriver:

»The ruling confirms that a hosting provider such as Facebook can be ordered, in the context of an injunction, to seek and identify, among all the content shared by its users, content that is identical to the content characterised as illegal by a court. If the obligation to block future content applies to all users on a large platform like Facebook, the Court has in effect considered it to be in line with the E-Commerce Directive that courts demand automated upload filters and blurred the distinction between general and specific monitoring in its previous case law. EDRi is concerned that automated upload filters for identical content will not be able to distinguish between legal and illegal content, in particular when applied to individual words that could have very different meanings depending on the context and the intent of the user.«

Politico:

“The court’s decision opens the door for serious restrictions on freedom of expression due to the takedown of legitimate speech. Extending removal to the vague concept of “equivalent” content is harmful because the context as well as motivation of users re-sharing content may significantly differ with each re-upload,” said Eliška Pírková, Europe policy analyst at Access Now, a campaigning group.

Speciellt komplicerat blir detta med tanke på att EU:s eHandelsdirektiv förbjuder generell övervakning av vad som laddas upp. (Vilket för övrigt även kolliderar med det uppladdningsfilter som blir konsekvensen av EU:s nya upphovsrättsdirektiv.)

• EDRi: CJEU ruling on fighting defamation online could open the door for upload filters »
• Politico: Facebook can be forced to delete defamatory content worldwide, top EU court rules »

Uppdatering:
• TechCrunch: Zuckerberg says Facebook will sue to stop EU’s global content takedowns »

Nu står striden om EU:s automatiska censur av terrorrelaterat innehåll på nätet

EU:s »terrorfilter« är en fråga som nu åter börjat röra sig efter EU-valet. Den tyske piratpartistiske ledamoten Patrick Breyer är en av Europaparlamentets förhandlare. Han förklarar:

Today, the European Parliament’s civil liberties committee has recommended “Trilogue” negotiations on the EU scheme to “prevent the dissemination of terrorist content online” which may make, inter alia, upload filters mandatory.

In a series of closed-door meetings, the European Parliament and the Council (representing the member state governments) will hammer out a final text acceptable to both institutions. It’s the last chance to make changes before the Regulation gets adopted. Meetings are to start in October.

Vad är det då man skall diskutera?

  • Europaparlamentet vill att terrorrelaterat innehåll skall plockas bort om det förekommer på plattformar med användargenererat material. EU:s ministerråd och EU-kommissionen vill att detta även skall gälla för tjänster för elektronisk kommunikation och molntjänster.
  • Ministerrådet och kommissionen vill att det aktuella materialet skall plockas bort inom en timma. Parlamentet menar att det måste finnas undantag för när detta inte är praktiskt möjligt, speciellt vad gäller mindre nätsiter.
  • Parlamentet vill ha undantag för material som publiceras i undervisningssyfte, konstnärligt syfte, som del i journalistisk verksamhet eller forskning. De andra institutionerna säger nej.
  • Europaparlamentet vill att beslut om att avlägsna material skall fattas av en domstol, genom någon form av rättsligt förfarande eller i vart fall av en oberoende instans. De andra institutionerna ser inget behov av detta, utan vill låta medlemsstaterna hantera förfarandet som de vill.
  • Ministerrådet vill att en medlemsstat skall kunna begära att material plockas bort varsomhelst i EU. Parlamentet anser att denna möjlighet bara skall finnas i det egna landet – och att man i andra fall får vända sig till respektive medlemsstat med en begäran.
  • Ministerrådet och kommissionen vill öppna för att nätplattformarna skall kunna uppmanas (»referral«) att även avlägsna material som inte är direkt olagligt. Parlamentet säger nej till detta.
  • Ministerrådet och kommissionen kräver automatiska uppladdningsfilter för att identifiera och avlägsna terrorrelaterat innehåll. Europaparlamentet säger nej till filtrering och annan ständig övervakning av vad som laddas upp.

Mer information och länkar till relevanta dokument hittar du på Patrick Breyers officiella blogg »

Uppladdningsfiltret: På stället marsch

Emanuel Karlsten (som har ett crowdfundat projekt för att följa frågan) rapporterar från gårdagens slutna möte mellan Justitiedepartementet och den referensgrupp som man satt upp för att diskutera hur artikel 13/17 i EU:s upphovsrättsdirektiv – det så kallade uppladdningsfiltret – skall bli svensk lag:

Viktigaste punkterna från justitiedepartementets första möte om artikel 13 »

Någon diskussion blev det inte. Istället gick man igenom det arbetsdokument som vi skrev om igår. Synpunkter vill departementet ha in skriftligen.

Intressant är att departementsrådet tycks vara oroad över att sammansättningen av referensgruppen är skev. (Det råder en övervikt av upphovsrättsmaximalister som vill ha uppladdningsfilter.)

Justitiedepartementets tjänstemän tycks vara väl medvetna om att detta är en kontroversiell fråga. Nästa möte är planerat till den 22 oktober.