Femte juli

Nätet till folket!

terrorism

Nu står striden om EU:s automatiska censur av terrorrelaterat innehåll på nätet

av

EU:s »terrorfilter« är en fråga som nu åter börjat röra sig efter EU-valet. Den tyske piratpartistiske ledamoten Patrick Breyer är en av Europaparlamentets förhandlare. Han förklarar:

Today, the European Parliament’s civil liberties committee has recommended “Trilogue” negotiations on the EU scheme to “prevent the dissemination of terrorist content online” which may make, inter alia, upload filters mandatory.

In a series of closed-door meetings, the European Parliament and the Council (representing the member state governments) will hammer out a final text acceptable to both institutions. It’s the last chance to make changes before the Regulation gets adopted. Meetings are to start in October.

Vad är det då man skall diskutera?

  • Europaparlamentet vill att terrorrelaterat innehåll skall plockas bort om det förekommer på plattformar med användargenererat material. EU:s ministerråd och EU-kommissionen vill att detta även skall gälla för tjänster för elektronisk kommunikation och molntjänster.
  • Ministerrådet och kommissionen vill att det aktuella materialet skall plockas bort inom en timma. Parlamentet menar att det måste finnas undantag för när detta inte är praktiskt möjligt, speciellt vad gäller mindre nätsiter.
  • Parlamentet vill ha undantag för material som publiceras i undervisningssyfte, konstnärligt syfte, som del i journalistisk verksamhet eller forskning. De andra institutionerna säger nej.
  • Europaparlamentet vill att beslut om att avlägsna material skall fattas av en domstol, genom någon form av rättsligt förfarande eller i vart fall av en oberoende instans. De andra institutionerna ser inget behov av detta, utan vill låta medlemsstaterna hantera förfarandet som de vill.
  • Ministerrådet vill att en medlemsstat skall kunna begära att material plockas bort varsomhelst i EU. Parlamentet anser att denna möjlighet bara skall finnas i det egna landet – och att man i andra fall får vända sig till respektive medlemsstat med en begäran.
  • Ministerrådet och kommissionen vill öppna för att nätplattformarna skall kunna uppmanas (»referral«) att även avlägsna material som inte är direkt olagligt. Parlamentet säger nej till detta.
  • Ministerrådet och kommissionen kräver automatiska uppladdningsfilter för att identifiera och avlägsna terrorrelaterat innehåll. Europaparlamentet säger nej till filtrering och annan ständig övervakning av vad som laddas upp.

Mer information och länkar till relevanta dokument hittar du på Patrick Breyers officiella blogg »

Nätpionjärer varnar för EU-förslag mot terror-relaterat innehåll på internet

av

Bland andra Tim Berners-Lee, Vint Cerf och Bruce Schneier varnar för EU:s nya förordning om terror-relaterat innehåll på nätet. I ett brev till berörda ledamöter i Europaparlamentet skriver de bland annat…

[T]he fight against terrorism does not preclude lawmakers from their responsibility to implement evidence-based law that is proportionate, justified, and supportive of its stated aim.

The EU Terrorist Content regulation, if adopted as proposed, will restrict the basic rights of European internet users and undercut innovation on the internet without meaningfully contributing to the fight against terrorism.

De sammanfattar sin kritik i fyra punkter:

  • Definitionen av terror-relaterat innehåll är oklar och riskerar att även drabba t.ex. forskning, journalistik och utbildning.
  • Förordningen är inte proportionerlig, utan drabbar även nätsiter som till sin natur inte har något att göra med terrorism eller terrorpropaganda.
  • Bestämmelsen om att terror-relaterat innehåll skall plockas ner inom en timma är omöjlig att leva upp till för små och medelstora nätplattformar.
  • Kravet på filtrering för att hålla redan identifierat terror-relaterat innehåll borta kräver filtrering av allt som alla användare laddar upp. Detta är svårt eller rent av omöjligt att hantera för små mätplattformar. De enda som möjligen kan möta kravet är dagens nätjättar, som därmed stärker sin dominans på marknaden ytterligare.

Läs brevet (PDF) »

EU förbereder ytterligare uppladdningsfilter

av

I skuggan av striden om EU:s upphovsrättsdirektiv pågår arbetet med att införa ytterligare ett uppladdningsfilter.

Det handlar om EU:s förordning om »förhindrande av spridning av terrorisminnehåll online«. Ett par saker sticker ut.

• För det första är definitionen av »terrorism« luddig. Dessutom vet vi sedan tidigare att detta är ett sluttande plan. Denna typ av regler brukar (utan att någon riktigt förstår hur det går till) som regel även utvidgas till att omfatta »hatfullt« innehåll. Och därmed öppnas portarna för att lite vad som helst kan komma att censureras.

• För det andra innehåller förordningen en regel om att innehåll som anmäls skall plockas bort inom en timma. Dels känns det som om detta är otillräckligt med tid för att göra en rättssäker bedömning. Vidare är det en tidsgräns som är svår, eller direkt omöjlig att möta för mindre plattformar.

• För det tredje måste nätplattformarna garantera att material som flaggats eller plockats ner inte kan laddas upp igen. Detta kräver – med nödvändighet – filtrering av allt som alla användare laddar upp.

Nu försöker EU-kommissionen stressa igenom förordningen innan EU-valet. Men att stressa fram ogenomtänkta inskränkningar av yttrandefriheten är en mycket dålig idé.

Dessutom lider förslaget till filtrering av samma brist som upphovsrättsdirektivets artikel 13: I en rättsstat skall yttrandefriheten inte inskränkas utan föregående rättslig prövning, i varje enskilt fall, under lagarna.

I detta fall handlar det dessutom om en förordning/reglering – som börjar gälla direkt när beslut har fattats, utan att behöva inkorporeras i medlemsstaternas lagstiftning.

Läs mer:
• Terrorist Content Online: The Return of the Upload Filter »
• FN-kritik mot EU:s förordning om spridning av terrorisminnehåll online »
• Idag (6/12-18) röstar EU:s ministerråd om automatiserad nätcensur »
• EU:s glömda förslag om automatiserad nätcensur »
• WITNESS brings together voices to push back on dangerous EU “Dissemination of Terrorist Content” proposal »
• När EU går terroristernas ärenden »
• Techdirt podcast: The EU Endangers Free Speech Online… Again »
• Tory MEP’s motives for delaying EU terror legislation questioned »

Idag röstar EU:s ministerråd om automatiserad nätcensur

av

Just nu sitter EU:s justitie- och inrikesministrar i möte för att klubba medlemsstaternas position vad gäller en ny förordning om terror-relaterat innehåll online – 2018/0331(COD) Proposal for a Regulation of the European Parliament and of the Council on preventing the dissemination of terrorist content online – general approach. (PDF»)

Förslaget innebär i korthet att terror-relaterat material som laddats upp av användare på sociala plattformar skall avlägsnas inom en timma från det att en (ej närmare definierad) nationell myndighet gjort plattformen uppmärksam på dess existens.

Till att börja med kan man konstatera att även om detta är en förordning (som skall tillämpas rakt av), så ger den medlemsstaterna en öppning för att hänga på ytterligare skäl för censur som kan använda samma verktyg. (Se till exempel tyska NetzDG – som använder liknande verktyg för att rensa sociala plattformar från »hat«. Vilket visat sig vara ett reellt hot mot det fria ordet.)

I sak är definitionen av terror-relaterat innehåll fortfarande vag. Jag är inte helt övertygad om att justitieminister Morgan Johansson (S) har helt torrt på fötterna när han säger att »Vi har varit angelägna om att det här ska handla om det som är straffbart. Alltså till exempel att uppmana till terrorhandlingar eller råd kring hur man kan begå olika terrorhandlingar.« Och mycket riktigt fortsätter han i nästa andetag med en brasklapp. »Sedan finns det en gråzon, sådant man tycker är olämpligt, men som inte är straffbart.«

Dessutom finns klara signaler i förordningens inledande text som gör det rätt klart att man gärna ser att de sociala plattformarna hanterar sådant här inom ramen för sina användarvillkor. Vilket dels riskerar att leda till överfiltrering och dels gör den enskilda användaren rättslös. (Rätten till överprövning gäller bara om beslutet om att avlägsna innehåll kommer från myndigheterna.)

Ett allvarligt problem är att denna förordning kräver övervakning, kontroll och analys av allt som alla laddar upp på t.ex. Facebook, Twitter och Youtube. Det gäller allt du skriver, alla bilder du lägger upp och allt du länkar till. Även om det bra är en bild från julfesten.

Dels talar förordningen om proaktiva åtgärder. Dels stadgar artikel 6:2 att plattformarna skall hindra att sådant material som en gång plockats ner inte skall kunna publiceras igen. Här talas uttryckligen om att använda »automatiska verktyg« – det vill säga automatisk filtrering – det vill säga automatiserad censur.

Man vill även att dessa verktyg skall användas för att upptäcka, identifiera samt avlägsna eller blockera terror-relaterat innehåll på plattformarnas eget initiativ.

Det råder alltså ingen tvekan om att förlaget kommer att leda till automatiserad filtrering, syftande till censur, av allt.

(Som av en händelse kommer detta förslag samtidigt som EU diskuterar automatisk filtrering, syftande till censur – när det gäller upphovsrättsskyddat innehåll. Möjligen försöker man slå två flugor i en smäll.)

/ HAX

Edit: Nästa steg blir Europaparlamentet. Om parlamentet gör större ändringar blir det förhandlingar. Om parlamentet säger ja, då är det klappat och klart.

Läs även EDRi – Terrorist Content Regulation: Civil rights groups raise major concerns »

När EU går terroristernas ärenden

av

Att skydda medborgarna mot terrorism är en fråga på flera plan. Dels handlar det om att förhindra terrorattentat. Dels handlar det om ett försvar mot terrorismens underliggande mål – det vill säga dess strävan att ödelägga vårt öppna, fria, demokratiska samhälle.

Vad gäller det första – att förhindra terrorattentat – pekar erfarenhet och forskning på att massövervakning inte ger det skydd man hoppats. De flesta terrorister som genomfört attentat har varit kända för och flaggade av myndigheterna. Men man har inte haft resurser att hålla ögonen på dem. Istället har man satsat på att övervaka allt som hela befolkningen har för sig. Vilket inte gör oss tryggare, utan snarare tvärt om.

När det gäller att försvara vårt öppna, fria, demokratiska samhälle bör det rimligen innebära att försvara våra mänskliga och medborgerliga fri- och rättigheter. I detta ingår till exempel rätten till privatliv och yttrandefriheten. Men det är inte vad som sker. Istället gör EU gemensam sak med terroristerna för att undergräva dessa värden.

Just nu arbetar EU-maskineriet med flera olika ärenden som är problematiska.

Regulation on Terrorist Content Online

EU-kommissionen föreslår en ny reglering för att bekämpa terror-relaterat material online. EDRi sammanfattar några av regleringens centrala punkter:

  • Obligations to take down content on the basis of removal orders within one hour.
  • An arbitrary system of referrals of arbitrarily designated potentially dangerous (but not illegal) content to internet service providers. The removal of this content is decided by the provider, based on their terms of service and not the law.
  • Unclear, arbitrary “proactive” measures to be imposed on an unclear subset of service providers to remove unspecified content.

I regleringens förklarande delar öppnar man för att operatörer och plattformar skall kunna använda AI för att identifiera och avlägsna oönskat, terror-relaterat material. Vilket, speciellt då denna teknik än så länge är i sin vagga, är teknik som varken är speciellt tillförlitlig eller allmänt tillgänglig. I den mån den finns och kan användas kommer den att leda till överfiltrering, det vill säga att man censurerar mer än vad som är tänkt och nödvändigt. Dessutom är detta en teknik som förmodligen bara de stora plattformarna kommer att ha resurser för att använda. Den blir alltså en barriär som hindrar små och nya aktörer från att ge sig in på marknaden.

Överfiltrering ses för övrigt inte som ett problem i regleringen, utan ett mål.

Därtill kommer det ständiga problemet att ansvaret för censuren flyttas från lagstiftning och rättsväsende till privata operatörer och deras användarvillkor. Vilket gör individen rättslös.

I slutändan landar detta i att allt material som vi laddar upp på olika plattformar kommer att övervakas, granskas och analyseras. Allt.

Länk: Terrorist content regulation – prior authorisation for all uploads? »

Europaparlamentets TERR-utskott

Samtidigt pågår arbetet med en icke-bindande rapport i Europaparlamentets speciella, hemlighetsfulla »Special Committee on Terrorism« (TERR). Dess syfte tycks i stort sett vara att understödja de initiativ som kommer från EU-kommissionen på området.

Även här har EDRi en slagkraftig sammanfattning…

Unfortunately, references to fundamental rights were so scarce that Committee members chose to add a preamble to the Report to introduce vague considerations for the respect of fundamental rights and freedoms instead of mainstreaming our fundamental rights in the text. For instance, the Report calls for the alignment of the European counter-terrorist policies with the Charter of Fundamental Rights of the European Union, while proposing measures that are in contradiction to this principle. (…)

Compensating repressive and freedom-restrictive measures with superficial references to fundamental rights (such as removing more content online “but without endangering freedom of speech” or balancing interoperability with “fundamental rights of the data subjects”) is utterly insufficient at best and duplicitous at worst. Fundamental rights deserve stronger protection.

Rapporten upprepar även det farliga och orealistiska kravet på bakdörrar till kryptering. EDRi igen…

Worse still, it exacerbates the initial provisions on encryption, by requesting the development of a hub for decryption, including decryption tools and expertise within Europol, to access data obtained in the course of criminal investigations. Weakening encryption to supposedly support law enforcement services actually creates vulnerabilities and increases security risks.

Vilket öppnar allt vi gör på nätet för främmande makt och allsköns cyberbrottslighet.

Denna rapport (som alltså lyckligtvis inte är bindande, men ändå allvarlig) kommer upp till votering i plenum på någon av Europaparlamentets sessioner nu i vinter.

Länk: The TERR Committee votes on its irreparable draft Report »

/ HAX

Dmitry Bogatov and Tor exit node server

Ryske torentusiasten Dmitrij Bogatov snart friad från terroristmisstankar?

av

Den ryske utvecklaren, matematiklektorn och esperantoentusiasten Dmitrij Bogatov kommer snart att frias från misstankar om terrorism, säger en källa till ryska nyhetsbyrån Tass.

Bogatov anklagades i april 2017 för terroristverksamhet, efter att terroristklassat innehåll postats på en webbsajt från Bogatovs IP-adress.

Dmitrij Bogatov driver ett torexitrelä, vilket innebär att användare av anonymiseringstekniken Tor får Bogatovs IP-adress när de ansluter till nätet via hans exitrelä. I just det här fallet hade något postat terroristklassat innehåll via 104 olika IP-adresser, varav Bogatovs var en.

Enligt källan har polisen nu undersökt Bogatovs datorer och minneskort och inte hittat något som styrker anklagelserna. Därför är Bogatovs advokat övertygad om att han snart kommer att släppas fri.

Bogatov satt häktad i tre månader och har sedan dess haft husarrest. En kampanjsajt för att befria Bogatov finns att läsa på engelska, ryska och esperanto.

Not: Vi har transkriberat Bogatovs förnamn på svenskt vis. Med engelsk transkribering från ryska skrivs namnet Dmitry Bogatov.

Bildkälla: Freebogatov.org och 5 juli-stiftelsen (montage).

FBI kan ha klantat sig i avkrypteringen av Sutherland Springs-skyttens iphone

av

Enligt obekräftade källor ska den misstänkte gärningsmannen i söndagens skjutning i Sutherland Springs, Texas, USA, ha haft en iphone, och enligt andra källor ska FBI inte ha kontaktat Apple under de första 48 timmarna efter gärningsmannens död för att få hjälp med att låsa upp denna iphone, rapporterar Reuters:

The delay may prove important. If Kelley had used a fingerprint to lock his iPhone, Apple could have told officials they could use the dead man’s finger to unlock his device, so long as it had not been powered off and restarted.

Vem vet, kanske behövde inte FBI Apples hjälp med att förstå att de kunde låsa upp telefonen med den dödes finger.

Men nyheten ska ses mot bakgrund av ”slaget om krypteringen” som utkämpades mellan FBI och Apple efter San Bernardino-skjutningen 2015, då FBI krävde att Apple skulle utveckla verktyg för att avkryptera innehållet i en telefon som använts av en av gärningsmännen. Apple vägrade och företagets vd Tim Cook skrev ett öppet brev till kunderna där han förklarade Apples beslut.

Google toppade sökresultat med ryktesspridning om attentatsmannen i Sutherland Springs

av

I går ägde ett tragiskt och obehagligt våldsdåd rum i Sutherland Springs, Texas, USA. En ensam gärningsman ska ha skjutit ihjäl 26 personer i en kyrka.

Den som googlade gärningsmannens namn fick desinformation och ryktesspridning bland de första sökträffarna, detta i form av ”Popular on Twitter”-modulen som ligger under ”Top stories”. Google visade nämligen tweets från extremhögern, som försökte etablera att gärningsmannen var vänsterextrem, muslim och Bernie Sanders-anhängare. Det är oklart vad som skulle vara värst.

Gizmodo kommenterar:

Google, Twitter, and Facebook have all regularly shifted the blame to algorithms when this happens, but the issue is that said companies write the algorithms, making them responsible for what they churn out. As CNN’s Jonathon Morgan noted, those algorithms are often designed to “show attention-grabbing, influential content to exactly the people most likely to be manipulated by it.”

Google har svarat på kritiken, och säger sig vilja förbättra sitt rankningssystem för tweets.