Femte juli

Nätet till folket!

Rättssäkerhet

Rätten till en opartisk och rättvis rättslig prövning samt principen om att människor skall betraktas som oskyldiga till dess motsatsen bevisats är centrala principer för en demokratisk rättsstat. Ändå urholkas dessa ständigt, i namn av än det ena, än det andra. I nätsammanhang kan det ofta handla om principen att ingen skall straffas eller censureras utan förgående rättslig prövning.

EU vill använda AI för att se om du har olämpliga kontakter med barn

av

Barnporr och övergrepp mot barn är ett säkert kort när EU vill utöka övervakningen av medborgarnas kommunikationer. Det innebär att ingen törs protestera – även om förslagen är uppåt väggarna tokiga och farliga.

Vi har tidigare skrivit om saken här:
• EU vill se övervakning, granskning och analys av alla elektroniska meddelanden »
• EU vill skanna all din elektroniska kommunikation i jakt på barnporr – utan misstanke »

Nu börjar det komma fram fler detaljer. Bland annat vill EU-kommissionen använda sig av AI för att i hemlighet kontrollera att du och alla andra som använder internet inte har olämplig kontakt med barn.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) förklarar på sin blogg:

»The EU Commission is proposing to screen and monitor all private electronic communications without suspicion in order to search for possible child pornographic content. Today it presented draft legislation to this effect. International providers of e-mail and messenger services are to be permitted to search the content of all private messages for child and youth pornography as well as for the “luring” of minors in order to report this to authorities and non-governmental organizations worldwide.

Not only searches for known pictures and videos are to be legalised, but also error-prone “artificial intelligence”, for example to automatically search text messages for “luring” of minors. If an algorithm reports a suspected message, message content and customer data could be automatically forwarded to law enforcement agencies and non-governmental organizations worldwide without human examination. Regardless of the outcome of the case, the persons concerned should never know that their private communications were disclosed.«

Detta känns som upplagt för galna missförstånd och märkliga tolkningstvister. Och som vanligt är det den som är oskyldig som har mest att frukta.

Breyer:

»The more criminals are pushed to move their communications to impenetrable channels the less likely will the prosecution of child abuse be successful. (…)

Intercepting and filtering the content of all our private communications without suspicion and across the board by corporations such as Facebook and Google is absolutely ineffective and even counterproductive for investigating the channels used by organized crime, but it threatens the privacy and security of Internet communications of millions of innocent citizens and will probably not stand up in court. (…)

With error-prone and opaque AI text filters in place, we can expect countless users falsely reported every day and a thousandfold reading of private messages by international corporations. Particularly affected would be messages from teenagers among themselves, who have a right to respect their sex lives. Reports are to be uncontrollably forwarded to states such as the USA, where no data protection applies, with unforeseeable consequences when travelling.«

Säg att den AI som är inblandad missförstår ett av dina meddelanden – och att du sedan, ovetande om detta, försöker resa in i t.ex. USA. Vad kan möjligen gå fel?

Ännu snurrigare blir detta med tanke på att det aktuella lagförslaget är till för att upphäva konsekvenserna av ett annat lagförslag – som går ut på att skydda medborgarnas elektroniska kommunikationer. Man vill helt enkelt ha två motstridiga uppsättningar av regler. Vilket känns som en tveksam plan.

Om man låter AI-system analysera alla våra meddelanden – är det då någon som tror att detta kommer att stanna vid att bekämpa övergrepp mot barn? Historien lär oss att all övervakning tenderar att drabbas av ändamålsglidning – och ständigt utvidgas till nya områden.

Vill vi verkligen ha ett system där datorer granskar och analyserar alla våra elektroniska kommunikationer – och i förekommande fall rapporterar till myndigheterna om det hittar något intressant?

Detta öppnar möjligheter för åsiktsregistrering, kartläggning av oppositionella och förföljelse av oliktänkande. Vilket blir extra oroväckande med tanke på att vi lever i en tid när yttrande- och meningsfriheten redan hotas från flera håll.

Men presentera det som ett system för att bekämpa barnporr – och ingen vågar protestera.

Läs mer hos Patrick Breyer »

Fildelning: VPN-operatör vinner över filmbolagen

av

Vi har tidigare rapporterat hur filmbolagen och Rättighetsalliansen givit sig på VPN-operatören OVPN – i jakten på olaglig fildelning genom The Pirate Bay:

• Den ständiga jakten på The Pirate Bay – filmbolag ger sig på VPN-tjänst »
• Delseger för OVPN i The Pirate Bay-mål »
• Jakten på TPB – filmbolagen fortsätter bråka med OVPN »

Och nu kommer nyheten som förhoppningsvis sätter punkt för denna process: OVPN vinner informationsföreläggande »

»För att sammanfatta beslutet, har Rättighetsalliansen och deras säkerhetsexperter inte kunnat bevisa några sårbarheter i OVPN:s system som skulle kunna medföra att loggar sparas. OVPN vinner därmed informationsföreläggandet då våra uttalanden och bevis gällande vår loggningspolicy inte har kunnat motbevisas. Filmbolagen behöver också ersätta OVPN:s rättegångskostnader, vilket landar på 108 000 SEK exkl moms.«

Fast Big Entertainments jakt på TPB lär fortsätta.

EU-opinion: Nej till uppladdningsfilter och överstatlig censur i TERREG

av

EU:s opinionsinstitut YouGov har frågat medborgare i tio medlemsstater vad de anser om förslagen om nätcensur i förordningen om terror-relaterat innehåll online (TERREG).

TLDR: Folket säger nej.

På frågan om vem som skall bestämma vilket material som kan komma att censureras säger de tillfrågade:

  • En myndighet, som polisen eller en domstol: 44%
  • Onlineplattformar, med hjälp av algoritmer eller uppladdningsfilter: 38%
  • Inget av de två: 15%
  • Vet ej: 17%

Vilket innebär att endast 38% stöder ministerrådets linje i förhandlingarna om TERREG.

Man har även frågat om ministerrådets förslag att en myndighet i en medlemsstat skall kunna besluta om nedtagning av innehåll i andra länder.

  • 51% säger nej och vill att endast nationella myndigheter skall kunna besluta om nedtagning.
  • 37% håller med ministerrådet om att en nationell myndighet skall kunna besluta om nedtagning även i andra länder.
  • 19% vet ej.

Undersökningen har initierats av Patrick Breyer, ledamot av Europaparlamentet (PP, DE).

Länkar:
• YouGov (PDF) »
• Piratpartiet: EU-medborgare motsätter sig utländsk anti-terror internetcensur»

5 juli-stiftelsen om EU:s planer för nätet: Nej till censur och uppladdningsfilter – värna plattformarnas budbärarimmunitet

av

5 juli-stiftelsen har idag lämnat in sitt yttrande över EU-kommissionens konsultation om the Digital Services Act – som är tänkt att bli EU:s nya allmänna regelverk för internet. (PDF)

Konsultationen består huvudsakligen av ett frågeformulär om allt mellan himmel och jord, vilket i sig är intressant. Man får en känsla av att EU-kommissionen försöker göra DSA så heltäckande som möjligt, med ett betydande inslag av micro management – vilket knappast kommer att gynna en redan överreglerad europeisk IT-sektor.

Det är också intressant att se vad som inte finns i frågeformuläret. Med tanke på all förhandsinformation om gemensamma EU-regler för innehåll online är det märkligt att man i princip helt förbigår den frågan, vilket vi också påpekar. Att man släppt den bollen är knappast troligt. Snarare inser man hur kontroversiell frågan är – och försöker hålla den under radarn så länge som möjligt. Vilket är det sätt på vilket EU ofta hanterar kontroversiella frågor.

Stiftelsen har endast svarat på de frågor som direkt berör oss, samt lämnat in en egen skrivelse med tre viktiga punkter:

  • Ingen förhandscensur. I den mån användarnas rättigheter ändå inskränks bör detta inte få ske med mindre än föregående domstolsprövning.
  • Nej till uppladdningsfilter. De bör varken förekomma vad gäller upphovsrätt (upphovsrättsdirektivet) eller åsikter (t.ex. förordningen om terror-relaterat innehåll online).
  • Budärarimmuniteten måste upprätthållas. Varken operatörer eller plattformar skall kunna hållas ansvariga för vad deras användare gör – så länge det handlar om att tillhandahålla teknisk infrastruktur utan redaktionell styrning av innehållet. Förbudet mot generell övervakning måste upprätthållas.

Hela skrivelsen (PDF, engelska) kan laddas ner här. Vi lägger även upp de substantiella delarna av vårt svar här:

In the prologue to the Digital Services Act there has been much talk about common EU rules concerning online content, as there are different rules in different member states – e.g. the German NetzDG Act and the French Avia Law.

Given this, we are somewhat surprised that the vast questionnaire for the public consultation contains very little if any on this topic.

1) No censorship prior to publication

Given human rights declarations adopted by the EU, rule of law and fundamental principles of western, liberal democracy – we find upload filters and other forms of internet censorship unacceptable.

It should be a commonly accepted principle that no censorship should be applied prior to publication. If someone publishes content that is illegal – legal proceedings should take place against the person responsible after publication. And if any content is to be removed, this should be tried by a court of law.

Simply put, you should not punish anyone for a crime not yet committed.

And if you are to infringe on users’ rights online despite this, it must be decided through due process / in a court of law. This principle has already been established in the EU Telecoms Package back in 2009.

2) No upload filters – especially not for opinions

A problem with upload filters is that they tend to expand the scope from copyright infringements (the Copyright Directive) to opinions (the Regulation on Terrorist Content Online).
Upload filters are very blunt tools, unable to understand context and exceptions for e.g. »fair use« such as critique and satire – thus restricting an open, democratic debate.

A well-known example of over-filtration is the picture of the »Vietnam Napalm Girl« – a historically important document blocked by Facebook on the grounds of nudity. (Later cleared after being published by the Norwegian ex-prime minister and director-general of the WHO Gro Harlem Brundtland.)

Such shortcomings will become even more obvious if applied to opinions.

Considering the constant tendency to mission creep, we strongly recommend that the EU abstain from stipulating upload filters altogether.

3) Mere Conduit for platforms (without curation)

A central principle in the old eCommerce directive is Mere Conduit, stating that ISP’s and other operators cannot be held responsible for their users’ actions.

This principle should be retained – and it should be made clear that it also applies to social media platforms, as long as they do not curate or edit user-generated content in any substantial way.

As long as the issue is about digital infrastructure – service providers and platforms should not be held responsible any more than any other provider of infrastructure like roads or the postal service.

Furthermore, the prohibition of any general monitoring obligation should be upheld.

Läs mer om the Digital Services Act och konsultationen (deadline 8 september) på EU-kommissionens hemsida. »

Skall polisen få avlyssna utan misstanke?

av

»Polisen vill nu avlyssna personer som ännu inte är misstänkta« utropar Sveriges Radio med viss berättigad förskräckelse.

Rimligen menar inte biträdande rikspolischefen att man skall kunna avlyssna vem som helst hur som helst. Och då måste avlyssningen rimligen inriktas. Mot element som polisen befarar kommer att begå brott. Vilket känns snubblande nära just en misstanke.

Och det är precis vad biträdande rikspolischef Mats Löfving säger:

– I ett underrättelsesyfte, precis! Människor som ännu inte ingår i nån brottsutredning. Utan människor som på ett tydligt sätt kan kopplas till gängkriminalitet.

Så att vi vet vad det handlar om. Men det är vanskligt nog.

Ett problem är att man med nödvändighet kommer att kränka en hel del hederliga medborgares integritet. Bekanta, flickvänner, affärskompanjoner och innebandylaget kommer alla att sugas in i sociogrammet över vilka som kan komma att avlyssnas runt en misstänkt kriminell. Det är ett betydande ingrepp i människors rätt till privatliv.

Vad har vi för garantier för att mandatet för denna övervakningsmaskin inte kommer att utökas? Om vi tycker att det är OK att man avlyssnar människor som inte är misstänkta för brott – då är ändå frågan varför detta sker inte huggen i sten. Då kommer den till synes obligatoriska ändamålsglidningen.

För att inte tala om hur detta skulle kunna missbrukas av en ond regering, en galen justitieminister, någon illvillig person i systemet eller bara bli ett offer för den svenska slumpen.

Som verktyg för en stat med ambitionen att kontrollera allt eller förtrycka alla är detta den heliga graal: Möjligheten att kunna avlyssna i princip vem som helst utan någon konkret misstanke om brott. Som i DDR.

Nu vet jag att större delen av svenska folket inte håller med mig. Och jag förstår varför. Kriminaliteten i landet har ändrat karaktär, till den punkt där den inte längre går att bekämpa med traditionella metoder.

Det är illavarslande. På så många sätt.

Men man måste ändå vara medveten om riskerna med att lämna den demokratiska rättsstatens grundläggande värden. Även om det senare av någon anledning ändå skulle anses nödvändigt.

Grundregeln måste vara att medborgare som inte stör någon annan skall lämnas ifred.

Domstolsverket blockerar TOR

av

Domstolsverket blockerar internettrafik från anonymiseringsnätverket TOR. Detta hindrar användare från att begära ut handlingar anonymt. Myndigheten hänvisar till säkerhetsfrågor, vilket ifrågasätts av sakkunniga – speciellt då till exempel websidor hos polisen, försvarsmakten och FRA är tillgängliga via TOR. 

Computer Sweden:

»Att just Domstolsverket spärrar för trafik från Tor, kanske den mest populära anonymiseringstjänsten i världen, kan anses vara ett demokratiproblem. Människor kan dra sig för att begära ut till exempel domslut om de inte kan vara anonyma, och just domslut kan vara känsligt att begära ut om det går att ta reda på vem som begärt att få ut dokument.«

Patrik Wallström, på Föreningen för Digitala fri- och rättigheter, DFRI säger till CS:

»Den trafik man är rädd för kommer ändå. Att spärra ut Tor ger inget skydd för någonting, det spärrar vanliga användare, och det finns många anledningar att vara anonym när man tar del av Domstolsverkets tjänster. De är rädda för att Tor har mycket skadlig trafik, men att de inte vet vad det handlar om och att Tor det låter farligt. Tor har fått en negativ klang i media.«

• Länk: Myndighet blockerar Tor ”av säkerhetsskäl” – försvårar möjligheten till anonymitet »

Nätnyheter från Femtejuli.se – 2020-08-24

av

Kommenterade nätnyheter:
• Svensk polis får använda automatisk ansiktsigenkänning
• EU & Europol vill knäcka kryptering
• Europol vill ha direkt tillgång till företagsdata
• Tänker Trump benåda Snowden?
• Twitter och Youtube censurerar – igen
• EU-studie föreslår digital järnridå

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

Video: Nej till uppladdningsfilter och nätcensur

av

Med upphovsrättsdirektivet introducerades uppladdningsfilter och nätcensur. Med förordningen om terrorrelterat innehåll online vill ministerrådet använda uppladdningsfilter och censur även mot åsikter. Samtidigt förbereds EU:s nya Digital Services Act, som är tänkt att ge enhetliga regler i alla medlemsstater för vad som får publieras online.

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

Europol kan få automatiserad tillgång till persondata från privata företag

av

I december kommer EU att presentera sina planer för Europol. En skillnad sägs bli att Europol får mer direkta polisiära befogenheter – till skillnad från idag då man har en samordnande roll, men lämnar det statliga våldsmonopolets praktiska arbete till medlemsstaterna.

Bland annat talas om att ge Europol automatiserad tillgång till persondata, inte bara från myndigheter – utan även från privata företag. Den vanligtvis välunderrättade Matthias Monroy skriver på sin blogg:

»Europol is also to process more information from private companies. These include Internet providers, travel agencies, airlines and banks. Up to now, Europol receives such data only in exceptional cases and on request, in future this could be done in an automated procedure.«

Detta lämnar naturligtvis många frågetecken om vem som skall ge klartecken för sådan datainhämtning. Här kan nationella domstolar och rättsliga instanser komma att bli förbigångna.

Vilket för oss till nästa punkt:

»Probably the most controversial is the proposal that Europol should be able to request that investigations be initiated in a Member State. Their governments will probably see their sovereignty affected by this. The new competence could therefore be coordinated with the European Public Prosecutor’s Office (EPPO), with which Europol would in any case be supposed to cooperate more closely.«

Detta kan bli knepigt i ett EU med olika nationell lagstiftning. (Även om EU:s ambition lär vara harmoniserad lagstiftning i alla medlemsstater.) Förslaget riskerar dessutom att påverka de nationella polismyndigheternas oberoende.

Det är också värt att notera att man diskuterar att inrätta insatsstyrkor med speciella taktiska färdigheter som kan rycka ut från Europol till olika medlemsstater – eller tredje land.

Matthias Monroy: Europol Regulation: Towards a „European FBI“? »

Yttrandefriheten, cancel culture och brottsbalken

av

I vår förra bloggpost gick vi igenom vad som gäller yttrandefrihet i våra grundlagar. Dessa reglerar individens förhållande till staten.

En betydligt knivigare fråga gäller yttrandefriheten i relation till människors förhållande sins emellan. Har någon rätt att direkt eller indirekt tysta någon annan? Här är det istället individernas handlingar (oavsett syfte) som är avgörande. Och då får vi gå till brottsbalken.

Brottsbalkens fjärde kapitel, brott mot frihet och frid:

4 § Den som genom misshandel eller annars med våld eller genom hot om brottslig gärning tvingar någon att göra, tåla eller underlåta något döms för olaga tvång till böter eller fängelse i högst två år. Om någon med sådan verkan utövar tvång genom hot att åtala eller ange någon annan för brott eller att lämna menligt meddelande om någon annan, döms också för olaga tvång, om tvånget är otillbörligt. (…)

5 § Den som hotar någon annan med brottslig gärning på ett sätt som är ägnat att hos den hotade framkalla allvarlig rädsla för egen eller annans säkerhet till person, egendom, frihet eller frid, döms för olaga hot till böter eller fängelse i högst ett år.

Förbudet mot olaga tvång bör kunna vara tillämpligt om sådant används för att hindra någon från att uttrycka sin fria mening. Här är det som sagt inte syftet, utan handlingen som är det intressanta.

7 § Den som fysiskt antastar någon annan eller utsätter någon annan för störande kontakter eller annat hänsynslöst agerande döms, om gärningen är ägnad att kränka den utsattes frid på ett kännbart sätt, för ofredande till böter eller fängelse i högst ett år.

Frågan är om detta är tillämpbart på digitala lycnhmobbar som ger sig efter personer som de ogillar eller vars åsikter de inte delar. Meetoo-kampanjen drev ju trots allt minst en offentlig person i döden.

Kapitel fem, om ärekränkning:

1 § Den som utpekar någon såsom brottslig eller klandervärd i sitt levnadssätt eller eljest lämnar uppgift som är ägnad att utsätta denne för andras missaktning, dömes för förtal till böter.

Var han skyldig att uttala sig eller var det eljest med hänsyn till omständigheterna försvarligt att lämna uppgift i saken, och visar han att uppgiften var sann eller att han hade skälig grund för den, skall ej dömas till ansvar.

2 § Om brott som avses i 1 § är grovt döms för grovt förtal till böter eller fängelse i högst två år.

Vid bedömningen av om brottet är grovt ska det särskilt beaktas om gärningen med hänsyn till uppgiftens innehåll eller sättet för eller omfattningen av spridningen eller annars var ägnad att medföra allvarlig skada. Lag (2017:1136).

3 § Den som, i annat fall än som avses i 1 eller 2 §, riktar beskyllning, nedsättande uttalande eller förödmjukande beteende mot någon annan döms, om gärningen är ägnad att kränka den andres självkänsla eller värdighet, för förolämpning till böter.

Om brottet är grovt, döms till böter eller fängelse i högst sex månader. Lag (2018:1745).

Att gå efter någon som uttryckt en åsikt man ogillar – till den punkt där personen ifråga till exempel mister sitt arbete eller de-plattformeras bör rimligen kunna falla under formuleringen »utsätta denne för andras missaktning«.

Kapitel 16, brott mot allmän ordning:

4 § Om någon genom våldshandling eller oljud eller på annat dylikt sätt stör eller söker hindra allmän gudstjänst, annan allmän andaktsövning, vigsel eller begravning eller dylik akt, domstols förhandling eller annan statlig eller kommunal förrättning eller allmän sammankomst för överläggning, undervisning eller åhörande av föredrag, döms för störande av förrättning eller av allmän sammankomst till böter eller fängelse i högst sex månader.

Det där vet jag fungerar – eftersom jag känner till att en person som betedde sig på just detta sätt under ett offentligt möte där jag var talare faktiskt blev åtalad och dömd.

Juridik är snårigt och jag är inte jurist. Men om någon utsätter någon annan för något av det ovanstående – på grund av ett yttrande som i sig inte är olagligt – då tolkar jag det som att lagen trots allt står på den drabbades sida.

»Frånvaro av yttrandefrihet är en förlust både för dem som sätter på munkavlen och dem som beläggs med den. De som beläggs med munkavle förlorar möjligheten att skifta åsikt om de skulle ha misstagit sig. Avsaknaden av denna frihet innebär också att de som förbjuder rivaliserande åsikter degenererar eftersom de inte får möjlighet att bevisa att de eventuellt har rätt. Deras övertygelse blir deras dogm.« – John Stuart Mill