Femte juli Nätet till folket!

Nätet till folket!

Storebror

Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.

Han, vars namn inte får nämnas på Facebook

av Lämna en kommentar

En ledande person i radikala invandringskritiska brittiska kretsar – Tommy Robinson – är nu så på kant med Facebook att det tydligen räcker med att nämna hans namn för att bli tillfälligt avstängd. Vilket är problematiskt, dels eftersom han är inblandad i en infekterad rättslig process av allmänt intresse – och dels eftersom hans avstängning från Facebook belyser en del intressanta frågor om yttrandefrihet.

Ryktet om att folk blir tillfälligt avstängda från Facebook om de nämner Robinson vid namn har cirkulerat en tid. Nyligen testade en person i en Facbookgrupp om mediala frågor där jag är med ryktet. Och det skall tydligen stämma – och ledde till tre dagars avstängning.

Vilket gör att det blir mer eller mindre omöjligt att diskutera den onämnbares rättsfall, Facebooks hantering av honom – samt de principiella frågor som väcks av att han blivit onämnbar. I vart fall på Facebook. Det hela blir Kafka-artat.

Brittiska tidningen The Daily Mail (med reservation för källans pålitlighet) har rotat lite i saken. Tydligen betraktas Robinson som en »designated hate entity« och en »hate agent« av Facebook, vilket gör att blotta förekomsten av hans namn hissar en röd flagga.

The Daily Mail skriver även…

»And the social media giant’s monitoring of its users’ also stretches to activity on other websites and even their private lives, such as whether they have a ’hate symbol’ tattoo.«

Facebook är ett privat företag och kan ha vilka användarvillkor de vill. Men att de snokar i sina användares privatliv utanför den egna plattformen – det känns i vart fall en smula olustigt.

Ovanpå allt detta kommer debatten (vars vågor just nu går höga i USA) om nätjättarnas eventuella politiska slagsida och hur detta påverkar deras ställning som plattform (där användarna själva ansvarar för sina yttranden) eller publicister (som modererar eller styr innehållet och därmed blir ansvariga för vad som publiceras).

Förmodligen skulle livet för nätjättarna bli mycket lättare om deras regler för publicering av användargenererat material endast styrdes av vad som är lagligt respektive olagligt.

The Daily Mail: Facebook monitors the offline behaviour of users to determine if they should be categorised as a ’Hate Agent’ and banned »

EU:s Digital Services Act – mer reglering och censur

av 7 kommentarer

Tyska Netzpolitik har fått tag i ett dokument i vilket EU-kommissionens tjänstemän drar upp riktlinjerna för EU:s nätpolitik de kommande fem åren. Planen är att lägga fram en »Digital Services Act« som har ambitionen att ta ett helhetsgrepp på nätfrågorna. Och som väntat är det mer reglering och censur på gång.

På EU-språk heter det att lägga fram ett horisontellt regelverk för att harmonisera den inre digitala marknaden.

Dokumentet bekräftar att ambitionen är att täcka in det mesta:

»This would include services such as ISPs, cloud services, content delivery networks, domain name services, social media services, search engines, collaborative economy platforms, online advertising services, and digital services built on electronic contracts and distributed ledgers.«

Det främsta målet tycks vara att ersätta eller kringgå eHandelsdirektivets förbud mot generell övervakning och principen om budbärarimmunitet.

»While the prohibition of general monitoring obligations should be maintained as another foundational cornerstone of Internet regulation, specific provisions governing algorithms for automated filtering technologies – where these are used – should be considered, to provide the necessary transparency and accountability of automated content moderation Systems.«

Ovanstående kryptiska formulering antyder att man kan komma att göra skillnad mellan övervakning (monitoring) i allmänna termer och filtrering / moderering / förhandscensur med hjälp av algoritmer. Det skulle i så fall vara en direkt skamlös väg att lotsa upphovsrättsdirektivets »uppladdningsfilter« förbi förbudet mot allmän övervakning.

På Techdirt kommenterar Glyn Moody saken så här »That’s a classic: affirming that general monitoring is prohibited, while bringing in rules for proactive automated filtering technologies — aka general monitoring. It would tilt the playing field even more in favor of big, mostly US companies, and would guarantee that the EU never produces its own digital giants like Google or Facebook.«

Vidare i texten…

»Regulating content moderation. Uniform rules for the removal of illegal content such as illegal hate speech would be made binding across the EU, building on the Recommendation on illegal content and relevant case-law, and include a robust set of fundamental rights safeguards.«

Vilket bygger på att man kan få fram en enhetlig definition av näthat som fungerar i och accepteras av alla EU-länder. Det kan i sig bli synnerligen intressant.

»The analysis will also cover harmful content (which is not necessarily illegal), as such content is not only addressed in EU-level policies (such as the AVIVSD), but also at MS level (e.g. the draft French fake news law, the UK Online Harms White Paper, etc. However, a clear distinction will be made between illegal and harmful content when it comes to exploring policy options.«

Då uppstår frågan vad som är skadligt/harmful. Och vem som skall bestämma det.

Och att ha ett separat regelverk för skadligt (till skillnad från olagligt) innehåll bör vara en röd flagga. Det kan lätt bli en gummibandsparagraf som kan öppna för censur av i princip vad som helst.

»A dedicated regulatory structure should ensure oversight and enforcement of the rules, in particular for cross-border situations, but also partnerships and guidance for emerging issues, and with appropriate digital capacities and competences, inter alia to help translate rules into technical solutions.«

Om man har reglering, då måste man naturligtvis även ha verktyg för att upprätthålla den. Och i detta fall gläntar man på dörren för en ny, överstatlig internet-byråkrati på EU-nivå.

Man nämner också att det kanske är mindre lämpligt att det nya regelverket läggs fram som ett direktiv. Istället överväger man en förordning/reglering (regulation). Skillnaden är att ett direktiv vävs in i medlemsstaternas lagstiftning, medan en reglering är ett regelverk som gäller rakt av i hela EU.

Nu skall påpekas att det läckta dokumentet är ett arbetspapper. Exakt vad EU-kommissionen kommer att lägga fram vet vi ännu inte. Men informationen ovan lär vara en god indikation. Och den är helt i linje med vad EU-kommissionens nya ordförande Ursula von der Leyen hade att säga om de digitala frågorna när hon blev vald.

Digital Services Act – det är här striden om internets frihet i EU kommer att stå de närmaste fem åren.

Länkar:
• EU-kommissionens dokument (PDF) »
• Techdirt: EU Looking To Regulate Everything Online, And To Make Sites Proactively Remove Material »
• EDRi: E-Commerce review – Technology is the solution. What is the problem?
• MAB: A Europe fit for the digital age (ur von der Leyens programförklaring) »

Krav på samtycke för ansiktsigenkänning

av Lämna en kommentar

I veckan har EU-ländernas dataskyddsmyndigheter träffats i Bryssel. Bland annat har man diskuterat att kräva samtycke för automatiserad ansiktigenkänning.

Politico rapporterar:

In particular, the watchdogs are looking to reclassify facial recognition data as ”biometric data,” which under the GDPR is considered ”sensitive data” and requires explicit consent from the person whose data is being collected as well as other stricter privacy protections. Without these, collection of the data is forbidden.

Räkna med att detta kommer att möta motstånd bland EU:s justitie- och inrikesministrar – som ju i princip aldrig missar en chans till utökad övervakning och kontroll av medborgarna.

Politico: Europe eyes stricter rules on facial recognition »

Nu vill EU även registrera våra tåg- och båtresor

av 5 kommentarer

Under rubriken »vad var det vi sa«: Det finska EU-ordförandeskapet vill gå vidare med registrering av våra resor till att även omfatta tåg och båt.

EU har redan ett kritiserat system för registrering av upp till 60 datapunkter kring våra flygresor, PNR.

Nu har det finska EU-ordförandeskapet lyft frågan om att utöka registreringen till internationella resor med tåg och båt. Övriga EU-länder sägs vara i stort sett positiva till förslaget, även om man avvaktar ett rättsfall om PNR. Förmodligen kommer ett skarpt förslag under våren nästa år.

Som tongångarna är i EU kan man även förvänta sig att hyrbilar och hotellövernattningar kommer att registreras i nästa steg.

Länk: Finnland treibt Komplettüberwachung aller Reisebewegungen in der EU voran »

Twitters nya förbud mot religionskritik är ett moraliskt träsk

av Lämna en kommentar

SVT rapporterar att »Twitter förbjuder hat och nedsättande språkbruk mot religiösa grupper. Användare som bryter mot reglerna ska kunna stängas av från plattformen.«

  • Till att börja med är det knepigt – och ofta subjektivt – vad som kan uppfattas som »hat« eller »nedsättande« och vad som är saklig kritik.
  • Vidare skall det bli intressant att se hur man tänker tillämpa detta när religiösa uppfattningar står i strid med människovärde, demokrati och medborgerliga fri- och rättigheter. Vilken kritik blir tillåten att framföra utan att betraktas som »nedsättande«? Vad får företräde – religionen eller den liberala västerländska demokratins värdegrund?
  • För det tredje gör religionen anspråk på att vilja styra hur människor skall bete sig och hur vårt samhälle skall fungera. Vilket i princip är att likställa med en politisk kraft. Och sådant måste alltid få kritiseras, utmanas – och även hånas.
  • Dessutom blir det hela bisarrt eftersom det handlar om tro, om metafysik, om sådant om inte existerar i den verkliga världen. Skall folk kunna undgå kritik bara för att de fått för sig att tro på något – även när detta är i grunden anti-humanistiskt?
  • Slutligen är det läge att påminna om att yttrandefriheten fyller sin främsta grundläggande funktion när den tillåter människor att säga sådant som andra inte vill höra.

Länk: Twitter förbjuder hat mot religiösa grupper »

Säpos förslag om förbud mot att inneha eller titta på terrorpropaganda är naivt

av Lämna en kommentar

I veckan som gick krävde Säpo-chefen Klas Friberg att regeringen skall utreda ett förbud mot att inneha eller titta på terrorpropaganda.

»Säkerhetspolisen ser att en kriminalisering skulle ge möjlighet att lagföra enskilda individer. En kriminalisering skulle också ha en dämpande effekt vad gäller radikalisering. Det gäller inte minst unga personer som är propagandans främsta målgrupp.«

TT rapporterar:

Enligt Friberg hittar polisen ofta våldsbejakande islamistisk propaganda vid husrannsakningar gällande kontraterrorism, men på grund av att det inte är ett brott att inneha den typen av propaganda har Säkerhetspolisen svårt att ingripa.

Att tro att människor som lockas av en blodtörstig terrororganisation skulle bry sig om ett sådant förbud verkar naivt.

Dessutom bör man fråga sig om något blir bättre om Säpo inte skulle kunna stärka sina misstankar genom att sådant material går att finna hos de personer man utreder. (Om vi antar att ett förbud verkligen skulle efterlevas.) Och kan det inte vara till nytta för Säpo att se vilka som delar sådan propaganda och i vilken kontext det sker?

Samtidigt är de oväntade och oönskade konsekvenserna inte direkt svåra att förutse. Hur hanterar man till exempel journalister, forskare och människorättsorganisationer som behöver tillgång till sådant som terrororganisationer publicerar online? Eller helt vanliga människor som vill bilda sig en egen uppfattning om vad som sker i deras omvärld?

Var går gränsen? Strikt tolkade skulle vissa internationella definitioner av terrorism öppna för att vår regering ägnar sig åt terrorpropaganda.

Vem bestämmer vad som skall klassas som terrorism? Många skulle till exempel betrakta regional separatism som terrorism. Och hur skiljer man nyhetsrapportering om en terror-relaterad händelse från propaganda?

Alternativet är att låta människor få se vad som faktiskt händer i deras omvärld – även om det är motbjudande och obehagligt. För vad kan antas bli bättre om vi inte får reda på vad vårt öppna och fria samhälles fiender har för sig?

Slutligen: Det känns som en dålig plan om staten skall kunna förbjuda information baserat på ett löst och oklart regelverk för att definiera vem avsändaren är. Det kan öppna för att förbjuda i stort sett vad som helst.

Länkar: DN » | Omni » | TT »

Tveksamhet inför ansiktsigenkänning kopplad till polisens kroppskameror

av Lämna en kommentar

Det har blivit allt vanligare att polisen runt om i världen använder kroppskameror. Syftet med dessa är att dokumentera vad som verkligen sker vid ett ingripande – vilket även anses minska risken för övergrepp från polisens sida. Vilket är en bra sak.

Men tekniken går ständigt framåt. Och nu har det blivit möjligt att koppla polisens kroppskameror till ansiktsigenkänning – som syftar till att identifiera de människor vars ansikten kommer i kamerornas väg.

Vilket innebär att ett verktyg som var tänkt att öka rättssäkerheten plötsligt också håller på att bli ett verktyg för övervakning av allmänheten.

Detta oroar inte bara medborgarrättsaktivister. Även de företag som tillverkar kroppsburna kameror är avvaktande till utvecklingen. Till exempel har ett av dem, Axon, pausat sin utveckling av kameror med ansiktsigenkänning. Företaget skriver:

Technology is moving much faster than legislative bodies and courts can respond. Hence, we believe it is critical for technology leaders to work hard to understand the ethical, legal, and community implications for new technologies that are too new to be effectively covered by existing law.

Kritik kommer även från akademiker och en del politiker. Till exempel menar the California Assembly att kroppskameror med ansiktsigenkänning leder till att medborgarna tvingas välja mellan att undvika att att interagera och samarbeta med ordningsmakten – eller få bilder av sitt ansikte registrerade, analyserade och lagrade som potentiellt misstänkta brottslingar.

EFF:
• A Major Police Body Camera Maker Hits Pause on Face Surveillance »
• California: Stop Face Surveillance on Police Body-Worn Cameras »

5G sätter stopp för telefonavlyssning?

av Lämna en kommentar

EU:s justitie- och inrikesministrar konstaterar yrvaket att den nya 5G-tekniken kan medföra problem för den ständigt ökande telefonavlyssningen.

EDRi rapporterar:

»The documents warn that various aspects of the technology underpinning 5G communications networks could make traditional wiretapping methods far more complicated or even render them useless. For example, the IMSI code – used to identify an individual device – will be encrypted, meaning “the security authority authorities are no longer able to locate or identify the mobile device,” according to Europol. 5G networks will also be able to detect false “base stations” – making it impossible to use IMSI catchers (or “stingrays”), devices that imitate telecoms antennae in order to discreetly acquire user data. Other issues such as network slicing, edge computing, and network function virtualisation raise their own problems, leading to significant new challenges for law enforcement agencies wanting access to individuals’ data.«

Samtidigt öppnar den nya tekniken i kombination med »the internet of things« nya möjligheter till övervakning. I USA har data som genereras i allt från smarta vattenmätare till pacemakers och bilars inbyggda digitala säkerhetssystem använts som bevis i domstol.

Man kan anta att ministerrådets oro kommer att öka kraven på datalagring – det vill säga data som lagras hos teleoperatörerna istället för att uppsnappas i realtid.

EDRi: EU worries over the possibility of losing wiretapping powers »

Kina installerar spionprogram på turisters mobiltelefoner

av Lämna en kommentar

Vice Motherboard rapporterar:

Foreigners crossing certain Chinese borders into the Xinjiang region, where authorities are conducting a massive campaign of surveillance and oppression against the local Muslim population, are being forced to install a piece of malware on their phones that gives all of their text messages as well as other pieces of data to the authorities, a collaboration by Motherboard, Süddeutsche Zeitung, the Guardian, the New York Times, and the German public broadcaster NDR has found.

Vilket naturligtvis är en oacceptabel integritetskränkning. Men hur skall västvärlden kunna protestera med trovärdighet, när vi själva använder »statstrojaner« och spionprogram? I Sverige är nya lagar om »hemlig dataavläsning« just nu på väg genom det politiska systemet.

Länk: China Is Forcing Tourists to Install Text-Stealing Malware at its Border »

USA diskuterar förbud mot säker kryptering

av Lämna en kommentar

Man skulle kunna tycka att debatten om kryptering borde vara över. Att göra kryptering olaglig är såväl idiotiskt som omöjligt. Och att skapa bakdörrar utsätter oss inte bara för Storebrors nyfikna granskning – utan gör oss dessutom sårbara för angrepp från till exempel cyberbrottslingar och främmande makt, eftersom sådana verktyg bevisligen läcker.

Men det hindrar inte politiker och byråkrater…

»Senior Trump administration officials met on Wednesday to discuss whether to seek legislation prohibiting tech companies from using forms of encryption that law enforcement can’t break — a provocative step that would reopen a long-running feud between federal authorities and Silicon Valley.« (…)

»The DOJ and the FBI argue that catching criminals and terrorists should be the top priority, even if watered-down encryption creates hacking risks. The Commerce and State Departments disagree, pointing to the economic, security and diplomatic consequences of mandating encryption “backdoors.” DHS is internally divided.«

Politico: Trump officials weigh encryption crackdown »