Femte juli

Nätet till folket!

Länktips

Vi använder kategorin länktips dels när vi vill tipsa om något intressant, dels när vi publicerar andra poster med många och/eller bra länkar.

EU öppnar för automatisk granskning och analys av alla dina meddelanden och all din e-post

av

Alla dina meddelanden och all din e-post kommer att granskas och analyseras. Är dessa meddelanden krypterade är det plattformens problem att avkryptera dem. Detta är konsekvensen av ny lagstiftning som just nu är på väg i EU.

Bakgrunden är ovanligt rörig, till och med för att vara EU. Enkelt uttryckt införde man i slutet av förra året en European Electronic Communications Code. Den gav användarna ett mycket starkt skydd för elektronisk korrespondens. Så starkt att man inte längre skulle kunna ägna sig åt regelmässig övervakning. Och så vill man ju inte ha det, kom man på efteråt.

Därför har man nu förhandlat fram ett undantag från den nya lagen – i väntan på ännu nyare regler, som inte går lika långt som EECC. Detta motiverar man med att man vill skydda barn mot sexuella övergrepp online. Det kunde lika gärna ha varit terrorism, penningtvätt, droghandel, organiserad brottslighet eller något annat. Men om man gömmer sig bakom barnporr och övergrepp mot barn – då är det få som vill eller vågar protestera.

Enkelt uttryckt kommer alla nätets meddelandetjänster att omfattas. Automatisk analys av alla meddelanden kommer att ske, i jakt på något intressant.

Den piratpartistiske, tyske ledamoten av Europaparlamentet Patrick Breyer skriver:

»In 2020 the European Commission proposed “temporary” legislation aimed at allowing the search of all private chats, messages, and emails for illegal depictions of minors and attempted initiation of contacts with minors. This is to allow the providers of Facebook Messenger, Gmail, et al, to scan every message for suspicious text and images. This takes place in a fully automated process and using error-prone “artificial intelligence”. If an algorithm considers a message suspicious, its content and meta-data are disclosed automatically and without human verification to a private US-based organization and from there to national police authorities worldwide. The reported users are not notified.«

Siffror från polisen i Schweiz pekar på att 90% av alla automatiserade flaggningar är falska. Och med tanke på det stora antalet ärenden är frågan hur många falska positiva som ändå kommer att slinka igenom – och rapporteras till polis. Vilket naturligtvis kan leda till allvarliga problem för den enskilde. Den som är oskyldig har mest att frukta.

»On your next trip overseas, you can expect big problems. Machine-generated reports on your communications may have been passed on to other countries, such as the USA, where there is no data privacy – with incalculable results.«

Hur detta är tänkt att fungera mot det generella förbudet mot övervakning i gällande och föreslagna EU-direktiv är oklart.

En annan öppen fråga är hur man tänkt hantera P2P-krypterad e-post där operatören inte har någon möjlighet att avkryptera meddelanden.

Europaparlamentet väntas rösta om saken under sin session i mars.

Länk: Messaging and chat control »

Trots löften om motsatsen: Tyskland inför uppladdningsfilter

av

När EU antog sitt nya upphovsrättsdirektiv våren 2019 var vi många som varnade för att artikel 17 (tidigare artikel 13) skulle komma att leda till uppladdningsfilter.

Detta hävdade rapportören, MEP Axel Voss (CDU/EPP, DE) var överdrifter och skräckpropaganda. Även den tyska regeringen har försökt tona ner sådana farhågor.

Nu har vi facit, på temat vad var det vi sa..?

Den tyska regeringen vill se artikel 17 implementerad i sin nationella lagstiftning på detta sätt:

  • Först måste man kontrollera allt innehåll som alla laddar upp. På grund av de stora volymerna måste det med nödvändighet ske med automatiserade uppladdningfilter.
  • Materialet kommer sedan automatiskt att klassas i en av tre grupper.
  • Upphovsrättsskyddat licensierat material, som skall släppas igenom och publiceras.
  • Material som kanske eller kanske inte är upphovsrättsskyddat och som kanske eller kanske inte faller under undantag för parodi, satir, kritik m.m. Släpps detta innehåll igenom meddelas upphovsrättsinnehavaren, som då får möjlighet att överklaga. Stoppas det meddelas den som laddat upp det, som då får möjlighet att överklaga. Överklaganden skall avgöras inom en vecka.
  • Icke igenkänt/registrerat material (som i sig ändå kan vara skyddat av upphovsrätt, se nedan*) som släpps igenom – med reservation för att det dock måste plockas ner om det visar sig vara olagligt.

Hur denna teoretiska modell är tänkt att fungera i praktiken är oklart. En svag punkt gäller överklaganden. Hur hanterar man om tusentals, eller hundratusentals ärenden överklagas varje månad? Detta kommer antingen att kräva en omfattande administrativ apparat – eller så kommer man snabbt att bygga upp en omfattande kö med öppna ärenden. I det senare fallet (som är det troliga) minskar möjligheterna för en rättssäker behandling.

Intressant trivia (*) i sammanhanget är att det bara lär vara sådant som Big Media och Big Entertainment låtit registrera som upphovsrättsskyddat som flaggas i systemet. Men nästan allt annat (utom public domain och creative commons) är också upphovsrättsskyddat. Men dessa upphovsmän får inte samma skydd för sina verk som storföretagen. För att vara exakt, i princip inget skydd alls. Vilket antyder att det hela mer handlar om att skydda Big Business och dess intressen än upphovsrätten som sådan.

Den tyska utvecklingen är intressant inte bara för att man nu bryter löftet om att inga uppladdningsfilter kommer att krävas – utan även för att vi väntar på att den svenska regeringen skall lägga fram sitt förslag till hur upphovsrättsdirektivet skall implementeras i vår lagstiftning. Och den kikar naturligtvis på hur man gör i våra grannländer.

Läs mer på det tyska justitiedepartementets hemsida. »

USA: Banker och betalningsförmedlare kan fortsätta agera moralpolis

av

Vi har sett många exempel på hur banker, kreditkortsföretag och andra betalningsförmedlare som PayPal strypt betalningskanalerna för verksamhet som anses som kontroversiell. Det gäller allt ifrån Wikileaks och kryptovalutor till postorderbutiker för sexleksaker.

Detta är naturligtvis allvarligt. Verksamhet som är laglig bör få använda de stora och totalt dominerande betalningskanalerna. I vissa fall – som Wikileaks – blir det i förlängningen även en fråga om förutsättningarna för det fira ordet.

Ett annat exempel är Patreon, som stängt av möjligheten till crowdfunding för innehållsskapare vars åsikter företaget inte delar.

Ett tredje är hur vissa banker säger upp konton för kunder som genomför transaktioner kopplade till köp eller försäljning av kryptovalutor

Den förra amerikanska administrationen införde en Fair Access Rule som säger att »banks should conduct risk assessment of individual customers, rather than make broad-based decisions affecting whole categories or classes of customers when provisioning access to services, capital, and credit«. Det vill säga att man skall värdera varje enskilds kunds beteende och riskprofil snarare än att utestänga hela kategorier av laglig verksamhet från betalningssystemen.

Detta regelverk har ännu inte hunnit träda ikraft och kommer inte heller att göra det – då det redan upphävts av den nya amerikanska administrationen.

Reason skriver:

»This regulation was meant to shield politically unpopular but otherwise legal companies from banking discrimination, following Operation Chokepoint, a program initiated by President Barack Obama’s Justice Department. While ostensibly designed to combat fraud, in practice, Reason writers have observed, it empowered the government to target unfavorable industries, such as payday lending and pornography, by ”coercing private businesses in an attempt to centrally engineer the American marketplace based on its own politically biased moral judgments.”«

När Operation Chokepoint bland annat ledde till att Wikileaks fick sina betalningskanaler för stöd stängda uttalade Europaparlamentet att sådana rutiner är ett hot mot det fria ordet och den fria åsiktsbildningen.

Läs mer hos Reason: Biden Administration Suspends Rule Protecting Businesses from Banking Discrimination »

Regeringen oroas vad gäller yttrandefriheten i EU:s Digital Services Act

av

Regeringen har presenterat en faktapromemoria om EU:s nya Digital Services Act (DSA) / förordning om en inre marknad för digitala tjänster.

Bland annat noterar man att delar av EU-kommissionens förslag kan komma att strida mot den svenska yttrandefrihetsrgrundlagen (YGL). Under punkt 1.3.2 skriver man:

»Vissa webbplatser som träffas av förslaget kan omfattas av skydd enligt YGL, och det kan inte uteslutas att förslaget i några avseenden kan komma i konflikt med YGL:s bestämmelser. De eventuella konfliktytorna gentemot YGL behöver analyseras närmare och noggrant bevakas i det kommande förhandlingsarbetet för att säkerställa förordningens överensstämmelse med YGL.

Mekanismer för s.k. notice and action kan begränsa yttrandefriheten (dvs. friheten att i tal, skrift eller bild eller på annat sätt meddela upplysningar samt uttrycka tankar, åsikter och känslor) och informationsfriheten (dvs. friheten att inhämta och ta emot upplysningar samt att i övrigt ta del av andras yttranden); fri- och rättigheter som var och en gentemot det allmänna är tillförsäkrad enligt regeringsformen. T.ex. riskerar oprecisa krav kunna leda till överborttagning. Begränsningar av yttrandefriheten får enligt regeringsformen göras endast för att tillgodose ändamål som är godtagbara i ett demokratiskt samhälle. Begränsningen får aldrig gå utöver vad som är nödvändigt med hänsyn till det ändamål som har föranlett den och inte heller sträcka sig så långt att den utgör ett hot mot den fria åsiktsbildningen såsom en av folkstyrelsens grundvalar. Begränsningen får inte göras enbart på grund av politisk, religiös, kulturell eller annan sådan åskådning.«

Det är naturligtvis välkommet att regeringen tycks vara uppmärksam på detta. Frågan är dock i vilken mån den svenska yttrandefriheten kommer att kunna försvaras när förordningen genomgår behandling i EU. Sverige är en liten medlemsstat med begränsat inflytande och det saknas inte krafter som drar åt annat håll.

Under punkt 2 skriver man vidare:

»Tillhandahållare av förmedlingstjänster behöver ta ett större ansvar för att ta bort och hålla borta uppenbart olagligt innehåll som i sig, eller med hänvisning till en aktivitet, inklusive försäljning av produkter eller tillhandahållande av tjänster, inte överensstämmer med unionsrätten eller lagen i en medlemsstat.«

Formuleringen »hålla borta« väcker frågor. Återigen är detta en position som i praktiken kommer att kräva uppladdningsfilter – även om man inte säger det rakt ut. Vilket vi känner igen från såväl EU:s upphovsrättsdirektiv som förordningen om terror-relaterat innehåll online (TERREG/TCO).

Detta bekräftas ett par stycken senare under punkt 2:

»Regeringen välkomnar vidare ansatsen att ge incitament till ett mer proaktivt ansvar för leverantörer av förmedlingstjänster i fråga om att ta ned och hålla olagligt innehåll borta, och att aktörer med i generell mening större inflytande åläggs ett större ansvar än de med mindre inflytande.«

Enkelt uttryckt: Om man skall kunna hålla ett visst innehåll borta – då måste man kontrollera allt som alla laddar upp. Det enda praktiskt genomförbara sättet att göra detta är med automatiserade uppladdningsfilter. Och sådana kommer att blockera mycket material på felaktiga grunder.

På det hela taget är det oklart hur sådant är tänkt att vara förenligt med eHandelsdirektivets förbud mot generell övervakning – som finns kvar i DSA.

Även punkt 2.1 är viktig att notera:

»Många medlemsstater förespråkar förtydligade ansvarsregler för internetplattformar. Flera medlemsstater förespråkar också regler som ger plattformarna ett utökat ansvar för innehåll. Många anser att ansvaret bör begränsas till olagligt innehåll. En del medlemsstater vill däremot att reglerna ska gälla skadligt eller olämpligt innehåll, oavsett om det är olagligt eller inte.«

Räkna med att det kan bli strid på denna punkt. Fortsättning följer.

Läs mer:
• Regeringens promemoria (PDF) »
• Piratpartiet »

Facebooks oversight board prövar Trumps avstängning

av

I ett läckt konferenssamtal med Facebooks ledningsgrupp meddelar dess PR/PA-chef Nick Klegg att företagets oversight board skall pröva Donald Trumps permanenta avstängning.

Man har även bett om vägledning för hur man skall hantera frågor om avstängning av politiska ledare i allmänhet. Enligt videon oroas man över den kritik som framförts från bl.a. Alexei Navalny och Angela Merkel. Klegg säger även att man är överens med kritikerna om att sådana avstängningar bör hanteras inom ramen för demokratiskt fastställda regler. Han noterar också att några sådana regler inte existerar idag.

 

Facebook får bakläxa i fyra av fem fall av sin nya oversight board

av

Facebooks nyinstiftade oversight board – ett slags högsta domstol för att lösa tvister om moderering – har just meddelat vägledande beslut i fem fall. I fyra av dessa kom man fram till att företaget tagit bort inlägg på felaktiga grunder.

Eftersom en del tycks ha fallit bort i översättningen till engelska skall vi inte göra saken värre genom att översätta en gång till. Så vi klipper helt fräckt in vad ArsTechnica rapporterar:

  • A user in Myanmar posted to Facebook that ”Muslims have something wrong in their mindset” (or maybe ”something is wrong with Muslims psychologically”—translations differ) arguing that Muslims should be more concerned about the genocide of Uighurs in China and less focused on hot-button issues like French cartoons mocking the Prophet Muhammad. Facebook removed the post as anti-Muslim hate speech. The Oversight Board re-instated it, finding that it was best understood as ”commentary on the apparent inconsistency between Muslims’ reactions to events in France and in China.”
  • A user wrote that (in the board’s paraphrase) Azerbaijanis ”are nomads and have no history compared to Armenians” and called for ”an end to Azerbaijani aggression and vandalism.” The post was made during an armed conflict between Armenia and Azerbaijan. The board upheld Facebook’s decision to remove it as hate speech.
  • A user in Brazil uploaded an image to raise awareness about breast cancer that featured eight pictures of female breasts—five of them with visible nipples. Facebook’s software automatically removed the post because it contained nudity. Human Facebook moderators later restored the images, but Facebook’s Oversight Board still issued a ruling criticizing the original removal and calling for greater clarity and transparency about Facebook’s processes in this area.
  • A user in the United States shared an apocryphal quote from Joseph Goebbels that ”stated that truth does not matter and is subordinate to tactics and psychology.” Facebook removed the post because it promoted a ”dangerous individual”—Goebbels. The user objected, arguing that his intention wasn’t to promote Goebbels but to criticize Donald Trump by comparing him to a Nazi. The board overturned Facebook’s decision, finding that Facebook hadn’t provided enough transparency on its dangerous individuals rule.
  • A French user criticized the French government for refusing to allow the use of hydroxychloroquine for treating COVID-19. The post described the drug as ”harmless.” Facebook removed the post for violating its policy against misinformation that can cause imminent harm. The board overturned the ruling, concluding that the post was commenting on an important policy debate, not giving people personal medical advice.

Tanken är att dessa beslut skall bli vägledande – även om det inte är helt tydligt hur det är tänkt att gå till.

»The big challenge is that Facebook is far too large—it has 2.7 billion users and 15,000 moderators—for the Oversight Board to review more than a tiny fraction of its moderation decisions. In order for the Oversight Board to have a meaningful impact on Facebook as a whole, the small number of cases it does review must create precedents that are followed by moderators in millions of other cases.«

ArsTechnica: Facebook “Supreme Court” overrules company in 4 of its first 5 decisions »

Norge: Grindr bötfälls för att ha delat data utan uttryckligt samtycke

av

Gay-dating-appen Grindr har (i ett förhandsavgörande) dömts att betala 100 miljoner NOK i böter, av en norsk domstol. Detta motsvarar en tredjedel av företagets årliga vinst.

Domen handlar om att man delat användardata med hundratals, potentiellt tusentals annonsörer och andra företag – utan användarnas uttryckliga samtycke.

Speciellt känsligt blir det naturligtvis då det handlar om en app med vilken man kan dra slutsatser om användarnas sexuella preferenser.

Läs mer: The Dating App “Grindr” to be fined almost € 10 Mio »

Se även vår tidigare rapportering om Grindr:

Upphovsrättsdiektivet i Finland: Uppladdningsfilter men ingen automatisk blockering

av

I sommar skall alla EU-länder ha implementerat EU:s upphovsrättsdirektiv i respektive nationell lagstiftning. Det ser ut att bli en brokig uppsättning lagar, speciellt med tanke på att internet inte känner några gränser.

Finland väljer en egen lösning: Uppladdningsfilter skall identifiera sådant upphovsrättsskyddat material som finns i en databas som tillhandahålls av upphovsrättsindustrin. Sedan är det upp till upphovsrättsinnehavarna att bestämma om flaggade uppladdningar skall blockeras. Användare skall sedan kunna invända mot / överklaga en sådan blockering.

Att upphovsrättsinnehavarna själva får bestämma om de skall begära att innehåll skall tas bort kommer att innebära merarbete, men inte mer så än vad som är rätt åt dem. Vill man censurera användare, då är det minsta man kan kräva att det sker efter individuella beslut istället för med automatiska filter.

Här lämnar man även de respektive plattformarna ur loopen vad gäller vilket material som slutligen skall blockeras, även om det fortfarande är plattformarna som förväntas verkställa sådana blockeringar.

Hur detta skall gå till i praktiken är dock höljt i dunkel. Manuella processer tar tid. Och någon garanti för att man kommer att släppa igenom uppladdningar enligt principen »fair use« (parodi, satir, kritik, memes, samhällsdebatt m.m.) tycks inte finnas.

Hur Sverige tänker göra är än så länge oklart.

Läs mer:
• Piratpartiet »
• Communia »

MP röstar för mer övervakning och censur i EU

av

Miljöpartiets dagar som motståndare till storebrotsstaten är över.

Nu har Alice Bah Kuhnke (MP) ännu en gång lämnat den gröna grupplinjen i Europaparlamentet. Denna gång handlar det om förordningen om terrorrelaterat innehåll online (TERREG), som bland annat kommer att innebära censur av åsikter.

Det är i LIBE (Europaparlamentets utskott för mänskliga rättigheter) som Bah Kuhnke först bröt grupplinjen vad gäller massövervakning av alla nätanvändares alla meddelanden och nu alltså även TERREG. I första fallet röstade hon för och i det andra lade hon ner sin röst.

Nu har i och för sig även S och M röstat för mer övervakning. Men det är å andra sidan deras kända politik. MP har profilerat sig som motståndare till övervakning, censur och inskränkningar av nätets frihet – och vunnit röster på detta.

MP:s lojalitet med den svenska regeringen är uppenbarligen större än mot de egna principerna, mot partigruppen i Europaparlamentet och mot medborgarnas rätt till fri information och privatliv.

Läs mer hos Piratpartiet »

EU: Nu skall alla dina elektroniska meddelanden granskas

av

Framåt sommaren kan alla företag som förmedlar elektroniska meddelanden människor emellan tvingas att granska allt. Detta kommer att ske med automatiska filter. Flaggat material kommer sedan att översändas till relevanta myndigheter och organisationer, utan föregående mänsklig granskning.

Ledamoten av Europaparlamentet, Patrick Breyer (PP,DE) skriver:

»The EU wants all private electronic messages to be monitored and searched by unreliable algorithms for possible child pornographic content. Providers of e-mail, messenger and chat services are to be allowed to search the content of all private messages without suspicion for known and unknown child and youth pornography and for the “initiation of sexual contacts” with minors – also with the help of error-prone “artificial intelligence”. If an algorithm flags a message as suspicious, message content and customer data may be disclosed to law enforcement agencies and non-governmental organisations worldwide, without human review. The users reported will never know about this, regardless of the outcome of the investigation.

Until now, only major US services such as GMail, Outlook.com and Facebook Messenger are indiscriminately screening all private messages. However, the EU Commission wants to oblige all providers to do so in future.«

Den här gången är det alltså sexuellt utnyttjande av barn som används som murbräcka. Vilket är en fiffig teknik – eftersom i princip ingen försvarar sådana övergrepp. På så sätt kan man tysta eller i vart fall minska kritiken mot förslaget. Men vi vet av erfarenhet att övervakning som sätts upp i ett syfte tenderar att drabbas av ändamålsglidning. När verktygen väl är på plats är det lätt ordnat att utöka övervakningen till att även omfatta annat.

Därför kan det nog vara klokt att inte sända några nakenbilder alls, inte ens av samtyckande vuxna. Utgå från att de kan komma att hamna på drift och eventuellt användas på annat sätt än det avsedda.

»You could be wrongfully suspected of possessing child pornography. US corporations algorithms often report perfectly legal holiday photos of children on the beach to the police – up to 90% of the algorithmically generated reports are unfounded. If you are sent unsolicited illegal material you will also be reported to the police. Teenagers who send self-generated nude pictures are particularly at risk of being reported – 40% of investigations for “child pornography” in Germany target minors.«

Men det är inte den enda risken:

»You could be in big trouble the next time you travel abroad. Reports are forwarded to various countries like the US, which lacks basic data protection rules – with unforeseeable consequences for you.

Your private messages and flirtations can be read by employees of US corporations if algorithms wrongfully flag you for „soliciting minors“.«

Till detta skall man lägga EU:s (och andras) enträgna försök att få tillgång till bakdörrar till krypterade meddelandetjänster.

Hur detta går ihop med det generella förbudet mot övervakning (som även finns kvar i the Digital Services Act) är högst oklart. Det samma gäller skyddet för privat korrespondens, som är en konventionsskyddad grundläggande mänsklig rättighet.

Bara vetskapen om att alla meddelanden kommer att granskas ställer naturligtvis till det för alla som sänder (legitim) känslig information. Dina meddelanden till kollegor, läkare, psykolog, media och annat som kan vara känsligt kommer att granskas och kan flaggas av misstag. Detta för att inte tala om hur besvärligt det kommer att bli för visselblåsare och andra som avslöjar hemligheter som myndigheter och andra inte vill att folket skall få vetskap om.

Man räknar, som sagt, med att 90% av alla flaggningar är felaktiga.

En första nyckelvotering kan komma att äga rum i Europaparlamentet redan under februari månad.

Läs mer hos Patrick Breyer (PP, DE) »