Femte juli

Nätet till folket!

Sociala media

Detta är kategorin för nyheter och bloggposter som rör sociala media - samt deras relation till sina användare.

Facebook slutar med ansiktsigenkänning

av

Facebook slutar med ansiktsigenkänning vad gäller foton – men fortsätter utveckla tekniken för att till exempel låsa upp låsta konton, verifiera ekonomiska transaktioner och öppna enheter.

EFF sammanfattar:

”Facebook announced it is, for now, shutting down its face recognition program, which created face prints of users and automatically recognized them in uploaded photos. The decision to end the program comes at a time when face recognition technology is receiving push back, criticisms, and legislative bans across the United States, and the globe. Close to 20 U.S. cities, including San Francisco and Boston have banned government use of face recognition. There is also growing momentum to legislate against biometric surveillance in the European Union and in New Zealand.”

Taking your face out of Facebook, typ.

• EFF: Face Recognition Is So Toxic, Facebook Is Dumping It »
• Meta/Facebook: An Update On Our Use of Face Recognition »

Trusted Flaggers – EU:s nya hot mot yttrandefriheten

av

Läs min krönika om nätcensur, trusted flaggers och uppladdningsfilter i Bulletin, innan den hamnar bakom betalvägg:

EU:s nya hot mot yttrandefriheten »

”EU vill göra företrädare för ”kollektiva intressen” till statligt godkända nätcensorer och införa uppladdningsfilter för sociala media. Trots dessa uppenbara inskränkningar i yttrandefriheten förekommer ingen debatt i frågan.”

Vilka blir EU:s nya nätcensorer?

av

Utan att någon verkar bry sig om saken håller EU på att införa statligt godkända nätcensorer. Vilka kommer de att vara, hur skall de utses och av vem? Och vilka befogenheter kommer de att få? Som det ser ut just nu är risken att de kommer att få betydligt större makt än man från början tänkt sig, vilket kan bli problematiskt.

I EU-kommissionens förslag till Digital Services Act (Förordningen om digitala tjänster) introduceras begreppet trusted flaggers. Dessa är tänkta att bli statligt godkända nätgranskare – med en gräddfil till sociala medias abuse-avdelningar som på deras rekommendationer kan plocka bort innehåll.

• Vilka kan bli trusted flaggers?

I artikel 19 i DSA slås fast att trusted flaggers skall ”representera kollektiva intressen”. I recital 46 slås fast att trusted flaggers skall vara ”entiteter” och inte enskilda individer. En trusted flagger kan vara till exempel en myndighet, ”semi-offentliga” organ eller icke-statliga organisationer.

Organisationer skall kunna ansöka hos respektive medlemsstats Digital Services Coordinator (en ny befattning som föreslås i DSA) för att bli trusted flaggers.

Ett problem är att organisationer och andra som representerar kollektiva intressen som regel har en agenda. Det finns nästan alltid en mening med föreningen. Ofta är agendan mer eller mindre politisk. Ibland är sådana organisationer rena särintressen.

Räkna med att det kommer att bildas en kö av olika intresseorganisationer som vill bli statligt godkända nätpoliser – med makt att censurera och styra information inom sina respektive intresseområden.

Till sin själva konstruktion är alltså modellen med trusted flaggers inte objektiv – utan öppnar för att ge makt åt allehanda partiska organisationer och särintressen att styra över vad folk får uttrycka och posta på nätet.

Vad kan möjligen gå fel?

• Hur skall trusted flaggers utses?

Ur artikel 19 i DSA:

»The status of trusted flaggers under this Regulation shall be awarded, upon application by any entities, by the Digital Services Coordinator of the Member State in which the applicant is established…«

Varje medlemsland utser sin egen Digital Services Coordinator. Denne utser sedan trusted flaggers.

Vilket innebär att regeringen i länder som Polen och Ungern kommer att utse den som i sin tur utser trusted flaggers. Skulle Vänsterpartiet eller Sverigedemokraterna få makten i Sverige, då blir det de som ytterst får makten över de nya nätpoliserna.

I slutändan ligger makten över den nya nätcensuren alltså hos den för tillfället sittande regeringen i respektive medlemsstat. Vilket kanske inte alltid är helt lyckat. I vart fall inte ur ett demokrati- och yttrandefrihetsperspektiv.

Vad kan möjligen gå fel?

• Steget från trusted flaggers till riktiga nätcensorer

I kommissionens förlag till DSA får trusted flaggers som sagt en gräddfil till sociala medias abuse-avdelningar. Men det är ändå hos respektive plattform som det slutliga beslutet om att ta bort material ligger. Än så länge.

I Europaparlamentet har ett ändringsförslag börjat vinna mark (i bl.a. JURI) som säger att innehåll som anmäls av trusted flaggers alltid skall plockas ner. Punkt.

I så fall får vi skarp nätcensur, på riktigt.

Vad kan möjligen gå fel?

• Med uppladdningsfilter hålls oönskat innehåll borta för alltid

Samtidigt finns det krafter i EU-apparaten som vill att uppladdningsfilter skall införas som något slags allmänt verktyg i DSA. Syftet är att information som plockats ner en gång inte skall kunna laddas upp igen.

Till att börja med innebär det att allt som alla skriver eller postar (länkar, bilder, ljud, videos m.m.) måste granskas av maskiner innan det kan publiceras – eller stoppas.

Dessutom kan det leda till att sådant som censurerats av till exempel politiska skäl kan komma att hållas borta från nätet för alltid. Även om informationen i fråga med tiden skulle visa sig vara korrekt eller av allmänintresse.

Tankarna går till George Orwells 1984.

Vad kan möjligen gå fel?

Början till slutet för alternativmedia på Facebook?

av

Facebook meddelar att de tecknat ett avtal med nationell och regional fransk media, för att mot betalning ha rätt att länka till material på dess siter. En uppenbar risk med detta är att det bara blir de stora mediehusen som kommer att synas, då små tidskrifter och alternativmedia inte omfattas av avtalet.

Bakgrunden är EU:s nya upphovsrättsdirektiv och dess länkavgifter, den så kallade länkskatten. Precis som dess kritiker fruktade omfattar det nya franska licensavtalet bara mediejättarna, som i detta fall organiseras inom l’Alliance de la presse d’information générale.

Det kommer (förmodligen) även i fortsättningen att vara möjligt för användare att länka till alternativmedia. Men det som lyfts fram på Facebook och dess nya franska Facebook News kommer endast att komma från Big Media.

En annan aspekt är att detta kommer att göra det ännu svårare för nya utmanare till existerande sociala media. Även om Facebook & Co har råd att betala miljarder för licensavtal – så är detta i princip omöjligt för mindre plattformar och startups.

En liknande lösning är att vänta i Sverige. Här är regeringens förslag till implementering av upphovsrättsdirektivet nu ute på remiss.

• TechCrunch: Facebook agrees to pay French publishers for news reuse »
• Facebook: Facebook France and L’Alliance de la presse de l’information partner to strengthen the news experience for people and publishers in France»

EU och statligt godkända nätcensorer

av

Skall yttrandefrihetens gränser sättas av lag – eller skall olika särintressen tillåtas censurera sociala media? Den frågan är plötsligt högaktuell vad gäller EU:s Digital Services Act.

Vi har tidigare rapporterat om behandlingen av EU:s Digital Services Act – Förordningen om digitala tjänster – i Europaparlamentet. Ju mer man gräver i materialet, ju mer anmärkningsvärt blir det. I sin genomgång hittar Piratpartiet ytterligare en anmärkningsvärd detalj från parlamentets rättsliga utskott, JURI.

Det handlar om så kallade Trusted Flaggers – som skall vara statligt utsedda nätgranskare som företräder ”kollektiva intressen” och som skall ha en gräddfil till sociala medias abuse-avdelningar.

»JURI vill i sin tur ta detta redan problematiska koncept ännu längre, och föreslår att det material som rapporteras av ”trusted flaggers” ska tas bort automatiskt, utan granskning. Det vore – utan minsta överdrift – att inrätta statligt godkända censorer av internet.«

I sammanhanget kan det vara värt att fundera lite över begreppet ”kollektiva intressen” ovan. Vad är det? Vilka är det?

Rimligen lär det handla om intresseorganisationer – som även kan betraktas som särintressen. En intresseorganisation har som regel en agenda. Och nu vill man alltså ge dem makt att censurera sociala media, utan vidare granskning.

Frågan är om det är så lämpligt att låta särintressen censurera nätet. Om vi alls skall ha nätcensorer på nationell nivå – då bör de givetvis vara oberoende, opartiska och höjda över all misstanke om att driva en egen agenda.

Hela frågan om trusted flaggers känns som ett typexempel på missriktad välvilja som kan få oväntade och oönskade konsekvenser.

I en demokratisk rättsstat skall gränserna för yttrandefriheten sättas av lag och i förekommande fall genomgå en opartisk bedömning i domstol. Inte bestämmas av olika intresseorganisationer.

Notis: Svag koppling mellan anonymitet och näthat

av

Sensommarens rapport från Twitter om hur man hanterade hatiskt innehåll i samband med fotbolls-EM innehåller en intressant detalj.

»Of the permanently suspended accounts from the Tournament, 99% of account owners were identifiable.«

Detta motsäger den allmänna uppfattningen om att anonymitet skulle vara kopplat till näthat.

Vilket kan vara bra att hålla i minnet när politiker ger sig efter rätten att vara anonym online.

• Combatting online racist abuse: an update following the Euros »

Stoppa den nya nätcensuren!

av

Utan att någon tycks ta någon direkt notis om saken är vi på väg att införa förhandscensur på internet. Inom kort kan maskiner och algoritmer bestämma vad du tillåts säga och uttrycka.

I Sverige är förhandscensur av pressen uttryckligen förbjuden i grundlagen. Vilket är en bra princip. Man skall inte behöva få ett godkännande av staten innan man publicerar information och åsikter. Skulle något olagligt publiceras, då blir det en rättslig fråga i efterhand.

Samma princip bör gälla för alla som publicerar sig online. Så kommer dock inte att vara fallet nu när EU:s nya upphovsrättsdirektiv blir svensk lag. De krav den nya lagstiftningen ställer kommer att leda till uppladdningsfilter. Alltså automatiska filter som granskar och godkänner eller stoppar innehåll innan publicering skett. Det vill säga förhandscensur.

Förhandscensur handlar alltså om att information stoppas innan den nått andra. Vilket är en påtaglig inskränkning av yttrandefriheten.

Upphovsrättsdirektivet är bara början. Förordningen om terror-relaterat innehåll online (TERREG) ställer också krav som endast kan mötas med automatiska uppladdningsfilter. Och i EU:s nya Digital Services Act vill många se uppladdningsfilter som något slags allmänt verktyg för att hålla oönskat material borta från nätet.

Till att börja med bör alla som använder sociala media och andra nätplattformar vara medvetna om att allt vi laddar upp kommer att granskas av censurmaskinerna. Skall man kunna stoppa vissa former av innehåll, ja då måste man ju skanna allt.

Sedan har vi frågan om vad som skall censureras av algoritmerna. Den gränsen kommer inte nödvändigtvis att dras vid vad som är lagligt respektive olagligt. I ministerrådet finns krafter (t.ex. Frankrike) som även vill censurera icke olagliga uttryck som kan anses hatiska eller hotfulla. Det vill säga censur utan lagligt stöd. Vilket är oacceptabelt. Plus att det inte är självklart eller oomstritt vad som kan betraktas som hatiskt.

Slutligen det uppenbara: Om man ger staten rätt att införa förhandscensur och att bestämma dess former – då kan detta komma att missbrukas av ondsinta eller inkompetenta politiker och deras funktionärer.

Nu är frågan om svenska folket kommer att protestera när det införs förhandscensur – eller om vi skall vänta tills det är för sent.

Internet och dess tre fiender

av

Det började så bra. Internet var fria flöden av information, medborgarjournalistik, bloggbävningar, aktivism och synergieffekter som uppstod när människor som är geografiskt utspridda kopplades samman globalt. Porrindustrin gick i täten för att visa på nätets oerhörda kommersiella potential. Allt var fritt och kreativiteten flödade.

Först ut bland internets fiender var upphovsrättsindustrin. Den vägrade anpassa sig till en ny marknad. Musik skulle säljas på CD och film på DVD. Men verkligheten brydde sig inte. Om inte Big Entertainment vill tillhandahålla det folk vill ha online, då hamnar det där ändå.

En lång rad förslag lades fram på EU-nivå. Det började med att man ville att internetleverantörerna, ISP:arna skulle bli nätpoliser. Och att fildelare skulle stängas av från internet. De förslagen föll, men följdes av en rad nya.

Senast ut var upphovsrättsdirektivet med sina ansvarskrav som kommer att leda till uppladdningsfilter. Den matchen vann nöjesindustrin, efter att Europaparlamentet med hårfin marginal (och ett par ledamöter som röstade fel) biföll direktivet i sin nuvarande form.

Efter Big Entertainment kom Big Media. Inte nog med att internet lett till att vem som helst nu kan bli publicist. Med en mer decentraliserad samhällsdebatt kan media inte längre dominera agendan på samma sätt som tidigare. Vilket kan vara extra irriterande om man bedriver agenda-driven journalistik. Gammelmedia förlorade helt enkelt mycket av sin makt.

Big Medias andra problem är hur de skall lyckas ta betalt när allt ändå finns gratis på internet. Oviljan mot den nya verkligheten har varit lika stor inom pressen som nöjesindustrin. Därför har media länge ägnat sig åt krypskytte mot internet.

Även Big Media fick vad de hoppats på i upphovsrättsdirektivet – länkavgift, a.k.a. länkskatt. Tanken är att om man länkar till media, då skall media ha betalt. Vilket ju är helt bakvänt.

Detta kommer delvis att lösas med licensavtal mellan de sociala mediejättarna och de stora drakarna och insamlingssällskap. Vilket kommer att leda till att sociala media kan släppa fram SVT, DN och Aftonbladet utan risk, men inte lika självklart små medieaktörer som inte omfattas av avtalen med jättarna.

Internets tredje fiende är Big Government. Makthavare gillar helt enkelt inte när folk ifrågasätter och lägger sig i. Vilket är precis vad internet gjort möjligt. Därför är det inte förvånande att politikerna med liv och lust ger sig i kast med att reglera internet.

Den som läser denna blogg kan se hur överheten lägger fram förslag efter förslag som kringskär internts frihet, inskränker yttrandefriheten och ökar övervakningen.

Även politiken fick något när upphovsrättsdirektivet klubbades, nämligen ovan nämnda uppladdningsfilter. När dessa väl finns på plats – då ligger makten över vad som skall släppas fram respektive censureras ytterst hos politikerna. Vars omdöme inte alltid är på topp. Och som ser nätet som ett hot mot sin egen makt.

Uppladdningsfilter och länkskatt i Sverige – här är regeringens förslag

av

På fredagen presenterade regeringen en 400-sidig remiss – Upphovsrätten på den digitala inre marknaden – som innehåller förslag till hur EU:s nya upphovsrättsdirektiv skall bli svensk lag. I denna första av en serie bloggposter kommer vi att fokusera på själva lagtexten i några centrala punkter och vad den innebär.

• Uppladdningfilter

På samma sätt som i EU-direktivet så kräver man inte uttryckligen uppladdningsfilter – men sätter samtidigt upp regler som kommer att göra dem nödvändiga i praktiken.

52 l §
En tjänsteleverantör ska inte ansvara för en olovlig överföring enligt 52 j § om leverantören, efter att ha fått en tillräckligt välgrundad underrättelse från rättsinnehavaren, skyndsamt hindrar tillgång till innehållet. För att ansvarsfrihet ska föreligga krävs även att leverantören har gjort det som skäligen kan krävas för att
1. få nödvändiga tillstånd till de överföringar till allmänheten som leverantören gör på tjänsten, och
2. säkerställa att innehåll som medför intrång i upphovsrätten till verk som rättsinnehavarna har försett leverantören med relevant och nödvändig information om, inte görs tillgängligt på tjänsten.

För att lyckas med detta måste man inspektera allt som alla laddar upp. Det enda praktiska sättet att göra detta är med automatiska uppladdningsfilter – som ju inte förstår kontext. Vilket i sin tur kommer att leda till att innehåll som bör få laddas upp stoppas genom överblockering.

Sedan kan man också fundera över de praktiska problemen med att nätplattformar skall behöva skaffa tillstånd / licenser för allt möjligt som folk vill ladda upp. Men mer om det i en senare bloggpost.

• Länkskatt

Reglerna för ersättning till media för material som återges i sociala media och på andra nätplattformar återkommer på flera olika ställen i den föreslagna lagtexten. Nyckelpargrafen är denna:

48 b §
En utgivare av en presspublikation har, med de inskränkningar som föreskrivs i denna lag, en uteslutande rätt att genom en informationssamhällets tjänst och för användning på internet förfoga över sin presspublikation genom att
1. framställa exemplar av presspublikationen, och
2. göra presspublikationen till- gänglig för allmänheten på ett sådant sätt att enskilda kan få tillgång till den från en plats och vid en tidpunkt som de själva väljer.
Rätten enligt första stycket omfattar inte
1. enskilda användares förfoganden som inte sker i förvärvssyfte,
2. hyperlänkningsåtgärder, eller
3. användning av mycket korta utdrag ur en presspublikation.
Rätten enligt första stycket gäller till utgången av det andra året efter det år då presspublikationen offentliggjordes.

Detta innebär att allt som inte är en ren länk eller ett mycket kort utdrag kan leda till att plattformen måste ge ekonomisk ersättning till det media man citerar. Hur detta skall ske är en smula komplicerat, så vi återkommer även med en separat bloggpost om detta under veckan.

Fortfarande måste man fråga sig var logiken ligger i att en nätplattform som driver trafik till en mediesite skall tvingas betala för att göra detta.

• Fair use

Det finns även positiva nyheter. Till exempel detta undantag:

52 p §
En användare får, trots 2 §, tillgängliggöra verk för citat, kritik och recensioner och i karikatyr-, parodi- eller pastischsyfte på en tjänst som avses i 52 i §. Bestämmelserna i 11 § andra stycket ska tillämpas i sådana fall.
Användaren har vidare rätt att, utan hinder av åtgärder som vidtas enligt 52 l §, använda verk enligt första stycket och även i övrigt tillgängliggöra innehåll som inte medför intrång i upphovsrätt på tjänsten.
Tjänsteleverantören ska i sina användarvillkor informera användarna om deras rätt enligt denna paragraf.

Vilket innebär att svensk lagstiftnings citaträtt utökas.

• Användares rättigheter vid felaktig filtrering

Här regleras vad som skall ske om man anser att man fått lagligt innehåll (avseende upphovsrätt) censurerat.

Klagomål
52 q §
En tjänsteleverantör ska ha rutiner för att kunna hantera klagomål från användare av tjänsten när tillgången till innehåll som de laddat upp har hindrats till följd av en åtgärd som vidtagits med stöd av 52 l §.
Den berörda rättsinnehavaren ska få tillfälle att yttra sig över klagomålet och vederbörligen motivera sin begäran om att tillgången till innehållet ska hindras.
Klagomål ska avgöras skyndsamt och senast inom sju dagar. Om rättsinnehavarens begäran inte är vederbörligen motiverad, ska innehållet återställas. Ett beslut om att inte återställa tillgången till innehållet ska föregås av en fysisk granskning.

Skadestånd
52 r §
Om en tjänsteleverantör uppsåtligen eller av oaktsamhet åsidosätter sina skyldigheter enligt 52o§ och en användare lider skada av åsidosättandet, ska tjänsteleverantören ersätta skadan.

Föreläggande att vidta rättelse
52 s §
Om en tjänsteleverantör åsidosätter sina skyldigheter enligt 52 o § eller 52 q § första eller tredje stycket får en domstol vid vite förelägga leverantören att vidta rättelse.
En talan om föreläggande enligt första stycket får väckas av en användare eller av en organisation som företräder ett flertal användare.

Detta är bara något av vad som föreslås i regeringens remiss. Vi kommer att gräva ner oss i materialet och återkomma med fler bloggposter i ämnet.

Notera att detta är en remiss, inte nödvändigtvis ett slutligt lagförslag. Detta är samtidigt en chans för alla som har åsikter att komma in med remissvar.

Fortsättning följer.

• Regeringen: Justitiedepartementet remitterar förslag om hur EU-direktivet om upphovsrätten på den digitala inre marknaden ska genomföras i Sverige »
• Remissen (PDF) »

Det är nu staten tar kontroll över sociala media

av

Visst, sociala media har många fel och brister. Men blir det verkligen bättre för att vi ger politiken ökad makt över dem? Två fel gör inte nödvändigtvis ett rätt.

På båda sidor Atlanten pågår just nu politisk debatt och lagstiftning om sociala media. Frågan är vad man skall få säga på internet, eller i vart fall på dess plattformar.

Även om EU-kommissionen inte föreslagit det, så håller frågan om uppladdningsfilter på att smyga sig in i the Digital Services Act, DSA. Ministerrådet och Europaparlamentet är de skyldiga.

Uppladdningsfilter granskar allt som alla skriver, delar eller lägger upp. Sedan kommer algoritmer i ett datoriserat beslutssystem att bestämma om du skall få framföra din åsikt eller dela din information. Det mesta kommer att passera. Men inte allt.

Vad som skall stoppas respektive släppas igenom avgörs i slutändan av politiska beslut. Vilka snabbt kan ändras. Inte alltid av ädla skäl.

Förvisso kan sådana beslut fattas i god demokratisk ordning. Men bara för att man kan samla ihop en majoritet behöver det inte betyda att det man gör är rätt.

De grundläggande rättigheterna är till för att en majoritet inte skall kunna förtrycka en minoritet.

Det är därför till exempel yttrandefriheten är så viktig. Utan den kan man inte göra sin röst hörd och då inte heller hävda sina övriga rättigheter.

Denna yttrandefrihet begränsas de facto av nämnda uppladdningsfilter.

Bara tanken – att filtrera den information medborgarna delar sinsemellan, så att inget otillåtet eller olämpligt slinker med…

Hur kan ett sådant system inte komma att missbrukas i allehanda syften?