Uppladdningsfilter
Uppladdningsfilter handlar om automatiska, algoritmstyrda censurfilter som kommer att bli konsekvensen av bl.a. EU:s upphovsrättsdirektiv och förordningen om terror-relaterat innehåll online. Ett av problemen med detta är falska positiva, där innehåll som bör släppas igenom blir censurerat på grund av att algoritmerna inte begriper sig på kontext, humor och satir.
EU-domstolen ger grönt ljus till uppladdningsfilter
Som väntat meddelade EU-domstolen idag att uppladdningsfilter i EU:s upphovsrättsdirektiv är tillåtna – om man respekterar de åtgärder mot överfiltrering som finns i direktivet.
Uppladdningsfilter var en av de stora stridsfrågorna i EU:s upphovsrättsdirektiv. Det blev verklighet efter att ett antal ledamöter (varav flera svenska) enligt egen uppgift röstade fel i Europaparlamentet.
Polen utmanade dock denna del av direktivet (artikel 17, tidigare 13) och tog frågan till EU-domstolen. Idag kom domen, som i stort sett följer generaladvokatens rekommendation.
Ur domstolens pressmeddelande (PDF):
The obligation, on online content-sharing service providers, to review, prior to its dissemination to the public, the content that users wish to upload to their platforms, is accompanied by the necessary safeguards to ensure that that obligation is compatible with freedom of expression and information.
The Court of Justice dismisses the action brought by Poland against Article 17 of the directive on copyright and related rights in the Digital Single Market.
Uppdatering: Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) har funnit i vart fall några positiva saker i domen. Till exempel kan den leda till starkare skydd för laglig användning av upphovsrättsskyddat innehåll (”fair use”). Han menar också att dagens uppladdningsfilter inte klarar av att möta de krav som ställs upp i domen. Läs mer: Partial success against Internet censorship: Top EU Court severely restricts upload filters »
EU:s Digital Services Act klar för beslut
Ingen rätt till anonymitet online, ingen rätt till kryptering, inget förbud mot datalagring eller uppladdningsfilter. Myndigheter i ett EU-land kan beordra borttagning av innehåll på servrar i en annan medlemsstat – även om det inte är olagligt i det senare. Dessutom statligt godkända nätcensorer. Det är några av punkterna från slutförhandlingen om EU:s nya Digital Services Act.
Efter 16 timmars förhandlingar mellan EU-kommissionen, ministerrådet och Europaparlamentet finns nu en överenskommelse om EU:s Digital Services Act. Det finns dock ingen sammanställd slutlig text ännu. Men en del saker vet vi redan.
Låt oss börja med att se hur Europaparlamentet presenterar saken i sitt pressmeddelande:
• Access to platforms’ algorithms now possible
• Online platforms will have to remove illegal products, services or content swiftly after they have been reported
• Protection of minors online reinforced; additional bans on targeted advertising for minors as well as targeting based on sensitive data
• Users will be better informed how content is recommended to them
En god nyhet är att användare som censureras av sociala media kan komma att få någon form av möjlighet att överklaga.
Så över till den mer kritiske ledamoten av Europaparlamentet Patrick Breyer (PP, DE):
»We were able to prevent removal obligations for search engines. We could also prevent the indiscriminate collection of the cell phone numbers of all uploaders to adult platforms, which would have endangered their privacy and the safety of sex workers due to foreseeable data hacks and leaks. Minors will be protected from surveillance advertising on online platforms. However, the ban on using sensitive personality traits (e.g. a person’s political opinion, diseases or sexual preferences) for targeted manipulation and targeting was heavily watered down.«
»Our online privacy will not be protected by a right to use digital services anonymously, nor by a right to encryption, a ban on data retention, or a right to generally opt-out of surveillance advertising in your browser (do not track). Freedom of expression on the Internet is not protected from error-prone censorship machines (upload filters), nor from arbitrary platform censorship. Cross-border removal orders issued by illiberal member states without a court order can take down media reports and information that is perfectly legal in the country of publication.«
Dessutom står förslaget om Trusted Flaggers (betrodda anmälare / statligt godkända nätcensorer) kvar, då det inte mött något egentligt motstånd eller ens ifrågasatts under förhandlingarna. Läs mer om problemen med Trusted Flaggers här »
Nu när förhandlingarna är klara kommer förordningen sannolikt att godkännas av EU:s ministerråd och Europaparlamentet utan ändringar.
Vi återkommer när det finns en slutlig, konsoliderad text.
Video: Vill vi ha det som i Ryssland?
En kort film som sätter nätcensur, uppladdningsfilter och meddelandekontroll i EU i ett större sammanhang.
Därför finns det inga europeiska nätjättar
EU:s fokus på att bekämpa de amerikanska nätjättarna riskerar att hindra europeiska startups från att växa och konkurrera på lika villkor.
EU:s Digital Services Act (DSA) och Digital Markets Act (DMA) riskerar att hålla tillbaka utvecklingen av sociala media och andra plattformar i Europa. Problemet är att man skapar regelverk som endast redan existerande Big Data har resurser att leva upp till.
Kritiken kom redan med EU:s upphovsrättsdirektiv. Även om det inte uttryckligen kräver uppladdningsfilter ställer det sådana krav att just uppladdningsfilter ändå kommer att krävas. Detsamma gäller förordningen om terror-relaterat innehåll online.
Endast nätjättar som Facebook, Twitter och Google klarar av att bära de kostnader som krävs för att genomföra sådan filtrering.
Samma sak gäller de juridiska kostnader som ny EU-reglering medför. Den gör det svårt, närmast omöjligt för europeiska startups att konkurrera med de existerande amerikanska nätjättarna. Det blir helt enkelt för krångligt och för dyrt.
Nu sätter DSA och DMA i och för sig upp olika regler för dominanta marknadsaktörer respektive andra. Men redan de grundläggande reglerna är så omfattande att det är enklare och billigare för entreprenörer att etablera sig utanför EU.
Och vem kommer att vilja expandera sin verksamhet om det finns ett tröskelvärde, över vilket en omfattande och kostsam reglering börjar gälla?
Det känns som om EU är så totalt fixerat vid att reglera de stora amerikanska nätjättarna att man glömmer de europeiska startups som kan bli morgondagens Facebook eller Google.
Dessutom är EU:s regelverk fyllt av motsättningar. DSA och DMA kan komma att slå fast rätten till kryptering – medan ChatControl / meddelandekontroll handlar om obligatorisk av-kryptering av all e-post och alla elektroniska meddelanden, för att granska dess innehåll.
Hur skall nätentreprenörer alls kunna navigera i detta ständigt föränderliga juridiskt landskap fyllt med självmotsägelser?
Dock skall man hålla i minne att DSA, DMA och andra regleringar fokuserar på hur nätet fungerar idag, med dagens aktörer och dagens tekniska lösningar.
Samtidigt förändras och utvecklas tekniken. EU:s nätlagstiftning kommer snart att vara inaktuell och reglera gårdagens sociala media och plattformar. Till exempel står den sig slätt mot decentraliserade, distribuerade nätverk.
Teknik slår politik, som Jan Stenbeck en gång uttryckte saken.
Viktiga nät- och övervakningsfrågor 2022
Vilka nät- och övervakningsfrågor kommer att vara aktuella 2022? Här listar vi några av de viktigaste.
• Digital Services Act (DSA)
Det finns nu ett färdigt förslag till beslut om DSA i Europaparlamentet, efter utskottens behandling, med dess tusentals ändringsförslag. Dokumentet finns här. Parlamentet kommer att rösta om det i plenum om två veckor. Därefter blir det förhandlingar mellan parlamentet, ministerrådet och kommissionen.
Förslaget om statligt godkända nätcensorer – Trusted Flaggers – finns kvar i förslaget och tycks i princip inte möta något motstånd.
Vi återkommer inom kort med en sammanfattning av dokumentet, för att se vad som är extra viktigt och vad som har ändrats.
• Datalagring
Snart kommer ännu en dom från EU-domstolen om lagringen av data om alla medborgares alla tele- och datakommunikationer. Domstolens linje har varit att svepande lagring av kommunikationsdata inte får förekomma utan misstanke om brott. Inget tyder på att den linjen kommer att ändras.
När dom meddelats kommer kommissionen och ministerrådet att besluta om sin taktik. Det kan bli fråga om ett nytt datalagringsdirektiv. Eller så låter man varje land fortsätta bråka med domstolen vart och ett för sig.
Sverige vill se ett nytt direktiv, utan begränsningar.
• Chat Control 2 / meddelandekontroll
EU har redan beslutat att meddelandetjänster och e-post-leverantörer skall ha möjlighet att av-kryptera och granska sina användares kommunikationer för att kontrollera att de inte ägnar sig år barnporr. I steg två vill man nu göra det obligatoriskt.
Dock verkar det som om den nya tyska regeringen tänker säga nej till detta.
• FRA-lagen
FRA-lagen utökas ständigt, trots alla vackra löften om motsatsen när den infördes. Nu får även innehållet i elektroniska kommunikationer inom landet, mellan svenskar granskas. Och med tiden har allt fler myndigheter fått tillgång till FRA:s spaning.
Europadomstolen för de mänskliga rättigheterna fällde i våras den svenska lagen för brott mot artikel 8 i Europakonventionen, som gäller skyddet för medborgarnas privatliv. Den svenska regeringens svar är att tillsätta en utredning – senast 2025.
• Upphovsrättsdirektivet blir svensk lag
Kraftigt försenad har regeringen nu presenterat en remiss vad gäller hur EU:s nya upphovsrättsdirektiv skall vävas in i svensk lagstiftning. I praktiken kan det komma att leda till uppladdningsfilter och så kallad länkskatt.
En detalj i sammanhanget är att en av länkskattens varmaste anhängare – Tidningsutgivarnas förra VD Jeanette Gustafsdotter – har blivit kulturminister efter vinterns regeringsombildning.
De positiva nyheterna är att vi tycks vara på väg att få undantag för ”fair use” – och att användare som får innehåll borttaget i sociala media kommer att få något slags rättssäkerhet och möjlighet att överklaga.
Detta är bara några av alla saker som är på gång. Skrolla ner i denna blogg för att uppdatera dig i fler aktuella frågor.
DSA: EU nu ett steg närmare statligt godkända nätcensorer
EU:s Digital Services Act är nu ett steg närmare slutligt beslut. En del saker är bra, en del är dåliga och en del är självmotsägelser. Samtidigt ser det ut som att EU:s nya statligt godkända nätcensorer – Trusted Flaggers – kommer att bli verklighet utan varesig diskussion eller protester.
Europaparlamentets utskott för den inre marknaden och konsumentskydd (IMCO) är huvudansvarigt utskott för EU:s nya Digital Services Act. Nu har man röstat fram ett huvudförslag som i sin tur skall upp till votering i parlamentets plenum (hela EP) nästa månad.
Det är ömsom vin, ömsom vatten. Här kommer några centrala punkter:
- Man behåller principen om ”safe harbor” – som gör att en plattform / operatör inte kan hållas ansvarig för olagligt innehåll om de inte varit medvetna om dess existens och samtidigt vägrat ta bort det.
- Förbudet mot generell övervakning av innehåll blir kvar och får inte heller föreskrivas genom lag eller de facto genom automatiserade eller icke-automatiserade medel. (Vilket kolliderar med den #ChatControl som man är på väg att driva igenom, såväl som de uppladdningsfilter som blir en praktisk – om än ej obligatorisk – konsekvens av andra delar av förordningen.)
- End-to-end-kryptering skall inte begränsas.
- Strängare regler för annonsering, speciellt när den riktas mot minderåriga.
- Man säger nej till förslaget från utskottet för mänskliga rättigheter (LIBE) om rätten att använda och betala för digitala tjänster anonymt.
- Krav på identifiering med telefonnummer (!) för den som laddar upp innehåll till porr-plattformar.
- Samtycke till spårning/cookies skall kunna ske med en inställning i web-läsaren istället för pop-ups på varje sida.
- Man röstade nej till LIBE:s förslag om att myndigheterna endast skall kunna få tillgång till användarnas användarhistorik om det handlar om att utreda allvarliga brott.
- Man röstade även nej till LIBE:s förslag om att olagligt material skall tas bort snarare än blockeras.
- IMCO röstade nej till LIBE:s förslag om att beslut om innehålls laglighet skall fattas av rättsväsendet istället för av administrativa myndigheter.
- Man röstade vidare nej till LIBE:s krav på att myndigheter i en medlemsstat inte skall kunna beordra nedtagning av innehåll på servrar/plattformar i ett annat land om innehållet i fråga är lagligt i det senare.
- Man menar att tidsramarna för nedtagning av olagligt material inte får vara orealistiskt kort.
- Man röstade nej till LIBE:s förslag om att beslut om nedtagning av innehåll skall vara föremål för rättslig prövning samt att den som publicerat innehållet då skall få rätt att yttra sig om saken.
- Man säger nej till obligatoriska uppladdningsfilter – men ställer samtidigt krav som kommer att leda till att sådana i praktiken blir nödvändiga.
- Samtidigt säger man att plattformarna inte skall kunna straffa användare som sprider olagligt material genom att tillfälligt de-plattformera dem, då detta skulle försvåra rättslig prövning. (Trots att man säger nej till sådan rättslig prövning i punkten ovan.)
- IMCO röstade vidare nej till LIBE:s förslag om att ge användarna mer makt över de algoritmer som styr vad som syns i deras individuella flöden.
Detta är bara ett litet urval. Som synes tycks en del beslut vara motstridiga eller strida mot annat som EU försöker driva igenom (som #ChatControl). Vi kommer att göra en större genomgång när det finns ett konsoliderat dokument för votering i plenum. Räkna med att LIBE kommer att försöka få igenom sina åsikter (se listan ovan) i den slutliga voteringen i kammaren. Plus att det då kommer att komma nya ändringsyrkanden.
Efter voteringen i plenum skall parlamentet, ministerrådet och EU-kommissionen förhandla sig samman i en så kallad trilog. Om den leder till ändringar kan det bli fråga om ytterligare en votering i parlamentet.
En sak nämns dock inte i rapporteringen och tycks i princip inte ifrågasättas av någon: Trusted Flaggers, det vill säga statligt godkända nätcensorer.
Trusted Flaggers skall enligt DSA kunna rekommendera (eller kräva) att plattformarna tar bort oönskat innehåll. Dessa nätcensorer skall företräda ”kollektiva intressen” och kan till exempel vara intresseorganisationer eller myndigheter. Vilket är uppseendeväckande och oroande. Men frågan förbigås i tysthet och något egentligt motstånd tycks inte finnas – inte ens bland dem som normalt sett kämpar för informationens frihet och ett fritt, öppet internet.
Länkar:
• Reuters: Key EU parliament committee agrees tough position on DSA tech rules »
• MEP Patrick Breyer (PP, DE): Digital Services Act: No game-changer for the protection of citizens’ rights online »
• LIBE:s opinion (PDF) »
• EFF: EU Parliament’s Key Committee Rejects a Filternet But Concerns Remain »
• AccesNow: Victories in the DSA vote: IMCO Committee puts people’s rights before corporate interest »
• EDRi: Has the Parliament effectively wielded the Digital Services Act to challenge platform power? The verdict is, somewhat. »
Facebook: Sänd oss dina nakenbilder
Ladda upp dina privata nakenbilder till vår nya tjänst och vi skall se till att de inte sprids av andra. Detta erbjudande från Facebook & Co har fått många att höja på ögonbrynen.
Meta – som äger bl.a. Facebook och Instagram – försöker vidta åtgärder mot ”non-consensual sharing of intimate images” (NCII). Det vill säga hämndporr och andra oönskade publiceringar av intima bilder.
Tanken är att om man flaggar en bild i systemet, då kan de medverkande företagen kontrollera att den inte laddas upp – eller plocka ner den om den redan är publicerad.
Vilket förutsätter att allt som alla laddar upp kontrolleras. Ytterligare ett användningsområde för uppladdningsfilter, med andra ord.
Meta och den organisation som sköter detta – StopNCII.org – påpekar samtidigt att man inte kommer att lagra några bilder som sådana, utan bara deras digitala fingeravtryck (hash). Omvandlingen av bilden är tänkt att ske i användarnas egna mobiler / datorer.
Man skriver:
»The tool features hash-generating technology that assigns a unique hash value (a numerical code) to an image, creating a secure digital fingerprint. Tech companies participating in StopNCII.org receive the hash and can use that hash to detect if someone has shared or is trying to share those images on their platforms.
While participating companies use the hash they receive from StopNCII.org to identify images that someone has shared or is trying to share on their platforms, the original image never leaves the person’s device. Only hashes, not the images themselves, are shared with StopNCII.org and participating tech platforms.«
Det låter kanske betryggande. Men kommer det att fungera? Om bilden ändras (till exempel beskärs eller photoshoppas) då kommer även hash-värdet att ändras. Så det kan vara lätt att kringgå systemet.
Och vad händer om någon laddar upp en helt annan bild i systemet – som inte innehåller något naket, utan annat innehåll som personen i fråga vill få bort från nätet? Med endast en hash-sum och utan tillgång till originalet lär systemet knappast kunna bedöma om de inrapporterade bilderna är vad de påstås vara.
I grunden finns naturligtvis också en fråga om huruvida användarna litar på Meta-koncernen och att den sköter hanteringen av våra intima bilder på det sätt som påstås.
Bolagen i Meta-koncernen samarbetar dessutom med de nationella underrättelseorganen i USA. Här kan det vara värt att påminna om NSA:s valspråk ”Collect it all”. Komprometterande bilder av sexuell natur är en klassisk tillgång i underrättelsesammanhang.
Ingen försvarar att det publiceras intima bilder av människor utan deras samtycke. Men frågan är vilka indirekta effekter (som uppladdningsfilter) detta system kommer att medföra. Om det kan missbrukas. Och om det alls är effektivt givet sitt syfte.
Big Media tar över Kulturdepartementet
Tidningsutgivarnas förra VD, Jeanette Gustafsdotter, tar efter dagens regeringsombildning över Kulturdepartementet. Hon har bland annat gjort sig känd för att kalla länkning för ”ett ofog”.
»Jeanette Gustafsdotter ersätter miljöpartisten Amanda Lind efter att MP valt att lämna regeringen. Jeanette Gustafsdotter var tidigare vd för Tidningsutgivarna, som samlar svenska medieföretag. Hon är jurist med specialisering inom medie- och immaterialrätt, och har även varit verksam som journalist.«
Rent principiellt är det problematiskt att sätta särintressen som ansvariga politiker.
Gustafsdotter vill utkräva större ansvar av intenetplattformarna. Exakt vad detta betyder är en smula oklart. Men det finns skäl att tro att hon är positiv till den utökade reglering som bland annat föreslås i EU:s nya Digital Services Act. I hennes fall ur gammelmedias perspektiv.
Det finns även anledning att uppmärksamma den nya ministerns profil vad gäller upphovrätt (immaterialrätt). Hon har applåderat EU:s upphovsrättsdirektiv, som ju bland annat kommer att leda till uppladdningsfilter och ”länkskatt”. 2013 kallade hon länkning för ”ett ofog”.
Även om den (försenade) implementeringen av EU:s upphovsrättsdirektiv i svensk lag ligger på Justitiedepartementets bord, så är Kulturdepartementet det närmast berörda departementet i övrigt. Så det finns skäl att anta att Gustafsdotter kommer att få stort inflytande över lagstiftningsarbetet.
Video: Vilka är EU:s nya nätcensorer?
EU:s Digital Services Act innehåller bland annat nätcensur. Vilka är de nya nätcensorerna och vilka är deras befogenheter?