Femte juli

Nätet till folket!

Webben

Detta är kategorin för poster som har med själva WWW och dess funktioner att göra - samt internet i allmänhet.

EU vill använda AI för att se om du har olämpliga kontakter med barn

av

Barnporr och övergrepp mot barn är ett säkert kort när EU vill utöka övervakningen av medborgarnas kommunikationer. Det innebär att ingen törs protestera – även om förslagen är uppåt väggarna tokiga och farliga.

Vi har tidigare skrivit om saken här:
• EU vill se övervakning, granskning och analys av alla elektroniska meddelanden »
• EU vill skanna all din elektroniska kommunikation i jakt på barnporr – utan misstanke »

Nu börjar det komma fram fler detaljer. Bland annat vill EU-kommissionen använda sig av AI för att i hemlighet kontrollera att du och alla andra som använder internet inte har olämplig kontakt med barn.

Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) förklarar på sin blogg:

»The EU Commission is proposing to screen and monitor all private electronic communications without suspicion in order to search for possible child pornographic content. Today it presented draft legislation to this effect. International providers of e-mail and messenger services are to be permitted to search the content of all private messages for child and youth pornography as well as for the “luring” of minors in order to report this to authorities and non-governmental organizations worldwide.

Not only searches for known pictures and videos are to be legalised, but also error-prone “artificial intelligence”, for example to automatically search text messages for “luring” of minors. If an algorithm reports a suspected message, message content and customer data could be automatically forwarded to law enforcement agencies and non-governmental organizations worldwide without human examination. Regardless of the outcome of the case, the persons concerned should never know that their private communications were disclosed.«

Detta känns som upplagt för galna missförstånd och märkliga tolkningstvister. Och som vanligt är det den som är oskyldig som har mest att frukta.

Breyer:

»The more criminals are pushed to move their communications to impenetrable channels the less likely will the prosecution of child abuse be successful. (…)

Intercepting and filtering the content of all our private communications without suspicion and across the board by corporations such as Facebook and Google is absolutely ineffective and even counterproductive for investigating the channels used by organized crime, but it threatens the privacy and security of Internet communications of millions of innocent citizens and will probably not stand up in court. (…)

With error-prone and opaque AI text filters in place, we can expect countless users falsely reported every day and a thousandfold reading of private messages by international corporations. Particularly affected would be messages from teenagers among themselves, who have a right to respect their sex lives. Reports are to be uncontrollably forwarded to states such as the USA, where no data protection applies, with unforeseeable consequences when travelling.«

Säg att den AI som är inblandad missförstår ett av dina meddelanden – och att du sedan, ovetande om detta, försöker resa in i t.ex. USA. Vad kan möjligen gå fel?

Ännu snurrigare blir detta med tanke på att det aktuella lagförslaget är till för att upphäva konsekvenserna av ett annat lagförslag – som går ut på att skydda medborgarnas elektroniska kommunikationer. Man vill helt enkelt ha två motstridiga uppsättningar av regler. Vilket känns som en tveksam plan.

Om man låter AI-system analysera alla våra meddelanden – är det då någon som tror att detta kommer att stanna vid att bekämpa övergrepp mot barn? Historien lär oss att all övervakning tenderar att drabbas av ändamålsglidning – och ständigt utvidgas till nya områden.

Vill vi verkligen ha ett system där datorer granskar och analyserar alla våra elektroniska kommunikationer – och i förekommande fall rapporterar till myndigheterna om det hittar något intressant?

Detta öppnar möjligheter för åsiktsregistrering, kartläggning av oppositionella och förföljelse av oliktänkande. Vilket blir extra oroväckande med tanke på att vi lever i en tid när yttrande- och meningsfriheten redan hotas från flera håll.

Men presentera det som ett system för att bekämpa barnporr – och ingen vågar protestera.

Läs mer hos Patrick Breyer »

EU-opinion: Nej till uppladdningsfilter och överstatlig censur i TERREG

av

EU:s opinionsinstitut YouGov har frågat medborgare i tio medlemsstater vad de anser om förslagen om nätcensur i förordningen om terror-relaterat innehåll online (TERREG).

TLDR: Folket säger nej.

På frågan om vem som skall bestämma vilket material som kan komma att censureras säger de tillfrågade:

  • En myndighet, som polisen eller en domstol: 44%
  • Onlineplattformar, med hjälp av algoritmer eller uppladdningsfilter: 38%
  • Inget av de två: 15%
  • Vet ej: 17%

Vilket innebär att endast 38% stöder ministerrådets linje i förhandlingarna om TERREG.

Man har även frågat om ministerrådets förslag att en myndighet i en medlemsstat skall kunna besluta om nedtagning av innehåll i andra länder.

  • 51% säger nej och vill att endast nationella myndigheter skall kunna besluta om nedtagning.
  • 37% håller med ministerrådet om att en nationell myndighet skall kunna besluta om nedtagning även i andra länder.
  • 19% vet ej.

Undersökningen har initierats av Patrick Breyer, ledamot av Europaparlamentet (PP, DE).

Länkar:
• YouGov (PDF) »
• Piratpartiet: EU-medborgare motsätter sig utländsk anti-terror internetcensur»

Nätnyheter från Femtejuli.se – 2020-08-24

av

Kommenterade nätnyheter:
• Svensk polis får använda automatisk ansiktsigenkänning
• EU & Europol vill knäcka kryptering
• Europol vill ha direkt tillgång till företagsdata
• Tänker Trump benåda Snowden?
• Twitter och Youtube censurerar – igen
• EU-studie föreslår digital järnridå

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

EU: Studie föreslår digital järnridå

av

»A European firewall/cloud/internet would foster a digital ecosystem in Europe based on data and innovation. It would drive competition and set standards, similar to what has happened in China in the past 20 years.«

Citatet kommer ur ett dokument från Europaparlamentet: New Developments in Digital Services – Short-(2021), medium-(2025) and long-term (2030) perspectives and the implications for the Digital Services Act (PDF) »

Syftet sägs vara följande. »The study lays out predictions for digital services in the next one to ten years and provides recommendations for action for the European Parliament in preparation for the Digital Services Act.« Författare är fem personer på Future Candy, som påstår sig vara en »digital innovation engine«.

Vill man vara lite elak skulle man kunna beskriva dokumentet som en samling idéer för politisk micro management av den europeiska IT-sektorn. Vilket i sig är en mycket tveksam idé.

För att främja en livskraftig IT-sektor i Europa tycks man vilja bygga upp digitala gränser och barriärer mot resten av världen.

Vilket i så fall strider mot hela internets idé om fria gränslösa informationsflöden. Författarna tycks dock mena att det främjar konkurrens och utveckling:.

»Technologically, it would require a top-level infrastructure, high-speed 5G or a 6G data network and a firewall. Setting up such a network would promote many European companies and therefore boost business and drive innovation.

Like the Chinese firewall, this European internet would block off services that condone or support unlawful conduct from third party countries.«

Digital protektionism. Har man verkligen tänkt igenom detta?

OK, detta är bara en studie, ett papper beställt av Europaparlamentet. Men det är ändå en del av beslutsunderlaget för EU:s nya Digital Services Act – och kan som sådant komma att styra mycket av hur projektet utvecklas. Plus att det naturligtvis kommer att ge många politiker och tjänstemän idéer. För om en ledande »digital innovation engine« säger att en digital järnridå är en bra sak, då är det nog så – kan beslutsfattarna tänka.

Det hela blir än mer oroande med tanke på att the Digital Services Act också är tänkt att skapa enhetliga EU-regler för vad som skall vara tillåtet att publicera på internet. I kombination med en digital järnridå får det alla larmklockor att ringa.

Om vi inte vill ha en digital järnridå – då måste vi reagera högljutt och snabbt. Då kan beslutsfattarna bli nervösa och idén slängas i papperskorgen. Men om vi inte reagerar är risken att detta är något som biter sig fast i processen och så småningom förverkligas genom lagstiftning.

I EU – precis som i all annan politik – måste man reagera tidigt på dumheter. Väntar man, då blir det väldigt mycket svårare att stoppa förslagen. Sedan är det för sent att göra något åt saken.

Kina som föredöme – the irony.

Kommer krav på skydd av persondata att leda till ett balkaniserat internet?

av

Som vi berättat i en tidigare bloggpost har EU-domstolen upphävt det så kallade EU-US Privacy Shield-avtalet, som reglerar överföring av persondata mellan EU och USA. Skälet är att domstolen anser att sådan data inte har tillräckligt starkt skydd mot amerikanska underrättlseorgan, som NSA.

Detta har utlöst en intensiv juridisk aktivitet hos många av de berörda företagen. Politico skriver:

»While it remains to be seen exactly how EU watchdogs will interpret the Privacy Shield ruling, a growing number of companies are not waiting to find out — and proactively taking the decision to keep their data in the bloc.« (…)

»A lawyer who represents large tech companies — and who asked to speak on condition of anonymity to discuss confidential matters — said they now advise some clients to consider compartmentalizing data in different regions.« (…)

»Calls for data localization — especially from privacy-conscious Germany — are not new, but this time could be different. Digital sovereignty has emerged as a top priority for Europe’s top policymakers, who have thrown their weight behind projects like Gaia-X, an initiative aimed at boosting the bloc’s ability to store data on the continent.«

Plötsligt tycks alla kort finnas på bordet. En möjlighet – som inte är speciellt trolig – är att USA ger utländska medborgare samma skydd mot massövervakning som amerikanska, eller ett USA inför en ny lagstiftning som ligger i linje med EU:s GDPR. En annan möjlighet är att dela upp data mellan EU och USA. Ett tredje alternativ är att endast överföra hårt krypterad persondata mellan EU och USA. Man skulle även teoretiskt kunna tänka sig att amerikanska nätjättar lagrar all sin information i Europa, även om inte heller det är troligt.

Oavsett vilket är risken att vi går mot en ökad balkanisering av internet – vilket i så fall strider mot hela principen om ett fritt, öppet och globalt nät. Det är också möjligt att vissa internationella företag och plattformar kan välja att sluta acceptera och serva kunder i EU. Vilket för övrigt är något Youtube redan överväger, efter att EU klubbat sitt nya upphovsrättsdirektiv.

Man kan även konstatera att företagsklimatet för nättjänster och -plattformar är sådant i EU att startups och riskkapital hellre söker sig till andra delar av världen. Vilket kommer att leda till att EU hamnar ännu mer på efterkälken. Trots de bästa intentioner håller vi på att reglera denna marknad till döds. Det är problematiskt, eftersom internet är ett centralt verktyg för mänsklighetens kollektiva utveckling.

Politico: The demise of Privacy Shield may be the end of US-Europe data transfers »

De regler som krävs för vad sociala media kan publicera finns redan i den vanliga lagstiftningen

av

I går höll amerikanska kongressen utskottförhör med Big Data.

Såväl Facebook som Google grillades vad gäller påstådd politisk partiskhet. Och i båda fallen finns rätt tydliga bevis för att man missgynnat konservativa / republikanska åsikter och kandidater.

Samtidigt kritiserades framförallt Facebook för att inte göra tillräckligt för att censurera andra grupper som påstås ägna sig åt hat och hot. Att finna en väg som alla är nöjda med verkar svårt, eller direkt omöjligt. Så det är kanske inte så konstigt att Mark Zuckerberg tidigare luftat tanken om reglering genom lagstiftning – så att Facebook själva slipper fatta svåra och känsliga beslut.

Sociala media sitter verkligen i en besvärlig situation. De har svårt att vara politiskt oberoende – dels då man kan misstänka att det finns en åsiktsmässig slagsida i företagen som sådana, dels då anställda bevisligen låter sina personliga politiska preferenser styra granskningen av vad som får publiceras. De anklagas samtidigt för att censurera för mycket – och för lite. Och vad gäller corona-krisen befinner de sig på ett gungfly, efter att ha beslutat att stoppa felaktig information – trots att det inte finns någon objektiv mall eller konsensus i många detaljfrågor.

Dessutom kompliceras situationen av företagens dominerande ställning.

Jag kan bara se en lösning. Det är att de sociala plattformarna får anpassa sig till lagstiftningen i respektive land där de är aktiva. Och då skall en enda regel gälla: Allt som inte är uttryckligen förbjudet i lag skall vara tillåtet att publicera.

Den lagstiftning Zuckerberg tidigare efterlyst finns alltså redan – i form av vanliga lagar, som skall gälla lika för alla överallt, oavsett om det är on- eller offline. Principen ovan lär dessutom vara den enda som i längden är möjlig att försvara och upprätthålla. (Sedan kan det lämnas till användarna att till exempel reglera graden av barnskydd och filtrering av potentiellt stötande material i sina egna, personliga inställningar.)

Några videofilmer från kongressförhören:
• Everything Facebook CEO Mark Zuckerberg just said to Congress in 16 minutes »
• Facebook CEO Mark Zuckerberg RESPONDS to Rep. Matt Gaetz over Project Veritas #ExposeFacebook Report »
• Biden vs Trump: Congress grills Google on Clinton election money »

När EU talar om ökad pluralism i media – då är risken att det betyder minskad yttrandefrihet på nätet

av

Begreppet »media pluralism« är – i ett EU-sammanhang – knepigt. Speciellt som det inte finns någon allmänt vedertagen definition eller djupare analys bakom.

Rimligen bör pluralism inom media handla om att låta fler röster göra sig hörda. Men som regel landar det i att staten måste göra mer för att försvara etablerade media mot konkurrens på den digitala marknaden. (Och så brukar vänstern försöka skjuta in ett förbud mot pornografi, i den rapport i ämnet som brukar tas fram av Europaparlamentet en gång per mandatperiod.)

Nu skall det tyska EU-ordförandeskapet ta sig an frågan. Så ett papper har producerats: Safeguarding a free media system: Rethinking media pluralism (9215/20, LIMITE, 6 July 2020, pdf). I år med en corona-twist – »noting the ”importance of an independent, plural media landscape and high-quality journalistic content for the democratic opinion-forming process, particularly against the backdrop of the COVID-19 pandemic.«

Vad detta betyder är oklart – även när man försöker förklara:

»The pandemic has acted as a catalyst and has exposed or exacerbated many media policy problems. We have been made very aware of the importance of the media, but also of the fragility of the media ecosystem. We should therefore seize the opportunity, while respecting the competences of the Member States and taking into account our different social, societal and cultural characteristics, to jointly design ways to ensure and strengthen media pluralism and freedom of expression throughout the European Union.«

I sammanhanget skall man komma ihåg att politiken lever i symbios med gammelmedia. Det gäller såväl att sätta agendan som en gemensam avsky mot sociala media och internet, vilka ju ger folket möjlighet att lägga sig i.

Man ställer en rad frågor till medlemsstaternas justitiedepartement. Min blick fastnade bland annat för denna:

»Digital platforms offer a variety of information and content. What requirements such as accessibility, transparency and non-discrimination must be fulfilled by platforms so that their role as gatekeepers is consistent with the objectives of media pluralism and freedom of speech?«

Stycket ovan skulle kunna vara snömos – om det inte vore för att EU driver på en utveckling där de sociala plattformarna genom sina användarvillkor inskränker yttrandefriheten – så att politikerna slipper krångel med lagstiftning, demokratisk debatt och kritik.

Notera förekomsten av begreppen gatekeepers och freedom of speech i samma mening. En gång var grundtanken med hela internet att det inte skulle finnas några grindvakter – utan att alla åsikter, analyser och infallsvinklar skulle vara fria att publicera på sina egna meriter.

Även denna frågeställning får mig att fundera:

»With a vast amount of content available across borders, what is necessary to ensure that Member States and national regulatory authorities are able to enforce the existing (national and European) rules for media regulation that safeguard media pluralism and encourage freedom of expression?«

Här tycks alltså geografiskt gränsöverskridande information vara något slags problem – fast presenterat i en kontext av pluralism och yttrandefrihet. Det känns lite som när socialdemokraternas kvinnoförbund en gång i tiden ville förbjuda parabolantenner.

Dokumentet flaggar även för de enhetliga EU-regler om vad som får lov att sägas på internet som redan aviserats inom ramen för EU:s nya Digital Services Act.

Att detta dokument på det hela taget är vagt hållet innebär att man – när det kommer till skarpt läge – kan komma att landa i nästan vilken sorts konkreta förslag som helst. Bara för att man känner att man nog borde.

En inte allt för vågad gissning är att det hela kommer att leda till mer stöd till mainstreammedia (och public service) samt inskränkt yttrandefrihet på nätet. Med en corona-twist.

Länkar:
• Statewatch: EU: German Council Presidency paper on ”rethinking media pluralism” »
• Ministerrådet: Safeguarding a free media system – Rethinking media pluralism (PDF) »

/ HAX

Internet-skatt?

av

I EU:s ”återhämtningspaket” med anledning av corona-krisen luftas tanken på att ge EU beskattningsrätt.

I samband med detta har idén om en internet-skatt åter aktualiserats.

EU gör verkligen allt för att bekämpa tanken om ett fritt och öppet internet.

EFF: Fyra principer för EU:s nätpolitik

av

Electronic Frontier Foundation – EFF – har tagit sig en titt på EU:s framtida nätpolitik.

»As the European Union is gearing up for a major reform of the current backbone of the EU’s Internet regulation—the e-Commerce Directive will be replaced by the Digital Services Act (DSA)—there are choices to be made. Rather than following in the footsteps of recent disastrous Internet legislation (such as the Copyright Directive), the EU should focus on how to put users back in control of their online experiences. Rather than giving more executive power to large platforms that have monopolized the digital space, the EU should protect the public interest Internet by focusing on users’ rights to self-determination and measures on transparency, anonymity, and interoperability.«

Man ställer även upp ett antal principer att kämpa för:

  1. Online Intermediaries Should Not Be Held Liable for User Content
  2. Only Court Orders Should Trigger Liability
  3. No Mandatory Monitoring or Filtering
  4. Limit the Scope of Takedown Orders

Läs hela texten här: Our EU Policy Principles: Platform Liability »

Principerna ovan känns rimliga och värda att kämpa för. De är applicerbara i flera olika sammanhang – som till exempel upphovsrättsfrågor, den nu aktuella förordningen mot terror-relaterat innehåll online och de EU-gemensamma regler mot hat och hot på nätet som förväntas komma i EU:s Digital Services Act.

Vad hände med vårt fria, öppna internet?

av

Ett problem med sociala media är att du oftast inte själv kan bestämma vad du får se – och vad av ditt innehåll andra kan se.

Det hänger delvis samman med den oerhörda mängd material som publiceras. Det finns helt enkelt ingen möjlighet att visa allt från alla vänner och konton du följer. Detta försöker man hantera med algoritmer som gissar sig till vad du vill se och som oftast prioriterar användare och grupper som du ofta interagerar med. Vilket kan vara problematiskt om du vill nå ut brett eller om det finns speciella konton som du vill följa i detalj.

Ett annat och lömskare problem är politisk bias. På senare tid har bland andra amerikanska Project Veritas visat att Facebooks moderatorer tar politisk ställning i sitt arbete. (Länk 1 » | Länk 2 ») PV är förvisso en kontroversiell kanal som ibland drar saker till sin spets. Men det går inte att komma runt att det finns moderatorer som – på video med dold kamera – rakt upp och ner erkänner och till och med skryter om att de låter sina personliga politiska preferenser styra vad som godkänns och vad som stoppas.

Med tanke på Facebooks dominerande ställning på marknaden är  detta ett problem – även om Facebook, som ett privat företag – naturligtvis har rätt att själva styra användarvillkor och vad de kan tänka sig att publicera. Saken är bara att om de styr innehåll, då blir de snarare ett slags publicist än en plattform. Vilket lett till att deras budbärarimmunitet kommit att ifrågasättas, inte minst i USA. (Budbärarimmuniteten innebär att en plattform inte kan hållas ansvarig för vad deras användare publicerar, så länge de inte själva agerar grindvakt eller kommenterar flödet.)

Hur det ser ut bland svenska moderatorer vet vi inte. Och om det finns en problematisk granskningskultur hos Facebook måste man fråga sig om samma sak även gäller hos till exempel Twitter och Youtube.

Vad vi däremot vet är att regeringen har haft möten med de sociala nätverken, eftersom den ogillar mycket av det som publiceras. Vilket kan ses som ett sätt att begränsa yttrandefriheten utan att behöva krångla med demokratiskt lagstiftningsarbete och rättsliga processer. Det är mycket enklare för politikerna att få plattformarna att vrida åt sina användarvillkor och att plocka bort sådant som den politiska makten stör sig på. Vilket är ett uppenbart demokratiskt problem.

Vi vet också att EU är inne i en process för att censurera, kräva uppladdningsfilter och skapa nya, enhetliga regler för vad som får lov att sägas på nätet. Vilket naturligtvis sätter extra press på plattformarna.

Lägg till detta att det tycks vara populärt i vissa kretsar att massanmäla inslag som man ogillar – även om de inte bryter mot några regler. Ibland tycks denna taktik fungera och leder då till att helt korrekta och sakliga inlägg specialgranskas och ibland stoppas.

Dessutom finns en kommersiell komponent. Många annonsörer vill helt enkelt inte synas i kontroversiella sammanhang, vilket leder till att sådant material blockeras, får minskad spridning eller inte kan dra in annonsintäkter (Youtube). Detta även om materialet är korrekt, av allmänintresse och följer alla användarvillkor.

Allt detta är problematiskt – om man ser till det fria ordet, den fria debatten och det fria flödet av information.

Som de flesta plattformar fungerar idag är internet helt enkelt inte den globala anslagstavla som vi kanske tror.

Frågan är hur vi hittar tillbaka till ett fritt och öppet internet.