Femte juli

Nätet till folket!

Frankrike

Frankrike vs. Telegram

av

Det franska rättsfallet mot Telegrams grundare och chef Pavel Durov kan få långtgående konsekvenser även för andra meddelande-appar och deras budbärarimmunitet.

I Frankrike har meddelande-appen Telegrams grundare och chef Pavel Durov arresterats.

Grunden sägs vara en utredning om att Telegram inte samarbetat med myndigheterna och inte modererat sitt innehåll.

Enkelt uttryckt hålls Durov medskyldig till drogförsäljning, människohandel, barnpornografibrott och bedrägeri som skall ha förekommit på appen.

Enligt EU:s lagstiftning har meddelandetjänster budbärarimmunitet (mere conduit). Det vill säga att de inte kan hållas ansvariga för vad deras användare gör och skriver så länge innehållet inte har någon redaktionell styrning.

Men, detta ger inte rätt att blunda för olagligt innehåll som man upptäcker eller fått information om. Vilket kräver någon form av moderering.

Fallet kan ses som ännu ett steg i EU:s och dess medlemsstaters krig mot anonyma och krypterade meddelandetjänster. Dock är Telegram inte end-to-end-krypterad i standardläge, utan det kräver en djupdykning i inställningarna.

Att hålla en meddelandetjänst eller plattform ansvarig för sina användares handlingar påminner om den amerikanska livstridsdomen mot darknet-siten Silk Roads grundare och chef Ross Ulbricht – på grund av de brott användarna planerade och begick på sidan.

Utöver budbärarimmuniteten kan det som nu sker även ses som en fråga om yttrandefrihet. I EU skall följande gälla. »Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser.«

I sammanhanget skall påpekas att Telegram (950 miljoner användare) även tillhandahåller gruppchattar och kanaler som kan ha många användare och följare. Detta är speciellt populärt i länder som Ryssland (25 miljoner) och Ukraina (7 miljoner). Till exempel användes Telegram av den ryske oppositionsledaren Aleksej Navalnyj.

I Ukraina är appen populär för att hålla kontakt med folk som flytt landet. Dessutom användes dess botar för att hjälpa ukrainska flyktingar att hitta någonstans att bo. Telegram används även för att varna för flyg- och drönarattacker. Samtidigt hyser den några ukrainska pro-ryska kanaler.

Appen är även populär bland i Iran (20 miljoner användare) där dock en av oppositionens huvudkanaler blockerades 2017. Även i Indien är Telegram en populär kommunikationskanal.

Koden för Telegams app på telefoner och datorer är öppen. Dock verkar server-koden vara sluten / proprietär och frågetecken har rests om vad som sker där. Datatrafiken förmedlas (enligt uppgift) huvudsakligen via GlobalNet LLC och RETN som är registrerade i EU och UK med ryska ägare. Det har även framförts kritik mot att Telegram lagrar metadata. (Mer »)

Telegram ifrågasätts ofta på grund av Pavel Durov och appens ryska bakgrund. Verksamheten sägs bedrivas från Brittiska Jungfruöarna och Dubai. Enligt tyska Spiegel är dock kontoret i Dubai tomt och obekräftade uppgifter gör gällande att man har ett kontor i S:t Petersburg.

En del av servrarna och personalen tycks finnas i Ryssland. Det råder dessutom oklarheter vad gäller appens ekonomi och finansiering. Vilket naturligtvis väcker frågor och spekulationer.

Huruvida Telegram är en fri anarkistisk nätaktivistisk meddelandekanal, ett verktyg för ryska intressen eller något annat är svårt att säga.

Oavsett vilket kommer det att bli intressant att se hur Frankrike och EU hanterar frågan med budbärarimmunitet för appen. Vad man kommer fram till kan få långtgående konsekvenser även för andra meddelandetjänster.

Frankrike och EU: Blockera sociala media vid oroligheter

av

Frankrike vill kunna blockera sociala media vid oroligheter. EU-kommissionen ger sitt stöd och erbjuder även en laglig grund.

Den franska regeringen har problem med kravaller. Är det inte Gula västarna så är det invandrarungdomar eller protester mot höjd pensionsålder.

Därför vill franska politiker, med president Macron i spetsen, kunna stänga ner sociala media för att undvika oroligheter.

Vilket råkar vara ungefär samma argument som används av skurkstater som stänger ner siter och ibland hela internet när det börjar bli hett om öronen.

Frankrike har redan vissa sådana lagar, delvis som en konsekvens av hur man valt att lagstifta kring EU:s nya Digital Services Act (DSA).

Som om inte detta är tillräckligt problematiskt har EU:s kommissionär för den inre marknaden, Thierry Breton, uttalat sitt stöd för Macrons nätcensur. Han tycks även mena att DSA ger stöd för sådant. Tänka sig.

Detta har fått ett antal organisationer som arbetar med nätfrågor att gå i taket. Breton har sedan gjort ett allmänt hållet uttalande om vikten av ett fritt och öppet internet. Hur han menar att DSA skall kunna användas för att stoppa politiska protester framgår dock inte. Men det är inte alls omöjligt att så är fallet.

• Social media shutdowns might be happening in the EU with new law »
• DSA is not a censorship tool: Commissioner Breton must clarify blocking statement »
• Civil Society Statement: Commissioner Breton Needs to Clarify Comments About the DSA Allowing for Platform Blocking »

Frankrike fortsätter olaglig datalagring

av

Frankrike väljer att kringgå EU-domstolens förbud mot svepande datalagring. Med hänvisning till ”nationell säkerhet” förlänger man den med ytterligare ett år.

Den franska lagringen av data om alla medborgares alla telekommunikationer omfattar bland annat:

  • Namn
  • Adress
  • Födelsedatum
  • Födelseort
  • Postadress
  • E-post-adress
  • Telefonnummer
  • Betalningsinformation
  • IP-adress och portnummer
  • Datum, tid och längd för alla elektroniska kommunikationer
  • Lokaliseringsdata

Frågan är hur länge Frankrike kan hänvisa till nationell säkerhet. Det tycks ha blivit något slags grund för ett permanent undantag från EU-domstolens förbud.

Nu återstår att se om Frankrikes konstitutionella råd (som ibland är förvånansvärt vettigt) kan göra något åt landets fortsatta datalagring.

Vår favorit i Europaparlamentet, ledamoten Patrick Breyer (PP, DE) säger i en kommentar:

»Mass surveillance contradicts the European values of democracy, civil liberties and the rule of law. Blanket surveillance of any kind places the population under general suspicion. France is wrong in referring to an exception allowed by the European Court of Justice in case of a specific threat to national security. France’s unspecific reference to a permanent, general security risk does not justify mass surveillance, as a former judge confirms in a legal opinion.

The French government makes the EU court’s exception the rule. National security is no free ride for mass surveillance. On the issue of data retention, the EU has a serious problem with the rule of law. Any form of blanket surveillance is a characteristic of authoritarian regimes.«

I sammanhanget är det uppseendeväckande att EU-kommissionen ständigt låter medlemsstaterna komma undan med att bryta mot EU-domstolens förbud mot generell datalagring utan misstanke om brott.

Kommissionen förväntas vara ”fördragens väktare”. I dessa fördrag ingår de mänskliga rättigheterna – som bland annat föreskriver rätten till privatliv och privat korrespondens. På denna punkt har kommissionen än så länge inte fullgjort sitt uppdrag.

Faran med dåliga AI-system i statens tjänst

av

Myndigheters användning av AI för kontroll av medborgarna har redan fått förfärande konsekvenser. Nu vill EU:s franska ordförandeskap utöka användningen.

I Nederländerna använde skattemyndigheten en dålig självlärande algoritm för att komma till rätta med bidragsfusk bland barnfamiljer. Resultatet blev katastrofalt.

Tiotusentals oskyldiga familjer drabbades av stora återbetalningskrav, som ödelade deras ekonomier. Människor begick självmord. Tusentals barn togs ifrån sina familjer.

Nu har skattemyndigheten dömts till 3,7 miljoner euro i böter. Regeringen tvingades avgå. Och tiotusentals människor har fått sina liv ödelagda.

Det kan hända igen – Frankrike driver på.

Detta kan vara bra att känna till när EU nu är på väg att sjösätta sin AI Act. Hittills har man varit försiktig vad gäller att använda AI för brottsbekämpning, just på grund av att det ibland kan gå fruktansvärt fel.

Nu flaggar det franska EU-ordförandeskapet för en kursändring som leder till ökad användning av AI bland de rättsvårdande myndigheterna. Speciellt gäller detta polisens användning av biometrisk data.

Vilket i sin tur ligger helt i linje med EU:s långsiktiga ekonomiska stöd till system som samkör bland annat kameraövervakning med ansiktsigenkänning i realtid, övrig biometrisk data, AI-baserad beteendeanalys samt myndigheternas existerande och nya register. Redan för tio år sedan varnades för konsekvenserna av detta.

Inget datasystem är bättre än hur det utformas. Och självlärande AI-system tycks tendera att förvärra ogenomtänkt input över tid.

Som vanligt är det den som är oskyldig som har mest att frukta.

Länkar:
• Dutch scandal serves as a warning for Europe over risks of using algorithms »
• EU: AI Act: Plans to loosen controls on law enforcement use of artificial intelligence »
• Civil society calls on the EU to ban predictive AI systems in policing and criminal justice in the AI Act »

Frankrike: Datalagring strider mot konstitutionen

av

Frankrikes konstitutionella råd har ogiltigförklarat landets datalagring, då den anses vara ett icke proportionerligt ingrepp i individens rätt till privatliv.

Detta är inte första gången lagen får bakläxa i det konstitutionella rådet. Den nu aktuella lagen är en modifierad variant av en föregående lag som också underkänts.

Tydligen lutar sig rådet mot den franska Deklarationen om om mänskliga och medborgerliga rättigheter från 1789.

Med detta ställer sig rådet på samma sida som EU-domstolen, som redan 2014 upphävde EU:s datalagringsdirektiv – och som sedan upprepade gånger givit olika medlemsländer bakläxa i frågan. Även det med hänvisning till individens rätt till privatliv.

EU:s ministerråd och EU-kommissionen har signalerat att man vill se ett nytt datalagringsdirektiv, som på något sätt kan kringgå EU-domstolens beslut. Men detta kan komma att stoppas av den nya tyska regeringen, som är mer skeptisk till övervakning än den förra.

Följetongen fortsätter.

• Décision n° 2021-976/977 QPC du 25 février 2022 – Communiqué de presse »

Början till slutet för alternativmedia på Facebook?

av

Facebook meddelar att de tecknat ett avtal med nationell och regional fransk media, för att mot betalning ha rätt att länka till material på dess siter. En uppenbar risk med detta är att det bara blir de stora mediehusen som kommer att synas, då små tidskrifter och alternativmedia inte omfattas av avtalet.

Bakgrunden är EU:s nya upphovsrättsdirektiv och dess länkavgifter, den så kallade länkskatten. Precis som dess kritiker fruktade omfattar det nya franska licensavtalet bara mediejättarna, som i detta fall organiseras inom l’Alliance de la presse d’information générale.

Det kommer (förmodligen) även i fortsättningen att vara möjligt för användare att länka till alternativmedia. Men det som lyfts fram på Facebook och dess nya franska Facebook News kommer endast att komma från Big Media.

En annan aspekt är att detta kommer att göra det ännu svårare för nya utmanare till existerande sociala media. Även om Facebook & Co har råd att betala miljarder för licensavtal – så är detta i princip omöjligt för mindre plattformar och startups.

En liknande lösning är att vänta i Sverige. Här är regeringens förslag till implementering av upphovsrättsdirektivet nu ute på remiss.

• TechCrunch: Facebook agrees to pay French publishers for news reuse »
• Facebook: Facebook France and L’Alliance de la presse de l’information partner to strengthen the news experience for people and publishers in France»

Frankrike vill inskränka de mänskliga rättigheterna för att kunna datalagra

av

Precis som Sverige har Frankrike problem med datalagringen, det vill säga lagring om data av alla medborgares alla tele- och datakommunikationer. 2014 upphävdes EU:s datalagringsdirektiv, då EU-domstolen kom fram till att det strider mot de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv.

Efter att EU-domstolen även underkänt den franska lagen om datalagring vill regeringen nu att landets högsta domstol skall strunta i EU-domstolens dom. Vilket är anmärkningsvärt för att komma från ett land som i andra sammanhang driver frågan om EU:s överstatlighet hårt.

Den franska regeringen vill även ändra EU:s fördrag och stadgan om de mänskliga rättigheterna – för att göra datalagring möjlig.

Man vill alltså inskränka de mänskliga rättigheterna för att kunna expandera övervakningsstaten. Vilket också är anmärkningsvärt, för att komma från ett land som i andra sammanhang anser sig vara de mänskliga rättigheternas vagga – även om landet haft ett något blandat förhållande till nämnda rättigheter.

En sådan inskränkning kommer i så fall inte bara att gälla Frankrike, utan hela EU. Det vill säga att den franska ivern att rulla ut övervakningsstaten även kommer att drabba dig och inskränka dina fri- och rättigheter. Och naturligtvis kommer en sådan inskränkning att få effekter på fler områden än bara det avsedda.

Tyvärr kan man räkna med att det franska förslaget kommer att få brett stöd i EU:s ministerråd, om det läggs fram som ett skarpt förslag. Dock är det bara EU-kommissionen (som förmodas vara fördragens väktare) som kan lägga fram ett sådant förslag. Och förhoppningsvis kommer i så fall Europaparlamentet att bjuda motstånd. Men de franska idéerna bör bemötas tidigt, redan nu, för att det inte skall behöva gå så långt.

Våra grundläggande rättigheter är individens yttersta skydd mot staten – och skall inte kompromissas bort, vattnas ur eller kringgås.

Läs mer: Frankrike föreslår att skriva om EU:s fördrag om medborgerliga rättigheter för att kunna bygga ut övervakningsstaten »

Frankrike och Tyskland kan sätta käppar i hjulet för EU:s Digital Services Act

av

Frankrike och Tyskland ligger långt framme med egna repressiva internetlagar och vill gärna att EU:s nya Digital Services Act skall återspegla deras aktuella lagstiftning. Eller i vart fall ge utrymme för sådan parallell lagstiftning. Speciellt gäller detta Frankrike.

Financial Times rapporterar:

»France is pushing for the EU’s upcoming regulations on Big Tech to be changed so that member states could wield more power to punish bad behaviour and police more types of content.« (…)

»But EU officials worry that the French proposals will erode the EU’s single market. “This would remove one of the first pillars of EU law and it would mean that a company, instead of being subject to one regulator, is subject to 27 authorities,” said one person with direct knowledge of the discussions. “It risks fragmenting the single market into a nightmare.”« (…)

»Separately, France is also pushing for the DSA to widen beyond illegal content to the policing of harmful content and disinformation. “We think the text needs to be broadened to include other types of problematic content,” said (Cedric) O. “If there is no legal framework there is nothing to stop Twitter or Facebook from censoring speech they do not like.”«

Enkelt uttryckt: EU vill se gemensam lagstiftning medan Frankrike och Tyskland helst vill köra sitt eget race.

Med tanke på hur hårt den franska Avia-lagen och den tyska NetzDG-lagen kritiserats för att inskränka det fria ordet är detta oroväckande. Och vad som betraktas som problematiskt innehåll eller till och med desinformation kan uppenbarligen skilja sig en del från land till land.

Den franske digitaliseringsministern Cedric O sänder blandade signaler. Vi vet att den franska lagstiftningen syftar till att begränsa spridning av information online. Samtidigt talar han om att hindra Twitter och Facebook från att censurera på egen hand. Man kan lätt få intryck av att den franska regeringen är för censur när den själv får kontrollera den, men emot om den ligger i andras händer.

Med tanke på att internet inte känner några nationsgränser kan den frank/tyska linjen bli problematisk – och i värsta fall leda till ett balkaniserat internet i Europa.

Om ett år, våren 2022 kommer Frankrike att vara ordförandeland i EU. Man har redan meddelat att nätlagstiftning kommer att bli ett av ordförandeskapets prioriterade områden. Samtidigt kan man notera att Tjeckien är ordförandeland hösten 2022. Och om nuvarande opinionssiffror står sig är det inte omöjligt att Piratpartiet kommer att få en betydande ställning i tjeckisk politik. Vilket innebär att om Frankrike kommer med allt för tokiga förslag under sitt ordförandeskap, då kan de möjligen rättas till om de skjuts över till det påföljande tjeckiska ordförandeskapet.

Frankrike driver på för nätcensur i EU – som strider mot den franska konstitutionen

av

Under våren kommer Europaparlamentet att rösta om förordningen om terror-relaterat innehåll online (TERREG/TCO).

En central punkt i denna är att terror-relaterat innehåll skall tas bort inom en timma. Vilket knappast lämnar utrymme för varesig någon djupare analys eller rimlig rättslig prövning. Vilket är allvarligt. Det är ju trots allt inskränkningar i yttrandefriheten det handlar om.

Ett land som varit pådrivande för TERREG är Frankrike. Samtidigt upphävde landets konstitutionella råd förra året den så kallade AVIA-lagen om hat och hot på nätet. Skälet var att denna lag föreskrev borttagning av innehåll på nätet inom en timma – och att detta inte ansågs rättssäkert.

Frankrike är med andra ord pådrivande för EU-regler som föreskriver åtgärder som landets eget konstitutionella råd redan har underkänt.

Vi befinner oss alltså i en situation där såväl den franske EU-ministern som president Macron hyllar ett förslag som uppenbart strider mot den franska konstitutionen.

Länk: La Quadrature du Net asks for renewed support to challenge TERREG in France »

Franska Avia-lagen om nätcensur underkänns på konstitutionella grunder

av

En god nyhet – även om faran inte är över.

EDRi rapporterar:

»On 18 June, the French Constitutional Council, the constitutional authority in France, declared the main provisions of the “Avia law” unconstitutional. France’s legislation on hate speech was adopted in May despite being severely criticised from nearly all sides: the European Commission, the Czech Republic, digital rights organisations and LBGTQI+, feminist and antiracist organisations. Opposed to the main measures throughout the legislative process, the French Senate brought the law before the Constitutional Council as soon as it was adopted.«

Bland annat vänder man sig mot att vilken användare som helst kan anmäla inlägg sociala media och att detta i så fall måste avlägsnas inom 24 timmar. Man anser även att kravet på att material i vissa fall skall avlägsnas inom en timma är för hårt.

Intressant nog sammanfaller detta beslut med den kritik som framförts mot EU:s nya förordning om terror-relaterat innehåll online (TERREG) som just nu håller på att förhandlas fram.

»In general, the Council underlines that only the removal of manifestly illegal content can be ordered without a judge’s prior authorization. However, assessing that a certain piece of content is manifestly illegal requires a minimum of analysis, which is impossible in such a short time frame. Inevitably, this decision weakens the pro-censorship hardliners’ position in European debates.«

Men ännu är faran inte över. EU är på väg att ta fram en sammanhållen Digital Services Act (DSA) som bland annat är tänkt att slå fast enhetliga regler för nätcensur och avlägsnande av hat och hot från nätet. Mycket talar för att förslag som är snarlika de som nu ogiltigförklarats i Frankrike kommer att läggas fram, fast formulerade så att de precis kan runda invändningar från olika medlemsstaters konstitutionella domstolar/råd (och EU-domstolen).

EDRi: French Avia law declared unconstitutional – what does this teach us at EU level? »