Femte juli

Nätet till folket!

Länktips

Vi använder kategorin länktips dels när vi vill tipsa om något intressant, dels när vi publicerar andra poster med många och/eller bra länkar.

EP/LIBE: Nej till AI och biometrisk analys för massövervakning

av

I Europaparlamentet har utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (LIBE) antagit en rapport om AI och biometrisk massövervakning. MEP Patrick Breyer (PP, DE) skriver på sin blogg:

»Today, the Committee on Civil Liberties, Justice and Home Affairs (LIBE) adopted a report on the use of artificial intelligence by police and judiciary by 36 votes to 24 with 6 abstentions. The successful compromise text calls, among other things, on the Commission „to implement, through legislative and non-legislative means, and if necessary infringement proceedings, a ban on any processing of biometric data, including facial images, for law enforcement purposes that leads to mass surveillance in publicly accessible spaces” (paragraph 15b). MEPs also call on the Commission to stop funding biometric research that is likely to lead to indiscriminate mass surveillance in public spaces.«

Detta innebär att AI-baserad teknik för analys av biometrisk data (som till exempel automatiserad ansiktsigenkänning) inte får användas för massövervakning. Däremot får den användas för att söka specifika mål, till exempel från övervakningsfilmer från en brottsplats. Man håller således fast vid principen om att det skall finnas en misstanke eller ett konkret brott innan man får använda dessa verktyg.

Breyer kommenterar:

»This report is a milestone in the fight against biometric mass surveillance in Europe, because for the first time a majority in the European Parliament wants to put an end to this total form of surveillance. Biometric and mass surveillance and behavioral prediction technology in our public spaces undermines our freedoms and threatens our open society.«

Detta är en rapport, inte lagstiftning. Och det återstår att se hur Europaparlamentet kommer att rösta i plenum.

Assange-fallet: Nyckelvittne drar tillbaka sina uppgifter

av

Ett viktigt vittne i den amerikanska administrationens rättsprocess mot Wikileaks grundare Julian Assange har erkänt att han hittat på uppgifter som är centrala för fallet. Detta enligt den isländska nätpublikationen Stundin.

Det är källan »Teenager« (Sigurdur Ingi Thordarson) i »NATO Country 1« (Island) som nu tar tillbaka uppgifter om att Assange skulle ha uppmanat källor att aktivt hacka amerikanska datasystem för att få fram information. Det samma gäller hans uppgifter om att Assange och Wikileaks skulle ha hackat isländska mål.

Thordarson verkar ha överdrivit sin position inom Wikileaks (där han tycks ha medverkat som volontär för fundraising) för att skapa förtroende hos de amerikanska myndigheterna – som han sedan försett med felaktig och överdriven information.

Källans information har varit viktig i den pågående brittiska rättsliga prövningen av USA:s begäran om att få Assange utlämnad för spioneri. Om han blir utlämnad riskerar han upp till 175 år i fängelse.

Den brittiska domstolen har redan kommit fram till att Assange inte bör utlämnas – på humanitära grunder. Domstolens beslut har efter det överklagats av den amerikanska administrationen. Och nu tycks alltså även själva sakunderlaget i målet vittra sönder.

»The man in question, Sigurdur Ingi Thordarson, was recruited by US authorities to build a case against Assange after misleading them to believe he was previously a close associate of his. In fact he had volunteered on a limited basis to raise money for Wikileaks in 2010 but was found to have used that opportunity to embezzle more than $50,000 from the organization. Julian Assange was visiting Thordarson’s home country of Iceland around this time due to his work with Icelandic media and members of parliament in preparing the Icelandic Modern Media Initiative, a press freedom project that produced a parliamentary resolution supporting whistleblowers and investigative journalism.«

Enligt den förre isländske inrikesministern Ögmundur Jónasson genomskådade de isländska myndigheterna tidigt bluffen – och beordrade de amerikanska utredarna att lämna landet. Vilket de gjorde först efter en förnyad uppmaning. De flög då till Danmark, tillsammans med Thordarson.

»The meeting in Denmark was the first of a few where the FBI enthusiastically embraced the idea of co-operation with Thordarson. He says they wanted to know everything about WikiLeaks, including physical security of staff. They took material he had gathered, including data he had stolen from WikiLeaks employees and even planned to send him to England with a wire. Thordarson claimed in interviews he had refused that particular request. It was probably because he was not welcomed anymore as he knew WikiLeaks people had found out, or were about to firmly establish, that he had embezzled funds from the organization.«

Thordarson dömdes till ett kortare fängelsestraff för olika brott på Island. Vilket dock inte tycks ha påverkat hans trovärdighet i de amerikanska myndigheternas ögon.

»Incarceration did not seem to have an intended effect of stopping Thordarson from continuing his life of crime. It actually took off and expanded in extent and scope in 2019 when the Trump-era DoJ decided to revisit him, giving him a formal status as witness in the prosecution against Julian Assange and granting him immunity in return from any prosecution.«

Den amerikanska administrationen gick till och med så långt som att lova att inte berätta för isländska myndigheter om Thordarsons pågående blandade brottslighet – plus att de alltså gav honom åtalsimmunitet i USA.

Detta tycks vara ett klassiskt fall där överambitiösa amerikanska myndigheter utnyttjat en mytoman och sociopat (enligt den isländska domstolen) för att komma åt en besvärlig publicist.

Fortsättning lär följa.

• Stundin: Key witness in Assange case admits to lies in indictment »

Facebook sätter upp principer för censur av satir

av

Facebook och dess oversight board håller på att utarbeta principer för att moderera satir.

En av dessa principer som håller på att utkristalliseras är att satir inte bör »slå nedåt«. Vilket öppnar för helt nya tolkningsproblem.

Hur gör man till exempel med ett påbud eller en lag som kommer från politiken, som uppges syfta till att stärka någon marginaliserad grupp – men som till sin utformning ändå är tveksam, kontraproduktiv, rättsvidrig eller bara fånig? Skall sådant inte vara möjligt att häckla, bara för att det påstådda syftet kan anses vara gott?

Det kommer att uppstå uppenbara tolkningsproblem om man skall dra något slags gräns mellan saklig kritik och innehåll som gör sig lustig över ett förslag, en företeelse, en händelse eller något annat. På detta sätt håller Facebook på att trassla in sig i resonemang och tolkningar som kan få mycket märkliga, oväntade och oönskade konsekvenser.

Vi har sagt det förr: Livet skulle bli mycket lättare för sociala media om de höll sig till grundprincipen att bara begränsa yttranden som är olagliga.

• Länk: Facebook’s New Announcement on Satire Doesn’t Bode Well for the Babylon Bee… »

EU-domstolen: Youtube inte ansvarigt för användares uppladdningar – än så länge

av

EU-domstolen har idag meddelat denna dom (PDF):

»Enligt det rådande rättsläget i unionsrätten genomför operatörer av internetplattformar i princip inte själva en överföring till allmänheten av upphovsrättsligt skyddat innehåll som användarna olagligen laddar upp på deras plattformar.

Dessa operatörer genomför emellertid en sådan överföring i strid mot upphovsrätten om de, utöver att enbart göra plattformarna tillgängliga, bidrar till att ge allmänheten tillgång till detta innehåll.«

Men, domen tar inte hänsyn till EU:s nya upphovsrättsdirektiv – där artikel 17 (uppladdningsfilter) utgör ett separat ärende.

»Domstolen utreder detta ansvar utifrån det regelverk som gällde vid den tidpunkt som är avgörande för dessa mål, nämligen direktiv 2001/29 om upphovsrätt, direktiv 2000/31 om elektronisk handel, och direktiv 2004/48 om säkerställande av skyddet för immateriella rättigheter. Tolkningsfrågorna rör inte det regelverk som blivit tillämpligt efter den tidpunkt som är avgörande för de nationella målen, och vilket införts genom direktiv 2019/790 om upphovsrätt och närstående rättigheter på den digitala inre marknaden.«

Förvirrande? Bakgrunden är att artikel 17 (plattformars ansvar, vilket kan komma att leda till uppladdningsfilter) överklagats till EU-domstolen av Polen. I det målet har domstolens generaladvokat skjutit fram sin rekommendation till dom (enligt uppgift till 15 juni) på grund av oklarheter kring hur EU-kommissionen rekommenderar medlemsstaterna att implementera direktivet i nationell lagstiftning.

Så vad som egentligen gäller får vi inga indikationer på förrän senare i sommar.

Hur detta kommer att bedömas i framtiden beror dels på utgången i målet med Polen vs. artikel 17, dels på hur det nya upphovsrättsdirektivet kommer att implementeras i medlemsstaterna. (I Sverige finns än så läng inga indikationer på hur det nya upphovsrättsdirektivet skall bli lag, trots att det föreskrivits att denna implementering skulle vara klar redan för två veckor sedan.)

• EU-domstolens dom (PDF) »
• Reuters: YouTube wins user copyright fight in top EU court ruling »
• Politico: YouTube wins in court ruling on copyright breaches by users »

EU-domstolen: OK att samla IP-adresser i jakt på fildelare

av

Ur ett pressmeddelande från EU-domstolen:

»The systematic registration of IP addresses of users and the communication of their names and postal addresses to the holder of intellectual property rights or to a third party in order to enable an action for damages to be brought is permissible under certain conditions.

The request for information from a holder of intellectual property rights is not to be abusive and must be justified and proportionate.«

Man utvecklar resonemanget om speciella förutsättningar (certain conditions):

»In the third place, the Court holds that EU law does not preclude, in principle, the systematic registration, by the holder of intellectual property rights or by a third party on his or her behalf, of IP addresses of users of peer-to-peer networks whose internet connections have allegedly been used in infringing activities (upstream processing of data), or the communication of the names and of postal addresses of users to that holder or to a third party for the purposes of an action for damages (downstream processing of data). However, initiatives and requests in that regard must be justified, proportionate, not abusive and provided for by a national legislative measure which limits the scope of rights and obligations under EU law. The Court states that the latter does not impose an obligation on a company such as Telenet to communicate personal data to private individuals in order to be able to bring proceedings before the civil courts for copyright infringements. However, EU law allows Member States to impose such an obligation.«

Detta kommer förmodligen att öka antalet ekonomiska krav från upphovsrättsindustrin och dess ombud mot fildelare. Och det kommer säkert att öka användningen av VPN-tjänster.

• EU-domstolens pressmeddelande (PDF) »

Kryptering och brevhemlighet i fara när EU bekämpar droger

av

EU håller på att ta fram en Drugs Action Plan 2021-25. I den föreslår man bland annat ökade möjligheter för att knäcka kryptering.

Punkt 7:

»Improve possibilities to tackle encryption in line with the resolution on security through encryption and security despite encryption adopted by the Council in December 2020, and other new technology-related methods employed by organised crime groups active in the drug markets to avoid detection and hide their communications. In this context, Europol analytical and technical capacities to support the Member States in this area should be strengthened and mutual legal assistance should be facilitated and strengthened, in particular regarding standard measures (e.g. subscriber identification) to improve information exchange.«

Det är inte direkt som att EU behöver fler skäl för att kringgå och underminera kryptering. Det finns redan flera andra förslag (t.ex. ChatControl). Och Europol har redan som prioriterad uppgift att knäcka krypterade kommunikationer. Men här presenterar man alltså ytterligare ett skäl.

Men det stannar inte vid detta. Även brevhemligheten (för fysiska brev) är i fara. Punkt 19:

»Promote the development, use and exchange of best practices and equipment among Member States on monitoring of suspicious postal items by employing solutions such as detection dogs and/or x-ray machines. Notably, the role of new technologies and especially of artificial intelligence should be examined, while preserving the fundamental right of privacy of correspondence.«

Att knarkhundar och röntgenmaskiner används gör att jaga droger i posten är kanske ingen nyhet. Och nu vill man alltså toppa detta med AI, utan att närmare beskriva hur det är tänkt att gå till.

I detta sammanhang är det också intressant att notera att flera EU-länder börjat med unika, kodade frimärken – vilket kan göra det möjligt att följa ett brev maskinellt.

• Statewatch: EU – Drugs strategy includes actions to ”tackle encryption” and postal snooping »
• EU-kommissionen: Draft EU Drugs Action Plan 2021 – 2025 (PDF) »

Europol jagar åsikter online

av

Den europeiska polismyndigheten Europol höll nyligen en »Referral Action Day against right-wing terrorist online propaganda«. Den gick ut på att man surfade runt på nätet och anmälde innehåll som kan tänkas bryta mot plattformarnas användarvillkor.

Statewatch:

»The ”Action Day” followed recommendations made by the Council of the EU and was part of a growing move towards EU and national bodies removing ”violent extremist” material from the internet.

However, as ”violent extremism” is a term for which – unlike terrorism – there is no legal definition, it has an expansive scope that puts much in the eye of the beholder.«

Här blir det lite konstigt, när den europeiska polismyndigheten jagar material som inte är definierat juridiskt. Polisen är till för att upprätthålla lagen. Att då lägga dess resurser på att anmäla innehåll som kanske eller kanske inte är olagligt är inte rättssäkert. Det blir också lite märkligt om polisen jobbar gentemot sociala medias abuse-avdelningar istället för rättsväsendet.

Om en EU-myndighet alls skall syssla med sådant här – är det då verkligen polisens uppgift?

Liknande insatser sägs vara planerade vad gäller vänsterradikal propaganda, jihadism och systemkritiska »Covid 19-förnekare«.

Detta kan möjligen ge en fingervisning om vad som kan komma att omfattas av EU:s nya förordning om terror-relaterat innehåll online (TERREG) – som är uppenbart vag i sin definition av vad som är att betrakta som terrorism.

Det känns tryggare om man håller fast vid vad EU-kommissionen föreslagit i sin Digital Services Act (DSA) – det vill säga att endast olagligt material skall avlägsnas från nätet. (Vilket bland andra Frankrike vill utöka till att även omfatta »hat«.)

Statewatch: EU: Growing online censorship of presumed ”violent extremism” of all ideological varieties »

Karlsten om problemen med uppladdningsfilter

av

Som vi tidigare rapporterat har EU-kommissionen publicerat sina riktlinjer till implementering av artikel 17 (tidigare 13) i EU:s nya upphovsrättsdirektiv. Det vill säga frågan om uppladdningsfilter.

Nu ser jag att den utmärkte Emanuel Karlsten gett sig in på att bevaka frågan. Han är bra på att gräva fram saker. Och han är på krigsstigen:

»I praktiken skulle det innebära att till exempel SVT, eller en filmstudio som Warner kan skapa ett referensbibliotek med allt sitt innehåll, vilket innebär att alla sajter som används av EU-medborgare förbjuds tillåta användare publicera något av det – bild, film eller ljud. Det är också plattformen som har ansvar att ändå tillåta bilder – om de görs i form av satir, humor eller kritik. Hur det i praktiken ska fungera är svårt att både förutse och förstå.

I grunden innebär det att det filter som tidigare heligt lovats inte skulle finnas, nu får en mer framträdande roll.«

Nu är frågan hur implementeringen är tänkt att ske i Sverige. Samtidigt finns det en möjlighet att EU-domstolen dödar artikel 17, då den överprövas där, på begäran av Polen.

• Emanuel Karlsten: Idag skulle upphovsrättsdirektivet varit lag i Sverige – därför dröjer det och därför är det problematiskt »
• EU-kommissionens vägledning om artikel 17 är en besvikelse »

Digital Services Act diskuteras

EU: Ministrar vill censurera icke olagliga yttranden på nätet

av

Vid måndagens möte med EU:s justitie- och inrikesministrar diskuterades bland annat EU:s nya Digital Services Act (DSA).

En central punkt i DSA är att olagligt material skall plockas ner från nätet. Men det räcker tydligen inte. Frankrike och flera andra länder vill att även till exempel hat skall avlägsnas. Det vill säga att innehåll som är oönskat och obehagligt – men inte nödvändigtvis olagligt – skall censureras.

För det första kan man fundera över de formella grunderna om en medlemsstat vill förbjuda sådant som inte är olagligt.

Man kan också undra vem som i så fall skall fatta detta beslut och på vilka grunder. Kommer det att bli som i förordningen om terror-relaterat innehåll online, TERREG – där en enskild tjänsteman i en medlemsstat kan beordra nedtagning av material i vilket annat EU-land som helst, utan föregående rättslig prövning?

Vidare öppnar detta för subjektiva bedömningar, vilket inte är rättssäkert.

Det fria ordet är centralt för ett demokratiskt samhälle. Tidigare generationer har kämpat i århundraden för yttrandefriheten. Människor har offrat sin frihet och i vissa fall sina liv för rätten att uttrycka åsikter som inte delas av makthavarna. Därför bör inskränkningar endast kunna ske genom lag och tillhörande rättslig prövning.

Räkna med att detta kommer att bli en stridsfråga.

• Sveriges Radio: Delade meningar i EU om vad man får säga på nätet »

Nu kommer EU-ID – ett samhälle där man blippar sig fram?

av

Projektet med ett digitalt corona-pass för resande m.m. tycks ha givit mersmak.

Enligt Bloomberg kommer EU-kommissionen i morgon, torsdag att lägga fram ett förslag till European Digital Identity Wallets.

Vilket enkelt uttryckt kommer att ge oss något som liknar Bank-ID – och som om de rullas ut kommer att göra folks liv mycket enklare och bekvämare. Då kommer fler att göra som i Sverige och digitalisera förvaltningens grundläggande funktioner. Då kommer man att kunna leva sömlöst i hela EU.

“Under the new rules, European Digital Identity Wallets will be available to everyone,” according to a draft of the proposals seen by Bloomberg. The wallets will allow European Union citizens to digitally identify themselves, and store identity data and official documents such as driving licenses, medical prescriptions or education qualifications.

Möjligen är detta delvis en naturlig utveckling. Men den kommer med stora risker.

Ett samhälle där vi ständigt måste blippa oss fram – med allt vad detta medför av risker för övervakning och kontroll.

Computer says no. Hur skapar man ett sådant här system utan risk för manipulation eller missbruk? Kan man lita på att systemet alltid fungerar, om vi skall lägga allt i dess händer? Cyber-angrepp?

För att inte tala om hur ett sådant system skulle kunna missbrukas, till exempel för att förtrycka dissidenter eller för att snoka i folks liv. Det hela skulle i en politisk handvändning kunna förvandlas till något som påminner om de kinesiska experimenten med sociala poäng.

Visserligen säger man att EU:s digitala plånbok skall vara frivillig. I vart fall när den införs, men sådant brukar förändras med tiden. Hur som helst kommer man att behöva den för att kunna leva ett normalt liv i framtidens EU.

»With the new ID wallets, which will have the form of a phone app similar to those used in Android and Apple Inc. phones, EU citizens will be able to rent cars outside their home country, prove their age, apply for loans, open a bank account, submit tax declarations, or enroll in a university. The commission aims to release a technical toolbox which can be used for the introduction of the wallets by October 2022.«

Det vill säga om ett år och fem månader. Således ytterligare en känslig dossier som kommer att slussas genom EU:s beslutsapparat i expressfart.

Kan vi inte – för en gångs skull – ha en diskussion om det här? Innan vi ställs inför fullbordat faktum.