Femte juli

Nätet till folket!

Forskning

Nyheter från vetenskap, forskning och utveckling som rör internet och dess frihet.

Svenska folket säger ja till »censur« av media och enskilda

av

82% av svenska folket anser att myndigheterna i fredstid skall kunna »korrigera« uppgifter i svensk media. 58% anser att myndigheterna även skall kunna göra det mot enskilda svenska användare på en blogg eller i sociala medier.

Detta enligt en undersökning från Försvarets Forskningsinstitut (FOI).

Siffrorna är inte helt färska, men har inte funnits sammanställda förrän nu. Mätningarna genomfördes 2020 respektive 2022. Det finns en tydlig ökning av stödet för statlig korrigering av information under perioden.

Huruvida detta handlar om censur eller ej är en definitionsfråga. Censur handlar traditionellt om förhandsgranskning och förbud mot att publicera något. I detta fall handlar det snarare om att korrigera felaktiga uppgifter i efterhand, det vill säga tillföra information. FOI använder dock själva ordet censur.

Men resultatet är problematiskt nog, beroende på var man drar gränsen. Att svenska myndigheter bemöter direkta påverkansförsök från främmande makt må vara en sak. Men allt är inte så uppenbart, vilket vi bland annat fick se prov på under pandemin.

I slutändan blir det ett politiskt beslut. Skall till exempel ett »klimatnödläge« öppna för att myndigheterna tillrättavisar enskilda som ifrågasätter politiska beslut och insatser?

Som vanligt kokar frågan ner till att det måste finnas någon som bestämmer vad som är rätt och fel, sant och falskt. Vilket öppnar dörren för politisk styrning, myndighetsaktivism och åsiktsdrev. I grunden finns den större frågan om fri åsiktsbildning.

Dessutom bör siffrorna betraktas mot bakgrund av EU:s ambitioner att censurera information online. Se länkar längst ner i denna bloggpost.

Undersökningens fråga:

»Tycker du att myndigheter i fredstid bör arbeta med att korrigera [”bemöta” i 2022 års undersökning] ”falska” nyheter och desinformation publicerade av …
…svenska medieföretag?
…utländska medieföretag?
…enskilda svenska användare på blogg eller sociala medier?
…enskilda utländska användare på blogg eller sociala medier?«

Resultatet är intressant oavsett om det handlar om att »korrigera« eller »bemöta«:

Länkar:
• FOI: Accepterar befolkningen censur? »
• FOI: Teknisk beskrivning av enkätundersökning om krisberedskap och totalförsvar genomförd år 2022 »

Relaterat:
• EU:s nya censur-byråkrati »
• EU:s nya demokratisköld tycks mest bestå av byråkrati »
• EU vill jämställa ”näthat” med terrorism »
• Trusted Flaggers – EU:s nya nätcensur dekonstruerad »

Chatcontrol: Forskare kritiserar Ylva Johansson, igen

av

300 frustrerade forskare konstaterar att EU-kommissionär Ylva Johansson inte vill eller kan ge rimliga svar om Chatcontrol.

300 forskare kritiserar i ett öppet brev EU-kommissionens förslag om massövervakning av medborgarnas elektroniska meddelanden. Kritiken kan sammanfattas i dessa punkter:

  • De verktyg som behövs för att genomföra Chatcontrol saknas antingen helt eller fungerar inte som tänkt – och är känsliga för angrepp från illvilliga aktörer.
  • Förslaget hotar totalsträckskryptering / end-to-end-kryptering och kommer att göra oss alla mindre säkra.
  • Chatcontrol är inte effektiv givet de angivna målen.

EU-kommissionär Ylva Johansson har svarat på kritiken på kommissionens hemsida.

Och i en kontrareplik svarar några av forskarna nu att Johansson ägnar sig åt att angripa halmgubbar:

»The Commissioner’s failure to answer the issues we raise shows she knows the European Commission’s regulation on Child Sexual Abuse Material cannot succeed. Instead, the post responds to statements we never made, Carmela Troncoso and Bart Preneel write.«

Kritiken blir därför ungefär densamma som de frågor kommissionär Johansson lämnade obesvarade i sin replik:

  • Teknologin existerar inte ännu.
  • Chatcontrol kan lätt missbrukas av såväl staten som illvilliga aktörer.
  • Kommissionen lägger större vikt vid fantasier om vad tekniken kan åstadkomma istället för att satsa på den mycket svårare och viktigare uppgiften att utreda övergrepp mot barn genom traditionellt polisarbete.

Att EU-kommissionär Ylva Johansson undviker svåra frågor och att hon upprepar påståenden som redan motbevisats är ingen nyhet. Det är uppenbart att hon inte vet vad hon talar om.

Man kan även notera att den icke existerande teknik som kommissionen hoppas på är grunden för en lagstiftning som är tänkt att träda ikraft redan nästa sommar. Socialdemokraten Jytta Guteland har i sammanhanget sagt att hon hoppas att tekniken kommer att finnas i framtiden…

Det enda rimliga just nu är att förlänga Chatcontrol 1 (frivillig skanning av meddelanden) och slänga Chatcontrol 2 (obligatorisk analys av meddelanden) i papperskorgen.

• Euronews: Commissioner Johannson’s response to scientists’ online privacy concerns goes after straw men »

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

• Använd denna mail-robot för att protestera mot förslaget om Chatcontrol »

Följ oss även på Twitter: @femtejuli

Och nu – biometrisk massövervakning

av

Vi närmar oss en punkt där vi inte bara skall kameraövervakas på offentlig plats – utan även identifieras och få vårt beteende analyserat i realtid, av massövervakningens algoritmer.

Artificiell Intelligens (AI) är det senaste EU vill reglera. Något slutligt förslag finns inte ännu, men väl ett läckt arbetsdokument (PDF).

Den nya förordningen täcker väldigt mycket – men tycks göra undantag när det gäller övervakning. Vilket öppnar för en del dystopiska perspektiv.

Idag används AI bland annat för system med biometrisk identifiering. Vilket blivit en stridsfråga.

Sådan kan i sin tur delas upp i flera delar. I sin enklaste form kan det handla om kontroll av till exempel fingeravtryck, ansiktsform eller iris när man passerar EU:s yttre gräns. Eller för att fastställa en persons identitet vid andra tillfällen.

(Ett sådant system användes av de västliga styrkorna i Afghanistan. Tyvärr tycks det ha fallit i talibanernas händer, med potentiellt katastrofala konsekvenser för enskilda.)

Även om man kan tycka att det är rationellt att använda biometriska data för identifiering vid en viss säkerhetspunkt (som en gräns) – så kan systemet även användas för massövervakning. Till exempel genom att identifiera alla som passerar en viss knutpunkt. (Och spara biometrisk data om dem man ej lyckas identifiera.)

Då är man plötsligt inne på att massövervaka människor som inte misstänks för något brott – utan bara för att de rört sig på allmän plats. Vilket inte är OK. Det strider mot människans rätt till privatliv.

Sedan har vi användning av automatiserad ansiktsigenkänning för att identifiera personer på exempelvis en övervakningsfilm från en plats där ett brott de facto begåtts. Vilket är mindre problematiskt.

Dock har det visat sig finnas risker med att endast granska övervakningsvideos med maskiner. I jakt på ett ansikte kan det vara lätt hänt att algoritmen missar andra detaljer och händelser som är relevanta i sammanhanget.

Den tredje delen är automatiserad ansiktsigenkänning i realtid, med livefeed från övervakningskameror. När man sedan identifierat en person kan det kopplas direkt till olika databaser med information om personen i fråga.

EU har under årtionden finansierat utvecklingen av sådana system (gm. INDECT) – trots varningar och protester. Och nu tycks dystopin vara fullbordad.

Som vanligt är det en fråga om hur systemet används. För att till exempel skugga en misstänkt brottsling eller för att avvärja konkret fara kan det kanske vara försvarligt. Men finns det någon som tror att det stannar där?

Det finns även add-ons (vilka också finansierats av EU) som att koppla ljudupptagning med akustisk analys till systemen ovan. Ett annat exempel är automatiserad beteendeanalys för att upptäcka avvikande beteende.

Blotta vetskapen om att man är ständigt observerad, identifierad och att ens handlingar i varje stund analyseras av maskiner kommer att påverka människor och deras psykiska hälsa.

Detta för att inte nämna problemet med falska positiva. Även i ett system med orealistiska 99,9% träffsäkerhet kommer tusentals och åter tusentals människor att flaggas med fel identitet eller för helt oskyldigt avvikande beteende. Vilket kan få allvarliga konsekvenser.

Som vanligt tycks det finnas en övertro på teknisk övervakning, där polisen sitter vid en skärm istället för att patrullera gatorna och ägna sig åt traditionellt polisarbete. Vilket kan komma att straffa sig genom att i slutändan göra oss alla mindre säkra.

• EU governments open the door for biometric mass surveillance in public spaces »

UK: Staten använder kommersiell persondata för att påverka befolkningens beteende

av

Enligt en studie från the Scottish Center for Crime and Justice Research använder brittiska myndigheter kommersiell persondata från Big Tech för att påverka hur människor beter sig.

Diskussionen om hur nätplattformar, sociala media och Big Tech använder känslig persondata har fått en ny dimension. Nu är det inte bara företag och annonsörer som köper sådan data, utan även statliga myndigheter. Syftet är att få människor att ändra sitt beteende. Ur studien:

»This is not simply a case of algorithms being used for sorting, surveilling, and scoring; rather this suggests that targeted interventions in the cultural and behavioural life of communities are now a core part of governmental power which is being algorithmically-driven, in combination with influencer networks, traditional forms of messaging, and frontline operational practices.«

Våra nätvanor är alltså inte bara värdefulla för företag som vill hitta kunder för sina produkter – utan även för myndigheter.

Detta öppnar dels för svindlande perspektiv vad gäller Storebrorsstaten. Myndigheterna kan ta reda på så gott som allt om oss.

Dels finns ett demokratiskt problem. I en demokrati antas den offentliga makten utgå från folket. Politik slås fast i en öppen, demokratisk process – av folkets valda representanter – efter vederbörlig granskning och debatt. Statliga påverkansoperationer som syftar till att ändra på folket ställer detta på huvudet. Speciellt som folket varken har insyn i eller möjlighet att påverka sådan verksamhet.

Dessutom kan man ifrågasätta trovärdigheten hos statliga aktörer som kritiserar till exempel Facebook för överdriven insamling av persondata – när staten själv köper in och använder sådan data.

Frågan är om detta pågår även i Sverige och i så fall i vilken omfattning.

Länk: Influence government: exploring practices, ethics, and power in the use of targeted advertising by the UK state (PDF) »

Forskare varnar för Apples nya meddelande- och bildkontroll

av

Forskare vid Princeton University har testkört en egen variant av Apples nya system för att övervaka och granska sina användares meddelanden och bilder. De kom fram till att det är farligt.

Som vi tidigare rapporterat tänker Apple börja skanna sina användares meddelanden och bilder i jakt på sexuellt utnyttjande av barn, till en början i USA. Även EU överväger ett liknande system, för alla. Men detta kommer inte utan risk för missbruk och ändamålsglidning.

Princeton-forskarna skapade faktiskt en test-version av ett system liknande Apples redan innan Apple själva lanserade det. Och man kom fram till att det finns risker. Den mest uppenbara är ändamålsglidning.

»Our system could be easily repurposed for surveillance and censorship. The design wasn’t restricted to a specific category of content; a service could simply swap in any content-matching database, and the person using that service would be none the wiser.«

Man ser även ett problem med falska flaggningar.

»The content-matching process could have false positives, and malicious users could game the system to subject innocent users to scrutiny.«

Apple har tidigare – när man stod på användarnas sida – uttalat att enda sättet att undvika att kraftfulla övervakningsverktyg missbrukas är att aldrig skapa dem. Men det var då.

• Washington Post: We built a system like Apple’s to flag child sexual abuse material — and concluded the tech was dangerous »

24.000 forskningsrapporter om Corona nu tillgängliga online

av

Vi skall vara rätt tacksamma för att vi lever i ett uppkopplat samhälle när Corona-krisen slår till.

Det gäller inte bara distansarbete och att hålla kontakt. Just nu är ett fritt och öppet internet av stor betydelse för den forskning som skall bekämpa pandemin:

»Today researchers collaborating across several organizations released the Covid-19 Open Research Dataset (CORD-19), which includes over 24,000 research papers from peer-reviewed journals as well as sources like bioRxiv and medRxiv (websites where scientists can post non-peer-reviewed preprint papers). The research covers SARS-CoV-2 (the scientific name for the coronavirus), Covid-19 (the scientific name for the disease), and the coronavirus group. It represents the most extensive collection of scientific literature related to the ongoing pandemic and will continue to update in real time as more research is released.«

Länk: Over 24,000 coronavirus research papers are now available in one place »

En av EU fastställd värdegrund för AI?

av

EU:s ministerråd har diskuterat artificiell intelligens. Speciellt upprymda tycks man vara över möjligheten att använda AI för att identifiera tal, video och bilder som man vill få bort från nätet.

Man har även en vision om digitala AI-assistenter:

”Combined with a natural language interface, this technology could form the basis for a digital assistant. Such an assistant could take instructions through a natural written and spoken discussion, providing a common interface to a variety of applications at the same time, and adapt to the needs of the user. The same technology could power customer service bots that answer questions from citizens. In spoken language mode, the assistant would be helpful to police patrols busy dealing with people involved in incidents. Developing smart digital assistants is vital for making future information overload manageable, but at the same time, we must ensure that the resulting system is transparent to the user.”

Det är säkert, ur ministrarnas perspektiv, önskvärt. Dock kan man fråga sig om AI-verktyg bäst växer fram om de formuleras, specificeras och blir låsta av politiker – eller om spontan utveckling, erfarenhet och best practice kanske är en bättre väg.

Ministrarna funderar vidare…

A society permeated with AI may become too complex to comprehend, which would entail a fundamental lack of transparency. This can be mitigated through system design: for example, a digital assistant should be required to be able to explain its reasoning, and undergo an ethical audit.”

Men bör detta vara en politisk fråga?

Och vad menas egentligen med att AI skall underställas »an ethical audit«? I så fall måste vi först komma överens om ett gemensamt gällande etiskt regelverk. Givet att detta skall fungera mot ett AI som enligt den populära uppfattningen är »smartare«, mer logiskt och mer rationellt än människor – så kan man ana att politiskt fastställda etiska ramar kan orsaka en del absurda syntaxfel.

Ministrarna förutspår även att AI kan möjliggöra autonoma miniatyrdrönare med ansiktsigenkänning. Och om det gläder dem, då skulle de bara veta vilka oerhört kraftfulla verktyg för övervakning som AI kan komma att sätta i deras händer – som de ännu inte ens kan föreställa sig.

Där har politiken en uppgift – att sätta lagliga gränser för hur överheten får använda AI för att övervaka folket.

Länk: EU plans for Artificial Intelligence (AI): Get ready to meet you friendly ”digital assistant” »

Mobil mediekonsumtion nu lika stor som TV

av

The Internet Trends report för 2019 har publicerats. Det är en guldgruva för alla som är intresserade av nätets utveckling. Till exempel kan man konstatera att en majoritet av jordens befolkning nu har tillgång till internet.

Grafen ovan är särskilt intressant. Av den kan man man utläsa att vi idag lägger betydligt mer tid på att konsumera media via nätet än på TV. Och bara den mobila mediekonsumtionen är nu i princip lika omfattande som TV-tittandet.

Det är också värt att notera att mediekonsumtionen på desktop har gått ner – medan den mer än fyrdubblats på mobila enheter.

Sedan 2010 är det framförallt tidningarnas andel av annonseringen som minskat. För desktop ligger siffran i princip stilla medan annonseringen riktad mot mobila enheter fullständigt exploderat.

Länkar:
• The Internet Trends report 2019 »
• Rapporten som slides »
• Techcrunch: Here’s Mary Meeker’s 2019 Internet Trends report »

Vilka konsekvenser får USA:s svartlistning av Huawei?

av

Den senaste utvecklingen i handelskriget mellan USA och Kina kan bli intressant – och problematisk. Computer Sweden sammanfattar…

Trumpadministrationen utdelade på onsdagen två slag mot kinesiska Huawei – då man både stoppar företaget från att köpa vital amerikansk teknik utan särskilda tillstånd och stänger ute företaget från att leverera utrustning till amerikanska telenät.

Detta är en fråga med många dimensioner. Dels handlar det om handelspolitik, eller snarare om ett handelskrig. Dels handlar det om huruvida Huawei samarbetar med kinesiska staten och därmed utgör ett säkerhetshot mot USA och andra västländer. Dels handlar det om hur detta kommer att påverka den tekniska utvecklingen. Låt oss uppehålla oss vid den sista punkten.

Till att börja med verkar det som om beslutet inte kommer att få några omedelbara konsekvenser för användarna. Android twittrar:

På sikt kommer dagens besked dock att få konsekvenser på flera olika sätt. Dels är Huawei beroende av underleverantörer i USA och Europa. Dels blir det stopp för Android i företagets framtida telefoner. Dels kan detta leda till att företaget inte kan verka på västerländska marknader. Dels kan beslutet komma att försena utbyggnaden av 5G-nätet.

Dagens Industri rapporterar:

Halvledarbolagen Intel, Qualcomm, Xilinx och Broadcom ska alla ha meddelat sina anställda att inga leveranser görs till Huawei ”tills vidare”, enligt källor till Bloomberg News. Samma beslut ska den tyska chipjätten Infineon ha tagit, enligt källor till NIkkei Asia Review.

Till Sveriges Radio säger Bengt Nordström, som är VD för telekomkonsultföretaget Northstream:

– Jag befarar att de amerikanska myndigheterna inte vet vad de sätter i rörelse. Telekomindustrin är ett tätt ekosystem, många köper från samma leverantörerna. När man gör en sådan åtgärd är det en stor risk att hela ekosystemet påverkas negativt

Uppenbart är att detta kommer att leda till en störning i den tekniska utvecklingen. Samt en balkanisering av telekommarknaden. Vilket – ur ett tekniskt perspektiv – känns väldigt onödigt.

Läs även: Huawei has immediately lost access to Android and Google »

 

Behöver AI en värdegrund? I så fall vilken?

av

Debatten om artificiell intelligens – AI – är på väg in på ett nytt spår. Nu handlar det om vilken »värdegrund« AI-systemen skall utrustas med.

Här finns två kolliderande synsätt: Antingen att AI-system skall utgå från verkliga förhållanden, vara objektiva och neutrala – för att åstadkomma optimala resultat. Eller att framtidens AI bör utrustas med något slags värdegrund.

Båda synsätten har sina problem.

Ett »neutralt« AI kan bli överdrivet utilitaristiskt på ett sätt som strider mot humanistiska principer, rättsstatens grunder och de demokratiska värdena.

Ett moraliskt riggat AI måste å andra sidan matas med något slags värdegrund. Frågan är då vilken värdegrund. Och vem som skall bestämma över detta.

(Sedan är AI naturligtvis inte ett universellt system, utan många olika.)

Detta är frågor som redan diskuteras och där det kan bli fråga om politiska beslut.

EU vill ta fram ett etiskt regelverk för AI. I den sammanfattande beskrivningen kan vi bland annat läsa… »AI systems should be used to enhance positive social change and enhance sustainability and ecological responsibility.« Vilket i sig är parametrar som öppnar för många olika, subjektiva tolkningar.

Samtidigt menar en del forskare att det är ett problem att AI främst utvecklas av vita, heterosexuella män…

Man kan även fundera över vad AI kommer att innebära vad gäller frågor som centralplanering, övervakning och maktutövning i vidare termer. Dessa verktyg kommer att kunna användas för att manipulera folket – och för att förtrycka det. I det fördolda eller öppet. Detta är dock en aspekt av frågan som i princip inte alls diskuteras.

Länkar:
• Europe to pilot AI ethics rules, calls for participants »
• Forskare varnar för diskriminerande artificiell intelligens »