Femte juli – Sida 84

EU vill styra över AI

13 maj 2020 av Henrik Alexandersson

För en tid sedan råkade jag trilla in i en livestream från en hearing från något av Europaparlamentets utskott, förmodligen JURI. Ämnet var artificiell intelligens. På sitt vanliga sövande sätt diskuterade man svindlande stora frågor – som hur man skall kunna tvinga AI att följa lagen. Detta öppnar så många perspektiv. Menar man att AI-system skall betraktas som något slags juridiska personer? Vad är det man förväntar sig att AI kan komma att göra? Ligger inte ansvaret redan hos den som äger / driver den verksamhet som kör nämnda AI?

En fråga som dock inte diskuteras är om detta är något som EU alls bör reglera. På vilket sätt räcker inte de lagar som redan finns och som omfattar allt annat i samhället? Och vad är det EU vill tillföra i sammanhanget?

Frågan är relevant inte minst för att det handlar om lagstiftning om teknik och utfall av tekniska processer.

Vad får sådant för konsekvenser? Till exempel kan man notera att lagstiftning om teknik ofta låser och bakbinder teknikutvecklingen. Eller, om tekniken vinner, att lagstiftningen snabbt blir otidsenlig och olämplig. Och vill vi verkligen att det system som gav oss upphovsrättsdirektivet, det nu ogiltigförklarade datalagringsdirektivet och idiotier som jordbruksstödet skall börja reglera AI?

Därför väckte en artikel i Euractiv mitt intresse: MEPs chart path for a European approach to Artificial Intelligence »

Så vad är det då man tänker göra?

»As part of a series of debates in Parliament’s Legal Affairs Committee on Tuesday afternoon, MEPs exchanged ideas concerning several reports on Artificial Intelligence, covering ethics, civil liability, and intellectual property.

The reports represent Parliament’s recommendations to the Commission on the future for AI technology in the bloc, following the publication of the executive’s White Paper on Artificial Intelligence, which stated that high-risk technologies in ‘critical sectors’ and those deemed to be of ‘critical use’ should be subjected to new requirements.

One Parliament initiative on the ethical aspects of AI, led by Spanish Socialist Ibán García del Blanco, notes that he believes a uniform regulatory framework in the field of AI in Europe is necessary to avoid member states adopting different approaches.«

Frågan är om detta gör någon så mycket klokare.

Det påpekas samtidigt att trots alla vitpapper, rapporter och texter som produceras om AI – så saknas en enhetlig definition.

En stridsfråga tycks vara om EU skall sätta upp en AI-myndighet (agency) eller ej. Socialisterna är för och de konservativa och liberalerna emot, som läget är just nu. Man diskuterar även krav på en speciell AI-försäkring. Kommissionen påpekar att offer för »AI-olyckor« inte får behandlas sämre än de som råkar ut för andra teknikrelaterade olyckor. Oklart dock om detta är något som riskerar att ske.

En mer konkret fråga rör AI och upphovsrätt. Skall AI-producerade verk skall skyddas av upphovsrätt eller ej? Vilket är en lite konstig fråga. Samma regler bör väl rimligen gälla för verk som producerats med hjälp av AI som för verk som redan genereras med hjälp av datorer? (Även om upphovsrätten i sig har många problem, men det är en annan fråga.)

Intrycket man får är att EU:s institutioner är angelägna om att finna en roll, eller skäl för att reglera AI. Än så länge verkar det dock mest vara varm luft och en vilja att finna lösningar på problem som kanske inte ens existerar.

EU-kommissionen skall återkomma med ett vitpapper till hösten. Eller kanske nästa vår.

Så rullas kontroll- och övervakningsstaten ut i corona-krisens spår

11 maj 2020 av Henrik Alexandersson

Förra veckan ställde vi frågan om vi kanske ändå kan bli påtvingade corona-appar – om vi vill ut och resa. Och häromdagen dök detta upp hos Politico:

»As the U.K. rolls out a coronavirus contact-tracing app, its government is already considering another technological tool to help loosen lockdown restrictions — the immunity passport.

The idea behind so-called digital “passports” is that they would allow people who have recovered from the coronavirus to signal their immunity and thus move around freely, enabling economies to open up.

But there are fears such a system, which is at a preliminary stage of discussion with the developer, could lead to discrimination, create perverse incentives to get infected, and violate privacy.

The scheme also relies on reliable antibody testing and enough kits for large-scale testing — neither of which exist, yet. Not to mention that health experts don’t know whether immunity to the coronavirus even exists and, if it does, how long it lasts.«

Något liknande kommer förmodligen även att rullas ut i EU, för att göra resor mellan medlemsstaterna möjliga.

Vilket – i så fall – innebär att man först måste bli smittad, sjuk och friskförklarad innan man återfår sin frihet att resa. Till att börja med är detta en inskränkning av våra grundläggande fri- och rättigheter som EU-medborgare. Dessutom kommer det att leda till massor av oförutsedda och oönskade konsekvenser och (som texten ovan nämner) till absurda incitament i människors beslutsfattande.

Den som vill ha en översikt över vilka länder som rullar ut corona-appar och hur de fungerar kan gå till denna sammanställning hos MIT Technology Review. Än så länge finns 23 länder på listan, varav bara fem verkar ha valt den Apple/Google-lösning som anonymiserar användaren.

Och i Singapore har man även sänt ut Boston Dynamics robot-hund för att upprätthålla socialt avstånd i parkerna.

I sammanhanget vill vi rekommendera SR Vetenskaps program »Corona och övervakningen – Hälsan före allt«, med bland andra Yuval Noah Harari.

»I USA och Australien ska man nu börja använda vad som kallas för pandemidrönare. Det är drönare utrustade med värmekameror som kan känna av om du har feber. Tack vare artificiell intelligens kan de också utifrån kamerabilder, läsa av både hjärtslag, andning och i en folksamling upptäcka personer som nyser eller hostar.« (…)

»Förutom drönare handlar det om appar för smittspårning, och utegångsförbud som övervakas med hjälp av ansiktsigenkänning. Ofta sker det här i demokratiska länder där det tidigare ansetts otänkbart.«

Avsnitt ett sändes idag. Del två sänds i morgon i P1, efter tolvslaget.

Läs mer » | Lyssna till avsnitt 1 »

Ur programmet:

«Problemet är att när krisen väl är över, så visar forskning att det är svårt att göra sig av med de nya övervakningssystemen och att de istället blir permanenta. Christel Backman är forskare inom övervakningsstudier vid Göteborgs universitet.

– Vi vänjer oss vid övervakningssystemen under kristiden och vi kanske också upplever att de skyddar bra mot någon typ av hot. Och så tenderar vi kanske snarare att utvidga användningsområdena för det här, som från början var exceptionella åtgärder, snarare än att vi backar eller tar bort dem, säger hon.«

Corona-krisen verkar alltså bli den ursäkt som behövdes för att rulla ut övervakningsstaten ytterligare.

Kommer vi ändå att bli påtvingade en corona-app – för att få resa?

8 maj 2020 av Henrik Alexandersson

EU:s medlemsstater oroas av att corona-krisen kommer att drabba turismen, som står för 10-15% av BNP i många sydeuropeiska länder. Alla tele- och videomöten till trots, så måste affärsfolk, tekniker och andra resa. Jordbruket behöver säsongsarbetare från andra länder. Och flygbranschen är på väg utför ett stup.

Alltså måste flygresandet komma igång igen. För att det skall kunna ske måste EU-länderna enas om något slags smittokontroll, för att undvika att alla som reser måste själv-isolera sig i veckor när de landat. Det handlar också om att folk skall våga sätta sig på ett flygplan (eller ett tåg) med vilt främmande människor.

Då finns några olika alternativ. Ett är en gemensam databas över alla som har tillfrisknat och har antikroppar och därmed anses kunna resa utan att sprida. smitta. Ett annat är en EU-gemensam app för smittspridningskontroll och resande. Man kan även tänka sig att alla som har antikroppar kommer att förses med något slags ID-kort eller passersedel. Eller kanske något annat.

Oavsett vilket – något kommer att göras på EU-nivå, eftersom resandet måste komma igång igen. Och i vart fall de uppenbara alternativen är på olika sätt problematiska.

Min gissning är att det blir något slags app – som på kinesiskt manér kommer att avgöra om vi får resa eller ej. Eller möjligen om man dammar av idén om ett EU-ID-kort – vilket i så fall närmast kommer att bli ett inrikespass.

Allt högtidligt tal om Europas öppna gränser till trots, så vill politiker och myndigheter ha kontroll på hur folk reser. Detta visar inte minst de PNR-system som registrerar våra flygresor – och som långsamt håller på att utvidgas även till resor med tåg och buss, bilhyror och hotellövernattningar.

Och ett EU-ID-kort har diskuterats länge – bland annat för att identifiera alla som kopplar upp sig på internet.

Framtidens Europa kan bli en kontinent där vi får blippa oss fram.

Facebooks »högsta domstol« tar form

7 maj 2020 av Henrik Alexandersson

Facebook har nu presenterat de första medlemmarna i sin Oversight Board. Detta är den formellt fristående instans som skall avgöra principiellt viktiga frågor och ärenden som rör yttrandefriheten på det sociala nätverket.

Facebooks vice president of global affairs and communications, Nick Clegg, skriver i en bloggpost:

»As Mark Zuckerberg put it when he first outlined his blueprint for a new system for content governance and enforcement, “Facebook should not make so many important decisions about free expression and safety on our own.” With our size comes a great deal of responsibility and while we have always taken advice from experts on how to best keep our platforms safe, until now, we have made the final decisions about what should be allowed on our platforms and what should be removed. And these decisions often are not easy to make – most judgments do not have obvious, or uncontroversial, outcomes and yet many of them have significant implications for free expression.

That’s why we have created and empowered a new group to exercise independent judgment over some of the most difficult and significant content decisions.«

Av de 40 personer som skall ingå i det nya organet har nu 16 utsetts. Tonvikten ligger på ledamöter med bakgrund inom juridik, nätfrihetsfrågor, media och teknik. Politiskt finns ledamöter från höger tillvänster, även om de flesta nog kan betraktas som rätt opolitiska.

Bland namnen märks förra danska statsministern Helle Thorning-Schmidt och The Guardians förre chefredaktör Alan Rusbridger. Möjligen kommer András Sajó från Ungern att väcka debatt i vissa kretsar, då han bland annat har en bakgrund i det Soros-finansierade centraleuropeiska universitet som stängts ner i Budapest.

Detta skall bli intressant att följa. Man kan ju förstå att Facebook som i grunden är ett teknikföretag gärna lastar över de principiella, moraliska och filosofiska frågorna på någon annan – för att själva undgå kritik.

Intressant nog har man en öppen nominering av nya ledamöter till denna oversight board.

Bruce Schneier: Corona-appar är värdelösa

6 maj 2020 av Henrik Alexandersson

Den välkände dataskyddsexpeerten Bruce Schneier sågar planerna på smittspårningsappar.

BuzzFeedNews:

”My problem with contact tracing apps is that they have absolutely no value,” Bruce Schneier, a privacy expert and fellow at the Berkman Klein Center for Internet & Society at Harvard University, told BuzzFeed News. ”I’m not even talking about the privacy concerns, I mean the efficacy. Does anybody think this will do something useful? … This is just something governments want to do for the hell of it. To me, it’s just techies doing techie things because they don’t know what else to do.”

På sin egen blogg förklarar Schneier problemet med falska positiva och falska negativa statusmeddelanden:

False positives: Any app will have a precise definition of a contact: let’s say it’s less than six feet for more than ten minutes. The false positive rate is the percentage of contacts that don’t result in transmissions. This will be because of several reasons. One, the app’s location and proximity systems — based on GPS and Bluetooth — just aren’t accurate enough to capture every contact. Two, the app won’t be aware of any extenuating circumstances, like walls or partitions. And three, not every contact results in transmission; the disease has some transmission rate that’s less than 100% (and I don’t know what that is).

False negatives: This is the rate the app fails to register a contact when an infection occurs. This also will be because of several reasons. One, errors in the app’s location and proximity systems. Two, transmissions that occur from people who don’t have the app (even Singapore didn’t get above a 20% adoption rate for the app). And three, not every transmission is a result of that precisely defined contact — the virus sometimes travels further.

Han påpekar också att utan tillgång till snabb och enkel provtagning blir det hela än mer meningslöst.

Schneier on Security: Me on COVID-19 Contact Tracing Apps »

EU:s upphovsrättsdirektiv ett år senare: It’s a mess

5 maj 2020 av Henrik Alexandersson

Som så mycket annat har processen kring implementeringen av EU:s nya upphovsrättsdirektiv gått i stå under corna-krisen. Vissa mönster kan dock börja urskiljas.

Tydligast är att detta kommer att bli ett lapptäcke av skiftande lagstiftning i EU:s olika medlemsstater. Vilket är problematiskt, eftersom internet inte känner några gränser – och då nätplattformarna är internationellt verksamma. Man kan undra hur de senare alls skall kunna verka i Europa med så skiftande lagar. Därmed faller mycket av tanken med ett EU-direktiv – som ju rimligen måste ha syftat till att harmonisera reglerna istället för att balkanisera internet.

EU-kommissionen har visserligen försökt skapa en dialog, i syfte att ta fram gemensamma riktlinjer. Men just nu ligger detta arbete i stort sett nere, på grund av den pågående hälsokrisen. Direktivet skall dock vara nationell lag i alla medlemsstater senast den 7 juni 2021 – så klockan tickar.

I Frankrike finns både planerade och klubbade lagar som kan sägas överimplementera direktivet – och som lett till en bitter strid om den så kallade länkskatten, som tvingar Google att både länka till franska media och att betala för det. I Tyskland diskuteras någon form av »fair use«-regler, men bara på kommersiella plattformar (vilket kan göra ett visst innehåll lagligt på Facebook men olagligt på en privat blogg eller på Wikipedia). Och i Sverige gömmer sig justitiedepartementet bakom en öppen konsultation – som man är noga med att påpeka inte speglar regeringens åsikt.

It’s a mess.

Detta är på väg att bli precis så illa som man kunde frukta, kanske värre. Enklast vore att skrota hela direktivet, göra ett omtag och sedan lägga fram en enhetlig förordning (som gäller direkt, utan att behöva implementeras i nationell lag) – helst utan länkskatt och uppladdningsfilter. Men som framförallt är enhetligt för alla medlemsstater, så att vi får samma regler i hela EU. Annars faller liksom hela tanken med EU-samarbetet och en gemensam marknad.

Några matnyttiga länkar från Communia:
• Copyright in the DSM Directive – one year after »
• A better way to implement Article 17? New German proposal to avoid overblocking »
• Copyright Directive – Implementation – March news »

Cybersäkerhets-experter varnar för brittisk corona-app

5 maj 2020 av Henrik Alexandersson

Storbritannien och Frankrike har som bekant valt en mer centraliserad modell för sina smittspårnings-appar. Nu varnar 177 cybersäkerhets-experter den brittiska regeringen.

TLDR:

177 cybersecurity and privacy experts have signed an open letter to the UK government asking it to ensure the contact tracing app it’s deploying to track the spread of coronavirus doesn’t then get used as a mass-surveillance tool.
The UK announced this week it was eschewing Apple and Google’s contact-tracing API to build its app, which will process users’ data centrally.
Experts warn this could create a database that could then be used to de-anonymize users.

Nyckelcitat:

”Such invasive information can include the ’social graph’ of who someone has physically met over a period of time. With access to the social graph, a bad actor (state, private sector, or hacker) could spy on citizens’ real-world activities. We are particularly unnerved by a declaration that such a social graph is indeed aimed for by NHSX,” the experts write.

Länk: 170 cybersecurity experts warn that British government’s contact tracing app could be used to surveil people even after coronavirus has gone »

Bra att veta innan du laddar ner den senaste corona-appen

4 maj 2020 av Henrik Alexandersson

Piratpartiet har en bra översikt av den nya smittspridningsapp som nu lanseras i Sverige, baserad på den brittiska Covid-19 Symptom Tracker. Här är några saker att tänka på för den som kanske funderar på att ladda ner den.

Data kan lämnas ut till amerikanska aktörer.
Zoe är inte speciellt tydliga med vilka uppgifter om appanvändarna som man faktiskt samlar in.
Insamlad data delas med flera andra aktörer än de svenska forskare man kan ledas att tro tar del av den.
Zoe anger inget slutdatum för lagring av hälsodatan.
Man delar ospecificerade personuppgifter med en stor mängd tredjepartsaktörer.
Man länkar inte till källkoden för appen någonstans på sin officiella sida.

Läs mer här: Ny svensk corona-app »

»Övervakningssamhällets perfekta katalysator«

1 maj 2020 av Henrik Alexandersson

”Inget får oss att glömma värdet av personlig integritet som en kris. Och ingen kris gynnar den som som vill expandera övervakningssamhället mer än Corona. När vi alla är potentiella förövare behöver man inte längre bemöta invändningen att den oskyldiga majoriteten drabbas för ett fåtal skurkars skull.”

Kompass: Övervakningssamhällets perfekta katalysator »