Kategori: Forskning

En av EU fastställd värdegrund för AI?

Henrik Alexandersson Lämna en kommentar

EU:s ministerråd har diskuterat artificiell intelligens. Speciellt upprymda tycks man vara över möjligheten att använda AI för att identifiera tal, video och bilder som man vill få bort från nätet.

Man har även en vision om digitala AI-assistenter:

”Combined with a natural language interface, this technology could form the basis for a digital assistant. Such an assistant could take instructions through a natural written and spoken discussion, providing a common interface to a variety of applications at the same time, and adapt to the needs of the user. The same technology could power customer service bots that answer questions from citizens. In spoken language mode, the assistant would be helpful to police patrols busy dealing with people involved in incidents. Developing smart digital assistants is vital for making future information overload manageable, but at the same time, we must ensure that the resulting system is transparent to the user.”

Det är säkert, ur ministrarnas perspektiv, önskvärt. Dock kan man fråga sig om AI-verktyg bäst växer fram om de formuleras, specificeras och blir låsta av politiker – eller om spontan utveckling, erfarenhet och best practice kanske är en bättre väg.

Ministrarna funderar vidare…

A society permeated with AI may become too complex to comprehend, which would entail a fundamental lack of transparency. This can be mitigated through system design: for example, a digital assistant should be required to be able to explain its reasoning, and undergo an ethical audit.”

Men bör detta vara en politisk fråga?

Och vad menas egentligen med att AI skall underställas »an ethical audit«? I så fall måste vi först komma överens om ett gemensamt gällande etiskt regelverk. Givet att detta skall fungera mot ett AI som enligt den populära uppfattningen är »smartare«, mer logiskt och mer rationellt än människor – så kan man ana att politiskt fastställda etiska ramar kan orsaka en del absurda syntaxfel.

Ministrarna förutspår även att AI kan möjliggöra autonoma miniatyrdrönare med ansiktsigenkänning. Och om det gläder dem, då skulle de bara veta vilka oerhört kraftfulla verktyg för övervakning som AI kan komma att sätta i deras händer – som de ännu inte ens kan föreställa sig.

Där har politiken en uppgift – att sätta lagliga gränser för hur överheten får använda AI för att övervaka folket.

Länk: EU plans for Artificial Intelligence (AI): Get ready to meet you friendly ”digital assistant” »

Mobil mediekonsumtion nu lika stor som TV

Henrik Alexandersson Lämna en kommentar

The Internet Trends report för 2019 har publicerats. Det är en guldgruva för alla som är intresserade av nätets utveckling. Till exempel kan man konstatera att en majoritet av jordens befolkning nu har tillgång till internet.

Grafen ovan är särskilt intressant. Av den kan man man utläsa att vi idag lägger betydligt mer tid på att konsumera media via nätet än på TV. Och bara den mobila mediekonsumtionen är nu i princip lika omfattande som TV-tittandet.

Det är också värt att notera att mediekonsumtionen på desktop har gått ner – medan den mer än fyrdubblats på mobila enheter.

Sedan 2010 är det framförallt tidningarnas andel av annonseringen som minskat. För desktop ligger siffran i princip stilla medan annonseringen riktad mot mobila enheter fullständigt exploderat.

Länkar:
• The Internet Trends report 2019 »
• Rapporten som slides »
• Techcrunch: Here’s Mary Meeker’s 2019 Internet Trends report »

Vilka konsekvenser får USA:s svartlistning av Huawei?

Henrik Alexandersson Lämna en kommentar

Den senaste utvecklingen i handelskriget mellan USA och Kina kan bli intressant – och problematisk. Computer Sweden sammanfattar…

Trumpadministrationen utdelade på onsdagen två slag mot kinesiska Huawei – då man både stoppar företaget från att köpa vital amerikansk teknik utan särskilda tillstånd och stänger ute företaget från att leverera utrustning till amerikanska telenät.

Detta är en fråga med många dimensioner. Dels handlar det om handelspolitik, eller snarare om ett handelskrig. Dels handlar det om huruvida Huawei samarbetar med kinesiska staten och därmed utgör ett säkerhetshot mot USA och andra västländer. Dels handlar det om hur detta kommer att påverka den tekniska utvecklingen. Låt oss uppehålla oss vid den sista punkten.

Till att börja med verkar det som om beslutet inte kommer att få några omedelbara konsekvenser för användarna. Android twittrar:

På sikt kommer dagens besked dock att få konsekvenser på flera olika sätt. Dels är Huawei beroende av underleverantörer i USA och Europa. Dels blir det stopp för Android i företagets framtida telefoner. Dels kan detta leda till att företaget inte kan verka på västerländska marknader. Dels kan beslutet komma att försena utbyggnaden av 5G-nätet.

Dagens Industri rapporterar:

Halvledarbolagen Intel, Qualcomm, Xilinx och Broadcom ska alla ha meddelat sina anställda att inga leveranser görs till Huawei ”tills vidare”, enligt källor till Bloomberg News. Samma beslut ska den tyska chipjätten Infineon ha tagit, enligt källor till NIkkei Asia Review.

Till Sveriges Radio säger Bengt Nordström, som är VD för telekomkonsultföretaget Northstream:

– Jag befarar att de amerikanska myndigheterna inte vet vad de sätter i rörelse. Telekomindustrin är ett tätt ekosystem, många köper från samma leverantörerna. När man gör en sådan åtgärd är det en stor risk att hela ekosystemet påverkas negativt

Uppenbart är att detta kommer att leda till en störning i den tekniska utvecklingen. Samt en balkanisering av telekommarknaden. Vilket – ur ett tekniskt perspektiv – känns väldigt onödigt.

Läs även: Huawei has immediately lost access to Android and Google »

 

Behöver AI en värdegrund? I så fall vilken?

Henrik Alexandersson Lämna en kommentar

Debatten om artificiell intelligens – AI – är på väg in på ett nytt spår. Nu handlar det om vilken »värdegrund« AI-systemen skall utrustas med.

Här finns två kolliderande synsätt: Antingen att AI-system skall utgå från verkliga förhållanden, vara objektiva och neutrala – för att åstadkomma optimala resultat. Eller att framtidens AI bör utrustas med något slags värdegrund.

Båda synsätten har sina problem.

Ett »neutralt« AI kan bli överdrivet utilitaristiskt på ett sätt som strider mot humanistiska principer, rättsstatens grunder och de demokratiska värdena.

Ett moraliskt riggat AI måste å andra sidan matas med något slags värdegrund. Frågan är då vilken värdegrund. Och vem som skall bestämma över detta.

(Sedan är AI naturligtvis inte ett universellt system, utan många olika.)

Detta är frågor som redan diskuteras och där det kan bli fråga om politiska beslut.

EU vill ta fram ett etiskt regelverk för AI. I den sammanfattande beskrivningen kan vi bland annat läsa… »AI systems should be used to enhance positive social change and enhance sustainability and ecological responsibility.« Vilket i sig är parametrar som öppnar för många olika, subjektiva tolkningar.

Samtidigt menar en del forskare att det är ett problem att AI främst utvecklas av vita, heterosexuella män…

Man kan även fundera över vad AI kommer att innebära vad gäller frågor som centralplanering, övervakning och maktutövning i vidare termer. Dessa verktyg kommer att kunna användas för att manipulera folket – och för att förtrycka det. I det fördolda eller öppet. Detta är dock en aspekt av frågan som i princip inte alls diskuteras.

Länkar:
• Europe to pilot AI ethics rules, calls for participants »
• Forskare varnar för diskriminerande artificiell intelligens »

Dubbla budskap från EU om framtidens digitala teknik

Henrik Alexandersson Lämna en kommentar

Europaparlamentet meddelar att »EU planerar att investera 9,2 miljarder euro i viktig digital teknik«. Bland de områden som räknas upp finns »höghastighetsdatorer, artificell intelligens, cybersäkerhet och digital kompetens«.

Å ena sidan är det bra att EU insett att Europa håller på att hamna på efterkälken vad gäller framtidens digitala teknik.

Å andra sidan kan man undra vad det tjänar till att kasta skattepengar på denna digitala teknik – när man samtidigt reglerar internet så hårt att startups och riskkapitalister hellre gör sina satsningar utanför EU.

Det är lite som att EU trycker bromsen och gasen i botten samtidigt.

Europaparlamentet: EU planerar att investera 9,2 miljarder euro i viktig digital teknik »

De verkliga riskerna med AI

Henrik Alexandersson 1 kommentar

Artificiell intelligens – AI – är begreppet på allas läppar. Och debatten tycks till största delen röra sig i något slags science fiction-kontext. Tillspetsat är frågan om AI kan komma att bli självständigt och hota mänskligheten. Det är förvisso en intressant diskussion. Men det finns mer närstående och mer akuta frågor att diskutera. Detta speciellt som organisationer som EU, G7 och G20 nu försöker utforma en politik på området.

• AI – under vems kontroll och med vilket syfte?

AI – oavsett om det handlar om kompletta system eller enskilda applikationer – är oerhört kraftfulla verktyg. De kan till exempel användas för att manipulera opinionen, filtrera information eller rent av för att förtrycka människor.

Diskussionen har hitintills mest handlat om hur de etablerade nätjättarna kan komma att använda sådana verktyg. Vilket naturligtvis är på sin plats. Men vi får inte glömma hur de kan användas i statens och politikens händer. Detta speciellt i en tid då yttrandefriheten blir allt mer kringskuren och det fria flödet av information stryps genom politiska beslut.

Vi har redan system för massövervakning och datalagring som saknar motstycke i historien. Vad händer när all denna information kan analyseras, systematiseras och kontrolleras i stor skala med AI eller AI-liknande verktyg?

Hur kommer det att bli när överheten inser att AI kan användas för att manipulera folkets känslor och för politisk »nudging«? Eller för att påverka olika åsikters genomslag och spridning?

Här gäller det att vara ytterst uppmärksam på alla politiska initiativ – och att se till att de medborgerliga fri- och rättigheterna upprätthålls även i online-världen. Detta är rättigheter som redan urholkas i många små steg, inte minst genom beslut i EU.

• AI på riktigt?

Min andra farhåga är av en mer teknisk karaktär. Att utveckla AI är en gigantisk uppgift. Och alla vill vara med på tåget. Risken är att vi (i vart fall inledningsvis) kommer att möta mycket »fusk-AI« som egentligen inte är AI, utan mer en anpassning och återanvändning av redan existerande koncept och systemmoduler. Men som ändå kommer att användas och presenteras som om det handlade om fullvärdig AI.

Detta kan få märkliga och oönskade konsekvenser. Vi kan få se mycket av övervakning, kontroll och datalagring re-lanseras som AI med något överordnat syfte – trots att det egentligen bara handlar om vanlig massövervakning och vilja att snoka i människors privatliv.

AI kan i sig vara en risk. Och AI i EU:s, statens och politikernas händer är garanterat en risk.

/ HAX

• Techcrunch: Europe to pilot AI ethics rules, calls for participants »
• EU-kommissionen: Ethics guidelines for trustworthy AI »
• Europaparlamentet: EU planerar att investera 9,2 miljarder euro i viktig digital teknik »

Ett ovanligt sansat samtal om AI

Henrik Alexandersson Lämna en kommentar

Det här är intressant – och har till skillnad från mycket annat som sägs om AI något att tillföra.

Klicka här för att visa innehåll från YouTube

Via Axess TV:

”Artificiell intelligens (AI) klarar redan att utföra ytterst avancerade uppgifter. Fast man måste ha klart för sig att det är stor skillnad mellan förmåga och förståelse. Det är lätt att låta sig luras av den mekaniska skickligheten och börja lita för mycket på robotar alltför tidigt. Det säger Nicklas Berild Lundblad i samtal med programledaren PJ Anders Linder. Lundblad ser ingen risk för att AI ska göra människan överflödig på arbetsmarknaden. Om det finns något orosmoment så är det att mänskligheten misslyckas med att utveckla den AI som behövs för att lösa våra komplexa problem. Nicklas Berild Lundblad är fil dr i informatik och adjungerad professor vid KTH.”

Youtube »

Pornhub inför ansiktsigenkänning

Karl Andersson Lämna en kommentar

Den amerikanska porrsajten Pornhub berättar i ett pressmeddelande att de håller på att införa ansiktsigenkänning av personerna som förekommer i videorna på sajten.

Genom maskininlärning har Pornhub lyckats få systemet att känna igen 10 000 professionella porrstjärnor, vars filmer nu kan hittas lättare av besökarna. Hittills har man skannat igenom 50 000 filmer, men under det kommande året ska Pornhubs samtliga fem miljoner videor skannas.

Naturligtvis väcker detta frågor. Till exempel om hur ansiktsigenkänning påverkar de glada amatörer som lägger upp sina egna filmer från sovrummet. I nästa steg skulle ansiktsigenkänning kunna kopplas till sociala media-konton, vilket kanske skulle ses som olyckligt av många.

Detta är Pornhub medvetna om, och kommer därför bara tillämpa ansiktsigenkänningen på kända porrstjärnor. Men som tyska Netzpolitik skriver:

Även om Pornhub använder teknologin etiskt oklanderligt, så är det inte uteslutet att tredje part kan använda den allt lättillgängligare mjukvaran för ansikts- och mönsterigenkänning för att avslöja skådespelare och även offer för hemliga inspelningar, för att stalka dem eller pressa dem.

(Auch wenn Pornhub die Technologie ethisch einwandfrei anwendet, ist nicht ausgeschlossen, dass die in den nächsten Jahren immer einfacher verfügbare Software für Gesichts- und Mustererkennung von Dritten genutzt werden kann, um Darstellerinnen und Darsteller sowie Opfer heimlicher Aufnahmen zu enttarnen, zu stalken oder unter Druck zu setzen.)

Pornhub grundades 2007 och säger sig vara världens största porrsajt med över 80 miljoner besökare per dag.

Trevlig helg!

Johann Scheff

Ansiktsigenkänning den nya rasbiologin?

Karl Andersson 4 kommentarer

En ny studie visar att en dator genom mönsterigenkänning av ansiktsbilder kan gissa rätt på en persons sexualitet i 80 procent av fallen vad gäller män och i 74 procent av fallen vad gäller kvinnor. Detta är en högre träffsäkerhet än hos människor. Dessutom ökade datorns träffsäkerhet till 91 respektive 83 procent om den matades med fem bilder av försökspersonen.

Det som ska gissas är om personer på en dejtingsajt identifierar sig som homo- eller heterosexuella. TNW beskriver mönstret som framträdde:

What they found was, gay men tend to have “gender-atypical” features, expressions, and grooming styles. Simply put, to the algorithm, these men often appeared more feminine and often had narrower jaws, longer noses, and larger foreheads than straight men. Gay women were the opposite, generally having larger jaws and smaller foreheads.

Beskrivningen hade kunnat vara tagen från Magnus Hirschfelds Institut für Sexualwissenschaft, som mätte kropparna på homosexuella män och kvinnor i 1920-talets Berlin, för att stärka tesen om ett ”tredje kön”. Sedan andra världskriget har den typen av mätande av människor ansetts kontroversiell, och Hirschfelds idéer om ett tredje kön – framförallt att detta skulle manifestera sig kroppsligt – har förkastats av gayrörelsen. Men allt går i vågor och numera är tankar om ett tredje kön inte bara rumsrena utan närmast mainstream – tänk hen.

Jag deltog i tyska Netzpolitiks årliga konferens den 1 september 2017, där Maya Indira Ganesh talade om olika slags forskning på ansiktsigenkänning:

Maya Indira Ganesh, Netzpolitik NP13, Berlin 1 september 2017

Hon berättade att hon sett ett föredrag av Michal Kosinski, medförfattare till den nya studien, där han berättade om sin forskning på ansiktsigenkänning av människor som identifierar sig som homo- och heterosexuella:

And the next slide he showed us was a map with all the places in the world where homosexuality is criminalized and in some places punishable by death, and he said: ”Wouldn’t it be really unfortunate if this kind of technology was available to governments in these places?” I think he was concerned, but that did not make him think about the technology he was developing.

Det är den eviga frågan: Är det etiskt försvarbart att forska på sådant som kan användas i ont syfte?

Michal Kosinski skapade senast rubriker när hans företag Cambridge Analytica kunde gissa sig till en hel del saker om facebookanvändare baserat på deras gillningar. Se HAX post How dangerous is Big Data? från januari 2017. Företaget har även ansetts ha haft en del i Donald Trumps seger i det amerikanska presidentvalet 2016.

Huvudbild: Johann Scheff, en ung prostituerad man i Berlin 1932. Homosexuell? Heterosexuell?

Läs mer

Se hela Maya Indira Ganesh föredrag här:

Klicka här för att visa innehåll från YouTube