Femte juli

Nätet till folket!

DMA

EU:s DMA stoppar Apples nya Siri AI

av

iPhone- och iPad-användare i EU kommer tills vidare inte att få tillgång till Apples nya Siri AI, som stoppas av unionens Digital Markets Act.

Apple har givit röstassistenten Siri ett lyft och integrerat externa AI-modeller från bland annat OpenAI och Google i sitt ekosystem för att synka uppgifter mellan olika enheter och göra livet lättare för sina användare.

Kärnan i systemet bygger på lokal bearbetning på enheten och på företagets krypterade Private Cloud Compute där inte ens Apple själva har tillgång till informationen.

Men EU (och Kina) kommer – tills vidare – inte att få tillgång till dessa nya AI-funktioner.

EU:s Digital Markets Act (DMA) kräver nämligen att dominerande aktörer måste öppna dörren för sina konkurrenter.

I detta fall skulle det innebära att Apple tvingas ge andra AI-assistenter tillgång till känslig användardata och möjlighet att utföra självständiga åtgärder i operativsystemet. Det gäller även assistenter som är utvecklade av aktörer som Apple inte kan kontrollera eller säkerhetsgranska.

Det hotar uppenbart användarnas personliga integritet och säkerhet. Vilket Apple inte tänker gå med på.

Därför har man erbjudit sig att sätta upp en »Trusted System Agent« som mellanhand, som tillåter konkurrerande virtuella assistenter att – på ett säkert sätt – få tillgång till samma funktioner som deras egen Siri AI.

Detta förslag har (enligt Apple) EU inte givit någon feedback på, trots att det har gått mer än sex månader sedan det lades fram.

Istället har kommissionen gjort klart att DMA måste följas och att överträdelser kan leda till mycket stora böter.

Så Apple väljer tills vidare att leverera ett operativsystem utan dessa funktioner till sina kunder i EU. Ur deras pressmeddelande…

»Siri AI är byggd för att vara privat och djupt integrerat i alla Apples plattformar med bearbetning lokalt på enheten och Privat molnbehandling. På så sätt utvidgas integritetsskyddet och säkerheten hos iPhone till molnet. EU:s tillsynsmyndigheters extrema tolkning av förordningen om digitala marknader skulle dock innebära att Apple behövde ge alla virtuella assistenter direkt åtkomst till användarnas privata data – och möjligheten att direktstyra andra installerade appar – så fort Siri AI blir tillgängligt i EU, utan de nödvändiga skyddsmekanismerna som håller användare och deras data skyddade.«

»Enligt EU:s tillsynsmyndigheter kräver förordningen om digitala marknader att Apple ger alla AI-system näst intill obegränsad åtkomst till användarens enheter samt möjlighet att agera helt självständigt utifrån denna åtkomst utan att användaren har överblick eller kontroll över det. Det betyder att de kan läsa och skicka meddelanden, genomföra köp, komma åt filer och göra saker i alla appar.«

EU-kommissionen lägger å sin sida allt ansvar på Apple och meddelar att DMA inte är förhandlingsbar.

Enligt EU:s talesperson Thomas Regnier finns det inget i DMA som förbjuder Apple att släppa nya produkter. Han menar att Apple helt enkelt har misslyckats med att bygga en laglig produkt som tillåter sund konkurrens.

• Apple: Lanseringen av Siri AI för iOS 27 och iPadOS 27 försenas i EU på grund av förordningen om digitala marknader »
• Computer Sweden: Apple blockerar Siri AI i EU – hänvisar till DMA-lagen »
• Omni: EU slår tillbaka: Bara Apples fel att Siri inte släpps »

CC0

EU:s åldersapp strider mot EU:s egna regler

av

EU:s egna regler om konkurrens och den inre marknaden kan sätta stopp för den app för åldersverifiering som nu lanseras. Den kan även strida mot unionens Digital Markets Act.

På veckans internationella konferens om säkerhet för minderåriga online upprepade EU-kommissionens ordförande Ursula von der Leyen sitt budskap från när hon lanserade unionens nya app för ålderskontroll…

»Finally, any age restriction model depends on reliable age verification. And here, we have good news: We have developed an age verification app that will soon be available, and it ticks all the boxes the highest privacy standards in the world, it works on any device, it is easy to use and it is fully open source. Here in Denmark, it will be rolled out by summer. It is built on the success of our European COVID App; you might recall that one.«

Det där är helt enkelt inte sant. EU:s nuvarande lösning för åldersverifikation (»mini-wallet«) fungerar i praktiken bara på Apples iOS och de distributioner av Android som finns inom Googles ekosystem. Det innebär att alternativa Android-distributioner som LineageOS, GrapheneOS och /e/OS riskerar att exkluderas i den nuvarande designen.

Att vissa OS stängs ute kan vara ett brott mot EU:s egna regler om den inre marknaden. Det kan bli väldigt intressant om någon driver saken i domstol. Bland annat har EU långtgående regler för teknikneutralitet.

Om vissa produkter eller operativsystem i praktiken inte kan använda centrala samhällsfunktioner eller får sämre tillgång till nätplattformar, då kan man argumentera för att marknaden snedvrids. Särskilt om dessa är lagliga i EU.

Konkurrensrätten kan därmed bli relevant, om en dominerande aktör gynnas genom att EU‑lösningen knyts till dess infrastruktur, speciellt om det tränger undan alternativa system.

Samtidigt som man nu lägger kontrollen över åldersverifieringen i Apples och Googles händer, vill EU:s Digital Markets Act motverka att stora IT-företag agerar grindvakter. Syftet är att stärka interoperabiliteten, stimulera öppna ekosystem och minska beroendet av Apple och Google. Hur detta är tänkt att gå ihop med den nya EU-appen är oklart.

Någon lösning för stationära datorer och laptops finns inte. Där kommer du förmodligen att få upp en QR-kod som du sedan måste skanna med appen i mobiltelefonen. Vilket alltså kräver att du har en kompatibel mobiltelefon för att kunna använda sociala medier med mera på din dator.

Här riskerar EU-kommissionen att snärja in sig i sina egna regelverk. Det är som att den ena handen inte vet vad den andra gör.

Sammanfattningsvis: Om lösningen i praktiken utestänger vissa operativsystem, ökar beroendet av två amerikanska gatekeepers, kräver vissa typer av mobiltelefon, försvårar anonymitet och påverkar öppen interoperabilitet – då kan proportionalitetsfrågan bli väldigt relevant.

Min bedömning är att EU:s modell för åldersverifiering — i sin nuvarande form — kommer att falla om den prövas av EU-domstolen.

Relaterat:
• EU lägger förslag om åldersgränser online i sommar »

CC0

EU vill tvinga Google att lämna ut sökhistorik

av

EU-kommissionen vill att Google automatiskt skall tillhandahålla data om alla européers sökningar och sökresultat.

EU-kommissionen har öppnat ett samråd om hur man skall göra för att få Google att lämna ut data om medborgarnas googlingar och sökresultat. Detta är tänkt att ske dagligen (eller i realtid) och i aggregerad automatiskt läsbar form.

Bakgrunden är EU:s Digital Markets Act (DMA) som i artikel 6(1) ålägger grindvakter (gatekeepers) att ge tredjeparts-sökmotorer tillgång till data om rankning, sökfrågor, klick och visningar på rättvisa, rimliga och icke-diskriminerande villkor. Förordningen kräver att personuppgifter anonymiseras. Bestämmelsen syftar till att göra det möjligt för andra företag att förbättra sina algoritmer och konkurrera med dominerande sökmotorer.

Man ramar alltså in detta som en konkurrensfråga. (På samma sätt som man en gång gjorde med datalagringen, för att slippa besvärliga rättighetsfrågor.)

Enkelt uttryckt handlar samrådet om att Google måste lämna ut data om alla våra sökningar – i automatiserad och anonymiserad form – till sina konkurrenter och eventuellt även till företag som är beroende av att synas i sökmotorn.

Till att börja med kan man fråga sig varför Google skall behöva dela med sig av information som kan exponera deras affärshemligheter till konkurrenter. Men det kanske är ett ämne för en annan blogg.

Att samla in data om alla våra sökningar kan avslöja mycket, även om den formellt sett är anonymiserad. Speciellt gäller det med nya AI-verktyg som kan hantera stora dataset.

Det kan i vissa fall gå att knäcka användares identitet. Det kan gå att kartlägga grupper av människor, till exempel aktivister och oppositionella. Och sammantaget är detta en guldgruva för makthavare som vill analysera samhällstrender och åsiktsmönster.

Det är visserligen inte så detta är tänkt att användas – för tillfället. Men när verktyget väl finns på plats räcker det med ett beslut i EU-kommissionen för att utöka syfte och metod. Det är bara en fråga om vad som är politiskt gångbart vid varje givet tillfälle.

Ännu värre blir det om man ser till att EU:s Digital Services Act (DSA) i artikel 40 föreskriver ett motsvarande system för sociala medier och stora plattformar. Då är det fråga om att data om postningar och interaktioner skall lämnas ut till utvalda forskare med flera. Detta i syfte att identifiera »systemiska risker« som desinformation, valpåverkan, barns säkerhet, psykisk hälsa och vad man kallar negativa effekter på samhällsdebatten. Eller vad som råkar stå på dagordningen.

Lägger man ihop DMA:s krav på att dela data om sökningar med DSA:s krav på data för att kunna analysera beteenden och interaktioner – då blir helheten större än delarna.

Då skapas verktyg som kan användas för att övervaka, analysera, skapa, stärka eller försvaga opinioner. Vilket kan vara en oemotståndlig frestelse för framtida politiska ledare.

EU-kommissionens öppna samråd pågår fram till fredag den 1 maj. Alla kan svara.

Speciellt söker kommissionen svar på frågor som rör vilka Google skall dela data med; vilken data som måste delas; hur anonymiseringen skall gå till; hur datan skall delas rent tekniskt; om förslaget går tillräckligt långt och så vidare.

Vill man stoppa detta är det enklare att göra det nu än när Eurokratin väl har bestämt sig. Speciellt som detta är ett beslut som Kommissionen kan fatta själv, utan att behöva fråga medlemsstaterna eller parlamentet.

• EU-kommissionen: DMA.100209 – Consultation on the proposed measures for Google Search data sharing (Article 6(11) of the DMA) »

• Cyber Insider: EU’s proposed Google data access rule could enable large-scale surveillance »

CC0

USA skärper tonen om yttrandefriheten i EU

av

Amerikanska ambassader uppmanas nu att driva kampanj för att upphäva de EU-lagar som begränsar yttrandefriheten online på en global nivå.

Efter att en amerikansk kongressdelegation besökt EU för att diskutera unionens Digital Services Act (DSA) och Digital Markets Act (DMA) har tonläget höjts om ytttrandefriheten i Europa.

Ordföranden för representanthusets Judiciary Committee, Jim Jordan (R), säger:

»Nothing we heard in Europe eased our concerns about the Digital Services Act, Digital Markets Act, or Online Safety Act. These sweeping regulations create a serious chilling effect on free expression and threaten the First Amendment rights of American citizens and companies.«

Vilket pekar på problemet att EU:s nya internetlagar får globala konsekvenser. Och i USA tänker man inte ge upp sin yttrandefrihet bara för att EU vill begränsa den.

Nu lägger sig även amerikanska UD och utrikesminister Marco Rubio i processen. Man uppmanar i ett telegram amerikanska ambassader i EU att bedriva lobbykampanjer för att ändra de aktuella lagarna.

Reuters rapporterar:

»In a State Department cable dated August 4, signed by U.S. Secretary of State Marco Rubio, the agency said the EU was pursuing ”undue” restrictions on freedom of expression in its efforts to combat hateful speech, misinformation and disinformation, and the DSA was further enhancing these curbs.« (…)

»”Posts should focus efforts to build host government and other stakeholder support to repeal and/or amend the DSA or related EU or national laws restricting expression online,” the cable said in its ”objective” section.«

Det stämmer att till exempel DSA sätter upp rätt diffusa krav på att stora sociala media och sökmotorer skall hantera lagligt men »skadligt« innehåll på ett ansvarsfullt sätt.

Det gäller till exempel innehåll som kan påverka demokratiska processer, påverka barns säkerhet, sprida desinformation, öka psykisk ohälsa med mera.

Detta skall främst ske genom plattformarnas respektive användarvillkor, förändringar i algoritmer, förbättrad innehållsmoderering, ökad transparens och samarbete med faktagranskare.

Även om man inte uttryckligen förbjuder annat än direkt olagligt innehåll sätter man alltså stor press på plattformarna att moderera sitt innehåll – under hot om gigantiska böter. Vilket skapar incitament för överdriven moderering (”overblocking”) – något som kritiker menar riskerar att tysta fullt laglig men kontroversiell debatt.

Konsekvenserna blir att det fria ordet inte bara inskränks i EU, utan även globalt. Vilket USA inte tänker acceptera.

Hur EU tänkt bemöta den amerikanska kritiken skall bli intressant att se. Med tanke på att detaljerna i EU:s tulluppgörelse med USA ännu inte är utarbetade är pressen på EU stor.

I sammanhanget kan nämnas att de högprofilerade fall där människor anhållits och åtalats för yttranden online i till exempel Tyskland (och UK) inte har med DSA att göra, utan bygger på annan, nationell lagstiftning.

• Reuters: Exclusive: Rubio orders US diplomats to launch lobbying blitz against Europe’s tech law »

Ålderskontroll online – hur tänker EU då?

av

EU vill både öppna app-marknaden och kontrollera hur apparna fungerar. Här uppstår en konflikt som kan få orimliga konsekvenser.

I EU:s Digital Services Act, Digital Markets Act och den ännu inte klubbade Chat Control 2 talas dels om ålderskontroll online, dels om digital konkurrens.

Ålderskontrollen skall kunna användas av medlemsstater som vill hindra minderårigas tillgång till till exempel porr-siter och annat innehåll som anses vara skadligt. Även den svenska regeringen är inne på detta spår.

För att ålderskontrollen skall fungera utan att dela känslig persondata med tredje part vill man att den skall ske med en särskild, tillfällig EU-app (EU mini-wallet).

Denna app är tänkt att användas fram till dess att EU:s Digitala Plånbok (European digital identity wallet, EUDI) införs och tar över funktionen.

Om någon av dessa appar för åldersverifikation skall ha någon verkan måste de korrespondera med vad som finns i andra ändan av linan.

Hur man skall kunna tvinga till exempel en porr-site i en annan del av världen att införa en åldersgräns och att använda någon av EU:s appar för att verifiera användarens ålder är oklart. (Möjligen kommer EU att försöka blockera dem med något slags digital järnridå.)

Särskilt intressant blir det när det kommer till meddelande-appar. Å ena sidan vill EU att de skall införa en åldersgräns.

Å andra sidan har EU redan slagit fast (DMA) att Apple och Google måste öppna sina plattformar för tredjeparts app-stores och »sideloading« direkt från nätet.

EU kan möjligen kräva att alla meddelande-appar i Apples och Googles app-stores skall vara kopplade till åldersverifikation med någon av EU-apparna ovan.

Men för att detta skall fungera måste även tredjeparts-apparna frivilligt integrera dem.

Och det kan de strunta i – om de distribueras utanför Play Store och App Store. Vilket EU alltså beslutat skall vara möjligt.

Det förefaller som att EU – återigen – är på väg att skapa lagstiftning som motsäger sig själv. Vilket inte förvånar. Det börjar snarare bli ett mönster.

Om jag får spekulera kan EU:s lösning – när de inser problemet – bli att försöka få till stånd en blockering av appar som inte är kompatibla med EU:s system för åldersverifikation, på systemnivå i våra telefoner och datorer. Vilket i så fall innebär att vi inte tillåts använda vilka program vi vill på vår hårdvara.

Läs även:
• EU’s upcoming age verification system may block sideloaded Android apps »

CC0

Därför finns det inga europeiska nätjättar

av

EU:s fokus på att bekämpa de amerikanska nätjättarna riskerar att hindra europeiska startups från att växa och konkurrera på lika villkor.

EU:s Digital Services Act (DSA) och Digital Markets Act (DMA) riskerar att hålla tillbaka utvecklingen av sociala media och andra plattformar i Europa. Problemet är att man skapar regelverk som endast redan existerande Big Data har resurser att leva upp till.

Kritiken kom redan med EU:s upphovsrättsdirektiv. Även om det inte uttryckligen kräver uppladdningsfilter ställer det sådana krav att just uppladdningsfilter ändå kommer att krävas. Detsamma gäller förordningen om terror-relaterat innehåll online.

Endast nätjättar som Facebook, Twitter och Google klarar av att bära de kostnader som krävs för att genomföra sådan filtrering.

Samma sak gäller de juridiska kostnader som ny EU-reglering medför. Den gör det svårt, närmast omöjligt för europeiska startups att konkurrera med de existerande amerikanska nätjättarna. Det blir helt enkelt för krångligt och för dyrt.

Nu sätter DSA och DMA i och för sig upp olika regler för dominanta marknadsaktörer respektive andra. Men redan de grundläggande reglerna är så omfattande att det är enklare och billigare för entreprenörer att etablera sig utanför EU.

Och vem kommer att vilja expandera sin verksamhet om det finns ett tröskelvärde, över vilket en omfattande och kostsam reglering börjar gälla?

Det känns som om EU är så totalt fixerat vid att reglera de stora amerikanska nätjättarna att man glömmer de europeiska startups som kan bli morgondagens Facebook eller Google.

Dessutom är EU:s regelverk fyllt av motsättningar. DSA och DMA kan komma att slå fast rätten till kryptering – medan ChatControl / meddelandekontroll handlar om obligatorisk av-kryptering av all e-post och alla elektroniska meddelanden, för att granska dess innehåll.

Hur skall nätentreprenörer alls kunna navigera i detta ständigt föränderliga juridiskt landskap fyllt med självmotsägelser?

Dock skall man hålla i minne att DSA, DMA och andra regleringar fokuserar på hur nätet fungerar idag, med dagens aktörer och dagens tekniska lösningar.

Samtidigt förändras och utvecklas tekniken. EU:s nätlagstiftning kommer snart att vara inaktuell och reglera gårdagens sociala media och plattformar. Till exempel står den sig slätt mot decentraliserade, distribuerade nätverk.

Teknik slår politik, som Jan Stenbeck en gång uttryckte saken.