Femte juli

Nätet till folket!

Sökresultat för: datalagring

EU vill styra över AI

av

För en tid sedan råkade jag trilla in i en livestream från en hearing från något av Europaparlamentets utskott, förmodligen JURI. Ämnet var artificiell intelligens. På sitt vanliga sövande sätt diskuterade man svindlande stora frågor – som hur man skall kunna tvinga AI att följa lagen. Detta öppnar så många perspektiv. Menar man att AI-system skall betraktas som något slags juridiska personer? Vad är det man förväntar sig att AI kan komma att göra? Ligger inte ansvaret redan hos den som äger / driver den verksamhet som kör nämnda AI?

En fråga som dock inte diskuteras är om detta är något som EU alls bör reglera. På vilket sätt räcker inte de lagar som redan finns och som omfattar allt annat i samhället? Och vad är det EU vill tillföra i sammanhanget?

Frågan är relevant inte minst för att det handlar om lagstiftning om teknik och utfall av tekniska processer.

Vad får sådant för konsekvenser? Till exempel kan man notera att lagstiftning om teknik ofta låser och bakbinder teknikutvecklingen. Eller, om tekniken vinner, att lagstiftningen snabbt blir otidsenlig och olämplig. Och vill vi verkligen att det system som gav oss upphovsrättsdirektivet, det nu ogiltigförklarade datalagringsdirektivet och idiotier som jordbruksstödet skall börja reglera AI?

Därför väckte en artikel i Euractiv mitt intresse: MEPs chart path for a European approach to Artificial Intelligence »

Så vad är det då man tänker göra?

»As part of a series of debates in Parliament’s Legal Affairs Committee on Tuesday afternoon, MEPs exchanged ideas concerning several reports on Artificial Intelligence, covering ethics, civil liability, and intellectual property.

The reports represent Parliament’s recommendations to the Commission on the future for AI technology in the bloc, following the publication of the executive’s White Paper on Artificial Intelligence, which stated that high-risk technologies in ‘critical sectors’ and those deemed to be of ‘critical use’ should be subjected to new requirements.

One Parliament initiative on the ethical aspects of AI, led by Spanish Socialist Ibán García del Blanco, notes that he believes a uniform regulatory framework in the field of AI in Europe is necessary to avoid member states adopting different approaches.«

Frågan är om detta gör någon så mycket klokare.

Det påpekas samtidigt att trots alla vitpapper, rapporter och texter som produceras om AI – så saknas en enhetlig definition.

En stridsfråga tycks vara om EU skall sätta upp en AI-myndighet (agency) eller ej. Socialisterna är för och de konservativa och liberalerna emot, som läget är just nu. Man diskuterar även krav på en speciell AI-försäkring. Kommissionen påpekar att offer för »AI-olyckor« inte får behandlas sämre än de som råkar ut för andra teknikrelaterade olyckor. Oklart dock om detta är något som riskerar att ske.

En mer konkret fråga rör AI och upphovsrätt. Skall AI-producerade verk skall skyddas av upphovsrätt eller ej? Vilket är en lite konstig fråga. Samma regler bör väl rimligen gälla för verk som producerats med hjälp av AI som för verk som redan genereras med hjälp av datorer? (Även om upphovsrätten i sig har många problem, men det är en annan fråga.)

Intrycket man får är att EU:s institutioner är angelägna om att finna en roll, eller skäl för att reglera AI. Än så länge verkar det dock mest vara varm luft och en vilja att finna lösningar på problem som kanske inte ens existerar.

EU-kommissionen skall återkomma med ett vitpapper till hösten. Eller kanske nästa vår.

 

Kommer smitto-krisen att leda oss in i en Storebrors-stat?

av

Den pågående smitto-krisen kan leda in i en Storebrors-stat.

Ett exempel är hur appar snabbt och enkelt kan sättas upp för att hålla koll på människors risk-status och var de befinner sig. I Kina är detta redan verklighet. I Aftonbladet beskriver Mattias Beijmo några av riskerna:

För de som tycker att stater mer fritt ska få tillgång till våra digitala fotspår är coronaviruset en gudagåva. På samma sätt som kriget mot terrorismen varit ständig förklaringsmodell för allsköns kränkningar av vår integritet, kommer nu viruset vara det som öppnar portarna för att innovativt använda appar som redan finns i vår mobil för att skydda samhället.

Så kan det säkert vara. Dagens Nyheter tycks redan driva den linjen på ledarplats. Det är bara en tidsfråga tills myndigheter och politiska partier hakar på.

När systemet sedan är infört, då är risken uppenbar att det blir kvar. För att det kan vara bra att ha. För att polisen tycker det är praktiskt. För att det underlättar planering av kollektivtrafiken. Och så vidare.

Våra mobiler är redan idag spårsändare som låter myndigheterna kartlägga var vi befunnit oss, så infrastrukturen finns redan på plats. Företag som Google och Facebook säljer redan data om användarnas beteende. Och det finns redan appar som övervakar vår hälsa.

Något större principiellt paradigmskifte är det inte heller. Med FRA-lagen är det redan klart att staten kan skanna av en stor del av våra elektroniska kommunikationer. Och med datalagringen har en princip etablerats som ger myndigheterna klartecken till att betrakta hela befolkningen som potentiella skurkar och terrorister.

Om smitto-krisen tvingar på oss en ny typ av övervakning, då står sista försvarslinjen vid hur lagstiftningen reglerar hur den får användas. Vilket inte är något absolut skydd mot missbruk av systemet. Men det enda som i så fall står mellan oss och ett dystopiskt Storebrors-samhälle.

Nu gäller det att vara uppmärksam och vaksam.

/ HAX

Ständigt, mer kontroll och övervakning

av

Jag antar att det finns något slags smärttröskel, där övervakningsstaten börjar bli så påtaglig och påträngande att folk helt enkelt får nog. Men vi är tydligen inte där ännu.

Med EU:s upphovsrättsdirektiv som verktyg har franska och tyska mediejättar skapat en situation där allt som folk laddar upp på nätplattformarna måste granskas och godkännas av en maskin först. Automatiserad förhandscensur. Snart i en digital miljö nära dig.

Lagrådet köpte regeringens förslag till stats-trojan – hemlig dataavläsning. Det är förmodligen en strikt juridisk bedömning. Man ger grönt ljus om en domstol får besluta först. Men man bortser från risken för ändamålsglidning, när statennu  ger sig själv nya övervakningsverktyg. Man blundar för de gigantiska digitala säkerhetsrisker detta kommer att medföra för såväl individer som företag och samhällsinstitutioner.

Bara tanken på att staten nu på riktigt skall få lov att ta sig in i folks mobiler…

Inte för att jag tror att någon skulle vara så nedrig; men som förslaget är skrivet så känns det som om man skapat ett verktyg som – i princip – i teorin – även skulle kunna användas för att plantera eller manipulera digitala bevis. Blotta misstanken om en sådan möjlighet borde få regeringen att backa.

I Europaparlamentet har den svenska EU-kommisionären Ylva Johansson – som är ansvarig för allt från upprätthållande av allmän ordning till att möta flyktingströmmen – sagt att det nu är dags för EU att anta ett nytt datalagringsdirektiv.

Vilket kan bli en skumpig resa – inte minst som EU-domstolen upphävde det förra datalagringsdirektivet för att det stred mot de mänskliga rättigheterna.

Principen man slåss över är rätt vacker: Att ingen människa skall övervakas utan ett moraliskt försvarbart skäl. Som vid utredning av ett allvarligt brott. Men inte annars. En hederlig människa som inte skadar eller stör sin omgivning skall inte behöva känna att staten kanske tittar över hennes axel. Alla skall ha rätt till en privat sfär, där de kan vara sig själva.

Det är denna princip man gör våld på när man bereder sig tillgång till data om alla medborgares alla tele- och nätkommunikationer.

Detta är vad som sker när staten inte längre har förtroende för sin befolkning, utan betraktar alla som potentiella tjuvar och terrorister.

Och så där håller det på. Hela tiden är det mer reglering; fler inskränkningar i nätets och informationens frihet; mer övervakning; fler kompromisser mellan grundläggande rättigheter och säkerhet; ständigt fler orimligheter från Big Entertainment, Big Media, Big Data och Big Government. Och tänk på barnen!

Allt rör sig, rätt snabbt, i riktning mot en avancerad kontroll- och övervakningsstat.

Vilket svenska folket kanske tvingas leva med och på något sätt måste förhålla sig till.

Är det inte hög tid att vi stannar upp ett ögonblick – och funderar igenom det här med övervakningsstaten innan vi rusar vidare? Så att medborgarnas fri- och rättigheter inte kommer bort på vägen.

/ HAX

EU:s eBevis – ett farligt och onödigt förslag

av

Behövs överhuvudtaget EU:s nya regelverk för eBevis / e Evidence? Vi ger ordet till EDRi:

The initial e-evidence proposal by the Commission aims to allow law enforcement agencies across the EU to access electronic information more quickly by requesting it directly from online service providers in other EU countries. Unfortunately, the Commission forgot to build in meaningful human rights safeguards that would protect suspects and other affected persons from unwarranted data access.

The Commission proposal is not only harmful, but simply not needed at this point. To speed up cross-border access to data for law enforcement, there already is the European Investigation Order (EIO). It exists only since 2018 and has never been systematically evaluated, let alone improved.

Så även om Europaparlamentet nu försöker förbättra förslaget om eBevis – så kan man fråga sig om vi verkligen behöver två system för samma sak. Speciellt som detta är en fråga som är mycket känslig sedd ur ett rättssäkerhets-perspektiv.

• EDRi: “E-evidence”: Repairing the unrepairable »

Läs även:
• Alla EU-länder får tillgång till allt som lagras i molntjänster »
• EU vill göra datalagringen gränslös »

Video: Kampen mot övervakningsstaten går vidare

av


FRA-lagen, datalagring, hemlig dataavläsning… Övervakningsstaten är här nu. Därför är det viktigare än någonsin att granska och kritisera den.

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

Med fel fokus kan övervakningen göra oss alla mindre säkra

av

Vissa frågor är extra svåra att diskutera – eftersom de kräver att man håller flera tankar i huvudet samtidigt.

Inte desto mindre är det nödvändigt.

Sverige är ett land som har problem med allvarlig brottslighet och där ett antal olika nätverk som bejakar våld – och som hotar den fria, demokratiska rättsstaten – är verksamma.

Dessa grupper och individer – som hotar människors liv, säkerhet, egendom och de principer som bygger ett civiliserat samhälle – måste naturligtvis kunna övervakas om man vill kunna förebygga och utreda brott.

Men detta måste gå att göra utan att massövervaka hela folket.

Till exempel datalagringen (lagring av data om alla svenskars tele- och nätkommunikationer) skulle vara mindre kontroversiell om den inte användes för att utreda bagatellartade brott som fildelning. Eller för att låta Skatteverket snoka i människors privatliv på bred front.

Det eventuella brottet måste helt enkelt stå i relation till att övervakning är en verksamhet som allvarligt kränker individens rätt till privatliv, som den definieras i de mänskliga rättigheterna.

Sådan data bör inte kunna begäras ut med mindre än att det föreligger misstanke om brott som föreskriver ett straff på minst två års fängelse.

Men utvecklingen går istället åt andra hållet. Riksåklagaren vill att tvångsmedel som avlyssning skall kunna användas även för att utreda mindre allvarliga brott samt kunna riktas mot människor som inte är misstänkta eller som har utsatts för brott.

Vad vi ser är mer övervakning och lägre trösklar för att använda den. Och inte tycks den fungera heller. Vilket i vart fall delvis kan bero på att man lägger stora resurser på att övervaka alla – istället för att fokusera på grupper och individer som verkligen är farliga.

I princip alla terrorister i EU har varit kända av myndigheterna redan i förväg, men berörda myndigheter har inte haft resurser att övervaka dem – samtidigt som man fortsätter att dammsuga våra kommunikationssystem efter information om hur vanligt, hederligt folk kommunicerar med varandra.

Risken är att vi får mer övervakning och sänkta trösklar för övervakning – utan att vi blir ett dugg säkrare. Tvärtom splittrar den svepande, generella övervakningen resurserna – vilket kan resultera i att vi blir mindre säkra.

Dessutom skall vi komma ihåg att våra fri- och rättigheter – som rätten till privatliv – ytterst är medborgarnas skydd mot övergrepp från statens sida. Tummar man på dem kan precis vad som helst hända. Vilket vi bör lära av historien.

/ HAX

Video: Hur mycket övervakning skall vi ha?

av

Hemlig avlyssning, FRA-lagen, datalagring, hemlig dataavläsning… När är det nog? När blir all övervakning farlig för demokratin, rättsstaten och våra medborgerliga fri- och rättigheter?

Se videon på Youtube »

Eftersom denna site är rensad från kakor och andra integritetskränkande tillägg bäddar vi inte in filmen för automatisk uppspelning här – utan ber dig att istället följa länken till Youtube ovan.

Alla EU-länder får tillgång till allt som lagras i molntjänster

av

Det pågår en kapprustning vad gäller tillgång till medborgares, företags och organisationers information som finns lagrad i till exempel molntjänster. I USA finns en så kallad Cloud Act, som ger myndigheterna rätt att begära ut information oavsett i vilket land den finns lagrad. Och som vi har rapporterat tidigare följer EU efter med eEvidence, eller eBevis:

»Polisiära myndigheter i alla EU:s medlemsstater kommer att kunna begära ut uppgifter om användare [edit: samt kommunikationsdata och lagrad information] från till exempel en internetoperatör, social plattform eller app-tjänst i vilket medlemsland som helst. Någon nedre gräns för när detta kan anses vara befogat anges inte.

Vilket är en signal om att dammluckorna nu kan öppnas – och att (…) information skall utlämnas även till EU-länder vars rättsstat, rättssäkerhet och sätt att hantera känslig information kan ifrågasättas.

Denna information skall lämnas ut inom tio dagar, eller i brådskande fall inom sex timmar.«

Detta är en fråga som tyvärr hamnat i medieskugga medan andra EU-förslag som det nya upphovsrättsdirektivet har diskuterats. Därför är det välkommet att fler nu börjar uppmärksamma frågan. I Svenska Dagbladet har tankesmedjan Fores vikarierande programchef för digitala samhällsfrågor Jonas Andersson Schwarz idag en i stort sett korrekt debattartikel om eBevis. Han skriver bland annat:

»Sveriges EU-parlamentariker bör tydligt motsätta sig rådets förslag av en rad principiella skäl. EU:s digitaliseringspolitik bör inte landa i en kapprustning med USA och Kina om vem som snabbast kan underminera medborgerlig integritet och nationell suveränitet. Det finns en rad progressiva saker kommissionen och parlamentet har gjort och bör fortsätta göra för att stärka rättssäkerheten och stävja problemen med vissa it-tjänsteföretags stora dominans. Men att urholka medborgares möjligheter att överklaga datauthämtningsorder från fjärran länder kommer inte att göra mycket åt det problemet, snarare befästa rådande ordning.«

I Sverige har regeringen redan påbörjat arbetet med eBevis i form av en förordning våren 2018.

Länkar:

• Vår tidigare bloggpost om eBevis med länksamling och resurser »

• SvD: Kafkaartat förslag från EU:s ministerråd »

Ny lag vill att internetoperatörer skall lämna ut information om innehåll i användares kommunikation

av

I september var det tänkt att regeringen skulle presentera en lagrådsremiss om hemlig dataavläsning. Och pengar har redan anslagits i budgeten till både polisen och Säpo för de kostnader detta kommer att medföra. (155 miljoner SEK.) Men ännu har något slutligt förslag inte presenterats.

Den hemliga dataavläsningen är tänkt att med hjälp av spionprogram ge myndigheterna tillgång till alla filer, alla kontakter, alla bilder, alla meddelanden (även innan kryptering och efter avkryptering) samt i vissa fall till kameror och mikrofoner på misstänkta brottslingars datorer, smartphones, plattor – samt övriga informationstjänster.

Det där sista – informationstjänster – är intressant. I utredningen (SOU 2017:89) skriver man på sidorna 26-27:

Den som bedriver anmälningspliktig verksamhet enligt 2 kap. 1 § lagen om elektronisk kommunikation får bistå den verkställande myndigheten i samband med verkställighet av hemlig dataavläsning. Den operatör som medverkar har rätt till ersättning för de kostnader som uppstår. Ersättning för medverkan betalas av den verkställande myndigheten.

Det betyder rimligen att även internetoperatörer kommer att omfattas. Och då inte bara vad gäller metadata, som vid datalagringen – utan även innehåll i meddelanden med mera.

Detta är en detalj som verkar ha flugit under radarn – medan den tyngsta kritiken har riktats mot att hemlig dataavläsning kommer att göra våra datorer och vår IT-infrastruktur sårbar.

Ylva Johansson: Inget EU-förbud mot kryptering

av

Den föreslagna svenska EU-kommissionären Ylva Johansson kommer som bekant att få hantera de så kallade inrikesfrågorna – det vill säga allt från migrationsfrågor till polissamarbete och inre säkerhet. Fokus har legat på migrationsfrågorna. Men Europaparlamentets muntliga utfrågning och skriftliga frågor ger viss ledning även i några av nätfrågorna.

Här är några nedslag i dokumenten. (Skärmdumpar, eftersom Europaparlamentet fortfarande gör PDF:er genom att skanna pappersutskrifter…)

Detta är faktiskt en god nyhet, om det går att lita på Johanssons ord: Inget förbud, ingen begränsning och ingen försvagning av kryptering.

Däremot kan man nog förvänta sig en ökad användning av statliga spionprogram ute i medlemsstaterna – det vill säga det som i Sverige kallas hemlig dataavläsning.

Ansiktsigenkänning är, som Ylva Johansson påpekar, en nationell fråga. Men – som hon snuddar vid – ägnar sig EU åt att finansiera forskningsprojekt där ansiktsigenkänning är en central funktion. (T.ex. Indect.) Så EU har ändå ett klart intresse i frågan.

Ylva Johansson vill alltså påskynda beslutet om avlägsnande av terrorrelaterat innehåll på nätet. Vilket, i sin nuvarande skrivning, kan resa krav på obligatorisk filtrering och analys av allt som alla användare laddar upp.

Sedan blir svaret mindre begripligt. För om man plockar bort innehåll – då kan det bli problematiskt för ordningsmakten, människorättsorganisationer, forskare, internationella juridiska institutioner, media m.fl. att få en bild av vad som verkligen sker. Vilket är en del av den kritik som framförts mot förslaget.

Tyvärr berördes inte datalagringen (vad jag kunnat hitta). Frågan är om det blir Ylva Johansson eller kommissionären för rättsliga frågor – belgaren Didier Reynders – som får i uppgift att ta fram ett eventuellt nytt datalagringsdirektiv. (Eller möjligen båda.)

Detta är bara några nedslag i det digra materialet. Här är länkar för den som är intresserad:

• Pressmeddelande: utfrågning av nominerade svenska EU-kommissionären Ylva Johansson »
• Video från utfrågningen och dokumentbank »
• Utskrift av utfrågningen (PDF) »
• Skriftliga svar (PDF) »
• Kompletterande skriftliga svar (PDF) »