Femte juli Nätet till folket!

Nätet till folket!

polisen

Vad hjälper Chatcontrol 2 – om polisen ändå inte utreder de övergrepp mot barn som anmäls?

av 1 kommentar

Svensk polis har tiotusentals outredda anmälningar om sexuella övergrepp mot barn på nätet. Med Chatcontrol 2 kommer polisen att dränkas av enorma mängder nya anmälningar – varav 80% eller mer kan vara felaktiga.

Med dagens lagstiftning (Chatcontrol 1) kan sociala media och meddelandetjänster frivilligt granska sina användares meddelanden, i jakt på sexuella övergrepp mot barn.

Med detta redan existerande och frivilliga system får polisen in anmälningar om möjliga fall av övergrepp.

Idag har den svenska polisen 13.000 outredda påstådda fall liggande på hög.

I fem års tid har det varnats internt för att detta är ohållbart. I tusentals fall har ingen människa över huvud taget tittat på anmälan. Och många brott kan komma att preskriberas.

SVT rapporterar:

»Rapporten leder till att åklagare startar en förundersökning om misstänkt tjänstefel, men den läggs ned efter bara ett par förhör. Detta bland annat eftersom man inte kan placera ett eventuellt tjänstefel i hierarkin – just eftersom varningarna funnits så länge och ansvariga gått ”hela vägen till NOA ledning och redovisat det här ända upp till rikspolischefen”.«

Detta är alltså dagens situation.

Dock skall man hålla i minnet att 76% av det bildmaterial som inrapporteras tycks vara egenproducerat av personer under 18 år. 90% av allt material som rapporteras in av Facebook är dubletter. Under en tid stod sex videofilmer för över hälften av alla rapporter. Och så vidare.

Så det finns mycket luft i siffrorna. Inte desto mindre måste polisen utreda alla brott som anmäls.

Det hela kommer bara att bli värre om EU-kommissionens förslag om obligatorisk granskning av innehållet i medborgarnas elektroniska meddelanden (Chatcontrol 2) blir verklighet.

Svepande och generell övervakning bryter mot EU:s egna regler, mot vad de mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens – och mot EU-domstolens principbeslut om att man får övervaka dem som misstänks för brott, men inte alla andra hela tiden.

Och ur en praktisk synvinkel kommer högarna av outredda anmälningar att växa med en bredare övervakning. Speciellt som denna kan antas ha en mycket hög andel felaktiga flaggningar, då den bygger på teknik som till stor del är oprövad – och i vissa delar icke existerande.

När teknik liknande den som skall ingå i Chatcontrol 2 prövats i enstaka länder (Schweiz, Irland) har man fått upp till 80% felaktiga anmälningar. Då söker man ändå bara efter redan känt material. Och även felaktiga rapporter kan få förödande konsekvenser för den som drabbas.

Men det blir värre. De nya systemen skall inte bara söka efter kända bilder på övgrepp på barn – utan även okänt material. Vilket innebär att AI måste granska alla bilder du sänder eller lagrar på molntjänster för att gissa sig fram till om något otillbörligt förekommer. Du har väl inga bilder som kan missuppfattas eller feltolkas?

Dessutom skall AI granska det skrivna (och talade) innehållet i dina elektroniska kommunikationer – för att på något sätt gissa sig till om du har olämpliga kontakter med barn.

AI-teknik som saknar förmåga att bedöma kontext och som saknar omdöme skall alltså anmäla om den tycker att det du skriver i dina meddelanden verkar konstigt eller misstänkt.

Denna teknik existerar inte. Men de som driver Chatcontrol 2 säger att de hoppas att den kommer att existera till dess lagen är tänkt att träda i kraft nästa sommar…

Polisens högar med outredda ärenden med redan känt förmodat övergreppsmaterial kommer alltså att växa. Speciellt med irrelevanta anmälningar och felaktiga flaggningar.

Ovanpå det kommer sedan alla bilder som en artificiell intelligens (som ännu inte är tillförlitlig) gissar kan tänkas innehålla övergrepp. Toppa sedan detta med att en likaledes ännu icke existerande AI-teknik kommer att rapportera in alla skrivna (och talade) elektroniska meddelanden som den tycker verkar misstänkta.

Lägg sedan detta till dagens situation med tiotusentals outredda ärenden hos polisen, som flaggats av de system som redan finns.

Risken är uppenbar att verkliga övergrepp kommer att drunkna i en flod av felaktigt flaggade och orelaterade meddelanden. Om man söker efter en nål i en höstack är det sista man behöver en större höstack.

Samtidigt kommer Chatcontrol 2 att leda till att det blir omöjligt med säker, krypterad kommunikation – om allt skall öppnas och dess innehåll kontrolleras. Vilket kommer att göra oss alla mindra säkra – till nätbedragares, främmande makts och andra ondsinta aktörers glädje.

Stoppa Chatcontrol 2 – och låt istället den relativt framgångsrika frivilliga skanning av elektroniska kommunikationer som redan sker fortsätta. (Även om inte heller den är oproblematisk.)

Och se till att ge polisen resurser att utreda de misstänkta, anmälda fall som redan samlar damm – istället för att dränka myndigheten i gigantiska mängder nytt material med en mycket stor andel felaktiga flaggningar.

Relaterat:
• Chatcontrol: Ylva Johanssons siffror är mest luft »

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »
• Allt du behöver veta om #ChatControl »
• StopScanningMe.eu »

• Använd denna mail-robot för att protestera mot förslaget om Chatcontrol »

Följ oss även på Twitter: @femtejuli

Snart kan du tvingas lagra digitala bevis åt polisen

av 3 kommentarer

Regeringen går nu fram med en proposition som går ut på att privatpersoner skall kunna tvingas lagra digitala bevis för misstänkt brottslighet – upp till 180 dagar. Om det inte sker kan straffet bli böter eller fängelse. Lagen är tänkt att träda ikraft redan nu i vår.

I propositionen föreskrivs bland annat att »den som innehar en viss lagrad elektronisk uppgift som behövs i en brottsutredning ska kunna föreläggas att bevara uppgiften«.

Dagens Juridik skriver:

»Enligt propositionen kan privatpersoner tvingas att bevara uppgiften i upp till 90 dagar, med möjlighet till förlängning vid särskilda skäl. Ett sådant föreläggande ska dock inte få riktas mot den som kan misstänkas för brottet eller mot någon närstående. Beslutet om föreläggande ska enligt propositionen få fattas av undersökningsledare eller åklagare och dessa kan belägga personen i fråga med tystnadsplikt om att åtgärden har vidtagits.«

Detta är inget nytt lagförslag. Frågan har varit aktuell i snart tio år och bygger på ett tilläggsprotokoll till Europarådets konvention om it-relaterad brottslighet. I en tidigare remissrunda har bland andra Bahnhof, Post- och telestyrelsen, Internetstiftelsen och Advokatsamfundet sågat förslaget. Datainspektionen, Justitiekanslern, Post- och telestyrelsen, JO och Internetstiftelsen har uttryckt tveksamhet. Och Ekobrottsmyndigheten, Polismyndigheten och Säkerhetspolisen var positiva.

Förslaget är inte helt lätt att förstå:

  • Om den digitala uppgiften redan är känd av polisen – är det då inte bättre att polisen lagrar uppgiften i fråga?
  • Om uppgiften i fråga är så känslig att tystnadsplikt skall råda – är det då inte bättre att polisen säkrar det eventuella beviset själva istället för att förlita sig på privatpersoner?
  • Måste inte polisen – i rimlighetens namn – själv säkra bevis som den känner till? Och om så sker, vad är det då för vits med att tvinga privatpersoner att göra samma sak?

Det hela känns väldigt märkligt. Om någon begriper mer, fyll gärna på med information i kommentarerna.

Länk: Privatpersoner ska tvingas lagra uppgifter åt Polisen »

Skall polisen få avlyssna utan misstanke?

av Lämna en kommentar

»Polisen vill nu avlyssna personer som ännu inte är misstänkta« utropar Sveriges Radio med viss berättigad förskräckelse.

Rimligen menar inte biträdande rikspolischefen att man skall kunna avlyssna vem som helst hur som helst. Och då måste avlyssningen rimligen inriktas. Mot element som polisen befarar kommer att begå brott. Vilket känns snubblande nära just en misstanke.

Och det är precis vad biträdande rikspolischef Mats Löfving säger:

– I ett underrättelsesyfte, precis! Människor som ännu inte ingår i nån brottsutredning. Utan människor som på ett tydligt sätt kan kopplas till gängkriminalitet.

Så att vi vet vad det handlar om. Men det är vanskligt nog.

Ett problem är att man med nödvändighet kommer att kränka en hel del hederliga medborgares integritet. Bekanta, flickvänner, affärskompanjoner och innebandylaget kommer alla att sugas in i sociogrammet över vilka som kan komma att avlyssnas runt en misstänkt kriminell. Det är ett betydande ingrepp i människors rätt till privatliv.

Vad har vi för garantier för att mandatet för denna övervakningsmaskin inte kommer att utökas? Om vi tycker att det är OK att man avlyssnar människor som inte är misstänkta för brott – då är ändå frågan varför detta sker inte huggen i sten. Då kommer den till synes obligatoriska ändamålsglidningen.

För att inte tala om hur detta skulle kunna missbrukas av en ond regering, en galen justitieminister, någon illvillig person i systemet eller bara bli ett offer för den svenska slumpen.

Som verktyg för en stat med ambitionen att kontrollera allt eller förtrycka alla är detta den heliga graal: Möjligheten att kunna avlyssna i princip vem som helst utan någon konkret misstanke om brott. Som i DDR.

Nu vet jag att större delen av svenska folket inte håller med mig. Och jag förstår varför. Kriminaliteten i landet har ändrat karaktär, till den punkt där den inte längre går att bekämpa med traditionella metoder.

Det är illavarslande. På så många sätt.

Men man måste ändå vara medveten om riskerna med att lämna den demokratiska rättsstatens grundläggande värden. Även om det senare av någon anledning ändå skulle anses nödvändigt.

Grundregeln måste vara att medborgare som inte stör någon annan skall lämnas ifred.

Automatiserad ansiktsigenkänning – nu i Sverige

av Lämna en kommentar

Polisen har fått klartecken för ett nytt verktyg som automatiskt analyserar video och bilder – bland annat med hjälp av automatiserad ansiktsigenkänning. Vilket väcker en del frågor och farhågor.

Låt oss börja med att se vad detta inte är. Det handlar inte om att automatiskt övervaka allmän plats och att få flaggningar så fort någon person av intresse dyker upp i bild. Polisen ville testa ett sådant system på Skavsta flygplats – men där sa Datainspektionen nej.

Vad det däremot handlar om är automatisk genomsökning av video och bilder i jakt på något specifikt, på en bestämd plats vid en bestämd tidpunkt. Detta omfattar även automatisk ansiktsigenkänning.

I detta fall är det alltså fråga om material som ändå skulle ha gåtts igenom, fast av fysiska poliser. På så sätt kan det rent av handla om att färre personer tittar på de övervakningsfilmer där du eller någon annan oskyldig förekommer. En automatisering och en eventuell effektivisering, med andra ord. Men det är ändå inte problemfritt.

Dels vet vi att automatiserade system ger ett stort antal »falska positiva« flaggningar, ibland i en sådan omfattning att det underliggande materialet blir svårare att hantera.

Dels är det oklart hur mycket biometrisk data som kommer att användas och från vilka källor. Om det handlar om misstänkta i det specifika fallet är det en sak. Om det handlar om bredare data, där biometrisk data för en bredare allmänhet (t.ex. från passregistret) används, då är det mer problematiskt.

Här finns också en viktig metodfråga. Om en människa, med förhoppningsvis gott omdöme och god analytisk förmåga, tittar igenom t.ex. en övervakningsfilm – då kan information som är viktig för en utredning framkomma, som inte framkommer om man bara söker på ett visst ansikte, ett visst signalement eller en viss sak. Det kan handla om en person som inte ingår i utredningen, men vars närvaro ändå är av intresse. Eller om ett visst händelseförlopp före eller efter det man söker. Risken är att automatiserad analys missar sådant som den inte uttryckligen är tillsagd att söka efter.

Slutligen kan det system som nu fått klartecken användas för att utveckla automatiserad ansiktsigenkänning på allmän plats. Även om Datainspektionen i dagsläget säger nej till sådan, så lär sista ordet inte vara sagt. Om inte svenska polisen kommer att kunna tjata sig till ett sådant verktyg, så kan det komma från EU.

Länkar från SR:
• Polisen får klartecken för ansiktsigenkänning »
• ”Rör sig om känsliga uppgifter” (ljudinslag) »

Förtryckets verktyg – snart i svenska polisens händer

av Lämna en kommentar

Polisen och Säkerhetspolisen skall nu köpa in verktyg för att kunna bedriva den av riksdagen godkända hemliga dataavläsningen. Det vill säga statstrojaner som kan ta sig in i datorer och komma åt allt, även krypterade meddelanden – innan de krypteras eller efter att de avkrypterats.

Detta uppmärksammas av SVT som har undersökt marknaden och talat med SÄPO.

Det handlar om leverantörer som är ökända för att deras produkter använts för att kränka mänskliga rättigheter, för att förfölja oppositionella, för att lura journalister i döden och annat som aldrig får förekomma i en demokratisk rättsstat.

Därför finns det ett visst moraliskt intresse i vilken leverantör de svenska myndigheterna väljer. Kommer till exempel den svenska polisen att använda sig av samma verktyg mot sitt eget folk som Saudiarabien, Egypten och Kina använder mot sina? Det vore intressant att få veta. Men SÄPO tiger, naturligtvis.

»Vi kommenterar aldrig våra metoder eller teknik, säger Säkerhetspolisens generaldirektör Klas Friberg.«

SVT:s Fredrik Laurin ställer en del intressanta frågor till Säkerhetspolisens presschef Karl Melin. Och det rör mer än leverantörerna.

Hur är det till exempel med att andra, till exempel kriminella, kan använda samma säkerhetshål som Säpo – om inte dessa säkerhetshål rapporteras in och blir kända? Svaret är inte helt lätt att tyda. Men jag tror att Melin menar att om det förekommer databrottslighet, då skall man vända sig till polisen. Vilket kan skapa något av en intressekonflikt – om det samtidigt ligger i polisens intresse att dessa säkerhetshål förblir okända.

Min gissning är för övrigt att ordern går till NSO Group.

Länk till SVT – läs både texten och se intervjun »

 

Så växer övervakningsstaten snabbare än lagstiftningen

av Lämna en kommentar

Företaget Clearview har en enkel men obehaglig affärsidé: Man dammsuger internet och sociala media på bilder av identifierbara personer. Sedan tillhandahåller man en tjänst för automatiserad ansiktsigenkänning.

För en tid sedan drabbades Clearview av en läcka – där deras kunder exponeras i varierande omfattning.

Av denna läcka framgår det att Clearview har gjort affärer med svenska myndigheter. Datainspektionen försöker nu utreda vilka myndigheter det handlar om – och i vilken mån något olagligt förekommit. (Värt att notera är dock att Datainspektionen redan i höstas gav polisen rätt att använda automatiserad ansiktsigenkänning, i vart fall på försök.)

Medan vi väntar på vad som kommer ut ur detta, så pekar fallet på en oroväckande trend. I allt större utsträckning använder sig myndigheter runt om i världen av privata företag och tjänster – vad gäller sådant som de själva inte kan eller får syssla med, eller som befinner sig i gråzonen.

Det behöver inte vara automatiserad ansiktsigenkänning. Det kan lika gärna handla om persondata, som samlas in och sedan säljs av nätjättarna, Big Data och data brokers.

Förr talades mycket om risken med samkörning av olika register. Detta är fortfarande en risk – som ökar i takt med att allt fler nya register och datakällor kan kopplas till systemen. Det gäller så väl data och tjänster från privata aktörer som EU:s allt mer långtgående krav på informationsdelning mellan medlemsstaternas olika register.

Detta är problematiskt på många sätt. Bland annat genom att myndigheterna får tillgång till en infrastruktur för kontroll och övervakning som varken kräver demokratiskt godkännande eller demokratisk kontroll.

Svensk polis anklagas för att ha ändrat i förhörsprotokoll om Assange

av 3 kommentarer

Schweiziska tidningen Republik hade härom veckan en lång intervju med Nils Melzer – som är FN:s specielle rapportör om tortyr – om situationen för Wikileaks grundare Julian Assange.

Intervjun handlar mycket om det amerikanska åtalet mot Assange, om förhållandena i det brittiska högsäkerhetsfängelse där han vistas för att ha brutit mot en borgensförbindelse (när han tog sin tillflykt till Ecuadors ambassad i London) och om utlämningsprocessen till USA.

En central del handlar om de anklagelser om våldtäkt eller sexuellt ofredande från svensk sida – som var början på den rättsliga följetongen mot Assange. Här menar Meltzer att svensk polis har manipulerat förhörsprotokoll för att få en anledning att påbörja en politiskt motiverad process  mot honom.

Ovan ett mail från brittiska Crown Prosecution Service till den svenska specialåklagaren Marianne Ny. Och nedan en skriftväxling som visar på att förhörsprotokoll har ändrats i efterhand.

Till Republik säger Meltzer:

»I speak Swedish fluently and was therefore able to read all the original documents. I couldn’t believe my eyes: According to the woman concerned, there has never been any rape. And not only that: the statement of this woman was subsequently rewritten by the Stockholm police without her involvement, in order to somehow be able to raise suspicions of rape. I have all the documents, the emails, the SMS.« (…)

»Q: What did the cop rewrite?

A: You don’t know that. Because the first statement was overwritten directly in the computer program and no longer exists. We only know that the original statement, according to the chief prosecutor, apparently contained no evidence of an offense. The revised form states that repeated intercourse has occurred. By mutual agreement and with a condom. But in the morning the woman woke up because he tried to penetrate her without a condom. She asks: ”Are you wearing a condom?” He says: ”No.” Then she says: ”You better not have HIV” and lets him go on. This statement was edited without the involvement of the woman concerned and was not signed by her. It is manipulated evidence from which the Swedish authorities then constructed a rape.«

Finns det en konspiration mot Assange – som svenska myndigheter är en del av? Det är svårt att säga. Men man bör i vart fall komma ihåg att olika åklagare har gjort helt olika bedömningar om huruvida Julian Assange gjort sig skyldig till något sexbrott överhuvudtaget.

En gissning kan vara att länder med nära underrättelsesamarbete kan ha »sammanfallande intressen« vad gäller att stoppa Wikileaks avslöjanden.

Länkar:
Republik: «Vor unseren Augen kreiert sich ein mörderisches System»
Youtube: Inslag i ZDF Heute Journal »
DN: FN-rapportör beskriver svensk rättsröta i fallet Assange »

Uppdatering: Ännu ett märkligt dokument råkade komma i vår väg…