• Hoppa till huvudnavigering
  • Hoppa till huvudinnehåll
  • Hoppa till det primära sidofältet

Femte juli

Nätet till folket!

  • Om oss
  • Remissvar

Storebror

Kategorin Storebror är hämtad från George Orwells bok 1984. Det handlar dels om övervakning - och dels om menings- och yttrandefrihet. Och om hur staten försöker styra hur människor tänker.

Riksdagen röstade ja till Chat Control 2

18 juni 2024 av Henrik Alexandersson

Riksdagens justitieutskott har idag röstat ja till det belgiska EU-ordförandeskapets senaste förslag om Chat Control 2. Endast C och SD röstade nej. I morgon röstar Sverige i EU.

Det belgiska förslaget innebär att dina elektroniska meddelanden kommer att granskas i din telefon eller dator innan de krypteras och skickas. Vilket kräver spionprogram på din enhet – på systemnivå eller i alla meddelande-appar.

Förslaget innebär också att den som inte »frivilligt« underkastar sig sådan granskning av sina meddelanden inte kommer att kunna sända bilder, videos eller dela länkar.

Ministerrådets egen rättstjänst varnar för att även detta förslag strider mot vad de grundläggande mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens respektive yttrandefriheten.

Det belgiska ordförandeskapet försöker nu stressa igenom det hela innan ordförandeklubban går över till Ungern, om två veckor.

Då det inte finns något mer ministerrådsmöte (RIF) innan dess, planerar man att ta beslutet på tjänstemannanivå – i COREPER 2 (de ständiga representanterna) i morgon onsdag den 19 juni.

Uppdatering: Enligt MEP Patrick Breyer (PP, DE) är voteringen i COREPER II flyttad från onsdag till torsdag den 20/6.

På förra veckans ministerrådsmöte (RIF) flaggade fransmännen för att de kan köpa det belgiska förslaget (med vissa korrigeringar). Och om Frankrike säger ja finns det inte längre någon blockerande minoritet i ministerrådet.

Om ministerrådet / COREPER II säger ja till det belgiska förslaget kommer man att gå in i förhandlingar med Europaparlamentet – som (än så länge) säger nej till Chat Control 2 i alla dess bärande delar.

Det är dock lätt att misstänka att parlamentets nej kan komma att luckras upp – nu när EU-valet är över och man inte behöver riskera att förlora röster på frågan.

Vilket leder oss till Moderaterna och Liberalerna (de senare har stämmobeslut på att säga nej) som i EU-valrörelsen för bara någon vecka sedan värvade röster på att säga nej till Chat Control 2 – samtidigt som de drev den rakt motsatta linjen som regeringspartier.

Man värvade alltså röster på ett besked men gör sedan i praktiken det motsatta. Vilket vi varnat för hela tiden.

Med dagens beslut i riksdagens justitieutskott bekräftas deras dubbelspel och svek. Det innebär att den svenska regeringen nu kan rösta ja till det belgiska förslaget.

(Att MP och V röstade ja i utskottet är också anmärkningsvärt, då de tidigare sagt tydligt nej både i riksdagen och Europaparlamentet. Samt värvat röster på sitt nej i EU-valet.)

Chat Control 2 strider mot vad de grundläggande mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens respektive yttrandefriheten.

Europakonventionen om de mänskliga rättigheterna och EU:s egen rättighetsstadga slår fast:

»Var och en har rätt till skydd för sitt privat- och familjeliv, sitt hem och sin korrespondens.«

Det finns visserligen undantag för att bekämpa brott. Men EU-domstolen har redan slagit fast principen: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Att avskaffa den digitala brevhemligheten är helt klart över gränsen.

Vad gäller yttrandefriheten gäller följande:

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser.«

Chat Control 2 kolliderar uppenbart med denna grundläggande mänskliga rättighet.

Under resans gång har Europaparlamentets utredningstjänst, EU-kommissionens rättstjänst, ministerrådets rättstjänst, EU:s dataskyddsmyndighet, FN:s människorättskommissionär och hundratals forskare, människorättsorganisationer, dataskyddsexperter med flera uttryckligen varnat för att Chat Control 2 strider mot de grundläggande mänskliga rättigheterna.

Till och med EU-kommissionen skriver på sidan 13 i sitt eget förslag att det kolliderar med de mänskliga rättigheterna. Men den tycker att det är ett pris som är värt att betala.

Så vad händer nu?

Om COREPER II godkänner den belgiska kompromissen i morgon (onsdag 19/6) går Chat Control 2 till förhandling (trilog) mellan ministerrådet, Europaparlamentet och EU-kommissionen.

Uppdatering: Enligt MEP Patrick Breyer (PP, DE) är voteringen i COREPER II flyttad från onsdag till torsdag den 20/6.

Vilket kan landa hur som helst. Men med två mot en och EU-valet avklarat är risken att parlamentet kommer att svikta i sitt motstånd.

Därför är det av största vikt att hålla trycket mot Europaparlamentet uppe. Det måste stå klart för dess ledamöter att deras väljare säger ett tydligt nej till Chat Control 2.

Läs mer:
• Regeringen skapade snabbspår och klubbade Chat control – kan antas i EU redan onsdag «
• Regeringens dubbelspel banar väg för Chat Control 2 »
• Chat Control 2 kan kuppas igenom i EU:s ministerråd »

• Chat Control 2 – nytt kompromissförslag i ministerrådet »
• Proposed EU Chat Control law wants permission to scan your WhatsApp messages »

Relaterat:
• Den svenska regeringens ståndpunkt »
• Regeringens finter om Chatcontrol »
• Regeringen förespråkar mass­övervakning »

Resurser:
• Chatcontrol.se »
• Chatcontrol.eu »

• StopScanningMe.eu »

Följ oss även på X: @femtejuli

Arkiverad under: Aktivism, Demokrati, EU, Länktips, Övervakning, Privatliv, Storebror, Sverige, Yttrandefrihet Taggad som: ChatControl, EU:s ministerråd, regeringen, riksdagen

Regeringens dubbelspel banar väg för Chat Control 2

14 juni 2024 av Henrik Alexandersson

I veckan som kommer kan EU:s ministerråd säga ja till Chat Control 2. Med stöd av den svenska regeringen.

På torsdagens möte i EU:s ministerråd meddelade Frankrike att man (under vissa förutsättningar) kan tänka sig att ge sitt stöd till det belgiska EU-ordförandeskapets senaste förslag om Chat Control 2.

Om det sker finns inte längre någon blockerande minoritet i ministerrådet. Då kan Chat Control 2 komma att godkännas genom ett beslut av tjänstemännen i COREPER II, den 19 juni. (Alternativt 20 eller 24 juni.)

Detta förlag innebär bland annat client-side-scanning. Det vill säga spionprogram eller funktioner i meddelande-apparna som kontrollerar innehållet i dina meddelanden – på din dator eller telefon – innan de krypteras och sänds iväg.

Förslaget innebär dessutom att den som inte »frivilligt« går med på att få innehållet i sina meddelanden scannat och analyserat kommer att hindras från att sända bilder, video eller att dela länkar.

Vi har tidigare rapporterat om den svenska regeringens ställningstagande. I detta kan man bland annat läsa:

»En spårningsorder måste i sista hand kunna verkställas utan hinder av att en tjänst är krypterad, till exempel genom en maskinscanning innan meddelandet krypteras och skickas.«

Vilket som synes är i linje med vad belgarna nu föreslår.

En irriterande detalj är att regeringspartierna fiskade röster på att säga nej till Chat Control 2 i EU-valet (i vart fall M+L är emot Chat Control 2 i Europaparlamentet) – samtidigt som samma partier säger ja till förslaget (som regering) i EU:s ministerråd.

Innan rösterna i EU-valet ens är färdigräknade tycks sveket vara fullbordat.

Läs mer:
• Chat Control 2 kan kuppas igenom i EU:s ministerråd »
• Chat Control 2 – nytt kompromissförslag i ministerrådet »
• Proposed EU Chat Control law wants permission to scan your WhatsApp messages »

Relaterat:
• Den svenska regeringens ståndpunkt »
• Regeringens finter om Chatcontrol »
• Regeringen förespråkar mass­övervakning »

Resurser:
• Chatcontrol.se »
• Chatcontrol.eu »

• StopScanningMe.eu »

Följ oss även på X: @femtejuli

Arkiverad under: Aktivism, EU, Kryptering, Länktips, Övervakning, Privatliv, Spaning, Storebror, Sverige Taggad som: ChatControl, client side scanning, EU:s ministerråd, regeringen

Chat Control 2 kan kuppas igenom i EU:s ministerråd

11 juni 2024 av Henrik Alexandersson

Det belgiska EU-ordförandeskapet hoppas kunna kuppa igenom Chat Control 2 genom att flytta det formella beslutet från ministerrådet till tjänstemännen i COREPER II.

Så här ser den belgiska planen ut:

  • På ministerrådsmötet den 13-14 juni kommer belgarna att presentera sitt senaste förslag och ministrarna får tillfälle att yttra sig.
  • Så fort detta är gjort kommer de att cirkulera ett uppdaterat slutligt förslag.
  • Då det inte kommer att hållas något mer ministerrådsmöte (RIF-rådet) innan belgarna lämnar över ordförandeskapet till Ungern kommer man att låta medlemsstaternas ständiga representanter (ambassadörer / tjänstemän) i COREPER II att rösta om förslaget på sitt möte den 19 juni. (Reservdatum 20 & 24 juni.)

Om det då inte längre finns någon blockerande minoritet har ministerrådet antagit förslaget och är redo att gå in i trilog-förhandlingar med Europaparlamentet och EU-kommissionen.

I sådana förhandlingar spelar det mindre roll att Europaparlamentet redan sagt nej till Chat Control 2 i dess kontroversiella delar. Det betraktas bara som en förhandlingsposition.

Hur villigt Europaparlamentet är att upprätthålla sitt tidigare nej även efter EU-valet återstår att se. (Ledande kritiker som den tyske piratpartisten Patrick Breyer sitter inte kvar i det nyvalda parlamentet.)

Här i Sverige har EU-nämnden enbart fått ytlig information från regeringen om hur frågan utvecklas. Något beslut om slutlig svensk position har inte fattats. Sista mötet inför det aktuella ministerrådsmötet hölls förra onsdagen.

Från det mötet meddelades att regeringen står fast vid sin ståndpunkt och har den som utgångspunkt i diskussionen. Det vill säga en ståndpunkt som aldrig diskuterats på allvar eller fastställts i EU-nämnden. Den svenska riksdagen har därmed i praktiken avsagt sig sitt inflytande i frågan om belgarnas plan går i lås.

(Den svenska regeringens ståndpunkt ligger någonstans mellan EU-kommissionens ursprungliga förslag och det som presenterats av det belgiska ordförandeskapet.)

Det senaste belgiska förslaget innehåller bland annat client-side-scanning (det vill säga spionprogram på folks telefoner och datorer eller inbyggda i de meddelande-appar vi kommer att tillåtas använda).

På så sätt menar man att förslaget respekterar rätten till totalsträckskryptering (E2EE), då man kontrollerar innehållet i folks meddelanden redan innan de krypterats och sänts. Men det är lika fullt granskning av innehållet i medborgarnas elektroniska meddelanden.

Belgarna har också föreslagit att den som inte »frivilligt« går med på att få innehållet i sina meddelanden granskat skall hindras från att sända bilder, videoklipp och länkar. (Läs mer i deras förslag.)

Länkar:
• Be scanned – or get banned! »
• Majority for chat control possible – Users who refuse scanning to be prevented from sharing photos and links »
• ‘Let yourself be monitored’: EU governments to agree on Chat Control with user “consent” »

• EU Council Presidency’s Last-Ditch Effort For Mass Scanning Must Be Rejected »

Relaterat från denna blogg:
• Chat Control 2 – nytt kompromissförslag i ministerrådet (27 maj) »
• Chat Control 2: På onsdag kan riksdagens EU-nämnd avgöra om det skall bli förbjudet att dela länkar (3 juni) »
• M, KD & L talar med kluven tunga om Chat Control 2 (5 juni) »

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »

• StopScanningMe.eu »

Följ oss även på X: @femtejuli

Arkiverad under: Aktivism, EU, Kryptering, Länktips, Övervakning, Privatliv, Storebror, Sverige Taggad som: ChatControl, EU-nämnden, EU:s ministerråd, regeringen

M, KD & L talar med kluven tunga om Chat Control 2

5 juni 2024 av Henrik Alexandersson

Riksdagens EU-nämnd vill inte ta i frågan om Chat Control 2. På så sätt slipper regeringspartierna förklara hur det kommer sig att de är för förslaget i EU:s ministerråd samtidigt som de är emot i Europaparlamentet.

Idag hade riksdagens EU-nämnd möjlighet att säga ja eller nej till det belgiska EU-ordförandeskapets senaste förslag om Chat Control 2. Eller att i vart fall tycka något.

Förslaget innebär bland annat att den som inte »frivilligt« godkänner att få sina meddelanden granskade inte heller kommer att få sända bilder, video eller dela länkar.

Frågan kommer upp på ministerrådsmötet den 13-14 juni.

Men i EU-nämnden (som skall förbereda rådsmötet) hände inget av betydelse. Som vanligt. Där hastas frågan varje gång förbi som en informationspunkt. Ibland utan någon föredragning alls.

På ministerrådsmötet finns ett konkret förslag att hantera. Alla medlemsstater är med i denna process, även Sverige. Det finns ständigt förhandlingar och konkreta förslag att ta ställning till.

Men riksdagens EU-nämnd – som annars inte är sen att lägga sig i saker – har inga instruktioner om hur justitieminister Strömmer skall förhålla sig till saken i rådet.

Som jämförelse har den finländska riksdagen sagt ett tydligt nej till Chat Control 2, då förslaget i sin grundfunktion (massövervakning) bryter mot de grundläggande mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv och privat kommunikation.

Chat Control 2 strider även mot yttrandefriheten som säger att var och en har frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning.

EU-nämndens ointresse inför dessa stora frågor är anmärkningsvärt.

Förklaringen kan vara att regeringspartierna (M+KD+L) talar med kluven tunga. Som regering, i EU:s ministerråd är man för Chat Control 2 i modifierad form. I Europaparlamentet är samma partier emot.

Detta får naturligtvis väljarna att undra vad nämnda partier egentligen tycker. Och så länge riksdagens EU-nämnd är passiv lyckas de ducka frågan i EU-valet.

Vilket begränsar medborgarnas möjlighet att göra ett informerat val och att utkräva ansvar.

(Fotnot: SD är emot Chat Control 2 i Europaparlamentet, men det är oklart vad de tycker i riksdagen. S är för CC2 och C+V+MP mot.)

Länk:
• Chat Control 2: På onsdag kan riksdagens EU-nämnd avgöra om det skall bli förbjudet att dela länkar »

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »

• StopScanningMe.eu »

Följ oss även på X: @femtejuli

Arkiverad under: Aktivism, Demokrati, EU, Övervakning, Privatliv, Storebror, Sverige, Yttrandefrihet Taggad som: chat control, EU-nämnden, Gunnar Strömmer, regeringen

Chat Control 2: På onsdag kan riksdagens EU-nämnd avgöra om det skall bli förbjudet att dela länkar

3 juni 2024 av Henrik Alexandersson

På onsdag kan riksdagens EU-nämnd bestämma Sveriges position om Chat Control 2 inför EU:s ministerråd. Senaste förslaget omfattar bland annat förbud mot att dela länkar om man inte frivilligt underkastar sig AI-granskning av de meddelanden man sänder.

Nu på onsdag (5/6) sammanträder riksdagens EU-nämnd. Punkt nummer två är att justitieminister Strömmer rapporterar av vad som hände på förra mötet i ministerrådet för rättsliga och inrikes frågor. Samt: Information och samråd inför möte i rådet den 13–14 juni 2024.

Och där, i ministerrådet skall man diskutera det belgiska ordförandeskapets senaste förslag om Chat Control 2 – som är tokigt på helt nya sätt.

Det är alltså på EU-nämndens möte onsdag den 5 juni kl 10 som Sveriges position om Chat Control 2 bör fastställas inför rådsmötet.

Redan idag måndag har medlemsstaternas tjänstemän förhandlat om saken. De har inget nytt sammanträde inplanerat förrän i samband med ovan nämnda rådsmöte (14/6). Vad de kommit fram till lär sippra ut de närmaste dagarna.

För att friska upp vårt minne: Chat Control 2 är EU-kommissionär Ylva Johanssons förslag om att låta AI granska innehållet i våra elektroniska meddelanden i syfte att bekämpa sexuella övergrepp mot barn. Det utgående Europaparlamentet blockerar i unikt stor enighet förslagets bärande delar. I ministerrådet råder oenighet och inget beslut har kunnat fattas.

Det förslag som det belgiska ordförandeskapet nu lägger fram (205 sidor) finns även i populärformat, som en PDF. Vad säger då den?

  • Meddelandetjänster som erbjuder totalsträckskrypterad (E2EE) kommunikation skall placeras i högsta riskkategorin.
  • Röstsamtal och textmeddelanden undantas från Chat Control 2.
  • Skanning efter innehåll med övergrepp på barn skall begränsas till foton och video.
  • Genom att spionera i våra telefoner och datorer skall de meddelandeappar vi använder analysera de bilder, videos och länkar (!) vi sänder innan de krypteras och sänds. För att sedan rapportera in till EU Center om de hittar något misstänkt.
  • Om användare vill kunna sända bilder, video och länkar (!) måste de lämna medgivande till att innehållet i deras meddelanden skannas enligt ovan. Vilket inkluderar att ge appen tillgång till lagrad data och kamera.

Enkelt uttryckt: Enda sättet att undvika client-side-scanning och behålla rätten att sända totalsträckskrypterade meddelanden är att avstå från att dela bilder, video och länkar. (Om ens då.)

Jag anar tekniska och praktiska luckor i resonemanget. Inte minst när man nu blandar in länkar i förslaget. Man kan inte utgå från att ordförandeskapet begriper vad det sysslar med.

På detta sätt anser sig dock belgarna kunna påstå att förslaget respekterar rätten till totalsträckskryptering. Man kontrollerar – efter påtvingat samtycke – innehållet innan det krypteras.

Och att sända bilder, video och länkar (!) är ingen mänsklig rättighet. Eller..?

»Var och en har rätt till yttrandefrihet. Denna rätt innefattar åsiktsfrihet samt frihet att ta emot och sprida uppgifter och tankar utan offentlig myndighets inblandning och oberoende av territoriella gränser.«

Så står det i både Europakonventionen om de mänskliga rättigheterna som i EU-stadgan. Det påpekas även att…

»Var och en har rätt till skydd för sitt privat- och familjeliv, sitt hem och sin korrespondens.«

Ministerrådets egen rättstjänst påpekar därför att inte heller detta förslag är förenligt med de grundläggande mänskliga rättigheterna. Men det tycks många av medlemsstaternas regeringar inte bry sig om. De kör på ändå.

Än så länge har det funnits en blockerande minoritet mot Chat Control 2 i ministerrådet. En sådan måste bestå av minst fyra länder som tillsammans omfattar över 35 procent av EU:s befolkning. Just nu spekuleras i om Frankrike kommer att byta sida på nästa möte. I så fall finns det inte någon blockerande minoritet längre. Allt är ohyggligt spännande.

Det är mot bakgrund av detta som onsdagens möte i riksdagens EU-nämnd är extra intressant. Där kan den svenska linjen om ordförandeskapets senaste förslag slås fast.

Sossarna är genomgående för Chat Control 2. M+KD+L säger nej i Europaparlamentet – men fortsätter att driva på för CC2 i ministerrådet. SD säger nej i Europaparlamentet men säger samtidigt så lite som möjligt som riksdagsparti. C+V+MP säger nej till CC2 rakt över.

Skall det bli förbjudet att dela länkar om man inte underkastar sig »frivillig« granskning av de meddelanden man sänder? Frågan kan avgöras på onsdag.

Fyra dagar senare är det EU-val.

Uppdatering: Från ledamöter i riksdagens EU-nämnd får vi höra att regeringen valt att än så länge aldrig inhämta något mandat från nämnden och att man inte avser göra det på onsdag heller. Vilket är anmärkningsvärt, då processen pågår och alla medlemsstater gör inspel för att påverka resultatet. Det är som om EU-nämnden inte vill ta i frågan om Chat Control 2. Kanske på grund av att vissa partier vill ligga lågt med att de tycker olika i riksdag / regering / ministerrådet respektive Europaparlamentet.

Länkar:
• Audio communications excluded in latest draft of child sexual abuse material law »
• Be scanned – or get banned! »
• Majority for chat control possible – Users who refuse scanning to be prevented from sharing photos and links »
• Frankreich entscheidet über Zukunft der Chatkontrolle »

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »

• StopScanningMe.eu »

Följ oss även på X: @femtejuli

Arkiverad under: Aktivism, Demokrati, EU, Kryptering, Nätkultur, Övervakning, Privatliv, Storebror, Sverige, Yttrandefrihet Taggad som: ChatControl, EU:s ministerråd, Gunnar Strömmer, regeringen

Chat Control 2 – nytt kompromissförslag i ministerrådet

27 maj 2024 av Henrik Alexandersson

Den som vill sända meddelanden med bilder eller video måste samtycka till granskning. Det är det senaste budet om Chat Control 2 från EU:s ministerråd.

Trots att man förhandlat i två år har EU:s ministerråd ännu inte kommit fram till någon gemensam ståndpunkt om EU-kommissionens förslag om att göra AI-granskning av innehållet i våra elektroniska meddelanden – Chat Control 2 – obligatorisk.

Inför ministerrådet den 13-14 juni har det belgiska ordförandeskapet presenterat ännu en skiss till ett förslag:

  • Röstsamtal och textmeddelanden undantas från Chat Control 2.
  • Skanning efter innehåll med övergrepp på barn skall begränsas till foton och video.
  • Krypterat innehåll skall inte omfattas av förslaget.
  • Man skall använda AI för att upptäcka nytt övergreppsmaterial samt försök till otillbörliga kontakter med minderåriga. (Hur nu det senare skall gå till om man undantar röst- och textmeddelanden.)
  • Om användare vill kunna sända bilder och video måste de lämna medgivande till att sådant innehåll skannas.

Något slutligt skriftligt förslag finns ännu inte, utan detta är baserat på en Powerpoint som lagts fram på ett möte på tjänstemannanivå.

Punkterna ovan väcker fler frågor än de ger svar på. Ledamoten av Europaparlamentet Patrick Breyer (PP, DE) kommenterar:

»[M]onitoring backdoors would need to be integrated into previously securely end-to-end encrypted messenger services, even though the Belgians claim that their proposed ‘upload moderation’ scheme differs from the much criticised ‘client-side scanning’.« (…)

»The leaked Belgian proposal means that the essence of the EU Commission’s extreme and unprecedented initial chat control proposal would be implemented unchanged. Using messenger services purely for texting is not an option in the 21st century. And removing excesses that aren’t being used in practice anyway is a sham.«

Medlemsstaterna är splittrade. Tyskland menar att detta inte går att ta ställning till utan ett skriftligt förslag. Frankrike är positivt. Irland, Danmark, Rumänien, Cypern och Bulgarien vill fortfarande ha skanning av textmeddelanden och röstsamtal. Spanien undrar hur detta är tänkt att fungera med Word- och PPT-dokument som ju kan ha inbäddade bilder. Estland kommer att återkomma med ett eget förslag. Nederländerna säger nej till AI-stödd efterforskning av tidigare okänt olagligt innehåll. Sverige tycks inte ha framfört någon åsikt.

Det belgiska ordförandeskapets förhoppning är att man skall få fram ett slutligt förslag, utan blockerande minoritet, till nästa möte med ministerrådet. Spontant känns det rätt osannolikt, men man kan aldrig veta. Det räcker med ett majoritetsbeslut.

Förr eller senare kommer ministerrådet fram till något, som i så stor utsträckning som möjligt lär ligga i närheten av EU-kommissionär Ylva Johanssons ursprungliga förslag.

Då blir det förhandlingar mellan rådet, parlamentet och kommissionen. Därför gäller det att välja ledamöter till Europaparlamentet som begriper frågan och som är uttalade motståndare till Chat Control 2. (Det utgående parlamentet har sagt nej till Chat Control 2 i dess centrala delar.)

I sammanhanget är det värt att notera att det redan idag sker en omfattande frivillig skanning av innehåll i meddelanden och postningar i jakt på olagligt innehåll med övergrepp på barn. (Vilket regleras i användarvillkoren och har Chat Control 1 som rättslig grund.) Detta ger fler flaggningar än polisen hinner utreda. Hos den svenska polisen finns redan idag en back log på 13.000 anmälningar. Det kanske är bättre att man börjar med att beta av dessa innan man stiftar nya lagar som bygger på ännu inte existerande AI-teknik.

Länkar:
• ‘Let yourself be monitored’: EU governments to agree on Chat Control with user “consent” »
• Belgien will Nutzer verpflichten, Chatkontrolle zuzustimmen »

Arkiverad under: EU, Länktips, Övervakning, Privatliv, Spaning, Storebror Taggad som: chat control, ChatControl, EU:s ministerråd

EU-valet och internets framtid

22 maj 2024 av Henrik Alexandersson

Här är fyra frågor som borde vara aktuella i EU-valet: Chat Control 2, rätten till krypterad kommunikation, EU:s nya hat-förbud och ett nytt datalagringsdirektiv.

• Chat Control 2

EU-kommissionär Ylva Johanssons förslag om att låta AI granska innehållet i medborgarnas elektroniska meddelanden och konversationer – Chat Control 2 – står still.

Ministerrådet kan inte komma överens om någon gemensam kompromiss och Europaparlamentet har sagt nej till alla centrala delar i CC2.

Parlamentets beslut fattades i en unik bred enighet över partigrupperna, med hänvisning till att CC2 strider mot vad de mänskliga rättigheterna har att säga om rätten till privatliv och privat korrespondens.

På köpet hoppas parlamentet ha gjort sig av med en besvärlig fråga i EU-valrörelsen.

Inte desto mindre måste ett slutligt beslut om CC2 fattas under våren 2026, under nästa EU-mandatperiod. Och kommissionen och ministerrådet biter sig fortfarande fast vid det ursprungliga förslaget.

Socialdemokraterna tycks i huvudsak vara för CC2, även om de tillsammans med sin partigrupp i parlamentet står bakom parlamentets nej (tills vidare). Regeringspartierna är för CC2 i modifierad form, men står även de bakom Europaparlamentets nej.

Man kan ana en viss kognitiv dissonans. Det är uppenbart att man försöker vinna tid och ducka frågan om CC2 till efter EU-valrörelsen.

• »Going dark«

På initiativ av det tidigare svenska EU-ordförandeskapet har EU-kommissionen satt upp en ljusskygg »high level group« för att försöka bereda sig tillgång till totalsträckskrypterad (end-to-end-krypterad, E2EE) kommunikation.

(Från början var det en »high level expert group«, men ordet »expert« togs bort då expertgrupper enligt reglerna har större krav på öppenhet och transparens.)

Detta är en fråga där hela vår IT-säkerhet sätts på spel genom krav på bakdörrar till krypterad kommunikation. Här är både politiken och ordningsmakten pådrivande.

Denna ambition kolliderar dels med Europadomstolens beslut om att kryptering är en del av rätten till privat kommunikation, som är en grundläggande mänsklig rättighet. Dels mot EU-domstolens principiella beslut om att man får övervaka personer som misstänks för brott – men inte alla andra, hela tiden.

I sammanhanget kan noteras att det redan finns verktyg som hemlig dataavläsning för att övervaka personer som misstänks för brott. Vilket då sker med spionprogram på den misstänktes telefon och/eller dator.

Var Going Dark-projektet kommer att landa är oklart. Men det är uppenbart att Europaparlamentet har en viktig kontrolluppgift, så att projektet inte går bortom vad som kan accepteras i en demokratisk rättsstat och inom ramen för de mänskliga rättigheterna.

Europaparlamentet är rent av den enda institution som kan bedriva sådan tillsyn. Så det gäller att välja ledamöter som förstår och intresserar sig för frågan.

• EU:s nya hat-förbud

Under mandatperioden kommer EU att utöka katalogen över »EU-brott« med hat och hot. Andra exempel på EU-brott är terrorism och vapensmuggling.

För att göra detta måste EU:s institutioner komma fram till en definition av brottet och ett minimistraff. I en resolution som nyligen antogs ger Europaparlamentet kommissionen fria tyglar att definiera nästan vad som helst som hat. Detta kan bli helt tokigt.

M+KD+L+C+S+MP+V röstade för resolutionen. De bör avkrävas svar på vilka yttranden de vill förbjuda. Före valet.

Lagstiftningsprocessen kommer att äga rum under den kommande EU-mandatperioden.

• Datalagring

2014 upphävde EU-domstolen EU:s datalagringsdirektiv, för att det strider mot de mänskliga rättigheterna och vad dessa har att säga om rätten till privatliv och privat korrespondens.

Datalagring innebär lagring av metadata om allas telefonsamtal, SMS, e-postmeddelanden, uppkopplingar och mobilpositioner.

Det var i samband med detta beslut som EU-domstolen etablerade principen: Övervaka dem som misstänks för brott – inte alla andra, hela tiden.

Många medlemsstater (däribland Sverige) har med olika krumbukter och trots EU-domstolens protester fortsatt sin datalagring ändå. Nyligen föreslog en svensk utredning att den skall utökas. (Vårt remissyttrande.)

Både EU-kommissionen och ministerrådet är inne på att det behövs ett nytt datalagringsdirektiv som rundar domstolens principbeslut. Även detta är en process som kommer att hanteras under den kommande mandatperioden.

Glöm inte fråga dina EU-kandidater vad de tycker i frågorna ovan.

Arkiverad under: Aktivism, Datalagring, Demokrati, EU, Hemlig dataavläsning, Kryptering, Övervakning, Privatliv, Säkerhet, Spaning, Storebror, Yttrandefrihet Taggad som: ChatControl, EU-val, hat och hot

Socialdemokraternas ID-krav för sociala media hotar det fria ordet

16 maj 2024 av Henrik Alexandersson

Socialdemokraterna vill införa EU-regler om ID-krav för att öppna konto på sociala media. Vilket kan få allvarliga konsekvenser för yttrandefriheten och den fria åsiktsbildningen.

Pressmeddelandet säger »S vill att varje konto på stora sociala medieplattformar i EU ska gå att koppla till en riktig person. Du ska behöva identifiera dig, med exempelvis Bank-ID eller att ladda upp bild på ID-handling, när du skapar ett konto på de stora plattformarna inom EU.«

Socialdemokraterna vill även begränsa hur många konton en enskild person får ha.

Samtidigt verkar man inse att förslaget kan få orimliga konsekvenser, då man tillägger att »Det ska enligt förslaget inte finnas krav på att visa sitt riktiga namn utåt, men förslaget skulle göra att det går att identifiera vem som ligger bakom ett konto…«

Låt oss försöka bena ut detta. Yttrande- och tryckfrihetslagstiftningen är främst till för att garantera människors rätt att uttrycka sig utan att censureras eller drabbas av represalier från statens sida.

Vilket kolliderar med ett ID-krav, då staten tillsammans med Big Data är den aktör som enklast kan bereda sig tillgång till ett kontos bakomliggande identitet.

Visselblåsare, dissidenter, utsatta minoriteter och personer som befinner sig i konflikt med myndigheter är bara några exempel på personer vars praktiska möjlighet att göra sin röst hörd kan komma att inskränkas med dagens (s)-förslag.

Man kan även notera att idén om att införa ID-krav för sociala media på EU-nivå innebär att man ger de regeringar i olika EU-länder som man annars anklagar för bristande demokratiskt sinnelag möjlighet att efterforska och trakassera oppositionella.

Detta är bara några exempel på vad som står på spel. Kopplar man sedan ID-kravet till planerna om att göra hot till ett »EU-brott« (utan att närmare specificera vilka yttranden det är man vill förbjuda) öppnas skrämmande möjligheter till åsiktsförtryck.

I ett vidare perspektiv är det obehagligt när politiken vill bereda sig tillgång till sina kritikers identitet. Det är sådant som sker i Kina och Ryssland.

Dagens utspel är ett i raden av ogenomtänkta förslag om att inskränka internets frihet som saknar såväl kunskap i ämnet som en rimlig konsekvensanalys.

Slutligen framstår S-förslaget som inrikespolitiskt poserande, då det bara är EU-kommissionen som kan lägga fram förslag till lagstiftning på EU-nivå. Magdalena Anderssons inflytande är i sammanhanget högst begränsat, även om det finns en risk att hon ger kommissionen dumma idéer.

Arkiverad under: Demokrati, EU, Nätkultur, Sociala media, Storebror, Sverige, Yttrandefrihet Taggad som: anonymitet, EU-val, ID-krav, Socialdemokraterna

Kräv svar om Chat Control 2 innan EU-valet

6 maj 2024 av Henrik Alexandersson

Flera partier talar med kluven tunga om Chat Control 2. Därför måste vi kräva tydliga besked innan EU-valet.

EU-valrörelsen är det naturliga tillfället för de politiska partierna att berätta hur de tänker förhålla sig till EU-kommissionens förslag om att låta AI granska innehållet i medborgarnas privata elektroniska meddelanden, Chat Control 2. Men det är tyst.

Frågan har kört fast i ministerrådet och Europaparlamentet har i en unik gruppöverskridande kompromiss sagt nej till CC2 i dess centrala delar.

Från de politiska partierna hänvisas i allmänna ordalag till parlamentets nej. Men det ger inget svar på frågan om vad som kommer att hända efter EU-valet. Det är bara ett bekvämt sätt att ducka jobbiga frågor i EU-valrörelsen.

Senast våren 2026 måste ett nytt beslut fattas. Det vill säga under nästa mandatperiod.

Hur Sverige kommer att rösta i EU:s ministerråd beslutas i samråd mellan regeringen och riksdagens EU-nämnd. Här bör man notera att regeringen (M+KD+L) i stort sett stöder EU-kommissionens förslag, med vissa justeringar. I riksdagen är även (S) positiva till CC2. (SD) försöker säga så lite som möjligt. (V) och (C) säger nej till CC2. (MP) har bytt åsikt flera gånger under processen.

I Europaparlamentet har alla partier ställt sig bakom dess gruppöverskridande nej till CC2. Dock finns oklarheter. I en enkät som genomförts av Tidningsutgivarna är (S) uttalat positiva till det ursprungliga förslaget – trots att man röstat nej i parlamentet. (KD) hävdar att de både står bakom CC2 och parlamentets principiella nej – vilket är två oförenliga positioner. (M+L+C+Mp+V) står bakom parlamentets nej, men ger inga indikationer om hur man kommer att hantera frågan framöver. (SD) säger ingenting i enkäten men har varit uttalade motståndare till CC2 i parlamentet.

Sara Skyttedal på Folklistan stöder Europaparlamentets nej. Hur resten av partiets kandidater ställer sig är oklart. Bland övriga småpartier som varken sitter i riksdagen eller Europaparlamentet säger Piratpartiet, Medborgerlig Samling och Partiet MoD tydligt nej till CC2.

Som synes finns det en skillnad mellan hur de etablerade partierna ställer sig på hemmaplan respektive i Bryssel. Vill man rösta mot CC2 bör man därför rösta på partier som tydligt säger nej både i riksdag/regering och i Europaparlamentet.

Notera också att det faktum att ett parti röstat för Europaparlamentets uppgörelse (nej till CC2) inte är någon garanti för hur de kommer att hantera frågan när den kommer upp till förnyad behandling efter valet. Och som synes ovan talar vissa med kluven tunga.

Därför är det dags att kräva besked – innan valet.

Läs mer:
• Chatcontrol.se »
• Chatcontrol.eu »

• StopScanningMe.eu »

Följ oss även på Twitter: @femtejuli

Arkiverad under: Aktivism, EU, Övervakning, Privatliv, Spaning, Storebror, Sverige Taggad som: chat control, ChatControl, EU-nämnden, EU-val

Riksdagen vill ge regeringen rätt att införa undantagstillstånd på lösa grunder

2 maj 2024 av Henrik Alexandersson

En parlamentarisk kommitté vill att regeringen skall kunna ge sig själv rätt att utlysa undantagstillstånd och inskränka grundläggande fri- och rättigheter.

Efter pandemin tillsattes en parlamentarisk kommitté för att utreda möjligheten att utlysa undantagstillstånd. Detta efter att den då sittande regeringen upptäckt att det fanns konstitutionella begränsningar för vad den kunde göra.

I vintras presenterades förslaget »Stärkt konstitutionell beredskap« (SOU 2023:75). Här föreslås regeringen få utökad delegerad makt vad gäller »normgivning«. Vilket i sammanhanget betyder rätten att snabbt stifta eller ändra lagar och förordningar utan att behöva invänta riksdagen. (Det vill säga undantagstillstånd.)

Enkelt uttryckt är förslaget en tvåstegsraket:

  1. Riksdagen kan med kvalificerad majoritet (3/4) ge regeringen rätt att på egen hand utfärda förordningar på i princip vilket område som helst – inklusive skatt, inskränkningar av fri- och rättigheter, straff och civilrätt.
  2. Om det krävs kan regeringen ge sig själv denna rätt. Sådana beslut gäller i högst tre månader och skall bekräftas av riksdagen inom 30 dagar.

I det andra fallet får regeringen samma makt som under krig, i en situation där riksdagens krigsdelegation är förhindrad att sammanträda. Regeringen kan då ge sig själv rätt att ändra vilka lagar den vill utom grundlagen, riksdagsordningen och vallagen (för att undvika att denna makt används för en regelrätt statskupp).

Detta är ett tydligt brott mot principen om maktdelning – vars syfte är att förhindra maktkoncentration, maktmissbruk och övergrepp.

Förslaget innebär en uppenbar risk för oacceptabla inskränkningar av människors fri- och rättigheter. Dessutom uppfyller förslaget inte de kvalitetskrav som bör ställas för att ligga till grund för lagstiftning. Därför avstyrker 5 juli-stiftelsen den parlamentariska kommitténs förslag i sitt remissyttrande.

Men är det inte bra att regeringen kan fatta snabba beslut i dessa oroliga tider? Ur vårt remissvar:

»Syftet med konstitutionella begränsningar av det slag som finns i regeringsformen är att hindra att beslut fattas i panik eller av kortsiktiga partipolitiska skäl. Framför allt i krislägen (eller påstådda krislägen) kan det finnas ett starkt tryck – från politiska motståndare, från media eller från allmänheten – att ”göra något”.

I länder som tillåter undantagslagar används dessa tämligen frekvent, och undantagstillstånd tenderar att bestå långt efter att faran är över. Detta gäller även i demokratier: I Frankrike bestod det undantagstillstånd som infördes 2015 i samband med terrordådet mot Charlie Hebdo i hela två år. Man införde även undantagstillstånd i samband med upploppen i förorter 2005. Amerikanska delstater har använt dem i samband med strömavbrott, orkaner och brottslighet. I Slovakien har undantagslagar använts i samband med att vårdpersonal sade upp sig från sina arbeten. Erfarenheten från andra länder är att om verktygen finns kommer regeringar att lockas att använda dem.«

När är det då tänkt att den svenska regeringen skulle kunna använda sig av den »delegerade normgivningen« a.k.a. undantagstillstånd?

Någon definition av vad som i sammanhanget kan anses vara en tillräckligt »allvarlig fredstida kris« ges inte. Det lämnas till regeringen själv att avgöra. Däremot har kommittén en del exempel. Åter till vårt remissvar:

»De exempel på potentiella kriser där undantagslagar skulle kunna användas som ges i utredningen är också mycket lång (s 107f). Där listas sådant som It-attackerna mot Coop i Norrbotten, finanskriser, flygkapningar, skogsbränder, värmeböljor och snöoväder.

De exempel som ges i utredningen visar också snarast att vi klarat oss alldeles utmärkt utan undantagslagar. Utredningen visar inte heller på vilket sätt det hade tjänat oss bättre om regeringen utan riksdagens stöd kunnat inskränka fri- och rättigheter i samband med skogsbranden i Västmanland eller när bygget av tunneln genom Hallandsås inte gick som planerat.

Uppräkningen kan dock tas som intäkt att utredningen förväntar sig att undantagsregeln är tänkt att användas tämligen ofta (uppräkningen omfattar i genomsnitt en händelse vartannat år).

Det kan också konstateras att flera av kriserna som räknas upp är att betrakta som närmast politiska till sin natur (Finanskrisen 1990, Tsunamikatastrofen 20041, Tunnelbygget genom Hallandsåsen och flyktingsituationen 2015).

Här måste man ställa sig frågan om det är utredningens mening att en regering som inte får stöd för att vidta åtgärder för att hantera en politisk fråga i stället skulle kunna tillgripa undantagsbestämmelsen om “fredstida kris” och genomföra politiken utan stöd i riksdagen. Utredningen utvecklar dock inte hur den resonerat i detta avseende.«

Även Europakonventionen om de mänskliga rättigheterna säger stopp.

»Enligt konventionens artikel 15 ska ”ett allmänt nödläge som hotar nationens existens” föreligga för att reglerna i konventionen om mänskliga rättigheter ska kunna göras avsteg ifrån. Det är svårt att se att de exempel (it-attacker mot företag, skogsbränder, jordskred) som utredningen tar upp skulle hota ”nationens existens”.

Att inte strida mot internationella konventioner om mänskliga rättigheter är en mycket låg ribba, att ett förslag når över den innebär inte att det är välavvägt eller önskvärt, men måste ses som ett grundkrav.«

Man bör även ställa sig frågan om man vill ge sin värsta politiska motståndare rätten att proklamera undantagstillstånd och makt att stifta nya lagar som passar den egna agendan. Såväl Kant som Nietzsche och närmsta historiebok varnar för sådant.

Den frågan är extra aktuell med tanke på att Sverige haft minoritetsregeringar i 20 års tid.

Även den borgerliga tankesmedjan Timbro varnar för den parlamentariska kommitténs förslag. I rapporten »Har nöden ingen lag?« (PDF) av Adam Danieli framförs bland annat följande kritik:

  • att tillämpningsområdet för regeringens maktbefogenheter saknar tydliga avgränsningar och minoritetsskydd,
  • att reformen är omotiverat långtgående,
  • att argumenten för en tydlig parlamentarisk förankring även i kristid inte beaktas, och
  • att flera lagtekniska frågor har lämnats obesvarade.

Även här ställs frågan vad som kan anses vara en tillräckligt »allvarlig fredstida kris« för att en fullmaktslag skall träda i kraft.

»En avgörande fråga i alla diskussioner om konstitutionell beredskap är givetvis vilka situationer som ska räknas som kriser eller vilken allvarströskel som ska sättas för att ett nödläge ska vara för handen – det så kallade separabilitetsproblemet.

Kan en allvarlig våg av brottslighet vara en kris? Är klimathotet en kris? Ska terrordåd och naturkatastrofer särskilt pekas ut som krissituationer? Krävs det konsekvenser av viss omfattning? Måste krisen ha skett i det egna landet? Ska ett särskilt organ avgöra om en kris föreligger och därefter deklarera det?«

Här påpekas även att kommittén har en något naiv syn på politiskt beslutsfattande:

»En mer realistisk bild av politiker i pressade situationer innefattar begränsad kunskap, risken för överreaktioner och en möjlighet att varje oklarhet i befogenhet tolkas extensivt, särskilt på lång sikt. Utegångsförbud, begränsningar i yttrandefrihet och kriminaliseringar, som skulle kunna vara områden där en förstärkt delegation är aktuell, utgör kraftiga ingrepp och kan, mot bakgrund av flera internationella exempel, också komma att bli mer långsiktiga förändringar av den offentliga makten.«

Frågetecknen är fler:

»Kommittén tar inte heller tydlig ställning till en helt central fråga i debatten, nämligen om covid-19-pandemin hade varit att betrakta som en allvarlig fredstida kris, och i så fall i vilka skeden. Borde regeringen ha använt de föreslagna befogenheterna under våren 2020, och i så fall hur?

Läsaren lämnas också utan svar vad gäller andra viktiga historiska referenser i Sverige. Var Göteborgskravallerna eller finanskrisen 2008 allvarliga fredstida kriser? Utgör politiska kriser, såsom flyktingkrisen 2015 eller koranbränningarna 2023, allvarliga fredstida kriser? Kan allvarliga fredstida kriser uppstå genom helt lagligt handlande från personer i Sverige eller krävs lagbrott eller extern påverkan?«

Timbros rapport påpekar även att det i Sverige saknas skarpa möjligheter till rättslig prövning av beslut som fattas av en regering som agerar med fullmakt. Här noteras dessutom att minoritetsskyddet är svagt om ett återkallande av regeringens beslut måste ske med 3/4 majoritet.

Dessutom tar Danieli upp ett antal centrala tekniska frågor som lämnas obesvarade. Som den här:

»Inget hinder finns heller i förslaget för att regeringen, efter att ha givit sig själv ett särskilt bemyndigande som sedan inte uppnått tre fjärdedelars majoritet i riksdagen och därför upphävts av riksdagen, ger sig själv samma särskilda bemyndigande på nytt. Riksdagen har enligt förslaget ingen möjlighet att beröva regeringen möjlighet att agera självmant, och en misstroendeförklaring tar inte ifrån regeringen makten att fatta samma beslut i egenskap av övergångsregering. Det saknas skäl att inte förena ett avslag på bemyndigande i riksdagen med en begränsning av möjligheten att besluta om ett nytt, likadant bemyndigande.«

Demokratins paradox är att den kan avskaffa sig själv. Den parlamentariska kommitténs förslag om undantagstillstånd är ett exempel på detta.

Man är vårdslöst oprecis, tycks sakna insikt om behovet av maktdelning, gör ingen egentlig konsekvensanalys, bortser (medvetet) från risken för politiskt fulspel samt att man bryter mot grundläggande demokratisk självbevarelsedrift: Stifta inga lagar som du inte vill att din värste politiske motståndare skall kunna utnyttja mot dig.

Att riksdagen i ett allvarligt läge kan delegera rätten att fatta beslut till regeringen kan möjligen vara en sak, även om det medför betydande risker.

Att ta ett steg till och låta regeringen ge sig själv tillstånd att införa undantagstillstånd är att gå över gränsen.

Man kan för övrigt fråga sig varför de folkvalda är så angelägna att delegera sin makt till regeringen.

Här är par sista ord, ur vårt remissvar:

»Erfarenheterna från hur undantagslagar missbrukats i andra länder – liksom försöken i Sverige under coronapandemin att införa restriktioner i med hjälp av fullmaktslagar – talar snarast för att riksdagens makt bör stärkas. Det skulle exempelvis kunna göras genom att ställa krav på att lagstiftning som inskränker människors fri- och rättigheter alltid måste fattas med kvalificerad majoritet. Skulle det röra sig om verkligt allvarliga situationer, och om välmotiverade förslag, är det svårt att tänka sig att riksdagen inte kunnat stödja dem. Att de beslut som fattas är kloka och välförankrade är sannolikt aldrig så viktigt som i en allvarlig krissituation. Ogenomtänkta beslut med svagt stöd kan snabbt underminera förtroendet för de politiska institutionerna.«

Läs mer:
• 5 juli-stiftelsens remissvar »
• Stärkt konstitutionell beredskap (SOU 2023:75) »
• Rapport: Har nöden ingen lag? »
• SvD debatt: ”Säg nej till undantags­tillståndet” »

Fotnot: Den parlamentariska kommitténs förslag stöds av alla riksdagens partier utom MP.

Arkiverad under: Demokrati, Länktips, Rättssäkerhet, Storebror, Sverige Taggad som: normgivning, regeringen, riksdagen, undantagstillstånd

  • « Go to Föregående sida
  • Sida 1
  • Interimistiska sidor utelämnas …
  • Sida 8
  • Sida 9
  • Sida 10
  • Sida 11
  • Sida 12
  • Interimistiska sidor utelämnas …
  • Sida 97
  • Go to Nästa sida »

Primärt sidofält

Nätfrihet och integritet!

Femte juli är en nätpolitisk nyhetssajt som står på internetanvändarnas sida. Läs mer.

  • Twitter: Femtejuli
  • Youtube
  • Soundcloud: 5july
  • RSS-flöde

Prenumerera på inlägg


Loading

Senaste inlägg

  • Chat Control 2 – fortsatt låst läge i ministerrådet12 maj 2025
  • EU rullar ut app för åldersverifikation8 maj 2025
  • Svenska folket säger ja till »censur« av media och enskilda7 maj 2025
  • Övervakningsstaten i de kriminellas händer?6 maj 2025
  • Regeringen bygger ut kontrollstaten29 april 2025

Senaste kommentar

  1. Chat Control 2 i långbänk om Chat Control 2 – omvända roller i ministerrådet15 mars 2025

    […] Läs mer om de låsta positionerna i EU:s ministerråd: Chat Control 2 – omvända roller i ministerrådet » […]

CC BY 4.0 · Logga in

  • Youtube
  • Twitter
  • RSS