EFF sammanfattar problemen med automatiserade uppladdningsfilter – vilka saknar omdöme, humor och förmåga att bedöma kontext.
»General monitoring is problematic both when it is directly required by law and when, though not required, it is effectively mandatory because the legal risks of not doing it are so great. Specifically, these indirect requirements incentivize platforms to proactively monitor user behaviors, filter and check user content, and remove or locally filter anything that is controversial, objectionable, or potentially illegal to avoid legal responsibility. This inevitably leads to over censorship of online content as platforms seek to avoid liability for failing to act “reasonably” or remove user content they “should have known” was harmful.«
Så skriver Electronic Frontier Foundation (EFF) i sin text »General Monitoring is not the Answer to the Problem of Online Harms«.
Man listar även en del konkreta problem med uppladdningsfilter och andra former av generell övervakning av vad folk postar på sociala media. Några exempel:
- De stora volymerna material kräver att skanning och beslut sker med hjälp av automatiska uppladdningsfilter, som kan spegla respektive plattforms subjektiva premisser och även leda till profilering.
- Uppladdningsfilter drabbas ofta av fel, är notoriskt opålitliga och leder till överblockering.
- Uppladdningfilter strider mot de grundläggande mänskliga rättigheterna (rätten att fritt uttrycka sig) som går bortom vad som är proportionellt och nödvändigt.
- Granskning av allt som laddas upp kommer att ha en avkylande effekt på yttrandefriheten.
- Uppladdningsfilter kan även ge företag och stat möjlighet till profilering av användare.
- Uppladdningsfilter är stora och dyrbara system, som gör det svårt för nya aktörer att slå sig in på den sociala mediemarknaden.
Sedan kan man tillägga att uppladdningsfilter saknar förmåga att bedöma kontext, saknar humor och omdöme.
»We have previously expressed concern about governments employing more aggressive and heavy-handed approaches to intermediary regulation, with policymakers across the globe calling on platforms to remove allegedly legal but ‘undesirable’ or ‘harmful’ content from their sites, while also expecting platforms to detect and remove illegal content. In doing so, states fail to protect fundamental freedom of expression rights and fall short of their obligations to ensure a free online environment with no undue restrictions on legal content, whilst also restricting the rights of users to share and receive impartial and unfiltered information. This has a chilling effect on the individual right to free speech wherein users change their behavior and abstain from communicating freely if they know they are being actively observed—leading to a pernicious culture of self-censorship.«
Uppladdningsfilter kommer att bli den praktiska effekten av till exempel EU:s nya upphovsrättsdirektiv och dess förordning om terror-relaterat innehåll online. En bredare användning av uppladdningsfilter diskuteras bland annat i EU:s ministerråd.
Läs hela texten: General Monitoring is not the Answer to the Problem of Online Harms »
