Op dit blog besteedde ik eerder aandacht aan de Nederlandse uitvoeringswet [1] van een Europese verordening [2] tegen terroristische online-inhoud en vroeg ik me af of deze regelgeving tot onnodige beperking van de meningsuiting zou kunnen leiden.

Bij Netzpolitik las ik [3] dat zes not-for-profit organisaties (zowel Frans als Europees) [4] in Frankrijk een procedure [5] tegen de Franse uitvoeringswet inzake deze verordening zijn gestart. De gezaghebbende Europese organisaties EDRi (koepel van nationale privacy organisaties) en de European Center for Not-for-Profit Law hebben zich achter deze procedure gesteld.

EDRi heeft een Engelstalig persbericht [6] gepubliceerd waarin wordt uitgelegd welke bezwaren men tegen de verordening heeft [7]:

Op grond van deze verordening kunnen rechtshandhavingsinstanties in een EU-land een website, een socialemediaplatform of elke onlinedienstverlener die door gebruikers gegenereerde inhoud host, bevelen om binnen een uur alle inhoud te blokkeren waarvan wordt beweerd dat deze van terroristische aard is – in alle lidstaten van de EU. Deze serviceproviders kunnen ook worden gedwongen om “specifieke maatregelen” te nemen om de publicatie van terroristische inhoud te voorkomen. Deze “specifieke maatregelen” – waarvan de keuze aan de serviceproviders blijft – kunnen bijvoorbeeld geautomatiseerde uploadfilters omvatten die alle inhoud scannen voordat deze wordt gepubliceerd. Dergelijke geautomatiseerde systemen zijn niet in staat om rekening te houden met de context van de publicatie en zijn notoir gevoelig voor fouten die resulteren in de censuur van beschermde uitingen zoals journalistiek, satire, kunst of documentatie van mensenrechtenschendingen. Bovendien kan de verplichting om “specifieke maatregelen” te nemen in strijd zijn met het verbod op het opleggen van een algemene toezichtverplichting onder de Digital Services Act. (…)

“De kwestie van online content moderatie is een serieuze zaak en het antwoord kan geen simplistische maar gevaarlijke techno-solutionistische politiecensuur zijn.”
Bastien Le Querrec, juridisch medewerker bij La Quadrature du Net, de leidende NGO van de coalitie

Deze kritiek verbaast me niet. Ik ben benieuwd naar de uitkomst van de procedure. Volgens het persbericht wordt de beslissing van de Franse Conseil d’État, die nu aan zet is, pas volgend jaar verwacht.

Het illustreert dat de Europese wetgever de grondrechten niet serieus neemt en te hoge verwachtingen heeft van IT.
Dat geeft zorgen vanwege alle andere wetgevende activiteiten van Europa, zoals op het gebied van open finance en privatisering van de criminaliteitsbestrijding.

Noten

[1] Het betreft de Nederlandse Uitvoeringswet verordening terroristische online-inhoud, die op 1 september jl. in werking is getreden (dossier). Door middel van deze wet is de Autoriteit Online Terroristisch en Kinderpornografisch Materiaal opgericht. Daarover schreef ik:

• Eerste Kamer accordeert wet inzake verwijderingsbevelen terroristische inhoud, 1 april 2023 en
• Wet inzake verwijderingsbevelen terroristische inhoud door Tweede Kamer aangenomen, 9 januari 2023.

[2] Verordening 2021/784 van het Europees Parlement en de Raad van 29 april 2021 inzake het tegengaan van de verspreiding van terroristische online-inhoud (TERREG), overzichtspagina, Nederlandstalige html-versie.

[3] In het artikel NGOs klagen gegen EU-Verordnung zu Terror im Internet (vrije vertaling: not-for-profitorganisaties maken bezwaar tegen de Europese verordening tegen terrorisme op het internet).

[4] La Quadrature du Net, Access Now, Article 19, European Center for Not-for-Profit Law, Wikimedia Frankrijk und European Digital Rights (EDRi).

[5] Het procesdocument is in het Frans en is op de site van La Quadrature du Net te vinden (pdf).

[6] Persbericht A coalition of six organisations takes EU’s dangerous terrorist content regulation to court, 9 november 2023.

[7] Machinevertaling van:

Under this regulation, law enforcement authorities in an EU country can order a website, a social media platform or any online service provider which hosts user-generated content to block within one hour any content alleged to be of terrorist nature – across all Member States in the EU. These service providers can also be forced to implement “specific measures” to prevent the publication of terrorist content. These “specific measures” – the choice of which remains at the discretion of the service providers – may include, for example, automated upload filters which scan all content before publication. Such automated systems are unable to take account of the context of the publication and are notoriously prone to errors that result in the censorship of protected speech such as journalism, satire, art, or documentation of human rights abuses. Furthermore, the obligation to adopt “specific measures” may violate the prohibition of imposing a general monitoring obligation under the Digital Services Act.

In het bericht wordt verwezen naar kritiek van andere organisaties. In maart 2021 is een open brief aan het Europees parlement gestuurd, ondertekend door een zeer groot aantal not-for-profit organisaties, onder meer uit Nederland: Bits of Freedom, Liga voor de Rechten van de Mens en Vrijschrift.org.