In januari dit jaar werd een wet inzake verwijderingsbevelen terroristische inhoud [1] aangenomen door de Tweede Kamer (blog). Op 21 maart jl. heeft de Eerste Kamer het wetsvoorstel eveneens geaccordeerd [2].

Tijdens de behandeling zijn er nog vragen door leden van de Eerste Kamer gesteld, die in de memorie van antwoord [3] door de minister van Veiligheid werden beantwoord. Die vragen betreffen de relatie van de minister tot het nieuwe zelfstandige bestuursorgaan (de Autoriteit online Terroristisch en Kinderpornografisch Materiaal, ‘ATKM’) en de verhouding met gemeentelijke activiteiten op hetzelfde terrein.

Verwijderingspraktijk
Verder werden vragen gesteld over de verwijderingspraktijk en het toepassen van digitale surveillance systemen bij het detecteren van foute inhoud, waarover de minister van Veiligheid onder meer het volgende schrijft (de ‘TOI-verordening’ is de Europese wet waarnaar de Nederlandse wet verwijst):

Voor zover de vraag ziet op de toepassing van geautomatiseerde instrumenten door de ATKM merk ik graag het volgende op. De ATKM kan ervoor kiezen automatische instrumenten toe te passen voor de detectie en identificatie van online-materiaal. Indien vermoedelijke terroristische onlineinhoud door de ATKM wordt aangetroffen door de inzet van dit soort instrumenten, wordt deze vervolgens altijd beoordeeld door een detectiemedewerker. Deze medewerker ontvangt hiervoor een speciale opleiding, die zowel ziet op detecteren van online terroristisch materiaal als op het duiden daarvan. Binnen de ATKM is sprake van een functiescheiding. Als de detectiemedewerker oordeelt dat online-inhoud terroristisch van aard is, dan legt deze het materiaal voor aan de specialist handhaving en beoordeling. Deze juridisch medewerker toetst het materiaal aan de definities van de TOI-verordening en stelt, indien dat nodig wordt geacht, een verwijderingsbevel op. Waar nodig wordt de medewerker ondersteund door een senior specialist die tevens toeziet op de consistentie in de beoordeling. Het verwijderingsbevel wordt ter accordering aan het bestuur voorgelegd.

Voor zover aanbieders van hostingdiensten met behulp van automatische instrumenten invulling geven aan de verplichting tot het nemen van specifieke maatregelen, geldt het volgende. De TOIVerordening verplicht aanbieders van hostingdiensten in bepaalde gevallen tot het nemen van specifieke maatregelen om hun diensten te beschermen tegen de verspreiding van terroristische inhoud onder het publiek. (…)

Specifiek voor het gebruik van geautomatiseerde instrumenten stelt de TOI-verordening in artikel 5, lid 3 een aanvullende eis. Wanneer een aanbieder van hostingdiensten kiest voor geautomatiseerde instrumenten dienen passende en doeltreffende waarborgen te worden geboden, met name door te voorzien in toezicht en verificatie door mensen. Hierdoor wordt niet alleen nauwkeurigheid gewaarborgd maar ook voorkomen dat materiaal dat niet terroristisch van aard is, wordt verwijderd. Op deze manier wordt voorkomen dat automatische instrumenten zelfstandig, zonder tussenkomst van mensen, bepalen welk materiaal wél en welk materiaal niet op een platform is toegestaan.

Volgens de minister zijn er voldoende waarborgen in de regelgeving voor de naleving van de vrijheid van meningsuiting en van informatie, de eerbiediging van het privéleven en de bescherming van persoonsgegevens.

Controversiële standpunten in het publieke debat
Een andere vraag betrof het onderscheid tussen enerzijds verboden inhoud en aan de andere kan wel toegestane radicale, polemische of controversiële standpunten in het publieke debat over gevoelige politieke vraagstukken. De minister schrijft dat er organisatorische maatregelen zijn genomen die moeten waarborgen dat er niet ten onrechte wort verwijderd:

Het kan zijn dat de beoordeling of online-inhoud wel of niet terroristisch van aard is, in sommige gevallen complexer is dan in andere gevallen. Met het oog op een zorgvuldige oordeelsvorming wordt binnen de ATKM het principe van functiescheiding toegepast. Dat betekent dat de functionarissen die potentiële terroristische uitingen op het internet detecteren, niet dezelfde zijn als degenen die deze uitingen beoordelen en zo nodig een verwijderingsbevel opstellen. Hiervoor worden juridisch geschoolde beoordelaars aangesteld (…). Zij zullen de uitingen van geval tot geval toetsen aan de definitie van terroristische online-inhoud in de zin van de TOI-verordening.

Opgemerkt wordt dat er rechtsbescherming achteraf is:

Hierbij benadruk ik dat een beslissing van de ATKM tot het uitvaardigen van een verwijderingsbevel ten aanzien van bepaalde content met rechtswaarborgen is omkleed. Tegen een dergelijke beslissing kan bezwaar en beroep worden ingesteld. Op deze wijze kan door de rechter worden getoetst of het besluit van de ATKM om bepaalde content aan te merken als content met een terroristische inhoud die verwijderd dient te worden, op juiste gronden is genomen en voldoende is gemotiveerd. In het bijzonder ten aanzien van controversiële standpunten merk ik op dat er mede om deze reden voor is gekozen de ATKM in te richten als zelfstandig bestuursorgaan, zodat (de schijn van) politieke inmenging bij de beoordeling van uitingen wordt voorkomen.

Voorspelbaarheid
Op de vraag naar de voorspelbaarheid van de regels antwoordt de minister dat wat online-uitingen met een terroristische inhoud zijn voldoende uit de Europese verordening zou blijken [4]. Kennelijk worden de besluiten van de ATKM openbaar, want de minister schrijft:

Het is de verwachting dat in de loop der tijd met het toenemend aantal besluiten van de ATKM, nog inzichtelijker zal worden welke overwegingen bij de verwijdering van content doorslaggevend zijn. Daarbij is de inzet van de ATKM niet alleen normstellend van aard. De opzet van de ATKM gaat ook uit van samenwerking met de sector. Hierbinnen is ook ruimte voor nadere toelichting op de definities en de weging daarvan door de ATKM in de praktijk.

Kennelijk moeten burgers naar de rechter als de overheid zich misdraagt en is men niet bereid nu al duidelijkheid te verschaffen:

Tot slot is de verwachting dat, met het van kracht zijn van de TOI-verordening, ook gebruik zal worden gemaakt van de beschikbare rechtsmiddelen en er jurisprudentie zal ontstaan die ook bijdraagt aan nadere voorspelbaarheid. Bovendien kunnen nationale rechters – ook de Nederlandse – als zij dat nodig achten prejudiciële vragen over de uitleg van de TOI-verordening stellen aan het Hof van Justitie van de Europese Unie in Luxemburg.

We gaan zien hoe een en ander in de praktijk uitwerkt.

Noten
[1] Officieel: Uitvoeringswet verordening terroristische online-inhoud. Wetsvoorstel zoals aan de Eerste Kamer voorgelegd. Dossier: Tweede Kamer, Eerste Kamer, overheid.nl. De wet geeft uitvoering aan de TOI-verordening, de Verordening 2021/784 van het Europees Parlement en de Raad van 29 april 2021 inzake het tegengaan van de verspreiding van terroristische online-inhoud, overzichtspagina, Nederlandstalige html-versie.
[2] Stemmingen 21 maart 2023.
[3] Memorie van antwoord 10 maart 2023.
[4] Definitie in de TOI-verordening (NL versie):

7. “terroristische inhoud”: een of meer van de volgende soorten materiaal, namelijk materiaal dat:
a) aanzet tot het plegen van een van de in artikel 3, lid 1, punten a) tot en met i), van Richtlijn (EU) 2017/541 genoemde misdrijven, indien dat materiaal direct of indirect, bijvoorbeeld door terroristische daden te verheerlijken, het plegen van terroristische misdrijven bepleit, waardoor een gevaar ontstaat dat een of meer van die misdrijven mogelijk worden gepleegd;
b) een persoon of een groep personen aanspoort om een van de in artikel 3, lid 1, punten a) tot en met i), van Richtlijn (EU) 2017/541 genoemde misdrijven te plegen of daaraan een bijdrage te leveren;
c) een persoon of een groep personen aanspoort om deel te nemen aan de activiteiten van een terroristische groepering, in de zin van artikel 4, punt b), van Richtlijn (EU) 2017/541;
d) instructies biedt voor het vervaardigen of gebruiken van explosieven, vuurwapens of andere wapens of schadelijke of gevaarlijke stoffen, of voor andere specifieke methoden of technieken, met als doel een van de in artikel 3, lid 1, punten a) tot en met i), van Richtlijn (EU) 2017/541 bedoelde terroristische misdrijven te plegen of daaraan een bijdrage te leveren;
e) een dreiging vormt om een van de in artikel 3, lid 1, punten a) tot en met i), van Richtlijn (EU) 2017/541 bedoelde misdrijven te plegen;

Of dat duidelijk is, vraag ik me af…

Aanvulling 21 april 2023
Zie over het bestrijden van terroristenmarketing ook het verslag van een digitale Interparlementaire conferentie van de parlementaire controlegroep Europol (JPSG). In hoofstuk 4, Verslag van de Europese Toezichthouder voor gegevensbescherming (dat is de EDPS), staat:

Ten eerste gaf de EDPS een update over zijn toezicht op de activiteiten die Europol zal verrichten in het kader van verordening 2021/784 inzake het tegengaan van de verspreiding van terroristische online-content. Onder deze verordening kunnen lidstaten de verwijdering van terroristische online-content vorderen bij web providers via een technisch platform genaamd PERCI (“Plateforme Européenne de Retraits de Contenu Illégaux sur internet”) dat door Europol gebouwd wordt en beheerd zal worden. De EDPS gaf aan met Europol in een constructieve dialoog te staan over systeem en gegevensbeschermingsaspecten die hij als zeer complex aanmerkte. De EDPS gaf aan “in de komende weken” zijn (eind)oordeel over het systeem aan Europol te doen toekomen.