Dat zeggen Dionne Abdoelhafiezkhan (Controle Alt Delete), Nadia Benaissa (Bits of Freedom) en Dagmar Oudshoorn (Amnesty International) [1] in het artikel Waarom weigert de overheid te stoppen met discriminerende algoritmen? [2].

Zij schrijven onder meer:

De overheid zet naar eigen zeggen profileringstechnologie in om efficiënt te kunnen controleren of burgers zich aan de wet houden. Daarbij worden burgers niet beoordeeld op hun gedrag, maar op kenmerken die een verhoogd risico zouden voorspellen. Dit draait een fundament van onze rechtsstaat om: je bent verdacht, totdat je je onschuld bewijst.

(In de witwasbestrijding gebeurt precies hetzelfde door (grote) ondernemingen zoals banken.)

Nieuwe NEN-norm risicoprofilering
Zij publiceren dit artikel naar aanleiding van de bekendmaking door de NEN van de NTA (Nederlandse Technische Afspraak) 8047:2026 nl over risicoprofilering [3].

Het doel van de norm wordt niet bereikt
In het artikel van Abdoelhafiezkhan c.s. wordt uitgelegd dat de burgerrechtenorganisaties hebben deel genomen aan de NEN-werkgroep die deze NTA voorbereidde [4]. Het doel van de NTA zou zijn om discriminatie door profileringsalgoritmen te voorkomen. De nonprofitorganisaties zijn het niet eens met de NTA zoals definitief is vastgesteld, aangezien de NTA “te veel ruimte biedt voor discriminatie en dat risicodenken prevaleert boven mensenrechten“.

Zij besluiten hun artikel met:

Na alle schandalen, onderzoeken en waarschuwingen is duidelijk: risicoprofilering is een mislukt experiment. De vraag is waarom de overheid en het College voor de Rechten van de Mens eraan blijven vasthouden. Discriminatie is verboden. Een verbod op risicoprofilering is daarom de logische oplossing om recht te doen aan alle ellende die de overheid bij mensen veroorzaakt heeft.

Noten:

[1] Amnesty bracht onlangs een rapport uit over risicoprofilering.
[2] Ook gemeld op LinkedIn.
[3] Lees de aankondiging van NEN. Pagina inzake de NTA: “NTA 8047:2026 beschrijft ontwikkel- en toetsingsmethoden die ondersteunen bij de naleving van het non-discriminatiebeginsel bij het gebruik van (deels) geautomatiseerde profilering van individuen, organisaties, groepen en andere betrokkenen door overheidsinstellingen op basis van algoritmes.“. De NTA kan gratis worden gedownload met een (gratis) NEN-account.
[4] Het ontwerp is geconsulteerd (artikel). Aan de consultatie is mee gedaan door Privacy First, maar de consultatiereactie is (nog) niet door NEN gepubliceerd.