Vandaag maakte Amnesty bekend dat het wijdverbreide gebruik van risicoprofileringssystemen door overheden op het gebied van rechtshandhaving, sociale zekerheid en migratie onverenigbaar is met internationale mensenrechten en verboden moet worden. Lees dit bericht van Amnesty en de opinie van Amnesty directeur Oudshoorn in de Volkskrant.

Dit standpunt is gebaseerd op het rapport over risicoprofilering dat Amnesty vandaag heeft uitgebracht.

Amnesty schrijft in de aankondiging onder meer:

Risicoprofilering is een vorm van selectie waarmee overheden kunnen beoordelen hoe waarschijnlijk het is dat een persoon of groep een wet of regel gaat overtreden. Overheden gebruiken het om potentiële overtreders te identificeren voordat er daadwerkelijk een overtreding plaatsvindt. Deze beoordelingen worden steeds vaker geautomatiseerd met behulp van kunstmatige intelligentie. In veel gevallen leiden ze tot mensenrechtenschendingen. In dit nieuwe rapport van Amnesty International wordt risicoprofilering voor het eerst in zijn geheel getoetst aan internationale mensenrechtennormen.

“Dit rapport laat zien hoe risicoprofileringssystemen impact hebben op de rechten van mensen. Het presenteert wetenschappelijke en juridische argumenten die mensenrechtenverdedigers, ambtenaren, toezichthouders, advocaten en rechters kunnen gebruiken om het gebruik van deze systemen aan te vechten,” zegt Alexander Laufer, onderzoeker op het gebied van technologie en mensenrechten bij Amnesty International Nederland. (…)

Risicoprofileringssystemen worden vaak gepresenteerd als een manier waarop staten diensten kunnen stroomlijnen, kosten kunnen besparen, criminaliteit en fraude kunnen voorkomen en migratie kunnen beheersen. Deze claims gaan uit van het idee van schaarse middelen en zijn gebaseerd op aannames waarvoor weinig wetenschappelijk bewijs bestaat, maar die politiek bruikbaar zijn. Ze herdefiniëren namelijk sociale problemen zoals armoede, zodat dat niet langer politieke vraagstukken zijn, maar efficiëntieproblemen die moeten worden opgelost met automatisering en surveillance.

Mensen die het doelwit worden van risicoprofilering op gebieden als rechtshandhaving, sociale zekerheid en migratie, kunnen daardoor ernstig worden beschadigd – zoals we hebben gezien bij het Toeslagenschandaal. Ze kunnen te maken krijgen met psychisch leed, en ze worden gestigmatiseerd en onterecht beschuldigd van misdrijven. Dit kan leiden tot dakloosheid, deportatie, onterechte weigering van sociale uitkeringen of zelfs gevangenisstraf.

Er is ook een Engelstalig bericht van Amnesty over het rapport en de uitkomsten.

Bevindingen zijn ook van toepassing op risicoprofilering door bedrijven in de witwasbestrijding

De bevindingen van Amnesty zijn ook relevant voor de geprivatiseerde criminaliteitsbestrijding, ook bekend als bestrijding van ‘witwassen en terrorismefinanciering’ (AML/CFT). Dat systeem, gebaseerd op wetgeving van de Financial Action Task Force (FATF) [1], wat door de EU aan alle EU-lidstaten is voorgeschreven [2] heeft risicoprofilering als kern. De bedoeling is dat alle bedrijven met AML/CFT-verplichtingen die groot genoeg zijn (zoals banken) algoritmische risicoprofilering toepassen om vermoedens van criminele activiteiten en transacties te detecteren.

Het door Amnesty bepleite verbod is ook op het private deel van AML/CFT-regelgeving van toepassing [3].

Noten:

[1] De Financial Action Task Force (FATF) is een inofficiële wereldregering op het gebied van criminaliteitsbestrijding, ingesteld en geleid door de VS. Democratische controle op deze organisatie is er niet.
[2] Op dit moment gelden Europese richtlijnen gebaseerd op de FATF-regels. Medio volgend jaar treedt het nieuwe antiwitwaspakket (AML Package) in werking, meer informatie onder meer bij de nieuwe Europese antiwitwastoezichthouder, de Authority for Countering Money Laundering and Financing of Terrorism (AMLA). Op deze site zijn berichten over het pakket en de implementatie in Nederland te vinden.
[3] Ook de overheidsinstanties die met AML/CFT bezig zijn (onder meer de Belastingdienst, de FIOD en FIU-Nederland) maken gebruik van algoritmische risicoprofilering. Op hen is het rapport sowieso van toepassing.