Banken hebben in het kader van de criminaliteitsbestrijding taken toebedeeld gekregen van de overheid, onder de noemer ‘witwasbestrijding’. Dit betekent dat banken alle financiële transacties van hun klanten digitaal moeten analyseren op aanwijzingen van criminaliteit. Verder zijn zij verplicht op voor iedere klant een risicoprofiel op te stellen.

Daarmee komen banken in riskant vaarwater, zo heeft de SyRI affaire ons geleerd.

Het Systeem Risicoindicatie, SyRI, was een systeem van de overheid waarmee werd ingeschat of iemand sociale zekerheids-, arbeids- of belastingfraude zou plegen. Dus een systeem waarmee risicoprofielen werden gemaakt. De rechter deed begin dit jaar uitspraak over SyRI en stelde vast dat het systeeem onrechtmatig was.

Stefan Philipsen en Evert Stamhuis / “SyRI: voor de overheid met een menselijk gezicht”
Over de lessen van SyRI schreven Stefan Philipsen en Evert Stamhuis voor het Montaigne Centrum een blog, “SyRI: voor de overheid met een menselijk gezicht“. Nu de banken een soort overheid zijn geworden, is het artikel ook voor hen van belang.

Philipsen en Stamhuis maken een aantal valide opmerkingen, die ik als volgt toepas op banken:

• Voorkomen moet worden dat iedere fout die een burger (= organisatie, persoon) maakt wordt afgestraft, ongeacht het gewicht en de omstandigheden.
• De burger wordt gereduceerd tot facetpersoonlijkheid, in de veronderstelling dat de verzameling datapunten een ware reflectie vormt van de werkelijkheid, wat natuurlijk niet juist is. De vraag is of banken hun activiteiten daar op mogen baseren.
• Inzet van data gedreven systemen draagt bij aan omkering van de bewijslast, de burger moet bij de bank aantonen niet-crimineel te handelen.
• De inzet van technologie leidt tot nieuwe wijzen van interactie met eigen voor- en nadelen en nieuwe risico’s.
• Vanwege de door de overheid opgelegde taken, dient de bank zich net als de overheid behoorlijk op te stellen. De klant kan niet maar zo maar opzeggen, want een andere bank vinden lukt niet als de opgezegde bank van mening is dat er een vuiltje aan de klant kleeft.
• De gevolgen van de inzet van technologie voor de klanten van banken, dienen transparant te zijn en horen onderdeel te zijn van politieke besluitvorming. [*]
• Er moet gewerkt worden aan aan materiële normen die geschikt zijn om het gebruik van data-analyses door de bank op betekenisvolle wijze te reguleren

[*] Om die reden ben ik van mening dat het  betalingsverkeer niet meer thuis hoort bij banken, zie mijn eerdere artikel.

Normering risicoprofilering
Over de normen die de data-analyses door de overheid dienen te reguleren, spreken Philipsen en Stamhuis aan het slot van hun artikel verstandige woorden:

In die normen, zal de grondtoon moeten zijn dat een mens het recht heeft om als mens en burger begrepen en gezien te worden. De mogelijkheden en beperkingen van de mensen die samen de gemeenschap vormen die het systeem geacht wordt te dienen moeten leidend zijn; niet de beperkingen van de technologie.

Het blog van het Montaigne Centrum is hier te vinden. Bekijk ook de instituutspagina.

Aanvulling 21 juli 2020
Zie de ministersbrief van 9 juli 2020 over het gebruik van risicoprofielen bij de overheid en in de private sector en het risico van discriminatie.