WODC heeft een rapport laten schrijven over “beslissingen die worden genomen door of met behulp van algoritmen“, aldus dit bericht. De onderzoekers hebben zich bezig gehouden met de volgende onderwerpen:

• contentmoderatie,
• zelfrijdende auto’s,
• rechtspraak,
• overheidsincasso bij verkeersboetes.

Zoals bekend kunnen algoritmen heel goed discrimineren; volgens de onderzoekers zouden er ook kansen voor het recht op non-discriminatie zijn.

Het doet merkwaardig aan dat in de samenvatting wordt gezegd “dat interpretaties van de bestaande ruim geformuleerde normen worden toegesneden op de specifieke inzet van het algoritme en de daarbij geldende waarden en belangen“, wat er op wijst dat de mens zich moet aanpassen bij de IT, in plaats van omgekeerd.

Niet verrassend is dat rechters niet door een computer kunnen worden vervangen:

Veel van het rechterlijke werk, en in het bijzonder het inhoudelijk beslissen van een zaak, kan niet door een algoritme worden vervangen, eenvoudigweg omdat algoritmen daartoe technisch (nog) niet in staat zijn.

De auteurs zijn naar mijn idee wat te optimistisch over de mogelijkheden om de besluitvorming te automatiseren als gewerkt wordt met vooraf vastgestelde richtlijnen, zoals in het strafrecht.

Zo te zien lijken algoritmen (of beter: IT) meer een hulpmiddel dan een besluitvormingsmethode, onder meer omdat de genomen besluiten moeten kunnen worden uitgelegd.

Voorlopig mag van mij de huis-tuin-en-keuken IT wat slimmer worden. Als dat het geval is, kan aan algoritmische besluitvorming worden gedacht.

Meer informatie:

• De complete tekst van het rapport staat hier en er is ook een samenvatting (Nederlands, Engels).
• Artikel ‘Algoritmen kunnen publieke waarden bedreigen, maar nieuwe regels zijn vaak niet nodig’, UU, 29 juni 2020.
• Artikel Algoritmen kunnen publieke waarden bedreigen, maar het wetboek hoeft niet drastisch op de schop, Stijn van Deursen en Stefan Kulk op de site van het Montaigne Centrum, 17 juli 2020.
• Ministersbrief van 9 juli 2020 over het gebruik van risicoprofielen bij de overheid en in de private sector en het risico van discriminatie.