Op de site van de universiteit van Tilburg wordt de promotie van Marlies van Eck aangekondigd met de titel “Burgers onvoldoende beschermd tegen computerbesluiten overheid“.

Uit het persbericht blijkt dat het een flinke uitdaging is om de geautomatiseerde besluitvorming goed te laten plaats vinden en de burger te beschermen:

Burgers onvoldoende beschermd tegen computerbesluiten overheid
PERSBERICHT 30 jan. 2018

De overheid gebruikt computers voor het nemen van besluiten. Vaak gaat het daarbij om geld, zoals het verlenen van kinderbijslag, de AOW, toeslagen, het opleggen van motorrijtuigenbelasting of de aanslag inkomstenbelasting. Maar hoe die besluiten precies genomen worden, is niet duidelijk. Bovendien leunen overheden ook op elkaars computerbesluiten. De burger is daardoor onvoldoende juridisch beschermd, blijkt uit promotie-onderzoek van Marlies van Eck.

Wat gebeurt er precies bij geautomatiseerde besluiten van de overheid en wat betekent deze praktijk voor de burger die te maken krijgt met zo’n besluit? Is het voldoende dat burgers in bezwaar kunnen gaan tegen een besluit als er iets fout gaat en daarna naar de rechter kunnen stappen? Dat onderzocht de promovenda Marlies van Eck. Zij promoveert op 9 februari aan Tilburg University.

Voordelen
Van Eck concludeert op basis van het onderzoek dat de inzet van technologie bij het nemen van besluiten wel degelijk voordelen heeft voor burgers. Het verzamelen van alle gegevens vindt zorgvuldig plaats. Ook krijgen mensen vaak van tevoren te zien welke gegevens de overheid heeft, wat de transparantie ten goede komt. Een ander voordeel is dat de computer alle gelijke gevallen ook echt gelijk behandelt.

Beslisregels onzichtbaar
Maar er zijn ook nadelen. De instructies aan de computer (de beslisregels en de algoritmen) zijn niet beschikbaar voor de personen die het besluit krijgen. Ook zijn er geen onafhankelijke instanties die deze instructies controleren op juistheid. In een rechtszaak over het besluit kan de rechter dus niet controleren of de overheid de wet goed interpreteert. Bovendien blijven aannames die de programmeur heeft gehad onzichtbaar. Als niet precies duidelijk is waarom de computer een besluit neemt, weet niemand of het besluit eigenlijk wel juist is.

Besluiten aan elkaar gelinkt
Een ander nadeel is dat de overheidsorganen zwaar op elkaar leunen bij het nemen van computerbesluiten. Een besluit van het ene overheidsorgaan werkt door in het besluit van een ander overheidsorgaan. Maar als er iets fout gaat, is het voor de burger erg lastig om de fouten die al verspreid zijn, te herstellen. Zeker als het met terugwerkende kracht verbeterd moet worden, is dit voor de systemen moeilijk. Dit betekent dat de burger niet altijd de juridische bescherming krijgt waar hij recht op heeft.

Aanbevelingen
Van Eck doet een aantal voorstellen om de bescherming van burgers te verbeteren. Zij stelt voor dat iedereen met problemen met computerbesluiten een ‘loods’ krijgt: een ambtenaar die gaat helpen het probleem op te lossen. Op deze manier ligt de last van de gespecialiseerde en ingewikkelde uitvoering weer bij de overheid in plaats van bij de burger. Daarnaast moeten de instructies aan de computer niet alleen openbaar en toegankelijk worden, maar ook te begrijpen zijn door mensen die geen verstand hebben van programmeren en zeker door rechters.

Van Eck heeft een weblog en is bezig op twitter. Zij is verder actief bij De Correspondent.

Aanvulling 15 februari 2018
Inmiddels heeft de promotie plaats gevonden, het proefschrift is online te vinden. De stellingen staan ook op haar weblog.

Inmiddels zijn er naar aanleiding van het proefschrift al kamervragen gesteld:

Vragen van de leden Middendorp en Koopmans (beiden VVD) aan de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties en de Minister voor Rechtsbescherming over de berichtgeving over het proefschrift van Marlies van Eck van de Tilburg University (ingezonden 13 februari 2018).

Vraag 1
Hebt u kennisgenomen van de berichtgeving over het proefschrift van Marlies van Eck van de Tilburg University?1

Vraag 2
Hoe beoordeelt u de conclusie in het proefschrift dat de burger onvoldoende juridisch is beschermd wanneer de overheid computers gebruikt bij het nemen van besluiten met een financieel belang, maar dat niet duidelijk is hoe de besluiten precies worden genomen?

Vraag 3
In hoeverre is het waar dat de instructies aan de computer niet beschikbaar zijn voor derden, zoals de personen die geraakt worden door het besluit?

Vraag 4
Hoe beoordeelt u het idee een onafhankelijke instelling de computerinstructies te laten toetsen? Ziet u dat als werkbaar? Zo nee, waarom niet?

Vraag 5
In hoeverre geeft het proefschrift u reden om de relevante wetgeving te wijzigen?

—

NOOT
1 Burger onvoldoende beschermd tegen computerbesluiten (1 februari 2018) via Binnenlands Bestuur
http://www.binnenlandsbestuur.nl/digitaal/nieuws/burger-onvoldoende-beschermd-tegen.9580215.lynkx

Ook elders is er aandacht aan besteed, onder meer door Emerce, Binnenlands Bestuur.