Vorige maand werd bekend gemaakt dat Nederland voorlopig heeft beslist dat in Nederland de bevoegde autoriteiten op grond van de Europese AI-verordening (AI Act) zullen zijn:

• de Autoriteit Persoonsgegevens (AP),
• het het College voor de Rechten van de Mens

en enige instanties uit de rechtspraak.
Uit de brief van de minister van Economische Zaken blijkt dat nog verder wordt onderzocht of ook andere autoriteiten als grondrechtenautoriteiten vastgesteld dienen te worden.

Over de rol van de AI-autoriteiten (‘markttoezichthouders’) staat in de brief van de minister onder meer:

Op 1 augustus jl. is de AI-verordening in werking getreden om ervoor te zorgen dat AI (kunstmatige intelligentie) veilig en betrouwbaar wordt ontwikkeld en toegepast in de EU. (…)

De inrichting van het nationale toezicht op de AIverordening wordt momenteel verder uitgewerkt. Voor 2 augustus 2025 zullen lidstaten nationale toezichthouders moeten aanwijzen. Zij zullen toezien op de naleving van de AI-verordening, inclusief de bepalingen daarin die grondrechten beschermen. (…)

Autoriteiten die grondrechten beschermen en de AI-verordening Artikel 77 van de AI-verordening is opgesteld om bestaande autoriteiten, die zich richten op de handhaving en naleving van Unierecht gericht op de bescherming van grondrechten, te ondersteunen in het toezicht als in hun veld AI-systemen worden gebruikt en te laten beschikken over de juiste bevoegdheden om dit toezicht goed in te vullen. Artikel 77 van de AI-verordening omschrijft de grondrechtenautoriteiten als “Nationale overheidsinstanties of -organen die de nakoming van verplichtingen krachtens Unierecht ter bescherming van grondrechten, waaronder het recht op non-discriminatie, met betrekking tot het gebruik van de in bijlage III vermelde AI-systemen met een hoog risico controleren of handhaven.” Deze autoriteiten kunnen in hun werkzaamheden ook te maken krijgen met gebruik van AI. De AI-verordening kent hen daartoe een aantal bevoegdheden toe (…)

De markttoezichthouders kunnen hoogrisico-AI-systemen controleren om vast te stellen of zij voldoen aan de plichten en eisen, waaronder ook het uitvoeren van een grondrechten-risicoanalyse en goed databeheer (privacy & non-discriminatie), en in sommige gevallen een grondrechten-impactassessment. Het is daarom belangrijk de rol van de grondrechtenautoriteiten in samenhang te zien met de taken en bevoegdheden van de nog aan te wijzen markttoezichthouders op de AI-verordening. (…)

De taken van de grondrechtenautoriteiten onder de AI-verordening zien op artikelen die van toepassing zijn bij hoogrisico-AIsystemen. Dit betekent dat de eerste taken pas effectief kunnen worden vanaf 2 augustus 2026, het moment waarop de eerste bepalingen voor hoogrisico-AIsystemen van kracht worden.