Tot en met 7 februari a.s. loopt de internetconsultatie van de Autoriteit Persoonsgegevens (AP) over het verbod op AI-systemen voor social scoring, lees de aankondiging en het consultatiedocument.

Social scoring vindt nu al op grote schaal plaats. Het bekendste voorbeeld zijn de advertentiebedrijven (Google, Facebook e.d.) die de gebruikers scoren met het oog op de advertenties die zij te zien krijgen. Vele anderen doen dat ook. Zo zijn er kredietwaardigheidsbeoordelingsbedrijven (waar geen Nederlander de naam van kent) die door middel van social scoring de kredietwaardigheid van mensen en organisaties bepalen, op basis van geheime criteria en geheime bronnen.

De vele bedrijven die in opdracht van de overheid misdaadgeld moeten opsporen (‘witwasbestrijding’), zoals banken, moeten nadat de Europese antiwitwasregels van kracht zijn geworden op nog grotere schaal door middel van social scoring het risicoprofiel van alle klanten [*] vaststellen, gerelateerd aan de kans op aanwezigheid van misdaadgeld / criminele activiteiten. Helaas vallen deze social scoring activiteiten als ze met AI worden uitgevoerd niet onder de AI Act (artikel).

Het is een belangrijke consultatie. Ik ben benieuwd wat er uit komt.

Noot

[*] De nieuwe antiwitwasregels schrijven voor dat van iedere klant en ‘uiteindelijk begunstigde’ (ubo) een risicoprofiel wordt gemaakt, gebaseerd op (bijlage I sub a AMLR, markering door mij):

a) Cliëntgebonden risicovariabelen:
i) de bedrijfs- of beroepsactiviteit van de cliënt en van de uiteindelijk begunstigde van de cliënt;
ii) de reputatie van de cliënt en van de uiteindelijk begunstigde van de cliënt;
iii) de aard en het gedrag van de cliënt en van de uiteindelijk begunstigde van de cliënt;
iv) de rechtsgebieden waar de cliënt en de uiteindelijk begunstigde van de cliënt zijn gevestigd;
v) de rechtsgebieden waarin de hoofdvestiging van de cliënt en van de uiteindelijk begunstigde van de cliënt gelegen is;
vi) de rechtsgebieden waarmee de cliënt en de uiteindelijk begunstigde van de cliënt relevante persoonlijke banden hebben;

Advertentiebedrijven en andere datahandelaren zullen hier heel blij mee zijn want het gaat gouden business opleveren. Aan gegevensbescherming  – zoals dataminimalisatie – wordt in de geprivatiseerde misdaadbestrijding niet gedaan, vinden ze in Europa.