Dat is de mooie titel van het artikel van Wouter van Noort in het NRC over het boek van Carissa Véliz, Mexicaans-Spaanse filosoof die het boek Prophecy publiceerde. Het boek gaat over de grote rol van kansberekening die krijgt in de maatschappij als gevolg van de inzet van kunstmatige intelligentie (AI).

Blijkens het artikel vergelijkt Véliz het digitale voorspellen met astrologie:

Dat is onrechtvaardig, werkt autoritaire krachten in de hand en is ronduit gevaarlijk voor de stabiliteit van maatschappelijke en economische systemen, waarschuwt Véliz in haar filosofisch en historisch ingestoken boek. Daarin vergelijkt ze de opkomst van AI-voorspellingen met wat astrologen en profeten al eeuwen tevergeefs proberen: de onvoorspelbare toekomst tóch voorspellen. (…)

Ze houdt zich professioneel met predictive policing en aanverwante onderwerpen bezig:

Véliz onderzoekt aan de universiteit van Oxford de toepassing van AI in allerlei voorspellende modellen over menselijk gedrag, zoals verzekeraars die de techniek gebruiken om risicoprofielen te maken voor fraudeurs, banken die ze gebruiken voor het vaststellen van kredietscores die mede bepalen of iemand een lening krijgt, overheden die met AI mensen indelen in profielen en cohorten. (…)

Het gevaar begint volgens haar waar voorspellingen over mensen veranderen in onzichtbare systemen die niet alleen raden wie iemand zal worden, maar alvast bepalen wie iemand mag zijn.

Interessant artikel. Jammer dat de Nederlandse en Europese beleidsmakers vrolijk achter de AI-marketingverhalen aanlopen.