Haroon Sheikh, senior onderzoeker bij de WRR en bijzonder hoogleraar filosofie aan de VU, schrijft verstandige woorden in zijn artikel Het echte gevaar van AI is dat wij het gevaar niet meer kunnen zien (NRC, betaalmuur).

Hij schrift onder meer:

Als mensen hun ogen en oren niet meer vertrouwen, kunnen duistere figuren ze alles laten geloven. Het is de afgrond waar desinformatie en deepfakes ons nu weer voor plaatsen.

Een ander inzicht van Arendt werpt ook licht op hedendaagse gevaren. Dat is haar idee van de banaliteit van het kwaad. Zij zag hoe mensen in abstracties dachten en daarmee de meest gruwelijke dingen konden doen.

en verder op:

Dit is het gevaar van AI waar The Maniac ons op wijst. Niet dat AI beter gaat doen wat wij als mensen doen, maar dat het iets totaal anders gaat doen. Dat het een logica volgt die voor ons begrip en gezond verstand niet te volgen is en onze menselijkheid niet meer meeneemt in de berekeningen. Het echte gevaar is dat wij geen voorstelling meer kunnen maken van het gevaar. (…)

Een logica die de menselijke maat links laat liggen en technologische gevaren bestrijdt met alleen maar meer technologie.

Ontmenselijking in de witwasbestrijding
Die ontmenselijking is een van de gevaren van de financiële surveillance door de ondernemingen die witwassen moeten bestrijden. Banken en betaalinstellingen krijgen opgelegd dat zij met artificial intelligence iedere burger en organisatie moeten analyseren op basis van hun betalingsgegevens (transactiemonitoring).

Lees de artikelen over AI op dit blog, onder meer:
“Als een computer naar oorzaken gaat zoeken, kan het helemaal misgaan” | AI in de misdaadbestrijding,
Met computers maak je je fouten sneller en
“Nederland moet doen wat de EU nalaat: burgers beschermen tegen AI” | oproep José van Dijck, Natali Helberger en Corien Prins.