Op Netkwesties verscheen het interview door Peter Olsthoorn met Cynthia Liem, concertpianist en AI-expert van de TU Delft, onder de titel ‘AI is subjectief en het verleden bepaalt de toekomst, daar moeten we alert op zijn’.
Onder meer komt in het interview aan de orde dat gebruik van AI betekent dat de complexe werkelijkheid wordt vereenvoudigd.
Altijd vindt reductie en limitatie plaats, het platslaan van criteria die tot de uitkomsten leiden.
En over het gebruik van AI in de misdaadbestrijding, onder meer wordt gesignaleerd dat onschuldige mensen die lijken op verdachte mensen (of doen wat daders in het verleden deden) verdacht worden verklaard:
Hoogleraar Peter de Kock, expert in AI voor fraude- en misdaadbestrijding, zegt kortweg dat AI eerlijker is en tot betere uitkomsten leidt dan menselijke intelligentie?
“Hoe definieer je dan eerlijkheid, rechtvaardigheid en succes? In veel controverses rond risicomodellering werd vertrokken vanuit profilering van mensen die bij voorbaat minder werden vertrouwd door de inspecteurs, waarna hun waarheid werd opgeschaald. Het onrechtvaardige van zo’n aanpak is dat mensen die lijken op eerder verdachte mensen sowieso verdacht zijn, terwijl een mogelijke ‘bad actor’ die hier expliciet niet op lijkt aan de aandacht ontsnapt.”
