Artificial intelligence (kunstmatige intelligentie) biedt een schat aan criminele mogelijkheden. Verder is het een mooi hulpmiddel om mensen te beïnvloeden en de samenleving uit evenwicht te brengen, waar overheden en het grootbedrijf graag gebruik van maken. Er zijn positievere effecten, waarvan het de vraag is of die zwaarder wegen dan de negatieve mogelijkheden.

Autoriteit Persoonsgegevens waarschuwt
De Autoriteit Persoonsgegevens maakt zich zorgen en vreest dat de negatieve aspecten belangrijker zijn dan de positieve, lees hun bericht ‘AI- & algoritmerisico’s nemen toe, nationaal deltaplan nodig‘. De introductie begint met:

De risico’s van artificiële intelligentie (AI) en algoritmes nemen verder toe, onder meer door de opkomst van generatieve AI. Zoals het risico op verspreiding van desinformatie, maar ook op privacy-overtredingen en discriminatie. De toenemende inzet en technologische innovaties gaan op dit moment sneller dan we als samenleving zulke risico’s kunnen herkennen en aanpakken via bijvoorbeeld regelgeving en toezicht.

Hun rapportage is hier te vinden.

Rathenau Instituut: risico’s van generatieve AI vereisen terughoudendheid in gebruik
Het Rathenau Instituut publiceerde eerder deze maand het bericht ‘Risico’s van generatieve AI vereisen terughoudendheid in gebruik‘, waarin hun onderzoek naar generatieve AI wordt aangekondigd (rapport). Bekijk ook de andere berichten in de rubriek digitalisering, interessant allemaal.

Plaatje Rathenau Instituut uit het inleidende artikel.

Cyber Security Raad waarschuwt
In het nieuwsbericht van 22 december vraagt de Cyber Security Raad (CSR) aandacht voor de risico’s van AI, onder meer:

Maar ook cybercriminelen hebben voordeel. Zij kunnen met AI-software digitale kwetsbaarheden op grote schaal uitbuiten, en niet van echt te onderscheiden spam en phishing e-mails sturen. Ook kan met AI automatisch malware worden gegenereerd.

en:

De ernst en omvang van deze cybersecurityrisico´s onderstrepen nogmaals het belang van regulering van AI-toepassingen en blijvende aandacht voor besluitvorming door mensen.

Aanvulling 30 december 2023
De passage over CSR toegevoegd.