Een reminder voor iedereen die de marketing van artificial intelligence (AI) ziet rondvliegen: artificial intelligence is niet intelligent, lees het artikel van Vincent Icke onder die titel in het NRC (betaalmuur). Hij legt het pakkend uit, onder meer met:

De AI zoals die wordt ontwikkeld door Big Tech is een brutale manier om klanten uit te buiten. Dat heeft AI dan gemeen met de meeste neoliberale bedrijfsmodellen (‘Wij de winst en jullie de gebakken peren’), maar het betekent niet dat AI intelligent is. De term AI is een ‘frame’, ongeveer zoals een Amerikaanse burger die het bezit van een volautomatisch machinegeweer ‘zelfbescherming’ noemt.

en:

Om echt iets te begrijpen is AI nutteloos en soms zelfs tegenproductief, maar het kan wel bijzonder gevaarlijk zijn, getuige de verwoestende invloed van AI op sociale media (er zijn zeer strikte wetten en regels voor het omgaan met explosieven, maar niet voor AI-algoritmen).

Hij eindigt mooi met een citaat uit Alice in Wonderland:

„Waar het om draait is: wie is de baas – dat is alles.”

Onveilige bagger is normaal
Je hoeft geen wetenschappelijke ster te zijn om te vermoeden dat wat Icke schrijft juist is. Onze huis-tuin-en-keuken software is onveilige bagger, dus er is geen enkele reden om te veronderstellen dat er al echt ‘slimme’ software bestaat. Bovendien verkondigen alle techgelovigen dat er heeeeeel veel persoonsgegevens en andere data nodig zijn om de software te ‘trainen’, waaruit kan worden afgeleid dat AI dom is.

Slangenolie
Het lezen van het blog AI Snake Oil is leerzaam, met nuttige artikelen van Arvind Narayanan en Sayash Kapoor als:

• ChatGPT is a bullshit generator. But it can still be amazingly useful,
• GPT-4 and professional benchmarks: the wrong answer to the wrong question,
• OpenAI’s policies hinder reproducible research on language models.

Daarin maken ze gehakt van de AI-marketing.

Beleidsmakers begrijpen niet waar ze mee bezig zijn
Het is jammer dat de waarschuwende boodschappen als die van Icke niet doordringen bij de Nederlandse en Europese beleidsmakers.
Voorbeelden daarvan zijn het Europese techgeloof in open finance (blog) en de ongegrond vrolijke verhalen op de site van het Europees parlement, zoals in dit bericht:

Data is at the heart of the EU’s digital transformation that is influencing all aspects of society and the economy. It is necessary for the development of artificial intelligence, which is one of the EU’s priorities, and presents significant opportunities for innovation, recovery after the Covid-19 crisis and growth, for example in health and green technologies.

waarin wordt beweerd dat de datagedreven samenleving zou kunnen samengaan met respect voor fundamentele rechten. In een parlementair bericht over big data wordt gewoon toegegeven dat het om persoonsgegevens gaat (markering door mij):

Our use of electronic devices is increasing and production processes are becoming ever more digitalised. This means that vast quantities of digital data are generated daily in the economy and by people’s personal and social activities. The European Commission forecasts the total global amount of data will grow 530% by 2025 compared to 2018.
Data is an important part of the EU’s digital transformation. Artificial intelligence, an EU priority, relies on data and its development depends on how data will be managed in Europe.

Europa speelt met vuur en datzelfde geldt voor nationale overheden en grote ondernemingen.

NB Er wordt veel over AI geschreven, hierna een greep.
Het gaat onder meer over hoe de internetgiganten de macht naar zich toe halen, voorbeeld: Big tech and the pursuit of AI dominance, the Economist. Security.nl meldt dat Europol waarschuwt voor gebruik door criminelen van AI. Dominique Deckmyn schreef voor de Standaard Artificiële intelligentie: gaan we te snel? AI maakt biometrie onbruikbaar, zie bijvoorbeeld Voice Deepfakes Are Calling bij Gizmodo. Gegevensbescherming is een issue, zie bijvoorbeeld Privacy Violations Shutdown OpenAI ChatGPT and Beg Investigation. Lees wat Bjarnason over AI schrijft, hij stelt nieuwe regels voor, onder meer:

The point is to discourage the creation of products that automate deception (…) All the announced products from Google, Microsoft, and AI startups are primarily for automating deception: chatbots that don’t say they’re AI, AI-generated email and docs, pictures that are presented as photographs. That’s their go-to-market strategy: automate and normalise deception. They should be made to understand that this is not okay