Op LinkedIn schreef Jeroen Terstegge ongeveer drie maanden geleden naar aanleiding van het Afghaanse datalek dat digitale systemen alleen werken in stabiele samenlevingen en bepleit een kill switch:

Concepten als ‘digitale overheid’ en ‘elektronische identiteit’ werken alleen in stabiele vrije samenlevingen. Hier een huiveringwekkend verhaal over hoe goedbedoelende westerse instanties het leven van duizenden Afghanen met hun digitaliseringsdrift in gevaar hebben gebracht. Privacy kan je leven redden.

🤔 De gewetensvraag die wij ons ook moeten stellen is: Hebben onze digitale (overheids)systemen eigenlijk een kill switch die alle data vernietigt als het moment daar is? Heeft een democratische rechtsstaat niet een dure plicht om haar burgers te beschermen tegen dictatoriale systemen met hun “tribunalen”? En zou de democratische rechtsstaat om die reden niet genoegen moeten nemen met iets minder efficiëntie?

Zo’n kill switch is belangrijk nu overheden en bedrijven met een misdaadbestrijdingstaak (zoals banken) op zeer grotere schaal alle financiële en andere activiteiten van burgers en organisaties in detail willen registreren om daarmee de kunstmatige intelligentie te trainen op herkenning van criminaliteit.

Het bancaire sleepnet is een voorbeeld van deze ontwikkeling, lees de berichten over Transactiemonitoring Nederland (TMNL). Het voorstel voor de Wet gegevensverwerking door samenwerkingsverbanden (WGS) bergt gelijksoortige risico’s in zich. Lees over de datagedreven overheid bij het verzamelen van inlichtingen het interview met hoogleraar Oerlemans in Follow the Money: ‘Door gebrek aan toezicht gaan overheidsinstanties soms te ver bij het verzamelen van inlichtingen’.

De datagedreven misdaadbestrijding kan een risico voor de burgers worden, zodat oppassendheid is geboden.