In de Nederlandse media las ik er weinig iets over. In de buitenlandse media kwam ik het voor het eerst tegen: de kritiek van Amnesty International op de Nederlandse experimenten met het in detail volgen van burgers. Amnesty roept op om de gevaarlijke politie-experimenten met massasurveillance te stoppen:

De Nederlandse politie moet een einde maken aan het gebruik van algoritmische systemen die leiden tot massasurveillance en etnisch profileren. Dat stelt Amnesty International in een vandaag verschenen rapport dat de mensenrechtenrisico’s van ‘predictive policing’ blootlegt.

Het rapport We Sense Trouble: Automated Discrimination and Mass Surveillance in Predictive Policing in the Netherlands beschrijft de gevaren van ‘predictive policing’, een werkwijze die steeds meer wordt gebruikt door de Nederlandse politie. De predictive policing-projecten, die de politie ‘proeftuinen’ noemt, gebruiken wiskundige modellen om het risico in te schatten dat door een bepaalde persoon of op een bepaalde locatie een strafbaar feit wordt gepleegd. De politie richt haar inzet vervolgens op de personen of locaties die aangemerkt worden als ‘hoog risico’.

Als voorbeeld worden het sensing-project in Roermond genoemd. Door het gebruik van camera’s en andere sensoren houdt de politie systematisch alle mensen in de gaten die in en rond Roermond rijden. En verzamelt informatie over voertuigen en bewegingspatronen. Dat heeft gevolgen voor alle burgers en raakt niet alleen criminelen.

Amnesty International pleit voor een verplichte, bindende mensenrechtentoets voor het gebruik van predictive policing-technologieën.

Slimme stad
Het Rathenau Instituut heeft een publicatie over de ‘slimme stad’ bekend gemaakt. Het instituut bestudeerde vier projecten in Eindhoven. Die projecten uit Eindhoven zijn:

• een uitgaansstraat met sensoren voor het vergroten van de veiligheid en leefbaarheid,
• een netwerk van lantarenpalen die van alles in de buurt meten en regelen,
• een digitaal instrument dat data verzamelt over het welzijn van jongeren om ze sneller te helpen, en
• een webplatform dat bewoners en bouwbedrijven ondersteunt bij het verduurzamen van woningen.

Het Rathenau Instituut signaleert dat de gemeentelijke eis om met open data te werken die voor iedereen te benaderen zijn er toe leidt dat bedrijven lastig geld kunnen verdienen en dat burgers bezorgd zijn over hun privacy. In de samenvatting worden spanningsvelden beschreven die we ook elders bij digitalisering kennen:

Zo blijkt het moeilijk om goed werkende verdienmodellen te realiseren. Grote bedrijven willen hun diensten en producten snel opschalen, maar worden in die ambitie geremd. Kleine bedrijven hebben vaak een te klein investeringsbudget om de startfase van een project door te kunnen komen. Het opendataprincipe kan ook remmend werken omdat bedrijven die bijvoorbeeld hebben geïnvesteerd in de dataverzameling, hun competitieve voordeel kwijt zijn als ze die data vervolgens gratis met iedereen moeten delen. Bedrijven kunnen dus om meerdere redenen afhaken waardoor de projectdoelen niet gerealiseerd worden.
De verwevenheid van activiteiten die door het werken met data ontstaat, creëert een nieuwe praktijk. De juridische borging van die praktijk is nog niet sluitend. Het probleem is dat dataverzameling meerdere doelen tegelijk kan dienen, maar dat die doelen gekoppeld zijn aan verschillende juridische kaders. Er ligt een uitdaging om die kaders toe te snijden op de nieuwe praktijk die door digitalisering ontstaat. Ook op het gebied van beïnvloeding en nudging zijn er vragen over bestaande juridische kaders. Zolang deze onduidelijkheid bestaat, is het belangrijk dat gemeenten en het Rijk kwesties in het vizier houden die niet direct onder de Algemene verordening gegevensbescherming vallen. Het oprichten van ethische commissies waarin experts en burgers meedenken over gewenste toepassingen, kan hierbij behulpzaam zijn.

Meer informatie:

Amnesty International:

• Aankondiging: Nederland: maak een einde aan gevaarlijke politie-experimenten met massasurveillance, 29 september 2020
• Aankondiging: Netherlands: End dangerous mass surveillance policing experiments, 29 september 2020
• Rapport: We Sense Trouble: Automated Discrimination and Mass Surveillance in Predictive Policing in the Netherlands.

Rathenau Instituut:

• Slimme stad heeft veel voeten in aarde, 29 september 2020
• Rapport Voeten in de aarde, 29 september 2020: aankondiging, rapport

Overig:

• Amnesty: Nederlandse politie moet stoppen met voorspellende bigdataproeven, Tweakers
• Merel van Amnesty International: “De politie ‘weet’ van tevoren wie de volgende crimineel wordt”, Funx 30 september 2020