Amnesty waarschuwt voor massasurveillance | Rathenau over de slimme stad

In de Nederlandse media las ik er weinig iets over. In de buitenlandse media kwam ik het voor het eerst tegen: de kritiek van Amnesty International op de Nederlandse experimenten met het in detail volgen van burgers. Amnesty roept op om de gevaarlijke politie-experimenten met massasurveillance te stoppen:

De Nederlandse politie moet een einde maken aan het gebruik van algoritmische systemen die leiden tot massasurveillance en etnisch profileren. Dat stelt Amnesty International in een vandaag verschenen rapport dat de mensenrechtenrisico’s van ‘predictive policing’ blootlegt.

Het rapport We Sense Trouble: Automated Discrimination and Mass Surveillance in Predictive Policing in the Netherlands beschrijft de gevaren van ‘predictive policing’, een werkwijze die steeds meer wordt gebruikt door de Nederlandse politie. De predictive policing-projecten, die de politie ‘proeftuinen’ noemt, gebruiken wiskundige modellen om het risico in te schatten dat door een bepaalde persoon of op een bepaalde locatie een strafbaar feit wordt gepleegd. De politie richt haar inzet vervolgens op de personen of locaties die aangemerkt worden als ‘hoog risico’.

Als voorbeeld worden het sensing-project in Roermond genoemd. Door het gebruik van camera’s en andere sensoren houdt de politie systematisch alle mensen in de gaten die in en rond Roermond rijden. En verzamelt informatie over voertuigen en bewegingspatronen. Dat heeft gevolgen voor alle burgers en raakt niet alleen criminelen.

Amnesty International pleit voor een verplichte, bindende mensenrechtentoets voor het gebruik van predictive policing-technologieën.

Slimme stad
Het Rathenau Instituut heeft een publicatie over de ‘slimme stad’ bekend gemaakt. Het instituut bestudeerde vier projecten in Eindhoven. Die projecten uit Eindhoven zijn:

  • een uitgaansstraat met sensoren voor het vergroten van de veiligheid en leefbaarheid,
  • een netwerk van lantarenpalen die van alles in de buurt meten en regelen,
  • een digitaal instrument dat data verzamelt over het welzijn van jongeren om ze sneller te helpen, en
  • een webplatform dat bewoners en bouwbedrijven ondersteunt bij het verduurzamen van woningen.

Het Rathenau Instituut signaleert dat de gemeentelijke eis om met open data te werken die voor iedereen te benaderen zijn er toe leidt dat bedrijven lastig geld kunnen verdienen en dat burgers bezorgd zijn over hun privacy. In de samenvatting worden spanningsvelden beschreven die we ook elders bij digitalisering kennen:

Zo blijkt het moeilijk om goed werkende verdienmodellen te realiseren. Grote bedrijven willen hun diensten en producten snel opschalen, maar worden in die ambitie geremd. Kleine bedrijven hebben vaak een te klein investeringsbudget om de startfase van een project door te kunnen komen. Het opendataprincipe kan ook remmend werken omdat bedrijven die bijvoorbeeld hebben geïnvesteerd in de dataverzameling, hun competitieve voordeel kwijt zijn als ze die data vervolgens gratis met iedereen moeten delen. Bedrijven kunnen dus om meerdere redenen afhaken waardoor de projectdoelen niet gerealiseerd worden.
De verwevenheid van activiteiten die door het werken met data ontstaat, creëert een nieuwe praktijk. De juridische borging van die praktijk is nog niet sluitend. Het probleem is dat dataverzameling meerdere doelen tegelijk kan dienen, maar dat die doelen gekoppeld zijn aan verschillende juridische kaders. Er ligt een uitdaging om die kaders toe te snijden op de nieuwe praktijk die door digitalisering ontstaat. Ook op het gebied van beïnvloeding en nudging zijn er vragen over bestaande juridische kaders. Zolang deze onduidelijkheid bestaat, is het belangrijk dat gemeenten en het Rijk kwesties in het vizier houden die niet direct onder de Algemene verordening gegevensbescherming vallen. Het oprichten van ethische commissies waarin experts en burgers meedenken over gewenste toepassingen, kan hierbij behulpzaam zijn.

 

Meer informatie:

Amnesty International:

Rathenau Instituut:

Overig:

Over Ellen Timmer, advocaat ondernemingsrecht @Pellicaan

Verbonden aan Pellicaan Advocaten, http://www.pellicaan.nl/, kantoor Rotterdam, telefoon 088-6272287, fax 088-6272280, e-mail ellen.timmer@pellicaan.nl ||| Weblogs: algemeen: https://ellentimmer.com/ || modernisering ondernemingsrecht: http://flexbv.wordpress.com/ ||| Motto: goede bedoelingen rechtvaardigen geen slechte regels
Dit bericht werd geplaatst in Grondrechten, rechtsstaat e.d., ICT, privacy, e-commerce en getagged met , , , . Maak dit favoriet permalink.

3 reacties op Amnesty waarschuwt voor massasurveillance | Rathenau over de slimme stad

  1. sustainablerescue zegt:

    Zeer geachte Mevrouw Timmer, met Uw scherpe geest en interessante artikelen boeit Uw site. Helaas constateer ik dat U vaak ‘kiest’ voor de kant van de onschuldige burger. Wij werken al jaren tegen mensenhandel – en verwelkomen de initiatieven die U zo scherp veroordeelt. Wij willen inzicht in de manier waarop jonge vrouwen (en jongens) worden gerecruteerd, inzicht in de manier waarop ze worden getransporteerd, afgeperst en uitgebuit in illegale prostitutie. Wij zijn voorstander van surveillance – om serieuze misdadigers in beeld te krijgen en bewijs te leveren dat gebruikt kan worden in de rechtbank.
    Wellicht kunt U deze overweging mee nemen in de toekomst voordat U een vernietigend artikel plaatst over surveillance. De GDPR beschermt de misdadigers meer dan de gewone burger.
    Met vriendelijke groet,

    Paul Fockens

    • Geachte heer Fockens,
      De AVG beschermt geen criminelen. Surveillance is de digitale hobby van bedrijven zoals Facebook en Google en bedreigt onschuldige mensen. En overigens citeer ik het rapport van Amnesty, een organisatie die tegen mensenhandel is maar ook van mening is dat criminaliteit niet moet worden bestreden met mensenrechten schendende methoden.
      Mvg

    • r grootveld zegt:

      Zo heeft natuurlijk iedereen wel een reden om permanente screening te rechtvaardigen. Dit is precies het soort argument dat steeds wordt gebruikt. Illegale prostitutie is ongetwijfeld een probleem. Maar niet het enige. De vraag is of de omvang dermate groot is dat het de permanente screening van de hele burgerij nodig maakt. De vraag is of er sowieso maatschappelijke problemen bestaan die dat rechtvaardigen. Ik betwijfel dat.

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google photo

Je reageert onder je Google account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s