Amerikaans meten met twee maten: financiële surveillance mag niet – surveillance door big tech mag wel

Geplaatst op 14 januari 2025 door Ellen Timmer

Wie wil weten waar het met de Verenigde Staten naar toe gaat op het gebied van artificial intelligence (AI), surveillance en aanverwante onderwerpen, doet er goed aan om de nieuwsrubriek van een commissie van het Amerikaanse parlement, de Committee on the Judiciary, door te lezen.

Enerzijds staat daarin een verontwaardigd bericht over schending van de financiële privacy van Amerikanen door de Amerikaanse overheid [1] (de rest van de wereld mag wel gesurveilleerd worden, uiteraard).

Anderzijds wordt door de commissie beweerd dat AI niet gereguleerd hoeft te worden [2] onder het mom van vrijheid van meningsuiting en ‘innovatie’, waarbij wordt opgemerkt dat men heeft geconstateerd dat er foute beleidsmakers zijn, die die de buitensporige (‘onerous’) AI-regels van de Europese Unie willen kopiëren [3]. Er wordt gezegd dat Meta/Facebook onder druk is gezet om Amerikanen te censureren en dat initiatieven om tot verantwoordelijke berichtgeving beëindigd moeten worden [4]. Consumentenwaakhond FTC krijgt het er van langs omdat voorzitter Lina Khan kritiek had op Elon Musk’s Twitter [5].

De Democraten krijgen overal de schuld van.

De nieuwsberichten laten zien dat surveillance door de overheid door de commissie wordt verfoeid, terwijl surveillance door internetgiganten en het door/via techbedrijven toebrengen van schade aan burgers, bijvoorbeeld via de asociale media, heel gewoon wordt gevonden. De regelgeving zal op en na 20 januari a.s. wel volgen.

 

Noten:

[1] Nieuwsbericht Report: How the Federal Government Weaponized the Bank Secrecy Act to Spy on Americans, waarin wordt beschreven dat de Amerikaanse overheid precies hetzelfde doet als de Europese overheid.
[2] Report: The Federal Government’s Attempt to Control Artificial Intelligence to Suppress Free Speech, 18 december 2024.
[3] “Some American policymakers want to copy the European Union’s onerous AI regulations.”
[4] “Highlighted censorship by Big Tech that led to Mark Zuckerberg admitting Facebook was pressured by the Biden-Harris White House to censor Americans. (…) Protected the First Amendment, leading to the dissolution of the Global Alliance for Responsible Media (GARM), the Global Engagement Center, the Stanford Internet Observatory, and other organizations that worked to censor Americans’ speech.“, aldus het bericht New Judiciary Committee Website Highlights Activities and Findings of the Select Subcommittee on the Weaponization of the Federal Government.
[5] Biden-Harris FTC Chair Lina Khan ‘Weaponized’ Agency Against Elon Musk, House Report Says, 28 oktober 2024.

Geplaatst in Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten, ICT, privacy, e-commerce | Tags: , , , , , , , , | Plaats een reactie

Demonstratieondermijning

Geplaatst op 13 januari 2025 door Ellen Timmer

De marketeers van het ministerie van Veiligheid hebben een mooie term aan hun palet toegevoegd: “demonstratieondermijning”.

Mijn eerste gedachte was dat dit is wat de overheid in Nederland met demonstraties aan het doen is, lees daar het bericht van Amnesty International maar op na, “Het recht om te demonstreren staat wereldwijd onder druk. Ook in Nederland. Amnesty Nederland maakt zich zorgen, want juist dit fundamentele recht is de zuurstof voor de democratie, een ventiel voor ongenoegen.“. Amnesty roept de Nederlandse overheid op zorgvuldiger met demonstraties en demonstranten om te gaan. In oktober 2024 werd door hen aangedrongen op het aan banden leggen van camerasurveillance, lees het nieuwsbericht. David Davidson schreef het artikel “Tienduizenden Nederlanders met terrorismecode in politiesystemen: demonstreren kan al genoeg zijn“ (Follow the Money). Dan was er nog die affaire waarbij mensen die niet bij een demonstratie aanwezig waren geweest, door het Openbaar Ministerie werden aangeschreven. [*]

Maar nee: de mensen van het veiligheidsministerie bedoelen er iets anders mee.

Lees het persbericht naar aanleiding van de kamerbrief over demonstreren. In het persbericht wordt gezegd dat ‘demonstratieondermijning’ betekent dat er demonstranten/demonstraties zijn die zich ‘misdragen’ en niet getolereerd moeten worden. In het bericht wordt dat omschreven als: “bewust ontwrichtende acties waarbij de wet wordt overtreden“. Daarna staat “daarmee ook het maatschappelijk draagvlak voor demonstraties te behouden“, waaruit blijkt dat het kabinet tegemoet wil komen aan boze automobilisten. Aan het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC) is opdracht gegeven om een afbakening te maken van ongewenste vormen van demonstreren. Verder wordt een verbod op gezichtsbedekkende kleding verkend, om relschoppers tijdens demonstraties beter te kunnen aanpakken (mij lijkt dat relschoppen niets met demonstreren te maken heeft en dat dit hier niet thuis hoort).

Opvallend is dat in het persbericht het gebruik van geweld in allerlei vormen tot het demonstreren wordt gerekend. Daarmee wordt demonstreren verdacht gemaakt, wat de geloofwaardigheid van de kabinetsplannen niet ten goede komt.

Het zou beter zijn als het kabinet iets ging doen met de kritiek van Amnesty en andere maatschappelijke organisaties en als het gebruik van geweld afzonderlijk zou worden aangepakt, tenslotte speelt het ook bij voetbalwedstrijden en op allerlei andere plaatsen.

 

 

[*] Er is nog meer, zoals het als terroristen aanmerken van milieuactivisten (Statewatch), een open brief van non-profit organisaties naar aanleiding van Spaanse demonstranten die als terrorist werden gekwalificeerd (Statewatch).

Geplaatst in Grondrechten | Tags: , , , , | 3 reacties

Focus on the EU Charter of Fundamental Rights

Geplaatst op 13 januari 2025 door Ellen Timmer

Several NGOs have jointly launched a site on the EU Charter.
The name of the site is focuscharter.eu.

It is a project of these NGOs that is described as follows:

Empowering Citizens, Enhancing Rights
Building Capacity on the EU Charter of Fundamental Rights

Our project is dedicated to increasing awareness of the EU Charter of Fundamental Rights and strengthening its application at all levels. Through a diverse set of activities ranging from media training and expert debates to local authorities support and youth empowerment, we aim to make the Charter a living instrument in daily life.

The role of the Charter is explained:

The EU Charter of Fundamental Rights brings together the personal, civic, political, economic, and social rights protected across the European Union. In effect since 2009, it ensures that people enjoy a high level of rights protection when dealing with EU institutions or where member states apply EU law.
The Charter safeguards the key principles of dignity, freedom, equality, solidarity, citizens’ rights, and justice. It is also notable for including a strong focus on social and economic freedoms, recognising modern challenges such as digital rights and environmental protection, and guaranteeing fair and effective public administration.
However, despite its importance, the awareness and use of the Charter remains low. Many citizens, public officials, and even legal professionals are unfamiliar with it, limiting its practical application and preventing it from reaching its full potential to protect citizens’ rights.

Project partners are:

Geplaatst in English - posts in English on this blog, Europa, Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten, ICT, privacy, e-commerce | Tags: | Plaats een reactie

Nederlandse regering treedt in de EU op zonder mandaat | AML Package

Geplaatst op 12 januari 2025 door Ellen Timmer

Het komt regelmatig voor dat de Nederlandse regering in EU-verband (zoals in de Europese Raad) standpunten inneemt zonder dat er mandaat is vanuit het parlement.

Dat valt te lezen in het rapport Grip door begrip. De Nederlandse invloed in de Europese Unie (2016–2023) [*], pagina 54:

Niet altijd is sprake van een helder mandaat. (…)

Buiten kijf staat het belang van de parlementaire democratie. Maar er zijn voorbeelden waarbij de wens van de meerderheid van de Tweede Kamer op gespannen voet staat met de positie van het kabinet. Soms houdt het kabinet toch voet bij stuk omdat de positie van Nederland te precair ligt in het Europees krachtenveld. De keerzijde hiervan is dat in dit soort gevallen een helder mandaat vanuit het parlement ontbreekt. Recente voorbeelden zijn de onderhandelingen over het voorstel voor het introduceren van digitaal centralebankgeld (beter bekend als CBDC, oftewel central bank digital currency), de Europese digitale identiteit en financiële steun aan Oekraïne. Bij de natuurherstelwet volgde het kabinet wél de wens van een Kamermeerderheid om tegen te stemmen. Nederland zou niet aan de stikstof- en waterkwaliteitsdoelen kunnen voldoen en er zouden mogelijk nog meer onhaalbare doelen bij komen, aldus de Tweede Kamer. Het kabinet maakte bekend dat het de wens van de Kamermeerderheid ‘met grote tegenzin’ zou volgen, mede omdat er gedurende het Brusselse proces al aan veel van de Nederlandse zorgen tegemoet was gekomen en Nederland zich een betrouwbare onderhandelingspartner had willen tonen, aldus de bewindspersoon in een brief aan de Kamer. Door onvoldoende steun van de lidstaten in de Raad werd de stemming over de wet uiteindelijk uitgesteld. 283 De rol van het parlement komt verder aan de orde in §4.5 over flexibiliteit.

 

AML Package: “the reform was of a massive size, and there are important novelties”
Een duidelijk voorbeeld van opereren van de Nederlandse regering in de EU zonder democratisch mandaat, is zichtbaar in de privatisering van de criminaliteitsbestrijding (‘witwasbestrijding’). Binnenkort zal duidelijk worden hoe ingrijpend de wijzigingen zijn die het AML Package brengt in die geprivatiseerde misdaadbestrijding (nu in Nederland vastgelegd in de Wet ter voorkoming van witwassen en financieren van terrorisme, Wwft). Het Nederlandse parlement heeft bij een groot deel van de beleidskeuzes geen enkele betrokkenheid gehad.

 

[*] Bijlage bij de brief van de minister van Buitenlandse Zaken van 11 december 2024.

Geplaatst in Europa, Grondrechten | Tags: , , , , , , | Plaats een reactie

“Eyes Everywhere: Surveillance and Data Retention under the EU Charter” | Verfassungsblog

Geplaatst op 12 januari 2025 door Ellen Timmer

On Verfassungsblog an interesting series of articles was published, with surveillance as theme: Eyes Everywhere: Surveillance and Data Retention under the EU Charter, articles are e.g.:

Geplaatst in English - posts in English on this blog, Europa, Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten, ICT, privacy, e-commerce | Tags: , , , , , , | Plaats een reactie

Brief AP over openbare registers en gegevensbescherming

Geplaatst op 11 januari 2025 door Ellen Timmer

De Autoriteit Persoonsgegevens (AP) is al langer bezig met de Nederlandse ‘openbare’ registers (zoals handelsregister, ubo-register en het kadaster), zoals onder meer blijkt uit de brief van de AP van maart 2023 (artikel) en het doxing advies uit 2022 (artikel).

In december 2024 stuurde de AP een nieuwe brief over die openbare registers (nieuwsbericht, brief). In deze brief wordt er op gewezen dat registers alleen toegankelijk dienen te zijn voor personen met een specifiek belang:

De hoofdregel ten aanzien van de toegang tot een dergelijk openbaar register is dat toegang is beperkt tot belanghebbenden. 2 Dat betekent ook dat iedereen die toegang wenst tot zo’n register in beginsel dient aan te tonen dat hij een specifiek belang heeft bij het verkrijgen van die gegevens. Alleen zo kan immers worden voorkomen dat ook personen, instellingen of bedrijven inzage krijgen om redenen die niets van doen hebben met de doelstellingen die ten grondslag liggen aan de opname van persoonsgegevens in dat register.

Onbegrensde toegang tot openbare registers die persoonsgegevens bevatten betekent dat gegevens zonder rechtvaardiging van een belang verspreid kunnen worden. Door ontwikkelingen in technologie kunnen afwegingen over openbaarheid die in het verleden zijn gemaakt nu anders uitvallen. 3 Dit leidt tot een verhoogd risico op ernstige gevolgen voor deze personen zoals blootstelling aan bijvoorbeeld fraude, ontvoering, chantage, afpersing, pesterijen, geweld of intimidatie.

Iedere (verdere) openbaarheid van de persoonsgegevens vergt derhalve een eigen rechtvaardiging en afweging. De AP acht het wenselijk dat de verantwoordelijke ministers deze afweging uitdrukkelijk maken.

2 Zie hiervoor ook artikel 86 Algemene Verordening Gegevensbescherming.

3 Zo is het bijvoorbeeld mogelijk dat technieken als scraping tot grootschalige ‘schaduwregisters’ kunnen leiden die voor andere doeleinden worden gebruikt dan waar het register oorspronkelijk voor bedoeld is.

Inventarisatie
Op verzoek van de AP is door de staatssecretaris Digitalisering een inventarisatie gemaakt van registers. Naar aanleiding van het ontvangen overzicht heeft de AP nog enige vragen gesteld aan allerlei ministeries en is het de AP gebleken dat in het overzicht nog enige registers ontbreken. De AP wijst er in de brief op dat het niet alleen gaat om registers die direct onder het beheer van een ministerie vallen. Ook registers op grond van de wet die bij een andere overheidsinstelling of bij private partijen in beheer zijn vallen er onder.

De AP besluit de brief met het volgende verzoek aan de staatssecretaris:

Vanuit uw coördinerende verantwoordelijkheid voor Digitalisering binnen de Overheid, verzoekt de AP u om de op 7 juni 2023 aan de AP en op 11 maart 2024 aan de Tweede Kamer verstrekte lijst op volledigheid te laten controleren door alle ministeries. Daarbij verzoekt de AP u de ministeries, voor zover dit nog niet is gedaan, expliciet ook te laten onderzoeken of er in wettelijke regelingen waarvoor zij verantwoordelijk zijn ook openbare registers zijn ingesteld of hieruit volgen. Dit onafhankelijk van de vraag of een register in beheer is bij het desbetreffende ministerie. Dit kan dus ook inhouden dat dergelijke openbare registers in beheer zijn bij andere overheidsinstellingen of private partijen.

 

 

Lees op deze site de artikelen over bescherming persoonsgegevens handelsregister en kadaster.

Geplaatst in Grondrechten, ICT, privacy, e-commerce, Ubo-register | Tags: , , , , , , , , | Plaats een reactie

Autoriteit Persoonsgegevens vraagt input op verbod op AI-systemen voor sociale scoring

Geplaatst op 11 januari 2025 door Ellen Timmer

Tot en met 7 februari a.s. loopt de internetconsultatie van de Autoriteit Persoonsgegevens (AP) over het verbod op AI-systemen voor social scoring, lees de aankondiging en het consultatiedocument.

Social scoring vindt nu al op grote schaal plaats. Het bekendste voorbeeld zijn de advertentiebedrijven (Google, Facebook e.d.) die de gebruikers scoren met het oog op de advertenties die zij te zien krijgen. Vele anderen doen dat ook. Zo zijn er kredietwaardigheidsbeoordelingsbedrijven (waar geen Nederlander de naam van kent) die door middel van social scoring de kredietwaardigheid van mensen en organisaties bepalen, op basis van geheime criteria en geheime bronnen.

De vele bedrijven die in opdracht van de overheid misdaadgeld moeten opsporen (‘witwasbestrijding’), zoals banken, moeten nadat de Europese antiwitwasregels van kracht zijn geworden op nog grotere schaal door middel van social scoring het risicoprofiel van alle klanten [*] vaststellen, gerelateerd aan de kans op aanwezigheid van misdaadgeld / criminele activiteiten. Helaas vallen deze social scoring activiteiten als ze met AI worden uitgevoerd niet onder de AI Act (artikel).

Het is een belangrijke consultatie. Ik ben benieuwd wat er uit komt.

 

 

Noot

[*] De nieuwe antiwitwasregels schrijven voor dat van iedere klant en ‘uiteindelijk begunstigde’ (ubo) een risicoprofiel wordt gemaakt, gebaseerd op (bijlage I sub a AMLR, markering door mij):

a) Cliëntgebonden risicovariabelen:
i) de bedrijfs- of beroepsactiviteit van de cliënt en van de uiteindelijk begunstigde van de cliënt;
ii) de reputatie van de cliënt en van de uiteindelijk begunstigde van de cliënt;
iii) de aard en het gedrag van de cliënt en van de uiteindelijk begunstigde van de cliënt;
iv) de rechtsgebieden waar de cliënt en de uiteindelijk begunstigde van de cliënt zijn gevestigd;
v) de rechtsgebieden waarin de hoofdvestiging van de cliënt en van de uiteindelijk begunstigde van de cliënt gelegen is;
vi) de rechtsgebieden waarmee de cliënt en de uiteindelijk begunstigde van de cliënt relevante persoonlijke banden hebben;

Advertentiebedrijven en andere datahandelaren zullen hier heel blij mee zijn want het gaat gouden business opleveren. Aan gegevensbescherming  – zoals dataminimalisatie – wordt in de geprivatiseerde misdaadbestrijding niet gedaan, vinden ze in Europa.

Geplaatst in Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten, ICT, privacy, e-commerce | Tags: , , , , , , , , , , , , , , | Plaats een reactie

Algoritmische opsporing door banken op grond van antiwitwasverordening niet gereguleerd in AI Act

Geplaatst op 10 januari 2025 door Ellen Timmer

De Europese wetgever heeft welbewust de algoritmische opsporing van criminaliteit door banken en de vele andere ondernemingen die misdaad moeten opsporen (‘witwasbestrijding’) uitgezonderd van de toepasselijkheid van de nieuwe verordening inzake kunstmatige intelligentie (‘AI’), de ‘AI Act’.
Dat volgt zowel uit de AI Act zelf als uit de nieuwe Europese antiwitwasregels die binnenkort in werking treden: de Europese antiwitwasverordening (AMLR) en diverse andere Europese regels (het AML Package).

Deze wetgevende nalatigheid wordt door Lena Leffer besproken in haar artikel voor Verfassungsblog [1]. Zij schrijft (machinevertaling) [2]:

Algoritmische oplossingen voor het detecteren van mogelijke gevallen van witwassen worden immers al op grote schaal gebruikt in financiële instellingen en banken. De EU-wetgever heeft echter de kans gemist om dergelijke AI-systemen te categoriseren als hoog risico in de zin van de EU-AI-verordening en ze daarom te onderwerpen aan bijzonder strenge regelgeving in overeenstemming met art. 8 en volgende van de EU-AI-verordening. In de strijd tegen het witwassen van geld gaat het gebruik van AI gepaard met ernstige risico’s van geautomatiseerde onjuiste beslissingen, die kunnen leiden tot massale omzeiling van grondrechten door de privatisering van de melding van verdachte activiteiten in het kader van de witwaswetgeving. Inperking door de staat zou daarom wenselijk zijn (geweest).

In haar artikel meldt zij het enthousiasme van de financiële beleidsmakers van EU, FATF en allerlei internationale financiële gremia voor opsporing door middel van kunstmatige intelligentie [3]. Die beleidsmakers veronderstellen dat crimineel geld door financiële instellingen kan worden ontdekt via digitale analyse van alle financiële transacties, zodat zij die aan de overheid (in Nederland aan FIU-Nederland) kunnen melden [4]. Die veronderstelling is riskant, zo schrijft ze (machinevertaling) [5]:

Maar hoe veelbelovend deze technologie ook is, ze brengt ook aanzienlijke risico’s met zich mee. Het gebruik van AI om het witwassen van geld tegen te gaan gaat gepaard met onzekerheden en mogelijk onjuiste geautomatiseerde beslissingen, wat kan leiden tot een enorme inbreuk op de grondrechten.

Ze constateert dat AI-systemen die witwassen moeten detecteren niet als hoog risico zijn aangemerkt, wat betekent dat er onvoldoende eisen aan die systemen worden gesteld. Daar komt bij dat witwasbestrijdingsplichtigen met zeer hoge boetes worden bedreigd als zij hun geprivatiseerde overheidstaken niet goed uitvoeren, wat tot gevolg heeft dat te snel wordt geconcludeerd dat er een misdaadvermoeden is (vals-positieven) en te snel van klanten afscheid wordt genomen (‘de-risking’) [6]. Dit doet zich nu al voor en ook al wordt het door de internationale wetgever (FATF) gesignaleerd (‘unintended consequences’), er gebeurt niets of te weinig.

Het grote aantal vals-positieven en de schade die door witwasbestrijdingsplichtigen aan de klanten wordt toegebracht, wordt door de financiële beleidsmakers voor lief genomen.

Een groot probleem van de geprivatiseerde misdaadbestrijding door banken en andere grote ondernemingen, is het ontbreken van transparantie over de gehanteerde criteria en methoden. Ook Leffer signaleert dat [7] en is van mening dat een ‘schaamteloze omzeiling van grondrechten‘ [7] van burgers dreigt, nu artikel 22 AVG niet van toepassing is [8] en ook de extra eisen van de AI Act niet van toepassing zijn:

De EU-AI-verordening voorziet in strenge controles voor AI-systemen met een hoog risico. AI-systemen voor de bestrijding van witwaspraktijken worden in de AI-verordening van de EU echter niet gecategoriseerd als systemen met een hoog risico, waardoor deze beschermingsmechanismen hier onvoldoende van toepassing zijn. Dit is met name zorgwekkend omdat verkeerde beslissingen op dit gebied niet alleen criminele gevolgen kunnen hebben voor de betrokkenen, maar ook het vertrouwen van de betrokkenen in de integriteit van het financiële systeem als geheel kunnen ondermijnen.

Foute beslissingen door private partijen kunnen grote gevolgen voor burgers hebben, terwijl die private partijen de grondrechten van die burgers kunnen negeren (en dat in de praktijk ook doen). Daar komt nog bij, aldus Leffer, dat in de huidige politiek en sociale instabiele tijd grondrechtelijke waarborgen essentieel zijn om burgers te beschermen.

Om fouten als gevolg van het gebruik van AI te voorkomen bepleit Leffer een specifieke rechtsgrondslag voor het gebruik van AI in de witwasbestrijding, strenge controle, hoge transparantie-eisen en duidelijke regels, zodat de grondrechten van burgers niet in gevaar komen.

 

 

Noten

[1] Das Dunkelfeld aufhellen. Über Schutzlücken der EU-KI-Verordnung bei der Regulierung der automatisierten Detektion von Geldwäsche, Lena Leffer.

[2] Vertaling van: “Denn algorithmische Lösungen zur Aufdeckung potenzieller Geldwäschefälle werden in Finanzinstituten und Banken bereits großflächig eingesetzt. Der EU-Gesetzgeber hat jedoch die Chance verpasst, solche KI-Systeme als hochriskant i.S.d. EU-KI-Verordnung einzustufen und damit einer besonders strengen Regulierung nach Art. 8 ff. EU-KI-Verordnung zu unterstellen. In der Geldwäschebekämpfung ist der Einsatz von KI mit gravierenden Risiken automatisierter Fehlentscheidungen verbunden, die durch die Privatisierung des geldwäscherechtlichen Verdachtswesens zu massiven Grundrechtsumgehungen führen können. Eine staatliche Einhegung wäre daher wünschenswert (gewesen).”

[3] Ze verwijst naar een aanprijzend verhaal van accountantskantoor Deloitte.

[4] Helaas bespreekt ze alleen het huidige wetgevende kader in Duitsland en niet de antiwitwasverordening (AMLR) en andere Europese wetgeving die binnenkort in werking treden.

[5] Vertaling van: “Doch so vielversprechend diese Technologie auch ist, birgt sie auch erhebliche Risiken. Der Einsatz von KI zur Geldwäschebekämpfung ist mit Unsicherheiten und potenziell automatisierten Fehlentscheidungen verbunden, die zu massiven Grundrechtseingriffen führen können.” Zie over de schade door algoritmische opsporing de serie ‘Suspicion Machines’ van Lighthouse Reports, over wat er mis gaat bij de overheid op dat gebied. In de private sector gebeurt hetzelfde (al is onbekend welk deel door AI komt), het KPMG rapport over discriminatie is het topje van de ijsberg, maar geeft geen informatie over de oorzaken.

[6] Over de gevolgen van de boetedreiging: “Durch die hohen Bußgelddrohungen im GwG – etwa § 56 GwG – sind Banken in der Regel veranlasst, wenige False Negative Treffer zu erhalten (eigentlich verdächtige Fälle, fälschlicherweise unverdächtig eingestuft) und nehmen daher zur Erhöhung der Anzahl „richtiger“ (tatsächlich verdächtiger Fälle; True Positive) Verdachtsfälle häufig technisch in Kauf, dass sich dadurch die Anzahl „falscher“ (tatsächlich unverdächtiger Fälle, fälschlicherweise als verdächtig eingestuft; False Positive) Treffer erhöht.”

[7] “Ein weiteres zentrales Problem bei vielen KI-Systemen ist deren Intransparenz auf verschiedenen Ebenen, etwa aufgrund von Geschäftsgeheimnissen an den technischen Details oder mangelnder Erklärbarkeit des KI-Systems. Die Systeme basieren häufig auf hochkomplexen Algorithmen des maschinellen Lernens, deren Entscheidungsprozesse für Außenstehende kaum nachvollziehbar sind. Diese sogenannten Black Boxes erschweren es, dass ein Mensch überprüfen kann, warum eine bestimmte Transaktion als verdächtig eingestuft wurde und ob diese Entscheidung gerechtfertigt war.”

[7] “eklatante Umgehung von Grundrechten“, uit “Beim Einsatz von KI durch private Rechtssubjekte (hier insbesondere Banken und Finanzinstitute) zur Verarbeitung von personenbezogenen Daten zur späteren Verwendung im Strafverfahren droht eine eklatante Umgehung von Grundrechten.”

[8] Er wordt hier naar § 43 GwG verwezen, maar voor zover ik weet staat zo’n uitzondering ook in AMLR.

[9] “Die EU-KI-Verordnung sieht für Hochrisiko-KI-Systeme strenge Prüfungen und Kontrollen vor. KI-Systeme zur Geldwäschebekämpfung sind jedoch nicht als hochriskant nach der EU-KI-Verordnung einzustufen, weshalb diese Schutzmechanismen hier nicht in ausreichendem Maße greifen. Dies ist besonders bedenklich, da Fehlentscheidungen in diesem Bereich nicht nur strafrechtliche Konsequenzen für die Betroffenen haben können, sondern auch das Vertrauen von Betroffenen in die Integrität des Finanzsystems insgesamt untergraben können.“

Geplaatst in Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten, ICT, privacy, e-commerce | Tags: , , , , , , , , , , , , , , | Plaats een reactie

Woo-verzoek over toezicht AP op particuliere recherchebureaus

Geplaatst op 9 januari 2025 door Ellen Timmer

De Autoriteit Persoonsgegevens (AP) heeft naar aanleiding van een Woo-verzoek informatie bekend gemaakt over de naleving door particuliere recherchebureaus van de AVG, zie het nieuwsbericht van de AP, het bijbehorende Woo-besluit en de openbaar gemaakte documenten.

De vragensteller wilde het volgende weten:

Geplaatst in Grondrechten, ICT, privacy, e-commerce | Tags: , , , | Plaats een reactie

Hoe gemeenten burgers beschadigen | persoonsgerichte anti-radicaliseringsaanpak bij Argos

Geplaatst op 8 januari 2025 door Ellen Timmer

In een schokkende uitzending van het radioprogramma Argos kwam in een nagespeeld interview een jongeman aan het woord, die op achttien jarige leeftijd op de extremistenlijst van de gemeente Amsterdam was gezet. Onderbouwing: onbekend. Vervolging: heeft nooit plaats gevonden. Toen hij al vijf jaar van die lijst af was, ontdekte hij dat hij zonder het te weten internationaal gesignaleerd is; hij kwam een buitenland niet binnen en werd hij op het vliegtuig naar Nederland gezet. Zo maakt de overheid mensen kapot.

Argos beschrijft de uitzending als volgt:

Nederlandse gemeenten spelen een belangrijke rol in het tegengaan van radicalisering van personen die over dreigen te gaan tot het gebruik van geweld. Daarvoor is de zogenaamde ‘Persoonsgerichte Aanpak’ ontwikkeld. Hierbij kunnen vergaande bevoegdheden worden ingezet om in iemands persoonlijke leven te interveniëren. Maar deze aanpak stuit op vragen en kritiek. Zo kan je geen bezwaar maken.

Zo kan een sleutelpersoon worden ingezet die regelmatig met betrokkenen praat of kan er hulp worden aangeboden op maatschappelijk vlak of op school. Maar ook meer repressieve middelen als bezoek van een agent of het staande houden door de politie, praten met familie en vrienden. Het is een aanpak op de grens van preventie en repressie.

Over personen in de aanpak wordt een dossier bijgehouden en die informatie wordt gedeeld met betrokken instanties. Er is ook kritiek op de Persoonsgerichte Aanpak omdat je er geen bezwaar tegen kunt maken, je vaak niet weet waarom je precies in de Aanpak bent beland en welke informatie er over je verzameld en gedeeld wordt.

Hier is sprake van onbehoorlijk optreden van gemeenten en andere overheden, die slachtoffers maken en het vertrouwen in de overheid schade toebrengen.

Het lid van de Tweede Kamer voor de VVD, Ingrid Michon, die in uitzending werd geïnterviewd, beweerde dat er geen extra maatregelen nodig zijn om burgers te beschermen, terwijl zij op de hoogte hoort te zijn van de fouten die zijn gemaakt in de bestrijding van terrorisme en extremisme, zoals onder meer blijkend uit een kritisch rapport van de Inspectie Justitie en Veiligheid en het rapport van de Nationale Ombudsman.

Namens Privacy First nam Stephan Mulders deel aan het afsluitend gesprek. Hij gaf aan dat bij een persoonsgerichte aanpak hoort dat er waarborgen zijn en er onafhankelijk toezicht plaats vindt.

Over de uitzending van Argos:

 

Meer informatie:

Geplaatst in Grondrechten, Strafrecht | Tags: , , , , , , , | 1 reactie