PI.lab conference 2023 on algorithms and society

On Thursday 13 April 2023 the PI.lab organises its conference 2023 and has chosen algorithms and society as subject.

There will be a panel discussion on algorithmic fraud detection in the welfare state

Panel discussion – Algorithmic fraud detection in the welfare state
In many countries, governments aim to use new technology to make the welfare state more efficient and to mitigate fraud. However, this digitisation can also erode people’s rights. In The Netherlands, the childcare benefits scandal has illustrated the risk of discrimination when the state aims to combat fraud in the welfare state. This workshop discusses questions such as: Can algorithmic systems be used to combat welfare fraud, without threatening rights such as the privacy and non-discrimination? Can non-discrimination norms be built into algorithmic systems?

Panel discussion with the audience

Panel members:

* Hind Dekker-Abdulaziz, member of the Dutch parliament for D66
* Marc Steen, senior research scientist, TNO
* Nadia Benaissa, policy advisor, Bits of Freedom
* Sennay Ghebreab, Professor of Socially Intelligent AI, University of Amsterdam

Moderator: Frederik Zuiderveen Borgesius, Professor ICT & Law, iHub, Radboud University

Another item is a workshop on predictive policing:

Predictive policing: promises and pitfalls
Predictive policing concerns the use of automated predictions about who will commit crime or when and where crime will occur. The police in the Netherlands uses CAS, the Crime Anticipation System. The system aims to predict where crime will occur: distinguishing blocks of 125×125 meter on the map of The Netherlands. This panel discusses questions such as: how effective is predictive policing in combatting crime? Are there risks, for instance related to discrimination? Do the advantages of predictive policing, such as efficiency, outweigh the disadvantages?

Interactive discussion, moderated by Frederik Zuiderveen Borgesius

Discussants: the audience, and

* Gwen van Eijk, Amnesty International
* Kelly Vink, Policy worker at the Dutch Public Prosecutors Office
* Cynthia Liem, Associate Professor working on trustworthy AI, Delft University
* Lonneke Stevens, Professor of Criminal Law, Vrije Universiteit Amsterdam

Look at the conference page for the full program.

About the PI.lab (source):

The Privacy & Identity Lab (aka the PI.lab) was founded on 11 November 2011 and is a collaboration between Radboud University Nijmegen (RU), Tilburg Institute of Law, Technology, and Society (TILT) and TNO. The aim of this collaboration is to found a multidisciplinary, national and international centre of expertise for research and innovation in the area of digital privacy and identity. Stichting Internet Domeinregistratie Nederland (SIDN) provided financial support for this initiative until the end of 2015.

Geplaatst in English - posts in English on this blog, Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten, ICT, privacy, e-commerce | Tags: , , , | Plaats een reactie

Eerste Kamer accordeert wet inzake verwijderingsbevelen terroristische inhoud

In januari dit jaar werd een wet inzake verwijderingsbevelen terroristische inhoud [1] aangenomen door de Tweede Kamer (blog). Op 21 maart jl. heeft de Eerste Kamer het wetsvoorstel eveneens geaccordeerd [2].

Tijdens de behandeling zijn er nog vragen door leden van de Eerste Kamer gesteld, die in de memorie van antwoord [3] door de minister van Veiligheid werden beantwoord. Die vragen betreffen de relatie van de minister tot het nieuwe zelfstandige bestuursorgaan (de Autoriteit online Terroristisch en Kinderpornografisch Materiaal, ‘ATKM’) en de verhouding met gemeentelijke activiteiten op hetzelfde terrein.

Verwijderingspraktijk
Verder werden vragen gesteld over de verwijderingspraktijk en het toepassen van digitale surveillance systemen bij het detecteren van foute inhoud, waarover de minister van Veiligheid onder meer het volgende schrijft (de ‘TOI-verordening’ is de Europese wet waarnaar de Nederlandse wet verwijst):

Voor zover de vraag ziet op de toepassing van geautomatiseerde instrumenten door de ATKM merk ik graag het volgende op. De ATKM kan ervoor kiezen automatische instrumenten toe te passen voor de detectie en identificatie van online-materiaal. Indien vermoedelijke terroristische onlineinhoud door de ATKM wordt aangetroffen door de inzet van dit soort instrumenten, wordt deze vervolgens altijd beoordeeld door een detectiemedewerker. Deze medewerker ontvangt hiervoor een speciale opleiding, die zowel ziet op detecteren van online terroristisch materiaal als op het duiden daarvan. Binnen de ATKM is sprake van een functiescheiding. Als de detectiemedewerker oordeelt dat online-inhoud terroristisch van aard is, dan legt deze het materiaal voor aan de specialist handhaving en beoordeling. Deze juridisch medewerker toetst het materiaal aan de definities van de TOI-verordening en stelt, indien dat nodig wordt geacht, een verwijderingsbevel op. Waar nodig wordt de medewerker ondersteund door een senior specialist die tevens toeziet op de consistentie in de beoordeling. Het verwijderingsbevel wordt ter accordering aan het bestuur voorgelegd.

Voor zover aanbieders van hostingdiensten met behulp van automatische instrumenten invulling geven aan de verplichting tot het nemen van specifieke maatregelen, geldt het volgende. De TOIVerordening verplicht aanbieders van hostingdiensten in bepaalde gevallen tot het nemen van specifieke maatregelen om hun diensten te beschermen tegen de verspreiding van terroristische inhoud onder het publiek. (…)

Specifiek voor het gebruik van geautomatiseerde instrumenten stelt de TOI-verordening in artikel 5, lid 3 een aanvullende eis. Wanneer een aanbieder van hostingdiensten kiest voor geautomatiseerde instrumenten dienen passende en doeltreffende waarborgen te worden geboden, met name door te voorzien in toezicht en verificatie door mensen. Hierdoor wordt niet alleen nauwkeurigheid gewaarborgd maar ook voorkomen dat materiaal dat niet terroristisch van aard is, wordt verwijderd. Op deze manier wordt voorkomen dat automatische instrumenten zelfstandig, zonder tussenkomst van mensen, bepalen welk materiaal wél en welk materiaal niet op een platform is toegestaan.

Volgens de minister zijn er voldoende waarborgen in de regelgeving voor de naleving van de vrijheid van meningsuiting en van informatie, de eerbiediging van het privéleven en de bescherming van persoonsgegevens.

Controversiële standpunten in het publieke debat
Een andere vraag betrof het onderscheid tussen enerzijds verboden inhoud en aan de andere kan wel toegestane radicale, polemische of controversiële standpunten in het publieke debat over gevoelige politieke vraagstukken. De minister schrijft dat er organisatorische maatregelen zijn genomen die moeten waarborgen dat er niet ten onrechte wort verwijderd:

Het kan zijn dat de beoordeling of online-inhoud wel of niet terroristisch van aard is, in sommige gevallen complexer is dan in andere gevallen. Met het oog op een zorgvuldige oordeelsvorming wordt binnen de ATKM het principe van functiescheiding toegepast. Dat betekent dat de functionarissen die potentiële terroristische uitingen op het internet detecteren, niet dezelfde zijn als degenen die deze uitingen beoordelen en zo nodig een verwijderingsbevel opstellen. Hiervoor worden juridisch geschoolde beoordelaars aangesteld (…). Zij zullen de uitingen van geval tot geval toetsen aan de definitie van terroristische online-inhoud in de zin van de TOI-verordening.

Opgemerkt wordt dat er rechtsbescherming achteraf is:

Hierbij benadruk ik dat een beslissing van de ATKM tot het uitvaardigen van een verwijderingsbevel ten aanzien van bepaalde content met rechtswaarborgen is omkleed. Tegen een dergelijke beslissing kan bezwaar en beroep worden ingesteld. Op deze wijze kan door de rechter worden getoetst of het besluit van de ATKM om bepaalde content aan te merken als content met een terroristische inhoud die verwijderd dient te worden, op juiste gronden is genomen en voldoende is gemotiveerd. In het bijzonder ten aanzien van controversiële standpunten merk ik op dat er mede om deze reden voor is gekozen de ATKM in te richten als zelfstandig bestuursorgaan, zodat (de schijn van) politieke inmenging bij de beoordeling van uitingen wordt voorkomen.

Voorspelbaarheid
Op de vraag naar de voorspelbaarheid van de regels antwoordt de minister dat wat online-uitingen met een terroristische inhoud zijn voldoende uit de Europese verordening zou blijken [4]. Kennelijk worden de besluiten van de ATKM openbaar, want de minister schrijft:

Het is de verwachting dat in de loop der tijd met het toenemend aantal besluiten van de ATKM, nog inzichtelijker zal worden welke overwegingen bij de verwijdering van content doorslaggevend zijn. Daarbij is de inzet van de ATKM niet alleen normstellend van aard. De opzet van de ATKM gaat ook uit van samenwerking met de sector. Hierbinnen is ook ruimte voor nadere toelichting op de definities en de weging daarvan door de ATKM in de praktijk.

Kennelijk moeten burgers naar de rechter als de overheid zich misdraagt en is men niet bereid nu al duidelijkheid te verschaffen:

Tot slot is de verwachting dat, met het van kracht zijn van de TOI-verordening, ook gebruik zal worden gemaakt van de beschikbare rechtsmiddelen en er jurisprudentie zal ontstaan die ook bijdraagt aan nadere voorspelbaarheid. Bovendien kunnen nationale rechters – ook de Nederlandse – als zij dat nodig achten prejudiciële vragen over de uitleg van de TOI-verordening stellen aan het Hof van Justitie van de Europese Unie in Luxemburg.

We gaan zien hoe een en ander in de praktijk uitwerkt.

 

Noten
[1] Officieel: Uitvoeringswet verordening terroristische online-inhoud. Wetsvoorstel zoals aan de Eerste Kamer voorgelegd. Dossier: Tweede Kamer, Eerste Kamer, overheid.nl. De wet geeft uitvoering aan de TOI-verordening, de Verordening 2021/784 van het Europees Parlement en de Raad van 29 april 2021 inzake het tegengaan van de verspreiding van terroristische online-inhoud, overzichtspagina, Nederlandstalige html-versie.
[2] Stemmingen 21 maart 2023.
[3] Memorie van antwoord 10 maart 2023.
[4] Definitie in de TOI-verordening (NL versie):

7. “terroristische inhoud”: een of meer van de volgende soorten materiaal, namelijk materiaal dat:
a) aanzet tot het plegen van een van de in artikel 3, lid 1, punten a) tot en met i), van Richtlijn (EU) 2017/541 genoemde misdrijven, indien dat materiaal direct of indirect, bijvoorbeeld door terroristische daden te verheerlijken, het plegen van terroristische misdrijven bepleit, waardoor een gevaar ontstaat dat een of meer van die misdrijven mogelijk worden gepleegd;
b) een persoon of een groep personen aanspoort om een van de in artikel 3, lid 1, punten a) tot en met i), van Richtlijn (EU) 2017/541 genoemde misdrijven te plegen of daaraan een bijdrage te leveren;
c) een persoon of een groep personen aanspoort om deel te nemen aan de activiteiten van een terroristische groepering, in de zin van artikel 4, punt b), van Richtlijn (EU) 2017/541;
d) instructies biedt voor het vervaardigen of gebruiken van explosieven, vuurwapens of andere wapens of schadelijke of gevaarlijke stoffen, of voor andere specifieke methoden of technieken, met als doel een van de in artikel 3, lid 1, punten a) tot en met i), van Richtlijn (EU) 2017/541 bedoelde terroristische misdrijven te plegen of daaraan een bijdrage te leveren;
e) een dreiging vormt om een van de in artikel 3, lid 1, punten a) tot en met i), van Richtlijn (EU) 2017/541 bedoelde misdrijven te plegen;

Of dat duidelijk is, vraag ik me af…

 


Aanvulling 21 april 2023
Zie over het bestrijden van terroristenmarketing ook het verslag van een digitale Interparlementaire conferentie van de parlementaire controlegroep Europol (JPSG). In hoofstuk 4, Verslag van de Europese Toezichthouder voor gegevensbescherming (dat is de EDPS), staat:

Ten eerste gaf de EDPS een update over zijn toezicht op de activiteiten die Europol zal verrichten in het kader van verordening 2021/784 inzake het tegengaan van de verspreiding van terroristische online-content. Onder deze verordening kunnen lidstaten de verwijdering van terroristische online-content vorderen bij web providers via een technisch platform genaamd PERCI (“Plateforme Européenne de Retraits de Contenu Illégaux sur internet”) dat door Europol gebouwd wordt en beheerd zal worden. De EDPS gaf aan met Europol in een constructieve dialoog te staan over systeem en gegevensbeschermingsaspecten die hij als zeer complex aanmerkte. De EDPS gaf aan “in de komende weken” zijn (eind)oordeel over het systeem aan Europol te doen toekomen.

Geplaatst in Grondrechten, ICT, privacy, e-commerce | Tags: , , , , , , , , , | Plaats een reactie

Experian and data protection in a UK court

The famous American databroker Experian in the UK was confronted with a court decision in a case against the Information Commissioner regarding data protection. The court has decided that data collected with consent cannot be used for further processing without additional consent, especially the disclosure of such data to a third party:

52. It is reiterated that when data is provided on the basis of consent to one controller and that data is then processed by a different controller on a different basis (legitimate interest) then the initial basis of consent is not sufficiently clear. It is averred also that the right to object to direct marketing processing Article 21(2) is now put right, which Experian’s processing circumvents to the detriment of data subjects and its commercial advantage.

Background:

1. Experian is a well-known Credit Reference Agency (“CRA”). In that capacity it holds and processes data relating to over 51 million people living in the United Kingdom, effectively the whole of the adult population. What is less well known is that Experian has within it a business unit, Experian Marketing Services (“EMS”), which processes the data of around 51 million people in the UK to provide marketing services which it sells to its third-party clients. It does so by combining their name and address information, with a total of up to thirteen actual attributes. It then processes this data and creates modelled information on the demographic, social, economic and behavioural characteristics of these 51 million individuals on a predictive basis, the profile for each person running to as many as 49 derived data points about individuals and up to 370 modelled points about individuals, with each profile running to many pages. (…)

6. Broadly, Experian has no direct relationship with individuals whose data it processes for the purpose of these products, except in a limited number of cases when individuals contact Experian via the Experian website or where they have a direct relationship with Experian via Experian Consumer Services (“ECS”).

7. ConsumerView contains entries at an individual level for some 51 million adults in the United Kingdom, that number changing from time to time due to changes in the UK adult population, as a result of deaths and people turning 18. ConsumerView combines name and address information, with a total of up to thirteen actual attributes. It then processes this data and creates modelled information on the demographic, social, economic and behavioural characteristics of individuals and households on a predictive basis. The actual information reflects known characteristics of a given individual; the derived information reflects characteristics that are calculated or ascertained from other data, the modelled information reflecting predicted characteristics.

8. ChannelView’s database contains names, postal addresses, email addresses and mobile phone numbers are predominantly provided to Experian by various third data suppliers who between them collect data from data subjects via some 148 websites in return for access to offers and discounts, price comparison services, the ability to participate in surveys and so on. The total number of records will vary from time to time, but it contains details of at least 24 million individuals.

It is amazing that this type of data brokers are allowed to operate without license and supervision and that they only have to apply data protection legislation, that in practice seldom is enforced.

Geplaatst in English - posts in English on this blog, Financieel recht, onder meer Wft, Wtt, Grondrechten | Tags: , , , , , | Plaats een reactie

Europe as a major databroker | IT systems to fight crime and secure EU borders

Europe is developing into a very important databroker, collecting biometric data and all sorts of other personal data. Some of many of the databases are found on the page of the European Council, IT systems to fight crime and secure EU borders:

  • Schengen information system
  • Visa information system
  • System to manage European asylum applications (Eurodac)
  • European travel information and authorisation system (ETIAS)
  • Entry/exit system
  • European criminal records information system (ECRIS)
  • Passenger name record data

These databases are managed by the EU agency in charge of large-scale IT systems, eu-LISA. Despite all the fine words about fundamental rights, there is a risk that European databases will be used for surveillance and profiling of every EU citizen.

The developments are followed by Statewatch, with topics like:

 

 


Addition 26 November 2024
The Fundamental Rights Guidance Board of the European Travel Information and Authorisation System has published an annual report. The Board according to this article is supposed to perform regular appraisals, to make recommendations to the ETIAS Screening Board and support the Screening Board in the execution of its tasks.

Geplaatst in English - posts in English on this blog, Europa, Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten, ICT, privacy, e-commerce | Tags: , , , , , , | Plaats een reactie

De geheime diensten gaan hun heilige ongecontroleerde gang | TIB jaarverslag, kritiek Hubert en Tremmel

Overheden willen graag zoveel mogelijk persoonsgegevens, om daarmee beleid te maken, criminele patronen te ontdekken, onrecht te bestrijden, enzovoorts. Grondrechten komen alleen in beeld als het de beleidsmakers te pas komt. Zo komt het dat de gegevensbescherming van de Europese privacywet, de AVG (Algemene Verordening Gegevensbescherming) schone theorie is. Immers: de overtredingen die op grote schaal plaats vinden worden wegens capaciteitsgebrek van de autoriteiten (onder meer de Autoriteit Persoonsgegevens) niet vervolgd en bestraft.

De ultieme datagraaiers bij de overheid zijn de geheime diensten. Naar het slechte voorbeeld van de Amerikanen en de Britten willen zij overal ongecontroleerd in neuzen en  pretenderen zij nooit fouten te maken. Zij worden in die verlangens ondersteund door het kabinet, dat klakkeloos geeft wat de diensten vragen.

Kritiek Toetsingscommissie Inzet Bevoegdheden (TIB)

Op 24 maart jl. maakte de toezichthouder van de geheime diensten, de Toetsingscommissie Inzet Bevoegdheden (TIB), bekend haar taak niet goed te kunnen uitvoeren. In het bericht schrijft de TIB:

Er is een wetsvoorstel ingediend bij de Tweede Kamer die de bevoegdheden van de diensten fors moet uitbreiden. De TIB vindt het belangrijk dat de samenleving en de politiek goed geïnformeerd zijn over wat de diensten nu al mogen (en doen) en wat de uitbreiding betekent. Dat heeft de TIB geprobeerd weer te geven in dit jaarverslag. Een aantal passages in dit jaarverslag is echter zwartgelakt, omdat die passages volgens de ministers als staatsgeheim aangemerkt dienen te worden. Daarvoor zijn sommige passages niet goed meer te begrijpen en kan de TIB de samenleving niet informeren zoals zij had beoogd. Of het wetsvoorstel definitief zal worden, in welke vorm het wetsvoorstel er zal komen en wanneer het zal ingaan is dus nog onduidelijk.

Er is flinke kritiek (markering door mij):

Het meest in het oog springend bij de onrechtmatigheidsbeslissingen is echter wel een forse stijging van het aantal onrechtmatigheden vanwege het ontbreken van motivering en informatie. Een verklaring voor deze stijging zou kunnen zijn dat de TIB in die gevallen van oordeel was dat zelfs met het stellen van een vraag het gebrek niet hersteld kon worden. Daarnaast valt de stijging op van het aantal onrechtmatigheidsoordelen vanwege een operatie die de TIB niet proportioneel vond. 

en

Ook dit kalenderjaar heeft de TIB wederom gemerkt dat de AIVD de TIB onjuist en/of onvolledig heeft geïnformeerd voor wat betreft de inhoud van verzoeken.

Dit is buitengewoon serieuze kritiek.

Interview Bert Hubert

Het is te begrijpen dat Bert Hubert er niet meer voor voelde deel uit te maken van het TIB. Sebastiaan Brommersma maakte een interview met Hubert onder de kop Opgestapte toezichthouder: ‘Nieuwe inlichtingenwet kan tot Noord-Koreaanse taferelen leiden’. Intro:

In september stapte Bert Hubert plotseling op als toezichthouder op de inlichtingendiensten. Hij is het niet eens met een wetsvoorstel dat de AIVD en de MIVD ruimere bevoegdheden moet geven om te tappen en te hacken. Volgens Hubert kan het volledige Nederlandse internetverkeer straks worden afgeluisterd door de inlichtingendiensten, die extreem hoog spel spelen om hun zin te krijgen: ‘Het is bijna onverantwoord.’

Uiteraard gaat het kabinet hier niet naar luisteren.

Surveillancesamenleving

Voor wie het nog steviger wil en Duits kan lezen: Moritz Tremmel publiceerde bij Netzpolitik een samenvatting van de studie die hij schreef over de Amerikaanse, Britse en Duitse geheime diensten, met als conclusie (machinevertaling):

Het nu gepubliceerde werk laat in detail zien dat de geheime diensten actief zijn op het gebied van sociale controle. Zij gebruiken de technieken van de veiligheidsmaatschappij om mensen tot zogenaamd zelfgewild, “juist” gedrag te bewegen. Ze trekken soepele tolerantielijnen en zoeken via uitgebreide surveillance naar mensen, groepen of plaatsen die een risico vormen.

Soms proberen zij actief invloed op hen uit te oefenen om hen binnen de normale marge te houden of terug te brengen. Als dat niet lukt, nemen de geheime diensten repressieve uitsluitingsmaatregelen. Dit omvat bijvoorbeeld via wetshandhavingsinstanties geregelde detentie en watchlists.

In de studie Telecommunicatiebewaking door de geheime dienst als middel voor sociale controle [*] beschrijft Tremmel hoe de geheime diensten alle communicatiegegevens van burgers oogsten en analyseren en gebruiken voor gedragsbeïnvloeding.

Tot slot

De surveillance- en controlesamenleving gaat er komen aangezien niet wordt geluisterd naar de waarschuwingen van mensen als Bert Hubert, Kees Verhoeven en Paul Frissen en aangezien de burgers onwetend worden gehouden.

 

[*] Geheimdienstliche Telekommunikationsüberwachung als Mittel sozialer Kontrolle.

 

 


Aanvulling 12 april 2023
Hubert werd ook door Maurits Martijn van De Correspondent geïnterviewd, beluister de podcast en/of lees het artikel. De intro bij de podcast:

Maurits Martijn – De geheime diensten bedonderen ons, zegt de man die het kan weten
De Correspondent

Een nieuwe wet moet de bevoegdheden van de AIVD en MIVD flink verruimen. Een gevaarlijke ontwikkeling, zegt Bert Hubert, die om die reden ontslag nam als toezichthouder van de geheime diensten. In de Tweede Kamer deelde hij voor het eerst zijn ervaringen. ‘Het plan is om het hele land af te luisteren’, waarschuwt hij.



Geplaatst in Grondrechten, ICT, privacy, e-commerce | Tags: , , , , , , , , , , , , , | 1 reactie

Fundamental rights apply to including people to sanction lists

Is is obvious that for European authorities fundamental rights are only theory when they are active in the area of combatting crime. This was shown in a case before the Court of Justice of the European Union regarding the mother of a sanctioned person.

From the press release:

The General Court annuls the restrictive measures applied to Ms Violetta Prigozhina, mother of Mr Yevgeniy Prigozhin, in the context of Russia’s war against Ukraine

Even if the latter is responsible for actions undermining the territorial integrity, sovereignty and independence of Ukraine, the link between Ms Prigozhina and her son established at the time of the adoption of the contested acts is based solely on their family relationship and is therefore not sufficient to justify her inclusion on the contested lists (…)

Consequently, the link that would amount to an association between the two persons established at the time of the adoption of the contested acts and upon which the Council relied on that date is based solely on their family relationship, which, in view of the criterion applied by the Council in the present case, the statement of reasons on which the contested acts are based and the case-law of the Court of Justice, is not sufficient to justify her inclusion on the contested lists.

It is disappointing to see that court intervention is needed to get European authorities to respect fundamental rights.

 

More information:

Geplaatst in English - posts in English on this blog, Europa, Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten, Sanctieregels | Tags: , , , | Plaats een reactie

Het ministerie van Financiën wil zijn digitale leven beteren en benoemt adviescommissie Analytics

Op 17 maart jl. werd bekend gemaakt dat de ministerraad heeft ingestemd met de instelling van de Adviescommissie Analytics die het ministerie van Financiën, de Belastingdienst, de Douane en Dienst Toeslagen gaat adviseren hoe om te gaan met risicomodellen en algoritmen:

Adviescommissie Analytics bij Financiën van start
Nieuwsbericht | 17-03-2023 | 15:30

De ministerraad heeft ingestemd met de instelling van de Adviescommissie Analytics. Deze commissie gaat het ministerie van Financiën, de Belastingdienst, de Douane en Dienst Toeslagen adviseren hoe om te gaan met risicomodellen en algoritmen. De adviescommissie heeft tot taak gevraagd en ongevraagd stil te staan bij actuele analytics-vraagstukken binnen de diensten.

De adviescommissie staat onder leiding van voorzitter Emile Aarts, emeritus rector magnificus en hoogleraar computer science van Tilburg University. De andere leden van de commissie zijn Sandjai Bhulai, Eppo Bruins, Paul van Geest, Jeroen van den Hoven, Friederike van der Jagt, Rob van Kan, Esther Keymolen, Patricia Prüfer, Mirko Schäfer en Arlette van Wissen. Deze groep van academici en ervaringsdeskundigen werken allen rond vraagstukken als privacy, het gebruik van data & algoritmes en de digitale samenleving.

Het verantwoord omgaan met risicomodellen en algoritmen is een belangrijk maatschappelijk en actueel thema. Het gebruik van risicomodellen en algoritmen is bedoeld om efficiency en effectiviteit in het werk te vergroten en zo ook burgers, bedrijven en de eigen organisatie te helpen. Tegelijkertijd mag dit uitgangspunt er nooit toe leiden dat goedwillende burgers en bedrijven tegengewerkt worden door het gebruik van deze digitale werkwijze. Om dat te borgen heeft de adviescommissie de vrijheid om gevraagd en ongevraagd advies te geven over actuele vraagstukken.

De adviescommissie heeft een diverse samenstelling, waarmee integrale advisering is geborgd. Op basis van de dialoog in de commissie, zullen adviezen de verschillende kanten van het voorgelegde vraagstuk belichten. Het gaat dan bijvoorbeeld om het belang en het doel van het model in kwestie, de privacy en de ethiek.

Uit de aankondiging blijkt niet dat de commissie zich bezig gaat houden met het gebruik van kunstmatige intelligentie in de door het ministerie van Financiën bevorderde bestrijding van financieel-economische criminaliteit (ook bekend als ‘witwasbestrijding’), door de overheid en door private bedrijven.

Geplaatst in Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten, ICT, privacy, e-commerce | Tags: , , , , , | Plaats een reactie

Improving a cyberinsecure world | Bert Hubert on the draft Cyber Resilience Act

It is a secret from policymakers in Dutch and European offices: software is still completely insecure and unreliable. Not me saying so, but IT professionals like Bert Hubert:

The EU’s new Cyber Resilience Act is admirable in its goal. And the EU is not alone in thinking something needs to be done about the dreadful state of security online

(…)

I understand that it can be frustrating if the government (including the US) starts to take an interest in how you do your work, but given the dreadful state of computer security, we can’t credibly claim things are going well.

Read his article on a European draft, The EU Cyber Resilience Act (CRA).

Geplaatst in English - posts in English on this blog, Europa, Grondrechten, ICT, privacy, e-commerce | Tags: , , , | Plaats een reactie

ECON and LIBE committees of the European parliament adopted their position on the AML Package

Today the ECON and LIBE committees of the European parliament announced their agreement on the AML Package.

Important elements of the position of the committees:

  • High-level professional football clubs should become obliged entities under EU AML/CFT law.
  • Cash payments for goods and services will be limited to €7000, except for crypto-asset transfers, there the threshold is €1000.
  • The beneficial ownership threshold is lowered to 15% plus one share (currently more than 25% of the shares). The threshold will be 5% plus one share in the extractive industry or a company exposed to a higher risk of money laundering or terrorist financing.
  • The authority responsible for the register of benificial owners will be responsible for verification of the accurateness of the data provided.
  • Journalists, reporters, any other medias, civil society organisations and higher education institutions will have access to beneficial owners’ registers.

The press release of the committees:

New EU measures against money laundering and terrorist financing

  • Consistent application of rules and sanctions
  • Verified information about beneficial owners
  • Journalists, civil society will have access to beneficial owners’ registers
  • New European Anti-Money Laundering Authority to enforce rules

MEPs approved stricter rules to close existing gaps in combating money laundering, terrorist financing and evasion of sanctions in the EU.

On Tuesday, MEPs from the Economic and Monetary Affairs and Civil Liberties, Justice and Home Affairs committees adopted their position on three pieces of draft legislation on the financing provisions of EU Anti-Money Laundering and Countering the Financing of Terrorism (AML/CFT) policy. The package consists of:

  • the EU “single rulebook” – regulation – with provisions on conducting due diligence on customers, transparency of beneficial owners and the use of anonymous instruments, such as crypto-assets, and new entities, such as crowdfunding platforms. It also includes provisions on so-called “golden” passports and visas. The text was adopted with 99 votes to 8 and 6 abstentions.
  • The 6th Anti-Money Laundering – directive – containing national provisions on supervision and Financial Intelligence Units, as well as on access for competent authorities to necessary and reliable information, e.g. beneficial ownership registers and assets stored in free zones. The text was adopted with 107 votes to 5 and 0 abstentions.

Read the quotes of the MEPs who will lead the negotiations on the final shape of the bills here.

Prevention of money laundering and terrorist financing
According to the adopted texts, entities, such as banks, assets and crypto assets managers, real and virtual estate agents and high-level professional football clubs, will be required to verify their customers’ identity, what they own and who controls the company. They will also have to establish detailed types of risk of money laundering and terrorist financing in their sector of activity, and transmit the relevant information to a central register.

To restrict transactions in cash and crypto assets, MEPs want to cap payments that can be accepted by persons providing goods or services. They set limits up to €7000 for cash payments and €1000 for crypto-asset transfers, where the customer cannot be identified. Given the manifest risk of misuse by criminals, MEPs want to ban any citizenship by investments schemes (“golden passports”) and impose strong AML controls on residence by investment schemes (“golden visas”).

Financial Intelligence Units
Each member state should establish a financial intelligence unit (FIU) to prevent, report and combat money laundering and terrorist financing. FIUs should share information with each other and with competent authorities as well as cooperate with AMLA, Europol, Eurojust and the European Public Prosecutor’s office.

Information on beneficial ownership
To detect money laundering schemes and freeze assets in time, national FIUs and other competent authorities should be able to access information on beneficial ownership, bank accounts, land or real estate registers. As certain commodities are attractive for criminals, MEPs also want member states to aggregate information on ownership of goods such as yachts, planes and cars worth over €200 000 or goods stored in free zones.
MEPs agreed that beneficial ownership means having 15% plus one share, or voting rights, or other direct or indirect ownership interest, or 5% plus one share in the extractive industry or a company exposed to a higher risk of money laundering or terrorist financing.

Beneficial owners’ registers
Information on beneficial ownership held in national central registers should be available digitally, in an EU official language plus English, and include current and historical information for a defined period. The entity in charge of the central register will have the right to request from corporate and legal entities any information necessary to identify and verify their beneficial owners.
This information will have to be up to date and available to FIUs, AMLA, competent authorities, self-regulatory bodies and obliged entities. Not providing accurate and adequate data to registers will be sanctioned. Entities in charge of central registers should be able to employ an adequate technology to carry out verifications.

Access to information
Following the latest Court of Justice ruling, MEPs decided that persons with legitimate interest, such as journalists, reporters, any other medias, civil society organisations, higher education institutions, should be able to access the register, including the interconnected central registers. Their access right will be valid for at least two and a half years. Member states will automatically renew access but also revoke it or suspend if it is abused.
The legitimate interest should apply without any discrimination based on nationality, country of residence or of establishment.

AMLA to ensure consistent enforcement
The new AMLA would monitor risks and threats within and outside the EU and directly supervise specific credit and financial institutions, classifying them according to their risk level. Initially, it would be tasked with supervising 40 entities with the highest residual risk profile and present in at least two member states. At a minimum, one entity from each member state would be chosen.

To fulfil its duties, AMLA could mandate companies and people to hand over documents and other information, conduct on-site visits with judicial authorisation, and impose sanctions of €500 000 – €2 million, or 0.5-1% percent of annual turnover, for material breaches – and up to 10% of the total annual turnover of the obliged entity in the preceding business year.

In their position on the draft law, MEPs wish to extend the agency’s competence to drawing up lists of high-risk non-EU countries. MEPs also want to give AMLA the powers to mediate between national financial supervisors and settle disputes, supervise and investigate the national implementation of the single AML rulebook, ensure stronger oversight of the supervisors in the non-financial sector and receive whistleblower complaints.

The agency’s seat will be decided during the negotiations between the Parliament and Council.

Next steps
The European Parliament will be ready to start negotiations on the AML/CFT package after a confirmation during a plenary session in April.

Further information

 

The AML Package will radically change the European system of private crime fighting (“anti-money laundering”), increase bureaucracy and costs, while its effectiveness is questionable and it causes harm to decent citizens.

 

A general introduction of the AML Package is found here. Posts on this blog on the AML Package are found under this tag.

 


Addition 17:44 + 17:55 hr:

ACAMS refers to the news as ‘sweeping plans’: “The European Parliament on Tuesday approved sweeping plans to overhaul the bloc’s anti-money laundering regime, including by establishing a new, EU-wide AML supervisor.

Transparency International is happy: European Parliament proposes strong measures for corporate transparency.

The news is also mentioned by AML Intelligence, that quotes Paul Tang, Luděk Niedermayer, Eva Maria Poptcheva, Emil Radev, Eero Heinäluoma, Damien Carême

Geplaatst in English - posts in English on this blog, Europa, Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten, ICT, privacy, e-commerce, Ubo-register | Tags: , , , , , , , , | Plaats een reactie

Europe’s naivety on open finance | will the PSD2-successor be safe for citizens?

For years the EU is working on the marketing of open banking and open finance and promising the public golden rewards if they share their transaction data with opaque fintech companies. EU through ‘PSD2’ introduced account information services, which in the Netherlands were treated with suspicion by the public and were completely ignored.

Euro-commissioner McGuinness held a speech on 21 March with the theme “From Open Banking to Open Finance: what does the future hold?”. He announced that the Commission will adopt its proposal on open finance before the summer. I completely disagree with the Commissioner’s portrayal of the opportunities that data sharing would bring to citizens. Financial transaction data provide a complete picture of a person. If personal data gets into the wrong hands it is very risky for the data subject. Cybersecurity is underdeveloped in the western world, so the risks for people are very real. Only big companies will profit from open finance.

My opinion on open finance and PSD2 is still that Europe and the member states are not ready for data sharing and third party access in the financial sector.

It is important that civil rights organisations keep a close eye on developments, now that Europe’s digital ecosystem has many imperfections. In theory, Europeans do have data protection rights, but in practice they get little use out of them now that enforcement is insufficient.

The complete speech:

This is a really important topic.

And I think Frances, you’ve hit the nail on the head – this is about the possibility but also the concerns, the issue around trust and confidence in the system.

Just to let you know that the Commission will adopt our proposal on Open Finance before the summer.

And essentially, this is all about data, information.

Because we know that data can give us great insights into so many things – including how we all behave and how companies are developing.

It means that there is a lot of potential for using this type of information in finance.

And we also know that advances in technology make it easier to both access data and share information.

And then to the point that Frances raised. People are concerned, rightly, about who has access to their personal data, and what that information is being used for.

I think we’re starting to grasp the possibilities of data in financial services with Open Banking.

And now we’re looking towards this future of Open Finance – really designed to take full advantage of data.

So three points I want to address today:

What Open Banking is, and indeed why it hasn’t yet reached its full potential,
How Open Finance will benefit consumers and businesses, and how we want to realise it,
And how our ambitions for Open Finance will work with some of our other policy priorities.

So we have Open Banking today.

That’s when our payment account data is shared with another provider, with our consent.

The purpose of sharing our financial information is to give us access to new and different services based on the information that we share.

So an example would be, you can get an overview of all your different bank accounts, across different providers, in one single app.

And that can make it easier to manage money and keep track of spending.

Although there’s a lady called Kate who tells me every so often what I’m spending on, and sometimes I wish she would stop! But it’s useful to see it just the same.

So there are practical examples that we all known, for our own situations.

Another example is a service to help you manage subscriptions – so letting you see everything you are subscribed to, and then to change or cancel them more easily. And I think that is quite an interesting area, because often you forget, so we’re often paying for something we’re not continuing to use.

So essentially Open Banking can be very useful – to consumers, but also to companies that want to offer different kinds of financial services.

Open Banking started growing over ten years ago.

The EU saw the potential and we put rules in place for Open Banking with the second Payment Services Directive.

That entered into force in 2018, and that’s helped Open Banking grow but we have to say not at all to the extent we might have anticipated.

And this figure did a little bit surprise me, but it is accurate to say that by 2021 less than 5 percent of consumers in the European Union were using Open Banking.

So to say that hasn’t reached its potential is rather an understatement.

And one of the reasons why that’s the case is to do with how Open Banking providers connect with banks.

Data is shared using a type of software called an application programming interface, or API.

This acts as a secure channel between two IT systems – so between a bank and a fintech company as an example.

And then through these channels, providers can share information in order to develop and offer products and services to consumers.

But today these APIs vary hugely in quality and functionality, and they often cause Open Banking operations to fail.

Through our public consultations we gained a lot of insights into why we aren’t seeing that much data sharing in finance just yet.

So some of those reasons, firstly, potential customers – people, you and I – have concerns around trust.

Privacy is a big concern, and I think it will grow the more we have access to information – consumers are wary of what a company might learn about them.

Security is another concern – so concerns about access putting you at greater risk of cyberattacks. And we all know that the financial system itself is under a lot of attack in this area.

There is also a concern about whether companies will manage your data with your best interests in mind.

Second observation: even where customers are willing to share their data, companies face very practical problems.

So the rights and obligations of companies are unclear.

The technical infrastructure for sharing data just isn’t in place.

And the data to be shared isn’t standardised.

Under the General Data Protection Regulation, customers have the right to transfer their data from one service to another. This is the “portability” right. But in practice this may not always be technically feasible.

We’re aiming to tackle problems with Open Banking as part of the revision of the Payment Services Directive.

We will propose measures aiming to fix these problems, without causing significant cost or disruption for those already engaged in Open Banking.

And this revision will be accompanied by a proposal on Open Finance.

So Open Banking is about payment account data.

Open Finance, then, is about sharing a much broader range of data, with the consent and understanding of the customer.

And there is a lot of potential here including getting much more personalised offerings that better meet our needs.

And therefore the financial sector could better serve their customers.

So an SME could share a wider range of financial data with a bank when applying for a loan.

And the bank could give the SME a quicker and more tailored response.

Or indeed a customer might choose to share a wider set of data with their insurance company for a bespoke insurance product.

Switching providers could become much more seamless and eliminate a lot of form-filling and paperwork.

Consumers could get a better overview and make more informed decisions around their personal finances.

Financial institutions could better assess risks, based on better knowledge of their customers.

So the potential uses are many – depending on how far you want to go in opening up access to data.

We are currently looking at what types of data would be most relevant and deliver the most value to customers.

These include banking, investment, insurance and pension services.

But we also need to look at the more fundamental issues that relate to the problems we found around data sharing in finance today – which is trust, access to data, and the technical arrangements.

So if I take the issue of trust first.

With Open Finance, we want to put customers in control of their data. We want people to feel that they have control over their own information.

And that we should know what data they are sharing, who it is being shared with, and why.

And this would help us all to make an informed decision about sharing data – or indeed deciding not to.

We are looking closely at how best to do that.

So one option is permission dashboards – an interface to give customers a simple overview of their own data that they might want to share.

And these dashboards could make it easier for customers to grant and revoke permissions to share information.

Companies accessing data should be regulated and supervised, alongside the companies that hold onto the data.

We want everyone to operate on a level playing field.

On access to data, our starting point is Open Banking.

So banks that hold the payment data for their customers must give access to it to other providers under certain conditions.

So far, our consultations on Open Finance showed different views on how to address these issues.

Some prefer to continue with a voluntary path for data other than payment account data.

Others believe data holders should be obliged to share this broader financial data.

And those views of course might depend on whether you’re a current holder of the data or whether you want to access it.

It’s hard to see how Open Finance could work if we don’t give access rights to new data, beyond payment accounts.

We are still assessing how far that should go, based on what data would bring most value to customers.

And just as important, we should exclude data whose use could give rise to risks of financial exclusion.

So finally, the technical side of things.

So to what extent should we standardise technical interfaces and how data is presented?

We’ve taken the report of our data expert group into account.

They’ve warned against being too prescriptive in the legislation.

So instead, we want to develop common standards for customer data and interfaces.

And we want companies to work together, and work with us, as we develop them.

So again we’re reflecting on the best ways to do this.

So for instance, one way forward could be to set out the goals in the legislation.

And then we could combine that with industry cooperation on contractual schemes to standardise data formats and technical interfaces.

Open Finance links to other work we’re doing in finance and around data more generally in the Commission.

It would be a natural complement to the Retail Investment Strategy.

This strategy is about improving the prospects for consumers and retail investors in the European Union.

So for instance, we’re looking at improving our disclosure rules.

They should be clearer, more understandable and more meaningful when you read them.

They should also work better in the digital environment.

In addition, we’re looking at the role of financial advice and financial literacy.

Our work on Open Finance will very much complement that.

So to give you a practical example, Open Finance could make suitability assessments quicker and easier.

A retail investor could choose to give their financial advisor quick and easy access to their financial data.

And the advisor could then make a better assessment about products and services that would work best for that investor.

Open Finance also links into the EU’s broader Data Strategy by ensuring a level playing field, no matter what sector.

It would find a natural complement in the Digital Markets Act.

And this Act tackles imbalances caused by the market power of powerful ‘gatekeeper’ firms.

It makes it easier for financial companies to access data from these platforms.

With Open Finance, this data could then be used to offer better products and services to consumers, tailored to their needs and with their consent.

So it unlocks the value of this data.

So in closing I hope I’ve given you a flavour of our thinking as we prepare our legislative package.

It should reach you before the summer.

It will be made up of a revision, as I’ve said, of the Payment Services Directive – which will include addressing some of the problems with Open Banking – and then a new proposal on Open Finance.

It’s essentially about embracing the possibilities that data can offer in financial services.

Which is why again I want to thank colleagues from the European Parliament, Frances and Ondřej, for really a very timely event.

Because I think the concept is out there, but the understanding is perhaps not.

So I think your event will certainly help that.

And I’m sure you’ll have a very good discussion about trust, about access, about technical issues. And I’m very happy to have the opportunity to contribute.

Geplaatst in English - posts in English on this blog, Europa, Financieel recht, onder meer Wft, Wtt, Grondrechten, ICT, privacy, e-commerce | Tags: , , , , , , , , | Plaats een reactie