Big Tech serving US digital defence industry

Recently I came across an interesting publication on Big Tech facilitating the US government. In February the article Militarising Big Tech. The Rise of Silicon Valley’s Digital Defence Industry by Roberto J. González (also available as pdf) was published on the site of the Transnational Institute [1]. González’ introduction:

In the US, Big Tech and the Military are increasingly fused, brought together by finance, joint projects, research and infrastructure. Untying the knot will be key to prevent endless wars abroad and militarised policing at home.

Ukraine as testing ground
A recent article in the Dutch newspaper NRC, How the war in Ukraine is also a military testing ground for the United States [2] shows that artificial intelligence, under the name ‘Intelligence, Surveillance and Reconnaissance’ (ISR), is intensely used in the Ukraine war. The article is based on information obtained by media organisation OCCRP.

Palantir
According to the NRC article Palantir is one of the Big Tech companies involved in the use of artificial intelligence in the war. Read the article ‘Palantir is not our friend‘ by Sophie in ’t Veld, member of the European Parliament:

One company that (…) should be kept out of our private lives and our European institutions — is US-based tech firm Palantir. It is one of Silicon Valley’s most controversial private technology firms, specialising in providing big data analytics software to government and corporate entities alike. Palantir’s fingerprints were all over the Cambridge Analytica scandal, which prompted the #deletefacebook movement. (…) More importantly, Palantir is not only helping notorious immigration agency ICE deport immigrants, it also works for American security and intelligence agencies such as the NSA and CIA, aiding the former in spying on the whole world as Edward Snowden revealed.

Her plea to handle US tech companies with caution is more current than ever.

 

Notes

[1] The Transnational Institute (TNI) is an institute in Amsterdam that describes itself as an international research and advocacy institute committed to building a just, democratic and sustainable planet.

[2] Hoe de oorlog in Oekraïne ook een militaire proeftuin voor de Verenigde Staten is, Steven Derix and Hanneke Chin-A-Fo.

 


Addition 22 August 2023
Read also: China, U.S. Test Intelligent-Drone Swarms in Race for Military AI Dominance, WSJ. Intro in the WSJ newsletter:

China, U.S. test intelligent-drone swarms. The U.S. and China are accelerating research on how to integrate AI into their militaries as part of a global race to take advantage of the fast-developing technology, the WSJ’s Alastair Gale reports.
Around a third of all known contracts in the U.S. and China from an eight-month period in 2020 were for intelligent and autonomous vehicles, according to a recent study of AI-related military procurement records by the Center for Security and Emerging Technology at Georgetown University.

Lessons from Ukraine. Ukraine has used drones with some autonomous capabilities to counter the Russian invasion, providing one of the first real-world testing grounds for AI-driven drone technology. “The U.S. military in particular is learning a great deal about the value of these technologies on the battlefield from the conflict in Ukraine,” said Margarita Konaev, deputy director of analysis at the Center for Security and Emerging Technology.

Geplaatst in English - posts in English on this blog, Grondrechten, ICT, privacy, e-commerce | Tags: , , , , , , , , , , , , , | Plaats een reactie

Vragen aan de AP over het bancair sleepnet

Op 7 juni jl. informeerde de minister van Financiën de Tweede Kamer over de brief die aan de Autoriteit Persoonsgegevens is gestuurd. In die brief stelt de minister vragen over het gewijzigde wetsvoorstel inzake het door de banken gezamenlijk monitoren van alle financiële transacties van alle burgers en organisaties, met het oog op de criminaliteitsbestrijding (‘bancair sleepnet’).

Hierna volgt de passage in de brief waarin de vragen zijn vermeld:

 

Meer informatie:

Geplaatst in Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten, ICT, privacy, e-commerce | Tags: , , , , , , , | 1 reactie

Wat betekent certificering van een aanbieder van digitale diensten?

Iedere gebruiker van diensten zal zichzelf af en toe deze vraag stellen: kan ik de aanbieder vertrouwen en aan anderen aanbevelen? Een voorbeeld van zo’n bedrijf is de aanbieder van ondertekeningsdiensten, waarmee op afstand overeenkomsten kunnen worden getekend. Vaak wordt op de sites van zulke bedrijven melding gemaakt van certificering volgens ISO- en/of NEN-normen, waarbij onmiddellijk de vraag rijst wat die certificering betekent.

Vraag & antwoord

Op 19 juni jl. heb ik een vraag hierover op mastodon geplaatst:

een ondertekeningsdienstverlener (digitale ondertekening van contracten) zegt dat hij gecertificeerd is voor ISO27001, ISO9001 en NEN7510.
Als ik naar de algemene informatie over de normen kijk lijkt het organisatorisch te zijn. Dan weet ik toch niet of de IT ook echt doet wat er wordt beloofd? Ik moet bij dit soort diensten altijd aan DigiNotar denken die voor van alles was gecertificeerd
(als ik me goed herinner door PWC) maar waar het met de IT verschrikkelijk mis ging. In een rapport over NIS2 https://www.ncsc.nl/documenten/publicaties/2022/oktober/13/index lees ik dat er in F en D programma’s zijn met IT-auditors, dat is er in NL toch niet? Kan er veilig met zo’n ondertekeningsdienst worden gewerkt. De genoemde certificeringen zijn natuurlijk positief.
Maar is zo’n dienst wel veilig zonder IT-audit? (…)

Mijn herinnering aan #DigiNotar (ik ben ooit bij een presentatie van die lui geweest) is dat het op ‘papier’ er prachtig uit zag. Bij zo’n ondertekeningsdienst zal dat het geval zijn als ze ISO-gecertificeerd zijn. Mijn probleem: kwa #cybersecurity kunnen ze lek als een mandje zijn. Dus: kan ik het wel gebruiken om iets op afstand te tekenen?

Diverse deskundigen waren zo vriendelijk antwoord te geven, die voor iedereen te lezen zijn:

  • André Koot schrijft dat de genoemde normen wel aangeven dat de aanbieder aandacht heeft voor security, maar dat daaruit niet blijkt of het veilig is en hoe veilig. Hij schreef over DigiNotar.
  • Bert Hubert zegt dat ISO9001 niets betekent en dat ISO27001 nuttig kan zijn afhankelijk van de scope, dus dat moet worden nagevraagd. Hoe nuttig een audit is, is de vraag, zegt Hubert, hangt er van af waar het over gaat.
  • Hans Cees reageert dat NEN7510 de ISO27001 norm is met specifieke aanvullingen voor de zorg, waarbij vak een ISAE4302 verklaring wordt gevraagd als een soort van bewijs van audit dat de maatregelen op orde zijn.
  • Fabian merkt op dat ISO27001 organisatorisch is, “To get these, a company has to proof that it has certain processes defined and follows them (e.g., handling of data, physical security of buildings, patch management, etc). I think it also includes some measures about coding practices, etc. However, they do *not* replace a pentest (security assessment of a software). During a pentest, ethical hackers look at the software and actively run tests to find vulnerabilities. This can also done on many different layers, with varying levels of effort/visibility/etc. But even then, vulnerabilities could be missed (due to various things), so there’s sasly never a guarantee.

Normen

De wereld van de standaardisering is een fenomeen op zich. In Nederland is het Forum Standaardisatie actief, die op de site een aantal open standaarden vermeld.
Veel van die standaarden moeten worden gekocht, bijvoorbeeld bij de internationale standaardiseringsorganisatie ISO. Daar kan standaard ISO9001 worden gekocht. Ook standaard 27001, officieel ‘ISO/IEC 27001’ is daar te koop.
De Nederlandse algemene standaardiseringsorganisatie heet NEN, die de normdocumenten verkoopt. Sommige normen – zoals NEN 7510 (2017 deel 1, 2017 deel 2, 2018) – zijn gratis verkrijgbaar, maar eerst moet wel een account worden aangemaakt.
De overheid kent eigen normen, zoals Baseline informatiebeveiliging Overheid (BIO), met een eigen site, bio-overheid.nl.

Wordt aan de normen voldaan?

Als je de normen kunt lezen, weet je waar de onderneming organisatorisch aan behoort te voldoen, maar dat helpt niet altijd verder. Als het om kritische processen gaat, wil je als klant of gebruiker weten of de IT niet lek als een mandje is. Daar is in Nederland moeilijk achter te komen, aangezien er voor zover ik kon nagaan geen systeem van erkenning van certificeringsinstanties is.

Verder geven deze normen geen antwoord op de vraag of bij de ondertekeningsdienst aan de Europese eIDAS-verordening wordt voldaan, immers alleen bij een geavanceerde elektronische handtekening of een gekwalificeerde elektronische handtekening is er een redelijke respectievelijk grote zekerheid over het aangaan van een overeenkomst (misschien hangt dat ook af van de invulling van de certificering).

Certificering / audit
In het rapport over de impact van NIS2, de nieuwe Europese cybersecurity regels (te vinden bij het NCSC), worden de gevolgen van NIS2 voor Nederland beschreven. Onder meer zijn de regels op een grotere groep ondernemingen van toepassing.
Op pagina 48 van het rapport wordt beschreven dat in Frankrijk en Duitsland de overheid een actieve bemoeienis heeft met het cybersecurity ecosysteem, waarbij ook certificering door private deskundigen plaats vindt (ANSSI is Frans, BSI is Duits; noten verwijderd):

Next to any internal training programs, some countries such as France have plans for an active engagement with the cybersecurity ecosystem of the country. This involves, among others, making use of the services of private consultants. To ensure the reliability, independence, and expertise of the consultants, ANSSI runs a certification program. Similarly, BSI also provides certifications of persons on the basis of the Act on the Federal Office for Information Security (BSI Act). Qualified persons are required to perform evaluations and tests for the purpose of certifying products and management systems, as well as to support the BSI in IT security services. The aim of the procedure is to provide competent persons in the areas of application and to ensure the quality and comparability of the evaluations/examinations, audits, and services. This practice is quite common in other countries too, such as for example the UK and its national CSIRT, the NCSC-UK, which provides a certification program for Cyber Incident Response services, but also Proactive security event discovery, Response, and recovery planning services. Next to services, the NCSC-UK provides professional skills and training for individual experts (Certified Cyber Professional – CCP). Certification programs are policy instruments to increase the overall resilience of the cybersecurity products, systems, processes, and services.

In Nederland is daar voor zover ik weet niet bezig met dergelijke certificeringsystemen.

Onlangs werd bekend dat het voorstel voor de implementatie van NIS2 vertraging heeft opgelopen (bericht NCSC).

 

NB NEN vertelt op de html-pagina’s van de site nog steeds niet wat het is (zie eerder artikel onder kopje ‘Wie is het NEN?‘). Op de site zijn wel het KvK-nummer en btw-nummer te vinden maar niet de volledige naam. Na enig zoeken vindt ik in de AVG-verklaring voor website bezoekers (pdf) de naam: Stichting Koninklijk Nederlands Normalisatie-instituut.

Geplaatst in ICT, privacy, e-commerce | Tags: , , , , , , , | 2 reacties

Digitale gulzigheid in de criminaliteitsbestrijding | Spaink in 2013 | Wwft, WGS

Wie wil lezen over de digitale gulzigheid van overheden (en de ondernemingen aan wie zij taken uitbesteden, zoals banken), kan bij Karin Spaink terecht, die daar al lang geleden over schreef. Over het zoeken naar de digitale speld in de hooiberg – ook van toepassing op de activiteiten van financiële instellingen in de witwasbestrijding – schreef ze in 2013:

Mateloze dataverzamelingen aanleggen over alles wat wij burgers doen – waar we lopen, hoe en wanneer we reizen, met wie we bellen, mailen of chatten – gebeurt uitsluitend voor onze eigen veiligheid, zo verzekert de overheid ons. (…)
Intussen worden miljoenen mensen die werkelijk nergens van worden verdacht, massaal in de gaten gehouden. Dat is een enorme verspilling van menskracht, en vooral: van aandacht. (…) We zijn zo druk bezig om hooibergen aan te leggen en te ordenen, dat niemand tijd overheeft om iets te doen met mogelijke naalden.

Lees het hele artikel, waarin ze de argumenten beschrijft die nog steeds te vinden zijn in de overheidspublicaties over de witwasbestrijding en het gezamenlijk monitoren van alle financiële transacties van iedere burger:

Ja nee, kan wel zijn, maar láter, later zal het wel werken, is het argument: ooit zullen onze algoritmes zo goed zijn dat geoormerkte verdachten vanzelf uit de eindeloze datastroom komen rollen. Maar eerst hebben we meer informatie over alle burgers nodig! Pas dan zullen afwijkende patronen zichtbaar kunnen worden.
Die redenering houdt in dat we onze privacy niet opgeven in ruil voor bewezen grotere veiligheid, maar in het kader van wat een bar slecht georganiseerde zoektocht naar artificiële intelligentie blijkt te zijn.

Ook de weigering om verantwoording af te leggen wordt mooi beschreven:

Onderwijl houdt de overheid alle vragen naar efficiëntie en werking van haar spionage hardnekkig af. “Hoeveel aanslagen hebben we met deze burgersurveillance kunnen voorkomen?” “Veel.” “Vertel eens wat meer? “Dat kan niet, met het oog op de nationale veiligheid.” “Maar wat doet u precies met onze gegevens?” “Dat kunnen we niet zeggen, met het oog op de nationale veiligheid.” “Hoe gaat u om met onze gegevens? Hoe bewerkt u die, en hoe komt u precies tot verdenkingen?” “Dat kunnen we niet zeggen. Met het oog op de nationale veiligheid, ziet u.”

Als je in plaats van ‘spionage’  invult ‘transactiemonitoring‘ en in plaats van ‘nationale veiligheid’ schrijft dat het gaat om ‘witwasbestrijding‘, kom je uit bij de ministeries verantwoordelijk voor de witwasbestrijdingsregels, te weten die van Financiën en Veiligheid. Zij doen precies hetzelfde.

Gevaarlijk gegevens delen
Zowel de Nederlandse als de Europese overheid en internationale organisaties hebben het voortdurend over ‘gegevens delen’ en over grootschalige analyse van alle financiële gegevens van iedere burger en organisatie. Oppassendheid is geboden want er wordt niet geleerd van missers, zoals de toeslagenaffaire en SyRI.

 

Op dit blog volg ik dit onderwerp, onder meer via de thema’s financiële surveillance, Transactiemonitoring Nederland (TMNL), Wet gegevensverwerking door samenwerkingsverbanden en open finance.

Geplaatst in Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten, ICT, privacy, e-commerce | Tags: , , , , , , , , | Plaats een reactie

Joint statement on data protection by EBF and others | “Access to data by public bodies: a double-edge tool to use with caution and restraint”

The European Banking Federation (EBF) announced it has co-signed a statement addressing concerns on Chapter V of the Data Act which covers access to data by public bodies:

It shows a disturbing disregard of the European Commission and Council in relation to fundamental rights.

Geplaatst in English - posts in English on this blog, Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten | Tags: , , , , , , , , | Plaats een reactie

Bert Hubert: “The EU & You: regulation is coming”

Bert Hubert explains upcoming European regulations for the IT sector:

 

 

Read Hubert’s article The EU’s new Cyber Resilience Act is about to tell us how to code, 14 March 2023.

More information on Hubert:
site berthub.eu; mastodon, Google Scholar, ORCiD.

Geplaatst in English - posts in English on this blog, ICT, privacy, e-commerce | Tags: | Plaats een reactie

Kabinetten Rutte en die ongewenste tegenmacht en tegenspraak

Marc Chavannes legt het haarfijn uit: Ook dit kabinet-Rutte is bang voor tegenmacht. Onverstandig, want die kan hardnekkige missers voorkomen ⁦‪(op De Correspondent) [*].

Tijdens de aflevering van Spraakmakers (Radio 1) van 23 juni ging het ook over tegenspraak, bij Stand.nl: De overheid moet beter luisteren naar sceptische burgers. Intro:

Volgens het Sociaal Cultureel Planbureau mistte de overheid een nieuwsgierige houding in coronatijd. SCP deed onderzoek naar mensen die moeite hadden met het overheidsbeleid en komt tot de conclusie dat er te weinig geluisterd is naar twijfelaars. 1 op de 5 Nederlanders ging de overheid meer wantrouwen in die tijd. Daarom is de stelling: De overheid moet beter luisteren naar sceptische burgers.

In de uitzending kwam onder meer Pieter Omtzigt aan het woord die haarfijn uitlegde wat het kabinet in de corona-tijd verkeerd heeft gedaan. Maarten Keulemans ging op klassieke wijze de mist in met zijn versimpeling van standpunten van een coronacritica.

 

[*] Hij schreef al eerder over tegenmacht.

Geplaatst in Grondrechten | Tags: , , , , | Plaats een reactie

OSINT en datagraaiende overheden | de VS koopt op grote schaal persoonsgegevens van datahandelaren

Het is belangrijk om in de gaten te houden wat datagraaiende advertentiebedrijven als Google en Meta/Facebook en vele anderen uitspoken.
Immers, zij zijn een belangrijke leverancier van de overheid. Dat gebeurt onder de noemer ‘OSINT’ (Open Source Intelligence), waarvan ‘CAI’ (Commercially Available Information) deel uitmaakt.

The US Is Openly Stockpiling Dirt on All Its Citizens
Onlangs werd bekend dat de VS op grote schaal zeer gedetailleerde persoonsgegevens van Amerikanen (en waarschijnlijk ook van de overige wereldburgers) verzamelt en opkoopt, lees Wired, The US Is Openly Stockpiling Dirt on All Its Citizens.

Het artikel is geschreven naar aanleiding van openbaarmaking van een rapport van een Amerikaanse overheidsinstantie, dat via deze pagina is te vinden. Volgens het rapport is het zeer riskant voor burgers als de door de Amerikaanse overheid verzamelde gegevens in verkeerde handen komen:

In the wrong hands, sensitive insights gained through CAI could facilitate blackmail, stalking, harassment, and public shaming

(Dat zal niet alleen voor de overheid gelden, maar ook voor de commerciële partijen die dit soort gegevens uitbaten.)

In het Wired artikel wordt geconstateerd dat de Amerikaanse overheid de eigen regelgeving omzeilt door de persoonsgegevens van commerciële aanbieders, zoals kredietbeoordelaars en advertentiebedrijven te kopen. Voorbeelden van datahandelaren die aan de overheid verkopen zijn LexisNexis, Sayari, Dun & Bradstreet (Altares) en Babel Street, aldus een ander artikel.

In Wired wordt kritiek gegeven op het door de Amerikaanse overheid niet respecteren van grondrechten van Amerikaanse burgers. Die grondrechten gelden echter niet voor mensen die niet in de VS wonen of de Amerikaanse nationaliteit hebben. Ondanks de mooie beweringen van de VS over grondrechten, lappen zij die grondrechten zowel nationaal als internationaal aan hun laars, waar ook de misstanden rondom FATCA en Citizenship-Based Taxation een voorbeeld van zijn [*].

Andere berichten over het rapport zijn onder meer:

Het is allemaal helaas niet nieuw.

Karin Spaink schreef in mei 2013 al:

Mateloze dataverzamelingen aanleggen over alles wat wij burgers doen – waar we lopen, hoe en wanneer we reizen, met wie we bellen, mailen of chatten – gebeurt uitsluitend voor onze eigen veiligheid, zo verzekert de overheid ons. Dat opsporingsdiensten tegenwoordig zonder tussenkomst van de rechter inmiddels bij bedrijven, banken en verzekeraars zowat alle soorten gegevens over ons mogen opvragen, zelfs al rust er geen enkele verdenking op ons, is ook al voor onze veiligheid.
Onze veiligheid neemt niet toe wanneer wij allemaal structureel door de overheid worden bespioneerd. Zelfs de meest fijnmazige bespionering van het hele volk kan niet verhinderen dat een enkele fanaat iets dramatisch doet.
Intussen worden miljoenen mensen die werkelijk nergens van worden verdacht, massaal in de gaten gehouden. Dat is een enorme verspilling van menskracht, en vooral: van aandacht. Bijna iedereen die ooit een grote aanslag heeft gepleegd, stond al eerder op de radar van de opsporingsdiensten, maar niemand had tijd om die signalen op te volgen. We zijn zo druk bezig om hooibergen aan te leggen en te ordenen, dat niemand tijd overheeft om iets te doen met mogelijke naalden. Bovendien weten we eigenlijk niet goed hoe zoiets eruit ziet: een naald.

Lees ook haar artikelen over het afgeven van persoonsgegevens door Big Tech: deel 1 (11 juni 2013) en deel 2 (19 juni 2013) en in 2020: Met spionage leer je veel, maar kun je weinig.

Maak een einde aan de illegale datagraaipraktijken
Dit soort excessen zijn mogelijk door de illegale datagraai- en datahandelpraktijken van advertentiebedrijven en andere datahandelaren. Het is hoog tijd dat aan deze vormen van digitale diefstal en verduistering een einde wordt gemaakt.

 

[*] De advocaat van een Brits FATCA-slachtoffer, Noseda, maakt in een recente brief aan de Europese Commissie melding van het Wired-artikel en het ODNI rapport, aangezien dat relevant is voor de vraag of doorgifte van financiële persoonsgegevens aan de VS wel in overeenstemming is met Europees gegevensbeschermingsrecht.

 


Aanvulling 25 juni 2023
Aangevuld met de passage over Karin Spaink’s observaties.

Aanvulling 30 januari 2024
De ‘OSINT’ praktijken van de Amerikaanse overheid zijn nu officieel, een senator maakte bekend:
Wyden Releases Documents Confirming the NSA Buys Americans’ Internet Browsing Records; Calls on Intelligence Community to Stop Buying U.S. Data Obtained Unlawfully From Data Brokers, Violating Recent FTC Order.

Security.nl berichtte er over.

Geplaatst in Fraude, witwasbestrijding, Wwft, Grondrechten, ICT, privacy, e-commerce | Tags: , , , , , , , , , , , , , , , , , | 2 reacties

Consultatie over nieuw systeem kredietregistratie

Al een hele tijd is er onvrede over de wijze waarop het door de financiële sector ingerichte systeem van kredietregistratie met de private stichting Bureau Kredietregistratie (BKR) functioneert.

Dit heeft er toe geleid dat de minister van Financiën heeft besloten het systeem een nieuwe wettelijke grondslag te geven, lees de antwoorden op kamervragen over BKR-registratie van hypotheken, gesteld door Van Weyenberg c.s. en door Heinen. Zie ook de berichten van security.nl over plannen van BKR om de activiteiten te verbreden naar hypotheken en de wetgevende plannen van de minister van Financiën.

Gisteren is een internetconsultatie van start gegaan over het voorstel voor de Wet stelsel kredietregistratie. In dat voorstel behoudt BKR een rol, al wordt de stichting niet met name genoemd. In het voorstel staat dat de minister van Financiën een rechtspersoon aanwijst die tot taak heeft het stelsel van kredietregistratie te beheren. Het voornemen bestaat om BKR aan te wijzen, waarmee die organisatie blij is (bericht).

Op dit moment worden mensen die bezwaar hebben tegen de BKR-registratie onder meer bijgestaan door Dynamiet, een initiatief van Deepak Thakoerdien, die ook in de media heeft geageerd tegen het optreden van BKR en van financiële instellingen die mensen bij BKR registreren, onder meer bij Radar. Het zal me benieuwen wat hij van het consultatievoorstel vindt.

 

Meer informatie:

Consultatie Wet stelsel kredietregistratie:

Over de consultatie: bericht security.nl.

 

Enige berichten over BKR op dit blog:

BKR tobt met de AVG:

Discussies met BKR over de registratie:

Geplaatst in Contractenrecht, privaatrecht algemeen, Financieel recht, onder meer Wft, Wtt, Fraude, witwasbestrijding, Wwft, Grondrechten | Tags: , , , , , | Plaats een reactie

Ontwrichtingstoets | AI

In De Ingenieur zag ik het artikel Startup werkt aan zelfdenkende drone. Mijn eerste gedachte bij dat soort vrolijke tech-artikelen is vaak: waarom denken deze mensen niet na over de misbruikmogelijkheden en de maatschappelijke gevolgen?

Het is hoog tijd dat iedere techneut bij zijn product een ‘maatschappelijke ontwrichtingstoets’ presenteert waarin de zwartste scenario’s worden doorgerekend.

Geplaatst in Grondrechten, ICT, privacy, e-commerce | Tags: , , | Plaats een reactie