Palantir Technologies verdacht van privacyschendingen

Stichting Onderzoek Marktinformatie (SOMI) vertegenwoordigt Europese burgers in onderzoek naar de activiteiten van het Amerikaanse data-analyse bedrijf
Verschillende overheids- en wetshandhavingsinstanties in Europa gebruiken software van het Amerikaanse data-analyse bedrijf Palantir. Het bedrijf is meerdere malen betrokken geweest bij data schandalen en wordt bekritiseert vanwege haar nauwe banden met de Amerikaanse overheid en inlichtingendiensten. Noch Palantir, noch agentschappen in Europa die er gebruik van maken, zijn bereid informatie over de toepassing van de software te delen. Stichting Onderzoek Marktinformatie (SOMI) start daarom een onderzoek naar de activiteiten van Palantir Technologies in de EU en de impact die dit heeft op de rechten van Europese burgers.

Tot dusver gaf Europol toe Palantir ‘Gotham’-software te gebruiken voor operationele analyse in een antiterrorisme taakgroep. Andere instanties die de software van het Amerikaanse bedrijf mogelijk toepassen zijn de Franse inlichtingendienst DGSI[1], de Deense nationale politie[2], de Duitse politie in Hessen[3] en Noordrijn-Westfalen en ook de Nederlandse politie[4]. “De kracht van Palantirs aanpak ligt in het vermogen om onafhankelijke en dus betekenisloze data zodanig te combineren dat er onverwachte verbanden en inzichten ontstaan,” aldus Cor Wijtvliet, medeoprichter van SOMI. “Maar het was juist deze toegang tot al die databases die de waardering en bewondering voor het werk en de software gaandeweg veranderde in een sfeer van wantrouwen en afkeuring.”

Schreeuw om transparantie
Het hoofddoel van SOMI is om transparantie te eisen van Palantir en organisaties die de service van Palantir gebruiken, via het bedrijf zelf of via onderaannemers. Het publiek heeft het recht om te weten hoe burgers door de software worden beoordeeld, wie het gebruikt, waarvoor het is gebruikt en wat voor soort gegevens er zijn verwerkt. Het doel van de actie is om de gegevensverwerkingpraktijken van Palantir met betrekking tot EU-burgers nader te onderzoeken.
De stichting wil het bewustzijn vergroten over de samenwerkingen tussen buitenlandse overheden en technologiebedrijven met betrekking tot het gebruik van bewakings- en profileringtechnologieën en de impact ervan op de privacy van Europese burgers. SOMI wil vooral wijzen op de gevolgen wanneer dit gebeurt met software die niet aan de Algemene Verordening Gegevensbescherming (AVG) – in Europa: GDPR – voldoet. Bovendien wil de stichting ervoor zorgen dat alle Europese burgers goed worden beschermd tegen opdringerige praktijken van deze technologiebedrijven en dat de integriteit van Europese bewakingsoperaties niet in gevaar zal worden gebracht door niet-Europese entiteiten.
Bezwaren
In de praktijk kan Palantir strafrechtelijk onderzoek efficiënter maken, maar de prijs die er mogelijk voor moet worden betaald, zowel door overheidsinstanties als door de burger, is te hoog. De bezwaren van SOMI tegen het gebruik van Palantir-software in de Europese publieke sector zijn:
• Het is onduidelijk of Palantir en/of de organisaties die de software gebruiken, zich aan de AVG-eisen houden
De software van Palantir maakt gebruik van “predictive policing”, wat duidelijk in strijd is met de onschuldpresumptie – een grondbeginsel van het strafrecht dat bepaalt dat ieder onschuldig is tot het tegendeel is bewezen – en verschillende AVG-voorschriften. Hoewel in de Europese GDPR uitzonderingen gemaakt zijn voor onder meer de nationale veiligheid en het voorkomen en onderzoeken van misdrijven, biedt de GDPR echter extra bescherming tegen de toepassing van praktijken zoals profilering en geautomatiseerde besluitvorming. Bijvoorbeeld:

Individuen moeten worden geïnformeerd
Informatie over hoe gegevens worden gebruikt, door welke partijen en de gevolgen van de gegevensverwerking, moeten aan individuen worden verstrekt. In Europa moet dit zowel wanneer de gegevens worden verzameld (kennisgeving), als wanneer het individu om meer informatie vraagt (recht op toegang).

Gegevens moeten veilig worden verzameld, verwerkt en opgeslagen
In Europa moeten autoriteiten en wetshandhavers ervoor zorgen dat passende maatregelen worden genomen om de integriteit en veiligheid van de gegevens te beschermen. Ze moeten elke toegang en gebruik van persoonsgegevens bijhouden, door alle verwerkingsactiviteiten of categorieën verwerkingsactiviteiten te registreren.

Recht om niet te worden onderworpen aan geautomatiseerde besluitvorming
In Europa hebben individuen het recht om niet te worden onderworpen aan een besluit wanneer dit uitsluitend gebaseerd is op de geautomatiseerde verwerking en als het een nadelig juridisch effect heeft of het individu aanzienlijk beïnvloedt. De betrokkene moet een uitleg van de beslissing kunnen krijgen en deze kunnen aanvechten, en om menselijke tussenkomst te kunnen verzoeken door iemand die de autoriteit en de bevoegdheid heeft om de beslissing te wijzigen.
• Palantir-software is op een groot aantal problemen gestuit, waaronder het blootleggen van gegevens van burgers.
In de Verenigde Staten hebben verschillende wetshandhavingsinstanties, die Palantir inzetten, problemen met de software. Zo klaagde een rechercheur bij het drugsteam van het Amerikaanse Long Beach, waar het Palantir-gegevensanalysesysteem gebruikt wordt, dat vertrouwelijke informatie beschikbaar was gesteld aan andere afdelingen[5]. Andere problemen zijn onder meer moeilijk te gebruiken software, ondoorzichtige servicevoorwaarden en het niet reageren op problemen.
• Palantirs relatie met de Amerikaanse overheid en inlichtingendiensten.
Palantir werd gefinancierd door de CIA via haar In-Q-Tel kapitaalfonds en heeft samengewerkt met Amerikaanse agentschappen zoals de NSA, FBI, Ministerie van Defensie, Immigratie en Douane Handhaving, Luchtmacht en Marine Corps. Het zal geen verrassing zijn dat Palantir als geheel valt onder de “Foreign Intelligence Surveillance Act” (FISA)[6]. Dit betekent dat alle informatie over niet-Amerikaanse staatsburgers, waartoe Palantir toegang kan krijgen, gedeeld moet worden met de Amerikaanse geheime diensten indien gerechtvaardigd.
• Het werk van Palantir heeft toegang gegeven tot een grote hoeveelheid gevoelige gegevens van Europese burgers en bedrijven.
Palantir-software is ontworpen en geïmplementeerd om terroristen op te sporen die de veiligheid van de Verenigde Staten bedreigen. Met deze basis werkt de software ook binnen de EU. In tegenstelling tot commerciële technologiebedrijven, zoals Facebook of TikTok, verwerkt Palantir echter zeer gevoelige gegevens, zoals beeldmateriaal van bewakingscamera’s, kentekenplaten van auto’s en burgerservicenummers. Dergelijke informatie kan worden gebruikt om burgers te targeten of te discrimineren, wat mogelijk ernstige schade aanricht en de Europese nationale veiligheid in gevaar kan brengen.
• Palantirs controversiële bedrijfspraktijken en geschil over gegevens eigendom.
Het bedrijf heeft een geschiedenis met het achterhouden van leesbare gegevens van haar klant[7] zodra deze besluit over te stappen op andere software. Hoewel Palantir beweert dat de gegevens van haar klanten zijn, bezit Palantir de intellectuele rechten op de analyses die zijn software heeft geproduceerd. Dit maakt het voor overheden en wetshandhavers moeilijker om het platform te verlaten.
Palantirs operaties in de EU
De pandemie van het coronavirus lijkt voor Palantir nieuwe kansen te creëren om haar bereik in Europa te verbreden en te verdiepen. De Britse National Health Service (NHS) heeft Palantir gecontracteerd om het COVID-19-datacenter te ondersteunen met haar “Foundry”-software. Het bedrijf beweert dat haar software de verspreiding van het virus kan volgen en analyseren, de effectiviteit van mitigatiestrategieën kan meten en kan coördineren met lokale instellingen. Palantir probeert nu, mogelijk met succes, om soortgelijke overeenkomsten te sluiten in landen als Frankrijk, Duitsland, Oostenrijk en Zwitserland[8].

Het is onduidelijk hoe succesvol Palantir tot nu toe is geweest in Europa. Het is echter duidelijk dat Palantir zich ook in Europa richt op spraakmakende wetshandhavings- en inlichtingendiensten, vanwege haar groeiende lijst van klanten.
Ondanks dat Palantir een aantekening heeft gemaakt in hun transparantieregister bij de Europese Commissie, lijken er geen gegevens te zijn bijgehouden van de Davos-ontmoeting tussen president Von der Leyen en de Palantir CEO[9]. De leden van het Europees Parlement maken zich dan ook grote zorgen over de relatie van de EU met Palantir en het gebrek aan transparantie rond deze relatie.

SOMI-app
SOMI presenteert de allereerste AVG-rechten toepassing: met de SOMI-app kunnen consumenten een overzicht van hun persoonsgegevens opvragen bij bedrijven die hun gegevens verzamelen en bijhouden. Vervolgens kan de app de opdracht krijgen om de gegevens in te trekken of te laten beoordelen op overtreding van de AVG. Daarnaast biedt de app extra hulp aan consumenten, zoals het indienen van klachten of het initiëren van collectieve acties.

Deelnemers aan de Palantir-actie kunnen de SOMI-app gebruiken om informatie op te vragen bij Palantir en/of organisaties die Palantir-software gebruiken, in overeenstemming met de GDPR en Freedom of Information Act.
[1] https://www.bfmtv.com/tech/cyberdefense-la-france-peut-elle-couper-les-ponts-avec-palantir_AN-201809290009.html
[2] https://edri.org/our-work/new-legal-framework-for-predictive-policing-in-denmark/
[3] https://digit.site36.net/2020/06/11/europol-uses-palantir/
[4] https://fd.nl/achtergrond/1359235/geen-belegger-weet-wat-databedrijf-palantir-eigenlijk-doet
[5] https://www.wired.com/story/how-peter-thiels-secretive-data-company-pushed-into-policing/
[6] https://bigbrotherawards.de/en/2019/authorities-administration-hessian-interior-minister-peter-beuth
[7] https://www.brennancenter.org/our-work/analysis-opinion/palantir-contract-dispute-exposes-nypds-lack-transparency
[8] https://www.bloomberg.com/news/articles/2020-04-01/palantir-in-talks-with-germany-france-for-virus-fighting-tool
[9]https://www.euractiv.com/section/data-protection/news/commission-kept-no-records-on-davos-meeting-between-von-der-leyen-and-palantir-ceo/

Over SOMI
De Stichting Onderzoek Marktinformatie (SOMI) is een in Nederland gevestigde non-profitorganisatie die is opgericht om kwesties van maatschappelijk belang te identificeren en beslissingen met betrekking tot deze kwesties te beïnvloeden. SOMI richt zich op het functioneren van markten op het gebied van privacy, ouderen, wonen en zorg.
SOMI heeft in 2016 en 2017 juridisch en econometrisch onderzoek gedaan naar kartelvorming van grootbanken op de Nederlandse hypotheekmarkt. Uniek aan de actie was dat de deelnemers ook werden uitgenodigd om op te treden als kenniswerkers (crowdsourcing). Het onderzoek leidde tot de ontwikkeling van een online calculator die de gevolgen van kartelvorming voor individuele huiseigenaren inzichtelijk maakt.
Naast vermeende schendingen door Palantir, onderzoekt SOMI momenteel ook mogelijke schendingen van de Europese AVG door de TikTok-app van ByteDance en de Zoom Communications-videoconferentie-app.

Bekijk dit bericht online

Wilt u geen e-mail meer van ons ontvangen? Uitschrijven