In Europa al twee klachten ingediend tegen AI-tool DeepSeek

De Chinese AI-tool DeepSeek is nog maar net geïntroduceerd op de Europese markten of er worden al twee klachten tegen ingediend, waarvan een in België. Desondanks baant de app zich dankzij haar indrukwekkende prestaties een weg naar de top. In de Verenigde Staten staat de app al bovenaan de downloadlijsten en gaat ze de concurrentie aan met ChatGPT (OpenAI) en Gemini (Google). 

Vorige week diende Testaankoop een klacht in bij de Belgische Gegevensbeschermingsautoriteit (GBA) wegens niet-naleving van de Europese normen voor gegevensbescherming, waaronder de GDPR, bij het verwerken van Belgische persoonsgegevens door DeepSeek.

In Italië diende Altroconsumo, de Italiaanse tegenhanger van Testaankoop, een soortgelijke klacht in.

Verschillende overtredingen 

Testaankoop stelt verschillende overtredingen aan de kaak:

• DeepSeek stuurt persoonsgegevens, e-mailadressen, interacties en prompts van Belgische gebruikers door naar China, zonder voldoende waarborgen of transparantie. Dat is illegaal.
• Het privacybeleid van DeepSeek is niet in overeenstemming met de GDPR. Er ontbreekt duidelijke informatie over de manier waarop DeepSeek gegevens bijhoudt en verwerkt.
• DeepSeek verduidelijkt niet of de gebruikersgegevens worden gebruikt voor profilering of geautomatiseerde besluitvorming, waardoor er vragen rijzen over het gebruik van de verzamelde gegevens.
• Ten slotte maakt de Chinese AI-tool geen melding van leeftijdscontrole of specifieke regels met betrekking tot de gegevens van minderjarige gebruikers.

Testaankoop roept daarom op tot een tijdelijke beperking van DeepSeek, zoals in 2023 het geval was in Italië, toen de Italiaanse gegevensbeschermingsautoriteit ChatGPT kortstondig blokkeerde.

De GBA kondigde aan een onderzoek in te stellen naar aanleiding van de klacht.

Niet alleen in Europa zijn er bezorgdheden over gegevensbescherming. Ook de Australische minister van Industrie en Wetenschap sprak zijn bezorgdheid uit over de bescherming van de privacy in verband met de Chinese AI-tool en verzocht de gebruikers ervan om ‘zeer voorzichtig te zijn’.

We weten ondertussen al lang dat AI-algoritmen worden blootgesteld aan vooroordelen, afhankelijk van de gegevens waarmee ze worden getraind. Dat heeft gevolgen voor de verzonden resultaten en houdt het risico in dat reacties worden beïnvloed door gebruikte gegevens en fakenieuws. Die vaststelling werd in 2023 al gedaan in verband met ChatGPT.

Overeenstemming met de GDPR als basisprincipe

De klacht van Testaankoop kan verschillende gevolgen hebben voor DeepSeek en zijn gebruikers. Indien de klacht succesvol is, kan DeepSeek gedwongen worden zijn activiteiten in België tijdelijk stop te zetten of zijn gegevensbeheer aan te passen aan de Europese normen. Bovendien zou het andere Europese landen ertoe kunnen aanzetten de praktijken van DeepSeek nader te bekijken en soortgelijke maatregelen te nemen.