Moeten we ons zorgen maken over de hallucinaties – lees: fouten en vooroordelen – van AI? Ja, want onjuiste gegevens kunnen beslissingen beïnvloeden of de reputatie van een bedrijf aantasten. Daarnaast kunnen foutieve gegevens leiden tot een inbreuk op de GDPR, de Algemene Verordening Gegevensbescherming, met mogelijke schade of aansprakelijkheid voor uw bedrijf tot gevolg.
Rectificeren of wissen? Hoe dan ook: controleren!
Voor ondernemingen is het van cruciaal belang om erop toe te zien dat de AI-systemen die ze gebruiken, en die persoonsgegevens verwerken, in overeenstemming zijn met de beginselen van de GDPR. Een van die beginselen is het recht op rectificatie, dat betrokkenen de mogelijkheid geeft om onjuiste persoonsgegevens snel te laten corrigeren of om ontbrekende informatie te laten aanvullen. Het recht op gegevenswissing kan er dan weer toe leiden dat gegevens die overbodig zijn geworden, onrechtmatig zijn verwerkt of waarvan het bewaren niet langer gerechtvaardigd is, moeten worden verwijderd. Dat betekent niet dat bedrijven automatisch alles moeten wissen. Wel moeten ze elk verzoek behandelen: ze moeten de bron controleren en vervolgens beslissen of de informatie moet worden gecorrigeerd of verwijderd.
Voor ondernemingen is het van cruciaal belang om erop toe te zien dat de AI-systemen die ze gebruiken, en die persoonsgegevens verwerken, in overeenstemming zijn met de beginselen van de GDPR.
Het recht op rectificatie in het AI-tijdperk
Een recente rechtszaak in Aken illustreert dat recht op rectificatie in het AI-tijdperk uitstekend. De AI-modus van Google had een arts namelijk strafrechtelijke beschuldigingen en professionele gevolgen toegeschreven die in werkelijkheid betrekking hadden op een andere arts. De tool had dus niet alle feiten verzonnen; hij had weliswaar echte elementen samengelegd, maar die aan de verkeerde persoon gekoppeld. Net dat is een van de ernstigste risico’s van AI-‘hallucinaties’: de tool genereert een ogenschijnlijk samenhangend, maar in werkelijkheid onjuist verhaal.
De rechtbank oordeelde uiteindelijk dat Google aansprakelijk was voor die publicatie. Eenzelfde redenering werd enkele maanden eerder gevolgd in München, waar twee uitgevers ten onrechte in verband waren gebracht met handelsfraude naar aanleiding van onjuiste informatie in de ‘AI Overviews’ van Google (de automatische samenvattingen bovenaan de zoekresultatenpagina).
Vormen hallucinaties ook voor ondernemingen een reëel risico?
Ja, het gebruik van breed toegankelijke AI-modellen – ChatGPT (OpenAI), Gemini (Google) en Claude (Anthropic) – in een professionele omgeving vergroot de risico’s. Een bedrijf dat AI gebruikt om een webpagina te schrijven, een chatbot te bouwen of een klantprofiel te creëren, is verantwoordelijk voor wat het publiceert en voor de gegevens die het verwerkt. Die waakzaamheid is van cruciaal belang: volgens een onderzoek werd midden 2025 ongeveer 35% van de nieuwe websites door AI gegenereerd of ondersteund. Op die schaal is de kans groot dat fouten worden gekopieerd, geïndexeerd en vervolgens opnieuw worden gepubliceerd. Bedrijven kunnen zich dus niet verschuilen achter leveranciers, noch achter het argument dat “AI fouten kan maken”.
Wie is aansprakelijk?
Op die vraag bestaat geen eenvoudig antwoord, omdat verschillende partijen betrokken zijn: de ontwerper van het model, de leverancier, de integrator en het bedrijf dat het model gebruikt. Het Europese regelgevingskader, de AI Act, biedt geen uitsluitsel over de burgerlijke aansprakelijkheid. Aangezien AI geen persoon is aan wie een fout kan worden aangerekend, moet worden gezocht naar degene die de tool en de bronnen kiest, degene die er toezicht op houdt, degene die instructies geeft en degene die publiceert. In beide Duitse zaken stelden de rechters Google, dat de informatie publiceerde, aansprakelijk.
Controleren, corrigeren, documenteren … en sensibiliseren
Alle geproduceerde inhoud moet worden gecontroleerd (zowel de feiten als de bronnen). Daarnaast moet een verantwoordelijke worden aangesteld die omstreden inhoud kan blokkeren en moet een procedure worden ingesteld om onjuiste informatie te corrigeren. Tot slot kunnen we niet genoeg benadrukken hoe belangrijk het voor bedrijven is om al hun medewerkers goed op te leiden rond naleving en het regelmatig actualiseren van gegevens, en hen over de mogelijke gevolgen van fouten of vooroordelen te sensibiliseren.
Lees meer artikels over:
