AI wordt steeds vaker gebruikt op het werk. Denk aan ChatGPT, Microsoft Copilot, Gemini, automatische notulen, AI-chatbots of slimme zoekfuncties in documenten. Handig, maar er zit ook een risico aan: persoonsgegevens kunnen onbedoeld bij de verkeerde partij terechtkomen. Dan kan sprake zijn van een datalek.
De Autoriteit Persoonsgegevens geeft aan dat organisaties die AI of algoritmes gebruiken met persoonsgegevens gewoon aan de AVG moeten voldoen. Ook bij AI blijft dus gelden: verwerk niet meer persoonsgegevens dan nodig, beveilig de gegevens goed en maak duidelijke afspraken met leveranciers.
Wat is een datalek?
Veel mensen denken bij een datalek aan een hacker. Maar een datalek is breder dan dat. Er is al sprake van een datalek als persoonsgegevens per ongeluk of onrechtmatig worden vernietigd, verloren gaan, gewijzigd worden, of toegankelijk worden voor iemand die ze niet mocht zien. De EDPB, de Europese privacytoezichthouder, gebruikt dat brede uitgangspunt ook in haar richtlijnen over datalekken.
Bij AI kan een datalek bijvoorbeeld ontstaan wanneer een medewerker persoonsgegevens invoert in een AI-tool zonder dat duidelijk is waar die gegevens blijven.
Voorbeelden van datalekken bij AI
Een datalek bij AI-gebruik kan bijvoorbeeld ontstaan in deze situaties:
1. Een medewerker plakt persoonsgegevens in een openbare AI-tool
Bijvoorbeeld een cliëntdossier, arbeidsovereenkomst, medisch verslag, klacht, cv of e-mailwisseling. Als de organisatie geen goede afspraken heeft met de AI-leverancier, kunnen die gegevens buiten de controle van de organisatie raken.
2. Een AI-chatbot toont gegevens van de verkeerde persoon
Een klant of cliënt stelt een vraag en krijgt per ongeluk informatie te zien uit het dossier van iemand anders. Dat is een duidelijk privacyrisico.
3. AI maakt automatisch een e-mail of document met verkeerde ontvangers
Als een AI-agent zelfstandig documenten deelt, e-mails opstelt of acties uitvoert, kan informatie sneller bij de verkeerde persoon terechtkomen.
4. Gesprekken met AI worden opgeslagen zonder dat medewerkers dit weten
Ook prompts kunnen persoonsgegevens bevatten. Als deze prompts worden opgeslagen, geanalyseerd of gebruikt voor training zonder goede grondslag of afspraken, kan dat problematisch zijn.
5. Een account met toegang tot AI-gegevens wordt gehackt
Wanneer een aanvaller toegang krijgt tot promptgeschiedenis, bestanden, transcripties of gekoppelde systemen, kan sprake zijn van een datalek.
Is elk fout AI-antwoord een datalek?
Nee. Een fout antwoord van AI is niet automatisch een datalek. Als AI bijvoorbeeld een onjuiste juridische uitleg geeft, is dat vooral een kwaliteitsprobleem.
Maar het kan wél een privacyprobleem worden als AI persoonsgegevens verkeerd gebruikt, verspreidt of koppelt aan de verkeerde persoon. Bijvoorbeeld als een AI-systeem ten onrechte zegt dat een medewerker ziek is, een cliënt een bepaald probleem heeft of iemand betrokken was bij een incident.
Moet je een AI-datalek melden?
Dat hangt af van het risico. Volgens de Autoriteit Persoonsgegevens moet een datalek bij de AP worden gemeld, tenzij het niet waarschijnlijk is dat het datalek een risico oplevert voor de rechten en vrijheden van personen.
Als melding nodig is, moet dit in principe binnen 72 uur nadat de organisatie kennis heeft genomen van het datalek.
Soms moet je ook de betrokken personen informeren. Dat is vooral het geval als het datalek waarschijnlijk een hoog risico oplevert. Denk aan gevoelige gegevens, medische gegevens, financiële gegevens, identiteitsgegevens of informatie over kwetsbare personen.
Waarom is AI extra gevoelig?
AI maakt datalekken lastiger, omdat gegevens vaak op meerdere plekken terecht kunnen komen. Een medewerker ziet soms niet precies wat er met ingevoerde informatie gebeurt. Worden prompts opgeslagen? Worden ze gebruikt om het model te verbeteren? Staat de data binnen of buiten de EU? Is er een verwerkersovereenkomst? Wie kan de gegevens bekijken? Daarom is AI-gebruik niet alleen een IT-vraagstuk, maar ook een juridisch en organisatorisch vraagstuk.
Wat moet een organisatie regelen?
Een organisatie die AI gebruikt, doet er verstandig aan om minimaal het volgende te regelen:
1. Maak duidelijk welke AI-tools wel en niet gebruikt mogen worden.
Laat medewerkers niet zelf allerlei gratis of openbare AI-tools gebruiken voor werkgegevens.
2. Verbied het invoeren van gevoelige persoonsgegevens in openbare AI-tools.
Denk aan medische gegevens, BSN, personeelsdossiers, cliëntgegevens, juridische dossiers en financiële informatie.
3. Sluit goede afspraken met AI-leveranciers.
Controleer of een verwerkersovereenkomst nodig is en wat er gebeurt met prompts, bestanden en output.
4. Zorg voor logging en toegangsbeheer.
Niet iedereen hoeft toegang te hebben tot alle AI-functionaliteiten of gekoppelde databronnen.
5. Maak een intern AI-beleid.
Leg in simpele taal uit wat medewerkers wel en niet mogen doen.
6. Train medewerkers met praktische voorbeelden.
Veel datalekken ontstaan niet door kwade wil, maar door onduidelijkheid.
7. Leg AI-incidenten vast in het datalekregister.
Ook als een incident niet meldplichtig is, moet je kunnen uitleggen waarom je die keuze hebt gemaakt.
AI Act en AVG: allebei belangrijk
De AI Act regelt vooral eisen aan AI-systemen zelf. De AVG blijft daarnaast gelden zodra persoonsgegevens worden verwerkt. De AI Act is op 1 augustus 2024 in werking getreden en wordt stapsgewijs van toepassing, met volledige toepassing vanaf 2 augustus 2026 voor veel onderdelen. (Digitale Strategie Europa)
Belangrijk: de AI Act vervangt de AVG niet. Een AI-systeem kan dus technisch zijn toegestaan, maar alsnog in strijd zijn met de AVG als persoonsgegevens niet goed worden beschermd.
Conclusie
AI kan veel werk makkelijker maken, maar het gebruik ervan brengt ook nieuwe privacyrisico’s met zich mee. Een datalek bij AI ontstaat vaak niet door een grote hack, maar door iets kleins: een medewerker plakt een dossier in een AI-tool, een chatbot toont verkeerde informatie of een AI-systeem deelt gegevens met de verkeerde persoon.
De belangrijkste les is simpel: voer niet zomaar persoonsgegevens in AI-tools in. Maak duidelijke afspraken, beperk toegang, train medewerkers en zorg dat incidenten snel worden herkend. Zo kan AI veilig worden gebruikt zonder dat privacy uit het oog wordt verloren.
