Datalekken zijn niet langer alleen het gevolg van technische kwetsbaarheden in informatiesystemen. Sinds de massale adoptie van generatieve AI-tools in bedrijven is er een nieuw blootstellingskanaal ontstaan: prompts, bijlagen die naar modellen worden verzonden en de gegenereerde antwoorden vormen allemaal potentiële uitgangen voor vertrouwelijke informatie. Het beschermen van gevoelige gegevens vereist nu een kaart van deze nieuwe perimeter net zo goed als van de klassieke vectoren.
Generatieve AI en gevoelige gegevens: een onderschatte lekperimeter
De CNIL heeft in juli 2025 haar aanbevelingen over AI afgerond, met een specifieke risico-aanduiding: gevoelige gegevens kunnen worden blootgesteld in trainingsdatabases, in documenten die door gebruikers worden verzonden en in de antwoorden die door het model worden geproduceerd. De implementatiemodus (on-premise of cloud), de voorwaarden voor hergebruik van invoer door de leverancier en de overdrachten buiten de Europese Unie zijn drie criteria die moeten worden geëvalueerd voordat tot productie wordt overgegaan.
Dit risico is niet theoretisch. Een medewerker die een contractfragment in een cloudchatbot plakt, kan deze inhoud potentieel naar een server buiten de EU verzenden, zonder dat de verwerkingsverantwoordelijke hiervan op de hoogte is. De vraag is niet om het hulpmiddel te verbannen, maar om te kaderen wat erin wordt geïnjecteerd.
Voor degenen die hun gevoelige gegevens willen beveiligen met Jeune et Actif, begint de aanpak met een audit van de uitgaande datastromen, inclusief die welke via AI-diensten verlopen.
Verplichting tot beheersing van AI: wat de AI Act concreet verandert
Sinds 2 februari 2025, verplicht artikel 4 van de AI Act de beheersing van AI voor leveranciers en implementatoren. Deze bepaling gaat verder dan de gebruikelijke kaders van cyberbeveiliging: het vereist dat de personen die AI-systemen gebruiken over voldoende competentie beschikken om de risico’s te begrijpen.
In de praktijk betekent dit dat de klassieke trainingen voor bewustwording van IT-beveiliging niet langer voldoende zijn. Er moeten specifieke regels worden toegevoegd over prompts, bijlagen en vertrouwelijke gegevens die naar modellen worden verzonden. Een werknemer die is getraind in sterke wachtwoorden maar de risico’s van een AI-assistent negeert, blijft een blootstellingsvector.
De ervaringen op de werkvloer verschillen over de volwassenheid van bedrijven met betrekking tot deze verplichting. Sommige hebben al in 2024 gebruiksrichtlijnen voor AI geïntegreerd, terwijl anderen nog niet hebben geïdentificeerd welke generatieve AI-tools daadwerkelijk door hun teams worden gebruikt. Het verschil tussen beide creëert een zone van zowel regelgevings- als technische risico’s.
Ransomware en exfiltratie: waarom back-ups niet langer alleen beschermen
Ransomware is van aard veranderd. ENISA identificeert deze bedreiging nog steeds als degene met de grootste impact op organisaties. Het verschil met aanvallen van enkele jaren geleden ligt in de systematische combinatie van drie hefboommechanismen: gegevensversleuteling, voorafgaande diefstal en afpersing onder dreiging van publicatie.
In het licht van dit drieluik lost het herstellen van een back-up slechts een derde van het probleem op. Als de gegevens zijn geëxfiltreerd vóór de versleuteling, blijft openbaarmaking mogelijk, zelfs na een volledige herstel van de systemen. De bescherming moet dus vooraf plaatsvinden, op meerdere gelijktijdige assen:
- Toegang segmenteren zodat een gecompromitteerd account geen toegang geeft tot het volledige informatiebezit
- Ongebruikelijke gedragingen op het netwerk monitoren, met name ongebruikelijke volumetransfers naar externe bestemmingen
- Regelmatig de procedures voor incidentrespons testen, niet alleen de back-ups, maar de volledige keten van detectie, isolatie en communicatie
Het beperken van exfiltratie is net zo prioriteit als het waarborgen van herstel. Deze paradigmaverschuiving vereist verschillende investeringen: minder back-upopslag, meer realtime toezicht.
Cloud en gegevenssoevereiniteit: kies uw implementatiemodel
De keuze tussen publieke cloud, private cloud en on-premise infrastructuur bepaalt direct het niveau van beheersing over gevoelige gegevens. De CNIL raadt aan om dit criterium vooraf te evalueren voor elk project dat AI omvat, maar de redenering geldt voor alle kritieke gegevensverwerkingen.
Overdrachten buiten de Europese Unie blijven een belangrijk spanningspunt. Een cloudservice die in Europa wordt gehost maar wordt beheerd door een leverancier die onderworpen is aan extraterritoriale wetgeving (zoals de Amerikaanse Cloud Act) kan de gegevens blootstellen aan toegangseisen van derde jurisdicties. De beschikbare gegevens stellen niet vast dat standaardcontractbepalingen in alle gevallen voldoende bescherming bieden.
Voor bedrijven die bijzonder gevoelige gegevens verwerken (gezondheid, defensie, gerechtelijke gegevens), is implementatie on-premise of op een cloud die door de ANSSI als SecNumCloud is gekwalificeerd een meer beschermende optie, ten koste van een hogere operationele complexiteit.
Bouwen aan een gegevensbeschermingsbeleid dat deze nieuwe risico’s integreert
Het classificeren van gegevens blijft de basis van elke beveiligingsstrategie. Niet alle informatie verdient hetzelfde niveau van bescherming, en het toepassen van maximale maatregelen overal betekent niets prioriteren. Classificatie maakt het mogelijk om toezicht- en versleutelingsmiddelen toe te wijzen waar de impact van een lek het ernstigst zou zijn.
Naast classificatie verdienen drie dimensies het om te worden geïntegreerd in bestaande beleidslijnen:
- Een expliciet AI-gedeelte, dat definieert welke soorten gegevens aan generatieve AI-tools kunnen worden onderworpen en onder welke implementatievoorwaarden
- Een exfiltratiegedeelte, met waarschuwingsdrempels voor de uitgaande datavolumes en netwerkscheidingregels die zijn aangepast aan de kritikaliteit van de activa
- Een gedeelte voor wettelijke naleving dat zowel de GDPR als de AI Act dekt, twee nu complementaire kaders voor elke organisatie die persoonlijke gegevens verwerkt met geautomatiseerde tools
De moeilijkheid ligt in de afstemming van deze onderdelen. Juridische, IT- en zakelijke teams moeten samenwerken aan concrete scenario’s in plaats van op generieke richtlijnen. Een jaarlijkse penetratietest dekt het risico van een niet-gecontroleerd dagelijks gebruik van een chatbot door de commerciële afdeling niet.
De bescherming van gevoelige gegevens is niet langer beperkt tot een firewall en een wekelijkse back-up. De perimeter die verdedigd moet worden omvat nu elke interactie met een AI-systeem, elke cloudstroom en elk ongewoon gebruikersgedrag. Organisaties die hun risicomapping de komende maanden niet hebben bijgewerkt, lopen zowel het risico op regelgevende sancties als operationele verliezen.
