Le perdite di dati non sono più solo il risultato di vulnerabilità tecniche nei sistemi informatici. Dall’adozione massiccia di strumenti di IA generativa nelle aziende, è emerso un nuovo canale di esposizione: i prompt, gli allegati inviati ai modelli e le risposte generate costituiscono altrettanti punti di uscita per informazioni riservate. Proteggere i propri dati sensibili richiede ora di mappare questi nuovi perimetri così come i vettori classici.
IA generativa e dati sensibili: un perimetro di fuga sottovalutato
La CNIL ha finalizzato a luglio 2025 le sue raccomandazioni sull’IA, evidenziando un rischio specifico: i dati sensibili possono essere esposti nelle basi di addestramento, nei documenti inviati dagli utenti e nelle risposte prodotte dal modello. Il modo di distribuzione (on-premise o cloud), le condizioni di riutilizzo degli input da parte del fornitore e i trasferimenti al di fuori dell’Unione Europea sono tre criteri da valutare prima di qualsiasi messa in produzione.
Questo rischio non è teorico. Un collaboratore che incolla un estratto di contratto in un chatbot cloud trasmette potenzialmente questo contenuto a un server al di fuori dell’UE, senza che il responsabile del trattamento ne sia a conoscenza. La questione non è di bandire lo strumento, ma di inquadrare ciò che vi si inietta.
Per coloro che cercano di securizzare i propri dati sensibili con Jeune et Actif, il processo inizia con un audit dei flussi di dati in uscita, inclusi quelli che transitano attraverso servizi di intelligenza artificiale.
Obbligo di controllo dell’IA: cosa cambia concretamente con l’AI Act
Dal 2 febbraio 2025, l’articolo 4 dell’AI Act impone un obbligo di controllo dell’IA ai fornitori e ai distributori. Questa disposizione supera il quadro abituale della cybersicurezza: richiede che le persone che utilizzano sistemi di IA abbiano un livello di competenza sufficiente per comprenderne i rischi.
In pratica, ciò significa che le formazioni classiche di sensibilizzazione alla sicurezza informatica non sono più sufficienti. È necessario aggiungere regole specifiche sui prompt, sugli allegati e sui dati riservati inviati ai modelli. Un dipendente formato su password robuste ma ignorante dei rischi legati a un assistente IA rimane un vettore di esposizione.
I feedback sul campo divergono sulla maturità delle aziende di fronte a questo obbligo. Alcune hanno integrato delle carte d’uso dell’IA già nel 2024, altre non hanno ancora identificato quali strumenti di IA generativa siano realmente utilizzati dai loro team. Il divario tra i due crea una zona di rischio regolamentare tanto quanto tecnico.
Ransomware ed esfiltrazione: perché i backup non proteggono più da soli
Il ransomware ha cambiato natura. L’ENISA identifica ancora questa minaccia come quella con l’impatto più significativo sulle organizzazioni. La differenza con gli attacchi di qualche anno fa risiede nella combinazione sistematica di tre leve: crittografia dei dati, furto preventivo ed estorsione sotto minaccia di pubblicazione.
Di fronte a questo trittico, ripristinare un backup risolve solo un terzo del problema. Se i dati sono stati esfiltrati prima della crittografia, la divulgazione rimane possibile anche dopo il ripristino completo dei sistemi. La protezione deve quindi intervenire a monte, su più assi simultanei:
- Segmentare gli accessi affinché un account compromesso non dia accesso all’intero patrimonio informativo
- Monitorare i comportamenti anomali sulla rete, in particolare i trasferimenti di volumi insoliti verso destinazioni esterne
- Testare regolarmente le procedure di risposta agli incidenti, non solo i backup, ma l’intera catena di rilevamento, contenimento e comunicazione
Limitare l’esfiltrazione è diventato altrettanto prioritario quanto garantire il ripristino. Questo cambiamento di paradigma implica investimenti diversi: meno spazio di archiviazione di emergenza, maggiore supervisione in tempo reale.
Cloud e sovranità dei dati: scegliere il proprio modello di distribuzione
La scelta tra cloud pubblico, cloud privato e infrastruttura on-premise condiziona direttamente il livello di controllo sui dati sensibili. La CNIL raccomanda di valutare questo criterio a monte per qualsiasi progetto che coinvolga l’IA, ma il ragionamento vale per tutti i trattamenti di dati critici.
I trasferimenti al di fuori dell’Unione Europea rimangono un punto di attrito principale. Un servizio cloud ospitato in Europa ma operato da un fornitore soggetto a una legislazione extraterritoriale (come il Cloud Act americano) può esporre i dati a richieste di accesso da giurisdizioni terze. I dati disponibili non consentono di concludere che le clausole contrattuali standard offrano una protezione sufficiente in tutti i casi.
Per le aziende che trattano dati particolarmente sensibili (salute, difesa, dati giudiziari), il dispiegamento on-premise o su un cloud qualificato SecNumCloud dall’ANSSI rappresenta un’opzione più protettiva, a costo di una maggiore complessità operativa.
Costruire una politica di protezione dei dati che integri questi nuovi rischi
Classificare i dati rimane la base di ogni strategia di sicurezza. Non tutte le informazioni meritano lo stesso livello di protezione e applicare misure massime ovunque equivale a non dare priorità a nulla. La classificazione consente di allocare le risorse di monitoraggio e crittografia dove l’impatto di una fuga sarebbe più grave.
Oltre alla classificazione, tre dimensioni meritano di essere integrate nelle politiche esistenti:
- Un capitolo IA esplicito, che definisca quali tipi di dati possono essere sottoposti a strumenti di IA generativa e a quali condizioni di distribuzione
- Un capitolo esfiltrazione, con soglie di allerta sui volumi di dati in uscita e regole di segmentazione della rete adattate alla criticità degli asset
- Un capitolo di conformità normativa che copra sia il GDPR che l’AI Act, due quadri ora complementari per qualsiasi organizzazione che tratti dati personali con strumenti automatizzati
La difficoltà risiede nell’articolazione di questi capitoli. I team legali, informatici e operativi devono lavorare insieme su scenari concreti piuttosto che su carte generiche. Un test di intrusione annuale non copre il rischio legato a un uso quotidiano non regolamentato di un chatbot da parte del servizio commerciale.
La protezione dei dati sensibili non si riassume più in un firewall e un backup settimanale. Il perimetro da difendere include ora ogni interazione con un sistema di IA, ogni flusso cloud e ogni comportamento utente anomalo. Le organizzazioni che non avranno aggiornato la loro mappatura dei rischi entro i prossimi mesi si esporranno tanto a sanzioni normative quanto a perdite operative.
