Las filtraciones de datos ya no son únicamente el resultado de fallos técnicos en los sistemas de información. Desde la adopción masiva de herramientas de IA generativa en las empresas, ha surgido un nuevo canal de exposición: los prompts, los archivos adjuntos enviados a los modelos y las respuestas generadas constituyen tantos puntos de salida para información confidencial. Proteger los datos sensibles ahora exige mapear estos nuevos perímetros tanto como los vectores clásicos.
IA generativa y datos sensibles: un perímetro de fuga subestimado
La CNIL finalizó en julio de 2025 sus recomendaciones sobre la IA, señalando un riesgo específico: los datos sensibles pueden ser expuestos en las bases de entrenamiento, en los documentos enviados por los usuarios y en las respuestas producidas por el modelo. El modo de despliegue (en sitio o en la nube), las condiciones de reutilización de las entradas por el proveedor y las transferencias fuera de la Unión Europea son tres criterios a evaluar antes de cualquier puesta en producción.
Este riesgo no es teórico. Un colaborador que pega un extracto de contrato en un chatbot en la nube transmite potencialmente este contenido a un servidor fuera de la UE, sin que el responsable del tratamiento lo sepa. La cuestión no es prohibir la herramienta, sino enmarcar lo que se inyecta en ella.
Para aquellos que buscan proteger sus datos sensibles con Jeune et Actif, el proceso comienza con una auditoría de los flujos de datos salientes, incluidos aquellos que transitan por servicios de inteligencia artificial.
Obligación de dominio de la IA: lo que el AI Act cambia concretamente
Desde el 2 de febrero de 2025, el artículo 4 del AI Act impone una obligación de dominio de la IA a los proveedores y a los desplegadores. Esta disposición va más allá del marco habitual de la ciberseguridad: exige que las personas que utilizan sistemas de IA tengan un nivel de competencia suficiente para comprender los riesgos.
En la práctica, esto significa que las formaciones clásicas de sensibilización a la seguridad informática ya no son suficientes. Se deben añadir reglas específicas sobre los prompts, los archivos adjuntos y los datos confidenciales enviados a los modelos. Un empleado formado en contraseñas robustas pero ignorante de los riesgos asociados a un asistente de IA sigue siendo un vector de exposición.
Los retornos del terreno divergen sobre la madurez de las empresas frente a esta obligación. Algunas han integrado cartas de uso de la IA desde 2024, otras aún no han identificado qué herramientas de IA generativa son realmente utilizadas por sus equipos. La brecha entre ambas crea una zona de riesgo regulatorio tanto como técnico.
Ransomware y exfiltración: por qué las copias de seguridad ya no protegen solas
El ransomware ha cambiado de naturaleza. La ENISA identifica aún esta amenaza como aquella que tiene el impacto más importante en las organizaciones. La diferencia con los ataques de hace algunos años radica en la combinación sistemática de tres palancas: cifrado de datos, robo previo y extorsión bajo amenaza de publicación.
Frente a este tríptico, restaurar una copia de seguridad solo resuelve un tercio del problema. Si los datos han sido exfiltrados antes del cifrado, la divulgación sigue siendo posible incluso después de la restauración completa de los sistemas. Por lo tanto, la protección debe intervenir en la fase previa, en varios ejes simultáneos:
- Segmentar los accesos para que una cuenta comprometida no dé acceso a todo el patrimonio informacional
- Monitorear comportamientos anormales en la red, especialmente las transferencias de volúmenes inusuales hacia destinos externos
- Probar regularmente los procedimientos de respuesta a incidentes, no solo las copias de seguridad, sino toda la cadena de detección, contención y comunicación
Limitar la exfiltración se ha vuelto tan prioritario como garantizar la restauración. Este cambio de paradigma implica inversiones diferentes: menos almacenamiento de respaldo, más supervisión en tiempo real.
Nube y soberanía de los datos: elegir su modelo de despliegue
La elección entre nube pública, nube privada e infraestructura en sitio condiciona directamente el nivel de dominio sobre los datos sensibles. La CNIL recomienda evaluar este criterio de antemano para cualquier proyecto que implique IA, pero el razonamiento es válido para todos los tratamientos de datos críticos.
Las transferencias fuera de la Unión Europea siguen siendo un punto de fricción importante. Un servicio en la nube alojado en Europa pero operado por un proveedor sujeto a una legislación extraterritorial (como el Cloud Act estadounidense) puede exponer los datos a solicitudes de acceso de jurisdicciones externas. Los datos disponibles no permiten concluir que las cláusulas contractuales estándar ofrecen una protección suficiente en todos los casos.
Para las empresas que manejan datos particularmente sensibles (salud, defensa, datos judiciales), el despliegue en sitio o en una nube calificada SecNumCloud por la ANSSI constituye una opción más protectora, a costa de una mayor complejidad operativa.
Construir una política de protección de datos que integre estos nuevos riesgos
Clasificar los datos sigue siendo la base de toda estrategia de seguridad. No toda la información merece el mismo nivel de protección, y aplicar medidas máximas en todas partes equivale a no priorizar nada. La clasificación permite asignar los recursos de monitoreo y cifrado donde el impacto de una fuga sería más grave.
Más allá de la clasificación, tres dimensiones merecen ser integradas en las políticas existentes:
- Un apartado de IA explícito, definiendo qué tipos de datos pueden ser sometidos a herramientas de IA generativa y bajo qué condiciones de despliegue
- Un apartado de exfiltración, con umbrales de alerta sobre los volúmenes de datos salientes y reglas de segmentación de red adaptadas a la criticidad de los activos
- Un apartado de cumplimiento regulatorio que cubra tanto el RGPD como el AI Act, dos marcos ahora complementarios para toda organización que maneje datos personales con herramientas automatizadas
La dificultad radica en la articulación de estos apartados. Los equipos jurídicos, informáticos y de negocio deben trabajar juntos en escenarios concretos en lugar de en cartas genéricas. Una prueba de intrusión anual no cubre el riesgo asociado a un uso diario no regulado de un chatbot por parte del servicio comercial.
La protección de los datos sensibles ya no se limita a un cortafuegos y una copia de seguridad semanal. El perímetro a defender ahora incluye cada interacción con un sistema de IA, cada flujo en la nube y cada comportamiento de usuario anormal. Las organizaciones que no hayan actualizado su mapeo de riesgos en los próximos meses se expondrán tanto a sanciones regulatorias como a pérdidas operativas.
