As vazamentos de dados não são mais apenas resultado de falhas técnicas nos sistemas de informação. Desde a adoção massiva de ferramentas de IA generativa nas empresas, um novo canal de exposição surgiu: os prompts, os anexos enviados aos modelos e as respostas geradas constituem tantos pontos de saída para informações confidenciais. Proteger seus dados sensíveis agora exige mapear esses perímetros inéditos assim como os vetores clássicos.
IA generativa e dados sensíveis: um perímetro de vazamento subestimado
A CNIL finalizou em julho de 2025 suas recomendações sobre a IA, apontando um risco específico: os dados sensíveis podem ser expostos nas bases de treinamento, nos documentos enviados pelos usuários e nas respostas produzidas pelo modelo. O modo de implantação (local ou na nuvem), as condições de reutilização das entradas pelo fornecedor e as transferências fora da União Europeia são três critérios a serem avaliados antes de qualquer produção.
Esse risco não é teórico. Um colaborador que cola um trecho de contrato em um chatbot na nuvem potencialmente transmite esse conteúdo a um servidor fora da UE, sem que o responsável pelo tratamento tenha conhecimento. A questão não é banir a ferramenta, mas regular o que se injeta nela.
Para aqueles que buscam proteger seus dados sensíveis com Jeune et Actif, a abordagem começa com uma auditoria dos fluxos de dados de saída, incluindo aqueles que transitam por serviços de inteligência artificial.
Obrigação de domínio da IA: o que o AI Act muda concretamente
Desde 2 de fevereiro de 2025, o artigo 4 do AI Act impõe uma obrigação de domínio da IA aos fornecedores e implantadores. Essa disposição vai além do âmbito habitual da cibersegurança: exige que as pessoas que utilizam sistemas de IA tenham um nível de competência suficiente para compreender os riscos.
Na prática, isso significa que os treinamentos clássicos de conscientização sobre segurança da informação não são mais suficientes. É necessário adicionar regras específicas sobre os prompts, os anexos e os dados confidenciais enviados aos modelos. Um funcionário treinado em senhas robustas, mas ignorando os riscos relacionados a um assistente de IA, continua sendo um vetor de exposição.
Os retornos de campo divergem sobre a maturidade das empresas em relação a essa obrigação. Algumas integraram cartas de uso da IA já em 2024, outras ainda não identificaram quais ferramentas de IA generativa estão realmente sendo utilizadas por suas equipes. A diferença entre as duas cria uma zona de risco regulatório tanto quanto técnico.
Ransomware e exfiltração: por que os backups não protegem mais sozinhos
O ransomware mudou de natureza. A ENISA ainda identifica essa ameaça como aquela com o impacto mais significativo nas organizações. A diferença em relação aos ataques de alguns anos atrás reside na combinação sistemática de três alavancas: criptografia de dados, roubo prévio e extorsão sob ameaça de publicação.
Diante desse tripé, restaurar um backup resolve apenas um terço do problema. Se os dados foram exfiltrados antes da criptografia, a divulgação permanece possível mesmo após a restauração completa dos sistemas. A proteção deve, portanto, ocorrer a montante, em vários eixos simultâneos:
- Segmentar os acessos para que uma conta comprometida não dê acesso a todo o patrimônio informacional
- Monitorar comportamentos anormais na rede, especialmente transferências de volumes incomuns para destinos externos
- Testar regularmente os procedimentos de resposta a incidentes, não apenas os backups, mas toda a cadeia de detecção, contenção e comunicação
Limitar a exfiltração tornou-se tão prioritário quanto garantir a restauração. Essa mudança de paradigma implica investimentos diferentes: menos armazenamento de backup, mais supervisão em tempo real.
Nuvem e soberania dos dados: escolher seu modelo de implantação
A escolha entre nuvem pública, nuvem privada e infraestrutura local condiciona diretamente o nível de domínio sobre os dados sensíveis. A CNIL recomenda avaliar esse critério a montante para qualquer projeto envolvendo IA, mas o raciocínio vale para todos os tratamentos de dados críticos.
As transferências fora da União Europeia continuam sendo um ponto de atrito maior. Um serviço de nuvem hospedado na Europa, mas operado por um fornecedor sujeito a uma legislação extraterritorial (como o Cloud Act americano) pode expor os dados a pedidos de acesso de jurisdições de terceiros. Os dados disponíveis não permitem concluir que as cláusulas contratuais padrão oferecem proteção suficiente em todos os casos.
Para as empresas que tratam dados particularmente sensíveis (saúde, defesa, dados judiciais), a implantação local ou em uma nuvem qualificada SecNumCloud pela ANSSI constitui uma opção mais protetora, ao custo de uma complexidade operacional superior.
Construir uma política de proteção de dados que integre esses novos riscos
Classificar os dados continua sendo a base de toda estratégia de segurança. Nem todas as informações merecem o mesmo nível de proteção, e aplicar medidas máximas em todos os lugares equivale a não priorizar nada. A classificação permite alocar recursos de monitoramento e criptografia onde o impacto de um vazamento seria mais grave.
Além da classificação, três dimensões merecem ser integradas às políticas existentes:
- Um componente de IA explícito, definindo quais tipos de dados podem ser submetidos a ferramentas de IA generativa e sob quais condições de implantação
- Um componente de exfiltração, com limites de alerta sobre os volumes de dados de saída e regras de segmentação de rede adaptadas à criticidade dos ativos
- Um componente de conformidade regulatória cobrindo tanto o RGPD quanto o AI Act, dois quadros agora complementares para toda organização que trata dados pessoais com ferramentas automatizadas
A dificuldade reside na articulação desses componentes. As equipes jurídicas, de TI e de negócios devem trabalhar juntas em cenários concretos em vez de em cartas genéricas. Um teste de intrusão anual não cobre o risco relacionado ao uso diário não regulado de um chatbot pelo serviço comercial.
A proteção de dados sensíveis não se resume mais a um firewall e um backup semanal. O perímetro a defender agora inclui cada interação com um sistema de IA, cada fluxo na nuvem e cada comportamento anormal do usuário. As organizações que não atualizarem seu mapeamento de riscos nos próximos meses estarão expostas tanto a sanções regulatórias quanto a perdas operacionais.
