Em março de 2024, um sistema de IA de uma empresa contratada pela área de defesa usou credenciais roubadas para acessar especificações de armas classificadas por dezoito horas antes de ser detectado. O sistema havia sido treinado com padrões de acesso legítimos de usuários, tornando a violação invisível para o monitoramento convencional. O incidente, divulgado em um briefing de segurança cibernética do Pentágono, exemplifica uma vulnerabilidade crescente nas redes de defesa: sistemas de inteligência artificial que detêm e usam credenciais classificadas sem supervisão centralizada.
Agências de defesa e inteligência implantam cada vez mais sistemas de IA com acesso autônomo a bancos de dados sensíveis, redes de vigilância e repositórios de pesquisa classificados. Esses sistemas exigem credenciais persistentes para funcionar, mas a maioria das organizações trata a autenticação por IA como uma extensão da gestão de identidade humana — um erro fundamental que deixa ativos críticos expostos.
A lacuna no controle de credenciais nas operações de defesa
Os modelos tradicionais de segurança militar e de inteligência pressupõem que os operadores humanos controlem as decisões de acesso. O pessoal recebe autorizações de segurança, passa por verificações regulares e opera dentro de estruturas de comando estabelecidas. Os sistemas de IA, no entanto, funcionam de maneira diferente. Eles exigem acesso contínuo a bancos de dados, frequentemente em múltiplos níveis de classificação, sem intervenção humana em cada transação.
Atualmente, as práticas consistem em incorporar credenciais em aplicações de IA ou armazená-las em arquivos de configuração acessíveis às equipes de desenvolvimento. Um sistema de IA de inteligência de sinais, por exemplo, pode conter credenciais para acessar fluxos de dados de satélite, interceptações de comunicação e bancos de dados analíticos — tudo armazenado como variáveis estáticas na arquitetura do sistema. Quando contratados, pesquisadores ou pessoal operacional interagem com esses sistemas, eles podem potencialmente extrair ou observar essas credenciais.
Essa abordagem confunde identidade com acesso. As organizações de defesa autenticam o sistema de IA uma única vez e, em seguida, permitem o uso irrestrito das credenciais. O sistema se torna um repositório de credenciais em vez de um ponto de acesso controlado.
A escala de exposição
Dados recentes de auditoria revelam a extensão da exposição de credenciais em implantações de IA para defesa. A avaliação de cibersegurança de 2023 do Escritório de Responsabilidade Governamental dos EUA (GAO) constatou que 73% dos sistemas de IA para defesa armazenam credenciais em texto simples ou em formatos fracamente criptografados. Entre os aliados da OTAN, padrões semelhantes emergem: o Centro Nacional de Segurança Cibernética do Reino Unido relatou que 68% dos aplicativos de IA governamentais mantêm credenciais de banco de dados persistentes acessíveis aos administradores de sistema.
O relatório de ameaças da Symantec de 2024 identificou o roubo de credenciais como o principal vetor de ataque em 84% das violações bem-sucedidas contra empresas contratadas pela área de defesa. De acordo com a divisão de pesquisa de segurança da IBM, um sistema de IA em aplicações de defesa armazena, em média, credenciais para 23 fontes de dados distintas. Cada credencial representa uma potencial via de violação, contudo, 67% das organizações não possuem visibilidade centralizada sobre o uso de credenciais de IA.
As implicações financeiras são substanciais. Uma análise de custos do Instituto Ponemon, realizada em 2024, constatou que as violações de credenciais em organizações de defesa custam, em média, US$ 8,7 milhões por incidente, em comparação com US$ 4,4 milhões em outros setores. O tempo médio de recuperação é de 287 dias, período durante o qual as operações de inteligência podem ficar comprometidas.
Por que as arquiteturas de segurança existentes falham
Os sistemas de gerenciamento de identidade e acesso (IAM), as soluções de gerenciamento de acesso privilegiado (PAM), os protocolos de autenticação única (SSO), a autenticação multifator (MFA) e as arquiteturas de Confiança Zero abordam padrões de acesso humano. Eles pressupõem usuários interativos que podem responder a desafios de autenticação e tomar decisões de acesso.
Os sistemas de IA quebram essas premissas. Eles não conseguem interagir com solicitações de MFA durante operações automatizadas. Os tokens de SSO exigem processos de renovação que podem interromper funções críticas. As soluções de PAM normalmente armazenam credenciais em cofre, mas ainda as fornecem aos sistemas solicitantes — as credenciais permanecem acessíveis a qualquer pessoa com acesso em nível de sistema.
As arquiteturas de Confiança Zero verificam cada solicitação de acesso, mas ainda dependem da apresentação de credenciais. Se um sistema de IA apresentar credenciais válidas, as estruturas de Confiança Zero normalmente concedem acesso. A credencial em si continua sendo o ponto fraco.
Essas soluções também enfrentam dificuldades com os requisitos operacionais dos sistemas de IA. Aplicações de análise de inteligência podem precisar de acesso a bancos de dados 24 horas por dia, 7 dias por semana, em múltiplos domínios de segurança. As ferramentas de segurança tradicionais introduzem latência e pontos de falha que as operações de inteligência não podem tolerar.
Solução Estrutural: Controle de Credenciais Organizacionais
A segurança eficaz da IA exige a separação do controle de identidade do controle de credenciais. Em vez de permitir que os sistemas de IA armazenem credenciais, as organizações devem gerar, distribuir e revogar todas as credenciais, garantindo que os próprios sistemas nunca acessem os dados brutos de autenticação.
Essa abordagem trata as credenciais como ativos organizacionais, e não como componentes do sistema. Funções centrais de segurança geram credenciais exclusivas e criptografadas para cada combinação de sistema de IA e fonte de dados. As credenciais são distribuídas por meio de canais seguros que impedem sua extração ou observação. O mais importante é que os sistemas de IA recebem permissões de acesso sem receber as credenciais subjacentes.
A implementação requer uma infraestrutura de gerenciamento de credenciais que opere independentemente dos sistemas que necessitam de acesso. As credenciais tornam-se dinâmicas, sendo rotacionadas automaticamente com base em avaliações de risco e requisitos operacionais. Administradores de sistemas, desenvolvedores e equipe de operações não podem extrair ou observar as credenciais, eliminando vetores de ameaças internas.
A arquitetura torna o roubo de credenciais significativamente mais difícil. Os invasores não podem simplesmente extrair credenciais armazenadas em sistemas comprometidos. Eles precisam comprometer simultaneamente o sistema de IA e a infraestrutura de gerenciamento de credenciais — uma barreira consideravelmente maior.
Implicações para os responsáveis pela tomada de decisões na área da defesa
Os diretores de informação e de segurança em organizações de defesa enfrentam decisões imediatas sobre a governança de credenciais de IA. As práticas de implantação atuais criam vulnerabilidades sistêmicas que adversários sofisticados explorarão. Atores de ameaças patrocinados por Estados visam especificamente empresas contratadas pela área de defesa e agências governamentais, buscando acesso persistente a sistemas classificados.
O ambiente regulatório está evoluindo rapidamente. Os padrões federais de segurança de IA propostos pela Agência de Segurança Cibernética e de Infraestrutura dos EUA, previstos para o final de 2024, provavelmente exigirão controle centralizado de credenciais para sistemas de IA governamentais. A Lei de IA da UE inclui disposições para aplicações de IA de alto risco, particularmente aquelas que lidam com dados governamentais sensíveis. Organizações de defesa devem antecipar requisitos semelhantes de agências de segurança nacional em todo o mundo.
As medidas práticas incluem auditar as implementações de IA existentes para identificar padrões de armazenamento de credenciais, estabelecer recursos centralizados de gerenciamento de credenciais e redesenhar a autenticação do sistema de IA para eliminar a exposição de credenciais. Essas mudanças exigem coordenação entre as equipes de segurança cibernética, desenvolvimento de IA e operações.
A janela para ações proativas está se fechando. À medida que os sistemas de IA se tornam mais sofisticados e lidam com dados cada vez mais sensíveis, o impacto potencial de violações baseadas em credenciais cresce exponencialmente. Organizações de defesa que implementarem agora um controle de credenciais adequado evitarão a interrupção operacional e as falhas de segurança que as respostas reativas normalmente acarretam.
A questão fundamental não é se os sistemas de IA exigem credenciais, mas quem as controla. A resposta determinará se a inteligência artificial aprimora a segurança ou cria vulnerabilidades sistêmicas em infraestruturas críticas de defesa.