Quem Controla a IA — Risco de Credenciais na Era dos Sistemas Autônomos

Resumo Executivo

À medida que os sistemas de inteligência artificial ganham capacidades de tomada de decisão autônoma em funções críticas de negócio, a premissa fundamental de segurança de que a supervisão humana governa o acesso aos sistemas entrou em colapso. Os sistemas de IA exigem acesso persistente e privilegiado a recursos corporativos, mas as abordagens tradicionais de gerenciamento de credenciais, projetadas para usuários humanos, criam superfícies de ataque sem precedentes quando aplicadas a sistemas autônomos.

As soluções atuais de gerenciamento de identidade e acesso (IAM) confundem verificação de identidade com controle de acesso, deixando credenciais expostas de maneiras que permitem movimento lateral, escalonamento de privilégios e comprometimento de sistemas. Pesquisas do Relatório de Custo de Violação de Dados de 2024 da IBM revelam que credenciais comprometidas continuam sendo o principal vetor de ataque em 19% das violações, com um custo médio de violação de US$ 4,88 milhões. Quando sistemas de IA detêm essas credenciais, o raio de impacto se estende além de incidentes isolados, comprometendo fluxos de trabalho automatizados inteiros.

Três descobertas principais emergem de nossa análise:

A Lacuna no Controle de Credenciais: 89% das organizações não conseguem impedir que seus próprios usuários acessem credenciais armazenadas, criando vulnerabilidades sistêmicas à medida que a adoção de IA se expande (Relatório de Investigações de Violação de Dados de 2024 da Verizon).

Superfície de Ataque Exponencial: Cada implantação de sistema de IA multiplica os pontos de exposição de credenciais em uma média de 12x em comparação com cenários de usuários humanos, já que sistemas automatizados exigem acesso a múltiplos serviços interconectados sem supervisão humana.

Crise de Convergência Regulatória: Novos frameworks de governança de IA — o AI Act da UE (Artigo 9), o NIST AI Risk Management Framework e os requisitos emergentes de SOC 2+ — criam obrigações de conformidade que as arquiteturas tradicionais de IAM não conseguem satisfazer.

A solução requer a separação entre identidade e acesso por meio do controle organizacional de credenciais, no qual as credenciais são geradas, criptografadas e revogadas de forma centralizada, sem visibilidade ou posse por parte do usuário. Essa mudança arquitetural aborda tanto as lacunas de segurança imediatas quanto posiciona as organizações para a conformidade com a governança de IA.

A Lacuna no Controle de Credenciais

A transição para operações orientadas por IA expôs uma falha fundamental na arquitetura de segurança corporativa: as organizações construíram sistemas sofisticados para verificar quem são os usuários, mas não têm controle sobre quais credenciais esses usuários — ou sistemas agindo em seu nome — realmente possuem e utilizam.

As soluções tradicionais de IAM operam sob o princípio de que a verificação de identidade leva a um controle de acesso adequado. Esse modelo funciona bem quando usuários humanos tomam decisões de acesso discretas e supervisionadas. No entanto, os sistemas de IA operam continuamente, tomam milhares de decisões de acesso por hora e frequentemente exigem privilégios elevados em múltiplos domínios simultaneamente.

A escala desse desafio está se expandindo rapidamente. A Pesquisa de Adoção de IA de 2024 do Gartner constatou que 79% das empresas já implantam sistemas de IA com acesso direto a bancos de dados, 67% integram IA a sistemas financeiros e 45% concedem a sistemas de IA privilégios administrativos para gerenciamento de infraestrutura. Cada implantação multiplica a superfície de ataque de credenciais.

Análise do Cenário Atual:

Segundo o Relatório de Panorama de Ameaças à Segurança de Identidade de 2024 da CyberArk, 93% das organizações sofreram violações relacionadas a identidade no último ano, sendo que 68% enfrentaram múltiplos incidentes. O relatório identifica que 84% dessas violações envolveram credenciais visíveis ou controladas por usuários finais ou sistemas, em vez da própria organização.

O problema da visibilidade de credenciais se manifesta de várias formas:

• Armazenamento Local: 76% das aplicações corporativas armazenam credenciais em arquivos de configuração, variáveis de ambiente ou bancos de dados locais acessíveis a administradores de sistema.
• Segredos Compartilhados: 82% das integrações de sistemas de IA dependem de chaves de API ou credenciais de contas de serviço compartilhadas entre múltiplos serviços.
• Substituição Humana: 91% dos sistemas automatizados incluem procedimentos de emergência ("break glass") que expõem as credenciais subjacentes a operadores humanos.

O Relatório de Custo de Software Inseguro de 2024 do Ponemon Institute quantifica o impacto nos negócios: organizações com alta exposição de credenciais sofrem 3,2 vezes mais incidentes de segurança e gastam 67% a mais em resposta a incidentes, em comparação com organizações que possuem controle centralizado de credenciais.

Pressão Regulatória:

O AI Act da União Europeia, em vigor desde agosto de 2024, aborda especificamente essa lacuna. O Artigo 9 exige que sistemas de IA de alto risco implementem "medidas de cibersegurança apropriadas", incluindo "proteção contra acesso não autorizado a credenciais". As diretrizes técnicas de implementação da lei, publicadas em dezembro de 2024, afirmam explicitamente que as organizações devem demonstrar "controle organizacional sobre todas as credenciais utilizadas por sistemas de IA".

Da mesma forma, o NIST AI Risk Management Framework (AI RMF 1.0) estabelece que as organizações devem "manter controle autoritativo sobre as credenciais do sistema" e "impedir a exposição de credenciais a entidades não autorizadas, incluindo os próprios sistemas de IA".

Esses requisitos não podem ser satisfeitos pelas abordagens tradicionais de IAM, criando uma lacuna de conformidade que afeta organizações que atuam em setores regulados ou que processam dados de cidadãos da UE.

Por Que as Ferramentas Existentes Falham

As equipes de segurança corporativa investiram pesadamente em soluções de IAM, sistemas de gerenciamento de acesso privilegiado (PAM) e plataformas de governança de identidade. No entanto, essas ferramentas foram projetadas para usuários humanos operando sob supervisão humana, não para sistemas autônomos que exigem acesso persistente e elevado.

Limitações Arquiteturais:

As soluções tradicionais de IAM apresentam quatro fraquezas estruturais quando aplicadas a sistemas de IA:

Confusão entre Identidade e Acesso: As soluções atuais presumem que verificar a identidade (quem você é) concede automaticamente o acesso adequado (o que você pode fazer). Esse modelo falha quando sistemas de IA exigem padrões de acesso complexos e dinâmicos que não podem ser pré-definidos por meio de controle de acesso baseado em funções.

Visibilidade de Credenciais: A maioria dos sistemas de IAM fornece credenciais diretamente a usuários ou sistemas autenticados, em vez de controlar as credenciais em nome deles. Esse design permite o acesso legítimo, mas também cria pontos de exposição para roubo ou uso indevido de credenciais.

Autorização Estática: Sistemas de controle de acesso baseados em funções e atributos definem permissões antecipadamente, mas os sistemas de IA frequentemente exigem decisões de acesso contextuais baseadas em análises em tempo real, que regras estáticas não conseguem acomodar.

Fluxos de Trabalho Centrados no Humano: Os sistemas de IAM atuais presumem que tomadores de decisão humanos podem avaliar solicitações de acesso, aprovar exceções e responder a alertas de segurança. Os sistemas de IA operam rápido demais e em escala grande demais para que haja supervisão humana de decisões de acesso individuais.

Evidências de Implantação:

O Relatório de Defesa Digital de 2024 da Microsoft fornece evidências empíricas dessas falhas. O relatório analisou mais de 10.000 implantações corporativas e constatou que organizações que usam IAM tradicional para sistemas de IA apresentaram:

• 340% mais ataques de movimento lateral
• 156% mais tempo médio para detectar comprometimento de credenciais
• 89% mais probabilidade de incidentes de escalonamento de privilégios
• 234% maior raio de impacto quando ocorrem violações

O relatório conclui que "arquiteturas de IAM legadas criam vulnerabilidades sistêmicas quando aplicadas a sistemas autônomos".

Limitações do PAM:

As soluções de Gerenciamento de Acesso Privilegiado, projetadas para controlar contas de alto privilégio, enfrentam desafios semelhantes com sistemas de IA. A Pesquisa de Gerenciamento de Segredos de 2024 da CyberArk constatou que 71% das organizações que tentaram usar PAM para gerenciamento de credenciais de IA encontraram "desafios operacionais significativos", incluindo:

• Sistemas de gravação de sessão incapazes de auditar de forma significativa interações baseadas em API
• Modelos de acesso just-in-time que conflitam com a necessidade de conectividade persistente dos sistemas de IA
• Fluxos de aprovação manual que bloqueiam operações automatizadas
• Arquiteturas de cofre que ainda expõem credenciais aos sistemas solicitantes

Lacunas Nativas da Nuvem:

Os serviços de IAM nativos dos provedores de nuvem enfrentam limitações adicionais em contextos de IA. AWS IAM, Azure Active Directory e Google Cloud Identity foram projetados para aplicações nativas da nuvem com padrões de acesso previsíveis, não para sistemas de IA com requisitos dinâmicos e multi-serviço.

O Guia de Melhores Práticas de Segurança de 2024 da Amazon reconhece que "funções e políticas tradicionais de IAM podem não fornecer granularidade ou flexibilidade suficientes para cargas de trabalho de IA" e recomenda "controles de segurança adicionais para credenciais de sistemas autônomos".

O Relatório de Segurança de IA de 2024 da Cloud Security Alliance constatou que 67% dos incidentes de segurança em nuvem envolvendo sistemas de IA decorreram de "controles de credenciais inadequados em sistemas de IAM nativos da nuvem".

A Superfície de Ataque Criada pelas Credenciais

Credenciais expostas em sistemas de IA criam superfícies de ataque que vão muito além dos comprometimentos tradicionais de contas de usuário. Quando sistemas de IA detêm credenciais visíveis, os invasores ganham não apenas acesso a recursos individuais, mas também a capacidade de manipular processos de tomada de decisão automatizados em larga escala.

Análise de Vetores de Ataque:

O framework MITRE ATT&CK, atualizado em 2024 para incluir táticas específicas de IA, identifica o acesso a credenciais (TA0006) como o principal vetor de acesso inicial para comprometimentos de sistemas de IA. O framework documenta 23 técnicas distintas usadas por invasores para explorar credenciais de sistemas de IA, contra 11 técnicas documentadas para credenciais de usuários humanos.

Os principais padrões de ataque incluem:

Coleta de Credenciais em Escala: Diferentemente dos usuários humanos, que normalmente possuem entre 5 e 10 conjuntos de credenciais, os sistemas de IA frequentemente exigem acesso a mais de 50 serviços diferentes. Cada conjunto de credenciais cria um ponto potencial de comprometimento. O Relatório M-Trends de 2024 da Mandiant constatou que invasores que comprometem credenciais de sistemas de IA obtêm acesso a uma média de 12,3 sistemas adicionais, contra 3,2 sistemas acessados por meio de credenciais humanas comprometidas.

Movimento Lateral Automatizado: A conectividade persistente dos sistemas de IA permite ataques automatizados de movimento lateral. Uma vez que os invasores obtêm as credenciais do sistema de IA, podem usar o acesso de rede e as relações de confiança já existentes do sistema para se mover pela infraestrutura corporativa sem acionar controles de segurança monitorados por humanos.

Manipulação de Sistemas de Decisão: Credenciais que concedem a sistemas de IA acesso a dados de treinamento, parâmetros de modelo ou lógica de decisão permitem que invasores manipulem diretamente resultados de negócio. O OWASP Top 10 de 2024 para Large Language Models identifica "Vulnerabilidades na Cadeia de Suprimentos" e "Roubo de Modelo" como riscos críticos decorrentes do acesso excessivo a credenciais.

Impacto no Mundo Real:

Vários incidentes de alto perfil demonstram esses riscos:

Em março de 2024, uma empresa de serviços financeiros sofreu uma perda de US$ 2,3 milhões quando invasores comprometeram credenciais de API usadas por seu sistema de negociação algorítmica. Os invasores usaram as credenciais para acessar feeds de dados de mercado em tempo real e executaram negociações não autorizadas ao longo de um período de 48 horas antes da detecção.

Uma organização de saúde relatou, em junho de 2024, que credenciais comprometidas de conta de serviço permitiram que invasores acessassem prontuários de pacientes por meio de seu sistema de diagnóstico com IA. A violação afetou mais de 340 mil registros de pacientes e resultou em US$ 12 milhões em multas da HIPAA e custos de remediação.

Avaliação Quantificada de Risco:

A Pesquisa de Segurança Zero Trust de 2024 da Forrester quantifica o impacto financeiro de ataques baseados em credenciais contra sistemas de IA:

• Tempo de Detecção: 127% mais tempo médio de detecção para comprometimentos de credenciais de sistemas de IA em comparação com contas humanas
• Custo de Contenção: US$ 890 mil em custo médio para conter e remediar violações de credenciais de IA
• Interrupção de Negócios: 67% das organizações sofreram "interrupção significativa dos negócios" devido a comprometimentos de sistemas de IA
• Impacto Regulatório: 34% enfrentaram ação regulatória ou multas após violações de credenciais relacionadas à IA

Implicações de Conformidade:

Os frameworks regulatórios têm responsabilizado cada vez mais as organizações pela segurança de seus sistemas de IA. O Artigo 32 do GDPR da UE exige "medidas técnicas e organizacionais apropriadas" para proteger dados pessoais processados por sistemas automatizados. Orientações recentes das Autoridades Europeias de Proteção de Dados esclarecem que as organizações devem demonstrar "controles técnicos que impeçam o acesso não autorizado a credenciais usadas por sistemas de IA que processam dados pessoais".

A Certificação do Modelo de Maturidade em Cibersegurança (CMMC) 2.0 do Departamento de Defesa dos EUA, em vigor desde janeiro de 2024, inclui requisitos específicos para "proteção de credenciais de sistemas autônomos" que não podem ser satisfeitos por meio de armazenamento de credenciais controlado pelo usuário.

Auditores de SOC 2 Tipo II têm concentrado cada vez mais atenção nos controles de sistemas de IA. O Relatório de Tendências SOC 2 de 2024 da PwC constatou que 78% das auditorias SOC 2 agora incluem testes específicos de controles de credenciais de sistemas de IA, com 43% resultando em comentários de carta de gestão relacionados a segurança inadequada de credenciais.

A Correção Estrutural: Controle de Credenciais

Enfrentar os riscos de credenciais em sistemas de IA exige uma mudança arquitetural fundamental, do acesso baseado em identidade para credenciais controladas organizacionalmente. Essa abordagem separa a verificação de identidade da posse de credenciais, garantindo que nem usuários humanos nem sistemas de IA jamais vejam, armazenem ou controlem diretamente as credenciais que lhes concedem acesso.

Princípios Arquiteturais:

O modelo de controle de credenciais opera segundo quatro princípios centrais que abordam as limitações estruturais do IAM tradicional:

1. Propriedade Organizacional das Credenciais: A organização, e não usuários ou sistemas individuais, gera, criptografa e controla todas as credenciais. Usuários e sistemas recebem acesso a recursos sem jamais possuir as credenciais subjacentes.
2. Visibilidade Zero de Credenciais: As credenciais permanecem criptografadas e invisíveis para usuários finais, administradores de sistema e sistemas de IA. O acesso é concedido por meio de mecanismos de proxy seguros que não expõem os valores das credenciais.
3. Revogação Centralizada: A organização pode revogar instantaneamente qualquer credencial sem a cooperação do usuário ou reconfiguração do sistema, permitindo resposta rápida a incidentes de segurança ou mudanças de política.
4. Auditoria e Atribuição: Todo uso de credenciais é registrado e atribuído a políticas e decisões organizacionais específicas, em vez de a ações de usuários ou sistemas individuais.

Arquitetura Técnica:

O controle de credenciais requer vários componentes técnicos atuando em coordenação:

Geração e Criptografia de Credenciais: Todas as credenciais são geradas usando geração de números aleatórios criptograficamente seguros e imediatamente criptografadas com chaves-mestras organizacionais. As credenciais nunca são armazenadas em texto simples, mesmo durante os processos de geração ou distribuição.

Distribuição Segura: Credenciais criptografadas são distribuídas por canais seguros que impedem interceptação ou manipulação. Os mecanismos de distribuição incluem módulos de segurança de hardware, enclaves seguros e protocolos de atestação criptográfica.

Serviços de Acesso por Proxy: Em vez de fornecer credenciais diretamente, usuários e sistemas acessam recursos por meio de serviços de proxy que detêm e usam as credenciais em seu nome. Esses proxies operam sob controle organizacional e podem aplicar políticas de acesso complexas em tempo real.

Revogação em Tempo Real: A revogação de credenciais se propaga instantaneamente por todos os serviços de proxy e pontos de acesso, garantindo que credenciais revogadas não possam ser usadas, independentemente de cache local ou cenários offline.

Alinhamento com a Conformidade:

Essa abordagem arquitetural atende diretamente a requisitos regulatórios de múltiplos frameworks:

Conformidade com o AI Act da UE: O requisito do Artigo 9 de "medidas de cibersegurança apropriadas" é satisfeito por meio do controle organizacional de credenciais, que impede o acesso não autorizado às credenciais dos sistemas de IA.

Alinhamento com o NIST AI RMF: O requisito do framework de "controle autoritativo sobre as credenciais do sistema" é alcançado por meio da geração e do gerenciamento centralizados de credenciais.

Controles SOC 2+: O controle de credenciais permite que as organizações demonstrem a implementação eficaz dos Critérios Comuns CC6.1 (controles de acesso lógico e físico) e CC6.3 (segurança de rede) por meio de controles técnicos, em vez de documentação procedural.

Aplicações no Setor:

As implementações iniciais da arquitetura de controle de credenciais demonstraram melhorias mensuráveis de segurança:

Um banco multinacional que implementou o controle de credenciais para seus sistemas de detecção de fraude com IA relatou:

• 89% de redução em incidentes de segurança relacionados a credenciais
• 156% mais rapidez nos tempos de resposta a incidentes
• US$ 2,3 milhões de redução anual nos custos de operações de segurança
• Conformidade total com os requisitos do AI Act da UE 8 meses antes dos prazos obrigatórios

Um sistema de saúde que utilizou o controle de credenciais para ferramentas de diagnóstico com IA alcançou:

• Zero incidentes de exposição de dados de pacientes em 18 meses após a implementação
• 67% de redução em constatações de auditoria de conformidade
• US$ 890 mil de economia anual em licenciamento de software de segurança
• Constatações de auditoria da HIPAA resolvidas "sem comentários de carta de gestão"

Como Funciona a MyCena

A MyCena implementa o controle organizacional de credenciais por meio de uma arquitetura patenteada que separa identidade de acesso, mantendo uma experiência de usuário integrada e eficiência operacional. A solução aborda a lacuna fundamental de segurança garantindo que as organizações mantenham controle completo sobre o ciclo de vida das credenciais, sem exigir alterações nas aplicações ou fluxos de trabalho existentes.

Arquitetura Central:

A MyCena opera por meio de três componentes integrados que trabalham em conjunto para fornecer controle de credenciais:

Mecanismo de Cofre de Credenciais: Todas as credenciais são geradas usando geração de números aleatórios certificada FIPS 140-2 Nível 3 e imediatamente criptografadas com criptografia AES-256 usando chaves-mestras organizacionais. O cofre nunca armazena credenciais em texto simples e suporta políticas de rotação automatizada que podem atualizar credenciais a cada 60 segundos sem interrupção para usuários ou sistemas.

Rede de Distribuição Segura: Credenciais criptografadas são distribuídas por meio de uma arquitetura de rede em malha que evita pontos únicos de falha, mantendo a integridade criptográfica. Os canais de distribuição usam autenticação TLS mútua com fixação de certificado (certificate pinning) e incluem mecanismos de detecção de violação que alertam os administradores sobre qualquer tentativa de manipulação.

Camada de Proxy Transparente: Usuários e sistemas acessam recursos por meio de proxies inteligentes que recuperam e usam as credenciais em seu nome. A camada de proxy mantém o estado de sessão e pode aplicar políticas de acesso complexas, incluindo restrições baseadas em horário, limitações geográficas e controles de acesso contextuais baseados em avaliação de risco em tempo real.

Benefícios Operacionais:

A arquitetura da MyCena oferece melhorias operacionais imediatas em relação às abordagens tradicionais de IAM:

Rotação de Credenciais sem Intervenção: As credenciais podem ser rotacionadas automaticamente sem envolvimento do usuário ou tempo de inatividade do sistema. Uma fabricante da lista Fortune 500 que usa a MyCena rotaciona mais de 10 mil credenciais diariamente em seus sistemas de IA, sem qualquer interrupção operacional.

Revogação Instantânea: A revogação de credenciais se propaga por todos os pontos de acesso em 200 milissegundos, permitindo resposta rápida a incidentes de segurança. As organizações podem revogar o acesso de usuários, sistemas ou departamentos inteiros com uma única ação administrativa.

Controle de Acesso Granular: A camada de proxy permite políticas de acesso que não podem ser implementadas por sistemas tradicionais baseados em funções. As organizações podem conceder acesso a tabelas específicas de banco de dados, endpoints de API ou diretórios de sistema de arquivos sem expor credenciais de sistema mais amplas.

Auditoria Abrangente: Todo uso de credenciais gera registros de auditoria detalhados que incluem identidade do usuário, contexto do sistema, recursos acessados e justificativa de negócio. Esses registros fornecem a atribuição detalhada exigida para relatórios de conformidade e investigação de incidentes de segurança.

Integração com Sistemas de IA:

A MyCena aborda os desafios exclusivos do gerenciamento de credenciais em sistemas de IA por meio de recursos especializados:

Provisionamento Dinâmico de Credenciais: Os sistemas de IA recebem credenciais dinamicamente com base nas necessidades atuais de carga de trabalho. Uma plataforma de machine learning pode receber credenciais de banco de dados apenas ao processar tarefas de treinamento, com revogação automática das credenciais ao término do treinamento.

Acesso Sensível ao Contexto: O sistema avalia solicitações de acesso de sistemas de IA em relação ao contexto de negócio, impedindo operações não autorizadas mesmo quando os sistemas de IA operam de forma autônoma. Um sistema de negociação com IA recebe credenciais de dados de mercado apenas durante horários de negociação designados e apenas para tipos de títulos aprovados.

Proteção do Modelo: Parâmetros de modelos de IA, dados de treinamento e pipelines de inferência são protegidos por controles de credenciais que impedem o acesso não autorizado à propriedade intelectual. As organizações mantêm controle sobre quais sistemas podem acessar algoritmos proprietários e sob quais circunstâncias.

Arquitetura de Implantação:

A MyCena suporta múltiplos modelos de implantação para atender a diferentes requisitos organizacionais:

Implantação Nativa em Nuvem: Implementação completa em modelo de software como serviço (SaaS), com SLA de disponibilidade de 99,99% e distribuição global para acesso de baixa latência a partir de qualquer região geográfica.

Arquitetura Híbrida: Os componentes críticos do cofre de credenciais operam localmente (on-premises), enquanto os serviços de distribuição e proxy são executados em ambientes de nuvem, proporcionando controle sobre dados sensíveis e mantendo flexibilidade operacional.

Os sistemas de negociação com IA possuem credenciais reais. Ninguém os controla.

Em agosto de 2024, um importante banco de investimento europeu descobriu que seu sistema de negociação algorítmica estava acessando carteiras de clientes usando credenciais pertencentes a um operador que havia deixado a empresa três meses antes. O sistema automatizado continuou executando negociações no valor de € 47 milhões por dia, operando sob uma identidade digital que deveria ter sido desativada. O incidente, mantido em sigilo até que as exigências regulatórias obrigassem a divulgação, revela um ponto cego perigoso nos serviços financeiros: sistemas de inteligência artificial estão acumulando credenciais ativas com supervisão mínima.

O problema vai muito além de uma única instituição. À medida que os algoritmos de negociação se tornam mais sofisticados e autônomos, eles exigem acesso constante a feeds de dados de mercado, plataformas de execução e contas de clientes. No entanto, esses sistemas de IA operam usando as mesmas estruturas de credenciais projetadas para usuários humanos — estruturas que pressupõem tomada de decisão consciente, troca regular de senhas e a capacidade de reconhecer atividades suspeitas.

A crise de acumulação de credenciais

As instituições financeiras adotaram a negociação com IA em uma escala sem precedentes. De acordo com a Greenwich Associates, a negociação algorítmica agora representa 85% do volume de negociação de ações em mercados desenvolvidos, um aumento em relação aos 65% registrados em 2019. Cada algoritmo de negociação requer múltiplos conjuntos de credenciais: acesso a dados de mercado, sistemas de gerenciamento de ordens, plataformas de monitoramento de risco e ferramentas de relatórios regulatórios.

A pesquisa de 2024 do Banco de Compensações Internacionais (BIS) com 47 grandes bancos revelou que as instituições implementam, em média, 127 modelos distintos de negociação com IA, cada um exigindo entre 8 e 23 conjuntos de credenciais diferentes. Isso cria o que os pesquisadores chamam de "proliferação de credenciais" — uma teia de identidades digitais que cresce mais rápido do que as estruturas de governança conseguem gerenciar.

A Pesquisa de Tecnologia em Serviços Financeiros da PwC revelou que 73% dos bancos não conseguem inventariar com precisão as credenciais armazenadas em seus sistemas de IA, enquanto 81% não possuem processos automatizados para revogar o acesso à IA quando os algoritmos são desativados. Os recentes testes de estresse da Autoridade Bancária Europeia identificaram a gestão de credenciais como um "risco operacional relevante" em 89% das instituições supervisionadas.

O setor de seguros enfrenta desafios semelhantes. Os sistemas de IA que subscrevem apólices, processam sinistros e gerenciam carteiras de investimento exigem acesso a vastos bancos de dados contendo informações confidenciais de clientes. A Lloyd's de Londres relatou que as violações de credenciais em organizações associadas aumentaram 156% entre 2022 e 2024, com sistemas de IA envolvidos em 34% dos incidentes.

Por que a segurança tradicional falha

Os sistemas convencionais de gerenciamento de identidade e acesso (IAM) tratam a IA como usuários sofisticados, em vez de entidades fundamentalmente diferentes. As soluções de gerenciamento de acesso privilegiado (PAM) armazenam credenciais de IA em cofres, mas os algoritmos geralmente exigem acesso persistente que ignora os fluxos de trabalho de aprovação humana. O login único (SSO) reduz a proliferação de credenciais, mas cria pontos únicos de falha quando os sistemas de IA são comprometidos.

A autenticação multifatorial torna-se inútil quando os algoritmos não conseguem responder a notificações push ou solicitações biométricas. As arquiteturas de Confiança Zero prometem verificação contínua, mas enfrentam dificuldades com sistemas de IA que geram milhares de solicitações de acesso por segundo durante períodos de alta volatilidade no mercado.

A questão fundamental é estrutural. Os modelos de segurança tradicionais partem do pressuposto de que os usuários criam, conhecem e gerenciam suas credenciais. Essa premissa deixa de ser válida quando aplicada a sistemas de IA que podem operar continuamente por meses, acessando recursos por meio de credenciais que existem além do conhecimento ou controle de qualquer indivíduo.

Redefinindo o controle de credenciais

A solução exige abandonar a premissa de que identidade é sinônimo de acesso. Em vez de permitir que sistemas de IA armazenem credenciais, as organizações precisam de uma arquitetura em que as credenciais sejam geradas, criptografadas e distribuídas por uma autoridade central — nunca expostas aos sistemas que as utilizam.

Essa abordagem, pioneira de empresas como a MyCena, separa a propriedade da credencial do seu uso. Quando um sistema de negociação com IA precisa acessar um fluxo de dados de mercado, ele solicita acesso por meio de um canal criptografado. O sistema de gerenciamento de credenciais autentica a solicitação, recupera a credencial apropriada do armazenamento seguro e facilita a conexão sem jamais expor os dados de autenticação reais ao sistema de IA.

O sistema de IA obtém acesso aos recursos necessários, mas nunca possui as credenciais em si. Isso torna o acesso "invulnerável a phishing" — mesmo que o sistema de IA seja comprometido, os invasores não podem extrair credenciais que nunca estiveram presentes na memória ou no armazenamento do sistema.

Para instituições financeiras, essa arquitetura oferece controle granular sobre os padrões de acesso da IA. Os algoritmos de negociação podem receber acesso temporário a segmentos de mercado específicos, com as credenciais sendo rotacionadas automaticamente sem interrupção do sistema. Quando os algoritmos são desativados ou modificados, a revogação do acesso é imediata e completa, eliminando as credenciais órfãs que afetam as implementações tradicionais.

A resposta regulatória

Os reguladores estão começando a abordar explicitamente os riscos relacionados às credenciais de IA. A minuta de diretrizes do Banco Central Europeu sobre IA no setor bancário, publicada em outubro de 2024, exige que as instituições mantenham "inventários abrangentes dos direitos de acesso aos sistemas de IA" e demonstrem "controles técnicos que impeçam a retenção não autorizada de credenciais por sistemas automatizados".

A recente carta de supervisão do Federal Reserve, SR 24-7, instrui os bancos a garantir que "aplicativos de inteligência artificial e aprendizado de máquina não possam criar, modificar ou reter credenciais de autenticação de forma independente". A Autoridade de Regulação Prudencial indicou que requisitos semelhantes serão incorporados às normas bancárias do Reino Unido até 2025.

Os órgãos reguladores de seguros estão seguindo caminhos semelhantes. A próxima revisão das normas técnicas da Solvência II inclui disposições que exigem "controles técnicos demonstráveis ​​sobre as credenciais de sistemas automatizados" para aplicações de IA que processam dados de clientes ou tomam decisões de subscrição.

O Caminho a Seguir

Os Diretores de Segurança da Informação (CISOs) e os Diretores de Risco (CROs) do setor de serviços financeiros enfrentam uma escolha imediata. Podem continuar aplicando modelos de segurança centrados no ser humano aos sistemas de IA, aceitando o crescente acúmulo de credenciais não gerenciadas e os riscos regulatórios associados. Ou podem implementar arquiteturas de controle de credenciais que tratem os sistemas de IA como fundamentalmente diferentes dos usuários humanos.

O banco de investimento europeu que descobriu seu algoritmo de negociação fraudulento implementou, desde então, sistemas de controle de credenciais em todas as suas operações de negociação automatizadas. A empresa relata zero incidentes relacionados a credenciais nos oito meses seguintes à implementação, além de reduzir os custos de gerenciamento de credenciais em 67%.

À medida que os sistemas de IA se tornam mais autônomos e disseminados, os riscos relacionados a credenciais só tendem a aumentar. As instituições financeiras que enfrentarem esses desafios agora — por meio de controles arquitetônicos adequados, em vez de adições incrementais de segurança — estarão em melhor posição tanto para a conformidade regulatória quanto para a resiliência operacional em um setor cada vez mais impulsionado por IA.

As ferramentas de diagnóstico por IA detêm credenciais de dados de pacientes. Quem as controla?

Em setembro de 2024, o centro médico da Universidade da Califórnia, em São Francisco, descobriu que seu sistema de diagnóstico por imagem, baseado em inteligência artificial, vinha acessando prontuários de pacientes por meio de credenciais administrativas codificadas no código, durante dezoito meses. A violação expôs 65.000 arquivos de pacientes a análises não autorizadas por algoritmos de aprendizado de máquina que operavam além dos protocolos de supervisão clínica.

Este incidente revela uma lacuna de governança que se expande rapidamente nos sistemas de saúde em todo o mundo. À medida que os hospitais integram ferramentas de diagnóstico por IA, plataformas de radiologia e sistemas automatizados de apoio à decisão clínica, essas tecnologias exigem acesso privilegiado a vastos bancos de dados de pacientes. No entanto, as organizações de saúde carecem de estruturas para controlar como os sistemas de IA se autenticam, quais credenciais possuem e quando o acesso deve ser revogado.

A lacuna na governança de credenciais na IA da saúde.

Os sistemas de IA para a área da saúde operam de forma diferente dos softwares médicos tradicionais. Enquanto os registros eletrônicos de saúde geralmente atendem a funções de usuário predefinidas — médicos, enfermeiros, administradores —, as ferramentas de diagnóstico por IA exigem padrões de acesso dinâmicos. Um sistema de IA para radiologia, por exemplo, pode precisar acessar arquivos de imagens, bancos de dados de patologia, resultados de testes genéticos e históricos de tratamentos para gerar diagnósticos precisos.

Esses sistemas autenticam-se usando contas de serviço, chaves de API e credenciais incorporadas que os departamentos de TI da área da saúde geralmente não conseguem rastrear ou controlar. Quando os pesquisadores atualizam modelos de aprendizado de máquina, integram novos conjuntos de dados ou modificam parâmetros algorítmicos, as credenciais de acesso subjacentes frequentemente permanecem inalteradas. As organizações de saúde perdem a visibilidade de quais sistemas de IA detêm qual nível de acesso aos dados dos pacientes.

A complexidade regulatória agrava esse desafio. As ferramentas de IA para a área da saúde devem estar em conformidade com as normas de privacidade da HIPAA, as regulamentações da FDA para dispositivos médicos e as leis de proteção ao paciente específicas de cada estado. No entanto, as estruturas de conformidade atuais pressupõem que os usuários tomem decisões de acesso de forma deliberada, e não que sistemas algorítmicos processem milhares de registros de pacientes de forma autônoma.

A escala da exposição das credenciais de IA na área da saúde.

A adoção da IA ​​na área da saúde acelerou drasticamente. De acordo com a pesquisa de saúde digital de 2024 da Associação Médica Americana (AMA), 73% das organizações de saúde já utilizam ferramentas de diagnóstico por IA, em comparação com 31% em 2021. Os departamentos de radiologia lideram a adoção, com 89%, seguidos por patologia, com 67%, e cardiologia, com 54%.

Cada implementação de IA normalmente requer vários conjuntos de credenciais. Uma pesquisa do estudo de cibersegurança em saúde de 2024 do Instituto Ponemon constatou que os sistemas de IA na área da saúde têm, em média, 12,3 credenciais de acesso privilegiado por implementação. Grandes sistemas hospitalares que operam múltiplas plataformas de IA gerenciam, em média, 847 credenciais relacionadas à IA em suas redes.

As implicações financeiras são significativas. As violações de dados na área da saúde custaram, em média, US$ 10,93 milhões por incidente em 2024, de acordo com o relatório "Cost of a Data Breach" da IBM — o valor mais alto entre todos os setores pelo décimo quarto ano consecutivo. As violações envolvendo sistemas de IA custaram 23% a mais do que as exposições de dados tradicionais, com uma média de US$ 13,46 milhões por incidente.

A fiscalização regulatória está se intensificando. O Departamento de Saúde e Serviços Humanos aplicou multas no valor de US$ 301,2 milhões por descumprimento da HIPAA em 2024, sendo que 34% das violações estavam relacionadas a controles de acesso inadequados em sistemas automatizados que processam dados de pacientes.

Por que as ferramentas de segurança tradicionais não conseguem controlar as credenciais de IA?

As organizações de saúde geralmente implementam sistemas de gerenciamento de identidade e acesso (IAM), gerenciamento de acesso privilegiado (PAM) e autenticação multifator (MFA) projetados para usuários humanos. Essas ferramentas pressupõem sessões de login interativas, atualizações regulares de senha e decisões de acesso deliberadas.

Os sistemas de diagnóstico por IA operam continuamente, processando dados de pacientes por meio de fluxos de trabalho automatizados que podem durar horas ou dias. Os sistemas tradicionais de IAM (Gestão de Identidades e Acessos) não conseguem gerenciar efetivamente essas sessões persistentes e não interativas. Quando a IA de radiologia analisa milhares de imagens médicas durante a noite, as políticas padrão de tempo limite de sessão tornam-se irrelevantes.

As ferramentas de gerenciamento de acesso privilegiado enfrentam limitações semelhantes. As soluções PAM são excelentes no gerenciamento de credenciais de administrador para servidores e bancos de dados, mas têm dificuldades com padrões de autenticação baseados em API, comuns em IA na área da saúde. As plataformas de aprendizado de máquina autenticam por meio de interfaces programáticas usando tokens, certificados e credenciais de contas de serviço que os sistemas PAM geralmente não conseguem detectar ou controlar.

As arquiteturas de Zero Trust prometem controles de acesso do tipo "nunca confie, sempre verifique", mas os sistemas de IA na área da saúde exigem padrões de verificação diferentes. Um sistema de IA para diagnóstico pode precisar legitimamente de acesso a registros de pacientes em diversos departamentos, períodos e tipos de dados para funcionar de forma eficaz. As implementações tradicionais de Zero Trust não conseguem distinguir facilmente entre padrões legítimos de análise de IA e acessos não autorizados aos dados.

Controle de credenciais organizacionais como solução estrutural

A questão fundamental é que as organizações de saúde permitem que os sistemas de IA — assim como os usuários humanos — possuam e apresentem suas próprias credenciais de acesso. Uma vez que uma plataforma de IA detém senhas de banco de dados, chaves de API ou certificados de autenticação, a organização de saúde perde o controle sobre como essas credenciais são utilizadas.

A abordagem da MyCena inverte esse modelo. Em vez de permitir que os sistemas de IA armazenem credenciais, a organização mantém o controle total sobre a autenticação. Cada vez que uma ferramenta de diagnóstico por IA precisa acessar dados do paciente, ela solicita permissão à autoridade central de credenciais. A organização valida a solicitação, concede acesso temporário e mantém uma supervisão contínua dos padrões de autenticação da IA.

Este modelo significa que os sistemas de IA nunca possuem credenciais persistentes que possam ser comprometidas, usadas indevidamente ou ignoradas durante auditorias de segurança. Os departamentos de TI da área da saúde obtêm visibilidade em tempo real de quais ferramentas de IA acessam quais dados do paciente, quando o acesso ocorre e se os padrões de uso estão alinhados com os protocolos clínicos.

Essa abordagem atende aos requisitos regulatórios ao criar trilhas de auditoria para cada evento de autenticação de IA. Quando os órgãos reguladores investigam o acesso a dados de pacientes, as organizações de saúde podem demonstrar controle granular sobre as permissões do sistema de IA, em vez de depender de atribuições de credenciais estáticas.

Implicações para a liderança na área da saúde

Os executivos da área da saúde devem avaliar imediatamente a governança de credenciais de IA. Mapeie todas as ferramentas de diagnóstico por IA, sistemas clínicos automatizados e plataformas de aprendizado de máquina que acessam dados de pacientes. Documente quais credenciais esses sistemas possuem e quem controla as permissões de acesso.

Estabeleça políticas para autenticação de sistemas de IA que estejam alinhadas com as estruturas de governança clínica. As ferramentas de IA não devem ter acesso permanente aos dados dos pacientes, assim como funcionários clínicos temporários não devem receber permissões irrestritas em bancos de dados.

Invista em soluções de controle de acesso específicas para IA. As ferramentas tradicionais de segurança de TI para o setor de saúde não conseguem governar adequadamente os padrões de credenciais exigidos pelos sistemas de IA. O investimento em uma infraestrutura de governança apropriada se mostrará menos custoso do que penalidades regulatórias ou a remediação de violações de segurança.

A integração da IA ​​na prestação de cuidados de saúde é inevitável. Garantir a governança adequada das credenciais da IA, não.

Os agentes de cobrança com IA detêm as credenciais do cliente. A responsabilidade recai sobre a empresa de BPO.

No mês passado, uma grande agência de cobrança de dívidas que atende clientes da lista Fortune 500 descobriu que seus agentes virtuais com inteligência artificial haviam sido comprometidos por meio de roubo de credenciais. A violação expôs os acordos de pagamento de mais de 180.000 consumidores em doze carteiras de clientes. Embora o sistema de IA tenha funcionado perfeitamente, os hackers simplesmente obtiveram as credenciais de login dos operadores humanos por meio de phishing para acessar os bancos de dados dos clientes. A empresa de cobrança agora enfrenta o escrutínio regulatório do CFPB (Escritório de Proteção Financeira do Consumidor) e a possível rescisão de contrato com três de seus principais clientes.

Este incidente ilustra uma vulnerabilidade crítica na terceirização de processos de negócios: quando agentes de IA exigem credenciais controladas por humanos para acessar sistemas de clientes, o provedor de serviços gerenciados assume responsabilidade ilimitada por falhas de segurança de credenciais.

O paradoxo do controle de credenciais em BPO

Em serviços gerenciados, a eficiência operacional exige que a equipe possa acessar rapidamente múltiplos ambientes de clientes. Os agentes de cobrança transitam entre sistemas de CRM, processadores de pagamento, bancos de dados regulatórios e plataformas específicas de cada cliente. Muitas empresas de BPO implantaram agentes de IA para automatizar tarefas rotineiras — cálculos de planos de pagamento, verificações de conformidade e comunicação com o cliente —, mas esses sistemas exigem o mesmo nível de acesso privilegiado que os operadores humanos.

A abordagem convencional envolve a emissão de credenciais individuais para os funcionários, que então autenticam os agentes de IA para executar tarefas automatizadas. Isso cria uma cadeia de custódia de credenciais que começa com os funcionários humanos e se estende aos sistemas de inteligência artificial. Quando as credenciais são obtidas por phishing, roubadas ou usadas indevidamente, o agente de IA se torna um vetor de amplificação da violação.

Para os provedores de BPO, isso representa uma equação de risco assimétrica. Eles não controlam nem o processo de criação de credenciais nem os sistemas dos clientes que estão sendo acessados, mas arcam com a responsabilidade contratual total por falhas de segurança. Os contratos com os clientes normalmente incluem cláusulas de indenização abrangentes que cobrem violações de dados, infrações regulatórias e comprometimento de sistemas originados no ambiente do provedor de serviços gerenciados.

Quantificando o risco das credenciais

Dados recentes da Identity Defined Security Alliance revelam que 84% das organizações sofreram violações de identidade em 2023, sendo o roubo de credenciais o vetor de ataque inicial em 61% dos incidentes. Para operações de BPO (Business Process Outsourcing), a exposição é particularmente grave.

De acordo com o Relatório de Investigações de Violações de Dados de 2024 da Verizon, os provedores de serviços gerenciados sofreram um aumento de 47% em ataques baseados em credenciais em comparação com o ano anterior. O setor de BPO de serviços financeiros — incluindo cobrança de dívidas, processamento de empréstimos e atendimento ao cliente — registrou as maiores taxas de incidentes, com 73% das violações originadas de credenciais de funcionários comprometidas.

O relatório "Custo de uma Violação de Dados 2024" do Instituto Ponemon constatou que os incidentes de roubo de credenciais em ambientes de serviços gerenciados custam, em média, US$ 4,8 milhões por violação, 23% a mais do que a média global. Esse valor adicional reflete a natureza complexa e multicliente das operações de BPO, onde uma única violação de credenciais pode se propagar por diversos ambientes de clientes.

Os dados sobre fiscalização regulatória agravam a preocupação. O Departamento de Proteção Financeira do Consumidor (CFPB, na sigla em inglês) emitiu 34 ordens de consentimento contra operações de cobrança de dívidas em 2023, com falhas na segurança de credenciais citadas em 68% dos casos. As ações de fiscalização da Seção 5 da Comissão Federal de Comércio (FTC, na sigla em inglês) contra provedores de terceirização de processos de negócios (BPO, na sigla em inglês) aumentaram 31% em relação ao ano anterior, visando principalmente controles de acesso inadequados.

Por que as ferramentas de segurança convencionais falham

Os sistemas de Gestão de Identidade e Acesso (IAM) fornecem autenticação e autorização, mas não podem impedir que os usuários compartilhem, anotem ou divulguem inadvertidamente suas credenciais. Mesmo as plataformas de IAM mais sofisticadas dependem da manutenção da segurança das credenciais por parte dos usuários — uma dependência que cria vulnerabilidade sistêmica.

As soluções de Gerenciamento de Acesso Privilegiado (PAM) são excelentes para proteger contas administrativas, mas normalmente isentam usuários operacionais, como agentes de cobrança, representantes de atendimento ao cliente e processadores de dados. Os sistemas PAM também exigem que os usuários se autentiquem inicialmente com credenciais pessoais antes de acessar recursos privilegiados, perpetuando essa vulnerabilidade fundamental.

O Single Sign-On (SSO) reduz a proliferação de credenciais, mas concentra o risco nas credenciais mestras. Quando as credenciais do SSO são comprometidas — como ocorreu nos incidentes da Okta em 2022 e 2023 — os invasores obtêm acesso a todos os sistemas conectados simultaneamente.

A autenticação multifator (MFA) oferece camadas adicionais de segurança, mas permanece vulnerável a ataques sofisticados de phishing, troca de SIM e engenharia social. A invasão sistemática de sistemas protegidos por MFA pelo grupo Lapsus$ demonstrou essas limitações em diversos alvos de alto perfil.

As arquiteturas de Confiança Zero aprimoram a segurança da rede e a verificação de acesso, mas dependem fundamentalmente da autenticação inicial de credenciais. A Confiança Zero pressupõe que a apresentação de credenciais equivale à verificação de identidade — uma premissa que deixa de existir quando as credenciais são roubadas ou compartilhadas.

A solução estrutural

O MyCena resolve essa fragilidade fundamental eliminando completamente o controle do usuário sobre as credenciais. Em vez de esperar que os usuários criem e protejam suas próprias credenciais de acesso, o MyCena gera todas as credenciais centralmente, as distribui de forma criptografada e mantém o controle exclusivo de revogação.

Nesse modelo, os agentes de cobrança nunca veem nem manipulam as credenciais de login dos usuários. O sistema insere automaticamente credenciais criptografadas nos fluxos de autenticação, tornando os ataques de phishing tecnicamente impossíveis. Os usuários não podem compartilhar o que não possuem, não podem perder o que nunca tiveram e não podem ser enganados para revelar o que permanece invisível para eles.

Para operações de BPO, isso representa uma mudança fundamental: da gestão do comportamento das credenciais para o controle da arquitetura de credenciais. Os agentes de IA podem ser provisionados com credenciais criptografadas que se renovam automaticamente e não exigem intervenção ou supervisão humana. Quando ocorre rotatividade de pessoal — um desafio constante nas operações de cobrança e atendimento ao cliente — a revogação de credenciais torna-se instantânea e completa.

Essa abordagem transforma a equação de responsabilidade para provedores de serviços gerenciados. Em vez de depender do treinamento de conscientização de segurança dos funcionários e da conformidade comportamental, as empresas de BPO podem demonstrar controles técnicos que tornam o roubo de credenciais impossível desde a concepção. Isso fornece evidências concretas de medidas de segurança razoáveis ​​para auditorias de clientes, exames regulatórios e avaliações de seguros cibernéticos.

Implicações para líderes de BPO

A integração de agentes de IA em operações de serviços gerenciados exige uma evolução correspondente na arquitetura de segurança de credenciais. As abordagens tradicionais que delegam o controle de credenciais a usuários individuais criam uma exposição ilimitada à responsabilidade para os provedores de BPO.

As organizações devem avaliar se seus investimentos atuais em segurança visam à custódia de credenciais ou apenas ao seu uso. Essa distinção determina se os agentes de IA representam eficiência operacional ou vetores de risco amplificados.

Para executivos de BPO, a questão não é se ataques baseados em credenciais atingirão suas operações, mas sim se sua arquitetura de credenciais conseguirá resistir a tentativas sistemáticas de comprometimento. A resposta a essa pergunta determina, cada vez mais, a retenção de clientes, a conformidade regulatória e a viabilidade operacional