Em setembro de 2024, o centro médico da Universidade da Califórnia, em São Francisco, descobriu que seu sistema de diagnóstico por imagem, baseado em inteligência artificial, vinha acessando prontuários de pacientes por meio de credenciais administrativas codificadas no código, durante dezoito meses. A violação expôs 65.000 arquivos de pacientes a análises não autorizadas por algoritmos de aprendizado de máquina que operavam além dos protocolos de supervisão clínica.
Este incidente revela uma lacuna de governança que se expande rapidamente nos sistemas de saúde em todo o mundo. À medida que os hospitais integram ferramentas de diagnóstico por IA, plataformas de radiologia e sistemas automatizados de apoio à decisão clínica, essas tecnologias exigem acesso privilegiado a vastos bancos de dados de pacientes. No entanto, as organizações de saúde carecem de estruturas para controlar como os sistemas de IA se autenticam, quais credenciais possuem e quando o acesso deve ser revogado.
A lacuna na governança de credenciais na IA da saúde.
Os sistemas de IA para a área da saúde operam de forma diferente dos softwares médicos tradicionais. Enquanto os registros eletrônicos de saúde geralmente atendem a funções de usuário predefinidas — médicos, enfermeiros, administradores —, as ferramentas de diagnóstico por IA exigem padrões de acesso dinâmicos. Um sistema de IA para radiologia, por exemplo, pode precisar acessar arquivos de imagens, bancos de dados de patologia, resultados de testes genéticos e históricos de tratamentos para gerar diagnósticos precisos.
Esses sistemas autenticam-se usando contas de serviço, chaves de API e credenciais incorporadas que os departamentos de TI da área da saúde geralmente não conseguem rastrear ou controlar. Quando os pesquisadores atualizam modelos de aprendizado de máquina, integram novos conjuntos de dados ou modificam parâmetros algorítmicos, as credenciais de acesso subjacentes frequentemente permanecem inalteradas. As organizações de saúde perdem a visibilidade de quais sistemas de IA detêm qual nível de acesso aos dados dos pacientes.
A complexidade regulatória agrava esse desafio. As ferramentas de IA para a área da saúde devem estar em conformidade com as normas de privacidade da HIPAA, as regulamentações da FDA para dispositivos médicos e as leis de proteção ao paciente específicas de cada estado. No entanto, as estruturas de conformidade atuais pressupõem que os usuários tomem decisões de acesso de forma deliberada, e não que sistemas algorítmicos processem milhares de registros de pacientes de forma autônoma.
A escala da exposição das credenciais de IA na área da saúde.
A adoção da IA na área da saúde acelerou drasticamente. De acordo com a pesquisa de saúde digital de 2024 da Associação Médica Americana (AMA), 73% das organizações de saúde já utilizam ferramentas de diagnóstico por IA, em comparação com 31% em 2021. Os departamentos de radiologia lideram a adoção, com 89%, seguidos por patologia, com 67%, e cardiologia, com 54%.
Cada implementação de IA normalmente requer vários conjuntos de credenciais. Uma pesquisa do estudo de cibersegurança em saúde de 2024 do Instituto Ponemon constatou que os sistemas de IA na área da saúde têm, em média, 12,3 credenciais de acesso privilegiado por implementação. Grandes sistemas hospitalares que operam múltiplas plataformas de IA gerenciam, em média, 847 credenciais relacionadas à IA em suas redes.
As implicações financeiras são significativas. As violações de dados na área da saúde custaram, em média, US$ 10,93 milhões por incidente em 2024, de acordo com o relatório "Cost of a Data Breach" da IBM — o valor mais alto entre todos os setores pelo décimo quarto ano consecutivo. As violações envolvendo sistemas de IA custaram 23% a mais do que as exposições de dados tradicionais, com uma média de US$ 13,46 milhões por incidente.
A fiscalização regulatória está se intensificando. O Departamento de Saúde e Serviços Humanos aplicou multas no valor de US$ 301,2 milhões por descumprimento da HIPAA em 2024, sendo que 34% das violações estavam relacionadas a controles de acesso inadequados em sistemas automatizados que processam dados de pacientes.
As organizações de saúde geralmente implementam sistemas de gerenciamento de identidade e acesso (IAM), gerenciamento de acesso privilegiado (PAM) e autenticação multifator (MFA) projetados para usuários humanos. Essas ferramentas pressupõem sessões de login interativas, atualizações regulares de senha e decisões de acesso deliberadas.
Os sistemas de diagnóstico por IA operam continuamente, processando dados de pacientes por meio de fluxos de trabalho automatizados que podem durar horas ou dias. Os sistemas tradicionais de IAM (Gestão de Identidades e Acessos) não conseguem gerenciar efetivamente essas sessões persistentes e não interativas. Quando a IA de radiologia analisa milhares de imagens médicas durante a noite, as políticas padrão de tempo limite de sessão tornam-se irrelevantes.
As ferramentas de gerenciamento de acesso privilegiado enfrentam limitações semelhantes. As soluções PAM são excelentes no gerenciamento de credenciais de administrador para servidores e bancos de dados, mas têm dificuldades com padrões de autenticação baseados em API, comuns em IA na área da saúde. As plataformas de aprendizado de máquina autenticam por meio de interfaces programáticas usando tokens, certificados e credenciais de contas de serviço que os sistemas PAM geralmente não conseguem detectar ou controlar.
As arquiteturas de Zero Trust prometem controles de acesso do tipo "nunca confie, sempre verifique", mas os sistemas de IA na área da saúde exigem padrões de verificação diferentes. Um sistema de IA para diagnóstico pode precisar legitimamente de acesso a registros de pacientes em diversos departamentos, períodos e tipos de dados para funcionar de forma eficaz. As implementações tradicionais de Zero Trust não conseguem distinguir facilmente entre padrões legítimos de análise de IA e acessos não autorizados aos dados.
Controle de credenciais organizacionais como solução estrutural
A questão fundamental é que as organizações de saúde permitem que os sistemas de IA — assim como os usuários humanos — possuam e apresentem suas próprias credenciais de acesso. Uma vez que uma plataforma de IA detém senhas de banco de dados, chaves de API ou certificados de autenticação, a organização de saúde perde o controle sobre como essas credenciais são utilizadas.
A abordagem da MyCena inverte esse modelo. Em vez de permitir que os sistemas de IA armazenem credenciais, a organização mantém o controle total sobre a autenticação. Cada vez que uma ferramenta de diagnóstico por IA precisa acessar dados do paciente, ela solicita permissão à autoridade central de credenciais. A organização valida a solicitação, concede acesso temporário e mantém uma supervisão contínua dos padrões de autenticação da IA.
Este modelo significa que os sistemas de IA nunca possuem credenciais persistentes que possam ser comprometidas, usadas indevidamente ou ignoradas durante auditorias de segurança. Os departamentos de TI da área da saúde obtêm visibilidade em tempo real de quais ferramentas de IA acessam quais dados do paciente, quando o acesso ocorre e se os padrões de uso estão alinhados com os protocolos clínicos.
Essa abordagem atende aos requisitos regulatórios ao criar trilhas de auditoria para cada evento de autenticação de IA. Quando os órgãos reguladores investigam o acesso a dados de pacientes, as organizações de saúde podem demonstrar controle granular sobre as permissões do sistema de IA, em vez de depender de atribuições de credenciais estáticas.
Implicações para a liderança na área da saúde
Os executivos da área da saúde devem avaliar imediatamente a governança de credenciais de IA. Mapeie todas as ferramentas de diagnóstico por IA, sistemas clínicos automatizados e plataformas de aprendizado de máquina que acessam dados de pacientes. Documente quais credenciais esses sistemas possuem e quem controla as permissões de acesso.
Estabeleça políticas para autenticação de sistemas de IA que estejam alinhadas com as estruturas de governança clínica. As ferramentas de IA não devem ter acesso permanente aos dados dos pacientes, assim como funcionários clínicos temporários não devem receber permissões irrestritas em bancos de dados.
Invista em soluções de controle de acesso específicas para IA. As ferramentas tradicionais de segurança de TI para o setor de saúde não conseguem governar adequadamente os padrões de credenciais exigidos pelos sistemas de IA. O investimento em uma infraestrutura de governança apropriada se mostrará menos custoso do que penalidades regulatórias ou a remediação de violações de segurança.
A integração da IA na prestação de cuidados de saúde é inevitável. Garantir a governança adequada das credenciais da IA, não.