A Agência de Segurança Cibernética e de Infraestrutura dos Estados Unidos (CISA) está utilizando o modelo de inteligência artificial Mythos, desenvolvido pela Anthropic, para auditar códigos de software do governo em busca de falhas de segurança. Este uso ocorre em meio a uma relação conturbada entre a Anthropic e o governo dos Estados Unidos.
Auditorias de Segurança
De acordo com as fontes, o trabalho de análise está sendo conduzido pela equipe Attack Surface Evaluation, unidade da CISA responsável por realizar avaliações de segurança digital e exercícios de invasão em órgãos do governo. As auditorias já identificaram um grande número de vulnerabilidades, embora não sejam fornecidos detalhes sobre a quantidade ou natureza das falhas encontradas.
Relação entre Anthropic e Governo
A utilização do Mythos pela CISA ocorre em meio a uma relação marcada por tensões entre a Anthropic e o governo dos Estados Unidos. A empresa, sediada em San Francisco, enfrentou um dos momentos mais delicados dessa relação em fevereiro, quando se recusou a remover mecanismos de proteção que impediam que sua inteligência artificial fosse utilizada em armas autônomas ou em sistemas de vigilância doméstica. Essa medida acabou sendo bloqueada por um juiz em março.
Lançamento da Fable
Após esse lançamento, a Anthropic lançou uma versão pública do Mythos chamada Fable, que incluía mecanismos de proteção voltados para segurança cibernética. No final do mês passado, o jornal The New York Times informou que analistas da NSA vinham testando o modelo em ambientes classificados e haviam ficado impressionados com suas capacidades.
Conflito com a Casa Branca
A Casa Branca exigiu que a Anthropic impedisse o acesso de usuários estrangeiros ao modelo. A decisão provocou uma suspensão global da ferramenta, que só foi encerrada na semana passada.
Conclusão
A CISA está utilizando o Mythos da Anthropic para identificar vulnerabilidades em sistemas do governo, mas a relação entre as duas ainda é conturbada devido a conflitos recentes.