A Anthropic, empresa por trás do modelo de inteligência artificial Claude, revelou que sua tecnologia foi alvo de tentativas de uso indevido do Claude para fins militares em diferentes partes do mundo. Segundo a companhia, agentes tentaram usar o sistema para desenvolver desde enxames de drones kamikaze até softwares de navegação de mísseis e até mesmo armas biológicas.
De acordo com um relatório divulgado na quinta-feira (10) pela equipe de inteligência de ameaças da Anthropic, nos últimos doze meses foram identificados usuários de países como Irã, Rússia, China e Iêmen tentando burlar as regras de segurança dos modelos da empresa. Vale destacar que nenhum dos casos envolveu os modelos mais avançados da Anthropic, o Fable e o Mythos.
Em suas próprias palavras, a empresa fez um alerta direto sobre os riscos crescentes que acompanham a evolução da tecnologia:
“À medida que os modelos se tornam cada vez mais capazes, os riscos também aumentam — a menos que os desenvolvedores de IA e os defensores da sociedade ajam para torná-los mais seguros”, afirmou a Anthropic no relatório.
A corrida da IA e o dilema da segurança
Não é segredo que as empresas de inteligência artificial dos Estados Unidos vivem uma verdadeira corrida para lançar sistemas cada vez mais potentes, em boa parte para não perder terreno para concorrentes como a China. Ao mesmo tempo, tentam manter salvaguardas para evitar que essas ferramentas sejam usadas de forma nociva — o que, na prática, é um equilíbrio bem difícil de manter.
A Anthropic, por exemplo, busca impedir que sua tecnologia seja empregada no desenvolvimento de armas biológicas e convencionais. Essa postura, aliás, já gerou atrito direto com o Pentágono, que chegou a suspender a parceria com a empresa depois que ela se recusou a liberar o Claude para vigilância em massa ou sistemas de armas autônomas.
Se você quiser entender melhor como a Anthropic tem lidado com essas questões de segurança em outras frentes, vale conferir também a matéria sobre a segurança da IA Claude diante de hackers russos e espionagem chinesa.
Drones, mísseis e um vírus modificado
O relatório mostra que usuários russos — sem vínculo comprovado com o Estado, segundo a Anthropic — tentaram usar o Claude para desenvolver software voltado a um enxame de drones kamikaze autônomos em primeira pessoa, treinados com imagens reais de combate na Ucrânia. Ou seja, a intenção era claramente aplicar a IA em cenário de guerra ativo.
Além disso, o documento detalha cinco estudos de caso envolvendo pessoas que usaram o Claude de maneiras que poderiam contribuir para o desenvolvimento de armas biológicas. Um dos exemplos mais chamativos envolve virologistas patrocinados por Estados que tentaram criar uma versão melhorada do chikungunya, vírus debilitante transmitido por mosquitos. A tentativa foi descoberta a partir de um pedido para que o Claude ajudasse a redigir uma solicitação de bolsa destinada a financiar pesquisas em um instituto militar de um país não identificado — onde, aliás, a Anthropic nem sequer presta serviços.
Apesar da gravidade aparente, a própria empresa fez questão de ponderar:
A Anthropic destacou que todos os estudos de caso biológicos do relatório eram “ambíguos” e envolviam pesquisas que poderiam ter intenção científica legítima.
Já no Iêmen, agentes baseados na região norte do país, controlada pelos houthis, usaram o Claude para desenvolver software voltado a vários tipos de mísseis. Sobre esse caso específico, a empresa foi enfática:
“Não temos evidências de que os agentes tenham conseguido colocar em operação um dispositivo funcional”, disse a Anthropic.
Vigilância disfarçada e monitoramento em massa
Outro ponto forte do relatório envolve o uso do Claude para fins de vigilância. Agentes ligados a Estados em países como China e Irã teriam tentado usar a IA para construir e facilitar sistemas de monitoramento. Uma operação vinculada à China, por exemplo, usou o Claude para “rastrear, traçar perfis e recrutar uigures” no Exército Sírio. Já uma unidade iraniana teria usado a ferramenta para construir um software de vigilância disfarçado de aplicativo para acompanhar horários de oração — uma camuflagem no mínimo criativa. O Ministério das Relações Exteriores da China não respondeu imediatamente a um pedido de comentário.
Talvez o caso mais impressionante, porém, tenha vindo do Mali. Segundo a Anthropic, um consultor provavelmente ligado a uma agência de inteligência estatal do país usou o Claude para montar um sistema capaz de monitorar cerca de 25 milhões de celulares na nação africana. Por meio dele, era possível gerar “dossiês de inteligência” sobre qualquer número de telefone específico, sem qualquer autorização judicial. A empresa afirmou que baniu a conta do consultor, mas fez uma ressalva importante: a plataforma de vigilância baseada no Claude já havia sido implantada localmente e estava fora do controle total da Anthropic. O governo do Mali também não respondeu imediatamente a um pedido de comentário.
Hackers usam Claude para acelerar ataques
Além dos usos com fins militares e de vigilância, o relatório também mostra como diferentes grupos de hackers — desde suspeitos de patrocínio dos serviços de inteligência da Rússia e da China até hacktivistas e cibercriminosos comuns — vêm recorrendo à IA da Anthropic para acelerar e amplificar operações de roubo de dados sigilosos. Por outro lado, a empresa reforça que o documento não revela vulnerabilidades novas ou perigosas em sistemas críticos.
Um exemplo citado é o do grupo conhecido pela Microsoft como Midnight Blizzard, ligado aos serviços de inteligência russos, que teria “aumentado sua velocidade automatizando operações com IA”. Isso incluiu o uso do software da Anthropic para automatizar etapas do desenvolvimento de programas maliciosos e para criar e-mails de phishing direcionados a alvos da inteligência militar e da defesa. O Ministério das Relações Exteriores da Rússia não respondeu imediatamente a um pedido de comentário.
Outro grupo mencionado foi a gangue de ciberextorsão ShinyHunters, que teria usado inteligência artificial para vasculhar credenciais de segurança vazadas e utilizá-las no roubo de dados de organizações afetadas.
Em resumo, a Anthropic deixou claro que os exemplos citados no relatório não representam o uso indevido “típico” do Claude, mas sim os casos mais notáveis e inéditos de ameaça identificados até agora:
“Os casos que compartilhamos aqui não são casos típicos de uso indevido, mas sim exemplos das atividades de ameaça mais notáveis e inéditas que identificamos até hoje”, disse a Anthropic no relatório.
Vale lembrar que esse não é o único episódio recente em que a empresa reforça seus cuidados com o uso ético da tecnologia — ela também já afirmou ter barrado tentativas de usar sua IA em pesquisas sobre armas biológicas em outras ocasiões.
