A segurança da IA Claude voltou ao centro das atenções depois que a Anthropic revelou ter bloqueado tentativas de transformar seus modelos em ferramentas para desenvolvimento de armas biológicas, além de interromper uma campanha de espionagem eletrônica supostamente ligada à Rússia contra a Ucrânia. As informações constam de um relatório publicado nesta quinta-feira pela própria empresa, que também apontou concorrentes chineses como responsáveis por invasões voltadas a “sugar” recursos do Claude.
O documento, batizado de relatório de Inteligência de Ameaças, reúne oito meses de monitoramento sobre usos maliciosos da tecnologia. E o cenário preocupa: o aumento nas tentativas ilegais de invasão por agentes de IA, somado a alertas de especialistas sobre os riscos da área, tem pressionado cada vez mais as grandes empresas do setor — e abre espaço para uma regulamentação mais rígida.
Não à toa, dois pesquisadores da própria Anthropic chegaram a alertar nesta semana que o avanço acelerado da inteligência artificial pode, em um futuro não muito distante, colocar em risco a própria existência da espécie humana.
Mísseis, drones e armas biológicas na mira da segurança da IA Claude
Segundo a Anthropic, há tempos existe o temor de que modelos de IA cheguem a um patamar de capacidade suficiente para tornar patógenos já existentes ainda mais perigosos — ou até criar novos do zero. No relatório, a empresa documentou cinco casos de cientistas usando seus modelos de formas que poderiam contribuir para o desenvolvimento de armas biológicas.
Um dos episódios envolveu um pesquisador de uma região não atendida pela Anthropic, que recorreu a uma infraestrutura de servidor virtual privado para acessar o Claude. Durante semanas, ele usou a ferramenta para planejar experimentos de adaptação da gripe aviária em mamíferos. Vale lembrar que as regiões fora da cobertura da Anthropic incluem países como Rússia, China e Coreia do Norte, entre outros.
Assim que o uso indevido foi identificado, a empresa baniu as contas envolvidas e incorporou as descobertas aos seus mecanismos de proteção, fiscalização e inteligência de ameaças dos modelos mais avançados. A Anthropic, no entanto, preferiu não revelar as instituições, os países de origem nem os agentes biológicos e técnicas de pesquisa específicos utilizados nos casos.
A companhia foi além e identificou o que classificou como “novas categorias de agentes de ameaça” — incluindo o uso da plataforma para desenvolver software voltado a armas convencionais, como armas de fogo, mísseis, drones armados, bombas e outras munições, além dos sistemas de mira e controle que operam esse tipo de equipamento. O relatório cita incidentes envolvendo operadores na China, Rússia e Iêmen que teriam usado o Claude para projetar software de armamento ou apoiar coleta de inteligência ligada a programas militares.
“Há um ano, digamos que você quisesse otimizar um drone ou o software de um míssil; os modelos simplesmente não seriam tão bons nessa tarefa quanto são agora”, disse Jacob Klein, chefe de inteligência de ameaças da Anthropic, à Reuters.
Hackers russos e o uso indevido do Claude em ataques
Outro ponto sensível do relatório mostra que criminosos e hackers apoiados por governos têm recorrido cada vez mais à IA para orquestrar e executar boa parte de seus ataques — com humanos atuando mais como supervisores do que como operadores diretos. Segundo a Anthropic, “o uso da IA foi além de simples perguntas e respostas de um chatbot, envolvendo, na verdade, o uso de estruturas multiagentes”.
Um grupo de hackers teria conduzido operações de phishing, sequestro de redes Wi-Fi de hotéis e invasão de contas do WhatsApp contra alvos dos setores governamental, militar e diplomático da Ucrânia, usando IA em praticamente todas as etapas do ataque. A técnica identificada seria consistente com a do agente de ameaças Midnight Blizzard, sediado na Rússia, já associado pelo governo dos EUA ao serviço de inteligência estrangeira russo SVR. A embaixada da Rússia em Washington não comentou o assunto.
De acordo com o relatório, esse mesmo grupo teria usado IA para criar um sistema capaz de detectar automaticamente quando seu malware é descoberto pelas defesas de segurança — reescrevendo a programação até escapar da detecção. A Anthropic também afirmou ter identificado e barrado atividades ligadas a afiliados do coletivo ShinyHunters, hoje uma das organizações de cibercrime mais ativas do mundo, associada a ataques contra grandes corporações.
Laboratórios chineses também aparecem no relatório
A Anthropic disse ainda ter interrompido ataques partindo de sete laboratórios sediados na China durante o período analisado, entre eles Alibaba, Moonshot, DeepSeek e Xiaomi. Nenhuma dessas empresas respondeu de imediato a pedidos de comentário.
Operadores ligados ao Alibaba teriam protagonizado o que a empresa chamou de maior ataque de “destilação ilícita” já registrado, com o objetivo de extrair as capacidades dos modelos Claude para aprimorar os modelos Qwen da companhia chinesa. Segundo a Anthropic, foram observadas mais de 151 milhões de trocas atribuídas ao Alibaba entre maio e julho de 2026, com picos de quase 3 milhões por dia vindos de mais de 3.500 contas descritas como fraudulentas.
- Destilação: processo de treinar modelos de IA menores usando os resultados de modelos maiores e mais caros, reduzindo custos de desenvolvimento;
- Moonshot (criadora do chatbot Kimi) e DeepSeek supostamente redirecionaram conversas ao vivo com clientes — algumas com informações confidenciais — pelo Claude, usando as respostas como dados de treinamento;
O Ministério das Relações Exteriores da China afirmou não ter conhecimento do relatório da Anthropic, reforçando que o governo defende o desenvolvimento da IA “para o bem” e se opõe à distorção de fatos e a campanhas difamatórias contra o país. Casos assim reacendem o debate sobre limites éticos da inteligência artificial — tema que também aparece em discussões sobre como identificar textos gerados por IA, outro ponto sensível da segurança digital envolvendo a própria Anthropic.
