O uso do Claude em atividades potencialmente mal-intencionadas foi detalhado pela Anthropic em um relatório divulgado na quinta-feira (10). Segundo o laboratório de inteligência artificial, usuários recorreram à ferramenta para ações que incluem desenvolvimento de armas, espionagem eletrônica, vigilância e fraudes.
O documento reúne episódios identificados pela própria empresa, com casos envolvendo agentes na China, na Rússia e no norte do Iêmen. A Anthropic afirma que algumas contas foram banidas e que suas salvaguardas bloquearam parte das solicitações, embora nem todas tenham sido impedidas.
Uso do Claude em projetos militares
Entre os exemplos citados está o de um usuário sediado na China que teria utilizado o chatbot para criar um pacote de software de guerra eletrônica e supressão de defesa aérea. O sistema classificava alvos e simulava interferências em radares. Durante o projeto, foram simulados 12 alvos em Taiwan, incluindo radares, baterias de mísseis e bases aéreas.
A Anthropic disse que dados das contas relacionavam o usuário à Academia de Ciências Militares do Exército Popular de Libertação. Por isso, as contas foram banidas. O Ministério das Relações Exteriores da China afirmou não ter conhecimento do relatório e declarou que o governo defende o desenvolvimento da IA para o bem, além de se opor à distorção dos fatos e às calúnias contra o país.
Outro caso descrito envolve um agente baseado na China que teria usado o Claude para elaborar especificações e software de controle de fogo para um sistema antitorpedos destinado à Marinha chinesa. O usuário preparou uma proposta técnica, comparou o projeto ao sistema da Marinha dos EUA e fez aprimoramentos por meio de simulações. De acordo com a Anthropic, ele estava ligado a um fabricante da indústria militar chinesa.
O relatório também cita uma pesquisa chinesa sobre armas de micro-ondas de alta potência. Nesse episódio, o uso do Claude teria ajudado a identificar componentes e fornecedores, rastrear cadeias de suprimentos e buscar informações para engenharia reversa e contramedidas. O usuário ainda redigiu relatórios destinados a autoridades chinesas.
Mísseis, drones e compras militares
No norte do Iêmen, um grupo mal-intencionado teria recorrido ao uso do Claude para desenvolver software de um foguete guiado, de um míssil balístico com alcance de mais de 2.000 quilômetros e de uma variante equipada com um veículo de planagem hipersônica.
A empresa afirmou que o grupo utilizou a ferramenta em programação e simulações, mas não encontrou evidências de uma arma operacional. “Nossas salvaguardas bloquearam muitas de suas solicitações, mas não todas”, disse a Anthropic. Os houthis, alinhados ao Irã e controladores do norte do Iêmen, intensificaram ataques à Arábia Saudita recentemente, mas o relatório não os identificou como agentes.
Também foram mencionados agentes independentes provavelmente baseados na Rússia. Segundo a Anthropic, eles usaram o Claude para criar software voltado a um enxame de drones de ataque autônomos com visão em primeira pessoa, orientação terminal, seleção de alvos e coordenação entre várias aeronaves.
Além disso, um gerente de compras baseado na Rússia teria utilizado o sistema para encontrar intermediários na China e em Hong Kong capazes de adquirir produtos europeus com possíveis aplicações militares. A estratégia incluía traçar rotas que ocultassem o destino dos itens. Entre os produtos buscados estavam magnetômetros alemães, wafers de grau espacial e sistemas de oxigênio para aviação. A Rússia recorre a intermediários desde as sanções impostas após a invasão da Ucrânia.
Pesquisa biológica e limites da ferramenta
A Anthropic relatou cinco tentativas de usar seus modelos em atividades que poderiam apoiar o desenvolvimento de armas biológicas. Entre elas, estavam pedidos de ajuda para financiar pesquisas de modificação do vírus da chikungunya em uma região onde a empresa não oferece serviço.
Em outro episódio, ocorrido também em uma área sem operação da Anthropic, a companhia afirmou ter identificado esforços para pesquisar uma forma altamente patogênica da gripe aviária. Como o acesso exigiria que os usuários ocultassem a localização, o caso foi incluído no levantamento da empresa.
Outros exemplos envolveram estudos relacionados ao ortopoxvírus e a novos venenos e toxinas não transmissíveis. Dessa forma, o relatório mostra que o uso do Claude foi identificado em diferentes etapas de projetos sensíveis, desde pesquisas e simulações até a busca por fornecedores e elaboração de documentos técnicos.
