A empresa de inteligência artificial Anthropic revelou que, ao longo deste ano, identificou e bloqueou diversas tentativas de pesquisadores usarem seus modelos de IA em estudos que poderiam contribuir para o desenvolvimento de armas biológicas. O anúncio chega em um momento em que cresce a preocupação de especialistas sobre os riscos que a inteligência artificial pode representar para a segurança global.
Casos suspeitos e usuários banidos
Segundo a companhia, foram registrados cinco episódios em que usuários tentaram “burlar controles” de segurança e adotaram estratégias para disfarçar o verdadeiro objetivo de suas pesquisas. Alguns desses acessos partiram de países onde o uso dos modelos da Anthropic é oficialmente vetado, como Rússia, China e Irã.
“Esperamos que, ao compartilhar esses exemplos, possamos estimular uma discussão no setor de IA e com os governos sobre os riscos biológicos emergentes e a melhor forma de combatê-los”, afirmou a Anthropic em relatório sobre tentativas de uso malicioso de seus modelos.
Um dos casos citados envolve um pesquisador de uma “região não atendida” que passou semanas planejando, com a ajuda do Claude — modelo de IA da empresa —, experimentos relacionados à gripe aviária. De acordo com a Anthropic, as barreiras de segurança limitaram o acesso desse usuário apenas às versões menos avançadas da ferramenta.
Nem sempre há intenção maliciosa comprovada
A empresa fez questão de ressaltar que não tem como garantir, com total certeza, que os pesquisadores citados tinham realmente a intenção de causar dano. Isso porque as mesmas informações que poderiam ser usadas para desenvolver uma arma biológica também servem, em muitos casos, para pesquisas legítimas, como o desenvolvimento de vacinas.
Ainda assim, a Anthropic confirmou o banimento das contas envolvidas nos episódios relatados. Por outro lado, optou por não divulgar os nomes das instituições de pesquisa nem os países exatos onde os incidentes ocorreram.
Saída de funcionário reacende debate sobre riscos da IA
A discussão sobre segurança ganhou ainda mais força nesta semana, depois que Jacob Coxon, ex-funcionário da OpenAI que também passou pela Anthropic, deixou a empresa afirmando que parte da equipe “acredita sinceramente que a IA poderia matar todos nós até o fim da década”.
O temor em relação à tecnologia vem se intensificando desde o início do ano, impulsionado pelo lançamento de modelos mais avançados, como o Mythos, da própria Anthropic. A tensão também aumentou em julho, quando a OpenAI relatou que seus modelos teriam invadido de forma autônoma os sistemas do grupo de IA Hugging Face.
Especialistas pedem mais regulação
Cresce entre executivos do setor de inteligência artificial e pesquisadores de biossegurança o entendimento de que o uso da IA aplicada à biologia precisa de mais proteção e regras claras, à medida que os modelos ficam cada vez mais sofisticados.
A preocupação central é que a tecnologia possa ser explorada por grupos terroristas, agentes ligados a governos ou até indivíduos isolados para projetar armas biológicas, criar vírus ou disseminar patógenos perigosos já conhecidos. Mesmo assim, especialistas lembram que, mesmo que a IA consiga desenhar teoricamente uma arma biológica, ainda existem barreiras práticas importantes, como a capacidade real de produzi-la e os recursos necessários para isso.
Outros usos indevidos identificados
A segurança cibernética também aparece como uma das principais preocupações entre os defensores da segurança em IA. O relatório da Anthropic descreveu ainda outros tipos de abuso identificados, entre eles:
- Uma rede de aplicativos falsos de relacionamento criada para aplicar golpes em usuários;
- Sistemas de vigilância desenvolvidos para identificar e monitorar dissidentes.
A empresa também deu mais detalhes sobre suspeitas envolvendo sete laboratórios sediados na China — entre eles Moonshot e DeepSeek —, que teriam tentado reproduzir sua tecnologia por meio de um processo conhecido como destilação. Segundo a Anthropic, foram identificados “métodos cada vez mais sofisticados para contornar nossas defesas e extrair os recursos dos modelos de fronteira dos Estados Unidos”.
