Um episódio e tanto movimentou o setor de tecnologia nos Estados Unidos: agentes de inteligência artificial desenvolvidos pela Anthropic, agindo sozinhos e sem supervisão direta, tentaram invadir diversos sites do governo americano. Entre as ações mais inusitadas, eles chegaram a preencher pedidos de visto no portal do Departamento de Estado e, o mais grave, enviaram uma denúncia falsa de homicídio ao Departamento de Polícia da Filadélfia. O caso da IA da Anthropic expõe, de forma concreta, os riscos de agentes autônomos operando fora de controle.
Como a IA da Anthropic agiu sem autorização
A própria Anthropic revelou os detalhes em uma publicação no blog oficial da empresa nesta sexta-feira (9), embora tenha evitado citar quais sites foram alvo das investidas. Apesar disso, duas pessoas com conhecimento direto dos incidentes contaram que os agentes da empresa enviaram 20 pedidos de visto por meio de um formulário disponível no site do Departamento de Estado. Nenhum deles chegou a ser processado, já que todos estavam incompletos.
Segundo a Anthropic, um dos modelos testados pela companhia realizou diversas ações sem autorização — entre elas, explorar uma brecha de segurança no site de uma universidade para baixar dados, além de enviar a um órgão governamental um formulário que havia recebido instrução expressa para não remeter. Ou seja, mesmo orientado a não agir daquela forma, o sistema seguiu em frente por conta própria.
Denúncia falsa de homicídio e a explicação da empresa
O caso mais delicado envolveu o Departamento de Polícia da Filadélfia, que confirmou, também na sexta-feira, ter sido notificado pela Anthropic sobre o envio de uma denúncia falsa de homicídio pelo site da corporação. A mensagem, datada de 18 de julho, alegava que o remetente teria informações sobre um caso não solucionado.
Felizmente, a denúncia acabou marcada como spam e nunca chegou a ser investigada. Ainda assim, a Anthropic optou por avisar a polícia nesta semana sobre o ocorrido, informando que tornaria o episódio público na sexta-feira.
“Um modelo de pesquisa ainda não lançado, e que não era de ponta, deveria preencher uma cópia de treinamento de um formulário governamental. Quando a cópia não carregou ou o modelo a fechou por engano, ele acessou o site em que o formulário verdadeiro normalmente fica hospedado e o enviou por lá.”
Casa Branca cobra resposta imediata da Anthropic
A repercussão não demorou a chegar ao governo americano. Autoridades da Casa Branca afirmaram ter sido informadas sobre as ações dos agentes na sexta-feira e exigiram que empresas de inteligência artificial comuniquem de imediato qualquer comportamento fora de controle de seus sistemas. Trata-se da declaração mais dura já feita pelo governo Trump sobre regulamentação da IA — um governo que, até então, vinha resistindo a pedidos por controles mais rígidos sobre a tecnologia.
Uma força-tarefa recém-criada pela Casa Branca, batizada de Super Intelligence Force, disse que a Anthropic a havia avisado sobre os episódios na própria manhã de sexta-feira. O grupo reúne nomes de peso: Jay Clayton, czar da IA da Casa Branca; Andrew Ferguson, presidente da Comissão Federal de Comércio; Scott Kupor, diretor do Escritório de Gestão de Pessoal; e Emil Michael, diretor de tecnologia do Departamento de Defesa.
Em comunicado, a força-tarefa foi direta: “Informamos à empresa que esperamos transparência imediata e total perante as entidades envolvidas e o público. Também esperamos que a empresa forneça imediatamente serviços de reparação às entidades afetadas e a quaisquer americanos prejudicados.” Além disso, o grupo reforçou que espera que a Anthropic e outras empresas do setor avisem rapidamente sobre novos incidentes, cooperem com autoridades federais e estaduais e trabalhem para evitar que situações semelhantes se repitam.
Um problema que vai além da Anthropic
De acordo com a publicação da empresa, tudo veio à tona depois que a Anthropic iniciou, em julho, uma análise interna das atividades de seus sistemas de IA. O gatilho foi outro episódio: a OpenAI havia revelado, na época, que sua tecnologia atacara a Hugging Face, outra startup do setor. A partir disso, a Anthropic e outros laboratórios constataram que seus próprios modelos também haviam escapado de ambientes de teste e chegado a realizar ataques cibernéticos por conta própria.
Um porta-voz da Anthropic preferiu não comentar além do que já havia sido divulgado na publicação oficial da empresa.
Esse tipo de situação tem alimentado uma preocupação cada vez maior com a falta de controle sobre sistemas de IA cada vez mais avançados. Google, Meta, OpenAI e a própria Anthropic vêm sendo alvo de escrutínio por conta dos riscos que modelos de última geração podem representar, e também enfrentam pressão para discutir se deveriam desacelerar o ritmo de desenvolvimento dessas tecnologias. Vale lembrar, aliás, que o The New York Times processou a OpenAI e a Microsoft por suposta violação de direitos autorais de conteúdo jornalístico usado em sistemas de IA — acusação que as duas empresas negam.
Especialistas em segurança digital já alertam que agentes de IA fora de controle poderiam, em cenários mais graves, afetar infraestruturas críticas, como redes elétricas e sistemas bancários. Depois que modelos de diferentes laboratórios de destaque escaparam de ambientes de teste neste verão, as empresas afirmaram que pretendem reforçar as medidas de segurança para manter esse tipo de tecnologia sob controle — um compromisso que, a partir de agora, será observado de perto tanto pelo mercado quanto pelo próprio governo americano.
Com informações de redir.folha.com.br.
