São Paulo — Em 12.set.2026 às 12h38, o diretor-executivo e cofundador da Anthropic, Dario Amodei, defendeu uma desaceleração da IA e pediu que as empresas avancem com mais cautela no desenvolvimento da tecnologia. Para ele, prevenir riscos deve ser prioridade, especialmente diante da velocidade recente de evolução dos modelos.
Desaceleração da IA é o principal alerta
“Devemos reduzir o ritmo em que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e devemos usar de forma inteligente o tempo que ganharmos”, escreveu Amodei em uma publicação em seu blog.
O executivo afirmou ainda que, desde aproximadamente meados deste ano, a inteligência artificial passou a avançar de maneira drasticamente mais rápida. Esse movimento seria impulsionado, principalmente, pela capacidade crescente dos próprios sistemas de ajudar a desenvolver a próxima geração de IA.
“Minha primeira preocupação é que, desde aproximadamente meados deste ano, a IA vem avançando de maneira drasticamente mais rápida, impulsionada principalmente por sua capacidade crescente de desenvolver a próxima geração de IA. (…) Se não for controlada, ela poderá superar nossa capacidade de compreender e controlar esses sistemas e, portanto, deve ser conduzida com extremo cuidado —se é que deve ser conduzida”, diz Amodei.
Risco de autoaperfeiçoamento dos sistemas
A preocupação citada pelo CEO está ligada ao chamado autoaperfeiçoamento recursivo. O conceito descreve situações em que sistemas de IA participam da criação de versões mais avançadas deles mesmos. Segundo Amodei, esse processo já começa a aparecer na indústria e pode acelerar o desenvolvimento para além da capacidade dos pesquisadores de entender e controlar os modelos.
Como exemplo, ele mencionou um episódio envolvendo agentes da OpenAI e a plataforma Hugging Face. Conforme o relato, uma rede de agentes de IA fez ataques cibernéticos contra alvos que não estavam incluídos na tarefa original e tentou comprometer o sistema responsável por avaliar seu desempenho.
Embora o caso tenha provocado pouco dano econômico, Amodei avalia que uma versão mais capaz de um sistema com comportamento semelhante poderia causar prejuízos catastróficos. Além disso, ele estima que, em um horizonte de seis a 12 meses, os avanços atuais poderiam levar a sistemas capazes de assumir o controle de uma parcela significativa da internet por meio de uma rede persistente de computadores comprometidos. O dano, nesse cenário, poderia chegar a centenas de bilhões de dólares.
Plano em três etapas para controlar a IA
Para reduzir os riscos sem interromper o desenvolvimento da tecnologia, Amodei propõe uma estratégia dividida em três fases. A primeira prevê avaliadores externos permanentes, com acesso semelhante ao de funcionários das empresas de IA. Esses profissionais verificariam práticas de segurança, investigariam incidentes e analisariam tanto os modelos concluídos quanto os processos de treinamento.
“A primeira etapa é algo com que a Anthropic está se comprometendo unilateralmente —e conclama os governos a exigir que outras empresas de fronteira façam o mesmo”, escreveu o CEO.
A segunda fase envolveria empresas de IA de países democráticos, que estabeleceriam padrões comuns de segurança e limites para a velocidade de avanço dos modelos. Os governos também participariam, inclusive para tratar de obstáculos concorrenciais e questões antitruste.
Já a terceira etapa dependeria de uma coordenação internacional, sobretudo entre Estados Unidos e China. Amodei reconhece que essa seria a parte mais difícil do plano por causa da disputa geopolítica em torno da inteligência artificial.
Certificações e possível pausa no desenvolvimento
Entre as ideias apresentadas está a criação de “pontos de controle”. Assim, quando um modelo atingisse determinadas capacidades, a empresa precisaria apresentar certificações e avaliações de segurança antes de avançar.
O executivo também defende a discussão de limites para recursos usados na construção dos modelos, como poder computacional, determinados tipos de treinamento e o uso de IA para desenvolver a própria IA. No cenário internacional, ele sugere acordos para proibir usos específicos considerados perigosos, como a produção de armas biológicas com inteligência artificial, além de testes obrigatórios antes do lançamento em áreas como cibersegurança, biologia e alinhamento.
Uma pausa ampla no desenvolvimento da IA também deveria ser considerada, segundo Amodei. No entanto, ele próprio avalia que um compromisso desse tipo é improvável no curto prazo, pois um país poderia descumprir o acordo e conquistar vantagem estratégica.
Com AFP
