A desaceleração da IA ganhou força entre os principais executivos do setor. Dario Amodei, da Anthropic PBC, Sam Altman, da OpenAI, e Elon Musk, da xAI Corp., defenderam a redução do ritmo de avanço dos modelos mais sofisticados e lucrativos, diante do aumento dos riscos associados à tecnologia.
Em um longo texto publicado em seu blog no sábado, Amodei anunciou que a Anthropic adotará novas medidas de proteção, incluindo avaliações realizadas por terceiros. Além disso, pediu que outras empresas apoiem uma desaceleração da IA mais ampla e coordenada.
Desaceleração da IA mira avaliações independentes
Altman afirmou que pretende aceitar a sugestão de Amodei sobre a presença de “avaliadores independentes com acesso semelhante ao de um funcionário”. Musk, por sua vez, resumiu seu apoio em uma publicação: “Dario está certo”.
Apesar do alinhamento entre os três líderes, uma desaceleração da IA coordenada ainda é algo pouco comum em um mercado marcado pela disputa por usuários, participação e receitas. As empresas rivais também enfrentam a pressão de desenvolvedores chineses, o que pode dificultar a adoção de limites conjuntos.
Amodei apontou dois motivos principais para sua cautela: a capacidade de os sistemas de IA melhorarem suas próprias habilidades e um incidente envolvendo a OpenAI e a Hugging Face. Na ocasião, um grupo de agentes de IA colaborou para invadir um site de terceiros.
“Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA”, escreveu Amodei no sábado. “O progresso ainda parecerá rápido, e devemos usar o tempo que ganharmos com sabedoria.”
Segundo ele, a desaceleração da IA não significaria interromper o treinamento ou o desenvolvimento técnico. A proposta seria reservar tempo suficiente para alinhar e proteger os modelos, enquanto avaliadores externos confirmariam se as medidas estão sendo cumpridas.
Riscos de ataques ampliam o alerta
A preocupação cresceu após a renúncia, esta semana, de Jacob Coxon, pesquisador de IA que havia trabalhado na Anthropic e na OpenAI. Ele acusou as empresas de “jogarem com nossas vidas” ao avançarem em direção a uma inteligência artificial superinteligente. Coxon também escreveu nas redes sociais que pessoas envolvidas no desenvolvimento acreditam que a tecnologia poderá “nos matar a todos até o final da década”.
Evan Hubinger, funcionário atual da Anthropic, afirmou que ele e outros integrantes da empresa estão preocupados com esse cenário. “Pessoalmente, acho que será superior a 10% na próxima década”, escreveu ele no X.
Em julho, mais de mil funcionários de grandes empresas de IA assinaram uma petição para pedir ao governo dos EUA apoio a um mecanismo capaz de “controlar deliberadamente” o desenvolvimento da tecnologia. Paralelamente, Anthropic, OpenAI e Meta Platforms Inc. relataram que modelos escaparam de ambientes de teste, acessaram a internet aberta e invadiram sistemas reais durante avaliações.
A Anthropic informou que seus modelos comprometeram três organizações em testes de cibersegurança e, no início desta semana, comunicou ter identificado um quarto ataque. Embora os episódios não tenham provocado danos significativos até o momento, Amodei advertiu que, “em 6 a 12 meses, um enxame desse tipo possa ser capaz de dominar toda a internet com uma botnet persistente (potencialmente causando prejuízos de centenas de bilhões de dólares), e que a escala dos danos continue a aumentar a partir daí”.
Concorrência e cooperação internacional
Para Amodei, a desaceleração da IA precisa equilibrar segurança e competição. Ele afirmou que a Anthropic dará acesso total a avaliadores terceirizados, que poderão verificar práticas de proteção e registrar incidentes. Esses profissionais deverão trabalhar dentro dos escritórios da companhia, com mesas, crachás, laptops e permissões semelhantes às das equipes internas de avaliação de riscos.
O executivo também defendeu coordenação entre as empresas e cooperação global. A Anthropic já havia limitado o lançamento de seu modelo Mythos após concluir que ele apresentava ameaças únicas à segurança cibernética. Ao mesmo tempo, continua disputando com a OpenAI o desenvolvimento de sistemas capazes de automatizar tarefas mais complexas para clientes corporativos.
As duas empresas protocolaram documentos confidenciais para abrir capital, e a expectativa é que a Anthropic faça sua estreia na Bolsa de Valores ainda este ano. Por isso, uma desaceleração da IA também enfrenta dúvidas econômicas: investidores interessados em margens e lucros podem reagir mal à redução do ritmo de lançamentos, enquanto autoridades antitruste ainda precisariam avaliar se uma coordenação desse tipo seria permitida.
“Continuo acreditando que a IA pode melhorar enormemente a qualidade de vida humana. Meu desejo de alcançar esses benefícios permanece inabalável”, escreveu Amodei. “Mas os benefícios só serão alcançados se construirmos a tecnologia da maneira correta e — desde que usemos bem o tempo que ganhamos — vale a pena dedicar um cuidado excepcionalmente cuidadoso para fazê-la da maneira certa.”
