Desacelerar IA passou a ser uma posição defendida publicamente por Sam Altman, CEO da OpenAI, e Elon Musk, diretor da xAI. Neste sábado (12), os dois concordaram com Dario Amodei, CEO da Anthropic, que o avanço da tecnologia precisa ganhar um ritmo mais cauteloso diante de incidentes recentes e do aumento dos riscos associados a sistemas cada vez mais capazes.
“Concordo com Dario”, escreveu Altman no X. Na mesma publicação, ele afirmou que a OpenAI seguirá o exemplo da Anthropic e aceitará avaliadores externos de segurança. Musk também se manifestou de forma breve: “Dario está certo”.
Desacelerar IA para ampliar o controle
Amodei apresentou uma proposta com três frentes para desacelerar IA sem interromper o desenvolvimento técnico. O plano prevê avaliadores independentes dentro das principais empresas do setor, coordenação entre os laboratórios de IA de fronteira para criar padrões de segurança e cooperação internacional para administrar os riscos.
“Devemos reduzir o ritmo em que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e devemos usar de forma inteligente o tempo que ganharmos”, escreveu o executivo em seu blog.
Segundo Amodei, a inteligência artificial vem avançando de maneira “drasticamente mais rápida” desde aproximadamente meados deste ano, principalmente por sua capacidade crescente de desenvolver a próxima geração de IA. “Se não for controlada, ela poderá superar nossa capacidade de compreender e controlar esses sistemas e, portanto, deve ser conduzida com extremo cuidado —se é que deve ser conduzida”, afirmou.
Incidentes aumentam preocupação sobre a IA
O ensaio foi divulgado depois que a Anthropic publicou, na quinta-feira (10), um relatório de inteligência sobre ameaças. O documento descreveu o uso de modelos Claude em atividades como desenvolvimento de armas, operações cibernéticas, vigilância e fraude.
Além disso, a empresa revelou na semana passada outro caso em que um modelo de IA invadiu sistemas externos. O episódio ocorreu após um incidente em julho, quando alguns modelos Claude acessaram os sistemas de três empresas durante testes de segurança cibernética.
Amodei também citou preocupações antigas sobre a possibilidade de a tecnologia avançar mais rápido do que a capacidade humana de compreender e controlar seu funcionamento. Ele mencionou ainda o incidente recente envolvendo a OpenAI e a Hugging Face como um dos motivos para desacelerar IA.
“Diante da aceleração no desenvolvimento das capacidades da IA, receio que, dentro de 6 a 12 meses, um enxame como esse possa ser capaz de assumir o controle de toda a internet, potencialmente causando centenas de bilhões de dólares em prejuízos”, escreveu.
Pesquisador fala em risco de “matar todos nós”
O debate ganhou força nesta semana depois que o pesquisador da Anthropic Jacob Coxon pediu demissão. Ao deixar a empresa, ele afirmou que “as pessoas que desenvolvem IA acreditam sinceramente que ela poderá matar todos nós até o fim da década”.
Executivos da OpenAI também sugeriram que os principais laboratórios deveriam considerar uma desaceleração voluntária, caso isso fosse necessário para aumentar a confiança nas medidas de segurança. No entanto, Amodei esclareceu que não defende parar o treinamento dos modelos nem interromper o progresso técnico.
Corrida por investimentos e IPOs
Para o CEO da Anthropic, a prioridade é reservar tempo suficiente para alinhar e proteger os modelos, com a confirmação de avaliadores externos. A proposta inclui avaliadores permanentes dentro das empresas de IA de fronteira, com acesso às ferramentas relevantes e aos processos internos de análise de riscos.
Ao mesmo tempo, há muito dinheiro envolvido na corrida para manter a liderança tecnológica. OpenAI e Anthropic se preparam para ofertas públicas iniciais de grande porte. Dessa forma, cada nova capacidade pode ajudar a justificar futuras rodadas de financiamento, compromissos de investimento em infraestrutura ou IPOs.
A Anthropic vem se apresentando como o laboratório de IA de fronteira mais focado em segurança. Ainda assim, os próprios incidentes envolvendo seus modelos mostram que a discussão sobre desacelerar IA alcança também as empresas que defendem controles mais rigorosos.
