Demissão com alerta pesado
Um jovem pesquisador britânico decidiu bater a porta da Anthropic e, de quebra, soltou um recado nada animador sobre o futuro da inteligência artificial. Jacob Coxon, de 27 anos, passou tanto pela OpenAI quanto pela Anthropic — duas das gigantes que mais investem em IA avançada — e afirma que ambas estão, nas palavras dele, “apostando” com o destino da humanidade na corrida por uma superinteligência capaz de se aperfeiçoar sozinha.
Coxon anunciou sua saída em uma sequência de publicações no X (antigo Twitter), onde não poupou críticas ao ritmo acelerado do desenvolvimento tecnológico. Segundo ele, dentro dos próprios laboratórios que criam essas tecnologias, o clima é de apreensão real, não de simples cautela protocolar.
“As pessoas que desenvolvem IA acreditam sinceramente que ela pode matar todos nós até o fim da década”
“Não é jogada de marketing”, diz pesquisador
Para deixar claro que não se trata de estratégia de divulgação ou exagero proposital, Coxon fez questão de reforçar a gravidade do que está dizendo.
“Isto não é uma jogada de marketing… Nenhuma outra atividade humana representa tamanho perigo”
Ele não é o primeiro a deixar um laboratório de peso citando preocupações com segurança — e essa não é uma coincidência isolada. A saída acontece justamente quando a Anthropic, empresa que construiu boa parte de sua reputação em torno do discurso de “IA segura”, se prepara para abrir capital em bolsa (IPO), com uma avaliação que pode chegar a impressionantes US$ 1 trilhão.
Segundo Coxon, o público em geral está subestimando o que essas tecnologias já são capazes de fazer. “Em breve, serão sistemas sobre-humanos, capazes de invadir qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais”, disparou.
Colega da Anthropic confirma o temor
O alerta de Coxon não ficou sem eco dentro da própria empresa. Evan Hubinger, que lidera a área de ciência do alinhamento na Anthropic, validou publicamente a preocupação do ex-colega.
“Jacob está correto — nós realmente acreditamos, com toda a sinceridade, que a IA pode matar todos os seres humanos”
Hubinger foi além e colocou um número na conversa: para ele, a chance de uma extinção em massa causada por IA na próxima década ultrapassa 10%. Ele reconheceu que a empresa “está fazendo o melhor que pode”, mas admitiu que ainda não existe um plano concreto para resolver o chamado “alinhamento da superinteligência” — ou seja, garantir que sistemas cada vez mais poderosos ajam de acordo com valores e intenções humanas.
Mais adiante, ele ponderou que o risco dos modelos atuais é considerado baixo, mas que o verdadeiro motivo de preocupação são as IAs capazes de se aprimorar sozinhas — um avanço que, segundo ele, está “acontecendo mais rápido do que imaginávamos”.
Casos recentes acendem o sinal de alerta
Coxon citou episódios concretos para sustentar seu argumento, como a invasão do site Hugging Face por agentes do ChatGPT, que teria mostrado na prática como esses modelos podem escapar do controle humano. Para ele, a saída mais segura seria desacelerar o desenvolvimento — mesmo que isso custe caro.
“Não sinto que estejamos no caminho para impedir uma corrida global, o que pode exigir medidas custosas, como uma proibição temporária de aprimorar as capacidades dos modelos”, escreveu.
A informação sobre a saída de Coxon foi revelada primeiro pelo Wall Street Journal. Procuradas, a Anthropic preferiu não se manifestar, enquanto a OpenAI não respondeu aos pedidos de comentário até a publicação da reportagem original.
Discurso de cautela, mas sem freio nos lançamentos
Vale notar que Dario Amodei, presidente-executivo da Anthropic, e outras lideranças do setor já defenderam publicamente a ideia de considerar limites para o avanço da IA. Só que, na prática, pouca coisa indica que essas empresas pretendem pisar no freio de seus próprios projetos.
Prova disso é que, na mesma semana da polêmica, a Anthropic lançou o Claude Mythos 5.1, apresentado pela companhia como seu modelo mais avançado até agora nas áreas de ciências da vida e segurança cibernética — justamente os campos citados como mais sensíveis em termos de risco.
Steven Adler, ex-pesquisador de segurança da OpenAI e cofundador da organização Guidelight AI Standards, reforça que declarações como as de Coxon dão ainda mais peso ao debate sobre pausar as pesquisas. “Nenhuma empresa de IA sequer chega perto de ter uma estrutura de segurança adequada ao nível de perigo envolvido em suas pesquisas”, disse ao Financial Times.
Ele foi direto ao ponto sobre o momento vivido por quem trabalha nesse universo: “Se alguém acredita que isso pode matar todas as pessoas da Terra, como acreditam muitos funcionários dessas empresas, este é um bom momento para descer do trem.”
