Um termo batizado de P(doom), abreviação de “probabilidade de destruição” em inglês, ganhou força nas últimas semanas entre pesquisadores de inteligência artificial. A expressão tenta resumir em um único número a chance de a IA causar uma catástrofe capaz de exterminar a humanidade. O problema é que essa conta é bem mais complicada do que parece.
O debate voltou à tona depois que Evan Hubinger, pesquisador sênior de segurança de IA da Anthropic, publicou no X uma mensagem afirmando acreditar, de forma sincera, que a IA poderia matar todos os seres humanos. Segundo ele, a probabilidade disso acontecer na próxima década seria superior a 10%.
Por que o risco da IA é tão difícil de calcular?
Não há consenso sobre como chegar a um número confiável para o P(doom). Geoffrey Hinton, pioneiro das redes neurais e ganhador do prêmio Nobel, deixou o Google em 2023 alertando sobre os perigos crescentes da tecnologia. Em entrevista recente à BBC, Hinton disse que um P(doom) de 10% “não seria irracional”, mas admitiu que ninguém sabe realmente como fazer uma estimativa sensata sobre o tema.
Parte do problema está na natureza das previsões sobre eventos extremos e raros. O pesquisador Philip Tetlock, especialista em métodos de previsão, defende que boas estimativas precisam de duas coisas: uma medida objetiva e um prazo definido. Quando a previsão envolve o fim da humanidade, porém, simplesmente esperar para ver se ela se confirma não é uma estratégia viável.
O que dizem os especialistas em previsão sobre o risco da IA
Tetlock participa de um projeto chamado AIRO (Perspectiva Automatizada de Riscos de IA), no qual especialistas em previsões estimam a probabilidade de a inteligência artificial provocar diferentes níveis de dano. As estimativas vão desde perdas de 1 bilhão de libras (R$ 6,86 bilhões) ou de 1.000 vidas até a morte de 10% da população mundial.
Segundo essas projeções, a chance de a IA matar cerca de 1 bilhão de pessoas é inferior a 0,5% até 2030 e inferior a 5% até 2050. Para efeito de comparação, a probabilidade de uma catástrofe causada por qualquer motivo, incluindo armas nucleares, vírus e colisões de asteroides, é estimada em 8,5% até 2050.
Por que as previsões sobre IA ganham tanta atenção
Previsões alarmantes costumam cumprir funções que vão além de informar. Uma delas é simplesmente chamar atenção. Ao concentrar o debate público no risco de extinção causado pela IA, o setor acaba desviando o foco de outras ameaças conhecidas, como guerra nuclear, terrorismo, fascismo, colapso financeiro, mudança climática e pandemias.
Outra função comum das previsões é reforçar a reputação de quem as faz, especialmente quando elas se confirmam. No início do século 20, o economista Roger Babson tentou adaptar ideias de Isaac Newton para prever crises econômicas. As previsões baseadas nesse método não funcionaram bem, mas Babson soube divulgar amplamente os poucos acertos, construindo fama como profeta econômico.
Quando uma profecia vira estratégia de sobrevivência
O livro “Prophecy”, lançado em 2026 pela pesquisadora Carissa Véliz, traz um exemplo de como uma previsão alarmante sobre IA pode se transformar em algo diferente: uma estratégia de sobrevivência. A obra discute como discursos sobre riscos extremos da tecnologia acabam influenciando decisões práticas de quem trabalha no setor.
O debate sobre o P(doom) mostra que calcular o risco de a IA causar uma catástrofe global segue sendo um exercício cercado de incertezas. Pesquisadores como Hinton e Tetlock reconhecem que os números divulgados até agora servem mais como referência para discussão do que como certeza científica. Ainda assim, o tema deve continuar no centro das discussões sobre regulação e segurança da inteligência artificial nos próximos anos.
Com informações de redir.folha.com.br.
