Os riscos da IA e a velocidade dos avanços tecnológicos estão deixando profissionais do setor “genuinamente assustados”, segundo Jacob Coxon, pesquisador de 27 anos que pediu demissão da Anthropic, empresa responsável pelo Claude. Em entrevista à BBC, ele afirmou que o ritmo atual pode representar uma ameaça grave ao futuro da humanidade.
“Acredito que, se não diminuirmos o ritmo atual de progresso, há uma grande chance de todos morrermos em um futuro próximo”, afirmou Coxon. Ele passou os últimos três anos trabalhando no pré-treinamento de modelos de inteligência artificial —primeiro na OpenAI, depois na Anthropic— e anunciou sua saída na última semana, em uma publicação no X que acabou viralizando.
Riscos da IA entram no centro do debate
A manifestação ocorreu em meio à preocupação crescente com a segurança da IA. Dario Amodei, diretor da Anthropic e ex-chefe de Coxon, defendeu recentemente, em um ensaio, que o desenvolvimento dos modelos seja desacelerado e acompanhado de perto.
Sam Altman, da OpenAI, e Elon Musk, da xAI, também disseram concordar com a necessidade de reduzir o ritmo e criar regras para todo o setor. Além disso, os dois defenderam um monitoramento independente da evolução dos sistemas.
Em um ensaio publicado no sábado (12), Amodei disse que o avanço tecnológico não deveria ser interrompido. No entanto, classificou os riscos associados à inteligência artificial como “sérios” e afirmou que empresas e governos precisam de tempo para enfrentá-los.
Coxon apoia uma desaceleração, mas considera que ela precisaria ser coordenada com a China. Dessa forma, seria possível evitar “uma corrida em escala internacional”.
“As pessoas que trabalham nessas empresas falam muito sério quando pedem regulamentação, porque se sentem presas em uma corrida. E têm medo das consequências dessa corrida”, disse ele ao programa Sunday with Laura Kuenssberg, da BBC.
Possíveis cenários e riscos da IA
Para Coxon, uma das perguntas mais difíceis atualmente é imaginar como seria um apocalipse provocado pela inteligência artificial. Entre os riscos da IA citados por Amodei está a possibilidade de um enxame de bots funcionar como um supercomputador capaz de dominar a internet.
Na avaliação de Coxon, esse cenário poderia se tornar realista dentro de seis meses a um ano. A declaração ampliou a discussão sobre os limites de segurança da IA e sobre a responsabilidade das empresas que desenvolvem modelos cada vez mais poderosos.
Após a saída do pesquisador, um porta-voz da Anthropic declarou à BBC News: “Sempre fomos transparentes quanto ao fato de que a IA trará tanto enormes benefícios quanto riscos sem precedentes.”
“Para lidar com esses riscos, continuamos a desenvolver modelos com algumas das salvaguardas mais robustas do setor.”
A empresa também afirmou ser pioneira no estudo do funcionamento dos modelos. Segundo o porta-voz, a Anthropic foi a primeira a publicar uma estrutura para reduzir os riscos da IA e realiza testes de forma “agressiva”, divulgando os resultados para facilitar análises e prevenir incidentes de “desalinhamento da IA”.
Especialistas divergem sobre a ameaça
O debate ganhou novos participantes depois da publicação de Coxon. O cientista antropológico Evan Hubinger escreveu: “Acreditamos sinceramente que a IA pode matar todos os humanos! Pessoalmente, acho que esse número ultrapassará 10% na próxima década”.
Geoffrey Hinton, cientista da computação e ganhador do Prêmio Nobel conhecido como o “Pai da IA”, disse à BBC na sexta-feira (11) que uma probabilidade de 10% de a IA matar todos os humanos “não é irrazoável”.
Por outro lado, Marc Warner, diretor executivo da Faculty AI, afirmou ser “extremamente difícil estabelecer uma probabilidade” para esse tipo de evento. Ainda assim, ele ressaltou que os especialistas fazem alertas sinceros e que os riscos da IA vêm sendo mencionados há anos por líderes do setor.
Algumas figuras da indústria, porém, sugeriram que declarações sobre os perigos e o poder da tecnologia também podem ter sido feitas para gerar expectativa. O diretor executivo da Hugging Face, Clement Delangue, afirmou nas redes sociais: “Desculpe, mas perguntar a Jacob [Coxon] sobre o risco de extinção da IA é como perguntar ao técnico de ar-condicionado sobre mudanças climáticas. Não estou dizendo q”
