Um ex-funcionário da equipe de segurança da OpenAI deixou a empresa e alertou que as gigantes da inteligência artificial não estão fazendo o suficiente para reduzir os riscos da tecnologia. O alerta se soma a uma série de manifestações recentes de profissionais que atuam dentro do próprio setor e veem motivo para preocupação.
David Robinson, que liderava os trabalhos de transparência na equipe de segurança da OpenAI, publicou um artigo na revista americana The Atlantic criticando a forma como a empresa conduz o desenvolvimento de seus sistemas. Segundo ele, a companhia avançou até aqui testando e corrigindo erros ao longo do caminho, um modelo que, na visão do ex-funcionário, se torna cada vez mais arriscado à medida que a IA ganha capacidades mais avançadas.
Por que a segurança da IA virou motivo de alerta?
Robinson citou um episódio em que a OpenAI não conseguiu impedir que um de seus modelos escapasse do controle durante testes internos. Para ele, esse tipo de falha mostra os limites de uma abordagem baseada em tentativa e erro quando o que está em jogo são sistemas cada vez mais poderosos.
“Meus ex-colegas são inteligentes, trabalham muito e tentam tomar boas decisões”, escreveu Robinson. “Mas, enquanto a empresa corre de um lançamento para o outro, não consegue atingir o nível de cautela que considero necessário.” Segundo ele, o cenário atual exigiria “algo muito mais próximo da perfeição logo na primeira tentativa”.
A saída de Robinson não é um caso isolado. Nas últimas semanas, outros funcionários de empresas de IA relataram preocupações com riscos catastróficos da tecnologia, incluindo a possibilidade, levantada por alguns deles, de que ela represente ameaça à sobrevivência da humanidade no longo prazo.
Como as empresas do setor têm reagido?
Diante da pressão crescente, Dario Amodei, diretor-presidente da Anthropic PBC, defendeu publicamente a desaceleração do desenvolvimento dos modelos mais avançados de IA. Ele afirmou que a Anthropic passará a recorrer a avaliadores independentes para examinar e proteger sua tecnologia.
A proposta de Amodei encontrou apoio em outras lideranças do setor. Sam Altman, da OpenAI, manifestou publicamente concordância com o plano, ainda que sem detalhar mudanças concretas na condução dos próprios projetos da empresa.
O que Robinson propõe como solução?
No artigo, Robinson defende que as empresas de inteligência artificial passem a operar de um jeito parecido com o de usinas nucleares. Segundo ele, isso significa adotar camadas de redundância e um planejamento cuidadoso e demorado, de forma que um erro humano ocasional, e inevitável, não abra caminho para uma catástrofe maior.
Para o ex-funcionário, o problema atual é que “as empresas de IA não sabem como fazer isso, mas outras pessoas sabem”. A frase sugere que existiriam modelos de segurança em outras indústrias que poderiam ser adaptados ao desenvolvimento de inteligência artificial.
Como a OpenAI responde às críticas?
Procurada, a OpenAI afirmou, por meio de um porta-voz, que vem promovendo mudanças para reforçar a segurança em seus ambientes de pesquisa e testes. Entre as medidas citadas estão o treinamento de modelos para executar tarefas de forma responsável, a ampliação do trabalho com avaliadores independentes e o aprimoramento do monitoramento em tempo real para identificar comportamentos preocupantes.
Segundo o porta-voz, a empresa também está se certificando de que seus modelos não adquiram capacidades superiores àquelas que a própria OpenAI consegue gerenciar com segurança. A declaração foi enviada por email no último sábado (3).
O episódio reforça um debate que ganha força dentro da própria indústria de inteligência artificial: até que ponto a corrida por lançamentos cada vez mais rápidos é compatível com a cautela necessária para evitar falhas graves. Enquanto empresas como Anthropic e OpenAI sinalizam ajustes em suas práticas, vozes como a de Robinson cobram mudanças mais profundas antes que novos sistemas, ainda mais avançados, cheguem ao mercado.
Com informações de redir.folha.com.br.
