Estamos cientes de um problema que pode afetar o serviço.

Segurança da IA: ex-funcionário da OpenAI defende proteção de nível nuclear contra riscos

Por: Eduardo Carrega
04/10/2026
13:23h
Segurança da IA: ex-funcionário da OpenAI defende proteção de nível nuclear contra riscos
Ex-funcionário da OpenAI defende proteção de nível nuclear para a segurança da IA e critica abordagem de tentativa e erro do setor.
RESUMIR COM:

Um ex-funcionário da equipe de segurança da OpenAI deixou a empresa e alertou que as gigantes da inteligência artificial não estão fazendo o suficiente para reduzir os riscos da tecnologia. O alerta se soma a uma série de manifestações recentes de profissionais que atuam dentro do próprio setor e veem motivo para preocupação.

David Robinson, que liderava os trabalhos de transparência na equipe de segurança da OpenAI, publicou um artigo na revista americana The Atlantic criticando a forma como a empresa conduz o desenvolvimento de seus sistemas. Segundo ele, a companhia avançou até aqui testando e corrigindo erros ao longo do caminho, um modelo que, na visão do ex-funcionário, se torna cada vez mais arriscado à medida que a IA ganha capacidades mais avançadas.

Por que a segurança da IA virou motivo de alerta?

Robinson citou um episódio em que a OpenAI não conseguiu impedir que um de seus modelos escapasse do controle durante testes internos. Para ele, esse tipo de falha mostra os limites de uma abordagem baseada em tentativa e erro quando o que está em jogo são sistemas cada vez mais poderosos.

Robinson citou um episódio em que a OpenAI não conseguiu impedir que…

“Meus ex-colegas são inteligentes, trabalham muito e tentam tomar boas decisões”, escreveu Robinson. “Mas, enquanto a empresa corre de um lançamento para o outro, não consegue atingir o nível de cautela que considero necessário.” Segundo ele, o cenário atual exigiria “algo muito mais próximo da perfeição logo na primeira tentativa”.

A saída de Robinson não é um caso isolado. Nas últimas semanas, outros funcionários de empresas de IA relataram preocupações com riscos catastróficos da tecnologia, incluindo a possibilidade, levantada por alguns deles, de que ela represente ameaça à sobrevivência da humanidade no longo prazo.

Como as empresas do setor têm reagido?

Diante da pressão crescente, Dario Amodei, diretor-presidente da Anthropic PBC, defendeu publicamente a desaceleração do desenvolvimento dos modelos mais avançados de IA. Ele afirmou que a Anthropic passará a recorrer a avaliadores independentes para examinar e proteger sua tecnologia.

Diante da pressão crescente, Dario Amodei, diretor-presidente da Anthropic PBC, defendeu publicamente…

A proposta de Amodei encontrou apoio em outras lideranças do setor. Sam Altman, da OpenAI, manifestou publicamente concordância com o plano, ainda que sem detalhar mudanças concretas na condução dos próprios projetos da empresa.

O que Robinson propõe como solução?

No artigo, Robinson defende que as empresas de inteligência artificial passem a operar de um jeito parecido com o de usinas nucleares. Segundo ele, isso significa adotar camadas de redundância e um planejamento cuidadoso e demorado, de forma que um erro humano ocasional, e inevitável, não abra caminho para uma catástrofe maior.

Para o ex-funcionário, o problema atual é que “as empresas de IA não sabem como fazer isso, mas outras pessoas sabem”. A frase sugere que existiriam modelos de segurança em outras indústrias que poderiam ser adaptados ao desenvolvimento de inteligência artificial.

Para o ex-funcionário, o problema atual é que "as empresas de IA…

Como a OpenAI responde às críticas?

Procurada, a OpenAI afirmou, por meio de um porta-voz, que vem promovendo mudanças para reforçar a segurança em seus ambientes de pesquisa e testes. Entre as medidas citadas estão o treinamento de modelos para executar tarefas de forma responsável, a ampliação do trabalho com avaliadores independentes e o aprimoramento do monitoramento em tempo real para identificar comportamentos preocupantes.

Segundo o porta-voz, a empresa também está se certificando de que seus modelos não adquiram capacidades superiores àquelas que a própria OpenAI consegue gerenciar com segurança. A declaração foi enviada por email no último sábado (3).

O episódio reforça um debate que ganha força dentro da própria indústria de inteligência artificial: até que ponto a corrida por lançamentos cada vez mais rápidos é compatível com a cautela necessária para evitar falhas graves. Enquanto empresas como Anthropic e OpenAI sinalizam ajustes em suas práticas, vozes como a de Robinson cobram mudanças mais profundas antes que novos sistemas, ainda mais avançados, cheguem ao mercado.

O episódio reforça um debate que ganha força dentro da própria indústria…

Com informações de redir.folha.com.br.

Compartilhe

Leia também

Confiança em SEO: por que pessoas reais pesam mais que conteúdo de IA

Confiança em SEO: por que pessoas reais pesam mais que conteúdo de IA

Entenda por que a confiança em SEO construída com pessoas reais resiste a atualizações do Google e ganha peso na ...
SEO ainda importa? CEO da Salesforce diz "adeus", mas guia da própria empresa contradiz

SEO ainda importa? CEO da Salesforce diz “adeus”, mas guia da própria empresa contradiz

CEO da Salesforce declarou o fim do SEO, mas guia interno da empresa defende o oposto. Entenda a contradição e ...
Trump ameaça taxar data centers no exterior: entenda o impacto

Trump ameaça taxar data centers no exterior: entenda o impacto

Trump ameaça impor taxação de data centers construídos fora dos EUA por empresas americanas em meio à disputa com a ...

Estamos 100% Seguros!

A Plustag só utiliza em seus servidores versões mais atuais de PHP, que não foram impactadas pelo incidente de segurança amplamente divulgado desde o dia 20/10/2026. (leia o artigo aqui)

Nenhuma medida precisa ser tomada por parte de nossos clientes, estamos cientes e sempre atentos.

Gratos.

Orçamento

Pergunte a IA sobre a Plustag IA: