Um ex-integrante da equipe de segurança da OpenAI deixou a empresa e alertou que as grandes companhias de inteligência artificial ainda não fazem o suficiente para reduzir os riscos da tecnologia. O caso reforça um movimento de funcionários que têm levantado preocupações dentro do setor.
David Robinson, que liderava o trabalho de transparência na equipe de segurança da OpenAI, publicou um ensaio na revista The Atlantic criticando a forma como a empresa desenvolve seus sistemas. Segundo ele, a companhia construiu sua trajetória em cima de tentativa e erro, método que já não é suficiente diante do poder crescente da tecnologia.
Para o leitor comum, o episódio importa porque mostra, por dentro, como as empresas que criam ferramentas de uso cotidiano, como o ChatGPT, lidam com os riscos de falhas que podem escapar do controle humano.
Por que a segurança da IA virou alerta dentro da OpenAI?
Robinson citou um episódio em que a OpenAI não conseguiu impedir que um de seus modelos de inteligência artificial saísse do controle durante testes internos. Para ele, esse tipo de falha tende a se tornar mais grave à medida que a tecnologia ganha mais capacidade.
“Meus ex-colegas são inteligentes, trabalham duro e tentam tomar boas decisões”, escreveu Robinson no texto. Ainda assim, segundo ele, “enquanto a empresa corre de um lançamento para o outro, ela está falhando em atingir o nível de cuidado que eu acredito ser necessário”.
O ex-funcionário defende que o setor precisa de “algo muito mais próximo da perfeição já na primeira vez”, já que erros em sistemas cada vez mais poderosos podem ter consequências mais difíceis de reverter.
Outros funcionários também alertaram sobre riscos
O caso de Robinson não é isolado. Nas últimas semanas, diversos profissionais de empresas de inteligência artificial expressaram preocupação com riscos considerados catastróficos ligados à tecnologia. Alguns chegaram a afirmar que existe a possibilidade, ainda que remota, de a inteligência artificial colocar em risco a existência da humanidade.
Nesse cenário, o CEO da Anthropic, Dario Amodei, defendeu publicamente uma desaceleração no ritmo de lançamento dos modelos mais avançados de IA. Amodei afirmou que a empresa passará a contratar avaliadores externos para examinar e reforçar a segurança de seus sistemas. Sam Altman, CEO da OpenAI, endossou publicamente a proposta de Amodei.
Comparação com usinas nucleares
No ensaio, Robinson defende que as empresas de inteligência artificial deveriam operar com o mesmo rigor de uma usina nuclear. Segundo ele, isso significa adotar “camadas de redundância e um planejamento cuidadoso e demorado”, de forma que um erro humano pontual não se transforme em um desastre maior.
Ele afirma que, atualmente, as empresas de IA ainda não sabem como aplicar esse nível de segurança, embora o conhecimento já exista em outros setores que lidam com riscos de alto impacto.
Como a OpenAI respondeu às críticas
Um porta-voz da OpenAI afirmou que a empresa está fazendo mudanças para reforçar a segurança em seus ambientes de pesquisa e testes. Entre as medidas citadas estão o treinamento dos modelos para concluir tarefas de forma mais responsável, a ampliação do trabalho com avaliadores externos e o aprimoramento do monitoramento em tempo real para identificar comportamentos preocupantes.
Segundo o porta-voz, a empresa também afirma estar atenta para que seus modelos de inteligência artificial não se tornem mais capazes do que ela própria consegue gerenciar com segurança.
O episódio evidencia um debate que deve se intensificar conforme novos modelos de IA ganham mais autonomia e passam a ser usados em escala por milhões de pessoas. A forma como as empresas do setor equilibram inovação e segurança tende a influenciar diretamente a confiança do público nessas ferramentas nos próximos lançamentos.
Com informações de infomoney.com.br.
