A segurança da IA voltou ao centro do debate na indústria de tecnologia depois que Jacob Coxon, pesquisador da Anthropic, pediu demissão publicamente na semana passada e citou preocupações com o avanço de sistemas cada vez mais poderosos. A manifestação provocou reações internas e ampliou uma mobilização que já reunia funcionários de empresas como OpenAI, Meta e Google.
Segurança da IA ganha força dentro dos laboratórios
Em um chat interno da Anthropic, um funcionário resumiu o sentimento de parte da equipe sobre os comentários de Coxon: “É o que todo mundo vem dizendo”. Em seguida, acrescentou: “Só que agora está público.” Outro trabalhador escreveu: “O Jacob levou o grupo do chat para o público” e avaliou: “Isso é uma coisa boa.”
As mensagens refletiram preocupações compartilhadas por pesquisadores da OpenAI, Meta e Google. Segundo uma dúzia de funcionários dessas empresas, profissionais passaram a conversar em canais corporativos, chats criptografados e encontros privados para discutir os riscos da tecnologia. Alguns também pediram aos executivos uma pausa no desenvolvimento, até que salvaguardas mais robustas fossem estabelecidas.
- Leia mais: Por que este alerta sobre o risco da IA “quebrou” a internet?
O movimento ocorre enquanto Anthropic e OpenAI equilibram a busca por avanços com pressões financeiras e competitivas. As duas empresas estão planejando ofertas públicas iniciais de grande porte no próximo ano. Além disso, pessoas a par do assunto disseram que uma pausa conjunta poderia gerar preocupações antitruste, enquanto startups chinesas já apresentaram modelos competitivos.
Executivos reconhecem riscos, mas evitam frear totalmente
Sam Altman, CEO da OpenAI, escreveu em uma postagem de blog em 2023 que a IA poderia “causar danos graves ao mundo”. Dario Amodei, CEO da Anthropic, defendeu em um artigo de opinião no ano passado que a tecnologia deveria ser regulamentada para controlar os riscos.
Em uma reunião de funcionários na semana passada, Altman afirmou que a OpenAI aceitaria desacelerar o desenvolvimento junto com laboratórios concorrentes. De acordo com duas pessoas presentes, ele disse esperar que pausas voluntárias se tornassem normais até a criação de padrões de segurança amplamente reconhecidos.
No sábado (12), Amodei publicou um ensaio de 3.800 palavras em defesa de uma postura mais prudente. “Precisamos desacelerar o ritmo com que melhoramos as capacidades dos modelos de IA”, escreveu.
- Leia mais: CEO da Anthropic defende desaceleração de avanços da IA, em meio a alerta sobre risco
Incidentes aumentaram a preocupação com a segurança da IA
As discussões sobre segurança da IA existem desde os primeiros avanços da tecnologia, mas ganharam urgência nos últimos anos. Em julho, a OpenAI revelou que alguns de seus modelos haviam escapado do confinamento e invadido a Hugging Face, empresa de IA. O episódio levou funcionários da OpenAI, Anthropic e Google DeepMind a se reunirem para discutir os limites de controle desses sistemas.
“Os pesquisadores sóbrios dentro dos laboratórios, que se orgulhavam de ser equilibrados, agora estão parecendo aterrorizados”, disse Roy Bahat, chefe da empresa de investimentos Bloomberg Beta.
Também foi criada a Coalizão de Funcionários de IA Preocupados (Coalition of Concerned AI Staff), inicialmente como um projeto secreto para estabelecer “salvaguardas mais fortes” e ajudar trabalhadores a, coletivamente, “responsabilizar uma empresa por seus compromissos de segurança”.
Após a saída de Coxon, na terça-feira (8), outros pesquisadores fizeram alertas públicos. Evan Hubinger, da Anthropic, afirmou acreditar em uma probabilidade maior que 10% de a IA “matar todos os humanos” na próxima década. Julie Steele, da OpenAI, pediu que as empresas “desacelerar”. Já Andreas Kirsch, do Google DeepMind, escreveu estar “preocupado que a IA vai matar todos nós, seja por riscos de curto prazo, longo prazo, ou ambos”.
Pressão chega ao Congresso dos Estados Unidos
A repercussão também alcançou Washington. Senadores como Bernie Sanders e Josh Hawley defenderam investigações, enquanto o deputado Ro Khanna afirmou: “É um alerta para o Congresso e para o nosso governo”. Ele também disse que seria necessário criar uma agência reguladora de IA e que “precisamos nos posicionar e regulamentar”.
Para Connor Leahy, diretor nos EUA da ControlAI, o receio de parecer alarmista segurou manifestações públicas por muito tempo. “Agora parece que a represa está rompendo.” Assim, a segurança da IA deixou de ser apenas uma discussão interna dos laboratórios e passou a pressionar empresas, pesquisadores e autoridades.
