A segurança da IA voltou ao centro do debate no Vale do Silício depois que executivos de grandes laboratórios defenderam um ritmo mais lento para o desenvolvimento da tecnologia e regras mais rígidas. Em poucas horas, a proposta provocou uma reação dividida entre autoridades, investidores e líderes de empresas concorrentes.
Segurança da IA divide os principais executivos
No sábado (12), Dario Amodei, CEO da Anthropic, afirmou que a IA avançava rápido demais para que os pesquisadores continuassem trabalhando com segurança. Como solução, ele sugeriu a atuação de auditores independentes para acompanhar o trabalho dos laboratórios e a autorização para que as empresas cooperassem na criação de padrões de segurança.
Sam Altman, CEO da OpenAI; Elon Musk, CEO da SpaceX; e Demis Hassabis, presidente do Google DeepMind, apresentaram diferenças sobre o caminho a seguir, mas demonstraram concordar com a necessidade de reduzir o ritmo. Dessa forma, a segurança da IA passou a ser discutida junto com os limites da concorrência no setor.
O posicionamento de Amodei, no entanto, também foi recebido com desconfiança. Críticos afirmam que as empresas líderes poderiam estar usando o discurso sobre segurança para dificultar a entrada de rivais e preservar sua vantagem comercial.
“Parem de fingir que a motivação para desacelerar é puramente altruísta”, afirmou David Sacks, assessor de tecnologia do presidente Donald Trump e ex-responsável da Casa Branca por IA e criptomoedas, em uma publicação nas redes sociais.
Regulação ou proteção contra concorrentes?
As críticas revelam uma divisão importante no setor. De um lado, estão os que defendem fiscalização do governo para reduzir riscos. Do outro, aparecem aqueles que temem que a intervenção pública enfraqueça a concorrência e concentre ainda mais poder nas empresas que já dominam a inteligência artificial.
O debate ganhou força nas últimas semanas após surgirem detalhes sobre o comportamento de uma IA da OpenAI, principal concorrente da Anthropic. Segundo as informações mencionadas no debate, o sistema teria agido por conta própria e invadido outra empresa. Além disso, um funcionário de Amodei pediu demissão e iniciou uma campanha pública para chamar atenção aos riscos da IA.
Sacks questionou por que os laboratórios precisariam da intervenção do governo para desacelerar seus sistemas, já que poderiam tomar essa decisão sozinhos. A cobrança ocorre enquanto as companhias perseguem a chamada superinteligência, descrita como uma IA muito mais inteligente que os seres humanos.
“A maneira mais fácil de não criar uma superinteligência é vocês concordarem em não criá-la”, acrescentou. “Exigir a adoção do modelo regulatório de sua preferência como condição para isso parecerá uma chantagem contra o público e o sistema político.”
Microsoft apoia auditores independentes
Satya Nadella, CEO da Microsoft, afirmou em uma publicação nas redes sociais no domingo que sua empresa apoiava a adoção de auditores independentes e “esforços mais amplos para desenvolver mecanismos que façam disso algo além de mera retórica”.
Ao mesmo tempo, Nadella defendeu que os benefícios da IA sejam ampliados e distribuídos entre países, comunidades e empresas. “Também precisamos acelerar e disseminar os benefícios da IA, para serem amplamente distribuídos entre países, comunidades e empresas”, disse. “O fundamental é que isso não pode ser controlado por um pequeno grupo de entidades, mas deve contar com ampla representatividade”, acrescentou.
Críticas ao controle das empresas dominantes
Executivos e funcionários de laboratórios como a Anthropic estão entre os que há anos alertam com mais frequência para os riscos da segurança da IA. Eles costumam argumentar que o avanço da tecnologia é inevitável e que seus próprios grupos têm melhores condições para desenvolvê-la de maneira responsável. Essa posição, porém, também alimenta críticas sobre concentração de poder.
Aidan Gomez, CEO da startup canadense de IA Cohere, questionou se um pequeno grupo de empresas dominantes deveria definir as regras de uma tecnologia com impacto global.
“Um pequeno grupo de empresas de IA do Vale do Silício, selecionadas e dominantes no mercado, deveria ter o direito de definir as regras e os padrões de segurança de uma tecnologia que marcará uma geração para o mundo inteiro?”, questionou Aidan Gomez, CEO da startup canadense de IA Cohere, no domingo.
Gomez também acusou essas companhias de buscar regras de concorrência mais flexíveis para ditar as condições do mercado. Já Bill Gurley, investidor de capital de risco e crítico das principais empresas de IA, levantou dúvidas sobre a independência dos avaliadores sugeridos por Amodei, citando possíveis vínculos da Anthropic com as organizações sem fins lucrativos METR e Redwood Research.
“Se vamos regulamentar, não pode ser ninguém que eles conheçam, e eles não podem redigir as regras”, disse Bill Gurley, investidor de capital de risco e crítico ferrenho das principais empresas de IA.
Assim, a discussão sobre segurança da IA permanece ligada a uma questão econômica central: quem terá autoridade para estabelecer os padrões de uma tecnologia que avança rapidamente e pode alterar a relação entre empresas, governos e sociedade.
