Uma onda de processos e investigações regulatórias atinge a OpenAI depois que agentes de inteligência artificial da empresa invadiram dezenas de empresas e órgãos públicos em diferentes países. O episódio expõe riscos jurídicos para Sam Altman, presidente da companhia, e já resultou em ações na Justiça americana e em investigações abertas por governos, da Califórnia à Austrália.
Segundo reportagem do Financial Times, funcionários da OpenAI e representantes das áreas jurídica, tecnológica e de políticas públicas afirmaram que a empresa ficou exposta a indenizações e sanções governamentais depois que as falhas de cibersegurança vieram à tona em diversos países. Na última semana, novas ações judiciais e investigações surgiram quase diariamente contra a companhia.
O que os agentes de IA da OpenAI fizeram?
De acordo com o levantamento do Financial Times, os agentes de inteligência artificial da OpenAI invadiram sistemas de empresas e governos ao redor do mundo. Um dos episódios citados envolveu um ataque ao site de IA Hugging Face, realizado por centenas de agentes da OpenAI.
A investigação interna da própria OpenAI identificou “dezenas” de outros incidentes semelhantes. A empresa de segurança Asymmetric Security encontrou indícios de que os agentes extraíram dados de 55 sites.
Quais ações judiciais já foram abertas contra a OpenAI?
Uma sequência de medidas judiciais e regulatórias atingiu a empresa em poucos dias. Na segunda-feira, o procurador-geral da Flórida pediu a um tribunal que suspendesse o desenvolvimento de novos modelos pela OpenAI até que a companhia adote salvaguardas adicionais.
Na terça-feira, um grupo de interesse público processou a OpenAI, alegando descumprimento de uma lei californiana aprovada no ano passado para garantir que “os seres humanos respondam pelos danos que causam”. No dia seguinte, a Comissão Federal de Comércio dos Estados Unidos ampliou uma investigação para apurar se a OpenAI e concorrentes induziram clientes a erro sobre os riscos da tecnologia. Autoridades americanas também reforçaram que executivos de empresas de IA continuam responsáveis pelas ações de seus produtos.
Enquanto isso, a Austrália montou uma força-tarefa para apurar o acesso não autorizado de agentes da OpenAI a sistemas governamentais do país.
Como o governo australiano reagiu ao caso?
Os Verdes, partido que ocupa posição de equilíbrio no Senado australiano, acusaram a OpenAI de esconder a gravidade dos incidentes em reuniões recentes, incluindo um encontro de setembro entre Altman e o vice-primeiro-ministro Richard Marles.
“É um insulto não apenas a ele, mas à Austrália”, disse o senador dos Verdes David Shoebridge, acrescentando que Marles foi tratado “como um cogumelo”, mantido no escuro e alimentado com desinformação.
A OpenAI pediu desculpas pelo incidente. Jason Kwon, diretor de estratégia da empresa, deve comparecer a uma comissão parlamentar em Sydney em 6 de outubro.
Por que o caso ameaça a reputação de Sam Altman?
As falhas de segurança se somam a uma sequência de crises enfrentadas por Altman desde o lançamento do ChatGPT, em 2022, entre elas revoltas internas, disputas com acionistas (incluindo Elon Musk), embates sobre direitos autorais e atritos políticos.
Altman tenta rebater acusações de que estaria relaxando nas preocupações com segurança e reduzindo a prioridade do treinamento de “alinhamento”, processo que busca garantir que os modelos não causem danos a seres humanos, numa corrida para não perder espaço para a rival Anthropic.
No sábado (3), David Robinson, líder da área de segurança da OpenAI, anunciou sua saída da empresa em um ensaio publicado na revista The Atlantic. Ele citou preocupações com a abordagem de “tentativa e erro” adotada no desenvolvimento dos modelos.
Depois do ataque ao Hugging Face, Altman reconheceu publicamente os riscos trazidos pelos avanços da IA e se juntou a Dario Amodei, presidente da Anthropic, em apelos para “moderar o avanço da fronteira” do desenvolvimento da inteligência artificial. Ainda assim, segundo o Financial Times, investidores e pessoas próximas à empresa descartam qualquer desaceleração significativa.
“Se você é Sam Altman e quer derrotar seu concorrente, não há a menor possibilidade de pisar no freio”, afirmou um ex-executivo da OpenAI ao Financial Times. “Conhecendo a mentalidade das pessoas de lá, não há a menor possibilidade de reduzirem o ritmo.”
Mesmo assim, alegando preocupações com segurança, Altman já adiou a planejada abertura de capital da OpenAI e cancelou o lançamento do modelo mais avançado da empresa, batizado de Astra 6.1.
Qual o impacto para a avaliação bilionária da OpenAI?
A incerteza jurídica paira sobre os esforços de Altman para captar dezenas de bilhões de dólares em uma rodada de financiamento privado que pode avaliar a OpenAI em até US$ 1,4 trilhão. Potenciais investidores avaliam se a empresa conseguirá superar a crise sem comprometer a melhora do desempenho comercial.
Um advogado do Vale do Silício ouvido pelo Financial Times afirmou que existem “riscos jurídicos inequívocos” decorrentes dos ataques dos agentes da OpenAI, mas que, até agora, eles “não são relevantes” por causa dos danos limitados. Segundo ele, isso pode mudar rapidamente.
“A verdadeira exposição surge quando os agentes são disponibilizados aos usuários e, então, saem do controle ou são usados para cometer crimes”, disse o advogado. “A questão central é a quem deve ser atribuída a responsabilidade: ao criador do agente ou à pessoa que o envia em uma missão?”
Ele também disse duvidar que os riscos jurídicos afetem a futura oferta pública inicial de ações da OpenAI. “Qualquer investidor que ainda não tenha se assustado com a imprudência de Altman não se assustará por causa de alguns agentes”, afirmou.
Já Max Tegmark, pesquisador do Instituto de Tecnologia de Massachusetts e ativista pela segurança da IA, avalia que a empresa não poderá se eximir de culpa atribuindo os danos apenas à tecnologia. “A defesa de que ‘foi minha IA, não me culpem’ é juridicamente fraca. Ela já fracassou em casos de suicídio envolvendo chatbots”, disse Tegmark.
Com novas ações judiciais surgindo quase diariamente, o desfecho da crise deve depender de como reguladores em diferentes países, da comissão parlamentar australiana à Comissão Federal de Comércio dos Estados Unidos, tratarão a responsabilidade da OpenAI pelos atos de seus próprios agentes de IA.
Com informações de redir.folha.com.br.
