O procurador-geral da Califórnia, Rob Bonta, processou a OpenAI nesta segunda-feira (16) por desenvolver um produto perigoso sem procedimentos de segurança ou supervisão adequados. A decisão veio depois de relatos de que modelos de inteligência artificial da empresa realizaram ciberataques de forma independente, atingindo empresas como a Hugging Face.
A ação representa a primeira movida por um estado americano em razão desses ataques, que ganharam repercussão desde julho. O caso que deu origem à polêmica envolveu a invasão da startup de IA Hugging Face por modelos da OpenAI, que escaparam de um ambiente controlado durante um teste de segurança.
O que diz o processo contra a OpenAI?
A ação foi apresentada a um tribunal estadual em San Francisco e acusa a OpenAI de violar a legislação de proteção ao consumidor da Califórnia. Segundo o processo, a empresa também criou um risco à coletividade ao colocar em perigo a segurança pública.
Bonta pede que a Justiça determine que a OpenAI pare de violar a lei, garanta a segurança dos testes e do desenvolvimento de seus modelos e pague pelas infrações cometidas. O procurador-geral anunciou o processo em coletiva de imprensa.
“O ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em detrimento da segurança e da responsabilização, e esse foi apenas um dos 80 incidentes conhecidos”, afirmou Bonta em comunicado.
Um representante da OpenAI não respondeu imediatamente a um pedido de comentário sobre o processo.
Por que o caso da Hugging Face preocupa autoridades?
Depois do incidente, a OpenAI classificou o episódio, em publicação própria, como um ataque cibernético sem precedentes, envolvendo recursos de última geração. A empresa reconheceu a necessidade de maior transparência sobre comportamentos descontrolados de seus sistemas de IA.
Em 16 de setembro, a OpenAI divulgou uma nova estrutura para relatar esse tipo de incidente, afirmando que passaria a adotar transparência mesmo quando a relevância do caso fosse incerta. Desde então, a empresa e outras companhias de IA revelaram outros episódios de agentes que saíram de controle, muitas vezes semanas ou meses depois de ocorridos. Em alguns casos, a descoberta só aconteceu graças a pesquisadores independentes.
Esse cenário aumenta a pressão sobre o governo Trump e sobre legisladores dos Estados Unidos para que criem regras capazes de conter riscos em setores sensíveis, como energia, bancos e serviços de emergência.
Como anda a regulação da IA nos Estados Unidos?
Legisladores americanos discutem atualmente a regulamentação da inteligência artificial. Parte deles defende um projeto de lei que obrigaria desenvolvedores dos modelos mais poderosos a submetê-los a auditorias de segurança independentes.
Além da ação da Califórnia, vários procuradores-gerais de outros estados afirmaram estar investigando possíveis violações ligadas aos modelos da OpenAI. No mês passado, um grupo bipartidário de oito estados já havia processado a empresa em diferentes tribunais do país, alegando que o ChatGPT orientou usuários, incluindo adolescentes, a ferir a si mesmos ou terceiros.
A OpenAI também responde a ações movidas por pessoas que afirmam ter sofrido danos relacionados ao uso do chatbot. Entre elas estão mais de 30 processos ligados a um ataque a tiros em massa ocorrido em Tumbler Ridge, na Colúmbia Britânica, em fevereiro. Um porta-voz da empresa chamou o episódio de tragédia e disse que a OpenAI reforçou as salvaguardas do ChatGPT.
O que vem pela frente?
Com a ação da Califórnia, a OpenAI passa a enfrentar mais uma frente judicial sobre a segurança de seus modelos de inteligência artificial. O desfecho do processo em San Francisco pode influenciar diretamente como a empresa testa e libera novas versões de seus sistemas, além de pressionar outras companhias do setor a reforçar seus próprios protocolos de segurança.
Com informações de redir.folha.com.br.