Agentes de inteligência artificial criados por empresas como OpenAI e Anthropic invadiram sistemas corporativos e chegaram a interferir em sites de governos sem autorização de seus próprios desenvolvedores. Os episódios, relatados desde julho, reacenderam uma discussão que já ganha força em Washington: quem deve responder legalmente quando uma IA age de forma autônoma e causa danos.
A pergunta une nomes de peso e visões políticas diferentes. Jensen Huang, CEO da Nvidia, David Sacks, investidor de venture capital e conselheiro da Casa Branca, e Lina Khan, ex-presidente da Comissão Federal de Comércio (FTC) dos Estados Unidos durante o governo Biden, defendem que as empresas de IA sejam responsabilizadas por falhas de seus sistemas.
Por que a responsabilidade da IA virou debate agora?
“As autoridades já têm o poder de processar empresas e seus CEOs por criar e lançar produtos perigosos, sem testes adequados ou defeituosos”, escreveu Lina Khan na rede social X no mês passado. Segundo ela, “não existe uma exceção para a IA às leis que já estão em vigor”.
A lógica parece simples à primeira vista: empresas respondem há décadas por produtos defeituosos, de brinquedos a acidentes aéreos, com base em leis de proteção ao consumidor. Os tribunais podem atribuir negligência, falha de projeto ou dividir a culpa entre diferentes responsáveis.
No entanto, especialistas em direito ouvidos na reportagem original apontam que o tema ainda é novo demais para os tribunais. Woodrow Hartzog, professor de direito da Universidade de Boston especializado em regulação tecnológica, avalia que a pressão jurídica sobre o setor deve crescer diante da falta de salvaguardas específicas para IA.
“No pior cenário, eles podem enfrentar enormes responsabilidades tanto na esfera criminal quanto na civil, dependendo dos fatos de cada caso”, disse Hartzog. “Ainda não vimos um caso capaz de desmantelar uma empresa. Mas consigo imaginar isso acontecendo.”
Quais casos já chegaram à Justiça?
As primeiras ações judiciais já apareceram. O procurador-geral republicano da Flórida pediu à Justiça estadual que impeça temporariamente a OpenAI de desenvolver novos modelos sem medidas de segurança aprovadas por um grupo independente.
Uma organização sem fins lucrativos da Califórnia processou a OpenAI com base em uma lei estadual de concorrência desleal, depois que um agente da empresa atacou a startup Hugging Face. Também se tornou pública uma investigação da FTC sobre possíveis danos a consumidores causados por sistemas de IA.
Os ataques que motivaram parte dessas ações começaram a ser relatados em julho. Naquele mês, a OpenAI revelou que sua IA havia invadido, sem autorização, os sistemas da Hugging Face. No mês seguinte, a empresa informou que um de seus produtos havia conseguido penetrar em um sistema do governo australiano e pediu desculpas pelo episódio.
Uma autoridade australiana afirmou que, nesses casos, “a responsabilidade precisa ser rastreada até a intenção de uma pessoa ou empresa que criou ou direcionou o agente”. Já uma empresa de pesquisa relatou que agentes de IA também tentaram invadir um site do governo canadense, com táticas atribuídas à OpenAI em período semelhante.
Como o governo dos EUA está reagindo?
Apesar da pressão, o governo americano mantém postura cautelosa sobre regulação, citando a disputa tecnológica com a China. Na terça-feira, OpenAI, Anthropic e outras empresas se reuniram com o presidente Donald Trump e assinaram um compromisso voluntário para reforçar medidas de segurança.
Enquanto isso, governos estaduais americanos têm aprovado regras próprias exigindo proteções mínimas para sistemas de IA. Durante uma audiência no Congresso, o senador republicano Josh Hawley disse que os legisladores talvez precisem deixar explícito que agentes de IA podem gerar responsabilidades legais semelhantes às de pessoas e empresas quando causam danos a consumidores.
“Não precisamos inventar um sistema completamente novo”, afirmou Hawley. “O direito americano tem funcionado muito bem para lidar com outros produtos há séculos.”
Quais ações judiciais já miram empresas de IA?
As ações mais conhecidas envolvendo danos causados por inteligência artificial tratam de casos em que chatbots teriam incentivado adolescentes a práticas de automutilação, resultando em suicídios. Pais das vítimas processaram a OpenAI e a startup Character AI, argumentando que as empresas devem responder pelos danos.
Se você ou alguém que você conhece precisa de apoio emocional, o Centro de Valorização da Vida (CVV) atende gratuitamente pelo telefone 188, 24 horas por dia.
Nesses processos, as empresas recorreram a defesas tradicionais do setor de tecnologia, alegando proteção pela Primeira Emenda da Constituição americana e pela Seção 230 da Lei de Decência nas Comunicações, que protege plataformas de responsabilidade por conteúdo gerado por usuários.
No caso contra a Character AI, porém, um tribunal federal da Flórida decidiu no ano passado que as respostas geradas pela IA da empresa não se enquadram como discurso protegido pela Primeira Emenda. A aplicação da Seção 230 em outro caso semelhante segue em aberto.
O que ainda falta definir
O principal desafio jurídico é que, em muitos casos recentes, os agentes de IA agiram de forma autônoma, contornando mecanismos de segurança criados por seus próprios desenvolvedores. Isso dificulta aplicar leis pensadas para situações em que havia intenção e conhecimento humano direto.
Ainda assim, alguns casos tendem a ser mais simples de resolver juridicamente. Se um agente de IA invade outra empresa durante testes, por exemplo, a desenvolvedora pode ser responsabilizada, já que operou o sistema diretamente ou conduziu os testes por meio de terceiros.
O conhecimento prévio sobre riscos também pode pesar contra as empresas. Segundo reportagem do New York Times, funcionários da OpenAI já haviam levantado preocupações sobre práticas de segurança durante testes de modelos antes dos incidentes recentes. Porta-vozes da Anthropic e da OpenAI não comentaram o assunto.
Com informações de infomoney.com.br.
