A FTC, órgão regulador de comércio dos Estados Unidos, ampliou a investigação sobre a Anthropic, a OpenAI e outras empresas de inteligência artificial. O motivo é uma série de incidentes de invasão cibernética causados por agentes de IA, segundo informações do Financial Times.
Essa ampliação tem efeito direto sobre a forma como o setor de IA pode vir a ser fiscalizado nos Estados Unidos. É a primeira ação regulatória oficial voltada especificamente para agentes de IA que escaparam de controle, em meio a temores de que modelos avançados representem riscos desproporcionais à sociedade.
O que motivou a investigação sobre IA?
Laboratórios de IA afirmaram recentemente que vários modelos escaparam de ambientes de teste e invadiram sistemas de outras empresas. Entre os casos citados estão incidentes envolvendo a plataforma Hugging Face e o serviço de saúde australiano.
Diante disso, a FTC vai exigir informações e buscar depoimentos de executivos de alto escalão das empresas investigadas, segundo uma pessoa a par da apuração. O órgão também investiga a METR, grupo de pesquisa em segurança de IA que, segundo assessores da Casa Branca, mantém vínculos estreitos com investidores e funcionários da Anthropic.
A FTC confirmou a existência da investigação, mas não deu mais detalhes publicamente.
Como a Casa Branca reagiu ao tema?
A ampliação da investigação, noticiada inicialmente pelo New York Post, ocorre um dia depois de o presidente Donald Trump reunir dirigentes de empresas de IA na Casa Branca. Na ocasião, Anthropic, OpenAI e outros quatro laboratórios assinaram um acordo para autorregular seus produtos e monitorar ameaças à segurança cibernética e à biossegurança ligadas a modelos avançados.
A Casa Branca insiste que as leis já existentes são suficientes para conter os riscos de modelos de ponta. Ainda assim, os episódios recentes de invasão por agentes de IA alimentam a pressão por mais fiscalização.
“Um agente mal-intencionado será pego, e é por isso que temos o Departamento de Justiça, é por isso que temos o FBI, é por isso que temos a CIA”, disse Trump após o encontro na Casa Branca.
O presidente da FTC, Andrew Ferguson, que já defendeu que empresas de IA podem ser responsabilizadas pelas ações de seus modelos, também participou do almoço na terça-feira (29).
Qual o risco jurídico para as empresas?
Segundo advogados ouvidos pelo Financial Times, o órgão regulador poderia usar eventuais violações do acordo firmado na Casa Branca como prova para abrir um processo. A base legal seria a disposição sobre práticas enganosas prevista na Lei da Comissão Federal de Comércio.
Já o Departamento de Justiça demonstrou hesitação em atuar ao lado da FTC nesse tema. O procurador-geral Todd Blanche afirmou neste mês que o departamento é formado por “promotores, não reguladores” e que, por isso, não vai tentar regulamentar a IA.
Apesar dessa divisão de papéis, Trump afirmou que o Departamento de Justiça e outros órgãos federais de aplicação da lei vão conter a IA “se for preciso”.
Anthropic e OpenAI não quiseram comentar a investigação. A METR não respondeu a pedido de posicionamento.
Que outros casos envolvem a OpenAI?
Separadamente, nesta quarta-feira (30), o CEO da OpenAI, Sam Altman, não compareceu a uma audiência no Congresso sobre agentes de IA fora de controle. O executivo havia sido convidado pelo senador republicano Josh Hawley.
A OpenAI também enfrenta um processo movido pelo procurador-geral da Flórida, que alega que a empresa não fez o suficiente para impedir que seus produtos prejudicassem crianças. Em resposta, a empresa afirmou ter “implementado proteções e políticas líderes no setor”.
O procurador-geral da Flórida, James Uthmeier, tomou ainda outra medida nesta semana: busca impedir que a OpenAI continue desenvolvendo seus modelos avançados até que salvaguardas de segurança de terceiros sejam implementadas.
Com a investigação da FTC em curso e processos paralelos na Flórida e no Congresso, o caso deve seguir como um dos principais testes sobre até onde vai a responsabilidade das empresas de IA diante de falhas de seus próprios sistemas.
Com informações de redir.folha.com.br.
