A supervisão da IA ganhou força entre algumas das maiores empresas do setor. OpenAI, Anthropic e Google DeepMind trabalham na criação de uma entidade voltada a acompanhar os riscos relacionados à inteligência artificial, informou a OpenAI à AFP nesta terça-feira (15). A movimentação ocorre em meio ao aumento das cobranças por regras mais rígidas para a tecnologia.
As preocupações sobre a segurança da IA se intensificaram nas últimas semanas. Dois funcionários que deixaram grandes desenvolvedoras fizeram alertas sobre a ameaça que, segundo eles, o avanço dessa indústria representa para a humanidade. Por isso, o debate sobre supervisão da IA passou a envolver empresas, governo e ex-integrantes do setor.
Como funcionaria a supervisão da IA
A proposta de criar uma entidade independente surgiu em julho, apresentada por Demis Hassabis, cofundador e diretor-executivo do Google DeepMind. A ideia seria estabelecer uma organização semelhante à Autoridade Reguladora da Indústria Financeira dos Estados Unidos, um órgão de autorregulação do setor financeiro.
De acordo com Hassabis, a estrutura precisaria de financiamento relevante, provavelmente bancado em grande parte pela própria indústria. Além disso, seria necessário reunir profissionais com conhecimento técnico e contar com grandes recursos computacionais para realizar testes em larga escala. Esses elementos seriam fundamentais para dar efetividade à supervisão da IA.
“O financiamento teria que ser significativo e provavelmente vir em grande parte da indústria”
Enquanto a proposta avança, o governo dos Estados Unidos iniciou em agosto um processo de avaliação dos novos modelos de inteligência artificial. A participação, no entanto, é voluntária, e a metodologia usada nessa análise ainda não foi divulgada. Dessa forma, o modelo atual de supervisão da IA permanece limitado e sem detalhes públicos sobre seus critérios.
Empresas pedem regras, mas Trump rejeita limites
Os principais atores do mercado de IA vêm pedindo há meses que o governo dos Estados Unidos crie um marco regulatório para o setor e amplie a supervisão de sua segurança. Apesar disso, após os apelos feitos no sábado por Dario Amodei, diretor-executivo da Anthropic, para desacelerar o desenvolvimento da tecnologia, o presidente dos Estados Unidos, Donald Trump, voltou a dizer que não pretende limitar a atividade.
Na segunda-feira, Trump publicou uma mensagem em sua plataforma Truth Social para contestar os temores relacionados ao avanço da inteligência artificial.
“Que a IA assuma o controle do mundo, destrua a humanidade e todas essas coisas ruins é uma FARSA”, escreveu Trump em sua plataforma Truth Social na segunda-feira.
O presidente e integrantes de seu governo afirmam que não querem impor limites à IA porque temem que a China assuma a liderança no segmento. Assim, a discussão sobre supervisão da IA também está ligada à disputa tecnológica e geopolítica entre os países.
Alertas de ex-funcionários ampliam preocupação
As críticas não partem apenas de autoridades e executivos. Na semana passada, Jacob Coxon deixou o cargo de desenvolvedor na Anthropic e advertiu que as empresas de IA estão colocando a vida das pessoas em risco.
As empresas de IA estão “brincando com nossas vidas”, advertiu na semana passada Jacob Coxon ao deixar seu cargo de desenvolvedor na Anthropic.
Na segunda-feira (14), o ex-pesquisador do Google DeepMind Bilal Chughtai reforçou as preocupações apresentadas por Coxon e por outros profissionais que deixaram o setor. Para ele, os riscos podem ultrapassar a capacidade atual de resposta das empresas e dos governos.
“Acredito sinceramente que a IA tem o potencial de matar todos nós e que talvez estejamos ficando sem tempo para evitar esse desfecho”, declarou nas redes sociais.
Com empresas defendendo maior controle e o governo americano resistindo a restrições, a criação de um órgão de supervisão da IA ainda depende de definições sobre financiamento, autoridade e participação. Por enquanto, a proposta representa uma tentativa de organizar a fiscalização dos novos modelos diante dos alertas cada vez mais fortes sobre seus possíveis impactos.
