A reunião da Casa Branca com líderes das maiores empresas de inteligência artificial, em 29 de setembro, terminou sem regras objetivas para o setor. O encontro reuniu nomes como Mark Zuckerberg, da Meta, Greg Brockman, da OpenAI, Elon Musk, Jensen Huang, da Nvidia, Sundar Pichai, do Google, e Lisa Su, da AMD, mas não resultou em compromissos obrigatórios. A ausência de regras claras tem impacto direto sobre como a sociedade vai monitorar o avanço da inteligência artificial nos próximos anos.
Segundo o colunista da Folha Ronaldo Lemos, advogado e diretor do Instituto de Tecnologia e Sociedade do Rio de Janeiro, o modelo discutido no encontro é insuficiente. Os compromissos assumidos pelas empresas foram tratados como obrigações “morais”, sem prazo definido e sem penalidades em caso de descumprimento.
Por que a autorregulação de IA discutida nos EUA é considerada fraca?
De acordo com Lemos, cada empresa escolhe seus próprios auditores, internos e externos. Além disso, não existe obrigação de tornar públicas as avaliações feitas sobre o funcionamento dos sistemas de inteligência artificial. Na prática, isso significa que as companhias fiscalizam a si mesmas, sem supervisão externa real.
Dois dias depois do encontro na Casa Branca, o Conselho de Supervisão Independente da Meta publicou uma carta aberta ao setor de IA, intitulada “Sim, a IA precisa de supervisão independente, mas é preciso desenhá-la direito”. O colunista integra esse conselho.
O que é o Conselho de Supervisão Independente da Meta?
O órgão foi criado depois do escândalo Cambridge Analytica. Sua função é supervisionar decisões da Meta sobre conteúdos e recomendar mudanças na empresa, que é obrigada a responder publicamente a cada recomendação.
Entre os integrantes do conselho estão a ex-primeira-ministra da Dinamarca, uma vencedora do prêmio Nobel da Paz e o ex-editor do jornal The Guardian. Em seis anos de atuação, o colegiado conseguiu implementar 75% de suas recomendações, com impacto sobre bilhões de usuários.
Lemos afirma que o conselho não é perfeito, mas foi desenhado de forma cuidadosa por especialistas de fora da Meta, sob liderança do professor Noah Feldman, de Harvard. Como é pouco provável que os Estados Unidos aprovem uma lei federal para regular a IA no momento, a autorregulação aparece como o caminho mais imediato disponível.
Quais são os seis requisitos para uma autorregulação de IA crível?
Na carta publicada pelo conselho, o paradoxo central é apontado: para ter credibilidade, a empresa precisa abrir mão do controle sobre quem a fiscaliza. O documento lista seis requisitos para isso.
- Independência: o órgão supervisor precisa ser uma entidade separada, com orçamento e composição próprios, sem poder de demissão por parte da empresa fiscalizada
- Poder real: acesso a informações não públicas, capacidade de tomar decisões obrigatórias e de iniciar investigações por conta própria
- Transparência: todas as decisões precisam ser publicadas e fundamentadas publicamente
- Composição plural: especialistas de diferentes áreas, não apenas pessoas ligadas às próprias empresas
O texto original cita ainda outros pontos como parte dos seis requisitos, embora sem detalhar integralmente cada um deles na carta divulgada.
O que muda para quem usa ferramentas de inteligência artificial?
A discussão sobre autorregulação de IA afeta diretamente a confiança do público nas ferramentas usadas no dia a dia. Sem fiscalização independente, decisões sobre segurança, uso de dados e impacto social dos sistemas de IA ficam concentradas nas próprias empresas que os desenvolvem.
O exemplo do conselho da Meta mostra que modelos de supervisão externa podem gerar transparência e correções de rota, segundo Lemos. A discussão sobre como aplicar princípios semelhantes ao setor de inteligência artificial como um todo ainda está em curso, sem data definida para uma eventual regulação federal nos Estados Unidos.
Com informações de redir.folha.com.br.
