O cofundador do Google DeepMind, Shane Legg, defendeu que o avanço da inteligência artificial não ultrapasse os mecanismos de proteção. A declaração ocorre em meio ao aumento das discussões sobre uma possível desaceleração no desenvolvimento de modelos de fronteira por razões de segurança da IA.
“Estamos vivendo agora um período em que as capacidades estão avançando muito, muito rapidamente”, disse Legg em entrevista ao Financial Times. “Mas não podemos permitir que as capacidades fiquem à frente da segurança.”
Segurança da IA deve acompanhar o avanço dos modelos
Legg avaliou que a proposta de Dario Amodei, presidente-executivo da Anthropic, representa uma “direção interessante” e “vale a pena considerar”. Amodei defende uma desaceleração no lançamento de modelos de fronteira, mas não uma suspensão completa, devido aos riscos envolvidos.
Apesar disso, o cofundador do DeepMind ressaltou que ainda é necessário examinar como essa medida funcionaria na prática. “Mas precisamos realmente analisar os detalhes disso e como funcionaria na prática”, acrescentou.
Os comentários foram feitos durante o lançamento do DeepMind Institute, criado para estudar as implicações da AGI, ou inteligência artificial geral. A empresa define a AGI como um sistema capaz de apresentar todas as capacidades cognitivas do cérebro humano.
DeepMind Institute amplia debate sobre segurança da IA
Na avaliação de Legg, ainda é cedo para afirmar que a AGI foi alcançada. O pesquisador ajudou a criar o termo e mantém uma previsão de longa data: há 50% de chance de uma AGI “mínima” ser desenvolvida até 2028. Dessa forma, ele continua “confortável” com essa estimativa.
Atualmente, Legg é cientista-chefe de AGI do Google DeepMind e editor-chefe do site do instituto. Sir Demis Hassabis deixou o cargo de presidente-executivo do laboratório de IA, controlado pelo Google, no mês passado para assumir a presidência. Já Mustafa Suleyman, terceiro cofundador, ocupa hoje um cargo de alto executivo da Microsoft.
O novo instituto pretende “elevar” a discussão sobre AGI e tornar a pesquisa técnica acessível a um público mais amplo. Além disso, o debate sobre segurança da IA será tratado ao lado de temas como ciência, educação, sociedade, políticas públicas, filosofia e bem-estar humano.
Executivos divergem sobre a chegada da AGI
Legg rejeitou as declarações feitas neste mês por Greg Brockman, presidente da OpenAI. Segundo Brockman, o lançamento do GPT-6 Astra mostraria que “agora estamos na era da AGI”. Jensen Huang, presidente-executivo da Nvidia, também afirmou, ao comentar o modelo: “A AGI chegou”.
Como as definições de AGI variam, Legg disse que nem sequer está claro se o Astra cumpre o conceito adotado pela OpenAI: ser capaz de realizar a maior parte do trabalho cognitivo economicamente valioso. “Obviamente, eles estão fazendo coisas incríveis, mas ainda não chegou a um ponto em que eu ache que possa sequer atender à definição deles próprios”, afirmou.
O instituto começou com três ensaios sobre segurança da IA, política econômica e princípios para um “novo utopismo”. Um dos textos, assinado pelos pesquisadores da DeepMind Rohin Shah e Anca Dragan, criticou o lançamento acelerado do GPT-6 Astra e apontou uma “tendência preocupante de queda” na transparência.
Transparência é apontada como parte da solução
Os pesquisadores afirmaram que a competição entre empresas pode diminuir os incentivos à transparência. Por isso, defenderam que a regulamentação pode ajudar a preservar esse compromisso, sem impedir o desenvolvimento de modelos mais robustos.
Segundo os autores, sistemas mais avançados podem ser criados desde que uma estrutura de transparência seja incorporada ao projeto. Para Legg, o fortalecimento da segurança da IA também depende de uma discussão pública mais ampla.
“O debate público está realmente ganhando força agora. E as pessoas estão levando muito, muito a sério a possibilidade de uma inteligência geral poderosa”, disse Legg. “Então parece que este é realmente o momento de começar a promover uma discussão pública mais ampla sobre muitos desses temas fascinantes.”
Muitos ensaios do DeepMind Institute serão escritos por funcionários do Google, enquanto especialistas externos também deverão contribuir. A proposta é ampliar a diversidade de opiniões sobre AGI, segurança da IA e seus possíveis efeitos na sociedade.
