O cofundador do Google DeepMind, Shane Legg, afirmou que o avanço acelerado da inteligência artificial não deve ultrapassar os controles de segurança. O alerta foi feito durante o lançamento de um instituto dedicado a estudar a implantação da inteligência artificial geral (AGI), segundo reportagem do Financial Times publicada nesta quarta-feira.
Segurança da IA entra no centro do debate
A preocupação com a segurança da IA ocorre enquanto pesquisadores relatam avanços cada vez maiores dos agentes artificiais. Esses sistemas já conseguem escrever softwares, executar tarefas de forma autônoma e colaborar no desenvolvimento de outras ferramentas de inteligência artificial.
Por isso, empresas e especialistas discutem o risco de a tecnologia evoluir em velocidade superior à das medidas criadas para monitorá-la e controlá-la. O chamado autoaperfeiçoamento recursivo, em que sistemas poderiam participar do aprimoramento de versões futuras, aparece entre os pontos que ampliam essa preocupação.
Legg também comentou a proposta do presidente-executivo da Anthropic, Dario Amodei, para desacelerar, mas não interromper, o lançamento de modelos de ponta. De acordo com a reportagem, o cofundador do Google DeepMind considerou a ideia “interessante em termos de direção” e afirmou que ela “vale a pena considerar”.
Previsão sobre a inteligência artificial geral
Apesar das declarações recentes de executivos da Nvidia e da OpenAI, Legg avaliou que ainda é prematuro afirmar que a inteligência artificial geral já foi alcançada. A AGI é tratada como um estágio em que um sistema teria capacidades cognitivas semelhantes às do cérebro humano.
Mesmo assim, ele continua “confiante” na previsão de 50% de chance de uma IGA “mínima” ser alcançada até 2028, conforme relatado pelo Financial Times. A estimativa mantém a discussão sobre o ritmo de desenvolvimento da IA, mas também reforça a necessidade de ampliar os mecanismos de segurança da IA antes que sistemas mais capazes sejam colocados em circulação.
Leia também:
- A rebelião das IAs: como os agentes da OpenAI invadiram a Hugging Face sozinhos
- Por que o ataque à Hugging Face deve aumentar sua preocupação com a IA
Novo instituto pretende ampliar discussão pública
O instituto lançado por Legg terá como objetivo ampliar o debate público sobre a AGI e seus possíveis impactos. Além da segurança da IA, a iniciativa deverá abordar diferentes áreas relacionadas ao desenvolvimento e à adoção desses sistemas.
Entre os temas previstos estão ciência, educação, sociedade, políticas públicas, filosofia e desenvolvimento humano. Dessa forma, a proposta não se limita aos aspectos técnicos da inteligência artificial, mas também considera questões econômicas, sociais e políticas.
Os três primeiros ensaios preparados pelo instituto tratam da segurança da IA, da política econômica e dos princípios para um “novo utopismo”. A iniciativa surge em um momento de forte avanço dos agentes artificiais e de maior pressão para que os controles acompanhem o desenvolvimento da tecnologia.
(Por Anzar Mehraj)
