Os riscos da IA voltaram ao centro do debate internacional nesta quarta-feira, 16 Set. O secretário-geral da Organização das Nações Unidas (ONU), António Guterres, alertou líderes mundiais de que o avanço acelerado da tecnologia exige atenção e não pode ser tratado como uma questão secundária. A posição o colocou em desacordo com o presidente dos Estados Unidos, Donald Trump, que considera suficientes as medidas de proteção já existentes.
Antes da Assembleia Geral da ONU, marcada para a próxima semana em Nova York, Guterres afirmou a repórteres que a adoção de uma supervisão mais rigorosa estará entre os principais temas de suas conversas com autoridades de vários países. Para ele, discutir os riscos da IA é parte da responsabilidade dos governos diante do avanço de sistemas cada vez mais poderosos.
Riscos da IA exigem supervisão, diz Guterres
O secretário-geral defendeu que os governos não podem ignorar os alertas feitos por pesquisadores e profissionais que atuam diretamente no desenvolvimento da tecnologia. Além disso, afirmou que a proteção da população deve incluir os possíveis efeitos negativos da inteligência artificial.
“Não podemos nos dar ao luxo de ignorar as preocupações que têm sido levantadas, especialmente por aqueles que estão na linha de frente do desenvolvimento da IA”, disse Guterres. “É a primeira responsabilidade de qualquer governo proteger seus cidadãos – inclusive contra as ameaças da inteligência artificial.”
A preocupação pública com os riscos da IA aumentou depois que Jacob Coxon, pesquisador da Anthropic, declarou na semana passada que havia deixado o cargo, em parte, porque “as pessoas que desenvolvem IA acreditam sinceramente que ela poderia matar a todos nós até o final da década”. Líderes de algumas das maiores companhias do setor também passaram a defender uma redução no ritmo de desenvolvimento.
Trump minimiza alertas sobre os riscos da IA
Na segunda-feira, Trump disse que os Estados Unidos já contam com mecanismos para regulamentar empresas de IA e processá-las judicialmente quando necessário. Dessa forma, o presidente minimizou os riscos da IA apontados por executivos e especialistas do próprio setor.
Trump também afirmou que a China poderia se beneficiar das dúvidas levantadas sobre o desenvolvimento da tecnologia. O presidente dos Estados Unidos tem um encontro marcado com o presidente da China, Xi Jinping, na próxima semana, em Washington.
Segundo informações divulgadas anteriormente pela Reuters, Estados Unidos e China planejavam uma reunião separada em meados de setembro para discutir os riscos da IA. O encontro seria conduzido por autoridades governamentais de nível inferior, em uma agenda distinta da reunião entre Trump e Xi Jinping.
ONU prepara novas discussões sobre inteligência artificial
Guterres defende há muito tempo a criação de uma governança global para a inteligência artificial. Em 2023, a ONU criou um órgão consultivo sobre IA com 39 membros. O grupo reúne executivos de empresas de tecnologia, autoridades públicas e acadêmicos de países como os EUA, a Rússia e o Japão.
O Conselho de Segurança da ONU também pode discutir os riscos da IA durante a próxima semana, no período do encontro anual de líderes mundiais em Nova York, segundo diplomatas. Composto por 15 membros, o conselho realizou sua primeira reunião dedicada à inteligência artificial em 2023.
Para Guterres, o caminho passa por estabelecer critérios comuns que permitam estimular a inovação sem deixar de lado a segurança. Em resumo, ele defende que a comunidade internacional reconheça os riscos da IA antes que sistemas mais avançados tornem necessárias respostas ainda mais amplas.
“Precisamos de um entendimento comum sobre como promover o desenvolvimento seguro, protegido e responsável da IA – ao mesmo tempo em que identificamos quando sistemas cada vez mais poderosos podem exigir salvaguardas mais robustas ou medidas adicionais para gerenciar riscos potenciais”, disse Guterres nesta quarta-feira.
