Pequim (China) — A segurança da IA entrou no centro das preocupações estratégicas de especialistas dos Estados Unidos e da China. Segundo os pesquisadores, um sistema capaz de interferir na rede de comando nuclear ou iniciar uma operação digital militar poderia deixar Washington ou Pequim com apenas alguns minutos para decidir se o outro governo foi responsável por um ataque.
As recomendações foram elaboradas em um diálogo bilateral sobre inteligência artificial e segurança nacional. Publicado na semana passada, o documento propõe limites para o uso da tecnologia em sistemas nucleares, manutenção do controle humano sobre ataques digitais de grande impacto e a criação de uma linha direta para incidentes envolvendo IA autônoma.
Segurança da IA ganha regras para sistemas nucleares
Os autores Melanie Sisson, pesquisadora sênior do Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, participam do diálogo EUA-China organizado desde 2019 pelo Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.
O trabalho ocorre em um momento de avanço dos sistemas autônomos e de aumento da rivalidade entre as duas potências. Além da disputa por chips e modelos avançados, os países passaram a discutir questões tradicionalmente ligadas ao controle de armas: como diferenciar um acidente de um ataque, como limitar decisões militares tomadas por máquinas e como manter canais de comunicação em situações de crise.
As propostas foram divulgadas antes das negociações governamentais sobre IA e de uma reunião prevista para 24 de setembro em Washington entre o presidente dos Estados Unidos, Donald Trump, e o líder chinês, Xi Jinping.
Limites para decisões tomadas por máquinas
Melanie Sisson defende que apenas seres humanos tenham autoridade para iniciar ataques digitais apoiados por IA contra sistemas de comando, controle e comunicação nucleares de outro país. A mesma regra, segundo ela, deveria valer para infraestruturas consideradas estrategicamente importantes.
O risco está na possibilidade de um sistema autônomo apresentar falhas, ultrapassar as instruções recebidas ou ser invadido. Nesse cenário, o país atingido poderia não conseguir identificar rapidamente se a ação foi acidental, resultado de uma falha técnica ou determinada pelo governo rival.
Jiang propôs limites explícitos para impedir que a IA decida sozinha pelo uso de armas nucleares ou ataque sistemas de comando nuclear. Ele também defendeu proteções para estruturas críticas dos dois países, incluindo os setores de energia, finanças e saúde.
O pesquisador ainda sugeriu uma definição comum para a expressão “controle humano significativo”. Dessa forma, Estados Unidos e China não poderiam usar o mesmo termo para justificar níveis diferentes de autonomia das máquinas. A ideia retoma um princípio endossado pelo então presidente dos EUA, Joe Biden, e por Xi em novembro de 2024: decisões sobre o uso de armas nucleares devem permanecer sob controle humano.
Linha direta para crises envolvendo IA
Outra proposta é a criação de uma linha direta militar exclusiva para ocorrências relacionadas à segurança da IA. Jiang alertou que trocas digitais automatizadas podem evoluir em uma velocidade que não permita a intervenção humana a tempo.
Por exemplo, uma IA defensiva poderia responder automaticamente a uma atividade suspeita. O outro lado, no entanto, poderia interpretar essa reação como um ataque e retaliar antes de compreender a origem do episódio. Um canal direto permitiria informar que a operação foi acidental, não autorizada ou ainda estava sob investigação.
Apesar disso, a utilidade dos canais de comunicação já existentes é questionada por especialistas. Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, citou a recusa de autoridades chinesas em atender ligações de representantes norte-americanos durante o “incidente do balão espião” em fevereiro de 2023.
“Ninguém no sistema chinês quer se comunicar com os Estados Unidos até que a alta liderança, em consulta com os atores relevantes dentro do partido-Estado chinês, tenha decidido sobre uma resposta, o que pode levar dias, se não mais”, disse Freeman.
Posições de Washington e Pequim
Nenhum dos dois governos endossou publicamente as propostas do Brookings-Tsinghua. Ainda assim, a China incorporou a inteligência artificial à estrutura de controle de armas do Ministério das Relações Exteriores, área que também trata de armas nucleares, não proliferação, mísseis e outros temas de segurança internacional.
O ministro da segurança do Estado da China, Chen Yixin, escreveu que a IA “transforma fundamentalmente a forma da luta militar”. Para ele, a tecnologia deixou de exercer um papel apenas secundário no campo de batalha e passou a ocupar uma posição central, incluindo ataques dirigidos por IA na guerra dos EUA e de Israel contra o Irã.
Em junho, durante uma reunião da ONU em Genebra, Shen Jian, embaixador da China para assuntos de desarmamento, afirmou que a IA militar pode afetar a estabilidade estratégica e elevar os riscos de erros de cálculo e escalada de conflitos. Ele também defendeu que as armas permaneçam sob controle humano. A China ainda argumenta que a segurança da IA não deve se tornar um pretexto para barreiras tecnológicas.
Com informações de redir.folha.com.br.
