PEQUIM, 17 Set (Reuters) – A segurança da IA entrou no centro das preocupações estratégicas de Estados Unidos e China. Especialistas dos dois países alertam que um sistema autônomo capaz de interferir na rede de comando nuclear ou iniciar uma operação digital militar poderia deixar Washington ou Pequim com apenas alguns minutos para identificar a origem de um ataque.
As recomendações foram elaboradas por participantes de um diálogo entre EUA e China sobre inteligência artificial e segurança nacional. O grupo defende que os dois governos se preparem para situações desse tipo, especialmente diante do avanço de sistemas cada vez mais poderosos e capazes de agir com menor intervenção humana.
Segurança da IA ganha regras para situações extremas
Entre as propostas estão limites rígidos para o uso de IA em sistemas nucleares, a exigência de controle humano em ataques digitais de grande impacto e a criação de uma linha direta para incidentes envolvendo sistemas autônomos. Dessa forma, a segurança da IA passa a ser tratada também como uma questão de controle de armas.
As recomendações foram publicadas na semana passada, antes de negociações governamentais sobre IA e de uma reunião prevista para 24 de setembro em Washington entre o presidente dos Estados Unidos, Donald Trump, e o presidente chinês, Xi Jinping.
O documento foi assinado por Melanie Sisson, pesquisadora sênior do grupo de estudos Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan. Os dois participam do diálogo EUA-China organizado desde 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.
O conteúdo mostra que a disputa entre os dois países já vai além da corrida por chips e modelos avançados. Agora, também envolve como evitar que falhas sejam interpretadas como ataques, impedir decisões militares tomadas exclusivamente por máquinas e criar canais de comunicação para momentos de crise.
Linhas vermelhas para a segurança da IA
Sisson defende que somente seres humanos tenham autoridade para iniciar ataques digitais apoiados por IA contra sistemas de comando, controle e comunicação nucleares de outro país, além de infraestruturas consideradas estrategicamente importantes.
O alerta se baseia no risco de um sistema autônomo apresentar falhas, ultrapassar suas instruções ou ser invadido. Ao mesmo tempo, o país atingido poderia não conseguir distinguir rapidamente entre uma ação acidental e uma ordem deliberada do governo rival.
Jiang propôs limites explícitos para impedir que a IA decida sozinha pelo uso de armas nucleares ou ataque sistemas de comando nuclear. Ele também defendeu proteções para setores críticos, como energia, finanças e saúde, além de uma definição comum para a expressão “controle humano significativo”.
A proposta retoma um princípio apoiado pelo então presidente dos EUA, Joe Biden, e por Xi em novembro de 2024: os seres humanos devem manter o controle sobre decisões relacionadas ao uso de armas nucleares. Lora Saalman, pesquisadora sênior associada do Instituto Internacional de Pesquisa para a Paz de Estocolmo, escreveu em fevereiro que esse era um importante ponto de convergência entre EUA e China.
Comunicação rápida pode evitar retaliações
Para Jiang, uma linha direta militar exclusiva entre Washington e Pequim ajudaria a administrar incidentes envolvendo IA. A preocupação é que sistemas defensivos reajam automaticamente a uma atividade suspeita, enquanto o outro país interprete essa resposta como uma ofensiva e contra-ataque antes de entender o ocorrido.
Um canal específico permitiria informar se uma operação incomum de IA foi acidental, não autorizada ou ainda estava sob investigação. Assim, o episódio poderia ser analisado antes de ser tratado como uma ação deliberada do Estado rival.
No entanto, especialistas como Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionam se o mecanismo funcionaria em uma crise real. Eles citam a recusa de autoridades chinesas em atender ligações de representantes norte-americanos durante o “incidente do balão espião” em fevereiro de 2023.
“Ninguém no sistema chinês quer se comunicar com os Estados Unidos até que a alta liderança, em consulta com os atores relevantes dentro do partido-Estado chinês, tenha decidido sobre uma resposta, o que pode levar dias, se não mais”, disse ela.
Como Washington e Pequim veem a segurança da IA
Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua. Ainda assim, a China vem incorporando a IA à estrutura já existente de controle de armas. O tema faz parte da atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores da China, responsável também por assuntos como armas nucleares, não proliferação e mísseis.
Em uma reunião da ONU em Genebra, em junho, Shen Jian, embaixador da China para assuntos de desarmamento, afirmou que a IA militar poderia afetar a estabilidade estratégica e ampliar os riscos de erros de cálculo e escalada de conflitos. Segundo ele, as armas devem permanecer sob controle humano. Pequim, porém, também sustenta que a segurança da IA não pode ser usada como justificativa para barreiras tecnológicas.
Nos Estados Unidos, não existe um órgão único equivalente para coordenar o controle de armas relacionado à IA. A política está distribuída entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e outras agências.
Apesar das preocupações, os dois governos demonstram cautela com medidas que possam desacelerar seu desenvolvimento tecnológico. Trump já alertou que restrições amplas poderiam favorecer a China, enquanto Pequim interpreta muitos controles impostos pelos EUA como tentativas de preservar o domínio norte-americano. Por isso, transformar as propostas em regras efetivas de segurança da IA ainda deve exigir negociações delicadas.
Com informações de infomoney.com.br.
