Um sistema de inteligência artificial que interfira em uma rede de comando nuclear ou lance uma operação cibernética militar pode deixar Washington ou Pequim com apenas alguns minutos para decidir se foi o outro governo que atacou, de acordo com especialistas em segurança dos EUA e da China.
Os especialistas, que fazem parte de um diálogo EUA-China cujo trabalho ajuda a pautar as discussões oficiais entre países, estão instando ambos os governos a se prepararem para tais cenários em meio a crescentes preocupações com sistemas cada vez mais poderosos e autônomos.
Suas propostas incluem linhas vermelhas em torno de sistemas nucleares, controle humano sobre ciberataques de grande impacto e uma linha direta para incidentes envolvendo inteligência artificial autônoma.
As recomendações foram publicadas na semana passada, antes das negociações planejadas em nível governamental sobre IA e de uma reunião esperada para 24 de setembro em Washington entre o presidente dos EUA, Donald Trump, e o presidente chinês, Xi Jinping.
As autoras Melanie Sisson, pesquisadora sênior do think tank Brookings Institution, e Tianjiao Jiang, professora associada da Universidade de Fudan, participaram do diálogo EUA-China sobre IA e segurança nacional, promovido desde 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.
As propostas mostram como a rivalidade entre EUA e China em inteligência artificial está indo além da competição por chips e modelos avançados, abrangendo questões há muito associadas ao controle de armas: como evitar que acidentes sejam confundidos com ataques, limitar decisões militares automatizadas e estabelecer protocolos de comunicação para rivais com armas nucleares quando a tecnologia se comporta de maneira inesperada.
O ministro da Segurança do Estado da China, Chen Yixin, escreveu esta semana em um veículo de comunicação governamental que a IA “transforma fundamentalmente a forma da luta militar”. Ele afirmou que a inteligência artificial passou de um papel de apoio no campo de batalha para um papel fundamental, citando ataques direcionados por IA na guerra entre EUA e Israel contra o Irã.
Alerta vermelho ao redor dos sistemas nucleares
Sisson, da Brookings Institution, argumentou que os humanos deveriam manter a autoridade exclusiva para iniciar ciberataques habilitados por IA contra os sistemas de comando, controle e comunicações nucleares de outro país ou contra infraestruturas estrategicamente importantes.
Um sistema autônomo pode apresentar mau funcionamento, exceder suas instruções ou ser comprometido, enquanto o país atacado pode ter dificuldades para determinar se a ação foi acidental ou ordenada por seu rival.
Jiang, da Universidade de Fudan, propôs linhas vermelhas explícitas que impedem a IA de decidir de forma independente usar armas nucleares ou atacar autonomamente sistemas de comando nuclear, juntamente com proteções em torno de infraestruturas críticas, incluindo energia, finanças e saúde.
Ele também defendeu uma definição compartilhada de “controle humano significativo” para evitar que ambos os países usem a mesma linguagem para justificar diferentes níveis de autonomia das máquinas.
A ideia se baseia em um princípio endossado pelo então presidente dos EUA, Joe Biden, e por Xi Jinping em novembro de 2024, de que os humanos devem manter o controle sobre as decisões de usar armas nucleares.
Lora Saalman, pesquisadora sênior associada do Instituto Internacional de Pesquisa da Paz de Estocolmo, escreveu em fevereiro que este era um importante ponto de convergência entre os EUA e a China, mesmo que ambos os países demonstrassem sinais de integração mais profunda da IA em sistemas nucleares e relacionados à energia nuclear.
Quando as máquinas se movem mais rápido que os humanos
Jiang também propôs uma linha direta militar dedicada entre os EUA e a China para incidentes envolvendo IA, alertando que as trocas cibernéticas automatizadas poderiam escalar rapidamente demais para a intervenção humana.
A inteligência artificial defensiva de um país pode responder automaticamente a atividades suspeitas, enquanto o outro lado pode interpretar essa resposta como um ataque e retaliar antes de entender o que realmente aconteceu.
Uma linha direta permitiria que um governo informasse ao outro que uma operação incomum de IA foi acidental, não autorizada ou ainda está sob investigação, antes de ser tratada como uma ação deliberada do Estado.
No entanto, especialistas, incluindo Carla Freeman, da Escola de Estudos Internacionais Avançados da Universidade Johns Hopkins, questionaram a utilidade da linha direta de comunicação de crise militar existente entre os EUA e a China, citando a recusa de autoridades chinesas em atender às ligações de seus homólogos americanos sobre o “incidente do balão espião” em fevereiro de 2023.
A hierarquia rígida e verticalizada da burocracia chinesa também impede que oficiais de baixa patente tomem a iniciativa durante interações com seus homólogos americanos, escreveu ela em um artigo para o War on the Rocks em janeiro.
“Ninguém no sistema chinês quer se comunicar com os Estados Unidos até que a alta liderança, em consulta com os atores relevantes dentro do partido-estado chinês, decida sobre uma resposta, o que pode levar dias ou até mais”, disse ela.
Vista de Washington e Pequim
Nenhum dos governos endossou publicamente as propostas da Brookings-Tsinghua, mas a China tem cada vez mais integrado a IA à sua burocracia de controle de armas.
A inteligência artificial é uma área formal do Departamento de Controle de Armas do Ministério das Relações Exteriores, que também lida com armas nucleares, não proliferação, mísseis e outras questões de segurança internacional.
Shen Jian, embaixador da China para assuntos de desarmamento, afirmou em uma reunião da ONU em Genebra, em junho, que a IA militar poderia afetar a estabilidade estratégica e aumentar os riscos de erros de cálculo e escalada de conflitos, e que as armas deveriam permanecer sob controle humano. A China também argumenta que a segurança da IA não deve se tornar um pretexto para barreiras tecnológicas.
Washington não possui um órgão único equivalente para o controle de armas em relação à IA, com a política de segurança nacional espalhada entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e outras agências.
Ambos os governos permanecem cautelosos em relação a medidas que possam retardar seu próprio desenvolvimento tecnológico. Trump alertou que amplas restrições poderiam dar vantagem à China, enquanto Pequim vê muitos dos controles tecnológicos dos EUA como tentativas de preservar a hegemonia americana.