Especialistas propõem regulação de IA com protocolos similares ao setor nuclear

Especialistas propõem regulação de IA com salvaguardas no controle nuclear

Pesquisadores especializados em segurança dos Estados Unidos e China apresentaram recomendações para que a regulação de IA siga princípios similares aos adotados no setor nuclear. As propostas buscam evitar cenários críticos onde sistemas autônomos de inteligência artificial possam comprometer redes de comando nuclear ou executar operações militares digitais, deixando governos com apenas minutos para decidir se enfrentam um ataque deliberado ou um incidente acidental.

Os especialistas participam de um diálogo bilateral promovido pela Brookings Institution e pela Universidade de Tsinghua desde 2019. Melanie Sisson, pesquisadora sênior da Brookings, e Tianjiao Jiang, professor associado da Universidade de Fudan, coordenam essas discussões que orientam negociações oficiais entre as duas potências. As recomendações foram divulgadas antes de negociações previstas em nível governamental e de um encontro marcado para 24 de setembro em Washington entre o presidente dos EUA, Donald Trump, e o presidente chinês, Xi Jinping.

Medidas propostas para segurança da IA autônoma

A regulação de IA proposta inclui limitações rígidas para sistemas que interferem em infraestruturas nucleares, exigências de supervisão humana contínua sobre operações digitais de grande escala e estabelecimento de um canal direto de comunicação entre Washington e Pequim para incidentes envolvendo sistemas autônomos.

Segundo Sisson, apenas seres humanos devem deter autoridade para iniciar ataques digitais apoiados por inteligência artificial contra sistemas de comando, controle e comunicação nuclear de outro país ou infraestruturas críticas. Um sistema autônomo poderia experimentar falhas técnicas, ultrapassar seus parâmetros programados ou ser comprometido por terceiros. Simultaneamente, o país alvo enfrentaria dificuldades em determinar se a ação foi acidental ou resultado de uma decisão governamental deliberada.

Limites explícitos para autonomia da IA em contextos militares

Tianjiao Jiang propõe restrições específicas impedindo que inteligência artificial decida independentemente sobre emprego de armas nucleares ou ataque de forma autônoma sistemas nucleares de comando. Ele também defende proteções para setores vitais como energia, telecomunicações, finanças e saúde.

Uma questão fundamental abordada nas recomendações diz respeito à necessidade de definição comum sobre o que constitui "controle humano significativo". Essa padronização evitaria que ambas as potências utilizassem mesma linguagem para justificar diferentes níveis de autonomia das máquinas. A proposta fundamenta-se em princípio endossado pelo então presidente dos EUA, Joe Biden, e pelo líder chinês Xi Jinping em novembro de 2024, estabelecendo que seres humanos devem manter autoridade sobre decisões envolvendo arsenais nucleares.

Importância da comunicação em incidentes com IA

Jiang propõe também estabelecimento de linha direta militar exclusiva entre EUA e China destinada especificamente a incidentes envolvendo inteligência artificial. Sua justificativa baseia-se na velocidade crescente das trocas digitais automatizadas, que reduzem significativamente o tempo disponível para intervenção humana.

Cenários hipotéticos demonstram a urgência dessa medida. Sistemas defensivos de IA de um país poderiam responder automaticamente a atividades suspeitas detectadas em infraestruturas críticas. O outro lado, por sua vez, poderia interpretar essa reação como ataque coordenado e retaliar antes de compreender o que realmente ocorreu. Um canal de comunicação direto permitiria que um governo informasse ao outro sobre operações incomuns de IA classificadas como acidentais, não autorizadas ou ainda sob investigação, evitando que fossem tratadas como ações estatais deliberadas.

Desafios na implementação de protocolos de comunicação

Apesar das recomendações para regulação de IA, especialistas como Carla Freeman, pesquisadora da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionam a eficácia de linhas diretas de comunicação entre as potências. Freeman cita a recusa de autoridades chinesas em atender chamadas de homólogos norte-americanos durante o "incidente do balão espião" em fevereiro de 2023.

A estrutura burocrática rígida da China também representa obstáculo. Oficiais de escalão inferior hesitam em tomar iniciativas em interações com correspondentes norte-americanos sem aprovação prévia da alta liderança. Conforme Freeman descreveu em artigo publicado na plataforma War on the Rocks em janeiro, o sistema chinês requer que consultores da cúpula do partido-Estado decidam sobre respostas, processo que pode consumir dias ou mais.

Posicionamento dos governos frente às propostas

Nenhum dos dois governos endossou publicamente as recomendações da Brookings-Tsinghua. Contudo, a China vem integrando progressivamente inteligência artificial à sua arquitetura de controle de IA e gerenciamento de armas. A IA constitui área formal de atuação do Departamento de Controle de Armas do Ministério das Relações Exteriores chinês, órgão responsável também por questões nucleares, não proliferação, mísseis e temas correlatos de segurança internacional.

Shen Jian, embaixador chinês para assuntos de desarmamento, afirmou em reunião da ONU em Genebra em junho que inteligência artificial militar pode comprometer estabilidade estratégica, ampliar riscos de equívocos de cálculo e aumentar potencial de escalada de conflitos. Segundo ele, armamentos devem permanecer sob supervisão humana. China também argumenta que segurança da IA não deve servir como pretexto para erguimento de barreiras tecnológicas.

Abordagem diferenciada dos EUA

Washington não possui órgão único equivalente para tratar de controle de IA relacionado ao armamento. Política de segurança nacional distribui-se entre Conselho de Segurança Nacional da Casa Branca, Departamento de Estado, Pentágono e outras agências. Ambos os governos mantêm cautela em relação a medidas que possam desacelerar seu desenvolvimento tecnológico.

Trump alertou que restrições amplas poderiam favorecer a China, enquanto Pequim considera muitos dos controles tecnológicos norte-americanos tentativas de preservar liderança dos EUA. Essas tensões refletem dilema fundamental: equilibrar segurança internacional com competição tecnológica acelerada entre as duas potências em contexto de crescente autonomia dos sistemas de inteligência artificial.