China reforça regras para manter inteligência artificial sob controle humano

Pequim tem incluído explicitamente cenários de perda de controle sobre sistemas de inteligência artificial e visa fortalecer suas normas de segurança e a supervisão humana.

Alertas feitos por pesquisadores da empresa norte-americana de inteligência artificial Anthropic sobre a possibilidade de modelos avançados escaparem ao controle humano e, em cenários extremos, representarem uma ameaça à própria humanidade ganharam destaque na China. Formuladores de políticas públicas chineses vêm se preparando para lidar com riscos semelhantes.

Apesar da corrida para desenvolver sistemas cada vez mais poderosos, marcos regulatórios e declarações oficiais de Pequim mostram que as autoridades chinesas consideram suficientemente séria a possibilidade de a IA avançada escapar à supervisão humana, incorporando-a aos seus planejamentos de segurança.

A China passou a mencionar explicitamente cenários de perda de controle sobre sistemas de inteligência artificial em uma estrutura de segurança divulgada em setembro de 2024, sob orientação da CAC (Administração do Ciberespaço da China).

Segundo o documento, não poderia ser descartada a possibilidade de futuros sistemas de IA obterem recursos externos de forma autônoma, desenvolverem autoconsciência e buscarem fontes externas de poder, criando riscos de competição com seres humanos.

Em setembro de 2025, a CAC divulgou uma versão ampliada da estrutura regulatória. O novo texto tornou o cenário mais específico, afirmando que a IA poderia passar por um salto repentino de capacidade antes de adquirir recursos, replicar-se e buscar o poder. O documento também incorporou o princípio de “aplicação confiável” e da prevenção da perda de controle.

Posteriormente, uma interpretação técnica publicada no site do regulador afirmou que a nova diretriz busca reduzir riscos de perda de controle que possam ameaçar a sobrevivência e o desenvolvimento da humanidade, mencionando inclusive a possibilidade de uma IA “sair do controle”.

A preocupação também passou a aparecer nas mais altas instâncias políticas chinesas.

Durante a Conferência Mundial de Inteligência Artificial, realizada em julho, em Xangai, o presidente chinês, Xi Jinping, declarou que as autoridades devem monitorar atentamente tanto os riscos inerentes à tecnologia quanto os seus efeitos indiretos.

Segundo Xi, a inteligência artificial deve permanecer “sempre sob controle humano”.

O principal diplomata chinês para assuntos de IA, Sun Xiaobo, disse em reunião das Nações Unidas no mês passado que o país está acelerando estudos sobre uma legislação mais ampla para a inteligência artificial.

Já o vice-representante permanente da China na ONU, Sun Lei, pediu neste mês que os governos abordem com cautela o uso militar da IA para evitar erros de cálculo estratégicos e uma corrida armamentista.

As discussões ganham peso em um momento em que Xi Jinping deve se reunir com o presidente dos Estados Unidos, Donald Trump, em Washington. A governança e a segurança da inteligência artificial estão entre os temas que devem ser debatidos.

Enquanto autoridades chinesas enfatizam riscos ligados à segurança nacional, à espionagem e à proteção de infraestrutura crítica, o debate nos Estados Unidos tem sido marcado também por preocupações com cenários de perda de controle e riscos existenciais associados a sistemas superinteligentes.

O presidente-executivo da Anthropic, Dario Amodei, já alertou para a velocidade que classificou como “imprudente” do avanço da tecnologia. O presidente-executivo da OpenAI, Sam Altman, afirmou concordar com essa avaliação.

A China também começou a transformar esses princípios em exigências regulatórias voltadas aos chamados agentes de IA, sistemas capazes de atuar com maior autonomia e realizar tarefas mais complexas do que chatbots convencionais.

Em maio, o regulador chinês do ciberespaço publicou diretrizes conjuntas específicas para esse tipo de tecnologia.

As normas exigem que desenvolvedores ampliem sua capacidade de identificar, interromper, bloquear e corrigir comportamentos inadequados dos agentes.

As orientações citam como riscos relevantes o envenenamento de dados, a manipulação de algoritmos, as vulnerabilidades de sistemas e a chamada “perda operacional de controle”. O texto também determina que os usuários mantenham a autoridade final sobre decisões tomadas autonomamente pelos sistemas.

Embora a China não tenha adotado propostas como a presença de monitores independentes dentro de empresas de IA, modelo defendido por pesquisadores da Anthropic, suas normas permitem a contratação de avaliações externas de segurança e estabelecem auditorias realizadas por entidades independentes e pesquisadores especializados.

O ministro da Segurança do Estado da China, Chen Yixin, afirmou que modelos avançados desenvolvidos nos Estados Unidos podem representar riscos à infraestrutura crítica de informação do país e defendeu o fortalecimento da segurança em inteligência artificial.

Chen também alertou que “forças hostis” estariam usando ferramentas de IA generativa para fabricar rumores políticos e disseminar informações prejudiciais à China. Segundo ele, esses grupos promovem “guerras de opinião pública” e “guerras cognitivas” que ameaçam as seguranças política, institucional e ideológica do país.

O ministro declarou ainda que a inteligência artificial se tornou “o principal campo de batalha da competição tecnológica global e uma nova arena da rivalidade estratégica entre grandes potências”.