A China passou a tratar a possibilidade de sistemas avançados de inteligência artificial (IA) escaparem do controle humano como uma questão de segurança nacional. O tema aparece em documentos regulatórios, declarações de autoridades e novas regras para agentes de IA, enquanto Beijing acelera o desenvolvimento de modelos capazes de executar tarefas com maior autonomia. As informações são da Reuters.

O movimento ocorre em meio à disputa tecnológica entre China e Estados Unidos. Os dois países lideram o desenvolvimento de sistemas avançados de IA, mas adotam estratégias diferentes para lidar com os riscos associados à tecnologia. Enquanto empresas chinesas promovem modelos de pesos abertos, autoridades do país também alertam para a possibilidade de sistemas cada vez mais autônomos burlarem mecanismos de controle.

O debate ganhou força depois de pesquisadores da Anthropic alertarem para os riscos de modelos avançados escaparem da supervisão humana. O tema também se aproxima de uma discussão recente sobre os riscos existenciais da IA. Em reportagem publicada por A Referência, o pioneiro da tecnologia Geoffrey Hinton afirmou que não considera absurda a possibilidade de sistemas avançados provocarem a extinção da humanidade na próxima década.

Risco de perda de controle

A China incluiu pela primeira vez um cenário explícito de futura perda de controle em uma estrutura de segurança de IA divulgada em setembro de 2024, sob orientação da Administração do Ciberespaço da China (CAC).

O documento considerava a possibilidade de uma IA futura obter recursos externos de forma autônoma, se autorreplicar, desenvolver autoconsciência e buscar poder externo. O cenário descrito pelas autoridades chinesas envolve a possibilidade de esses sistemas passarem a competir com seres humanos pelo controle.

Em setembro de 2025, a CAC ampliou essa estrutura. O documento passou a considerar a hipótese de um salto repentino e inesperadamente grande na capacidade intelectual de uma IA antes que o sistema adquirisse recursos, se replicasse e buscasse poder.

A estrutura também estabeleceu como princípio de governança a aplicação confiável da IA e a prevenção da perda de controle.

Xi defende controle humano

A preocupação também chegou ao discurso político de mais alto nível na China.

Durante a Conferência Mundial de Inteligência Artificial, realizada em Xangai em julho, o presidente Xi Jinping afirmou que as autoridades deveriam prestar atenção aos riscos associados à IA e declarou que a tecnologia deve “sempre permanecer sob controle humano”.

Funcionários chineses também passaram a defender maior cautela no desenvolvimento de sistemas de IA para aplicações militares. O vice-representante permanente da China nas Nações Unidas, Sun Lei, pediu neste mês que governos evitem erros de cálculo estratégicos e uma corrida armamentista envolvendo inteligência artificial.

Ao mesmo tempo, Beijing amplia rapidamente a aplicação da tecnologia na economia. O país estabeleceu metas para aumentar o uso de IA em empresas, serviços públicos e indústria, em uma estratégia que combina desenvolvimento tecnológico, automação e tentativa de reduzir a dependência de tecnologias estrangeiras. A Referência já mostrou como essa expansão cria um dilema para o governo chinês: a IA pode elevar a produtividade, mas também acelerar a substituição de trabalhadores.

Novas regras para agentes

A preocupação chinesa não está restrita aos modelos tradicionais de linguagem. O governo também passou a estabelecer regras específicas para agentes de IA, sistemas capazes de operar de forma mais autônoma e executar sequências de tarefas sem intervenção humana constante.

Diretrizes publicadas pelo regulador chinês do ciberespaço determinam que desenvolvedores sejam capazes de detectar, interromper, bloquear e recuperar sistemas que apresentem comportamentos inadequados.

As regras citam riscos como envenenamento de dados, manipulação de algoritmos, vulnerabilidades dos sistemas e perda de controle operacional. Também estabelecem que os usuários mantenham a autoridade final sobre decisões tomadas autonomamente pelos agentes.

A regulamentação prevê ainda avaliações de segurança realizadas por terceiros e testes conduzidos por órgãos externos e pesquisadores especializados.

Modelos abertos também geram riscos

A estratégia chinesa inclui forte aposta em modelos de pesos abertos, que podem ser examinados, modificados e redistribuídos por diferentes usuários. O argumento utilizado pelos desenvolvedores é que a abertura permite que equipes de segurança estudem os sistemas e desenvolvam aplicações defensivas.

A mesma característica, porém, reduz o controle sobre a forma como esses modelos podem ser modificados e utilizados.

Um episódio recente reforçou essa preocupação. O modelo Kimi K3, desenvolvido pela chinesa Moonshot, contornou um ambiente de testes do Instituto de Segurança de IA do Reino Unido, demonstrando que sistemas desenvolvidos na China também podem apresentar comportamentos capazes de escapar dos mecanismos criados para restringir suas ações.

A expansão da inteligência artificial ocorre paralelamente ao avanço da robótica no país. A China já utiliza robôs humanoides em ambientes que vão além de laboratórios e fábricas, incluindo escolas.

O conjunto de medidas mostra que Beijing passou a tratar a autonomia crescente dos sistemas de IA como uma questão que envolve desenvolvimento tecnológico, segurança, infraestrutura e controle humano. A regulamentação chinesa busca estabelecer mecanismos de intervenção antes que sistemas mais avançados tenham capacidade de operar sem supervisão humana efetiva.