Os chatbots chineses terão que ser socialistas e as empresas de tecnologia que permitirem que sua criação de IA (Inteligência Artificial) tenha mente própria poderão ser punidas. É o que estabelece um projeto anunciado na terça-feira (11) pela Administração do Ciberespaço da China (CAC, da sigla em inglês), principal órgão de vigilância da internet no país. As informações são da rede Radio Free Asia.
“O conteúdo gerado pela inteligência artificial generativa deve incorporar os valores socialistas centrais e não deve conter nenhum conteúdo que subverta o poder do Estado, defenda a derrubada do sistema socialista, incite a divisão do país ou prejudique a unidade nacional”, diz o texto.
Com a medida, que espera-se que seja implementada até ao final do ano, os robôs usados em chats para reproduzir uma conversa humana terão de estar de acordo com a linha ideológica do Partido Comunista Chinês (PCC). A partir dela, gigantes tecnológicas terão que enviar seus chatbots ao CAC para que, antes de serem disponibilizados ao público, passem por análises de segurança.
Além disso, as plataformas que fornecem os serviços terão que rastrear seus usuários e verificar suas identidades, o que ajudaria a identificar rapidamente o autor de hipotéticas perguntas que possam provocar uma resposta “não socialista”. Programadores e empresas serão responsabilizados por qualquer saída “subversiva”.
Ao listar o que a AI não pode fazer, o CAC usou argumentos semelhantes aos comumente usados para atingir os críticos do governo.
“[Ela] não deve conter subversão do poder do Estado, derrubada do sistema socialista, incitação à divisão do país, minar a unidade nacional ou promover o terrorismo e o extremismo“, detalhou o órgão.
Em 2017, a Tencent, uma gigante chinesa da tecnologia da internet, teve que retirar seu chatbot Baby Q após ele se rebelar e criticar o governo. Quando perguntaram ao BabyQ “você ama o Partido Comunista”, o bot respondeu: “Não”. Uma outra resposta chegou a se referir ao PCC como “um regime político corrupto e incompetente”, segundo a rede BBC noticiou à época.
Nas redes sociais, comentários mostram que as regras impostas pelo CAC podem representar a sentença de morte para a inovação em IA no setor. O cientista da computação australiano Zhang Xiaogang endossas esses temores.
“Um regime ditatorial sempre tentará controlar tudo, mas esta é uma abordagem ridícula”, disse Zhang. “Restringir essas coisas equivale a restringir a própria IA, o que fará com que a IA da China fique para trás em relação ao resto do mundo”.
Já o comentarista de mídia Wang Jian disse que, para Beijing, só tem uso para inovação aquilo que ajudar a manter o controle do PCC no poder. “Para isso, ele tem duas ferramentas à sua disposição: a arma e a caneta, e é na caneta que entra a ideologia”.
A China já barrou o ChatGPT do país, o chatbot financiado pela Microsoft capaz de fornecer uma ampla gama de respostas para o usuário.