As autoridades da China anunciaram no domingo (7) que um homem foi preso sob a acusação de usar o ChatGPT para gerar uma notícia falsa a respeito de um acidente de trem que teria matado nove pessoas no dia 25 de abril. As informações são do jornal South China Morning Post.
Ao justificar a prisão, a polícia da província de Gansu, no noroeste do país, disse que o indivíduo, que foi identificado apenas pelo sobrenome Hong, é acusado de “usar tecnologia de inteligência artificial para inventar informações falsas”.
Depois de gerar a notícia pelo ChatGPT, o homem usou 20 contas falsas no Baijiahao, uma plataforma de blogs gerida pela rede social local Baidu, para difundir a mentira. Quando as autoridades identificaram a falsa notícia, ela já havia recebido mais de 15 mil curtidas.
Hong foi preso com base em uma nova lei que está em circulação desde janeiro e que visa a combater a circulação de deepfakes, que é o uso de inteligência artificial para modificar uma informação digital real, como foto, áudio e vídeo, substituindo-a por outra. O crime imputado a ele, “provocar problemas e brigas”, tem pena máxima de cinco anos.
China x inteligência artificial
Embora o próprio governo chinês seja acusado pelo Ocidente de usar informações falsas para manipular a informação pública, sobretudo em país estrangeiros, no âmbito doméstico Beijing atua para impedir que a inteligência artificial seja usada para espalhar conteúdo que eventualmente venha a prejudicar o governo.
Inclusive, o ChatGPT não está disponível para ser usado em ip’s chineses, e cidadãos do país asiático só conseguem acessar o aplicativo através de conexões VPN confiáveis.
Para proteger o regime da inteligência artificial, a Administração do Ciberespaço da China (CAC, da sigla em inglês), principal órgão de vigilância da internet no país, anunciou em abril um projeto de lei que obriga os chatbots a seguirem a cartilha do Partido Comunista Chinês (PCC).
Com a medida, que espera-se seja implementada até ao final do ano, os robôs usados em chats para reproduzir uma conversa humana terão de estar de acordo com a linha ideológica do governo. A partir dela, gigantes tecnológicas terão que enviar seus chatbots ao CAC para que passem por uma análise antes de serem disponibilizados ao público.
Por lei, as plataformas que fornecem os serviços também serão obrigadas a rastrear seus usuários e verificar suas identidades. Isso facilitaria a rápida identificação do autor de eventuais informações falsas que possam provocar uma resposta “não socialista”. Programadores e empresas serão responsabilizados por qualquer saída “subversiva”.