No feed das redes sociais, um apresentador de telejornal, branco, de traços ocidentais e terno bem alinhado, falando a um veículo informativo chamado Wolf News, critica os Estados Unidos pela leniência diante da violência armada no país. Em outro vídeo, uma segunda âncora faz comentários pelo mesmo noticioso. Também caucasiana, a mulher destaca a importância da cooperação entre Beijing e Washington para a recuperação econômica global. Ambos falam em inglês.

O conteúdo é disseminado principalmente entre Facebook e Twitter. O que boa parte dos espectadores não percebe é que são jornalistas irreais, criados por inteligência artificial (AI), numa técnica conhecida como “deepfake“. E esse “formato jornalístico”, cheio de falhas técnicas e como imagens pixelizadas, está auxiliando o governo chinês na sua propaganda, segundo uma empresa de pesquisa que estuda a desinformação.

Um relatório da Graphika, empresa de pesquisa com sede em Nova York, descobriu uma campanha pró-China que usa esses avatares digitais para promover os interesses do Partido Comunista Chinês (PCC). A denúncia, reproduzida pela rede Radio Free Asia, ilustra a preocupação de especialistas cibernéticos sobre como os deepfakes podem comprometer ainda mais a capacidade das pessoas de discernir a realidade das adulterações online, que podem causar efeitos devastadores quando utilizadas para, por exemplo, provocar um escândalo político.

“À primeira vista, os âncoras do Wolf News se apresentam como pessoas reais. Nossa hipótese inicial era que eles eram atores pagos que foram recrutados para aparecer nos vídeos”, disse a equipe por trás do relatório. A emissora fictícia traz como slogan “Foco em locais quentes e transmissão em tempo real”. 

Após uma investigação mais aprofundada, especialistas da Graphika identificaram fala robótica dos âncoras, além de falta de sincronia com os movimentos dos lábios. Inúmeros erros gramaticais nas legendas também foram apontados, colocando em xeque a legitimidade do suposto veículo.  

“Esta é a primeira vez que vimos uma operação alinhada com o Estado usar imagens de vídeo geradas por IA de uma pessoa fictícia para criar conteúdo político enganoso”, disse Jack Stubbs, vice-presidente de inteligência da Graphika, à agência AFP.

A Graphika disse que descobriu os deepfakes enquanto rastreava operações de desinformação pró-China conhecidas como “spamouflage”, junção das palavras “spam” e “camuflagem”.

“Spamouflage é uma operação de influência pró-chinesa que amplifica predominantemente vídeos de spam político de baixa qualidade”, explicou Stubbs.

O governo chinês não fez comentários sobre o relatório da Graphika, que veio à tona algumas semanas após o país ter adotado regras amplas para regular os deepfakes. Entre as determinações impostas no mês passado, a de que as empresas que oferecem esse tipo de serviço marquem o conteúdo como feito por AI de modo a evitar “qualquer confusão”.

Beijing também alertou que os deepfakes representam um “perigo para a segurança nacional e a estabilidade social”.

Baixa qualidade

No final do mês passado, o Google anunciou que seu Grupo de Análise de Ameaças (TAG, na sigla em inglês) interrompeu, em 2022, uma grande campanha de desinformação online de um grupo pró-China. Diversas plataformas foram alvo do Dragonbridge, que teria realizado mais de 50 mil ações para espalhar propaganda estatal chinesa sobre temas como a guerra na Ucrânia e a pandemia de Covid-19.

Embora considere a campanha de desinformação como sendo de larga escala, com “produção abundante de conteúdo”, o Google afirma que conseguiu conter a ameaça com sucesso. Diz o relatório que o material “praticamente não alcançou nenhum engajamento orgânico de espectadores reais – em 2022, a maioria dos canais Dragonbridge tinha zero inscrito quando o Google os interrompeu, e mais de 80% dos vídeos Dragonbridge tiveram menos de cem visualizações”.

Contribui para o fracasso da campanha de desinformação o fato de que o material difundido é quase sempre de baixa qualidade, com erros gramaticais, traduções mal feitas e imagens borradas. O objetivo é quase sempre criticar os EUA e exaltar a China.