O regime de Nicolás Maduro na Venezuela vem difundindo a desinformação com locutores gerados por inteligência artificial (AI), que proporcionam notícias unicamente favoráveis ao regime, destacando como a tecnologia é utilizada para promover sua narrativa, informou o diário espanhol El País.
A reportagem, baseada em um estudo da ONG venezuelana Cazadores de Fake News (Caçadores de Notícias Falsas), afirmou que tanto os supostos jornalistas Daren e Noah, que aparecem em vários programas noticiosos digitais fictícios falando inglês, como o programa noticioso digital venezuelano House of News, foram criados com AI a partir de um catálogo de mais de 100 rostos multirraciais do software Synthesia.
“Regimes como os da Venezuela ou da China criam falsos avatares, fotografias e vídeos para fins políticos, distorcendo a realidade”, disse à Diálogo Victor Ruiz, fundador do centro de segurança cibernética SILIKN, sediado no México, em 10 de abril. “Desta forma, eles mantêm o poder sobre o povo, fazendo com que desconfiem de pessoas, instituições ou mesmo de nações que possam representar concorrência ao regime.”
Por cerca de US$ 30 por mês, os usuários de Synthesia podem incluir um roteiro em mais de 100 idiomas e fazer com que sincronize com a boca dos avatares e seja incluído em imagens, trilhas sonoras e vídeos, como parte da montagem, relata a plataforma espanhola Prensa Ibérica. Para seu funcionamento, não é preciso ter nenhum conhecimento de criação de vídeos.
De acordo com as políticas de uso de Synthesia, situada em Londres, seu website é para a criação de vídeos de treinamento, tutorial e marketing, pois estão restritos os conteúdos religiosos, políticos, sexuais, discriminatórios, com discurso de ódio ou blasfêmia. Além disso, a empresa criada em 2017 enfatiza que os avatares de ações não devem estar “em conteúdos gerados pelo usuário para sua transmissão em televisão”.
Héctor Mazarri, colaborador de Cazadores de Fake News, disse a El País que, após estudar os vídeos de Daren e Noah, eles detectaram “uma tentativa organizada de promover narrativas favoráveis ao regime [venezuelano]. Embora um usuário capacitado possa detectar os erros, isto é feito para que ninguém fique isento de não acreditar”, afirmou.
Além disso, os vídeos dos supostos jornalistas, favorecendo sem fundamento e unilateralmente a Venezuela, tiveram centenas de milhares de visitas em YouTube, tornaram-se virais no TikTok e foram transmitidos pela televisão estatal Venezolana de Televisión, informou El País. “Todos nós podemos ser vítimas deste abuso de poder e desinformação”, acrescentou Ruiz.
Falsa reportagem
Um dos avatares compartilhou uma visão positiva de Caracas no broadcast House of News, dizendo: “Queríamos saber se a Venezuela está realmente tão destruída como a mídia vem afirmando há anos”, noticiou El País. Depois expôs as praias venezuelanas cheias de turistas e supostos telefonemas a agências de viagens que asseguravam que as reservas estavam totalmente lotadas para a temporada de carnaval.
O vídeo procurava negar os relatórios econômicos e sociais das instituições e organizações civis venezuelanas, que indicam que mais de 90 por cento da população vive na pobreza, segundo a mídia venezuelana Efecto Cocuyo.
“Países como a Venezuela e a China utilizam esta inteligência artificial e outras novas ferramentas como armas contra o povo, contra cidadãos ou outros países”, declarou Ruiz. “Isto faz com que o próprio povo desconfie, esteja incerto e possa até se rebelar contra o próprio país”, disse Ruiz.
Avatares chineses
No caso de Pequim, um avatar também promove os interesses do Partido Comunista Chinês (PCC) através de um meio de comunicação chamado Wolf News. Em um vídeo, uma apresentadora fictícia proclama o papel da China nas relações geopolíticas em uma cúpula internacional, informou o jornal The New York Times, em 9 de fevereiro.
Graphika, uma empresa americana que estuda a desinformação, localizou uma campanha promovendo filmagens de vídeo de avatares pró-China, em 2022. “O uso de produtos de AI disponíveis ao público permitirá aos influenciadores criar conteúdos enganosos em maior escala e velocidade”, afirmou.
“É uma questão complexa; no caso da China, existem barreiras que impedem saber em primeira mão o que realmente está acontecendo”, disse Ruiz. “Serão gerados muitos mais avatares nos países autoritários com motivos políticos. Temos que ser muito cautelosos com as informações que estamos recebendo.”
Em março, a mídia oficial do PCC People’s Daily apresentou uma apresentadora de notícias de AI. A jornalista virtual chamada Ren Xiaorong só pode responder a partir de um roteiro pré-escrito que segue a linha editorial e oficial do PCC, noticiou a mídia argentina TN-Todo Noticias.
Códigos de ética
Dado que a AI veio para ficar, “as organizações e os governos devem ter códigos de ética para suas operações. Eles têm que trabalhar imediatamente para incorporar regulamentos para o uso da inteligência artificial”, declarou Ruiz. “Estes códigos poderiam, de alguma forma, refrear parte da desinformação.”