Enquanto as gigantescas eleições na Índia prosseguem, a Sky News conversou com aqueles que criaram vídeos gerados por IA (inteligência artificial) de atores de Bollywood dando endossos falsos a partidos políticos.
Divyendra Jadoun se orgulha de seu pseudônimo profissional: o Indian Deepfaker.
“Eu sei que fazemos deepfakes”, ele diz à Sky News. “Por que eu usaria outra coisa?”
E os serviços de Jadoun têm sido procurados recentemente, enquanto a Índia realiza eleições – frequentemente rotuladas como as maiores eleições democráticas do planeta.
Os deepfakes têm sido um destaque, de maneiras surpreendentes. Em algumas ocasiões, foram maliciosos. Atores de Bollywood foram falsamente retratados criticando o PM Narendra Modi ou endossando um partido político.
Jadoun diz: “Recebemos muitos pedidos, desde novembro, outubro. E desses pedidos, cerca de 45 a 50% eram para deepfakes antiéticos. E existem dois tipos de pedidos antiéticos.
“Um é trocar o rosto do líder político e colocá-lo em algum vídeo controverso que possa prejudicar sua imagem. O segundo tipo de deepfake antiético é criar o clone da voz do líder opositor e fazê-lo dizer algo que ele nunca disse.”
“Esta é a primeira vez que veremos a implantação de deepfakes em grande escala. Até para nós, é uma novidade. “Nós não sabemos quanto impacto terá ou se terá algum impacto.”
Outros apontam para o baixo número de visualizações que esses vídeos deepfake costumam receber, juntamente com a rapidez com que são desmascarados – e dizem que o impacto dos deepfakes tem sido, talvez inesperadamente, positivo.
“Havia o medo de que o tipo de deepfake fosse mais usado para conteúdo adversário, enquanto o que estamos vendo é o oposto”, explica Joyojeet Pal, professor associado de informações da Universidade de Michigan.
“O conteúdo gerado artificialmente está sendo muito mais usado pelas campanhas dos políticos em seu próprio interesse.”
Testemunhe a ressurreição de M Karunanidhi, um político que morreu em 2018. Um deepfake dele foi criado pelo tecnólogo Senthil Nayagam e subsequentemente usado na campanha, endossando vários candidatos.
“Começamos acidentalmente a tendência com este vídeo”, diz Nayagam à Sky News.
O Indian Deepfaker trabalhou em outro sistema que mostra o potencial de inovação dos deepfakes.
“Estamos desenvolvendo um agente conversacional onde você receberá uma ligação na voz de um líder. Ele dirá que é um avatar gerado por IA desse líder e perguntará o nome da pessoa”, diz ele.
“Ele perguntará ‘Quais são as questões locais em sua área?’ ou ‘Quais são suas sugestões para o governo?’ – e cada chamada será gravada.
“Em seguida, será transcrito e filtrado com base em diferentes perguntas, para que o governo ou os partidos políticos possam criar manifestos ou elaborar programas de acordo com o problema.”
Ainda existem armadilhas. Jadoun está preocupado com os deepfakes se espalhando pelo sistema de mensagens WhatsApp em vez da internet aberta, onde são mais fáceis de desmascarar. O WhatsApp é onde mais tradicionalmente a desinformação se espalhou, de acordo com Amber Sinha.
“Acho que também foram os primeiros dias, em termos de [o deepfake] caso de uso na Índia”, ele diz à Sky News.
“Houve outros modos de conteúdo, por exemplo, imagens adulteradas, imagens editadas no Photoshop que têm sido prevalentes, particularmente em grupos de WhatsApp, por muito mais tempo na Índia.”
O WhatsApp é, para muitas pessoas na Índia, simplesmente a internet. Plataformas que dominam em outras democracias permanecem de nicho. Considere os gastos com anúncios na Meta, que é dona do Facebook e do Instagram (e do WhatsApp, embora não mostre anúncios).
O BJP no poder está claramente dominando, de acordo com os dados fornecidos pelo Who Targets Me. Mas compare isso com os gastos nos EUA.
Os EUA nem mesmo estão realizando uma eleição – pelo menos ainda não – e estão confortavelmente gastando mais que a Índia.
E Pal argumenta que outras plataformas agora alcançaram o WhatsApp.
“Os grupos do WhatsApp eram os grandes jogadores nas eleições bastante recentes também”, ele diz. “O YouTube está no mesmo nível ou é mais importante que o WhatsApp agora.”
O desenvolvimento digital mais inovador desta eleição, ele argumenta, é o surgimento dos influenciadores do YouTube.
No início deste mês, por exemplo, o Curly Tales, um blogueiro de gastronomia com mais de três milhões de seguidores, apresentou o chefe do governo de Maharashtra em seu canal. E os políticos têm feito esforços concentrados para conquistar influenciadores em toda a linha.
“A coisa mais surpreendente da campanha foi o surgimento de influenciadores digitais em vez de jornalistas profissionais como entrevistadores nas próprias campanhas”, diz Pal.
“Em vez de um jornalista profissional que pode ser bastante educado sobre política e pode fazer perguntas agressivas a um político sobre o que está ou não está funcionando em sua plataforma, um influenciador digital não tem essa capacidade.”
Apesar de toda a inovação, os deepfakes e os influenciadores talvez abram uma lacuna de informação – onde a dúvida e a desinformação podem se espalhar, inadvertidamente ou não.
Deixe uma resposta