Deepfakes de estrelas de Bollywood despertam preocupações sobre a interferência da IA ????nas eleições na Índia

Em vídeos falsos que se tornaram virais online, dois dos principais atores de Bollywood da Índia são vistos criticando o primeiro-ministro Narendra Modi e pedindo às pessoas que votem no partido de oposição do Congresso nas eleições gerais em curso no país.

Num vídeo de 30 segundos que mostra Aamir Khan e outro clipe de 41 segundos de Ranveer Singh, os dois atores de Bollywood alegadamente dizem que Modi não cumpriu as promessas de campanha e não abordou questões económicas críticas durante os seus dois mandatos como primeiro-ministro.

Ambos os vídeos gerados por IA terminam com o símbolo eleitoral do Congresso e o slogan: “Vote pela Justiça, Vote pelo Congresso”.

Os dois vídeos foram vistos nas redes sociais mais de meio milhão de vezes desde a semana passada, mostra uma análise da Reuters.

A sua propagação sublinha o papel potencial que tal conteúdo gerado por IA (inteligência artificial) pode desempenhar nas gigantescas eleições indianas que começaram na sexta-feira e continuarão até junho. A IA e as falsificações geradas pela IA, ou deepfakes, estão a ser cada vez mais utilizadas em eleições noutras partes do mundo, incluindo nos EUA, no Paquistão e na Indonésia.

A campanha na Índia há muito se concentra na divulgação porta a porta e em comícios públicos, mas o uso extensivo do WhatsApp e do Facebook como ferramentas de campanha começou em 2019. As eleições gerais deste ano – nas quais se espera que Modi garanta um raro terceiro mandato – são o primeiro em que a IA está sendo usada.

Uma porta-voz do Congresso, Sujata Paul, compartilhou o vídeo do ator Singh com seus 16.000 seguidores no X em 17 de abril e, na tarde de sábado, sua postagem foi compartilhada de novo 2.900 vezes, curtida 8.700 vezes e recebeu 438.000 visualizações.

Paul disse à Reuters por telefone que sabia que o vídeo estava marcado como “mídia manipulada” por X, mas não queria excluí-lo porque, ao postar, achou que a pessoa era parecida com Singh e “tem criatividade, com certeza”. .

A postagem não estava mais visível no X no domingo, horas depois de a Reuters enviar um pedido de comentário ao chefe da célula de mídia social do Congresso, que não respondeu.

Ambos os atores disseram que os vídeos são falsos. Facebook, X e pelo menos oito sites de verificação de fatos afirmaram que foram alterados ou manipulados, o que a unidade de verificação digital da Reuters também confirmou.

A Reuters não conseguiu determinar quem criou os vídeos. Khan ficou “alarmado” com o vídeo “falso” viral e a equipe de Singh estava investigando o assunto, de acordo com um porta-voz de ambos os atores. Singh escreveu no X na sexta-feira: “Cuidado com deepfakes, amigos”.

O gabinete de Modi e o chefe de TI do seu partido Bharatiya Janata não responderam aos pedidos de comentários.

SONDA POLÍCIA

Quase 900 milhões de pessoas na Índia têm acesso à Internet e um inquérito realizado pela organização de investigação Esya Center e pela escola de negócios Indian Institute of Management mostrou que um indiano médio passa mais de três horas por dia nas redes sociais. O país tem quase um bilhão de eleitores.

Algumas versões dos vídeos foram bloqueadas nas redes sociais, mas pelo menos 14 ainda estavam visíveis no X no sábado. O Facebook excluiu dois vídeos sinalizados pela Reuters para a empresa, mas um outro ainda estava visível.

O Facebook em comunicado disse que “removeu os vídeos” por violação de suas políticas. X não respondeu às perguntas da Reuters.

Os vídeos geraram uma investigação policial, com Khan registrando um caso em Mumbai contra pessoas não identificadas em 17 de abril por suposta falsificação de identidade e trapaça na criação do vídeo falso.

A polícia de Mumbai não retornou um pedido de comentário, mas dois policiais que trabalham no caso de Khan, que não quiseram ser identificados, disseram que escreveram ao Facebook e ao X para retirar o vídeo e as empresas disseram que isso foi feito.

Os policiais disseram que ficaram acordados até as 2h da sexta-feira, atualizando as páginas para verificar se os vídeos online de Khan foram removidos. Questionado sobre o andamento do caso, um deles disse: “Essas investigações técnicas levam tempo”.

VÍDEO AI DO PAI MORTO

Nas eleições deste ano, os políticos estão a utilizar a IA de outras formas.

No sul da Índia, o porta-voz do líder do Congresso, Vijay Vasanth, disse que sua equipe criou um videoclipe de 2 minutos usando IA que foi compartilhado em plataformas de mídia social e mostra seu pai político, agora morto, mas mais popular, H. Vasanthakumar, buscando votos para ele .

O falecido político é visto dizendo “mesmo que meu corpo tenha deixado todos vocês, minha alma ainda está por aí”.

Em vídeos publicados no YouTube pelo Partido Comunista da Índia-Marxista (CPM), Samata, um âncora gerado por IA vestido com um saree tradicional e falando num estilo que imita os canais de notícias regulares, critica o partido no poder no estado de Bengala Ocidental.

Em um clipe, o âncora alega que o partido não se preocupa com o meio ambiente, já que muitos corpos d’água desapareceram devido à construção ilegal.

Um porta-voz do partido no poder negou a acusação e disse que o governo estadual garantiu que tal construção não ocorresse. O CPM não respondeu aos pedidos de comentários.

No vídeo, que já foi visto 12 mil vezes, o âncora Samata declara: “Essas são questões sobre as quais nós, cidadãos desta cidade, precisamos refletir”.

(Reportagem de Aditya Kalra em Nova Delhi, Munsif Vengattil em Bengaluru e Dhwani Pandya em Mumbai; reportagem adicional de Hardik Vyas, Carmel Jaeslin B, Arpan Chaturvedi, Rishika Sadam, Shivangi Acharya, Jatindra Dash, Subrata Nag Choudhury; Edição de Raju Gopalakrishnan)

Mais uma coisa! Agora estamos nos canais do WhatsApp! Siga-nos lá para nunca perder nenhuma atualização do mundo da tecnologia. ?Para acompanhar o canal HT Tech no WhatsApp, clique aqui para aderir agora!

Patrocinado por Google

Deixe uma resposta

Área Militar
Área Militarhttp://areamilitarof.com
Análises, documentários e geopolíticas destinados à educação e proliferação de informações de alta qualidade.
ARTIGOS RELACIONADOS

Descubra mais sobre Área Militar

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continue reading