Inscreva-se no grupo de análise e inteligência no Telegram ▶️ https://t.me/areamilitar
Na sexta-feira, 17 de novembro, o primeiro-ministro Narendra Modi destacou o problema galopante dos deepfakes na Índia. Para quem não sabe, deepfake é uma tecnologia de inteligência artificial (IA) onde mídias, como fotos, vídeos e áudio, são manipuladas de forma hiper-realista para fazer com que pareçam extremamente reais, mesmo que sejam falsas. O último caso foi da atriz Rashmika Mandanna, que foi vítima do último ataque horrível. O PM Modi estava se dirigindo aos jornalistas no programa Diwali Milan na sede do BJP em Nova Delhi.
Durante o discurso, ele sinalizou o uso indevido da IA para a criação de ‘deepfakes’ e disse que a mídia deve educar as pessoas sobre esta crise. A questão dos deepfakes até fez com que algumas celebridades entrassem com ações judiciais. No início deste ano, o ator Anil Kapoor lutou com sucesso em uma ação judicial contra deepfakes não autorizados de si mesmo e, recentemente, um perturbador vídeo deepfake do ator Rashmika Mandanna veio à tona, onde seu rosto foi adicionado ao corpo de outra mulher.
O problema dos deepfakes
De muitas maneiras, a linha deepfake de Rashmika Mandanna iniciou a conversa na Índia em torno deste problema que tem potencial para explodir a qualquer momento. Neste incidente, um pequeno clipe de seis segundos do ator foi compartilhado online, onde Mandanna pode ser vista entrando em um elevador. Rapidamente se tornou viral. Mais tarde, porém, foi revelado que o vídeo era de uma influenciadora do Instagram, Zara Patel, e o rosto de Mandanna foi adicionado por meio de IA.
Em sua reação, o Ministro da União, Rajeev Chandrasekhar, disse: “O governo está empenhado em garantir a segurança e a confiança de todos os DigitalNagriks que usam a Internet”. Chamando os deepfakes de forma de desinformação mais recente, extremamente perigosa e prejudicial, ele explicou que “precisa ser tratado pelas plataformas”.
Patel, a mulher cujo vídeo foi falsificado por maus atores, declarou em sua conta no Instagram e disse: “Estou profundamente perturbado e chateado com o que está acontecendo. Preocupo-me com o futuro das mulheres e raparigas que agora têm de temer ainda mais a possibilidade de se colocarem nas redes sociais. Por favor, dê um passo para trás e verifique o que você vê na internet. Nem tudo na internet é real”.
Como detectar deepfakes
O Instituto de Tecnologia de Massachusetts (MIT), que tem seu próprio departamento dedicado de pesquisa de IA e ML, publicou algumas dicas úteis que as pessoas podem usar para diferenciar entre deepfakes e vídeos reais. Alguns deles estão listados abaixo.
1. Preste atenção no rosto. As manipulações sofisticadas do DeepFake são quase sempre transformações faciais.
2. Preste atenção ao piscar. A pessoa pisca o suficiente ou demais?
3. Preste atenção nos movimentos dos lábios. Alguns deepfakes são baseados em sincronização labial. Os movimentos dos lábios parecem naturais?
O risco de ser deepfaked é baixo para a maioria dos indivíduos devido aos extensos dados de treinamento necessários para criar manipulações tão sofisticadas. Sem uma vasta coleção de fotos e vídeos pessoais disponíveis online, torna-se um desafio para os modelos de IA produzir deepfakes perfeitos, especialmente quando estão envolvidas visualizações faciais laterais.
