A criação de vídeos adulterados e realistas ficou muito mais simples com o chamado deepfake. Com ele, é possível colocar pessoas em situações constrangedoras ou, no mínimo, inusitadas.
o TSE (Tribunal Superior Eleitoral) aprovou 12 regras novas para as eleições municipais deste ano, incluindo diretrizes sobre o uso de Inteligência Artificial (IA) e a proibição de deepfakes nas campanhas.
O Deepfake é uma tecnologia que usa inteligência artificial para criar conteúdos de mídia, como vídeos e imagens, que aparentam ser autênticos, mas na realidade são manipulados de forma artificial. Isso significa que uma pessoa pode criar um vídeo onde o rosto dela ou de outra pessoa é sobreposto em outro vídeo, por exemplo, permitindo criar situações falsas que parecem genuínas. Essa tecnologia levanta preocupações éticas e de segurança, especialmente quando usada de forma maliciosa para disseminar informações falsas ou criar conteúdos nocivos, como vídeos pornográficos falsos e até campanhas falsas eleitorais.
Mas o que o termo deepfake significa?
O deepfake é uma técnica que usa inteligência artificial para modificar vídeos ou fotos. Com essa técnica, é possível substituir o rosto de uma pessoa por outro ou alterar o que ela está dizendo. Isso é feito por meio de aplicativos desenvolvidos para esse fim.
Uma das preocupações principais com essas ferramentas é a criação de vídeos pornográficos usando o rosto de pessoas sem autorização. Em 2020, um relatório da empresa Sensity mostrou que nudes falsos de mais de 100 mil mulheres foram compartilhados na internet.
Deepfake ao vivo e o uso na política
Também na esfera política, foram registrados casos de deepfakes. Em 2019, a ex-presidente da Câmara dos Deputados dos Estados Unidos, Nancy Pelosi, foi alvo de um vídeo manipulado que utilizou um vídeo autêntico para sugerir que ela estava tendo dificuldades em seu discurso.
O autor desse deepfake modificou a velocidade do vídeo original e editou a fala para dar a impressão de que ela estava se atrapalhando com as palavras. Esse conteúdo falso se espalhou amplamente nas redes sociais e foi removido do YouTube.
Inicialmente, o Facebook tomou medidas limitadas, apenas reduzindo a distribuição do vídeo e alertando os usuários sobre sua potencial enganação. Entretanto, no início de 2020, a plataforma anunciou que começaria a remover deepfakes, exceto em casos de paródias.
Antes do vídeo falso de Pelosi, até mesmo o presidente-executivo do Facebook, Mark Zuckerberg, foi alvo de um deepfake. O vídeo adulterado mostrava uma fala fictícia em que ele discutia sobre conquistar o mundo e permaneceu no Instagram, plataforma controlada pela empresa de Zuckerberg.
Fonte: G1