Tenha uma proteção de privacidade potente no seu smartphone Android com o Avast Mobile Security
- Segurança
- Privacidade
- Desempenho
Vídeos deepfake ofuscam as fronteiras entre a realidade e as fake news, dificultando que as pessoas acreditem no que veem. Mas sabendo avaliar, é possível encontrar alguns sinais que entregam esses vídeos incrivelmente realistas e bizarros. Aprenda a identificar um deepfake e proteja-se na web com um software de segurança online abrangente.
Deepfakes são vídeos manipulados bastante realistas que são criados para alterar a imagem e/ou o áudio originais. Eles utilizam ferramentas de inteligência artificial (IA) para substituir convincentemente o rosto e a voz de uma pessoa, permitindo que o material seja utilizado de forma recreativa ou para espalhar desinformação.
Este artigo contém:
A criação de conteúdo digital falso não é nenhuma novidade, mas os deepfakes são um fenômeno moderno. Diferentemente de fotos falsas criadas por pessoas de verdade com o uso de ferramentas como o Photoshop, os deepfakes são fabricados por máquinas inteligentes. O uso desse método sofisticado de manipulação de vídeo está cada vez mais presente em esquemas de pharming, dificultando a proteção contra roubo de identidade.
A própria palavra deepfake é uma criação sintética, uma mistura dos termos ingleses deep learning (aprendizado profundo) e fake (falso). A parte deep da palavra se refere ao deep learning, um método de treinamento de computadores para que eles se comportem como um cérebro humano. A parte fake enfatiza a natureza ilusória das mídias deepfake.
O aprendizado profundo, também conhecido como redes neurais profundas, é um processo de IA que envolve a repetição de uma tarefa inúmeras vezes, com ou sem a supervisão humana, para descobrir a melhor forma de entregar o resultado desejado. No caso dos deepfakes, a IA recebe centenas de fotos e vídeos de referência para ensiná-la a gerar uma versão do rosto da pessoa que possa ser animada.
Geralmente os vídeos deepfakes são utilizados de uma forma inofensiva, como memes, filtros em mídias sociais ou aplicativos de troca de faces. Mas eles também podem ser utilizados de forma maliciosa para espalhar desinformação, gerar notícias falsas ou criar vídeos de vingança. A alteração da aparência de uma pessoa para fazer que ela se pareça com outra pessoa é geralmente uma atividade divertida, mas que também pode ser utilizada em casos de ciberbullying ou levar ao roubo de identidade.
De fato, foi esse lado mais malicioso da tecnologia deepfake que primeiro estourou na internet. Em 2017, um usuário do Reddit criou uma versão falsa e não consensual de vídeos pornôs com rostos de celebridades. Mesmo com o banimento do usuário em 2018, esse e outros tipos de deepfakes envolvendo pessoas famosas se espalharam pela internet.
E esse é apenas o começo no que se refere a vídeos falsos figuras notórias. A tecnologia pode ser usada em muitos tipos de materiais falsos, desde manipulação política e fake news, até chantagem e revenge porn, ou pornografia de vingança. Qualquer um com acesso a tecnologia deepfake pode fazer um vídeo de uma pessoa dizendo ou fazendo praticamente qualquer coisa.
E infelizmente, a criação e transformação de vídeos deepfake em ferramenta de agressão já é uma realidade. Teme-se que o uso de deepfakes só aumente com o passar do tempo, envolvendo questões de segurança de dados biométricos, com impacto inclusive em ferramentas de reconhecimento facial.
Deepfakes são criados com o carregamento de muitas imagens de uma pessoa nas redes de computadores de aprendizado profundo. Esse processo é conhecido como autoencoder variacional (VAE, da sigla em inglês). O objetivo é treinar os VAEs para capturarem diferentes tipos de iluminação, posições e expressões emocionais. Isso ajuda a IA a determinar quais elementos visuais, como expressões ou sombras, são únicas e quais são substituíveis.
Aqui está uma análise mais detalhada do processo de criação de um vídeo deepfake:
Primeiro a IA precisa de dois grupos de imagens de entrada: a fonte original (pessoa A) e o alvo do deepfake (pessoa B). Computadores podem ser treinados com diversas imagens de faces aleatórias ou de uma pessoa específica.
Depois a IA cria as imagens de saída. Ela determina quais elementos sutis da expressão são únicos e essenciais ao vídeo deepfake. Para ser convincente, a IA deve manter sutilezas da personalidade e dos movimentos faciais que ocorrem naturalmente e são únicos à pessoa em questão.
Para executar a troca de faces, tanto as imagens de entrada como as de saída são combinadas. Os dados de saída da fonte original são alimentados no VAE e unidos aos dados do rosto-alvo do deepfake. O enconder reconstrói os movimentos e expressões emocionais da pessoa A com o rosto da pessoa B. Isso é feito quadro a quadro para que o vídeo deepfake seja o mais convincente possível.
Os melhores exemplos de deepfake são geralmente aqueles criados especificamente para demonstrar o poder dessa tecnologia. Outros mais divertidos são um pouco menos sofisticados, mas ainda assim interessantes.
Isso pode gerar dúvidas sobre o uso malicioso dos deepfakes. Bom, quando utilizados como ferramenta de fraude, manipulação, vingança ou desinformação, principalmente para influenciar visões políticas, os deepfakes podem causar muitos danos, tanto em nível pessoal quanto social.
Assista ao deepfake do Barack Obama, ex-presidente dos EUA, em que “ele” fala um palavrão pesado e xinga o também ex-presidente Donald Trump. Um VAE foi treinado com entradas do ator Jordan Peel, enquanto o outro foi alimentado com fotos e vídeos de Obama.
Este deepfake de Jon Snow se desculpando pelo copo da Starbucks na temporada final de Game od Thrones também mostra o lado divertido desses vídeos sintéticos.
O deepfake com depoimento de Nixon sobre uma falha na aterrissagem na lua é outro exemplo convincente de como é fácil fazer com que líderes políticos digam algo que não disseram. Um dos motivos que faz esse exemplo ser tão autêntico se deve ao texto baseado em um depoimento realmente preparado para Nixon caso a missão Apollo 11 falhasse.
Obviamente as celebridades são personagens corriqueiros de deepfakes. O fato de serem famosos faz com que sejam o alvo ideal de memes, e a facilidade de acesso a imagens dessas pessoas ajuda a tecnologia de IA a criar deepfakes bastante convincentes.
Mesmo que o termo deepfake de celebridades seja sempre associado aos escandalosos vídeos pornográficos do Reddit, geralmente as montagens feitas com imagens de pessoas famosas são alegres e transparentes. Abaixo, confira a compilação de vídeos deepfake do ator Tom Cruise ou esse divertido conto de Natal em um vídeo de Trump (em inglês).
Um dos melhores exemplos de deepfake é este poema do impressionista Jim Meskimen. Com a ajuda do aprendizado profundo de uma IA, ele se transforma de John Malkovich em Robert De Niro, e de Arnold Schwarzenegger em George Bush.
Mesmo que sejam convincentes, é relativamente fácil distinguir um deepfake de vídeos reais, desde que você saiba onde olhar. Apesar da capacidade de se fazer trocas de faces realísticas com o uso de IA, quando o assunto é animação convincente, a conversa muda de tom. Quase sempre há algum sinal, mesmo que sutil, denunciando algo fora do lugar.
Mas na medida em que a tecnologia vai amadurecendo e melhorando, a identificação de deepfakes tende a fica cada vez mais difícil. As dicas a seguir de detecção de deepfakes podem ajudar a evitar golpes do tipo ataques phishing ou a divulgação de fake news.
As principais falhas nos deepfakes estão nos áudios, sombras estranhas e tons de peles, além de áreas borradas durante o movimento dos personagens. Preste atenção especial à boca, testa e pescoço. Essas partes do corpo podem denunciar o vídeo falso.
Escute este deep fake do presidente ucraniano Volodymyr Zelensky supostamente solicitando a rendição das tropas do país ao exército russo. Ao compará-lo com um vídeo autêntico de Zelensky, sua voz parece abatida e tímida. Também é possível perceber que o áudio não está sincronizado com os movimentos físicos da boca do personagem.
A combinação perfeita de sombras e tons de peles é muito difícil. Por isso esses são os principais elementos para identificar um vídeo deepfake. Nesse clipe de Home Stalone, parece que Kevin usa uma máscara do ator Silvester Stalone devido à problemática integração de tons de pele. É possível rastrear a linha da testa de Kevin, a bochecha e a linha da mandíbula.
Áreas claras ou borradas, especialmente ao redor da boca, são outra dica de que estamos diante de um deepfake. O deepfake do Tom Cruise acima apresenta muitos ângulos convincentes, mas uma análise mais cuidadosa revela áreas borradas ao redor do queixo, que ficam ainda mais evidentes durante transições e movimentos faciais.
Os deepfakes são legais em quase todos os lugares, mas a legalidade de vídeos específicos depende do contexto e do seu uso, com diferenças nas legislações de cada país.
Nos EUA, leis específicas estão sendo implementadas para regular os deepfakes. A maioria dos estados americanos têm leis contra a pornografia de vingança, mas poucos deles especificam os deepfakes como algo ilegal. A Califórnia também proibiu o uso de deepfakes de membros do governo e candidatos a cargos públicos em períodos de campanhas eleitorais.
O Reino Unido não tem nenhuma lei específica para combater os deepfakes. Isso significa que as vítimas desses tipos de vídeos dependem da legislação existente por lá, como a que trata sobre difamação, para processar os criadores de materiais pessoalmente ofensivos.
Recentemente a China aprovou uma lei referente aos deepfakes que condena a própria plataforma onde o vídeo foi publicado, proibindo que elas recomendem conteúdos sintéticos. A lei se refere amplamente à divulgação de informações falsas, incluindo deepfakes, fake news e outros conteúdos multimidiáticos enganosos.
Mesmo com a existência de sistemas de proteção robustos contra malwares, cibercriminosos e outras ameaças tradicionais, os deepfakes trazem um novo tipo de desafio. A identificação de uma foto ou vídeo falsos na web não é fácil. Além disso, a detecção deepfakes ficará cada vez mais difícil.
Mas empresas de segurança e tecnologia já estão trabalhando em formas inovadoras de combate a essa nova ameaça. Esquemas e ferramentas como o DARPA e o Desafio de Detecção de Deepfake do Facebook são utilizadas para armar a sociedade com mecanismos de defesa contra informações falsas. É importante conhecer as diferenças entre privacidade e segurança para que você possa se defender em ambas as esferas.
Como os deepfakes são criados com um grande volume de fotos e vídeos de pessoas, é aconselhável a diminuição do volume de imagens compartilhadas na internet, principalmente em mídias sociais. Isso pode evitar que você se torne vítima de um deepfake. Aprenda a alterar as configurações de privacidade do Facebook e a encontrar e remover informações pessoais da internet.
Áudio e vídeo em deepfakes podem facilmente ser utilizados em ataques phishing. Então fique atento a essa nova e crescente ameaça. Assim como em outras formas de golpes phishing, a análise cuidadosa às mensagens recebidas pode ajudar na identificação de fraude. Se você não tem certeza sobre a integridade de um vídeo, pesquise na internet ou encontre a fonte do material em redes sociais ou onde for preciso.
No momento em que dados sigilosos caem nas mãos erradas, não dá para saber o que vermes cibernéticos farão com as informações roubadas. Suas fotos, vídeos e informações pessoais pertencem somente a você. Tome cuidado para que as coisas continuem assim. Proteja a sua privacidade online com um software de segurança abrangente, como o Avast Free Antivirus.
O Avast protege você por todos os lados com um antivírus premiado, um firewall imbatível e um inspetor de Wi-Fi para detectar qualquer ponto fraco na sua rede. Blinde a sua vida digital hoje mesmo.