Consiga una potente protección de la privacidad para su iPhone con Avast Mobile Security
- Seguridad
- Privacidad
- Rendimiento
Los vídeos deepfake difuminan los límites entre la realidad y las noticias falsas, lo que hace que cada vez sea más difícil creer lo que se ve. Pero si sabe lo que buscar, hay señales reveladoras que delatan estos vídeos inquietantemente reales y a menudo extraños. Sepa cómo detectar un deepfake, y protéjase en línea con un completo software de seguridad.
Un deepfake es un material multimedia aparentemente realista pero falso, creado mediante la alteración de material de vídeo o audio ya existente. Los vídeos deepfake utilizan herramientas de inteligencia artificial (IA) para sustituir de forma convincente la cara o la voz de una persona por la de otra, lo que permite utilizar los medios sintetizados a modo de diversión o para difundir información falsa de forma malintencionada.
Este artículo contiene:
Los medios digitales falsos no son nada nuevo, pero el deepfake es un fenómeno sumamente reciente. A diferencia de las imágenes falsas creadas por humanos con herramientas como Photoshop, los deepfake son creados por máquinas de IA. El uso de este sofisticado tipo de manipulación de vídeo es cada vez más común en las estrategias de pharming, lo que hace más difícil protegerse contra el robo de identidad.
La palabra deepfake es en sí misma una creación sintética: un acrónimo de «deep learning» (aprendizaje profundo) y «fake» (falso). Deep hace referencia al aprendizaje profundo, un método para entrenar a los ordenadores para que piensen de forma natural como un cerebro humano. Fake destaca la naturaleza engañosa de los soportes multimedia deepfake.
El aprendizaje profundo es un proceso de IA que consiste en repetir una tarea una y otra vez, a veces sin supervisión humana, para descubrir la mejor forma de obtener el resultado deseado. En el caso de los deepfakes, se suministra a la IA cientos de fotos y vídeos de referencia para que aprenda a generar una versión de la cara de una persona que se pueda animar.
Los vídeos deepfake se utilizan a menudo con fines inofensivos, como en memes, filtros de redes sociales o aplicaciones de intercambio de caras. Pero los deepfakes también se pueden utilizar de forma maliciosa para difundir información errónea, crear noticias falsas o crear vídeos para vengarse. Normalmente, se altera la apariencia de alguien para que se parezca a otra persona con fines lúdicos, pero también se puede utilizar para realizar ciberacoso o robar su identidad.
De hecho, el lado más oscuro de la tecnología deepfake fue el primero en salir a la luz pública. En 2017, un usuario de Reddit utilizó por primera vez la tecnología para crear porno digitalmente usando los rostros de celebridades femeninas sin su consentimiento. Aunque el subreddit fue prohibido en 2018, este tipo de deepfake de Reddit, y otras formas de deepfakes de famosos, se han extendido por Internet.
Y este es sólo el principio en lo que se refiere a ejemplos notorios de deepfake. La tecnología deepfake puede utilizarse en muchos tipos de fraude, desde la manipulación política y las noticias falsas, hasta el porno por venganza y el chantaje. Cualquiera que tenga acceso a la tecnología deepfake puede hacer que parezca que otra persona dice o hace prácticamente cualquier cosa.
El peligro de crear y usar como arma los vídeos deepfake ya está entre nosotros. Y cada vez es mayor la preocupación de que los deepfakes se utilicen en el futuro de forma más maliciosa, lo que pone en duda la seguridad de los datos biométricos, incluido el uso de herramientas de reconocimiento facial.
Los deepfakes se crean suministrando muchas imágenes de un individuo a redes informáticas de aprendizaje profundo, que reciben el nombre de autocodificadores variacionales (VAE). El objetivo es entrenar a los VAE para que capten toda una serie de exposiciones luminosas, posiciones y expresiones de emociones. Eso ayuda a la IA a determinar qué elementos visuales, como las expresiones o las sombras, son específicos y cuáles son reemplazables.
A continuación le mostramos el proceso de creación de un vídeo deepfake:
En primer lugar, la IA necesita dos grupos de imágenes de entrada: la fuente original (persona A) y el objetivo del deepfake (persona B). Los equipos se pueden entrenar con una serie de rostros aleatorios o con muchas imágenes de una persona concreta.
A continuación, la IA crea las imágenes de salida. La IA determina qué elementos sutiles de expresión son específicos y esenciales para el deepfake. Para ser convincente, la IA debe conservar las sutilezas de la personalidad y los movimientos faciales que se producen de forma natural y que son exclusivos del individuo objetivo.
Para realizar el intercambio de caras, se combinan las imágenes de entrada y de salida: los datos de salida de la fuente original se introducen en el VAE y se fusionan con los datos de la cara objetivo del deepfake. El codificador reconstruye los movimientos y las expresiones emocionales de la persona A con la cara de la persona B. Esto se debe hacer fotograma a fotograma para que el vídeo deepfake sea realmente convincente.
Los mejores ejemplos de deepfake suelen ser los creados expresamente para demostrar el poder de la tecnología. Otros deepfakes de carácter más lúdico son un poco menos sofisticados, pero no por ello dejan de ser interesantes.
Esto hace que algunos se pregunten ¿qué hay de malo en los deepfakes? Cuando se utilizan como herramienta para el fraude, la manipulación, la venganza o el engaño (sobre todo para desinformar o persuadir de opiniones políticas) los deepfakes pueden causar mucho daño tanto a nivel personal como social.
Vea el siguiente ejemplo de deepfake del expresidente de los Estados Unidos Barack Obama en el que lanza la bomba F y maldice a Donald Trump. Uno de los VAE se entrenó con los datos del actor Jordan Peel y el otro con cientos de fotos y vídeos de Obama.
Este deepfake de Jon Nieve disculpándose por la aparición de una taza de Starbucks en la última temporada de Juego de Tronos muestra el lado humorístico de los vídeos sintéticos.
El deepfake del discurso de Nixon sobre el alunizaje es otro ejemplo convincente de lo fácil que es hacer que parezca que los líderes políticos han dicho o hecho algo que no hicieron. Una de las razones por las que parece tan auténtico es porque el texto se basa en un discurso real preparado para Nixon si fracasaba la misión del Apolo 11.
No es de extrañar que los famosos sean a menudo objeto de deepfakes. El hecho de que sean conocidos los convierte en objetivos ideales para los memes, y la abundancia de medios fácilmente accesibles ayuda a la tecnología de IA a crear deepfakes bastante convincentes de ellos.
Aunque es posible que el término deepfakes de famosos quede asociado para siempre con el escándalo de los deepfakes pornográficos de Reddit, estos suelen ser desenfadados y transparentes. Vea la siguiente recopilación de vídeos deepfake de Tom Cruise, o este evidente montaje de una historia de renos deepfake de Trump.
Uno de los mejores ejemplos de deepfake de celebridades es este poema deepfake del impresionista Jim Meskimen. Con la ayuda de la IA de aprendizaje profundo, se transforma sin problemas de John Malkovich a Robert De Niro, y de Arnold Schwarzenegger a George Bush.
Aunque son convincentes a primera vista, los deepfakes pueden distinguirse de los vídeos reales con bastante facilidad si sabe en qué fijarse. A pesar de la capacidad de producir intercambios de rostros muy realistas generados por la IA, una animación convincente es otra historia, y casi siempre existen señales sutiles de que algo falla.
Pero, a medida que la tecnología vaya madurando y mejorando, es probable que la detección de deepfakes se complique. Tenga en cuenta los siguientes consejos para la detección de deepfakes, que pueden ayudarle a evitar estafas como los ataques de phishing o creer noticias falsas.
Los mayores indicios de deepfake son los fallos de sonido, sombras y tonos de piel poco claros, y zonas blandas o borrosas al moverse. Preste especial atención a la boca, la frente y el cuello, ya que son zonas del cuerpo que suelen delatar el engaño.
Escuche este deepfake del presidente ucraniano Volodymyr Zelensky llamando supuestamente a sus tropas a rendirse. Si se compara con un vídeo auténtico de Zelensky, la voz alterada suena apagada y balbuceante. También es posible detectar un deepfake si nota que el sonido no está sincronizado con el movimiento físico de la boca.
Las sombras y los tonos de piel son increíblemente difíciles de reproducir con autenticidad, por lo que son una de las formas más comunes de detectar un vídeo deepfake. En este clip de Solo en casa, a menudo parece que la cara de Kevin tiene puesta literalmente una máscara de Stallone debido a la mala integración del tono de la piel. Se puede trazar fácilmente la línea desde la frente de Kevin, que baja por la mejilla y atraviesa la línea de la mandíbula.
Las zonas blandas o borrosas, sobre todo alrededor de la boca, son otro indicio de que se trata de un deepfake. El anterior deepfake de Tom Cruise muestra muchos ángulos convincentes, pero si se observa con atención, se pueden ver zonas blandas y borrosas alrededor de la barbilla, que se hacen más evidentes durante las transiciones faciales y el movimiento.
Los deepfakes en sí son legales en casi todo el mundo, pero la legalidad de determinados deepfakes depende del contexto y la intención, y varía de un país a otro.
En EE. UU., poco a poco se están poniendo en marcha leyes específicas para regular los deepfakes. La mayoría de los estados de EE. UU. tienen leyes contra el porno por venganza, pero sólo un puñado, entre ellos California y Texas, especifican que los deepfakes son un medio ilegal para obtenerlos. California también ha prohibido el uso de deepfakes de autoridades y candidatos durante las campañas electorales.
El Reino Unido no tiene actualmente ninguna ley específica sobre deepfakes. Esto significa que a las personas que son objeto de deepfakes malintencionados solo les queda recurrir a las leyes existentes, como las de difamación, para llevar su caso a los tribunales.
China ha promulgado recientemente una ley de deepfakes que responsabiliza a la propia plataforma de su difusión y prohíbe a las plataformas recomendar contenidos sintéticos. La ley aborda ampliamente la información falsa, incluyendo los deepfakes, las noticias falsas y otros medios considerados engañosos.
Existen sólidas protecciones de ciberseguridad contra el malware, los hackers y otras amenazas tradicionales, pero los deepfakes plantean un nuevo desafío. Detectar una foto o un vídeo falso en Internet no siempre es fácil, y la detección de deepfakes será cada vez más difícil.
Pero las empresas de seguridad y tecnología ya están trabajando en formas innovadoras de combatir los deepfakes maliciosos. Esquemas y herramientas como DARPA y el Deepfake Detection Challenge de Facebook se están utilizando para dotar a la sociedad de una protección contra la información falsa. También es importante conocer las diferencias entre privacidad y seguridad para saber cómo defenderse en estos dos ámbitos.
Puesto que los deepfakes se crean utilizando grandes cantidades de fotos y vídeos de objetivos y sujetos, limitar la cantidad que comparte en Internet, sobre todo en las redes sociales, puede ayudarle a evitar convertirse en objetivo de un deepfake. Conozca cómo cambiar la configuración de privacidad de Facebook y cómo encontrar y eliminar información personal de Internet.
El sonido y el vídeo del deepfake se podría usar fácilmente para realizar ataques de phishing, por lo que hay que estar atentos a esta nueva amenaza en desarrollo. Al igual que con otras formas de phishing, prestar más atención a las comunicaciones puede ayudarle a detectar los mensajes fraudulentos. Si no está seguro de la veracidad de un vídeo o si se trata de un deepfake, investigue un poco: busque en Google o compruebe si puede encontrar la fuente del vídeo en las redes sociales o en otro lugar.
Una vez que los datos sensibles caen en malas manos, es imposible saber lo que un ciberdelincuente puede intentar hacer con ellos. Sus fotos, vídeos e información personal le pertenecen, ¡haga que siga siendo así! Proteja su privacidad en línea con un software de privacidad y seguridad integral, como Avast Free Antivirus.
Avast abarca todos los aspectos con un antivirus galardonado, un sólido cortafuegos y un inspector de Wi-Fi integrado para detectar cualquier punto débil en la red. Proteja ya su vida digital.