Deepfakes ahora vienen con un latido realista, haciéndolos más difíciles de desenmascarar
Crédito: imagen generada por IA
Imagine un mundo donde los defensores se han vuelto tan buenos que ningún mecanismo de detección puede desenmascararlos como impostores. Esta sería una bonanza para los delincuentes y los actores estatales malignos: por ejemplo, estos podrían usar defensores profundos para calumniar a los candidatos políticos rivales o enmarcar a los defensores inconvenientes de los derechos humanos.
Este escenario de pesadilla aún no es real, pero durante años, los métodos para crear defensores se han encerrado en una “carrera armamentista tecnológica” contra los algoritmos de detección. Y ahora, los científicos han demostrado que Deepfakes han obtenido una ventaja significativa: la falta de un pulso ya no los regala.
“Aquí mostramos por primera vez que los recientes videos de Deepfake de alta calidad pueden presentar un latido realista y cambios minuciosos en el color de la cara, lo que los hace mucho más difíciles de detectar”, dijo el Dr. Peter Eisert, profesor de la Universidad Humboldt de Berlín, y el autor correspondiente de un nuevo estudio en las imágenes.
Los creadores de DeepFake usan el aprendizaje profundo para manipular videos y archivos de audio. Alteran las expresiones y gestos faciales, por ejemplo, intercambiando entre diferentes personas. Su propósito no es necesariamente maligna: por ejemplo, aplicaciones que pueden convertirlo en un gato o en edad digital, es inmensamente popular e inofensivo.
El análisis de la transmisión de la luz a través de la piel y los vasos sanguíneos subyacentes ha sido indispensable en medicina, por ejemplo, en los oxímetros de pulso. Su primo digital, la llamada fotopletismografía remota (RPPP), es un método emergente en TeleHealthcare, que utiliza cámaras web para estimar los signos vitales. Pero RPPP puede, en teoría, también usarse en detectores de profundos.
En los últimos años, tales detectores de Deepfake basados en RPPP experimentales han demostrado ser buenos para distinguir entre videos reales y profundos. Estos éxitos llevaron a algunos expertos a juzgar que los profundos actuales aún no podían imitar una frecuencia cardíaca realista. Pero ahora, parece que esta vista complaciente está desactualizada.
Fingirlo hasta que lo hagas
Eisert y sus colegas codificaron primero un detector Deepfake de última generación que extrae y analiza automáticamente la frecuencia del pulso de los videos. Utiliza métodos novedosos para compensar el movimiento y eliminar el ruido, y necesita un video de entrada de la cara de una sola persona en solo 10 segundos para trabajar.
Los autores también crearon su propio conjunto de datos de videos de conducción, utilizados para crear profundos de diferentes identidades objetivo con el movimiento facial de los videos capturados. Durante la filmación, un ECG rastreó el latido de los protagonistas, lo que luego permitió a los investigadores confirmar que las mediciones de RPPP realizadas por su nuevo detector fueron altamente precisas.
Hubo una diferencia de solo dos a tres latidos por minuto entre las estimaciones y la frecuencia de pulso verdadera. En buena medida, los autores también dejan perder su detector en dos colecciones de videos más antiguos y ampliamente utilizados de personas reales. Aquí, también, pudieron extraer señales de latidos de todos los videos genuinos.
Pero, ¿qué pasaría si usara el mismo detector para analizar los defectos conocidos?
Para probar esto, Eisert y sus colegas utilizaron métodos recientes de Deepfake para intercambiar caras entre videos genuinos en su colección. Para su sorpresa, su detector también percibió un pulso en los profundos, aunque no habían puesto uno conscientemente. Este pulso inexistente generalmente parecía muy realista.
Tomar el corazón
“Nuestros resultados muestran que un atacante puede agregar un latido realista por un atacante a propósito, pero también puede ser” heredado “inadvertidamente del video genuino de conducción. Pequeñas variaciones en el tono de la piel de la persona real se transfieren al profundo junto con el movimiento facial, de modo que el pulso original se replica en el video falso”, dijo Eisert.
Afortunadamente, hay razón para el optimismo, concluyó los autores. Los detectores de Deepfake podrían volver a ponerse al día con Deepfakes nuevamente si se centraran en el flujo sanguíneo local dentro de la cara, en lugar de en la frecuencia del pulso global.
“Nuestros experimentos han demostrado que los defensores actuales pueden mostrar un latido realista, pero no muestran variaciones fisiológicamente realistas en el flujo sanguíneo a través del espacio y el tiempo dentro de la cara”, dijo Eisert.
“Sugerimos que esta debilidad de los defensores de última generación debe ser explotada por la próxima generación de detectores falsos profundos”.
Más información: Deepfakes de alta calidad tiene un corazón!, Fronteras en imágenes (2025). Doi: 10.3389/fimag.2025.1504551
Cita: Los profundos ahora vienen con un latido realista, que los hace más difíciles de desenmascarar (2025, 30 de abril) recuperó el 30 de abril de 2025 de https://techxplore.com/news/2025-04-deepfakes-realisticheartbeat-harder-unmask.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
