Tecnología

Los deepfakes son cada vez más difíciles de detectar

En las últimas semanas han surgido versiones más avanzadas de deepfakes, protagonizadas por el actor Tom Cruise. Metro investiga la situación.

Una serie de vídeos con el actor estadounidense Tom Cruise sorprendió y confundió a los usuarios de la plataforma china TikTok. Parecían demasiado reales, pero resultaron ser deepfakes.

La situación ha reabierto el debate en torno a este tipo de videos manipulados y la forma en que pueden ‘engañar’ al público. El autor de los vídeos, Chris Ume, un especialista en efectos visuales con sede en Bélgica, aseguró que para crearlos no sólo utilizó un programa informático. Afirmó que el proceso requirió mucho trabajo, así como la ayuda de un imitador de Tom Cruise.

«Trabajé con un actor de gran talento llamado Miles Fisher. Lleva años imitando a Tom Cruise y es uno de los mejores del mundo. La forma en que se mueve, se ríe y habla está en su punto. En cuanto a la parte técnica, he pasado más de dos meses creando estos vídeos. Ha sido un trabajo duro ir cuadro a cuadro trabajando en los detalles. Así que no es algo nuevo, pero sí que requiere mucho tiempo», explica Ume a Metro.

Recomendados

Los expertos señalan que la tecnología utilizada para desarrollar deepfakes también ha mejorado en el último año.

«Las soluciones de deepfake de código abierto, como DeepFaceLab, mejoran con cada iteración, y su rendimiento ha mejorado significativamente en términos de calidad y robustez en el último año», explicó a Metro Hao Li, experto en deepfakes y director general de Pinscreen, una startup que construye los avatares virtuales más avanzados del mundo basados en IA.

Los deepfakes parecen tan reales hoy en día que los expertos aconsejan utilizar métodos forenses para identificar este tipo de contenidos y diferenciarlos de los vídeos reales.

«Cada vez son más sofisticados y su número es mayor, por lo que se debe recurrir sobre todo a métodos forenses automáticos de detección que busquen rastros del proceso de síntesis para diferenciar los deepfakes de los vídeos reales», explica Siwei Lyu, profesor del departamento de informática de la Universidad de Albany (Nueva York).

Pero los deepfakes no sólo consiguen engañar a los internautas, sino que representan peligros más graves. Pueden convertirse en armas en la esfera política, utilizarse contra empresas e incluso poner en peligro la democracia.

«El hecho de que cualquiera pueda crear, manipular y difundir desinformación sin tener que preocuparse de ninguna comprobación de los hechos, es algo único en la historia de la humanidad, y una verdadera amenaza para nuestra democracia, ya que ésta no puede sostenerse si no es posible tener hechos compartidos», añadió Hao Li.

Por ello, los especialistas creen que las autoridades deben regular los deepfakes para evitar que se utilicen para afectar a los supuestos protagonistas de esos videos o a la población en general.

«Los legisladores y los órganos de gobierno de todo el mundo están respondiendo a la proliferación de deepfakes maliciosos con nuevas políticas, regulaciones y leyes. En los últimos años han aparecido varios esfuerzos legislativos de este tipo», concluyó Lyu.

«Los recientes avances en deepfakes y otros medios de comunicación sintetizados por la IA tienen un impacto significativo en la credibilidad del contenido digital».
Hao Li, experto en deepfakes y director general de Pinscreen, una startup que construye los avatares virtuales más avanzados del mundo impulsados por la IA.

2+
meses que tardó Chris Ume en crear deepfakes de Tom Cruise.

Tres razones por las que la preocupación por los deepfakes está justificada

Siwei Lyu, profesor del departamento de ciencias de la computación de la Universidad de Albany, NY, Estados Unidos, explicó

1.- Los deepfakes se pueden hacer más fácilmente, rápidamente y con mejor calidad, gracias al rápido avance de la tecnología de hardware y software de los ordenadores, en particular los relacionados con la IA.

2.- La capacidad de hacer deepfakes se ha democratizado a través de herramientas de software que pueden descargarse gratuitamente de plataformas de intercambio de código en línea.

3.- Cualquier persona con presencia en los medios de comunicación online es un objetivo potencial de un ataque de deepfake.

ENTREVISTA

Cris Ume,
especialista belga en efectos visuales y artista de la IA

P: ¿Por qué empezaste a crear deepfakes?

  1. A finales de 2018, vi algo en las noticias sobre esta nueva tecnología llamada deepfake. Me sentí muy inspirado por las posibilidades creativas y empecé a trabajar en mis primeros experimentos.

P: ¿Qué tecnología utilizas?

  1. Utilizo DeepFaceLab para entrenar la red neuronal y crear los deepfakes. También utilizo el editor Machine para trabajar con máscaras, alineaciones faciales y otros ajustes. Además de mis propias tecnologías.

P: ¿Cuál es tu opinión sobre las críticas y los temores a los deepfakes?

  1. La gente siempre tiene miedo de las nuevas tecnologías. Siempre tiene sus pros y sus contras. Tenemos que concientizar a la gente y al mismo tiempo encontrar la forma de regularlo.

P: ¿Qué le dirías a la gente y a las autoridades sobre los deepfakes?

  1. Que investiguen antes de difundir las noticias sobre estos vídeos. Es importante que las autoridades confirmen sus fuentes antes de hacer afirmaciones falsas. Tienen un papel importante en la sociedad y va a ser más importante que nunca.
Tags

Lo Último


Te recomendamos