Facebook y la Universidad Estatal de Michigan trabajan en un nuevo enfoque basado en la ingeniería inversa para no solo detectar los 'deepfakes' sino también rastrearlos para identificar con el rostro de quién se han generado.
Los contenidos conocidos como 'deepfakes', son fotografías, videos o audios manipulados con sistemas de inteligencia artificial, que ofrecen un nivel de realismo preocupante.
Miles de internautas están alerta por las implicaciones de este tipo de tecnología para el debate público y la confianza depositada en figuras de autoridad, que también han sido víctimas del deepfake.
En los 'deepfake' se ha manipula el rostro, o también la voz para introducir un discurso determinado, a veces con fines de entretenimiento, pero maliciosos en otras ocasiones.
En internet, incluso existen cuentas dedicadas exclusivamente a reproducir imágenes de las figuras más taquilleras de Hollywood en diferentes circunstancias, desde la vida cotidiana hasta el cine para adultos.
@deeptomcruiseKeep your hands clean.♬ original sound - Tom
Los deepfake han llegado tan lejos que hay una cuenta de TikTok dedicada enteramente a "ultrafalsos" de Tom Cruise. La voz del actor ─que no es, definitivamente, Tom Cruise─, así como sus manierismos, junto a esta tecnología, ha resultado en uno de los ejemplos más convincentes de deepfake de los que hay registro.
Y es que distinguir un deepfake de una persona real no siempre es fácil. Con ello en mente, Facebook se asoció on la Universidad Estatal de Michigan para desarrollar un método de detección y rastreo basado en la ingeniería inversa.
El canal de Youtube Ctrl+Shift=Face, especializado en crear deepfakes, hizo un video utilizando una entrevista del actor de Saturday Night Live, Bill Hader, imitando a Tom Cruise y a Seth Rogen. Los cambios en su rostro, reflejando las expresiones de los actores, son prácticamente imperceptibles.
Facebook reconoció que la ingeniería inversa no es un enfoque nuevo en el ámbito del aprendizaje profundo, pero lo defiende cómo método para combatir los 'deepfakes', ya que permite "descubrir los patrones únicos detrás del modelo de IA utilizado para generar una sola imagen 'deepfake'".
"Esta capacidad para detectar qué 'deepfakes' se han generado a partir del mismo modelo de IA puede ser útil para descubrir casos de desinformación coordinada u otros ataques maliciosos lanzados mediante 'deepfakes'", explican los investigadores Xi Yin y Tal Hassner en una publicación en Facebook AI.
Los deepfake también han dado un giro de denuncia social en los últimos meses. El artisuta Bill Posters, publicó en instagram en junio pasado un video que muestra a Mark Zuckerberg, dueño de Facebook, alardeando sobre cómo los usuarios de la plataforma "le pertenecen".
Esto, como crítica a los señalamientos contra Facebook por sus escasas políticas de privacidad y la manipulación de los datos personales de los usuarios.
Ver esta publicación en Instagram