El mayor miedo, ahora, es que pueda llegar a democratizarse este tipo de servicios digitales; algo que empieza a suceder como ha demostrado Zao, una aplicación para dispositivos móviles diseñada en China que ha causado un gran revuelo por los resultados obtenidos: en solo ocho segundos puede generar un vídeo intercambiando el rostro del actor Leonardo diCaprio por el de otra persona. Fácil, efectivo, pero también peligroso por diversos motivos.
En tan solo tres días desde que se diera a conocer, el servicio ha causado una tremenda polémica en el país por las posibles consecuencias que puede tener en la lucha por la desinformación en redes sociales. La «app» se presenta, sin embargo, como un generador de filtros para «convertirse» en superestrellas.
In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.
Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) 🤯 pic.twitter.com/1RpnJJ3wgT
— Allan Xia (@AllanXia) September 1, 2019
A partir de una fotografía personal en miniatura, el sistema consigue integrarla de manera natural en un vídeo, aunque ha empezado a suscitar dudas acerca de su intromisión en la privacidad de los usuarios. Para utilizarla tan solo requiere de asociar el número de teléfono y darle permiso al carrete de fotografías almacenada en el terminal. Entonces, los usuarios pueden seleccionar un vídeo de un extenso catálogo de personajes famosos a los que se va a superponer la imagen. Entre ellos, personajes internacionales como Marilyn Monroe o Leonardo diCaprio.
Lanzada hace escasos días, las descargas de Zao se han disparado: es una de las tres primeras aplicaciones más descargadas en la tienda digital App Store en China. Los responsables del proyecto es Momo Inc., servicio local de retransmisiones en directo. Según la documentación a la que ha tenido acceso el medio Bloomberg, está fundada por Wang Li y Lei Xiaoliang. Tras hacerse viral, medios locales se han hecho eco de que la compañía ha modificado los términos de uso de la plataforma asegurando que el contenido cargado por el usuario no se comercializará sin permiso del usuario.
«Poner en manos de todos los usuarios de internet esta tecnología, ciertamente avanzada, puede generar un caos importante»
«Si la app solamente te hace el vídeo no hay ningún problema. Si al final se da cuenta que tiene un gran volumen de datos, ya sea rostros de personas o la producción de vídeos, podemos estar en el juego del consentimiento y puede chocar con el derecho del honor», valora a este diario Samuel Parra, jurista experto en derecho digital. «La empresa va a tener que explicar y concretar exactamente la finalidad de los datos; un simple consentimiento genérico no sería válido», apunta.
Además del posible conflicto acerca de la privacidad de los usuarios, Zao también ha puesto de manifiesto los accesible de esta tecnología. «Hace unos años los “deep fakes” era algo que tenía acceso unas pocas empresas, y ahora cualquier lo puede hacer. Estamos colocando a la gente herramientas que pueden causar mucho daño», añade Parra, quien quien aprovecha para descargar parte de la responsabilidad en las empresas que desarrollan este tipo de servicios digitales: «me preocupa porque es un generador de “fake news” asombroso. Poner en manos de todos los usuarios de internet esta tecnología, ciertamente avanzada, puede generar un caos importante».