Ciudad de México, 6 de mayo de 2021. Hace días, Mario Moreno Cantinflas revivió en un comercial de la cadena de supermercados Soriana. Hace con las manos la señal de corazón y ofrece un mensaje sobre el orgullo de ser mexicano.
El milagro fue posible con deepfake, una tecnología que permite alterar contenido digital para construir uno falso que parece auténtico.
Algunos de los deepfake hechos el año pasado, y que se hicieron populares, incluyen a la científica Marie Curie y la actriz Carrie Fisher.
Y aunque en este caso, ver al comediante mexicano tan vivo y simpático se agradece, esta herramienta también puede ser utilizada para suplantar la identidad, acosar a una persona y vulnerar los derechos humanos.
“El deepfake es una manipulación deliberada de video, imagen o voz”, dice Aurelio Collado, profesor de periodismo en el Tec de Monterrey y experto en comunicación y medios.
“Se logra con la manipulación de la imagen a través de la inteligencia artificial, algoritmos bastante complejos”.
El término en inglés une las palabras fake (falsificación) y deep learning (aprendizaje profundo, por la forma en que funciona su algoritmo).
Comenzó a popularizarse en 2017 con el surgimiento de contenido pornográfico en el que se veían escenas con supuestas celebridades, pero que en realidad la iteligencia artificial las imitaba. En los años siguientes se han creado diversos materiales a partir de rostros de políticos y figuras del entretenimiento.
Uno de los casos más conocidos ocurrió en el 2018, cuando Barack Obama apareció en un video llamando idiota a Donald Trump.
Autor del estudio Deepfake: la imagen en tiempos de la posverdad, Jacob Bañuelos explica que la técnica permite construir nueva información y cambiar cualquier parte del cuerpo a partir de bases de datos.
“Hay unas técnicas especializadas en cambiar los rostros nada más, pero hay otras especializadas en el cuerpo y hay unas que pueden cambiar todo (hasta la voz)”.
Aunque existen sistemas complejos y sofisticados para crear este tipo de contenidos, destaca, la tecnología ha avanzado tanto que hoy existen varias herramientas al alcance de todos.
Los riesgos
El deepfake representa un avance tecnológico, pero también representa un riesgo social.
Uno de los peligros es que se vuelve más difícil diferenciar entre lo falso y lo real, pues es muy complicado distinguir cuándo se está frente a un contenido manipulado.
“Es tan compleja y precisa su elaboración que el nivel de calificación que requiere un perito que logre distinguir el video falso de uno verdadero es muy elevado, y no es fácilmente accesible”, dice Collado.
Además, apunta, cualquiera puede ser víctima de esta técnica.
Estos contenidos se realizan a partir de datos biométricos como las facciones del rostro y el tono de la voz, explica. Y como en la actualidad se comparte esta información a través de aparatos tecnológicos o cámaras de video, cualquiera podría acceder a ellos y utilizarlos.
“Puede aparecer un video donde tú dices ‘x’ o ‘y’ o ‘z’ cosas. Te lleven a un juzgado y luego tú tendrías la responsabilidad de comprobar que ese video es falso”, afirma el experto.
Texto: Dalia Gutiérrez / Agencia Reforma
