Ciudad de México, 28 de septiembre de 2020. Gracias a las nuevas tecnología hoy es posible crear un video muy realista para hacer parecer que una persona hizo o dijo algo que en realidad no sucedió. Ya hemos visto el caso de actrices que aparecen en videos falsos para adultos o políticos “dando discursos” muy polémicos. Para combatir esta información falsa Microsoft desarrolló una herramienta.
La compañía se ha sumado al número creciente de firmas que están buscando la manera de detectar los deepfakes. Su propuesta es una herramienta capaz de analizar videos y fotografías y, con base en ello generar una puntuación respecto al posible nivel de manipulación que podría presentar.
La herramienta, llamada Video Authenticator, proporciona lo que Microsoft llama “un porcentaje de probabilidad o puntuación de confianza”, es decir cuál es la posibilidad de que el video haya sido modificado artificialmente.
“En el caso de un video, puede proporcionar este porcentaje en tiempo real en cada cuadro a medida que se reproduce”, escribió Microsoft en una publicación en su blog en donde anuncia el desarrollo de esta tecnología.
La empresa explica que su sistema “funciona detectando el límite de fusión de los elementos deepfake y los elementos sutiles que se desvanecen mismos que podrían no ser detectables por el ojo humano”. Así, si un fragmento de contenido en línea parece real pero presenta condiciones que llaman la atención de su algoritmo, es probable que se trate de una manipulación de alta tecnología tal vez con la intención maliciosa de desinformar a las personas.
Agregó que su herramienta Video Authenticator fue creada usando un conjunto de datos públicos de Face Forensic y probada en el DeepFake Detection Challenge Dataset.
Asimismo, la empresa dijo que se está asociando con la Fundación AI, con sede en San Francisco, para poner la herramienta a disposición de medios de comunicación y organizaciones involucradas en las elecciones presidenciales de Estados Unidos que se realizarán en noviembre.
“Video Authenticator estará disponible inicialmente sólo a través de RD2020 (la plataforma Reality Defender 2020, creada para observar y defender la equidad en las elecciones), que guiará a las organizaciones a través de las limitaciones y consideraciones éticas inherentes a cualquier tecnología de detección de deepfakes”, agregó Microsoft.
La herramienta ha sido desarrollada por su división de investigación y desarrollo, Microsoft Research, en coordinación con su equipo de Inteligencia Artificial (IA) responsable y un organismo asesor interno sobre inteligencia artificial, ética y efectos perteneciente a su comité de ingeniería e investigación. “Esperamos que los métodos para generar deepfake continúen creciendo en sofisticación”.
Microsoft también anunció un sistema que permitirá a los productores de contenido agregar etiquetas digitales y certificados en sus metadatos mientras el contenido viaja en línea, proporcionando un punto de referencia para la autenticidad. De esta manera será posible verificar que los videos son auténticos. La certificación, además estará destinada a proporcionar al espectador detalles sobre quién produjo los videos.
La compañía también enfatizó la importancia de la alfabetización mediática para lo cual cerró una asociación con la Universidad de Washington, Sensity y el periódico USA Today para impulsar el pensamiento crítico antes de las elecciones estadunidenses de noviembre y que las personas sepan que existe este método de manipulación.
Texto: Redacción / Foto: Especial
