Microsoft desarrolló una nueva tecnología que permite detectar los ‘deepfakes’ con el propósito de combatir la desinformación. Esta herramienta llamada Microsoft Video Authenticator tiene la función de analizar una foto o video y comprobar si existe alguna manipulación artificial en el archivo.

Cabe destacar que ‘deepfake’ es el término que se le da a un archivo de audio, foto o video manipulado por inteligencia artificial (IA), es decir que es difícil de detectar. En este caso, lo que Microsoft Video Authenticator hace es brindar un porcentaje de probabilidad de que el archivo haya sido, o no, manipulado.

Lo que hace ventajosa a esta herramienta sobre la detección del ‘deepfake’ es que muestra sus resultados en tiempo real. Es decir, en el caso de ser un video, mientras se reproduce enmarca el rostro de quien se encuentre hablando en este y cambia de verde a rojo al instante en el que detecta una manipulación artificial.

Por otro lado, a esta iniciativa de Microsoft se le suma una nueva tecnología para detectar la autenticidad de contenido en los medios y se divide en dos componentes. El primero, integrado en Microsoft Azure, permite que el autor del contenido le agregue su información de derecho o hashes y certificados para que viajen en el documento siendo parte de sus metadatos. El segundo componente es una extensión de navegador que se encarga de leer y detectar la autenticidad del contenido, es decir, si ha sido cambiado algo en este, además de brindar también detalles de quién lo produjo.

En el caso de Video Authenticator, su desarrollo se llevó a cabo por Microsoft Research y el equipo de Responsible AI y el Comité de IA, ética y efectos en ingeniería e investigación (AETHER, siglas en inglés). Se creó a través de una base de datos pública de Face Forensic++ y finalmente tuvo su aprobación en el DeepFake Detection Challenge Dataset, plataformas modelo para el entrenamiento y pruebas de tecnologías de detección de ‘deepfakes’. Asimismo, la herramienta que puede verificar la autenticidad del contenido en los medios, es una tecnología construida por Microsoft Research y Microsoft Azure, en asociación con el programa Defending Democracy. De esta forma es como Microsoft ha estado trabajando en la lucha contra la desinformación.

Imagen: Christian Gertenbach / Unsplash.