Microsoft lanza en la UE una marca de agua digital para frenar el uso engañoso de la IA en las elecciones

Microsoft ha anunciado que expande sus herramientas de integridad del contenido para frenar el uso engañoso de la Inteligencia Artificial (IA) en los procesos electorales. La multinacional tecnológica, al igual que ha hecho en EEUU, pone a disposición de los partidos políticos y medios de comunicación de la Unión Europea una marca de agua digital o credencial de contenido para asegurar que estos no sean manipulados.

A poco de las elecciones de la Unión Europea previstas para el 6 y 9 de junio, Microsoft ha compartido su marca de agua digital (Microsoft Content Integrity) con el objetivo de fomentar democracias "sanas" a través de "ecosistemas de información sanos".

La tecnológica ha subrayado la importancia de ayudar a los votantes a comprender la información que encuentran en internet, ante el reto que plantea la IA generativa en los procesos de elecciones y el ecosistema de la información.

En noviembre del pasado año, Microsoft lanzó una serie de herramientas de integridad del contenido, diseñadas para proteger las campañas electorales en Estados Unidos, que incluyen opciones como las Credenciales de contenido, una marca de agua digital que identifica el contenido creado por IA para destapar los 'deepfakes' y las 'fake news' que se comparten en Internet.

Microsoft ha ampliado el acceso de la vista previa de estas herramientas a partidos políticos, campañas y organizaciones de noticias de la Unión Europea, para que puedan corroborar la veracidad del contenido publicado 'online' .

Son herramientas con las que las organizaciones pueden controlar y supervisar su propio contenido y asegurar que no se trata de un contenido falso generado por IA o un caso de manipulación. De esta manera, evitan posibles engaños o equivocaciones para los ciudadanos en un contexto político.

Las herramientas de integridad del contenido de Microsoft permiten generar las Credenciales de contenido, una marca de agua digital que se puede añadir a imágenes u otro tipo de publicaciones para incluir información como dónde y cuándo se creó, quién lo publicó, si fue generado por IA o si la imagen ha sido editada o manipulada.

De esta forma, cuando los usuarios ven contenido en Internet o en redes sociales con estas Credenciales de contenido, pueden estar seguros de que la publicación es original de la organización, medio de comunicación o partido político en cuestión.

Siguiendo esta línea, con este sistema los usuarios también pueden obtener información sobre si las imágenes o vídeos han sido alterados de alguna manera, después de que la organización agregase las Credenciales de contenido. Esto se debe a que la función permite acceder a un historial de edición.

Microsoft ha explicado que las Credenciales de contenido son una opción creada en base al estándar industrial de código abierto publicado por la Coalición para la procedencia y autenticidad del contenido (C2PA).

Para crear las Credenciales de contenido, Microsoft ha puesto a su disposición distintas herramientas. En concreto, ha lanzado una aplicación web privada y "fácil de usar" para que las organizaciones puedan agregar la información de las credenciales a su propio contenido autorizado.

También ha lanzado una aplicación móvil privada, con la que se podrán capturar fotografías, vídeos y audio de forma segura y autenticada para agregar credenciales de contenido en tiempo real desde un 'smartphone'. Según ha matizado Microsoft, esta aplicación ha sido desarrollada junto a la compañía Truepic.

Finalmente, se ha facilitado un sitio web público para verificadores de datos, con el que cualquier usuario puede ratificar las Credenciales de contenido de las imágenes, audios o vídeos.

Con todo ello, Microsoft ha detallado que estas herramientas de identidad del contenido, incluidas las Credenciales de contenido, se podrán utilizar en versión preliminar privada y de forma gratuita, durante todo el 2024, por organizaciones, partidos políticos y medios de comunicación a nivel global.

La tecnológica ha reconocido que estas herramientas "no son una panacea para resolver el problema de los 'deepfakes'", también ha subrayado que "son un componente crítico de una estrategia de defensa para los medios confiables".

"Proteger el acceso a indicadores de autenticidad es solo un paso clave a medida que cumplimos nuestros compromisos de ayudar a proteger las elecciones en todo el mundo", ha sentenciado Microsoft.

En este marco, la compañía ha recordado el Acuerdo tecnológico que llevó a cabo a principios de este año junto a otras 20 empresas, entre ellas Google y OpenAI, para combatir el uso engañoso de vídeos, audio e imágenes que alteran la apariencia, la voz o las acciones de candidatos políticos y funcionarios electorales.

De la misma forma, están trabajando con partidos políticos globales para ofrecer su ayuda e información con respecto a la IA y su uso para generar contenido político. Igualmente, también brindan asistencia de seguridad contra ciberataques de estados con el Equipo de éxito de la campaña.

Suscríbete a las newsletters de Informativos Telecinco y te contamos las noticias en tu mail

Síguenos en nuestro canal de WhatsApp y conoce toda la actualidad al momento.