Google anunció su alianza con Adobe, Intel y Microsoft para combatir los deepfakes. Esta coalición pretende diseñar un sistema que revele si la IA ha manipulado o creado un medio de comunicación.
La estrategia de Google para combatir las deepfakes gira en torno al proyecto de Adobe Content Credentials. Esta empresa permite a los creadores adjuntar un símbolo "CR" a los medios generados por IA, ofreciendo un rastro de información sobre el proceso de edición del medio.
Estos metadatos actúan como un instrumento de validación, asegurando a los espectadores la autenticidad de imágenes, vídeos, audio y documentos.
La lucha de Google contra los deepfakes
La Coalition for Content Provenance and Authenticity (C2PA), que encabeza esta iniciativa, no respalda la imposición universal de este tipo de medidas.
En su lugar, recomienda este sistema como método para que instituciones como las agencias de noticias y las plataformas de medios sociales difundan medios digitales fiables.
La propuesta surge de la rápida progresión de la tecnología de IA capaz de fabricar medios falsos realistas y modificar de forma convincente los medios auténticos.
La lucha por la veracidad de la información
Dana Rao, cofundadora de la coalición, habló sobre la importancia de que los creadores afirmen la veracidad de sus obras. Compara el símbolo "CR" con un sello de credibilidad en un entorno lleno de desinformación.
La llegada de la inteligencia artificial simplificó las complejas tareas de edición y abrió las puertas a la creación de medios sintéticos.
Si bien esto ha encendido la creatividad, también ha incitado a actividades nocivas como la difusión de desinformación y los abusos sexuales.
La marca de agua es una solución propuesta para este problema. Su objetivo es insertar señales -obvias y sutiles- que ayuden a distinguir lo auténtico de lo fabricado.
Qué incluye las herramientas del proyecto de Google
El conjunto de productos de Google incluye una variedad de herramientas de IA destinadas a los consumidores, como el chatbot Bard de IA, herramientas de edición de IA y la popular plataforma YouTube.
Las criticas: Google enfrenta duras criticas por dar cabida a canales de noticias falsas que abusan de herramientas de IA similares para difundir contenidos falsos.
Laurie Richardson, vicepresidenta de confianza y seguridad de Google, afirmó la dedicación de la empresa a fomentar la transparencia de los contenidos digitales.
Richardson expresó la intención de Google por colaborar con la C2PA e incorporar la última versión de la norma C2PA a sus operaciones.
Acusaciones contra Google
Motores de búsqueda como Google y Microsoft han sido señalados por presentar imágenes deepfake sexualmente explícitas y no consentidas de mujeres famosas, como Taylor Swift, en los primeros resultados de búsqueda.
Este material, que incluye fotos reales editadas por IA y fotos y vídeos totalmente generados por IA que utilizan IA para "intercambiar" rostros y clonar voces, se ha infiltrado en las plataformas de los medios sociales.
