El CEO de Microsoft, Satya Nadella, comentó el viernes que la compañía busca tomar acciones inmediatas para combatir el aumento de imágenes sexuales generadas por IA.
Esto se produce tras un reciente incidente con Taylor Swift sobre un contenido explícito de la cantante generado por IA, que rápidamente se hizo viral en Internet. En una entrevista con NBC News, Nadella expresó su preocupación por el creciente del problema de los deepfakes.
La difusión de las imágenes explícitas en las que aparecía Swift, a las que Nadella se refirió como "alarmantes y terribles", se produjo en la plataforma X y obtuvo más de 27 millones de visitas antes de que la cuenta fuera suspendida.
Nadella subrayó la necesidad de fomentar un ecosistema en línea seguro, que proteja tanto a los creadores de contenido como a los consumidores, por lo que exigió acción inmediata contra este tipo de explotaciones. "Sí, tenemos que actuar", afirmó.
Regulación de imágenes sexuales generadas por IA
Como empresa con una inversión considerable en tecnología de IA, Microsoft ofrece herramientas como Copilot, un chatbot en Bing. Además, Microsoft es uno de los principales inversores en OpenAI, la entidad responsable del desarrollo de ChatGPT.
Nadella destacó el deber de la empresa de aplicar medidas de protección en torno a estas tecnologías, garantizando la generación segura de contenidos.
Expresó su optimismo ante el potencial del consenso social sobre normas específicas cuando se unen las plataformas tecnológicas, la legislación y las fuerzas del orden.
Al parecer, las imágenes explícitas de Swift se produjeron utilizando la herramienta de inteligencia artificial generativa de Microsoft, Designer, según informa 404 Media.
CEO de Microsoft muestra preocupación por la escasa regulación de IA
Estas acusaciones aún no fueron confirmadas de forma independiente por NBC News. Aunque Nadella no comentó directamente el informe de 404 Media, un comunicado posterior de Microsoft confirmó una investigación en curso sobre las acusaciones, comprometiéndose a tomar las medidas oportunas.
El Código de Conducta de Microsoft prohíbe el uso de sus herramientas para generar contenido adulto o íntimo no consentido. La empresa advirtió de que las infracciones podrían conllevar la pérdida de acceso a sus servicios.
Microsoft también hizo hincapié en su compromiso de mejorar los sistemas de seguridad, que abarcan el filtrado de contenidos, la vigilancia operativa y la detección de abusos, con el objetivo de frenar el uso indebido y cultivar una experiencia de usuario más segura.
Un portavoz de Microsoft comentó: "Nos tomamos estos informes muy en serio y nos comprometemos a brindar una experiencia segura para todos".
Se aproximan regulaciones en la generación de imágenes con IA
"Nuestros filtros de seguridad de contenido explícito estaban funcionando y no hemos encontrado evidencia de que hayan sido omitidos hasta ahora. Por precaución, hemos tomado medidas para fortalecer nuestras indicaciones de filtrado de texto y abordar el uso indebido de nuestros servicios" agregó.
Se espera actualización de la información de parte de los directivos de la empresa sobre las medidas reguladoras que serán implementadas en los sistemas de IA.
