Ilya Sutskever, cofundador de OpenAI, lidera ahora Safe Superintelligence Inc, una nueva empresa dedicada al desarrollo seguro de IA superinteligente.
Esta empresa fue cofundada junto al empresario Daniel Gross y al actor Daniel Levy.
La misión de Safe Superintelligence Inc. es desarrollar de forma segura sistemas de IA que superen la inteligencia humana, lo que se conoce como superinteligencia.
Esta empresa pretende evitar las distracciones empresariales habituales, como los gastos generales de gestión y los ciclos de los productos. En su lugar, hará hincapié en la seguridad, libre de las presiones de los intereses comerciales a corto plazo.
Sutskever y sus cofundadores declararon que su objetivo es permanecer "aislados de las presiones comerciales a corto plazo".
Safe Superintelligence, con sede en Palo Alto, California, y Tel Aviv, se nutre de las profundas conexiones de sus fundadores y de su capacidad para atraer a los mejores talentos técnicos.
De OpenAI a Safe Superintelligence
Este anuncio se produce tras la reciente salida de Sutskever de OpenAI. Su marcha marcó un momento significativo, especialmente en medio de un intento fallido de destituir al consejero delegado Sam Altman el año anterior.
En OpenAI, Sutskever desempeñó un papel decisivo en los esfuerzos por desarrollar la inteligencia general artificial (AGI). Su marcha insinuó un nuevo comienzo con un proyecto "muy significativo personalmente", ahora revelado como Safe Superintelligence Inc.
La salida de Sutskever también envió ondas de choque a la comunidad de seguridad de la IA. Días después de su marcha, el colíder de su equipo, Jan Leike, dimitió, acusando a OpenAI de priorizar los productos sobre la seguridad. Estas críticas subrayaron las tensiones existentes en la tecnología entre la innovación y la seguridad.
En respuesta, OpenAI formó rápidamente un comité de seguridad. Sin embargo, los críticos expresaron su preocupación por la independencia y eficacia del comité, dada su composición de personas internas de la empresa.
