Ilya Sutskever, uno de los cofundadores de OpenAI, ha lanzado una nueva empresa, Safe Superintelligence Inc. (SSI), justo un mes después de abandonar formalmente OpenAI.
Sutskever, quien fue el científico jefe de OpenAI durante mucho tiempo, fundó SSI con el ex socio de Y Combinator, Daniel Gross, y el ex ingeniero de OpenAI, Daniel Levy.
En OpenAI, Sutskever fue fundamental en los esfuerzos de la empresa para mejorar la seguridad de la IA con el surgimiento de sistemas de IA "superinteligentes", un área en la que trabajó junto a Jan Leike, quien co-lideró el equipo de Superalineación de OpenAI. Sin embargo, tanto Sutskever como Leike dejaron la empresa dramáticamente en mayo después de tener problemas con el liderazgo de OpenAI sobre cómo abordar la seguridad de la IA. Leike ahora lidera un equipo en la tienda rival de IA, Anthropic.
Sutskever ha estado destacando los aspectos más complicados de la seguridad de la IA desde hace mucho tiempo. En una publicación de blog publicada en 2023, Sutskever, escribiendo con Leike, predijo que la IA con inteligencia que excede a la de los humanos podría llegar en la próxima década, y que cuando lo haga, no necesariamente será benevolente, lo que significa la necesidad de investigar formas de controlarla y restringirla.
La superinteligencia está al alcance.
— SSI Inc. (@ssi) 19 de junio de 2024
Construir una superinteligencia segura (SSI) es el problema técnico más importante de nuestra época.
Hemos iniciado el primer laboratorio de SSI directo, con un objetivo y un producto: una superinteligencia segura.
Se llama Safe Superintelligence...
Está claro que hoy está tan comprometido como siempre con la causa. El miércoles por la tarde, un tweet anunciando la formación de la nueva empresa de Sutskever establece que: "SSI es nuestra misión, nuestro nombre y todo nuestro plan de productos, porque es nuestro único enfoque. Nuestro equipo, inversores y modelo de negocio están alineados para lograr SSI. Abordamos la seguridad y las capacidades de manera simultánea, como problemas técnicos a resolver mediante avances de ingeniería y científicos revolucionarios."
"Planeamos avanzar en las capacidades lo más rápido posible, asegurándonos de que nuestra seguridad siempre permanezca por delante. De esta manera, podemos escalar en paz. Nuestro enfoque singular significa que no hay distracción por la superestructura de gestión o ciclos de productos, y nuestro modelo de negocio significa que la seguridad, la protección y el progreso están protegidos de las presiones comerciales a corto plazo."
Sutskever habló con Bloomberg sobre la nueva empresa con más detalle, aunque se negó a discutir su situación de financiamiento o valoración.
Más evidente es que, a diferencia de OpenAI —que originalmente se lanzó como una organización sin fines de lucro en 2015, luego se reestructuró cuando las enormes sumas de dinero necesarias para su potencia informática se hicieron más evidentes— SSI está siendo diseñada desde cero como una entidad con fines de lucro. A juzgar por el interés en la IA y las credenciales específicas del equipo, es posible que pronto esté inundada de capital. "De todos los problemas que enfrentamos", dice Gross a Bloomberg, "levantar capital no va a ser uno de ellos."
SSI tiene oficinas en Palo Alto y Tel Aviv, donde actualmente está reclutando talento técnico.
OpenAI forma un nuevo equipo para controlar la IA 'superinteligente'
