En una publicación en su blog personal, el CEO de OpenAI, Sam Altman, dijo que cree que OpenAI 'sabe cómo construir [inteligencia artificial general]' como la empresa tradicionalmente la ha entendido, y está comenzando a dirigir su atención hacia la 'superinteligencia'. 'Amamos nuestros productos actuales, pero estamos aquí por el futuro glorioso', escribió Altman en la publicación. 'Las herramientas superinteligentes podrían acelerar masivamente el descubrimiento científico y la innovación mucho más allá de lo que somos capaces de hacer por nuestra cuenta, y a su vez aumentar masivamente la abundancia y la prosperidad'. Altman dijo anteriormente que la superinteligencia podría estar 'a unos pocos miles de días' de distancia, y que su llegada será 'más intensa de lo que la gente piensa'. AGI, o inteligencia artificial general, es un término nebuloso, pero OpenAI tiene su propia definición: 'sistemas altamente autónomos que superan a los humanos en la mayoría del trabajo económicamente valioso'. OpenAI y Microsoft, el colaborador e inversor cercano de la startup, también tienen una definición de AGI: sistemas de IA que pueden generar al menos $100 mil millones en ganancias. Cuando OpenAI logre esto, Microsoft perderá el acceso a su tecnología, según un acuerdo entre las dos empresas. Entonces, ¿a qué definición se podría estar refiriendo Altman? No especificó, pero la primera parece la más probable. Altman escribió que cree que los agentes de IA, sistemas de IA que pueden realizar ciertas tareas de forma autónoma, pueden 'unirse a la fuerza laboral', por así decirlo, y 'cambiar materialmente la producción de las empresas' este año. 'Seguimos creyendo que poner iterativamente grandes herramientas en manos de las personas lleva a grandes resultados distribuidos ampliamente', escribió. Eso es posible, pero también es cierto que la tecnología de IA actual es significativamente limitada. Alucina, comete errores obvios para cualquier humano y puede ser muy cara. Altman parece confiado en que todo esto se puede superar, y rápidamente. Sin embargo, si hay algo que hemos aprendido sobre la IA en los últimos años, es que los plazos pueden cambiar. 'Estamos bastante seguros de que en los próximos años, todos verán lo que vemos, y que la necesidad de actuar con gran cuidado, maximizando al mismo tiempo el beneficio y la capacitación general, es tan importante', escribió Altman. 'Dados los posibilidades de nuestro trabajo, OpenAI no puede ser una empresa normal. Qué suerte y humildad es poder desempeñar un papel en este trabajo'. Uno esperaría que a medida que OpenAI comunica su cambio de enfoque hacia lo que considera superinteligencia, la compañía dedicaría suficientes recursos para garantizar que los sistemas superinteligentes se comporten de forma segura. OpenAI ha escrito varias veces sobre cómo lograr una transición exitosa a un mundo con superinteligencia está 'muy lejos de estar garantizado', y que no tiene todas las respuestas. '[N]o tenemos una solución para guiar o controlar una IA potencialmente superinteligente, y evitar que se vuelva rebelde', escribió la compañía en una publicación de blog con fecha de julio de 2023. '[L]os humanos no podrán supervisar de manera confiable los sistemas de IA mucho más inteligentes que nosotros, y por lo tanto, nuestras técnicas actuales de alineación no escalarán a la superinteligencia'. Desde esa publicación, sin embargo, OpenAI ha desmantelado equipos enfocados en la seguridad de la IA, incluida la seguridad de los sistemas superinteligentes, y ha visto partir a varios investigadores influyentes enfocados en la seguridad. Varios de estos miembros del personal citaron las ambiciones comerciales cada vez mayores de OpenAI como la razón de su partida. La compañía está actualmente llevando a cabo una reestructuración corporativa para hacerla más atractiva para inversores externos. Al preguntarle en una reciente entrevista sobre los críticos que dicen que OpenAI no está lo suficientemente enfocado en la seguridad, Altman respondió: 'Señalaría nuestro historial'. OpenAI está centrando su atención en la 'superinteligencia'
En una publicación en su blog personal, el CEO de OpenAI, Sam Altman, dijo que cree que OpenAI 'sabe cómo construir [inteligencia artificial general]' como la empresa tradicionalmente la ha entendido, y está comenzando a dirigir su atención hacia la 'superinteligencia'. 'Amamos nuestros productos actuales, pero estamos aquí por el futuro glorioso', escribió Altman en la publicación. 'Las herramientas superinteligentes podrían acelerar masivamente el descubrimiento científico y la innovación mucho más allá de lo que somos capaces de hacer por nuestra cuenta, y a su vez aumentar masivamente la abundancia y la prosperidad'. Altman dijo anteriormente que la superinteligencia podría estar 'a unos pocos miles de días' de distancia, y que su llegada será 'más intensa de lo que la gente piensa'. AGI, o inteligencia artificial general, es un término nebuloso, pero OpenAI tiene su propia definición: 'sistemas altamente autónomos que superan a los humanos en la mayoría del trabajo económicamente valioso'. OpenAI y Microsoft, el colaborador e inversor cercano de la startup, también tienen una definición de AGI: sistemas de IA que pueden generar al menos $100 mil millones en ganancias. Cuando OpenAI logre esto, Microsoft perderá el acceso a su tecnología, según un acuerdo entre las dos empresas. Entonces, ¿a qué definición se podría estar refiriendo Altman? No especificó, pero la primera parece la más probable. Altman escribió que cree que los agentes de IA, sistemas de IA que pueden realizar ciertas tareas de forma autónoma, pueden 'unirse a la fuerza laboral', por así decirlo, y 'cambiar materialmente la producción de las empresas' este año. 'Seguimos creyendo que poner iterativamente grandes herramientas en manos de las personas lleva a grandes resultados distribuidos ampliamente', escribió. Eso es posible, pero también es cierto que la tecnología de IA actual es significativamente limitada. Alucina, comete errores obvios para cualquier humano y puede ser muy cara. Altman parece confiado en que todo esto se puede superar, y rápidamente. Sin embargo, si hay algo que hemos aprendido sobre la IA en los últimos años, es que los plazos pueden cambiar. 'Estamos bastante seguros de que en los próximos años, todos verán lo que vemos, y que la necesidad de actuar con gran cuidado, maximizando al mismo tiempo el beneficio y la capacitación general, es tan importante', escribió Altman. 'Dados los posibilidades de nuestro trabajo, OpenAI no puede ser una empresa normal. Qué suerte y humildad es poder desempeñar un papel en este trabajo'. Uno esperaría que a medida que OpenAI comunica su cambio de enfoque hacia lo que considera superinteligencia, la compañía dedicaría suficientes recursos para garantizar que los sistemas superinteligentes se comporten de forma segura. OpenAI ha escrito varias veces sobre cómo lograr una transición exitosa a un mundo con superinteligencia está 'muy lejos de estar garantizado', y que no tiene todas las respuestas. '[N]o tenemos una solución para guiar o controlar una IA potencialmente superinteligente, y evitar que se vuelva rebelde', escribió la compañía en una publicación de blog con fecha de julio de 2023. '[L]os humanos no podrán supervisar de manera confiable los sistemas de IA mucho más inteligentes que nosotros, y por lo tanto, nuestras técnicas actuales de alineación no escalarán a la superinteligencia'. Desde esa publicación, sin embargo, OpenAI ha desmantelado equipos enfocados en la seguridad de la IA, incluida la seguridad de los sistemas superinteligentes, y ha visto partir a varios investigadores influyentes enfocados en la seguridad. Varios de estos miembros del personal citaron las ambiciones comerciales cada vez mayores de OpenAI como la razón de su partida. La compañía está actualmente llevando a cabo una reestructuración corporativa para hacerla más atractiva para inversores externos. Al preguntarle en una reciente entrevista sobre los críticos que dicen que OpenAI no está lo suficientemente enfocado en la seguridad, Altman respondió: 'Señalaría nuestro historial'. 
