Según fuentes citadas por Reuters, varios investigadores de OpenAI escribieron una carta al comité asesor de la compañía advirtiendo de un "descubrimiento poderoso" en el campo de la inteligencia artificial que podría amenazar a la humanidad justo días antes de que el CEO de la empresa, Sam Altman, regresara a la compañía.
Las principales innovaciones que llevaron al despido de Altman, el gurú de la tecnología propagandista de IA detrás de ChatGPT, fueron la carta y el algoritmo de IA. Más de 700 empleados de OpenAI amenazaron con renunciar y unirse a Microsoft en solidaridad con el líder exonerado antes del regreso triunfal del ejecutivo el miércoles (21).
Análisis Microsoft ignora la crisis de OpenAI y debería salir victorioso. Las grandes empresas tecnológicas tomaron medidas rápidas para evitar que sus inversiones se vieran afectadas por el enfrentamiento.
Según las fuentes, el despido de Altman puede deberse en parte al contenido de la carta, que incluía preocupaciones sobre la comercialización de los avances de IA antes de comprender las consecuencias de su uso. No se disponía de una copia de la carta para que Reuters la analizara. Los empleados que escribieron el contenido ignoraron las solicitudes de comentarios.
Una de las fuentes dijo que después de ser contactada por Reuters, OpenAI se negó a hacer comentarios, pero más tarde reconoció un proyecto llamado "Q*" en un memorando interno a los empleados y una carta a la dirección antes de los eventos del fin de semana. Un portavoz de OpenAI dijo que el mensaje, enviado por la ejecutiva Mira Murati, alertó al equipo sobre ciertos informes de medios sin dar detalles sobre su importancia.
Algunos empleados de OpenAI creen que el proyecto "Q*" (pronunciado Q-Star) podría ser un avance en la investigación de la llamada inteligencia artificial general (AGI, en inglés). OpenAI define la inteligencia artificial general como sistemas que superan a los humanos en la mayoría de las tareas económicamente valiosas.
Según la fuente, el nuevo modelo pudo abordar ciertos problemas matemáticos gracias a su acceso a extensos recursos computacionales. Los investigadores son optimistas sobre el futuro del proyecto "Q*" a pesar de que el modelo solo se ha probado utilizando cálculos matemáticos de estudiantes de primaria.
"La ignorancia desaparece" Los investigadores ven las matemáticas como la frontera del desarrollo de la IA creativa. Las respuestas a la misma pregunta pueden variar mucho debido al estado actual de la IA generativa, que es buena para escribir y traducir entre idiomas al predecir estadísticamente la siguiente palabra. Sin embargo, dominar tareas contables, para las cuales solo hay una respuesta correcta, implicaría que la IA tiene habilidades de razonamiento comparables a las de los humanos. Los investigadores en inteligencia artificial creen que esto podría ser utilizado en nuevos estudios científicos.
La inteligencia artificial general (AGI) tiene la capacidad de generalizar, aprender y comprender, a diferencia de una calculadora que solo puede realizar una cierta cantidad de operaciones.
Según las fuentes, los investigadores destacaron los posibles peligros de la IA en una carta al consejo, aunque no especificaron las preocupaciones exactas de seguridad planteadas. Los científicos informáticos llevan mucho tiempo debatiendo la amenaza que representan las máquinas superinteligentes, como si elegirían destruir a la humanidad si se les diera la oportunidad.
Los investigadores también señalaron el trabajo de un "equipo de científicos de IA", cuya existencia ha sido confirmada por muchas fuentes. El equipo, que se formó fusionando los equipos "Code Gen" y "Math Gen" anteriores, está trabajando en la optimización de los modelos de IA existentes para impulsar su razonamiento y, en última instancia, llevar a cabo proyectos científicos, como lo expresó uno de ellos.
Altman encabezó el esfuerzo para hacer de ChatGPT una de las aplicaciones de crecimiento más rápido de la historia, atrayendo las inversiones y los recursos informáticos que Microsoft necesitaba para acercarse a la AGI.
Además de presentar una serie de nuevas herramientas durante una demostración este mes, Altman dijo a un grupo de líderes mundiales en San Francisco la semana pasada que creía que se avecinaban avances significativos en la tecnología de inteligencia artificial.
"Poder hacer esto es el honor profesional de toda una vida", dijo frente al Comité de Cooperación en OpenAI. "Cuatro veces en la historia de OpenAI, la más reciente en las últimas dos semanas, pude estar en la habitación cuando dejamos atrás el velo de la ignorancia y nos encontramos frente a la frontera del descubrimiento", dijo.
Al día siguiente, el liderazgo de OpenAI despidió a Altman.