Según fuentes citadas por Reuters, varios investigadores de OpenAI escribieron una carta al consejo asesor de la compañía advirtiendo sobre un “descubrimiento poderoso” en el campo de la inteligencia artificial que podría amenazar a la humanidad días antes de que el director ejecutivo de la empresa, Sam Altman, regresara a la compañía. Las principales innovaciones que llevaron al despido de Altman, el gurú de la tecnología propagandista de IA detrás de ChatGPT, fueron la carta y el algoritmo de IA. Más de 700 empleados de OpenAI amenazaron con renunciar y unirse a Microsoft en solidaridad con el líder exonerado antes del regreso triunfal del ejecutivo el miércoles (21). Se tomaron medidas rápidas por parte de las principales empresas de tecnología para evitar que sus inversiones se vieran afectadas por el enfrentamiento. Según las fuentes, el despido de Altman puede atribuirse en parte al contenido de la carta, que incluía preocupaciones sobre la comercialización de los avances de la IA antes de comprender las consecuencias de su uso. No se disponía de una copia de la carta para que Reuters la analizara. Los empleados que redactaron el contenido ignoraron las solicitudes de comentarios. Una de las fuentes dijo que después de ser contactada por Reuters, OpenAI se negó a hacer comentarios, pero más tarde reconoció un proyecto llamado “Q *” en un memo interno para los empleados y una carta a la gerencia antes de los eventos del fin de semana. Un portavoz de OpenAI dijo que el mensaje, enviado por la ejecutiva Mira Murati, alertó al equipo sobre ciertos informes de los medios sin entrar en detalles sobre su importancia. Algunos empleados de OpenAI creen que el proyecto “Q *” (pronunciado Q-Star) podría ser un avance en la investigación de lo que se conoce como inteligencia artificial general (AGI, en inglés). OpenAI define la inteligencia artificial general como sistemas que superan a los humanos en la mayoría de las tareas económicamente valiosas. Según la fuente, el nuevo modelo pudo abordar ciertos problemas matemáticos gracias a su acceso a amplios recursos computacionales. Los investigadores son optimistas sobre el futuro del proyecto “Q *” a pesar de que el modelo solo ha sido probado utilizando cálculos matemáticos de estudiantes de primaria. “La ignorancia desaparece”. Los investigadores ven las matemáticas como la frontera del desarrollo de la IA creativa. Las respuestas a la misma pregunta pueden variar considerablemente debido al estado actual de la IA generativa, que es buena para escribir y traducir entre idiomas mediante la predicción estadística de la siguiente palabra. Sin embargo, dominar tareas de contabilidad, para las cuales solo hay una respuesta correcta, implicaría que la IA tiene habilidades de razonamiento comparables a las de los humanos. Los investigadores en inteligencia artificial creen que esto podría ser utilizado para nuevos estudios científicos. La inteligencia artificial general (AGI) tiene la capacidad de generalizar, aprender y comprender, a diferencia de una calculadora que solo puede realizar un cierto número de operaciones. Según las fuentes, los investigadores destacaron los peligros potenciales de la IA en una carta al consejo, aunque no especificaron las preocupaciones de seguridad exactas planteadas. Los científicos de la computación han debatido durante mucho tiempo la amenaza que representan las máquinas superinteligentes, como si elegirían o no destruir a la humanidad si se les diera la oportunidad. Los investigadores también señalaron el trabajo de un “equipo de científicos de IA”, cuya existencia ha sido confirmada por muchas fuentes. El equipo, que se formó mediante la fusión de los equipos “Code Gen” y “Math Gen” de antes, está trabajando en optimizar los modelos de IA existentes para mejorar su razonamiento y, en última instancia, llevar a cabo tareas científicas, como afirmó uno de ellos. Altman lideró el esfuerzo para convertir a ChatGPT en una de las aplicaciones de más rápido crecimiento, atrayendo las inversiones y recursos informáticos que Microsoft necesitaba para acercarse a AGI. Además de presentar una serie de nuevas herramientas durante una demostración este mes, Altman le dijo a un grupo de líderes globales en San Francisco la semana pasada que creía que se avecinaban avances significativos en la tecnología de inteligencia artificial. “Poder hacer esto es el honor profesional de toda una vida”, dijo frente al Comité de Cooperación de OpenAI. “Cuatro veces en la historia de OpenAI, siendo la más reciente en las últimas dos semanas, pude estar en la sala cuando dejamos atrás el velo de la ignorancia y descubrimos la frontera del descubrimiento”, dijo. Al día siguiente, el liderazgo de OpenAI despidió a Altman.
Menu
Menu
