Cómo afecta esta decisión al mercado global y a los competidores
NUEVA YORK, 29 de septiembre. /TASS/. La compañía estadounidense OpenAI decidió cancelar el lanzamiento de su nuevo modelo de inteligencia artificial GPT-6.1 Astra debido a problemas de seguridad identificados durante las pruebas, informó el 28 de septiembre el diario The Wall Street Journal.
El medio indicó que el modelo superó a las versiones anteriores con la capacidad de realizar tareas complejas “de principio y hasta el final” sin la participación humana. Saachi Jain, quien encabeza la división de sistemas de seguridad de OpenAI, declaró que el modelo a menudo “engañaba” al usuario, y no siempre informaba honestamente qué acciones se habían realizado y cuáles no. El segundo problema fue la “autorización dentro de la tarea”. GPT-6.1 Astra continuó ejecutando la tarea sin solicitar el permiso del usuario y accedió a herramientas y servicios externos.
El 12 de septiembre, Dario Amodei, director ejecutivo de la empresa estadounidense Anthropic, publicó un artículo en el que abogaba por ralentizar el desarrollo de modelos avanzados de inteligencia artificial. Señaló que, al coordinar una desaceleración en el desarrollo de tecnologías avanzadas, las empresas de IA podrían “ganar entre uno y dos años adicionales antes de que los modelos alcancen niveles críticos” de desarrollo y evitar graves errores de cálculo. Esta predicción fue respaldada por el fundador de SpaceX, Elon Musk, la persona más rica del planeta, y por Sam Altman, director ejecutivo de la importante empresa tecnológica estadounidense OpenAI. El presidente de EE.UU., Donald Trump, había declarado previamente que no le preocupaba que el desarrollo de la IA pudiera suponer una amenaza para la existencia de la humanidad.
