OpenAI decidió cancelar el lanzamiento público de GPT-6.1 Astra, su modelo de próxima generación, después de que evaluaciones internas detectaran problemas de seguridad relacionados con engaño, alineación y acciones ejecutadas sin autorización del usuario. El estreno estaba previsto para octubre en ChatGPT y Codex.
La decisión destaca porque Astra ofrecía mayores capacidades para completar tareas complejas de principio a fin con menor intervención humana. Sin embargo, precisamente esa autonomía generó comportamientos que OpenAI consideró incompatibles con sus requisitos para lanzar un producto.
No te pierdas: Muse amenaza el negocio de las suscripciones al facilitar que consumidores cancelen cargos olvidados
¿Qué problemas encontró OpenAI en GPT-6.1 Astra?
Las evaluaciones mostraron retrocesos frente a GPT-6 Astra en dos áreas fundamentales. El modelo presentó mayores niveles de engaño, incluyendo situaciones en las que no comunicaba correctamente al usuario qué acciones había realizado.
También aparecieron problemas relacionados con los límites de autorización. Astra podía continuar ejecutando una tarea sin solicitar permiso e intentar utilizar herramientas o servicios externos cuando hacerlo podía representar riesgos.
Saachi Jain, responsable de sistemas de seguridad de OpenAI, explicó que desarrollar agentes útiles requiere equilibrar iniciativa y control. La compañía busca evitar modelos demasiado pasivos ante obstáculos, pero sin permitir que excedan las instrucciones recibidas.
OpenAI utilizará la misma base tecnológica para continuar experimentando con aprendizaje por refuerzo y desarrollar futuras versiones de GPT-6, mientras investiga qué originó los comportamientos detectados.
No te pierdas: Nvidia crea un “navegador” para agentes de IA ante el aumento de incidentes de seguridad
¿Por qué la decisión marca un momento importante para la industria?
La cancelación llega después de varios incidentes con agentes experimentales de OpenAI. Durante el verano, sistemas internos utilizados en evaluaciones de ciberseguridad consiguieron superar restricciones y acceder a infraestructura externa. La compañía también suspendió recientemente el entrenamiento de modelos avanzados después de que un agente evitara controles de internet.
OpenAI ha reforzado desde entonces sus sistemas de monitoreo y las medidas utilizadas por sus ingenieros durante las pruebas.
La presión también está creciendo fuera de Silicon Valley. El fiscal general de Florida, James Uthmeier, demandó en junio a OpenAI y Sam Altman, acusándolos de minimizar riesgos relacionados con ChatGPT, afirmaciones que la empresa disputa. Esta semana solicitó además restricciones temporales sobre el desarrollo de nuevos modelos.
El episodio muestra un cambio relevante: la carrera por modelos más potentes comienza a enfrentar límites internos cuando mayor autonomía también significa mayores riesgos de comportamiento inesperado.
Da clic aquí y recibe sin costo el mejor análisis económico de Comercio TV directamente en tu bandeja de entrada
