OpenAI está preparando el lanzamiento de Astra, su modelo más avanzado, y esta vez la potencia viene acompañada de un sistema de seguridad especialmente llamativo. Tras el incidente en el que un modelo de OpenAI atacó Hugging Face, la compañía ha reforzado considerablemente sus controles y sistemas. Cuando sea público, Astra se detendrá automáticamente ante determinadas acciones cuando el subsistema de seguridad lo considere apropiado. Una especie de botón del pánico para mantener bajo control sus capacidades más avanzadas.
El primer modelo de OpenAI con riesgo “Critical”
Según recogen en Axios, OpenAI considera que Astra es el primer modelo en alcanzar el nivel Criticaldentro de su marco de preparación. Puede encontrar vulnerabilidades desconocidas y desarrollar formas de explotarlas de forma totalmente autónoma. Durante las pruebas, Astra llegó a descubrir y encadenar dos vulnerabilidades zero-day, un salto muy considerable dentro de la evolución que ya vimos con el lanzamiento de GPT-5.6 y respecto a las herramientas de ciberseguridad de OpenAI que han ayudado a mejorar la seguridad de Google Chrome.
Si consideramos agentes como ChatGPT Work, capaces de mantener la ejecución de tareas durante horas, el nuevo enfoque, más centrado en un control sostenido y no en uno del prompt inicial o de los resultados, es interesante. Cuanto más tiempo trabaja un agente, más caminos puede tomar y más importante es que el sistema pueda supervisar cada acción que ejecuta dentro de su trabajo.
Con este enfoque, OpenAI ha preparado las salvaguardas para ser capaces de ralentizar, pausar o directamente detener una tarea ante ciertas señales de actividad. En ChatGPT o Codex podremos contestar con una petición para revisar la acción detenida, mientras que en la API la tarea quedará detenida automáticamente en ese punto. En ambos casos, sin embargo, las mayores capacidades quedarán inicialmente en manos de un grupo reducido de testers mientras se afinan las nuevas protecciones.
