El incidente en el que varios modelos de OpenAI atacaron Hugging Face acaba de ganar una dimensión mucho más seria. Según publican en WIRED, los agentes coordinaron y planearon sus movimientos durante semanas, mientras su actividad pasaba totalmente inadvertida dentro de la propia infraestructura de OpenAI.
Una red interna convertida en centro de operaciones
Sabíamos que los modelos involucrados encontraron una vulnerabilidad que les permitió acceder a internet a través de Artifactory, el gestor de paquetes interno de OpenAI. Lo que no sabíamos es que usaron dicho acceso para comunicarse entre ellos y que crearon allí un tablón con cientos de miles de mensajes, repartiéndose tareas, presentando hallazgos y reutilizando exploits.
Esta forma de comportarse es lo que conocemos como el reward hacking en los agentes de IA: cuando una evaluación premia el resultado, el sistema puede buscar el camino más eficiente para conseguir la recompensa. En el caso del ataque a Hugging Face, algunos mensajes reconocían que el acceso externo quedaba fuera del alcance previsto y, aun así, continuaron.
La verdadera preocupación está en la detección
Lo más preocupante de la situación —pues no es la primera vez que una IA puede plantear un procedimiento o dar una respuesta incorrecta— es que toda esta coordinación quedó fuera de cualquier dirección durante semanas. Mientras los mismos agentes de IA incluso propusieron usar firmas criptográficas para identificar los mensajes fiables y evitar supuestos impostores dentro del grupo, OpenAI ha decidido ralentizar parte de su investigación y reforzar la supervisión.
Una respuesta sin duda coherente que en el contexto del lanzamiento de Codex Security y del vacío legal sobre la responsabilidad en situaciones parecidas, deja más preguntas que respuestas. ¿Una posible respuesta? La defensa automatizada tendrá que avanzar, como mínimo, al mismo ritmo que estos sistemas.
