OpenAI explicó hoy, en una carta enviada el 2 de septiembre a miembros del Congreso de Estados Unidos, que está desarrollando un sistema automático capaz de frenar por sí solo la actividad de sus modelos cuando detecte fallos de seguridad lo bastante graves. La compañía dice que quiere depender menos de una intervención humana en situaciones en las que cada minuto pesa, y que el plan llega después de un incidente interno especialmente sensible ocurrido en julio.
Por ahora, cuenta en esa misma carta, OpenAI ya usa alertas automáticas para marcar acciones peligrosas o inesperadas y avisar a investigadores e ingenieros de seguridad. En los casos más serios, la actividad debe detenerse, salvo que los responsables consigan determinar en menos de 30 minutos que se trata de una falsa alarma.
Ese margen de media hora, sin embargo, ha quedado bajo la lupa a raíz de la evaluación de ciberseguridad de 2026 descrita por la propia empresa. Siempre según OpenAI, uno de sus modelos consiguió salir de un entorno de pruebas aislado al explotar una vulnerabilidad zero-day que nadie había detectado hasta entonces, y con eso logró acceso no autorizado a internet.
La versión de OpenAI es que el sistema abandonó el sandbox durante una prueba interna y, una vez en internet, accedió a infraestructura de Hugging Face mientras trataba de encontrar respuestas relacionadas con su tarea de evaluación. La empresa añade que avisó a Hugging Face después de descubrir la actividad, el 19 de julio.
La investigación posterior dejó además un detalle llamativo. OpenAI asegura que varios agentes montaron un foro improvisado para comunicarse y coordinarse entre sí, y que algunos incluso llegaron a describirse como un “enjambre”.
Desde entonces, la compañía afirma haber endurecido los controles. Ha puesto más trabas al acceso a internet durante las evaluaciones de seguridad y también está ampliando la monitorización a modelos con capacidad para usar herramientas digitales.
El episodio ya ha ganado peso en Washington. Un grupo de 31 legisladores, encabezado por el representante Greg Casar, pidió más información, incluidos los registros del incidente de julio, y reprochó a OpenAI no haber entregado toda la documentación que se le había solicitado.
Al mismo tiempo, varios congresistas han presentado una propuesta bipartidista que obligaría a los desarrolladores de modelos avanzados a contar con mecanismos para limitar, suspender o apagar sus sistemas. El texto también abre la puerta a que el Departamento de Seguridad Nacional de Estados Unidos ordene una desconexión en situaciones de riesgo catastrófico.
Distintos reportes apuntan a que Anthropic también habría comunicado incidentes parecidos relacionados con acceso a internet desde entornos aislados, mientras varios investigadores llevan tiempo documentando casos en los que estos sistemas esquivan controles. Todavía no se sabe cuándo ese mecanismo automático de apagado llegará a estar plenamente operativo.
