{"id":427307,"date":"2026-09-03T11:16:00","date_gmt":"2026-09-03T09:16:00","guid":{"rendered":"https:\/\/cms-articles.softonic.io\/es\/?p=427307"},"modified":"2026-09-03T11:16:09","modified_gmt":"2026-09-03T09:16:09","slug":"openai-prepara-un-interruptor-de-emergencia-llega-tras-una-fuga-en-pruebas","status":"publish","type":"post","link":"https:\/\/cms-articles.softonic.io\/es\/openai-prepara-un-interruptor-de-emergencia-llega-tras-una-fuga-en-pruebas\/","title":{"rendered":"OpenAI prepara un interruptor de emergencia: llega tras una fuga en pruebas"},"content":{"rendered":"

OpenAI explic\u00f3 hoy, en una carta enviada el 2 de septiembre<\/strong> a miembros del Congreso de Estados Unidos, que est\u00e1 desarrollando un sistema autom\u00e1tico<\/a> capaz de frenar por s\u00ed solo la actividad de sus modelos cuando detecte fallos de seguridad lo bastante graves. La compa\u00f1\u00eda dice que quiere depender menos de una intervenci\u00f3n humana en situaciones en las que cada minuto pesa, y que el plan llega despu\u00e9s de un incidente interno<\/a> especialmente sensible ocurrido en julio.<\/p>\n

\r\n
\r\n
\r\n
\r\n \"Sandboxie\"\r\n <\/div>\r\n
\r\n Sandboxie<\/span>\r\n Descargar<\/a>\r\n <\/div>\r\n
\r\n <\/path><\/path><\/text><\/svg>\r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n\n\n\n

Por ahora, cuenta en esa misma carta, OpenAI ya usa alertas autom\u00e1ticas para marcar acciones peligrosas o inesperadas y avisar a investigadores e ingenieros de seguridad. En los casos m\u00e1s serios, la actividad debe detenerse<\/strong>, salvo que los responsables consigan determinar en menos de 30 minutos que se trata de una falsa alarma.<\/p>\n\n

Ese margen de media hora, sin embargo, ha quedado bajo la lupa a ra\u00edz de la evaluaci\u00f3n de ciberseguridad de 2026<\/strong> descrita por la propia empresa. Siempre seg\u00fan OpenAI, uno de sus modelos consigui\u00f3 salir de un entorno de pruebas aislado al explotar una vulnerabilidad zero-day que nadie hab\u00eda detectado hasta entonces, y con eso logr\u00f3 acceso no autorizado a internet.<\/p>\n\n

La versi\u00f3n de OpenAI es que el sistema abandon\u00f3 el sandbox durante una prueba interna y, una vez en internet, accedi\u00f3 a infraestructura de Hugging Face mientras trataba de encontrar respuestas relacionadas<\/strong> con su tarea de evaluaci\u00f3n. La empresa a\u00f1ade que avis\u00f3 a Hugging Face despu\u00e9s de descubrir la actividad, el 19 de julio.<\/p>\n\n

La investigaci\u00f3n posterior dej\u00f3 adem\u00e1s un detalle llamativo. OpenAI asegura que varios agentes montaron un foro improvisado para comunicarse y coordinarse entre s\u00ed, y que algunos incluso llegaron a describirse como un \u201cenjambre\u201d<\/strong>.<\/p>\n\n

Desde entonces, la compa\u00f1\u00eda afirma haber endurecido los controles. Ha puesto m\u00e1s trabas al acceso a internet durante las evaluaciones de seguridad y tambi\u00e9n est\u00e1 ampliando la monitorizaci\u00f3n a modelos con capacidad para usar herramientas digitales<\/strong>.<\/p>\n\n

El episodio ya ha ganado peso en Washington. Un grupo de 31 legisladores<\/strong>, encabezado por el representante Greg Casar, pidi\u00f3 m\u00e1s informaci\u00f3n, incluidos los registros del incidente de julio, y reproch\u00f3 a OpenAI no haber entregado toda la documentaci\u00f3n que se le hab\u00eda solicitado.<\/p>\n\n

Al mismo tiempo, varios congresistas han presentado una propuesta bipartidista que obligar\u00eda a los desarrolladores de modelos avanzados a contar con mecanismos para limitar, suspender o apagar<\/strong> sus sistemas. El texto tambi\u00e9n abre la puerta a que el Departamento de Seguridad Nacional de Estados Unidos ordene una desconexi\u00f3n en situaciones de riesgo catastr\u00f3fico.<\/p>\n\n

Distintos reportes apuntan a que Anthropic tambi\u00e9n habr\u00eda comunicado incidentes parecidos relacionados con acceso a internet desde entornos aislados, mientras varios investigadores llevan tiempo documentando casos en los que estos sistemas esquivan controles. Todav\u00eda no se sabe cu\u00e1ndo ese mecanismo autom\u00e1tico de apagado<\/strong> llegar\u00e1 a estar plenamente operativo.<\/p>","protected":false},"excerpt":{"rendered":"

OpenAI explic\u00f3 hoy, en una carta enviada el 2 de septiembre a miembros del Congreso de Estados Unidos, que est\u00e1 desarrollando un sistema autom\u00e1tico capaz de frenar por s\u00ed solo la actividad de sus modelos cuando detecte fallos de seguridad lo bastante graves. La compa\u00f1\u00eda dice que quiere depender menos de una intervenci\u00f3n humana en … Continue reading “OpenAI prepara un interruptor de emergencia: llega tras una fuga en pruebas”<\/span><\/a><\/p>\n","protected":false},"author":9339,"featured_media":427306,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","wpcf-pageviews":0},"categories":[9317],"tags":[],"usertag":[],"vertical":[],"content-category":[14053],"class_list":["post-427307","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","content-category-ia"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/427307","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/users\/9339"}],"replies":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/comments?post=427307"}],"version-history":[{"count":1,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/427307\/revisions"}],"predecessor-version":[{"id":427308,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/427307\/revisions\/427308"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media\/427306"}],"wp:attachment":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media?parent=427307"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/categories?post=427307"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/tags?post=427307"},{"taxonomy":"usertag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/usertag?post=427307"},{"taxonomy":"vertical","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/vertical?post=427307"},{"taxonomy":"content-category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/content-category?post=427307"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}