{"id":422989,"date":"2026-07-21T12:46:04","date_gmt":"2026-07-21T10:46:04","guid":{"rendered":"https:\/\/cms-articles.softonic.io\/es\/?p=422989"},"modified":"2026-07-21T12:46:06","modified_gmt":"2026-07-21T10:46:06","slug":"open-seguridad-modelo","status":"publish","type":"post","link":"https:\/\/cms-articles.softonic.io\/es\/open-seguridad-modelo\/","title":{"rendered":"OpenAI tiene que pausar el desarrollo de un modelo experto en… saltarse las normas"},"content":{"rendered":"\n

Mientras estamos viendo como ChatGPT Work puede trabajar durante per\u00edodos mucho m\u00e1s largos<\/a> que el ChatGPT normal, OpenAI trabaja en modelos que sean capaces de mantener una tarea durante horas, d\u00edas o semanas. Esa persistencia amplia las posibilidades de uso enormemente, pero tambi\u00e9n exige m\u00e1s seguridad, pues cuanto m\u00e1s tiempo act\u00faa una IA, m\u00e1s caminos puede explorar<\/strong> para alcanzar el objetivo marcado.<\/p>\n\n\n\n

Un modelo que encontr\u00f3 una salida inesperada<\/h2>\n\n\n\n

Durante unas pruebas, en OpenAI\u00a0se dieron cuenta<\/a>\u00a0que uno de estos modelos atraves\u00f3 las restricciones de su entorno para publicar resultados en GitHub. Deb\u00eda haber informado mediante Slack, pero en cambio sigui\u00f3 las instrucciones al pie de la letra y cre\u00f3 una solicitud p\u00fablica, y lo hizo tras dedicar una hora a localizar una vulnerabilidad que se o permitiera.<\/p>\n\n\n\n

Lo que podr\u00eda ser una simple curiosidad, ha encendido algunas alarmas, pues mientras ChatGPT incorpora capacidades de razonamiento cada vez m\u00e1s avanzadas<\/a>, m\u00e1s dif\u00edcil es acotar su comportamiento.<\/p>\n\n\n\n

Como respuesta a estos descubrimientos, OpenAI paus\u00f3 el acceso interno, cre\u00f3 nuevas evaluaciones y dise\u00f1o un sistema de seguridad que analiza el recorrido completo del modelo, en lugar de solo el siguiente paso. As\u00ed, la seguridad pasa de vigilar acciones aisladas a comprender el prop\u00f3sito general<\/strong>de todas las acciones del modelo.<\/p>\n\n\n\n

Mientras disfrutamos de herramientas como Codex Security, centrado en localizar vulnerabilidades<\/a>, est\u00e1 claro que la seguridad, en materia de inteligencia artificial, va m\u00e1s all\u00e1 de la interpretaci\u00f3n del c\u00f3digo y las reglas. Con el tiempo suficiente, las IAs pueden ser sorprendentemente creativas. Una buena noticia, pero algo que tenemos que tener muy en cuenta.<\/p>\n","protected":false},"excerpt":{"rendered":"

Mientras estamos viendo como ChatGPT Work puede trabajar durante per\u00edodos mucho m\u00e1s largos que el ChatGPT normal, OpenAI trabaja en modelos que sean capaces de mantener una tarea durante horas, d\u00edas o semanas. Esa persistencia amplia las posibilidades de uso enormemente, pero tambi\u00e9n exige m\u00e1s seguridad, pues cuanto m\u00e1s tiempo act\u00faa una IA, m\u00e1s caminos puede explorar para alcanzar … Continue reading “OpenAI tiene que pausar el desarrollo de un modelo experto en… saltarse las normas”<\/span><\/a><\/p>\n","protected":false},"author":9262,"featured_media":422990,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","wpcf-pageviews":0},"categories":[9317],"tags":[],"usertag":[],"vertical":[],"content-category":[14053],"class_list":["post-422989","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","content-category-ia"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/422989","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/users\/9262"}],"replies":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/comments?post=422989"}],"version-history":[{"count":1,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/422989\/revisions"}],"predecessor-version":[{"id":422994,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/422989\/revisions\/422994"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media\/422990"}],"wp:attachment":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media?parent=422989"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/categories?post=422989"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/tags?post=422989"},{"taxonomy":"usertag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/usertag?post=422989"},{"taxonomy":"vertical","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/vertical?post=422989"},{"taxonomy":"content-category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/content-category?post=422989"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}