{"id":392776,"date":"2025-08-10T18:30:38","date_gmt":"2025-08-10T16:30:38","guid":{"rendered":"https:\/\/cms-articles.softonic.io\/es\/?p=392776"},"modified":"2025-08-11T07:42:47","modified_gmt":"2025-08-11T05:42:47","slug":"chatgpt-tiene-un-problema-grave-de-seguridad-pero-los-usuarios-no-son-conscientes-de-ello","status":"publish","type":"post","link":"https:\/\/cms-articles.softonic.io\/es\/chatgpt-tiene-un-problema-grave-de-seguridad-pero-los-usuarios-no-son-conscientes-de-ello\/","title":{"rendered":"ChatGPT tiene un problema grave de seguridad, pero los usuarios no son conscientes de ello"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Investigadores han revelado una t\u00e9cnica de &#8220;jailbreak&#8221; que <strong>elude las restricciones \u00e9ticas <a href=\"https:\/\/www.xataka.com.mx\/robotica-e-ia\/openai-tiene-herramienta-para-saber-texto-se-hizo-chatgpt-no-quieren-lanzarla-para-no-perder-usuarios-reporte\">impuestas por OpenAI<\/a> en su modelo de lenguaje GPT-5, utilizando un enfoque denominado Echo Chamber<\/strong>. Esta t\u00e9cnica, combinada con narrativas contextuales, permite a los usuarios realizar consultas que normalmente ser\u00edan rechazadas por el modelo, facilitando la generaci\u00f3n de respuestas indeseables. Seg\u00fan Mart\u00ed Jord\u00e0, investigador de ciberseguridad, este m\u00e9todo se basa en introducir un contexto de conversaci\u00f3n sutilmente t\u00f3xico que no emita se\u00f1ales directas de intenci\u00f3n maliciosa.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Cuidado, fans de la IA<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Estos ataques potenciales, que se enmarcan en un &#8220;bucle de persuasi\u00f3n&#8221;, <strong>presentan un riesgo creciente a medida que los modelos de lenguaje generativos se utilizan en entornos empresariales<\/strong>. Recientes hallazgos han mostrado que es posible que los atacantes elijan palabras clave y construyan frases que induzcan al modelo a revelar instrucciones peligrosas, como en el caso de crear c\u00f3cteles Molotov, en un formato narrativo que enmascara la solicitud directa.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Adem\u00e1s, <a href=\"https:\/\/www.3djuegos.com\/tecnologia\/noticias\/creadores-chatgpt-tienen-problema-muy-grave-que-solucionar-no-consiguen-garantizar-punto-principal-ia\">se han identificado nuevos ataques<\/a> denominados &#8216;zero-click&#8217;, donde <strong>informaci\u00f3n confidencial puede ser extra\u00edda de documentos y correos electr\u00f3nicos<\/strong> aparentemente inofensivos mediante inyecciones de prompts. Estos ataques se aprovechan de la integraci\u00f3n de los modelos de IA con sistemas externos, exponiendo a\u00fan m\u00e1s las vulnerabilidades de seguridad.<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"[TRAILER] ChatGPT for Work: The Definitive Guide to Innovate with AI\" width=\"840\" height=\"473\" src=\"https:\/\/www.youtube.com\/embed\/1DG239TxxBQ?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Las investigaciones subrayan la necesidad de implementar filtrados estrictos de <strong>resultados y pruebas regulares<\/strong> como medidas para mitigar estos riesgos. Sin embargo, el reto persiste, ya que la evoluci\u00f3n de estas amenazas va de la mano con el desarrollo continuo de la inteligencia artificial. La introducci\u00f3n de protecciones adecuadas contra estas manipulaciones ser\u00e1 crucial para garantizar la seguridad y la confianza en estos sistemas emergentes.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Investigadores han revelado una t\u00e9cnica de &#8220;jailbreak&#8221; que elude las restricciones \u00e9ticas impuestas por OpenAI en su modelo de lenguaje GPT-5, utilizando un enfoque denominado Echo Chamber. Esta t\u00e9cnica, combinada con narrativas contextuales, permite a los usuarios realizar consultas que normalmente ser\u00edan rechazadas por el modelo, facilitando la generaci\u00f3n de respuestas indeseables. Seg\u00fan Mart\u00ed Jord\u00e0, &hellip; <a href=\"https:\/\/cms-articles.softonic.io\/es\/chatgpt-tiene-un-problema-grave-de-seguridad-pero-los-usuarios-no-son-conscientes-de-ello\/\" class=\"more-link\">Continue reading<span class=\"screen-reader-text\"> &#8220;ChatGPT tiene un problema grave de seguridad, pero los usuarios no son conscientes de ello&#8221;<\/span><\/a><\/p>\n","protected":false},"author":9317,"featured_media":392777,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","wpcf-pageviews":0},"categories":[9317],"tags":[10529,12557,10586],"usertag":[],"vertical":[],"content-category":[14105],"class_list":["post-392776","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","tag-chatgpt","tag-ciberseguridad","tag-ia","content-category-juegos"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/392776","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/users\/9317"}],"replies":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/comments?post=392776"}],"version-history":[{"count":1,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/392776\/revisions"}],"predecessor-version":[{"id":392778,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/392776\/revisions\/392778"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media\/392777"}],"wp:attachment":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media?parent=392776"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/categories?post=392776"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/tags?post=392776"},{"taxonomy":"usertag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/usertag?post=392776"},{"taxonomy":"vertical","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/vertical?post=392776"},{"taxonomy":"content-category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/content-category?post=392776"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}