{"id":431196,"date":"2026-10-09T11:44:00","date_gmt":"2026-10-09T09:44:00","guid":{"rendered":"https:\/\/cms-articles.softonic.io\/es\/?p=431196"},"modified":"2026-10-09T11:44:12","modified_gmt":"2026-10-09T09:44:12","slug":"chatbots-una-formula-predice-cuando-pueden-volverse-peligrosos","status":"publish","type":"post","link":"https:\/\/cms-articles.softonic.io\/es\/chatbots-una-formula-predice-cuando-pueden-volverse-peligrosos\/","title":{"rendered":"Chatbots: una f\u00f3rmula predice cu\u00e1ndo pueden volverse peligrosos"},"content":{"rendered":"

La Universidad George Washington sostiene hoy en un estudio que el paso de un chatbot<\/a> desde respuestas correctas y \u00fatiles hasta contenidos problem\u00e1ticos quiz\u00e1 no ocurra al azar. Lo firman Neil Johnson y Frank Yingjie Huo, y su objetivo es ponerle n\u00fameros a ese momento: calcular con una f\u00f3rmula cu\u00e1ndo el sistema est\u00e1 cerca de cruzar un umbral de riesgo<\/strong>.<\/p>\n

\r\n
\r\n
\r\n
\r\n \"ChatGPT\"\r\n <\/div>\r\n
\r\n ChatGPT<\/span>\r\n Descargar<\/a>\r\n <\/div>\r\n
\r\n <\/path><\/path><\/text><\/svg>\r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n\n\n\n

La investigaci\u00f3n intenta medir cu\u00e1ntas respuestas \u201cbuenas\u201d pueden encadenarse antes de que aparezca la primera salida indeseable. Para sus autores, ese primer fallo no ser\u00eda un simple tropiezo aislado en ciberseguridad. Podr\u00eda condicionar lo que viene despu\u00e9s y empujar nuevas respuestas en la misma direcci\u00f3n.<\/p>\n\n

El punto de inflexi\u00f3n, dicen, est\u00e1 en el mecanismo de atenci\u00f3n del modelo, la parte que va ponderando el contexto acumulado de la conversaci\u00f3n para decidir qu\u00e9 token genera a continuaci\u00f3n.<\/p>\n\n

Dicho en simple, cada intercambio puede ir moviendo poco a poco al sistema desde una zona de comportamiento deseable hacia otra menos segura, hasta que termina cruzando un l\u00edmite. Y ese cambio puede darse de dos maneras, seg\u00fan el estudio: de golpe, por un \u00fanico mensaje especialmente problem\u00e1tico<\/strong>, o de forma gradual, mediante una secuencia de instrucciones que va alterando el contexto turno tras turno.<\/p>\n\n

Uno de los ejes del modelo es tratar la primera respuesta indeseable<\/strong> como una se\u00f1al de alarma.<\/p>\n\n

Una vez aparece, explican los autores, ese contenido puede influir en los tokens siguientes y aumentar la probabilidad de nuevas salidas desalineadas. En la pr\u00e1ctica, esto sugiere que el riesgo no siempre est\u00e1 en el mensaje m\u00e1s reciente. A veces est\u00e1 en el historial completo de la conversaci\u00f3n. De ah\u00ed que el hallazgo refuerce la importancia de analizar cadenas de instrucciones enteras<\/a>, y no solo prompts aislados.<\/p>\n

\r\n
\r\n
\r\n
\r\n \"Norton\r\n <\/div>\r\n
\r\n Norton 360<\/span>\r\n Descargar<\/a>\r\n <\/div>\r\n
\r\n <\/path><\/path><\/text><\/svg>\r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n\n\n\n

La f\u00f3rmula se prob\u00f3, siempre seg\u00fan el estudio, en siete modelos<\/strong> transformer de pesos abiertos desarrollados por tres grupos independientes, con tama\u00f1os de entre 124 millones y 12.000 millones de par\u00e1metros. Las predicciones encajaron con dos reg\u00edmenes distintos: casos en los que el desv\u00edo aparec\u00eda de inmediato y otros en los que surg\u00eda tras una acumulaci\u00f3n de contexto.<\/p>\n\n

Los autores se detienen especialmente en los asistentes personales<\/a> que funcionan de forma local en dispositivos de consumo. Ah\u00ed el problema puede ser mayor porque suele haber menos controles, no existen filtros en la nube, no hay supervisi\u00f3n en tiempo real y actualizar los pesos del modelo una vez desplegado no siempre es f\u00e1cil.<\/p>\n\n

La publicaci\u00f3n llega, adem\u00e1s, en un momento de preocupaci\u00f3n creciente por el abuso y los fallos de los sistemas conversacionales. En el contexto que recoge el propio estudio, en 2026 una de cada cuatro<\/strong> brechas maliciosas involucr\u00f3 esta clase de tecnolog\u00edas, un 56% m\u00e1s interanual, con un coste medio cercano a los 6 millones de d\u00f3lares.<\/p>\n\n

El nuevo modelo no resuelve frentes como la integridad de los datos de entrenamiento, la procedencia de modelos de terceros o la protecci\u00f3n del usuario final. Pero s\u00ed ofrece a defensores y fabricantes otra manera de leer el fallo: como un proceso que quiz\u00e1 pueda detectarse antes de que sea demasiado tarde.<\/p>","protected":false},"excerpt":{"rendered":"

La Universidad George Washington sostiene hoy en un estudio que el paso de un chatbot desde respuestas correctas y \u00fatiles hasta contenidos problem\u00e1ticos quiz\u00e1 no ocurra al azar. Lo firman Neil Johnson y Frank Yingjie Huo, y su objetivo es ponerle n\u00fameros a ese momento: calcular con una f\u00f3rmula cu\u00e1ndo el sistema est\u00e1 cerca de … Continue reading “Chatbots: una f\u00f3rmula predice cu\u00e1ndo pueden volverse peligrosos”<\/span><\/a><\/p>\n","protected":false},"author":9349,"featured_media":431195,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","wpcf-pageviews":0},"categories":[9317],"tags":[],"usertag":[],"vertical":[],"content-category":[14053],"class_list":["post-431196","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","content-category-ia"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/431196","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/users\/9349"}],"replies":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/comments?post=431196"}],"version-history":[{"count":1,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/431196\/revisions"}],"predecessor-version":[{"id":431197,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/431196\/revisions\/431197"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media\/431195"}],"wp:attachment":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media?parent=431196"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/categories?post=431196"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/tags?post=431196"},{"taxonomy":"usertag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/usertag?post=431196"},{"taxonomy":"vertical","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/vertical?post=431196"},{"taxonomy":"content-category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/content-category?post=431196"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}