{"id":338365,"date":"2024-08-12T17:24:00","date_gmt":"2024-08-12T15:24:00","guid":{"rendered":"https:\/\/sftarticles.wpenginepowered.com\/es\/?p=338365"},"modified":"2025-06-12T16:28:15","modified_gmt":"2025-06-12T14:28:15","slug":"chatgpt-imito-la-voz-de-un-usuario-sin-su-permiso-segun-openai","status":"publish","type":"post","link":"https:\/\/cms-articles.softonic.io\/es\/chatgpt-imito-la-voz-de-un-usuario-sin-su-permiso-segun-openai\/","title":{"rendered":"ChatGPT imit\u00f3 la voz de un usuario sin su permiso, seg\u00fan OpenAI"},"content":{"rendered":"\n

OpenAI<\/strong> revel\u00f3 la semana pasada la “tarjeta del sistema” del modelo GPT-4o<\/strong><\/a> de ChatGPT<\/strong>, detallando tanto sus limitaciones como los procedimientos llevados a cabo en las pruebas de seguridad. Uno de los puntos m\u00e1s destacados es la capacidad del modelo de imitar voces<\/strong>, que, en un extra\u00f1o caso, lleg\u00f3 a reproducir la voz de uno los red teamers<\/strong> contratados para probar la seguridad de la IA, sin su consentimiento.<\/p>\n\n\n

\r\n
\r\n
\r\n
\r\n \"ChatGPT\"\r\n <\/div>\r\n
\r\n ChatGPT<\/span>\r\n DESCARGAR<\/a>\r\n <\/div>\r\n
\r\n <\/path><\/path><\/text><\/svg>\r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n\n\n\n

El modo de voz avanzado de ChatGPT permite a los usuarios mantener conversaciones de voz con el asistente de IA<\/strong>, utilizando voces predeterminadas basadas en varios actores y actrices de doblaje<\/a>. Sin embargo, en un episodio documentado por OpenAI en la tarjeta del sistema de GPT-4o, el modelo replic\u00f3 la voz de un tester tras recibir una entrada de audio con algo de ruido<\/strong>, salt\u00e1ndose las salvaguardas implementadas por la compa\u00f1\u00eda.<\/p>\n\n\n\n

OpenAI explica que GPT-4o puede sintetizar cualquier sonido, incluyendo voces, bas\u00e1ndose en peque\u00f1os clips de audio<\/strong>. Esta capacidad se controla mediante un clasificador de salida que asegura que el modelo solo utilice voces preseleccionadas. A pesar de estos controles, el ruido en la entrada de audio del usuario en el ejemplo mencionado confundi\u00f3 al modelo, provocando que este imitara la voz del usuario en lugar de la voz autorizada.<\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

La tarjeta del sistema revela que OpenAI se toma en serio estos riesgos, asegurando que su sistema atrapa el 100% de las desviaciones significativas en la voz. Simon Willison<\/strong>, un investigador independiente, coment\u00f3 que OpenAI ha implementado una robusta protecci\u00f3n para prevenir el uso de voces no autorizadas, pero advierte que, en un futuro cercano, podr\u00eda haber tecnolog\u00edas muy similares<\/strong>. “ElevenLabs ya puede clonar voces, y pronto veremos modelos que permitan esta capacidad en nuestras propias m\u00e1quinas”, afirm\u00f3 Willison, subrayando la r\u00e1pida evoluci\u00f3n de la tecnolog\u00eda de s\u00edntesis de voz gracias a los nuevos modelos de IA.<\/p>\n\n\n\n

Fuente: Ars Technica<\/a><\/strong><\/em><\/p>\n\n\n

\r\n
\r\n
\r\n
\r\n \"ChatGPT\"\r\n <\/div>\r\n
\r\n ChatGPT<\/span>\r\n DESCARGAR<\/a>\r\n <\/div>\r\n
\r\n <\/path><\/path><\/text><\/svg>\r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n","protected":false},"excerpt":{"rendered":"

OpenAI revel\u00f3 la semana pasada la “tarjeta del sistema” del modelo GPT-4o de ChatGPT, detallando tanto sus limitaciones como los procedimientos llevados a cabo en las pruebas de seguridad. Uno de los puntos m\u00e1s destacados es la capacidad del modelo de imitar voces, que, en un extra\u00f1o caso, lleg\u00f3 a reproducir la voz de uno … Continue reading “ChatGPT imit\u00f3 la voz de un usuario sin su permiso, seg\u00fan OpenAI”<\/span><\/a><\/p>\n","protected":false},"author":9256,"featured_media":268083,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","wpcf-pageviews":1},"categories":[9317],"tags":[11010],"usertag":[],"vertical":[],"content-category":[14053],"class_list":["post-338365","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","tag-app-subdomain-redirectionchatgpt","content-category-ia"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/338365","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/users\/9256"}],"replies":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/comments?post=338365"}],"version-history":[{"count":1,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/338365\/revisions"}],"predecessor-version":[{"id":358374,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/338365\/revisions\/358374"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media\/268083"}],"wp:attachment":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media?parent=338365"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/categories?post=338365"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/tags?post=338365"},{"taxonomy":"usertag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/usertag?post=338365"},{"taxonomy":"vertical","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/vertical?post=338365"},{"taxonomy":"content-category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/content-category?post=338365"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}