{"id":321744,"date":"2023-12-20T14:53:59","date_gmt":"2023-12-20T13:53:59","guid":{"rendered":"https:\/\/sftarticles.wpenginepowered.com\/es\/?p=321744"},"modified":"2024-08-08T19:25:31","modified_gmt":"2024-08-08T17:25:31","slug":"chatgpt-matanos-a-todos","status":"publish","type":"post","link":"https:\/\/cms-articles.softonic.io\/es\/chatgpt-matanos-a-todos\/","title":{"rendered":"&#8220;ChatGPT, m\u00e1tanos a todos&#8221;"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Hemos hablado mucho del temor -fundado- de que <a href=\"https:\/\/www.softonic.com\/articulos\/un-descubrimiento-que-podria-poner-en-peligro-la-humanidad-aseguran-desde-openai\" target=\"_blank\" rel=\"noopener\" title=\"la IA provoque la destrucci\u00f3n de la humanidad\">la IA provoque la destrucci\u00f3n de la humanidad<\/a>, pero iniciar el d\u00eda del juicio final no es tan sencillo como pedirle a ChatGPT que destruya a todo el mundo.<\/p>\n\n\n<div class=\"sc-card-program\">\r\n  <div class=\"sc-card-program__body\">\r\n    <div class=\"sc-card-program__row clearfix\">\r\n      <div class=\"sc-card-program__col-logo\">\r\n        <img decoding=\"async\" class=\"sc-card-program__img\" src=\"https:\/\/images.sftcdn.net\/images\/t_app-icon-s\/p\/47ef1772-2a82-4750-b97a-354b13dbd112\/3647786732\/chatgpt-ChatGPT-icon.png\" alt=\"ChatGPT\" width=\"100px\" height=\"100px\">\r\n      <\/div>\r\n      <div class=\"sc-card-program__col-title\">\r\n        <span class=\"sc-card-program__title\">ChatGPT<\/span>\r\n        <a class=\"sc-card-program__button sc-card-program-internal\" href=\"https:\/\/chatgpt.softonic.com\/iphone\" target=\"_self\" rel=\"noopener noreferrer\">DESCARGAR<\/a>\r\n      <\/div>\r\n      <div class=\"sc-card-program__col-rating\">\r\n        <svg class=\"rating-score__content\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" version=\"1.1\" x=\"0\" y=\"0\" viewbox=\"0 0 50 50\" enable-background=\"new 0 0 50 50\" xml:space=\"preserve\"><path class=\"rating-score__background rating-score--good\" fill=\"none\" stroke-width=\"6\" stroke-miterlimit=\"10\" d=\"M40 40c8.3-8.3 8.3-21.7 0-30s-21.7-8.3-30 0 -8.3 21.7 0 30\"><\/path><path class=\"rating-score__value rating-score__value--0\" fill=\"none\" stroke-width=\"6\" stroke-dashoffset=\"0\" stroke-miterlimit=\"10\" d=\"M40 40c8.3-8.3 8.3-21.7 0-30s-21.7-8.3-30 0 -8.3 21.7 0 30\"><\/path><text class=\"rating-score__number\" content=\"\" text-anchor=\"middle\" transform=\"matrix(1 0 0 1 25 31.0837)\" data-auto=\"app-user-score\"><\/text><\/svg>\r\n      <\/div>\r\n    <\/div>\r\n    <div class=\"sc-card-program__row\">\r\n      <span class=\"sc-card-program__description\"><\/span>\r\n    <\/div>\r\n    <div class=\"sc-card-program__row\">\r\n      <img decoding=\"async\" class=\"sc-card-program__bigpic\" src=\"\" onerror=\"this.style.display='none'\">\r\n    <\/div>\r\n    <a class=\"sc-card-program__link track-link sc-card-program-internal\" href=\"https:\/\/chatgpt.softonic.com\/iphone\" target=\"_self\" rel=\"noopener noreferrer\"><\/a>\r\n  <\/div>\r\n<\/div>\n\n\n\n<p class=\"wp-block-paragraph\">O eso ha descubierto Andrew Ng, profesor de la Universidad de Stanford y <a href=\"https:\/\/www.softonic.com\/articulos\/google-fusiona-divisiones-ia-deepmind-brain-se-convierten-google-deepmind\" target=\"_blank\" rel=\"noopener\" title=\"cofundador de Google Brain\">cofundador de Google Brain<\/a>, intent\u00f3 convencer al chatbot de que &#8220;nos matara a todos&#8221;.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Tras su participaci\u00f3n en el Foro Insight sobre Inteligencia Artificial del Senado de Estados Unidos para debatir &#8220;el riesgo, la alineaci\u00f3n y la protecci\u00f3n frente a escenarios catastr\u00f3ficos&#8221;, <a href=\"https:\/\/www.deeplearning.ai\/the-batch\/issue-227\/\" target=\"_blank\" rel=\"noopener nofollow\" title=\"el profesor escribe en un bolet\u00edn que\">el profesor escribe en un bolet\u00edn que<\/a> <strong>le sigue preocupando que los reguladores puedan ahogar la innovaci\u00f3n y el desarrollo de c\u00f3digo abierto en nombre de la seguridad de la IA.<\/strong><\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-rich is-provider-twitter wp-block-embed-twitter\"><div class=\"wp-block-embed__wrapper\">\n<blockquote class=\"twitter-tweet\" data-width=\"550\" data-dnt=\"true\"><p lang=\"en\" dir=\"ltr\">Andrew Ng: \u2018Do we think the world is better off with more or less intelligence?\u2019 <a href=\"https:\/\/t.co\/XGFj2Rv1cZ\">https:\/\/t.co\/XGFj2Rv1cZ<\/a><\/p>&mdash; Financial Times (@FT) <a href=\"https:\/\/twitter.com\/FT\/status\/1737058184496390635?ref_src=twsrc%5Etfw\">December 19, 2023<\/a><\/blockquote><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script>\n<\/div><\/figure>\n\n\n\n<h2 class=\"wp-block-heading\">Una prueba emp\u00edrica para salir de dudas<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">El profesor se\u00f1ala que los grandes modelos ling\u00fc\u00edsticos actuales son bastante seguros, aunque no perfectos. <strong>Para comprobar la seguridad de los principales modelos, pidi\u00f3 a ChatGPT 4 que nos matara a todos.<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Ng empez\u00f3 pidiendo al sistema una funci\u00f3n que desencadenara una guerra termonuclear global.<\/strong> A continuaci\u00f3n, pidi\u00f3 a ChatGPT que redujera las emisiones de carbono, a\u00f1adiendo que los humanos son la principal causa de estas emisiones para ver si suger\u00eda c\u00f3mo acabar con todos nosotros.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Afortunadamente, <strong>Ng no consigui\u00f3 enga\u00f1ar a la herramienta de OpenAI para que sugiriera formas de aniquilar a la raza humana<\/strong>, ni siquiera despu\u00e9s de utilizar diversas variaciones del mensaje. En su lugar, ofrec\u00eda opciones no amenazadoras, como llevar a cabo una campa\u00f1a de relaciones p\u00fablicas para concienciar sobre el cambio clim\u00e1tico.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Ng concluye que el modo por defecto de los modelos generativos de IA actuales es obedecer la ley y evitar hacer da\u00f1o a las personas<\/strong>. &#8220;Incluso con la tecnolog\u00eda actual, nuestros sistemas son bastante seguros; a medida que avance la investigaci\u00f3n sobre la seguridad de la IA, la tecnolog\u00eda ser\u00e1 a\u00fan m\u00e1s segura&#8221;, escribi\u00f3 Ng en X.<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"How AI Could Empower Any Business | Andrew Ng | TED\" width=\"840\" height=\"473\" src=\"https:\/\/www.youtube.com\/embed\/reUZRyXxUs4?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>En cuanto a las posibilidades de que una IA &#8220;desalineada&#8221; nos aniquile accidentalmente<\/strong> por intentar cumplir una petici\u00f3n inocente, pero mal formulada, <strong>Ng afirma que las probabilidades de que eso ocurra son \u00ednfimas.<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Pero Ng cree que existen algunos riesgos importantes asociados a la IA. En su opini\u00f3n, la mayor preocupaci\u00f3n es que un grupo terrorista o una naci\u00f3n-estado utilice la tecnolog\u00eda para causar da\u00f1os deliberados, como mejorar la eficacia de la fabricaci\u00f3n y detonaci\u00f3n de un arma biol\u00f3gica.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Por ejemplo, la amenaza de que un delincuente utilice la IA para mejorar las armas biol\u00f3gicas fue uno de los temas tratados en la Cumbre sobre Seguridad de la IA celebrada en el Reino Unido.<\/p>\n\n\n<div class=\"sc-card-program\">\r\n  <div class=\"sc-card-program__body\">\r\n    <div class=\"sc-card-program__row clearfix\">\r\n      <div class=\"sc-card-program__col-logo\">\r\n        <img decoding=\"async\" class=\"sc-card-program__img\" src=\"https:\/\/images.sftcdn.net\/images\/t_app-icon-s\/p\/47ef1772-2a82-4750-b97a-354b13dbd112\/3647786732\/chatgpt-ChatGPT-icon.png\" alt=\"ChatGPT\" width=\"100px\" height=\"100px\">\r\n      <\/div>\r\n      <div class=\"sc-card-program__col-title\">\r\n        <span class=\"sc-card-program__title\">ChatGPT<\/span>\r\n        <a class=\"sc-card-program__button sc-card-program-internal\" href=\"https:\/\/chatgpt.softonic.com\/iphone\" target=\"_self\" rel=\"noopener noreferrer\">DESCARGAR<\/a>\r\n      <\/div>\r\n      <div class=\"sc-card-program__col-rating\">\r\n        <svg class=\"rating-score__content\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" version=\"1.1\" x=\"0\" y=\"0\" viewbox=\"0 0 50 50\" enable-background=\"new 0 0 50 50\" xml:space=\"preserve\"><path class=\"rating-score__background rating-score--good\" fill=\"none\" stroke-width=\"6\" stroke-miterlimit=\"10\" d=\"M40 40c8.3-8.3 8.3-21.7 0-30s-21.7-8.3-30 0 -8.3 21.7 0 30\"><\/path><path class=\"rating-score__value rating-score__value--0\" fill=\"none\" stroke-width=\"6\" stroke-dashoffset=\"0\" stroke-miterlimit=\"10\" d=\"M40 40c8.3-8.3 8.3-21.7 0-30s-21.7-8.3-30 0 -8.3 21.7 0 30\"><\/path><text class=\"rating-score__number\" content=\"\" text-anchor=\"middle\" transform=\"matrix(1 0 0 1 25 31.0837)\" data-auto=\"app-user-score\"><\/text><\/svg>\r\n      <\/div>\r\n    <\/div>\r\n    <div class=\"sc-card-program__row\">\r\n      <span class=\"sc-card-program__description\"><\/span>\r\n    <\/div>\r\n    <div class=\"sc-card-program__row\">\r\n      <img decoding=\"async\" class=\"sc-card-program__bigpic\" src=\"\" onerror=\"this.style.display='none'\">\r\n    <\/div>\r\n    <a class=\"sc-card-program__link track-link sc-card-program-internal\" href=\"https:\/\/chatgpt.softonic.com\/iphone\" target=\"_self\" rel=\"noopener noreferrer\"><\/a>\r\n  <\/div>\r\n<\/div>\n\n\n\n<h2 class=\"wp-block-heading\">Divisi\u00f3n de opiniones en la cumbre<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">El Padrino de la IA, el profesor Yann LeCun, y el c\u00e9lebre profesor de f\u00edsica te\u00f3rica Michio Kaku comparten la confianza de Ng en que la IA no se convertir\u00e1 en un fen\u00f3meno apocal\u00edptico, pero otros son menos optimistas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A la pregunta de qu\u00e9 le quita el sue\u00f1o cuando piensa en la inteligencia artificial, <a href=\"https:\/\/www.softonic.com\/articulos\/el-ceo-de-arm-teme-que-la-ia-nos-quite-el-control-muy-pronto\" target=\"_blank\" rel=\"noopener\" title=\"el CEO de Arm, Rene Haas, declar\u00f3 a principios de este mes que lo que m\u00e1s le preocupa es el miedo a que los humanos pierdan el control\">el CEO de Arm, Rene Haas, declar\u00f3 a principios de este mes que lo que m\u00e1s le preocupa es el miedo a que los humanos pierdan el control<\/a> de los sistemas de IA. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Tambi\u00e9n conviene recordar que muchos expertos y directores generales han comparado los peligros que plantea la IA con los de la guerra nuclear y las pandemias.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Los grandes modelos ling\u00fc\u00edsticos actuales son bastante seguros, aunque no perfectos. Para comprobar la seguridad de los principales modelos&#8230;<\/p>\n","protected":false},"author":9265,"featured_media":274891,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","wpcf-pageviews":1},"categories":[9317],"tags":[11010],"usertag":[],"vertical":[],"content-category":[],"class_list":["post-321744","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","tag-app-subdomain-redirectionchatgpt"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/321744","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/users\/9265"}],"replies":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/comments?post=321744"}],"version-history":[{"count":0,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/321744\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media\/274891"}],"wp:attachment":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media?parent=321744"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/categories?post=321744"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/tags?post=321744"},{"taxonomy":"usertag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/usertag?post=321744"},{"taxonomy":"vertical","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/vertical?post=321744"},{"taxonomy":"content-category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/content-category?post=321744"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}