{"id":140248,"date":"2017-08-01T14:49:10","date_gmt":"2017-08-01T14:49:10","guid":{"rendered":"http:\/\/sftarticles.wpenginepowered.com\/es\/?p=140248"},"modified":"2025-06-13T01:08:48","modified_gmt":"2025-06-12T23:08:48","slug":"facebook-ia-contra-humanos-soc","status":"publish","type":"post","link":"https:\/\/cms-articles.softonic.io\/es\/facebook-ia-contra-humanos-soc\/","title":{"rendered":"La sorprendente verdad detr\u00e1s de la IA que Facebook desactiv\u00f3 “por miedo a que conspirara contra la humanidad”"},"content":{"rendered":"

Seguro que has estado al tanto del l\u00edo que se ha montado estos \u00faltimos d\u00edas con un experimento “peligroso” de Facebook. Me refiero a la noticia de que Facebook ha desactivado una Inteligencia Artificial<\/strong> que estaba desarrollando porque estaba empezando a ser demasiado peligrosa para la humanidad.<\/p>\n

En los \u00faltimos d\u00edas, hemos tenido titulares catastr\u00f3ficos como “Los ingenieros de Facebook entran en p\u00e1nico, desactivan una IA despu\u00e9s de que los bots desarrollaran su propio lenguaje”; “Facebook desactiva una IA despu\u00e9s de que invente su propio lenguaje inquietante<\/strong>“; o art\u00edculos sobre\u00a0“los peligros que derivan de la inteligencia artificial”.<\/p>\n

Diantres, solo mira algunas de las im\u00e1genes<\/strong> que han acompa\u00f1ado las noticias de turno:<\/p>\n

\"0F0\"<\/p>\n

\"t2-judgement-day\"<\/p>\n

\"141110_robot\"<\/p>\n

\u00bfRealmente Facebook ha creado sin querer una serie de bots que hablaban entre ellos con un idioma inventado para conspirar contra nosotros? No<\/strong>, todo ha sido algo que a los medios de comunicaci\u00f3n se les ha escapado de la mano.<\/p>\n

\u00bfQu\u00e9 ha ocurrido entonces? \u00bfCu\u00e1l es la verdad detr\u00e1s de la histeria y la pol\u00e9mica?<\/strong> Todo empez\u00f3 hace unas semanas, cuando FastCo Design<\/a>, portal de tecnolog\u00eda y de marketing, revel\u00f3 que\u00a0dos bots creados por Facebook estaban hablando entre ellos de forma extra\u00f1a.<\/p>\n

\"yuyy\"<\/p>\n

Estos dos bots, “Bob” y “Alice”<\/strong>, forman parte de un proyecto que la unidad de Investigaci\u00f3n de Inteligencia Artificial de Facebook (o FAIR, que son sus siglas del nombre en ingl\u00e9s) revel\u00f3 p\u00fablicamente este mes de junio.<\/a><\/p>\n

El objetivo del proyecto era descubrir “si es posible crear dos agentes de di\u00e1logo con objetivos diferentes que puedan iniciar y terminar negociaciones con otros bots o personas hasta llegar a acuerdos”.<\/strong><\/p>\n

Estos bots trataban de repartirse una serie de objetos<\/strong> (representados en forma de objetos virtuales como libros, sombreros y pelotas) de forma que ambos estuvieran de acuerdo.<\/p>\n

Aqu\u00ed tienes a los bots negociando entre ellos<\/strong>:<\/p>\n

\"Captura\"<\/p>\n

La intenci\u00f3n detr\u00e1s de este proyecto era descubrir si un bot podr\u00eda aprender lo suficiente de interacci\u00f3n humana como para negociar con un usuario sin que este supiera que esta hablando con una m\u00e1quin<\/strong>a. A nivel pr\u00e1ctico, un bot de este calibre servir\u00eda a las empresas para atender a los clientes en todo momento, evitando tener que contratar “humanos” para ello.<\/p>\n

El proyecto fue un \u00e9xito: “El rendimiento del mejor agente de negociaci\u00f3n creado por FAIR, que usa aprendizaje de refuerzo, se equipara al rendimiento de un negociador humano. Hemos demostrado que los bots de FAIR no solo pueden hablar ingl\u00e9s sino que tambi\u00e9n saben pensar de forma inteligente sobre lo que decir a continuaci\u00f3n<\/strong>“.<\/p>\n

Hasta aqu\u00ed todo bien, \u00bfverdad? No hay nada ominoso ni extra\u00f1o en ello. La cosa se complica cuando FAIR decide coger a dos de sus bots m\u00e1s inteligentes<\/strong>, los llamados “Bob” y “Alice”, para que hablen entre ellos. Por curiosidad.<\/p>\n

Es entonces cuando aparecen estas conversaciones extra\u00f1as y un tanto inquietantes<\/strong>. Aqu\u00ed tienes un extracto \u00edntegro, por cortes\u00eda de la propia Facebook:<\/p>\n

\"i-1-ais-are-writing-their-own-perfect-languages-should-we-let-them\"<\/p>\n

La prensa malinterpreta las conversaciones (o no acaba de leer el art\u00edculo original de FastCo Design)\u00a0e interpreta el cese del experimento por parte de Facebook como que la empresa tiene miedo<\/strong> de que la IA que ha creado haya confeccionado su propio lenguaje secreto.<\/p>\n

Facebook S\u00cd desactiv\u00f3 la conversaci\u00f3n entre los dos bots. Pero lo hizo porque se hab\u00eda cometido un error en el experimento. FAIR se descuid\u00f3 y no incentiv\u00f3 a los dos bots a que se comunicaran de acuerdo con reglas del ingl\u00e9s que pudiera entender un ser humano<\/strong>. Los bots simplemente hablaron entre ellos y crearon atajos idiom\u00e1ticos que, cierto, dan un poco de repel\u00fas porque parece que se hayan vuelto locos, pero son totalmente inofensivos.<\/p>\n

“Los dos agentes dejaron atr\u00e1s el lenguaje comprensible e inventaron c\u00f3digos entre ellos”, explica FAIR. “Es como si yo dijera la palabra `el\u00b4 cinco veces y t\u00fa entendieras que quiero cinco copias del objeto<\/strong> en cuesti\u00f3n. No se diferencia demasiado de c\u00f3mo los humanos creamos atajos idiom\u00e1ticos”.<\/p>\n

Facebook chap\u00f3 el experimento porque lo que quiere es que los bots aprendan a hablar con personas. El resultado no era peligroso. Simplemente no era pr\u00e1ctico. Los bots hab\u00edan aprendido a distribuir sus pelotas virtuales<\/strong>, pero sin seguir las reglas inglesas que todos entendemos. As\u00ed que el experimento no serv\u00eda para nada.<\/p>\n

\"rrhyrr\"<\/p>\n

Es f\u00e1cil ver c\u00f3mo una historia que empieza con “dos bots logran intercambiarse pelotas virtuales, pero lo hacen a su manera y no nos sirve” a “Facebook desactiva dos bots porque hab\u00edan creado un nuevo lenguaje y pod\u00edan suponer un peligro para la humanidad”<\/strong>. La segunda versi\u00f3n es mil veces m\u00e1s atractiva que la primera.<\/p>\n

Resumiendo: no, ni “Bob” ni “Alice” conspiran contra nosotros ni nuestras vidas corren en peligro. En todo caso, los \u00fanicos que deber\u00edan preocuparse con los negociadores profesionales<\/strong>; si estos experimentos siguen yendo bien, se van a quedar sin trabajo.<\/p>\n

Fuente: Gizmodo<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Seguro que has estado al tanto del l\u00edo que se ha montado estos \u00faltimos d\u00edas con un experimento “peligroso” de Facebook. Me refiero a la noticia de que Facebook ha desactivado una Inteligencia Artificial que estaba desarrollando porque estaba empezando a ser demasiado peligrosa para la humanidad. En los \u00faltimos d\u00edas, hemos tenido titulares catastr\u00f3ficos … Continue reading “La sorprendente verdad detr\u00e1s de la IA que Facebook desactiv\u00f3 “por miedo a que conspirara contra la humanidad””<\/span><\/a><\/p>\n","protected":false},"author":2057,"featured_media":140263,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","wpcf-pageviews":0},"categories":[],"tags":[9686],"usertag":[],"vertical":[],"content-category":[],"class_list":["post-140248","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","tag-app-subdomain-redirectionfacebook"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/140248","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/users\/2057"}],"replies":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/comments?post=140248"}],"version-history":[{"count":1,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/140248\/revisions"}],"predecessor-version":[{"id":372945,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/140248\/revisions\/372945"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media\/140263"}],"wp:attachment":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media?parent=140248"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/categories?post=140248"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/tags?post=140248"},{"taxonomy":"usertag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/usertag?post=140248"},{"taxonomy":"vertical","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/vertical?post=140248"},{"taxonomy":"content-category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/content-category?post=140248"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}