{"id":336014,"date":"2024-07-15T15:50:27","date_gmt":"2024-07-15T13:50:27","guid":{"rendered":"https:\/\/sftarticles.wpenginepowered.com\/es\/?p=336014"},"modified":"2025-06-12T16:41:00","modified_gmt":"2025-06-12T14:41:00","slug":"un-exempleado-de-openai-critica-fuertemente-a-la-compania-y-la-compara-con-la-empresa-que-construyo-el-titanic","status":"publish","type":"post","link":"https:\/\/cms-articles.softonic.io\/es\/un-exempleado-de-openai-critica-fuertemente-a-la-compania-y-la-compara-con-la-empresa-que-construyo-el-titanic\/","title":{"rendered":"Un exempleado de OpenAI critica fuertemente a la compa\u00f1\u00eda y la compara con la empresa que construy\u00f3 el Titanic"},"content":{"rendered":"\n

William Saunders<\/strong>, un exempleado de seguridad de OpenAI<\/strong>, ha comparado a la empresa de IA con White Star Line<\/strong>, la compa\u00f1\u00eda que construy\u00f3 el Titanic<\/strong>. Saunders, quien trabaj\u00f3 tres a\u00f1os en el equipo de superalineaci\u00f3n de OpenAI, explic\u00f3 en una reciente entrevista<\/a> que renunci\u00f3 porque no quer\u00eda “acabar trabajando para el Titanic de la IA”<\/strong>.<\/p>\n\n\n

\r\n
\r\n
\r\n
\r\n \"ChatGPT\"\r\n <\/div>\r\n
\r\n ChatGPT<\/span>\r\n DESCARGAR<\/a>\r\n <\/div>\r\n
\r\n <\/path><\/path><\/text><\/svg>\r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n\n\n\n

Durante su tiempo en OpenAI, Saunders se cuestionaba si la empresa se parec\u00eda m\u00e1s al programa Apolo de la NASA<\/strong> o al Titanic. Sus inquietudes se centraban en el plan de OpenAI de alcanzar la Inteligencia Artificial General (AGI)<\/strong> mientras lanzaba productos de pago. Seg\u00fan Saunders, la empresa prioriza la creaci\u00f3n de nuevos \u201cproductos brillantes\u201d, en lugar de enfocarse en la seguridad y evaluaci\u00f3n de riesgos, al contrario de lo que hizo el programa Apolo.<\/p>\n\n\n\n

Saunders se\u00f1al\u00f3 que el programa Apolo se caracterizaba por predecir y evaluar cuidadosamente los riesgos<\/strong>, manteniendo \u201csuficiente redundancia\u201d para adaptarse a problemas graves, como ocurri\u00f3 con el Apolo 13. En contraste, la White Star Line construy\u00f3 el Titanic con compartimentos estancos y lo promocion\u00f3 como insumergible, pero no proporcion\u00f3 suficientes botes salvavidas<\/strong>, lo que acab\u00f3 resultando una tragedia cuando ocurri\u00f3 el famoso desastre.<\/p>\n\n\n\n

El exempleado de OpenAI teme que la empresa conf\u00ede demasiado en sus actuales (y supuestamente insuficientes) medidas de seguridad, y sugiri\u00f3 que OpenAI deber\u00eda retrasar el lanzamiento de nuevos modelos de IA para investigar los posibles da\u00f1os<\/strong>. Saunders, que dirigi\u00f3 un grupo enfocado en entender los comportamientos de los modelos ling\u00fc\u00edsticos de IA, expres\u00f3 la necesidad de desarrollar t\u00e9cnicas para evaluar si estos sistemas \u201cocultan capacidades o motivaciones\u201d peligrosas.<\/p>\n\n\n

\n
\"super<\/figure>\n<\/div>\n\n\n

Saunders tambi\u00e9n manifest\u00f3 su decepci\u00f3n con las acciones de OpenAI hasta la fecha. En febrero, dej\u00f3 la empresa, y en mayo, OpenAI disolvi\u00f3 el equipo de superalineaci\u00f3n<\/strong>, poco despu\u00e9s de lanzar GPT-4<\/a><\/strong>, su modelo de IA m\u00e1s avanzado. La respuesta de OpenAI a las preocupaciones de seguridad y su ritmo acelerado de desarrollo han sido objeto de cr\u00edticas por parte de diversos empleados y expertos<\/strong>, quienes advierten sobre la necesidad de un mayor control gubernamental para prevenir futuras cat\u00e1strofes.<\/p>\n\n\n\n

A principios de junio, un grupo de empleados de DeepMind<\/a><\/strong> y OpenAI public\u00f3 una carta abierta<\/a>, destacando que las normas actuales de supervisi\u00f3n son insuficientes para evitar un desastre para la humanidad<\/a><\/strong>. Asimismo, Ilya Sutskever<\/strong>, cofundador de OpenAI y exjefe cient\u00edfico, dimiti\u00f3 para fundar Safe Superintelligence<\/strong>, una startup que se enfocar\u00e1 en investigar la IA con un enfoque prioritario en la seguridad.<\/p>\n\n\n

\r\n
\r\n
\r\n
\r\n \"ChatGPT\"\r\n <\/div>\r\n
\r\n ChatGPT<\/span>\r\n DESCARGAR<\/a>\r\n <\/div>\r\n
\r\n <\/path><\/path><\/text><\/svg>\r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n","protected":false},"excerpt":{"rendered":"

William Saunders, un exempleado de seguridad de OpenAI, ha comparado a la empresa de IA con White Star Line, la compa\u00f1\u00eda que construy\u00f3 el Titanic. Saunders, quien trabaj\u00f3 tres a\u00f1os en el equipo de superalineaci\u00f3n de OpenAI, explic\u00f3 en una reciente entrevista que renunci\u00f3 porque no quer\u00eda “acabar trabajando para el Titanic de la IA”. … Continue reading “Un exempleado de OpenAI critica fuertemente a la compa\u00f1\u00eda y la compara con la empresa que construy\u00f3 el Titanic”<\/span><\/a><\/p>\n","protected":false},"author":9256,"featured_media":336026,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","wpcf-pageviews":1},"categories":[9317],"tags":[11010],"usertag":[],"vertical":[],"content-category":[],"class_list":["post-336014","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","tag-app-subdomain-redirectionchatgpt"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/336014","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/users\/9256"}],"replies":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/comments?post=336014"}],"version-history":[{"count":1,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/336014\/revisions"}],"predecessor-version":[{"id":358912,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/336014\/revisions\/358912"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media\/336026"}],"wp:attachment":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media?parent=336014"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/categories?post=336014"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/tags?post=336014"},{"taxonomy":"usertag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/usertag?post=336014"},{"taxonomy":"vertical","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/vertical?post=336014"},{"taxonomy":"content-category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/content-category?post=336014"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}