{"id":141439,"date":"2024-07-15T15:50:27","date_gmt":"2024-07-15T13:50:27","guid":{"rendered":"https:\/\/sftarticles.wpenginepowered.com\/es\/?p=336014"},"modified":"2025-06-12T10:52:06","modified_gmt":"2025-06-12T09:52:06","slug":"un-ancien-employe-dopenai-critique-severement-lentreprise-et-la-compare-a-celle-qui-a-construit-le-titanic","status":"publish","type":"post","link":"https:\/\/cms-articles.softonic.io\/fr\/un-ancien-employe-dopenai-critique-severement-lentreprise-et-la-compare-a-celle-qui-a-construit-le-titanic\/","title":{"rendered":"Un ancien employ\u00e9 d’OpenAI critique s\u00e9v\u00e8rement l’entreprise et la compare \u00e0 celle qui a construit le Titanic"},"content":{"rendered":"\n

William Saunders<\/strong>, un ancien employ\u00e9 de la s\u00e9curit\u00e9 d’OpenAI<\/strong>, a compar\u00e9 l’entreprise d’IA \u00e0 la White Star Line<\/strong>, la compagnie qui a construit le Titanic. Saunders, qui a travaill\u00e9 trois ans dans l’\u00e9quipe de superalignement d’OpenAI, a expliqu\u00e9 dans une r\u00e9cente interview<\/a> qu’il a d\u00e9missionn\u00e9 parce qu’il ne voulait pas \u00ab finir par travailler pour le Titanic de l’IA \u00bb.<\/p>\n\n\n

\r\n
\r\n
\r\n
\r\n \"ChatGPT\"\r\n <\/div>\r\n
\r\n ChatGPT<\/span>\r\n T\u00c9L\u00c9CHARGER<\/a>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n\n\n\n

Pendant son temps chez OpenAI, Saunders se demandait si l’entreprise ressemblait plus au programme Apollo de la NASA<\/strong> ou au Titanic. Ses inqui\u00e9tudes portaient sur le plan d’OpenAI d’atteindre l’Intelligence Artificielle G\u00e9n\u00e9rale (AGI)<\/strong> tout en lan\u00e7ant des produits payants. Selon Saunders, l’entreprise privil\u00e9gie la cr\u00e9ation de nouveaux \u00ab produits brillants \u00bb, au lieu de se concentrer sur la s\u00e9curit\u00e9 et l’\u00e9valuation des risques, contrairement \u00e0 ce qu’a fait le programme Apollo.<\/p>\n\n\n\n

Saunders a soulign\u00e9 que le programme Apollo se caract\u00e9risait par la pr\u00e9vision et l’\u00e9valuation minutieuse des risques<\/strong>, en maintenant \u00ab suffisamment de redondance \u00bb pour s’adapter aux probl\u00e8mes graves, comme ce fut le cas avec Apollo 13. En revanche, la White Star Line a construit le Titanic avec des compartiments \u00e9tanches et l’a pr\u00e9sent\u00e9 comme insubmersible, mais n’a pas fourni suffisamment de canots de sauvetage<\/strong>, ce qui a conduit \u00e0 la trag\u00e9die bien connue.<\/p>\n\n\n\n

L’ancien employ\u00e9 d’OpenAI craint que l’entreprise ne fasse trop confiance \u00e0 ses mesures de s\u00e9curit\u00e9 actuelles (et suppos\u00e9ment insuffisantes), et a sugg\u00e9r\u00e9 qu’OpenAI devrait retarder le lancement de nouveaux mod\u00e8les d’IA pour \u00e9tudier les dommages potentiels.<\/strong> Saunders, qui dirigeait un groupe charg\u00e9 de comprendre les comportements des mod\u00e8les linguistiques d’IA, a exprim\u00e9 la n\u00e9cessit\u00e9 de d\u00e9velopper des techniques pour \u00e9valuer si ces syst\u00e8mes \u00ab dissimulent des capacit\u00e9s ou des motivations \u00bb dangereuses.<\/p>\n\n\n

\n
\"super<\/figure>\n<\/div>\n\n\n

Saunders a \u00e9galement exprim\u00e9 sa d\u00e9ception quant aux actions d’OpenAI jusqu’\u00e0 pr\u00e9sent. En f\u00e9vrier, il a quitt\u00e9 l’entreprise et en mai, OpenAI a dissous l’\u00e9quipe de superalignement<\/strong>, peu de temps apr\u00e8s avoir lanc\u00e9 GPT-4<\/strong>, son mod\u00e8le d’IA le plus avanc\u00e9. La r\u00e9ponse d’OpenAI aux pr\u00e9occupations de s\u00e9curit\u00e9 et son rythme de d\u00e9veloppement acc\u00e9l\u00e9r\u00e9 ont \u00e9t\u00e9 critiqu\u00e9s par plusieurs employ\u00e9s et experts<\/strong>, qui mettent en garde contre la n\u00e9cessit\u00e9 d’un plus grand contr\u00f4le gouvernemental pour pr\u00e9venir de futures catastrophes.<\/p>\n\n\n\n

D\u00e9but juin, un groupe d’employ\u00e9s de DeepMind<\/a><\/strong> et OpenAI a publi\u00e9 une lettre ouverte<\/a>, soulignant que les r\u00e9glementations de supervision actuelles sont insuffisantes pour \u00e9viter une catastrophe pour l’humanit\u00e9<\/strong>. De plus, Ilya Sutskever<\/strong>, cofondateur d’OpenAI et ancien directeur scientifique, a d\u00e9missionn\u00e9 pour fonder Safe Superintelligence<\/strong>, une startup qui se concentrera sur la recherche en IA avec une priorit\u00e9 sur la s\u00e9curit\u00e9.<\/p>\n\n\n

\r\n
\r\n
\r\n
\r\n \"ChatGPT\"\r\n <\/div>\r\n
\r\n ChatGPT<\/span>\r\n T\u00c9L\u00c9CHARGER<\/a>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n","protected":false},"excerpt":{"rendered":"

William Saunders, un ancien employ\u00e9 de la s\u00e9curit\u00e9 d’OpenAI, a compar\u00e9 l’entreprise d’IA \u00e0 la White Star Line, la compagnie qui a construit le Titanic. Saunders, qui a travaill\u00e9 trois ans dans l’\u00e9quipe de superalignement d’OpenAI, a expliqu\u00e9 dans une r\u00e9cente interview qu’il a d\u00e9missionn\u00e9 parce qu’il ne voulait pas \u00ab finir par travailler pour … Continue reading “Un ancien employ\u00e9 d’OpenAI critique s\u00e9v\u00e8rement l’entreprise et la compare \u00e0 celle qui a construit le Titanic”<\/span><\/a><\/p>\n","protected":false},"author":9256,"featured_media":141441,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","wpcf-pageviews":13},"categories":[16761],"tags":[17052],"usertag":[],"vertical":[],"content-category":[],"class_list":["post-141439","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","tag-app-subdomain-redirectionchatgpt"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/posts\/141439","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/users\/9256"}],"replies":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/comments?post=141439"}],"version-history":[{"count":1,"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/posts\/141439\/revisions"}],"predecessor-version":[{"id":160874,"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/posts\/141439\/revisions\/160874"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/media\/141441"}],"wp:attachment":[{"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/media?parent=141439"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/categories?post=141439"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/tags?post=141439"},{"taxonomy":"usertag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/usertag?post=141439"},{"taxonomy":"vertical","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/vertical?post=141439"},{"taxonomy":"content-category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/fr\/wp-json\/wp\/v2\/content-category?post=141439"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}