L’un des cofondateurs d’OpenAI, Ilya Sutskever, a annoncé la semaine dernière la création d’une nouvelle entreprise de technologie de l’intelligence artificielle, nommée Safe Superintelligence Inc (SSI). Cette société vise à développer une IA avec une sécurité « nucléaire ».
Les cofondateurs incluent également Daniel Levy, ancien ingénieur chez OpenAI, et Daniel Gross, cofondateur de Cue et ancien responsable de l’IA chez Apple. L’entreprise sera basée à Palo Alto (Californie) et Tel Aviv (Israël). C’est via un post publié sur X que Sutskever a annoncé la création de SSI.
Sur leur site web, un communiqué explique qu’ils ont « lancé le premier laboratoire mondial de superintelligence (SSI), avec un objectif et un produit : une superintelligence sécurisée ». Selon leur modèle économique, « la sécurité, la protection et le progrès sont isolés des pressions commerciales à court terme ».
Qu’est-ce qui rend exactement une IA plus sûre qu’une autre ? Pour le moment, ce n’est pas très clair. Dans des déclarations faites à Bloomberg, Sutskever suggère qu’il tentera de garantir la sécurité grâce à des avancées technologiques intégrées à la technologie de l’IA, plutôt que de s’appuyer sur des correctifs réalisés sur le tas. Il compare cela à la sécurité nucléaire : « Par sécurité, nous entendons une sécurité similaire à celle de la technologie nucléaire, et non une sécurité de type “confiance et sécurité” ».
