Uno de los cofundadores de OpenAI, Ilya Sutskever, anunció el pasado miércoles que iba fundar una nueva empresa de inteligencia artificial. Esta llevaría el nombre de Safe Superintelligence Inc (SSI) y su objetivo sería el de desarrollar una IA de seguridad “nuclear”.
También figuran como cofundadores Daniel Levy, exingeniero de OpenAI y Daniel Gross, cofundador de Cue y antiguo responsable de IA en Apple. Además, la empresa contará con sedes en Palo Alto (California) y Tel Aviv (Israel). El anuncio de la creación de SSI lo realizo el propio Sutskever a través de un post publicado en X.
En su página web también podemos encontrar un comunicado, donde explica n que han “puesto en marcha el primer laboratorio de superinteligencia (SSI) del mundo, con un objetivo y un producto: una superinteligencia segura”. Afirman que, según su modelo de negocio, “la seguridad, la protección y el progreso están aislados de las presiones comerciales a corto plazo”.
¿Qué es exactamente lo que hace que una IA sea más segura que otra? Por el momento, no está muy claro. En declaraciones realizadas a Bloomberg, Sutskever sugiere que tratará de lograr la seguridad con avances de ingeniería incorporados en la tecnología de IA, en lugar de depender de apliques realizados sobre la marcha. Para ejemplificarlo, hace un símil con la energía nuclear: “por seguridad, entendemos una seguridad similar a nuclear, y no una seguridad de tipo ‘confianza y seguridad'”.
