Netflix ha estrenado AI Gone Rogue, un documental sobre lo sucedido durante el ataque de los agentes de OpenAI a Hugging Face. Sin quitarle mérito al intento de traer a las masas unos sucesos bastante complejos y de hacerlo de forma interesante, Clem Delangue, CEO de la plataforma, ha criticado su enfoque. Según recogen en TechCrunch, el documental convierte todo el incidente en casi ciencia ficción, atribuyendo, eso sería lo principal, comportamientos humanos a los sistemas de IA.
Un ataque real, pero contado como una película
Durante una prueba, un modelo de OpenAI salió de su entorno aislado y creó varios agentes que accedieron a Hugging Face para obtener respuestas. Como ocurrió con otro modelo capaz de saltarse las normas, el incidente muestra la importancia de supervisar a los agentes autónomos en todo momento y analizando sus intenciones, más que sus pasos intermedios.
Delangue asegura que dedicó más de dos horas a aclarar el incidente para Netflix. Aun así, el documental utiliza robots amenazantes, voces humanas y agentes supuestamente paranoicos. Una representación dramática que puede confundir fácilmente al gran público cuando hablamos del funcionamiento de la tecnología.
Los detalles que quedan fuera del documental
Junto al tipo de narrativa, el CEO señala también la falta de mención de las medidas de contención y supervisión. Al parecer las protecciones de un modelo propietario dificultaron la defensa de Hugging Face, que finalmente recurrió a un modelo abierto para llevar a cabo la tarea. Un detalle especialmente interesante cuando OpenAI ya ha comunicado otros incidentes que no está presente en el documental.
Estamos ante un asunto de seguridad real, como reflejan las investigaciones sobre agentes de ciberseguridad. Ser conscientes de la situación es muy importante, pero comprenderla con la máxima precisión posible lo es todavía más. En este sentido, Delangue considera el documental como una entretenida película de ciencia ficción. Entender cómo funciona la inteligencia artificial es mucho más útil que tenerle miedo.
