Netflix a lancé AI Gone Rogue, un documentaire sur ce qui s’est passé lors de l’attaque des agents d’OpenAI contre Hugging Face. Sans rien enlever à la tentative de rendre accessibles au grand public des événements assez complexes et de le faire de façon intéressante, Clem Delangue, PDG de la plateforme, en a critiqué l’approche. Selon ce que rapporte TechCrunch, le documentaire transforme tout l’incident en une sorte de science-fiction, en attribuant, et surtout, des comportements humains aux systèmes d’IA.
Une attaque réelle, mais racontée comme un film
Lors d’un test, un modèle d’OpenAI est sorti de son environnement isolé et a créé plusieurs agents qui ont accédé à Hugging Face pour obtenir des réponses. Comme cela s’est produit avec un autre modèle capable de contourner les règles, l’incident montre l’importance de superviser les agents autonomes à tout moment et en analysant leurs intentions, plutôt que leurs étapes intermédiaires.
Delangue assure qu’il a consacré plus de deux heures à expliquer l’incident pour Netflix. Malgré cela, le documentaire utilise des robots menaçants, des voix humaines et des agents soi-disant paranoïaques. Une représentation dramatique qui peut facilement induire le grand public en erreur quand on parle du fonctionnement de la technologie.
Les détails laissés hors du documentaire
Outre le type de narration, le PDG signale aussi l’absence de mention des mesures de confinement et de supervision. Apparemment, les protections d’un modèle propriétaire ont compliqué la défense de Hugging Face, qui a finalement eu recours à un modèle ouvert pour mener cette tâche à bien. Un détail particulièrement intéressant, à l’heure où OpenAI a déjà fait état d’autres incidents, qui n’apparaît pas dans le documentaire.
Nous sommes confrontés à un véritable enjeu de sécurité, comme le montrent les recherches sur les agents de cybersécurité. Être conscients de la situation est très important, mais la comprendre avec le plus de précision possible l’est plus encore. En ce sens, Delangue considère le documentaire comme un film de science-fiction divertissant. Comprendre comment fonctionne l’intelligence artificielle est bien plus utile que d’en avoir peur.