Seize leaders mondiaux de l’IA, dont Google, Microsoft, IBM et OpenAI, se sont engagés à désactiver leur propre technologie si elle montre des signes de provoquer un résultat dystopique.
Les engagements ont été signés lors de l’inauguration du sommet AI Seoul Summit 2024, qui s’est tenu cette semaine en Corée du Sud. L’événement est la suite du Sommet sur la sécurité de l’intelligence artificielle de l’année dernière, au cours duquel 28 pays et l’UE ont signé la Déclaration de Bletchley, une vision partagée pour aborder les risques liés à l’intelligence artificielle, mais sans engagements concrets ni pratiques.
Avant l’événement de cette année, le Premier ministre britannique, Rishi Sunak, et le président sud-coréen, Yoon Suk Yeol, ont écrit un article d’opinion dans lequel ils affirmaient : « Le rythme du changement continuera à s’accélérer, donc notre travail doit également s’accélérer ».
Un sommet pour éviter de créer Skynet
Le sommet de Séoul a donné lieu à une série d’Engagements Frontaliers de Sécurité de l’IA, en vertu desquels les signataires publieront des cadres de sécurité sur la manière dont ils évalueront les risques de leurs modèles d’IA.
Cela comprend notamment la définition du moment où les risques deviennent intolérables et les mesures que les signataires prendront à ce moment-là. Et si les mesures d’atténuation ne maintiennent pas les risques en dessous des seuils, les signataires se sont engagés à « ne pas développer ni déployer de modèle ou de système du tout ».
D’autres signataires incluent Amazon, Anthropic, Cohere, G42, Inflection AI, Meta, Mistral AI, Naver, Samsung Electronics, Technology Innovation Institute, xAI et Zhipu.ai.
Tout cela semble très bien… mais les détails ne sont pas encore concrétisés. Et ils ne le seront pas avant la tenue d’un « Sommet d’action sur l’IA » début 2025.
Les signataires du document de Séoul se sont également engagés à échanger leurs modèles et systèmes d’IA de pointe, à partager des informations, à investir dans la cybersécurité et les protections contre les menaces internes pour protéger la technologie non divulguée, à encourager la découverte et la notification de vulnérabilités par des tiers, à étiqueter le contenu de l’IA, à donner la priorité à la recherche sur les risques sociaux posés par l’IA et à utiliser l’IA pour le bien.
Parmi les participants à la session figuraient des gouvernements – le G7 plus Singapour, l’Australie, l’ONU, l’OCDE et l’UE – ainsi que des représentants de l’industrie.
