Dieciséis líderes mundiales de la IA, entre ellos Google, Microsoft, IBM y OpenAI, se han comprometido a desactivar su propia tecnología en caso de que muestre signos de estar provocando un resultado distópico.
Los compromisos se firmaron el día de la inauguración de la cumbre AI Seoul Summit 2024, celebrada esta semana en Corea del Sur. El evento es una secuela de la Cumbre de Seguridad de la Inteligencia Artificial del año pasado, en la que 28 países y la UE firmaron la Declaración de Bletchley, una visión compartida para abordar los riesgos relacionados con la Inteligencia Artificial, pero sin compromisos concretos ni prácticos.
Antes del evento de este año, el primer ministro británico, Rishi Sunak, y el presidente surcoreano, Yoon Suk Yeol, escribieron un artículo de opinión en el que afirmaban: “El ritmo del cambio seguirá acelerándose, así que nuestro trabajo también debe acelerarse”.
Una cumbre para evitar crear a Skynet
La Cumbre de Seúl dio lugar a una serie de Compromisos Fronterizos de Seguridad de la IA, en virtud de los cuales los signatarios publicarán marcos de seguridad sobre cómo medirán los riesgos de sus modelos de IA.
Esto incluye definir en qué momento los riesgos se vuelven intolerables y qué medidas tomarán los signatarios en ese momento. Y si las mitigaciones no mantienen los riesgos por debajo de los umbrales, los firmantes se han comprometido a “no desarrollar ni desplegar un modelo o sistema en absoluto”.
Otros firmantes son Amazon, Anthropic, Cohere, G42, Inflection AI, Meta, Mistral AI, Naver, Samsung Electronics, Technology Innovation Institute, xAI y Zhipu.ai.
Todo esto suena muy bien… pero aún no se han concretado los detalles. Y no lo estarán hasta que se celebre una “Cumbre de Acción sobre IA” a principios de 2025.
Los firmantes del documento de Seúl también se han comprometido a intercambiar sus modelos y sistemas de IA de vanguardia, compartir información, invertir en ciberseguridad y salvaguardas contra amenazas internas para proteger la tecnología no liberada, incentivar el descubrimiento y la notificación de vulnerabilidades por parte de terceros, etiquetar el contenido de la IA, dar prioridad a la investigación sobre los riesgos sociales que plantea la IA y utilizar la IA para el bien.
Entre los asistentes a la sesión figuraban gobiernos -el G7 más Singapur, Australia, la ONU, la OCDE y la UE- junto con representantes de la industria.
