Para quien no lo sepa, EE.UU. es uno de los países que han declarado que siempre mantendrán el control de las armas nucleares en manos de los humanos, no de la IA, para tranquilidad de millones de personas.
Suscríbete a la Newsletter de Softonic y recibe las últimas noticias en tech, juegos, entretenimiento en tu buzón de correo
Suscríbete (es GRATIS) ►Pero ahora el Pentágono no es reacio a utilizar la inteligencia artificial para “mejorar” los sistemas de mando, control y comunicaciones nucleares, lo que resulta preocupante, ya que la línea que separa el control humano al control de la máquina es muy fina.
A finales del mes pasado, el jefe del Mando Estratégico de EE.UU., el general de la Fuerza Aérea Anthony J. Cotton, declaró que el mando estaba “explorando todas las tecnologías, técnicas y métodos posibles para contribuir a la modernización de nuestras capacidades NC3”.
El futuro parece que será de la IA, incluso el armamento
En los últimos años se han desarrollado varios sistemas de armas y vehículos militares controlados por IA, como aviones de combate, drones y ametralladoras. Pero su uso en el campo de batalla suscita preocupación, por lo que la perspectiva de que la IA, que todavía comete muchos errores, forme parte de un sistema de armas nucleares parece cosa de pesadilla de la ciencia ficción de Hollywood.
Cotton trató de aliviar esos temores en la Conferencia 2024 del Sistema de Información de Inteligencia del Departamento de Defensa. Dijo (vía Air & Space Forces Magazine) que aunque la IA mejorará las capacidades de toma de decisiones de mando y control nuclear, “nunca debemos permitir que la inteligencia artificial tome esas decisiones por nosotros”.
Ya en mayo, Paul Dean, funcionario de control de armamento del Departamento de Estado, declaró en una sesión informativa que Washington ha asumido un “compromiso claro y firme” de mantener a los seres humanos en el control de las armas nucleares.
Dean añadió que tanto Gran Bretaña como Francia han asumido el mismo compromiso. Dean dijo que EE.UU. acogería con satisfacción una declaración similar por parte de China y la Federación Rusa.
Cotton afirmó que el aumento de las amenazas, la avalancha de datos de los sensores y los problemas de ciberseguridad hacen que el uso de la IA sea una necesidad para mantener a las fuerzas estadounidenses por delante de quienes pretenden desafiar a Estados Unidos.
“Los sistemas avanzados pueden informarnos más rápida y eficientemente”, dijo, haciendo hincapié una vez más en que “siempre debemos mantener una decisión humana en el bucle para maximizar la adopción de estas capacidades y mantener nuestra ventaja sobre nuestros adversarios”. Cotton también habló sobre el uso de la IA para dar a los líderes más “espacio de decisión”.
Para el Pentágono, el uso de la IA podría ayudar a cotejar, interpretar y presentar con rapidez todos los datos recogidos por estos sistemas.
Aunque no se le entreguen figuradamente los códigos de lanzamiento nuclear, el uso de la IA en cualquier sistema de armas nucleares podría ser arriesgado, algo que, según Cotton, debe abordarse.
En febrero, los investigadores realizaron simulaciones de conflictos internacionales con cinco LLM diferentes: GPT-4, GPT 3.5, Claude 2.0, Llama-2-Chat y GPT-4-Base y comprobaron que los sistemas a menudo intensificaban la guerra y, en varios casos, desplegaban armas nucleares sin previo aviso.
