La inteligencia artificial está entrando en una etapa distinta, y con ello cambia el panorama de la ciberseguridad. Chris Lehane, ejecutivo de OpenAI, avisa de que debemos prepararnos para ataques “continuos y persistentes” provenientes de las inteligencias artificiales, según recogen en The Guardian. Los modelos más avanzados tienen ahora la capacidad para planificar ofensivas con mayor autonomía, algo que ya hemos visto en el incidente de Hugging Face y que, según OpenAI, no será un incidente aislado.
Los agentes empiezan a demostrar de qué son capaces
Ya vimos cómo un modelo de OpenAI atacó Hugging Face durante una evaluación, pero parecía, y todavía esperamos que sea, un incidente aislado durante una etapa del entrenamiento. En respuesta a la situación OpenAI ha pausado el entrenamiento de sus modelos frontera mientras añade salvaguardas.
En otro caso la compañía frenó el desarrollo de un modelo muy dado a saltarse las normas para completar sus objetivos.
Lehane dibuja un escenario en el que modelos podrán alimentar ataques constantes, mientras que los sistemas superiores se ocuparán de detectarlos y, esperemos, detenerlos. OpenAI va evolucionando su IA especializada en ciberseguridad, pues parece que ahora será solo mediante IA que podremos defendernos de la IA.
Los agentes de OpenAI, y también de Anthropic, están generado un debate sobre la responsabilidad tras estos ataques, pero eso escenario va más allá. Mientras OpenAI reclama estándares obligatorios antes del despliegue y una futura estructura internacional para comprobar la seguridad de los modelos, podemos irnos acostumbrando a que las IAs se peleen entre ellas en el mundo de la seguridad en la red mientras nosotros, eso es lo más preocupante, miramos.
