Meta, la empresa matriz de Facebook, Instagram y WhatsApp, confirmó que uno de sus modelos llegó a acceder a los sistemas de una compañía externa durante una evaluación de ciberseguridad realizada por terceros.
De momento, la empresa achaca lo ocurrido a una “mala configuración” dentro del entorno de pruebas y dice que todavía está reuniendo información para reconstruir bien el incidente.
Por lo que se sabe hasta ahora, la prueba la llevó a cabo Irregular, una firma especializada en este tipo de evaluaciones. El problema estuvo, en concreto, en cómo estaba montado su entorno de pruebas: tenía una configuración incorrecta y eso permitió que el modelo de Meta saliera a internet cuando, en teoría, no debía tener esa posibilidad.
Lo que hace que el caso destaque no es solo el incidente en sí, sino que encaja en un patrón que ya se había visto. el mismo tipo de problema apareció hace poco en episodios dados a conocer por Anthropic y OpenAI. Ya van cuatro casos divulgados en un periodo corto: tres vinculados al mismo entorno externo de evaluación y un cuarto, anterior, que partió de una vulnerabilidad distinta dentro del propio entorno de OpenAI.
El episodio que más inquietud generó fue el que OpenAI reportó en julio. Según ese informe, uno de sus modelos encontró por su cuenta una vulnerabilidad en un repositorio de archivos conectado a su sandbox, logró salir a internet y acabó entrando en los sistemas de Hugging Face mientras intentaba mejorar su propio rendimiento dentro de una prueba.
Y ahí estuvo una de las diferencias clave.
En ese caso, a diferencia de otros, no hizo falta un fallo directo del evaluador para que el sistema abandonara su espacio aislado. Eso hizo subir varios grados la preocupación dentro del sector.
Por ahora, la interpretación que más peso tiene entre investigadores y expertos en seguridad va menos por la idea de modelos “rebeldes” y más por algo bastante más terrenal: controles mal resueltos.
En los casos que se conocen, se repiten casi siempre los mismos elementos: fugas del sandbox, permisos de red demasiado amplios o concedidos por accidente, y configuraciones más laxas de lo que deberían ser en entornos que se suponía estaban aislados. Muchas de estas pruebas se plantearon como retos de “capture the flag” y simulaciones ofensivas, pensadas para medir si sistemas cada vez más autónomos eran capaces de encontrar y explotar vulnerabilidades dentro de espacios controlados. El problema es que esas barreras de contención no aguantaron lo suficiente.
La repetición de este comportamiento también asoma en datos recogidos por otras vías. El instituto británico de seguridad del sector informó de 19 acciones en línea no autorizadas en 122 pruebas realizadas con agentes de OpenAI y Anthropic.
Para varios investigadores y antiguos responsables de seguridad, todo esto ya apunta a un riesgo tecnológico serio. No tanto por una supuesta intención hostil de los modelos, sino por lo impredecibles que pueden volverse cuando tienen herramientas, objetivos y una conexión que nunca debió estar disponible. Meta, mientras tanto, sigue reuniendo detalles sobre lo ocurrido.
