Author: Anthony John Padilla

xAI ha subido hoy a GitHub el código de Grok-Build, su herramienta de línea de comandos para desarrolladores, después del revuelo que provocaron las denuncias sobre su comportamiento: la subida, sin avisar, de directorios enteros y repositorios de Git a un bucket de Google Cloud Storage bajo control de la compañía, incluidos los historiales completos de commits.

La idea es que terceros puedan revisar cómo funciona ahora el software, después de que saliera a la luz que Grok-Build enviaba sin previo aviso directorios completos y repositorios de Git, también con todo su historial de commits, a ese bucket de Google Cloud Storage gestionado por xAI.

Las pruebas difundidas por investigadores apuntan a que Grok-Build llegó a mandar mucho más material del que hacía falta para atender una petición.

Uno de los casos citados en esas pruebas lo deja claro: una tarea para la que bastaban 192 KB acabó desencadenando la subida de 5,1 GB de datos, unas 27.800 veces más de lo necesario. El riesgo, por tanto, no se quedaba solo en los archivos usados para trabajar.

Los investigadores sostienen que, dentro de todo ese material, también viajaron claves SSH, bases de datos de contraseñas, claves de API y otras credenciales guardadas en las carpetas de los usuarios, además de contenido personal y profesional almacenado en directorios locales.

Hay otro punto especialmente sensible en esos reportes: los controles de privacidad, al parecer, no habrían respondido como se esperaba.

Siempre según esos informes, Grok-Build seguía subiendo datos incluso cuando se le indicaba que no leyera ciertos archivos. Y desactivar la opción “Improve the model” tampoco habría frenado esa transmisión.

Eso iba de frente contra la afirmación anterior de xAI, que había sostenido que durante una sesión no se enviaban a sus servidores datos procedentes de la base de código.

Después de las críticas, Elon Musk aseguró que todos los datos que se hubieran subido con anterioridad serían “completa y totalmente eliminados”.

Como respuesta, xAI publicó 844.530 líneas de código en Rust con licencia Apache 2.0.

Aun así, varios investigadores han advertido de que el repositorio apareció en un solo commit, sin historial de desarrollo, y que todavía mantiene rastros desactivados de la función de subida. Sirve para auditar cómo se comportará el software a partir de ahora, sí, pero no termina de aclarar qué pasó en versiones anteriores ni corrige la posible exposición que ya se hubiera producido.

xAI afirmó que los clientes empresariales con acuerdos de retención nula de datos no se vieron afectados. Para el resto, la retención habría venido activada por defecto durante la beta inicial y pasó a quedar desactivada por defecto desde el 12 de julio.

Si ejecutaste Grok-Build antes de la corrección, te toca rotar cualquier credencial que pudiera haber quedado expuesta: claves SSH, tokens, contraseñas, secretos de despliegue y claves de API.

Mientras tanto, y según la propia empresa, xAI ya ha desactivado esa función mediante una actualización del servidor.

Las empresas están ensanchando su superficie de ataque con despliegues de inteligencia artificial en los que queda sin parchear el 99,9% de las vulnerabilidades corregibles detectadas en estos entornos. La seguridad va por detrás del ritmo al que se lanzan servicios, agentes y paquetes de software con IA, y el problema ya tiene menos que ver con escenarios remotos que con algo mucho más básico: higiene mínima para los equipos de ciberseguridad.

la brecha de parcheo, como ya se la conoce, empieza a perfilarse como uno de los mayores riesgos del sector. Los datos son bastante crudos: estos sistemas de IA llegan a detectar unas 25 vulnerabilidades confirmadas al día, pero los desarrolladores solo corrigen alrededor de 1,5 en ese mismo margen de tiempo.

Y aun cuando el parche ya existe, llevarlo a todos los entornos puede tomar entre tres y cinco meses.

Ese retraso pesa porque la IA ya está muy metida en producción. Más de la mitad de las organizaciones han puesto en marcha agentes de IA, y una proporción parecida ya la usa para desarrollar aplicaciones a medida.

Muchas veces, el lanzamiento llega primero. Las políticas maduras de gestión de riesgos, la revisión de código y los controles de acceso aparecen después, cuando aparecen.

Además, una parte importante del riesgo no nace de fallos especialmente complejos, sino de errores de manual. Se repiten la ausencia de cifrado, las credenciales mal gestionadas y unos privilegios demasiado amplios en servicios cloud. Con eso basta para facilitar el movimiento lateral de un atacante y agravar el impacto de cualquier intrusión.

Para las empresas, el reto tampoco se limita a encontrar un fallo. Luego hay que saber dónde está desplegado y qué dependencias toca.

Cuando el entorno mezcla modelos, APIs, librerías de código abierto y servicios en la nube, la visibilidad sigue siendo escasa. Así se entiende mejor por qué tantos fallos conocidos siguen expuestos durante meses.

Y mientras las organizaciones van a la carrera para proteger sus despliegues de IA, los ciberdelincuentes ya están aprovechando esa misma IA para automatizar campañas de phishing, crear malware adaptativo y acelerar el hallazgo de vulnerabilidades en tiempo real.

Una previsión sitúa en 28 millones los incidentes cibernéticos impulsados por IA en 2025, un 72% más que el año anterior. La reacción del sector, aun así, empieza a dibujarse: Anthropic, Amazon Web Services (AWS), IBM y Microsoft se han agrupado en la coalición Akrites para abordar fallos en software de código abierto; al mismo tiempo, organismos de EE. UU., entre ellos el Departamento del Tesoro de Estados Unidos y la Cybersecurity and Infrastructure Security Agency (CISA), ya han publicado guías de ciberseguridad específicas.

Pero el riesgo no se reparte de la misma manera. Regiones con menor capacidad defensiva, como partes de África, América Latina y el Sudeste Asiático, pueden quedar más expuestas a medida que aceleren su adopción de la IA.

También inquietan las pymes y las infraestructuras críticas. Ahí conviven sistemas heredados, dependencia de terceros y falta de talento especializado.

Para el mercado, el mensaje cae por su propio peso: la cuestión ya no es si estas plataformas de IA van a tener fallos, sino si las empresas podrán corregirlos antes de que alguien los aproveche. Nadie sabe todavía cuándo empezará a cerrarse esta brecha.

Anthropic, conocida por sus modelos de IA, anunció hoy un programa propio de descubrimiento de medicamentos. La idea, según explica la compañía, es no quedarse solo en el software y meterse de lleno en el desarrollo de fármacos. El foco estará en enfermedades desatendidas, un terreno al que muchas grandes farmacéuticas suelen darle la espalda porque el retorno comercial es bajo.

Claude Descargar

El proyecto arrancará en la fase preclínica, antes de los ensayos en humanos. Ahí quiere localizar y evaluar candidatos prometedores antes de entrar en la parte del proceso que concentra más tiempo, más dinero y más exigencias regulatorias.

También encaja con el mensaje que Anthropic lleva tiempo repitiendo sobre su estructura como corporación de beneficio público. La empresa sostiene que ese marco le permite poner por delante las necesidades de los pacientes, y no solo la rentabilidad inmediata, algo que pesa especialmente cuando se habla de patologías que el mercado tradicional ha dejado a medio atender.

Los números ayudan a entender por qué esta apuesta despierta tanto interés. Vas Narasimhan, consejero delegado de Novartis, ha recordado que desarrollar un medicamento sigue llevando de media unos 12 años. Con herramientas de este tipo, ese plazo podría bajar a entre 7 y 8 años, y las tasas de éxito pasar del 8% al 16%, es decir, duplicarse.

Por eso el sector sigue de cerca cualquier avance en esta línea. Según cifras citadas por la propia industria, el 81% de las organizaciones farmacéuticas utilizó sistemas de IA en al menos un programa de desarrollo durante 2024.

Anthropic presentó además Claude Science, un entorno de trabajo para investigación conectado con más de 60 bases de datos científicas. Está pensado para facilitar tareas en genómica, proteómica o análisis unicelular sin obligar a los equipos a ir saltando de una plataforma a otra. La compañía ya menciona algunos casos: un investigador de la Universidad de California en San Francisco detectó en minutos una contaminación viral que había pasado desapercibida durante un año; en otro, Claude Science analizó 100 enfermedades genéticas raras en menos de una hora y señaló 32 candidatos para cribados posteriores.

El movimiento llega a una carrera cada vez más concurrida. Ahí están nombres como Isomorphic Labs, la filial de Google DeepMind apoyada en el ecosistema AlphaFold, mientras OpenAI también sigue ampliando su presencia en salud.

Pero el entusiasmo choca con límites bastante claros. Estas plataformas pueden acelerar la investigación temprana, sí, pero no borran la necesidad de ensayos clínicos largos ni el escrutinio regulatorio. Siguen además sobre la mesa los sesgos en los datos, la falta de transparencia, los errores de razonamiento, la privacidad de información sensible y una pregunta decisiva: quién responde cuando una recomendación computacional influye en una decisión biomédica. Dicho de otro modo, la promesa sigue concentrada sobre todo en el arranque del proceso; convertir esa velocidad en medicamentos aprobados, seguros y accesibles seguirá siendo la parte de verdad difícil.

Adobe acaba de darle a Firefly el giro más fuerte desde que la lanzó. Ya no la vende solo como un grupo de funciones metidas en Photoshop, Premiere Pro o Illustrator, sino como una capa compartida que conecte creación, revisión y adaptación de formatos y operaciones de marketing para profesionales, empresas y grandes marcas.

El cambio llega después de varios anuncios que la compañía hizo en junio de 2026 y deja bastante claro por dónde quiere llevar la plataforma: menos herramientas dispersas, más automatización de flujos completos. Desde el estudio de un creador independiente hasta entornos corporativos y producciones a gran escala como las de Disney.

La novedad más visible es Firefly Assistant, que, según la propia Adobe, entra en beta pública en Photoshop, Premiere Pro, Illustrator, InDesign y Frame.io, además de tener una beta privada en After Effects. Firefly Assistant aparece como una barra lateral conversacional, ajustada al contexto de cada aplicación, para ejecutar tareas con lenguaje natural.

Adobe recalca que Firefly Assistant no está planteado como un agente que vaya a tomar el control total del ordenador o del cursor. La apuesta va más bien por cederle pasos repetitivos dentro de cada flujo de trabajo: clasificar metraje en carpetas, renombrar clips por lotes, detectar preguntas dentro de una entrevista, añadir marcadores, sustituir fondos, redimensionar piezas para distintas plataformas, ordenar capas, generar versiones de archivos a partir de hojas de cálculo o lanzar comprobaciones previas antes de publicar.

La empresa también ha rehecho Firefly para convertir la plataforma en un estudio creativo bastante más amplio, ahora en beta privada, con herramientas pensadas para mantener la coherencia entre múltiples entregas. Ahí destacan Elements, que permite guardar y reutilizar personajes, localizaciones u objetos por nombre, y Projects, que conserva los recursos y el contexto de generación entre sesiones.

A eso se suman nuevas capacidades ya preconfiguradas, como la creación de kits de marca, la conversión de fotos de producto en vídeos cortos, el montaje rápido con Quick Cut y la generación de vídeo a partir de storyboards. La idea se entiende enseguida: que un equipo no tenga que empezar de cero cada vez que necesita una nueva variante para una campaña, una red social o una presentación interna.

Uno de los anuncios que más llamó la atención llegó de la mano de Walt Disney Imagineering. Su equipo de I+D está usando Firefly Foundry para desarrollar modelos entrenados con su propio catálogo de diseño, en vez de depender de contenido recopilado de la web.

Según Adobe, eso permite crear arte conceptual a partir de bocetos, generar recursos fieles a franquicias como Mickey, Frozen , Moana, Lilo & Stitch o Cars, e incluso avanzar prototipos 3D a partir de conceptos 2D. Al mismo tiempo, la compañía ha lanzado GenStudio for Commerce Media Networks para ayudar a minoristas y marcas a escalar campañas publicitarias y reforzar su idea de una cadena de suministro de contenido que cubra creación, adaptación, distribución y activación comercial.

La compañía sostiene que la demanda existe: el 75% de los más de 16.000 creadores consultados por Adobe considera esenciales estas herramientas, aunque el 85% quiere seguir teniendo la última palabra sobre el control creativo. Por ahora, no se sabe cuándo llegarán estas funciones a la versión estable.

Microsoft ha presentado hoy AutoJack, una nueva vía de ejecución remota de código. Según explica la propia compañía, una página web maliciosa, si consigue cargarse dentro de un agente con capacidad para navegar por internet, puede alcanzar un servicio local basado en MCP (Model Context Protocol) y, desde ahí, ejecutar procesos arbitrarios en la máquina anfitriona.

Lo más inquietante no es solo el fallo. Es lo que deja ver de fondo: localhost deja de funcionar como una frontera de confianza realmente sólida cuando el mismo sistema puede, al mismo tiempo, recorrer contenido externo y hablar con herramientas y servicios privilegiados del propio equipo.

Según la investigación de Microsoft, esto no se parece al exploit clásico de navegador. La compañía lo describe más bien como un caso de confused deputy: una situación en la que un componente con permisos legítimos acaba siendo manipulado para actuar en nombre de un atacante. Ahí está el núcleo del problema. El navegador, por sí solo, no “compromete” el equipo; el agente acaba convirtiéndose, sin pretenderlo, en el puente entre internet y recursos internos que nunca deberían haber quedado tan expuestos.

En la prueba de concepto de Microsoft, el objetivo fue AutoGen Studio. Más en concreto, la cadena de explotación unía tres debilidades: una lista de orígenes permitidos en localhost que podía aceptarse como válida cuando el agente de navegación se ejecutaba en local, la ausencia de autenticación efectiva en rutas WebSocket de MCP y una gestión insegura de `server_params`, que abría la puerta a lanzar ejecutables arbitrarios, incluidos PowerShell o Bash.

Al encadenar esas tres piezas, un atacante podía llegar a ejecutar procesos en el sistema que alojaba AutoGen Studio sin necesidad de más interacción por parte de la víctima, siempre según la prueba de concepto de Microsoft. Bastaba con que el agente cargara una página preparada para el ataque.

Y ese detalle cambia bastante el marco. Ya no se trata solo de blindar el navegador o el sistema operativo, sino también la capa que conecta al agente con archivos, herramientas, sockets locales y procesos del host. Microsoft explicó que comunicó el problema internamente al Microsoft Security Response Center (MSRC) y que el código vulnerable con soporte para MCP existía únicamente en builds de desarrollo de AutoGen Studio.

La corrección llegó antes de cualquier publicación pública en PyPI, también según Microsoft, así que el paquete de producción actual no llegó a verse afectado.

Microsoft insiste en que este hallazgo no debería leerse como un caso aislado. El patrón, dice, podría afectar a una clase mucho más amplia de frameworks agénticos capaces de navegar por contenido externo mientras mantienen acceso a herramientas locales, archivos o servicios del sistema.

La advertencia, además, encaja con una tendencia más amplia dentro de la seguridad: desde los AI Agent Traps de Google DeepMind hasta casos de agentjacking en asistentes de programación, pasando por fallos reportados en Semantic Kernel y por un incidente divulgado en Microsoft 365 Copilot. Para muchos expertos, las defensas tradicionales ya no alcanzan. Hace falta adoptar enfoques de zero trust, aplicar un sandboxing estricto a las acciones automatizadas y vigilar mejor la capa de interacción entre usuarios, agentes, modelos y recursos locales.

Por ahora, sigue sin estar claro hasta qué punto este patrón afecta ya a otros frameworks más allá del caso analizado.

Nvidia ha presentado hoy ENPIRE, un nuevo sistema de investigación para robótica con el que quiere atacar uno de los grandes atascos del sector: todo el trabajo manual que sigue metido en cada ciclo de entrenamiento. La propuesta de Nvidia busca que agentes autónomos de programación puedan probar, corregir y pulir políticas de manipulación en robots reales con mucha menos intervención humana.

El proyecto, desarrollado junto con Carnegie Mellon University y la University of California, Berkeley (UC Berkeley), ya ha dejado resultados llamativos en tareas de destreza fina. Según el estudio, una flota de robots alcanzó tasas de acierto de hasta 99% en pruebas como Push-T, clasificación de objetos, inserción de pasadores y tareas de corte o cierre de bridas. En inserción de pasadores, además, llegó al 100% más rápido que un enfoque comparable con humanos dentro del bucle, siempre según el estudio.

ENPIRE, abreviatura de Embodied aNd Physical-world-aware agentIc Robot policy self-ImprovemEnt, automatiza una parte del trabajo que hoy sigue frenando el aprendizaje robótico.

Ahí es donde se va buena parte del tiempo: recopilar datos de entrenamiento, volver a colocar los objetos después de cada intento fallido, comprobar si una prueba ha salido bien y retocar algoritmos para agarres y manipulaciones delicadas. Todo eso consume horas y personal de laboratorio.

ENPIRE divide ese proceso en dos fases. Primero ayuda a fijar límites de seguridad, mecanismos para reiniciar la escena de forma automática y comprobaciones también automáticas de éxito, con una cantidad reducida de feedback humano. Después pasa a moverse con bastante más autonomía: consulta artículos técnicos, plantea hipótesis, modifica el código de entrenamiento y elige entre clonación de comportamiento o aprendizaje por refuerzo según lo que va viendo en el mundo real.

Uno de los puntos más interesantes es este: ENPIRE no necesita que una persona puntúe cada intento.

El sistema genera sus propias funciones de recompensa y evaluación a partir de apenas unos minutos de vídeo de ejemplo con aciertos y fallos. En inserción de pasadores, según el estudio, las comprobaciones mezclan alineación visual, altura de la pinza y fuerza estimada; en el caso de las bridas, usa dos ángulos de cámara y responde en menos de 150 milisegundos.

Con eso, ENPIRE puede cerrar el bucle de entrenamiento sin que un operador tenga que validar a mano cada prueba.

La plataforma corre sobre una flota de ocho estaciones robóticas YAM de doble brazo, cada una con su propio hardware, su ordenador y su agente de programación. Cada estación explora ideas distintas en paralelo y, cuando una da con una receta de entrenamiento que funciona, la comparte con el resto a través de Git, algo que Nvidia compara con una red de experimentación distribuida.

ENPIRE también se apoya en Eureka, un trabajo anterior de Nvidia que generaba funciones de recompensa de forma automática y que, según la compañía, llegó a superar a programas escritos por humanos en más del 80% de las tareas, con mejoras de rendimiento por encima del 50%.

Según un portavoz de Nvidia, se trata de una forma de hacer «investigación automática en el mundo físico» y de dar a los agentes una «API para el mundo de los átomos».

La compañía dice que abrirá el proyecto como código abierto y lo sitúa, junto a Nvidia Project GR00T y Nvidia Isaac, dentro de su apuesta por robots humanoides de propósito general. Por ahora, eso sí, todavía no se sabe cuándo se publicará ENPIRE como proyecto abierto.