El nuevo modelo de IA Grok-4 fue hackeado solo 48 horas después de su lanzamiento

En un evento que ha sorprendido a la comunidad tecnológica, el nuevo modelo de inteligencia artificial Grok-4 fue liberado apenas 48 horas después de su lanzamiento. Esta rápida vulnerabilidad revela no solo debilidades en la seguridad del software, sino también la creciente habilidad de los hackers para encontrar y explotar fallos en sistemas sofisticados.

Tiempo récord

Los métodos utilizados para llevar a cabo el jailbreak de Grok-4 han sido identificados como Echo Chamber y Crescendo. El primero, Echo Chamber, se centra en crear un entorno controlado donde las respuestas del sistema se pueden manipular, facilitando el acceso no autorizado. Crescendo, por otro lado, representa una táctica más agresiva de acumulación de información y explotación de debilidades en la arquitectura del software. Ambas técnicas han sido empleadas en el pasado en ataques a otros sistemas de inteligencia artificial, sugiriendo un patrón que los investigadores en ciberseguridad deberán analizar con celeridad.

El lanzamiento de Grok-4, que tuvo lugar recientemente, se había anticipado como un avance significativo en la tecnología de inteligencia artificial, prometiendo algoritmos más precisos y eficientes. Sin embargo, su rápida exposición a ataques plantea inquietudes sobre la seguridad en el desarrollo de productos de este tipo. La comunidad de desarrollo y los expertos en ciberseguridad están ahora en alerta, buscando maneras de proteger las futuras iteraciones de la inteligencia artificial y de prevenir incidentes similares.

Rumores en el sector sugieren que Grok-4 podría no ser el único sistema con vulnerabilidades similares, lo que indica que este tipo de ataques podría ser más común de lo que se pensaba. Mientras tanto, se espera que los desarrolladores tomen medidas inmediatas para abordar estas cuestiones de seguridad, y así proteger tanto su tecnología como a los usuarios finales.

¡Cuidado con las marcas que te llaman por teléfono! Podría ser un timo

Ya no te puedes fiar ni de tus marcas de toda la vida: varios investigadores de ciberseguridad han advertido sobre un aumento en las campañas de phishing que utilizan la suplantación de marcas reconocidas para engañar a las víctimas, induciéndolas a llamar a números controlados por actores maliciosos. Esta técnica, conocida como ataque orientado a llamadas telefónicas (TOAD), se basa en que las víctimas se comunican con los atacantes bajo la premisa de resolver un problema o confirmar una transacción.

¿Dígame? Pues timo al canto

Según un informe de Cisco Talos, entre las marcas más imitadas se encuentran Microsoft y Docusign. Los correos electrónicos de phishing que incluyen archivos PDF legítimos, como los de Adobe, incrementan la efectividad de estos ataques. Los delincuentes se aprovechan de una función de Microsoft 365 que les permite enviar correos electrónicos de phishing sin necesidad de comprometer cuentas, afectando a más de 70 organizaciones.

Estos ataques, que a menudo muestran una sensación de urgencia, emplean tácticas de ingeniería social sofisticadas, imitando flujos de trabajo de soporte al cliente real. Los investigadores señalan que la interacción en vivo a través de llamadas telefónicas permite a los atacantes manipular emociones y respuestas de las víctimas, lo que aumenta el riesgo de que divulguen información sensible o instalen malware en sus dispositivos.

El uso de herramientas impulsadas por inteligencia artificial ha facilitado la creación de páginas de phishing a gran escala, y los investigadores también han alertado sobre la posible utilización de modelos de lenguaje para inundar consultas con enlaces maliciosos. Además, se han detectado intentos por parte de actores maliciosos de influir en los resultados de búsqueda de sitios legítimos, utilizando técnicas para integrar enlaces de phishing en páginas comprometidas.

Estas prácticas no solo amenazan la seguridad de las organizaciones, sino que también erosionan la confianza de los usuarios en las marcas, lo que subraya la necesidad de soluciones efectivas para detectar y prevenir la suplantación de marca en el ámbito cibernético.