YouTube ha empezado la guerra contra la IA, y de momento va ganando

YouTube ha tomado medidas drásticas contra la proliferación de tráilers falsos generados por inteligencia artificial al cerrar los populares canales Screen Culture y KH Studio. Estos canales, que contaban con más de 2 millones de suscriptores y acumulaban mil millones de visualizaciones, se habían especializado en crear versiones engañosas de tráilers de películas, combinando material real con imágenes generadas por IA. Este fenómeno había suscitado gran interés, pero también confusión y desinformación entre los espectadores.

IAdiós

Una investigación de Deadline reveló que los creadores de estos canales habían logrado explotar los algoritmos de YouTube, posicionando sus tráilers falsos por encima de los oficiales. Desde versiones ficticias de películas como Los Cuatro Fantásticos: Primeros pasos hasta supuestas secuelas de sagas populares como Harry Potter, los usuarios se sentían atraídos por lo que parecía ser contenido exclusivo, pero que en realidad no era más que un engaño. La situación se complicó cuando, a principios de año, YouTube había suspendido temporalmente la monetización de los canales en respuesta a estos hallazgos.

A pesar de las restricciones, los fundadores de Screen Culture y KH Studio intentaron evitar las penalizaciones mediante el uso de etiquetas como “tráiler de fan” o “parodia”, lo que finalmente llevó a YouTube a tomar la decisión de cerrar ambos canales cuando estas advertencias desaparecieron. Nikhil P. Chaudhari, uno de los fundadores, defendió su trabajo como un experimento creativo, reconociendo que su producto podía ser confuso para los espectadores, lo que plantea cuestiones sobre la ética del uso de IA en la recreación de contenido protegido.

Varios estudios de Hollywood, incluidos Warner Bros. Discovery y Disney, enviaron cartas de cese y desistimiento, evidenciando la complejidad legal que rodea el uso de inteligencia artificial y los derechos de autor. Este cierre de canales marca un punto de inflexión en la forma en que plataformas como YouTube lidiarán con contenidos engañosos en la era de la IA.

Una red te ha estado redirigiendo a vídeos de YouTube con malware, y no lo sabías

Una red maliciosa de cuentas en YouTube, conocida como la Red Fantasma de YouTube, ha estado activa desde 2021, publicando y promoviendo más de 3,000 videos que llevan a descargas de malware. Según el informe de Check Point, el volumen de estos videos ha aumentado tres veces desde el inicio del año 2023, algunos de los cuales han acumulado entre 147,000 y 293,000 vistas, aprovechando la popularidad de contenido relacionado con software pirateado y trucos en juegos como Roblox.

No hagas click donde no estés seguro

Los atacantes han utilizado cuentas comprometidas para reemplazar su contenido original con videos maliciosos, sacrificando la confianza de los usuarios que buscan tutoriales o software gratuito. Esta estrategia se basa en manipular indicadores de confianza, como vistas, “me gusta” y comentarios, para hacer que el contenido malicioso parezca seguro. “Lo que parece un tutorial útil puede ser una trampa cibernética bien elaborada, advirtió Eli Smadja, gerente del grupo de investigación de seguridad en Check Point.

Los mecanismos de distribución de malware de esta red han incluido servicios de almacenamiento legítimos como MediaFire y Dropbox, así como enlaces acortados que ocultan los destinos maliciosos. La mayoría de los enlaces llevan a páginas de phishing o a otras plataformas legítimas donde se alojan los archivos maliciosos. Entre las familias de malware que se están distribuyendo a través de esta red se incluyen Lumma Stealer, Rhadamanthys Stealer y RedLine Stealer, entre otros.

Los investigadores han señalado que estas operaciones son parte de una tendencia más amplia en la que los atacantes reutilizan plataformas legítimas para fines nefastos, facilitando así la difusión de malware. El uso de las características de la plataforma, como videos y descripciones, no solo maximiza el impacto de la campaña, sino que también permite mantener la continuidad operativa incluso cuando las cuentas son eliminadas por los propietarios de las plataformas.