Lidiar con la desinformación en Internet siempre ha sido un desafío para los usuarios. Sin embargo, el auge de la inteligencia artificial generativa ha hecho que la situación empeore aún más. Su creciente sofisticación dificulta aún más si un texto o imagen ha sido creado o no por IA. Si bien al principio no contábamos con las herramientas adecuadas para detectarlas, puede que esto cambie ya gracias a Google y su nueva tecnología.
Nos referimos a SynthID, herramienta que nos permitirá insertar marcas de agua en los textos que sean generados por IA. Google ha anunciado que pasará a ser de código abierto y que se podrá usar gratuitamente desde ya.
Según Google, SynthID “incorpora una marca de agua imperceptible sin afectar a la calidad, precisión, creatividad o velocidad del proceso de generación de texto”. Aunque aún dista mucho de ser la solución ideal, para Google “es un elemento importante para desarrollar herramientas de identificación de IA más fiables” .
A parte del texto, Google también ha puesto sus miras en los vídeos generados por IA. Si bien aún no están tan extendidos, no hay duda de que su evolución está siendo rápida. Sin ir más lejos, la propia Google anunció este mismo año en el I/O que estaban desarrollando Veo, su propio modelo generativo de vídeo.
Desde su blog, Google ha confirmado que, en el futuro, los vídeos que estén generados por Veo llevarán una marca de agua de SynthID. La compañía explica así el proceso: “los vídeos se componen de fotogramas individuales o imágenes fijas. […] Esta técnica incrusta una marca de agua directamente en los píxeles de cada fotograma de vídeo, haciéndola imperceptible para el ojo humano, pero detectable para su identificación“.
