Un profesor de la Universidad de Florida, Yuheng Bu, está desarrollando una innovadora tecnología de marca de agua invisible diseñada para detectar contenido generado por inteligencia artificial (IA).
Esta tecnología tiene como objetivo abordar el creciente desafío que enfrentan académicos y empleadores: discernir si un texto fue escrito por un humano o por IA.
En un estudio realizado en el Reino Unido, se reveló que el 94% de los textos generados por IA no fueron detectados, lo que subraya la urgencia de encontrar soluciones efectivas.
La necesidad de identificar el texto generado con IA
La propuesta de Bu implica que la entidad que aplica la marca de agua también posee la clave necesaria para su detección, lo que plantea interrogantes sobre la propiedad intelectual y el acceso a dichas claves. Según Bu, la calidad del texto generado por IA se mantendrá después de aplicar la marca de agua, asegurando que esta sea robusta frente a modificaciones como el parafraseo y el reemplazo de sinónimos.
El trabajo con marcas de agua podría convertirse en una herramienta crucial para garantizar la confianza y autenticidad, facilitando la verificación en entornos académicos y digitales, y contribuyendo a diferenciar el contenido genuino de la desinformación.
Bu afirma que su método ofrece una mejora respecto a otros desarrollos, como los de Google DeepMind, al aplicar marcas de agua solo a un subconjunto de texto durante la generación.
Sin embargo, un reto importante radica en cómo los usuarios finales obtienen esa clave de marca de agua. Actualmente, un profesor debe comunicarse con la entidad que ha incrustado la marca de agua para acceder a la clave, lo que plantea interrogantes sobre el control y las implicaciones éticas que este enfoque genera.
En este sentido, Bu enfatiza la necesidad de establecer un ecosistema que garantice el uso efectivo de las marcas de agua y la distribución de claves en el futuro.