OpenAI, la compañía tras ChatGPT, está trabajando en una nueva herramienta que te ayudará a detectar si una imagen ha sido creada por DALL-E, su modelo de inteligencia artificial que genera imágenes desde descripciones.
El anuncio, publicado en el blog oficial de OpenAI, afirma que han comenzado a desarrollar nuevos métodos para rastrear el contenido generado por IA.
Para empezar, la compañía explica que se ha unido al C2PA (Coalition for Content Provenance and Authenticity), un iniciativa que busca combatir la desinformación y aumentar la transparencia online. Su protocolo (también llamado C2PA) permite a los creadores etiquetar y certificar su contenido para demostrar su procedencia real.
OpenAI utilizará este protocolo en los metadatos de todas las imágenes creadas y editadas por DALL-E 3. También lo incorporarán los vídeos creados con Sora, cuando el modelo se lance públicamente.
Por otro lado, la compañía también ha anunciado la llegada de un nuevo detector que servirá para determinar si una foto ha sido creada o no por IA. Concretamente, predice la probabilidad de que una imagen haya sido creada por DALL-E 3.
OpenAI afirma que la herramienta funciona incluso si la imagen está recortada, comprimida o incluso si se ha alterada la saturación. Aunque cuenta con una precisión del 98% para las imágenes creadas con DALL-E, la historia cambia con otros modelos, como Midjourney. Ahí, su fiabilidad puede bajar hasta el 5%. Por otro lado, también han comenzado a añadir marcas de agua a los clips creados con Voice Engine, su plataforma de conversión de texto a voz.
Aún así, hay que tener en cuenta que las herramientas propuestas por OpenAI están lejos de estar en su versión definitiva. De hecho, la empresa ha abierto la llegada de solicitudes para testear el detector de imágenes y comprobar de primera mano su eficacia.
Aunque OpenAI lleva años trabajando en la creación de herramientas de detección, no todos sus proyectos han acabado viendo la luz. En 2023, tuvieron que dar carpetazo a un programa que serviría para identificar texto escrito por IA. Su baja precisión hizo que no continuara hacia adelante.
Fuente: The Verge
