La nueva herramienta de Microsoft sería capaz de corregir los errores más graves de las IA: ¿hasta qué punto es cierto?

Microsoft ha presentado su nuevo servicio “Correction”, diseñado para revisar y corregir automáticamente el texto generado por IA que contenga errores. La herramienta está disponible como parte de la API Azure AI Content Safety de Microsoft, aunque por ahora en versión preliminar, y es compatible con cualquier modelo generador de texto, como GPT-4 de OpenAI o Llama de Meta.

Según recoge TechCrunch, entre los errores que corregiría Correction se incluyen las citas mal atribuidas, que verificaría comparándolas con fuentes fiables. “Correction está impulsado por un nuevo proceso de utilización de modelos lingüísticos pequeños y grandes para alinear las salidas con los documentos de base”, explicó un portavoz de Microsoft. Según la compañía, esta herramienta puede ser especialmente útil “en campos como la medicina”, donde la precisión es crucial.

No obstante, algunos expertos, como el doctorando Os Keyes, advierten de que este enfoque no elimina las llamadas “alucinaciones” de los modelos de IA generativa. Keyes explica que estas alucinaciones son inevitables, ya que los modelos no “saben” nada, sino que predicen palabras basándose en patrones.

La herramienta de Microsoft se basa en dos metamodelos: uno que identifica posibles alucinaciones en el texto y otro que intenta corregirlas con base en documentos fiables. A pesar del avance que supone, Keyes afirma tener serias dudas sobre el éxito de Correction, ya que “también podría alucinar”. Mike Cook, investigador de la Universidad Queen Mary, coincide y añade que esta herramienta “podría dar a los usuarios una falsa sensación de seguridad”.

Aunque Correction tiene el potencial de mejorar la fiabilidad de los contenidos generados por IA de cara a los usuarios y las empresas que utilizan a diario los modelos generativos, su uso gratuito está limitado a 5.000 registros mensuales, tras lo cual, se cobrarán 38 centavos por cada 1.000 registros extra.