A las inteligencias artificiales les damos instrucciones a través de prompts. Frases, ordenes, indicaciones, datos en las que el sistema se apoya para cumplir con nuestras peticiones. Como usuarios, hacemos peticiones, pero como desarrolladores de la AI, también se hacen peticiones previas. Se establecen reglas, se acota la longitud de las respuestas y mucho más. Y estos prompts internos de Apple Intelligence son justamente los que se han descubierto.
“Eres un asistente de correo útil”
La beta para desarrolladores de macOS 15.1 nos ha permitido vislumbrar cómo Apple está diseñando sus herramientas de inteligencia artificial para evitar las “alucinaciones”, es decir, la generación de información falsa.
Los “prompts” internos, descubiertos por un usuario de Reddit (vía MacRumors), muestran cómo Apple está afinando el modelo para mantener la relevancia y la adecuación en las respuestas de sus funciones de AI. Esta relevancia es especialmente importante en la función de Respuesta Inteligente en Mail, por ejemplo. Aquí las instrucciones son las siguientes:
“Eres un asistente de correo útil que puede ayudar a identificar preguntas relevantes de un correo dado y un breve fragmento de respuesta. Dado un correo y el fragmento de respuesta, haz preguntas relevantes que se planteen explícitamente en el correo. Las respuestas a esas preguntas serán seleccionadas por el destinatario, lo que ayudará a reducir las alucinaciones al redactar la respuesta. Por favor, muestra las preguntas principales junto con un conjunto de respuestas/opciones posibles para cada una de esas preguntas. No hagas preguntas que sean respondidas por el fragmento de respuesta. Las preguntas deben ser cortas, no más de 8 palabras. Las respuestas deben ser también cortas, alrededor de 2 palabras. Presenta tu salida en un formato JSON con una lista de diccionarios que contengan pregunta y respuestas como claves. Si no se hace ninguna pregunta en el correo, entonces muestra una lista vacía. Solo muestra un JSON válido y nada más”.
En el caso de la función de Recuerdos en Fotos, que crea pequeños vídeos a partir de nuestras fotos, los prompts dictan que las historias deben ser positivas y evitar cualquier contenido controvertido o dañino. Las directrices especifican que las historias deben contener un arco claro y variado, evitando centrarse excesivamente en un tema específico o en contenido que pueda ser considerado sensible o inapropiado.
“Una conversación entre un usuario que solicita una historia a partir de sus fotos y un asistente de escritor creativo que responde con una historia. Responde en JSON con estas claves y valores en orden: traits: lista de strings, temas visuales seleccionados de las fotos; story: lista de capítulos definidos más abajo; cover: string, pie de foto que describe la tarjeta de título; title: string, título de la historia; subtitle: string, versión más segura del título. Cada capítulo es un JSON con estas claves y valores en orden: chapter: string, título del capítulo; fallback: string, pie de foto genérico que resume el tema del capítulo; shots: lista de strings, pies de foto en el capítulo. Aquí están las directrices de la historia que debes obedecer: La historia debe ser sobre la intención del usuario; La historia debe contener un arco claro; La historia debe ser diversa, es decir, no centrarse excesivamente en un tema o rasgo muy específico; No escribas una historia que sea religiosa, política, dañina, violenta, sexual, sucia o de alguna manera negativa, triste o provocativa. Aquí están las directrices de la lista de pies de foto que debes obedecer”.
Además, las herramientas generales de escritura de Apple también incluyen directivas para evitar la fabricación de información. Cuando la AI nos ayuda revisar textos, se le instruye explícitamente que no fabrique información y que mantenga las respuestas dentro de un límite de palabras, garantizando respuestas precisas y al punto.
A pesar de todo ello, Apple Intelligence se lanzará como beta cuando llegue este otoño. Las alucinaciones de la AI, cuando estos sistemas dan por buena información totalmente falsa, son, de hecho, su mayor inconveniente. A pesar de las limitaciones técnicas a la hora de cumplir completamente con estas directivas, el simple hecho de establecer tales reglas ya refleja la importancia de minimizar errores y mejorar la fiabilidad de la tecnología.
Una minimización de errores de vital importancia a la hora de gestionar información importante. Por las primera pruebas con Apple Intelligence, parece que el modelo está, de hecho, muy bien equilibrado. Visto lo visto, sin embargo, está claro que, entre bambalinas, Apple es consciente de el mayor defecto de las IAs generativas. Uno que, al parecer, no estará presente en Apple Intelligence.
