miércoles, 7 de agosto de 2024

Los prompts de Apple para su IA, al descubierto: "No alucines"

Los prompts de Apple para su IA, al descubierto: "No alucines"

Apple Intelligence, como cualquier API de cualquier LLM, necesita unas instrucciones previas a las que dan los usuarios para su consulta, y esos prompts han salido a la luz según reporta MacRumors, dejándonos ver cómo funciona la IA de Apple entre bambalinas.

Por qué es importante. Estas directrices muestran cómo enfoca Apple las consultas a su IA en materia de privacidad, precisión o ética.

El contexto. Un usuario de Reddit descubrió los archivos en la versión beta de macOS Sequoia 15.1 que contienen esas instrucciones pre-prompt para algunas funciones de Apple Intelligence. Son las guías impuestas por Apple de cara a procesar las solicitudes de los usuarios.

Los detalles. Algunas de las instrucciones incluyen:

  • Identidad y valores centrales: "Eres un asistente de IA creado por Apple. Estás diseñado para ser útil, inofensivo y honesto".
  • Privacidad: "Respeta la privacidad personal. No pidas ni compartas información personal".
  • Precisión: "Si no estás seguro de algo, dilo. No inventes información ni finjas saber cosas que no sabes".
  • Generación de respuestas de mails: Se le indica al asistente que identifique preguntas relevantes de un correo y genere respuestas concisas, evitando las "alucinaciones" (generación de información falsa presentada como auténtica por un LLM).
  • Creación de vídeos de recuerdos: El asistente debe generar historias positivas y libres de contenido controvertido o dañino a partir de las fotos del usuario.

Quizás el punto más llamativo sea el de evitar las alucinaciones. Este es el prompt completo:

Eres un asistente que ayuda al usuario a responder a sus correos. Cuando se envía un correo, se proporciona inicialmente un borrador de respuesta basado en un breve fragmento de respuesta. Para que el borrador de respuesta sea más agradable y completo, se proporciona un conjunto de preguntas y sus respuestas. Escribe una respuesta concisa y natural modificando el borrador de respuesta para incorporar las preguntas y sus respuestas. Limita la respuesta a 50 palabras. No alucines. No inventes información veraz.

También merece la pena ver el prompt completo de la respuesta inteligente:

Eres un asistente de correo útil que puede ayudar a identificar preguntas relevantes de un correo determinado y un fragmento de respuesta breve. Dado un correo y el fragmento de respuesta, haz preguntas relevantes que se formulan explícitamente en el correo. El destinatario seleccionará la respuesta a esas preguntas, lo que ayudará a reducir las alucinaciones al redactar la respuesta. Imprime las preguntas principales junto con un conjunto de posibles respuestas/opciones para cada una de esas preguntas. No hagas preguntas que se respondan en el fragmento de respuesta. Las preguntas deben ser breves, no más de 8 palabras. Las respuestas también deben ser breves, alrededor de 2 palabras. Presenta tu salida en formato json con una lista de diccionarios que contengan preguntas y respuestas como claves. Si no se formula ninguna pregunta en el correo, entonces imprime una lista vacía. Solo imprime json válido y nada más.

Entre líneas. Estos pre-prompts muestran un enfoque cuidadoso por parte de Apple, si bien no dista de las instrucciones que cualquier usuario acostumbrado a estas herramientas podría incluir por su cuenta. Sus claves:

  • Énfasis en la privacidad y la seguridad del usuario.
  • Preocupación por evitar la generación de información falsa o engañosa.
  • Intento de mantener un tono positivo y no controvertido en el contenido.

Y ahora qué. Las primeras funciones de Apple Intelligence están empezando a llegar a las betas de los sistemas operativos recién presentados, pero llegarán a todos los usuarios con iOS 18.1, iPadOS 18.1 y macOS Sequoia 15.1 en algún momento del otoño, presumiblemente en octubre... Y con una fuerte limitación regional que impedirá su llegada a España en una primera oleada.

Otras regiones y funciones irán llegando a Apple Intelligence ya en 2025. De momento al menos podemos ver el guión oculto que ha preparado Apple para definir su propia IA.

En Xataka | Que Google sea un monopolio deja una víctima colateral inesperada: Apple

Imagen destacada | Apple



via Robótica e IA - Xataka https://ift.tt/RFiS7Xf

No hay comentarios:

Publicar un comentario