¿La cita textual de un informe de IA abarca la afirmación para la que se cita?

Por qué una cita textual no es lo mismo que una prueba

Un sistema generativo puede presentar una formulación segura de sí misma que no concuerda con sus entradas, y por eso la revisión de fuentes y citas forma parte de cualquier uso de resultados de IA. Una frase citada puede ser exacta como cadena de palabras y aun así no respaldar la oración construida sobre ella. La verdadera pregunta no es si las palabras aparecen en algún sitio, sino si el pasaje del que proceden dice lo que el informe afirma. Trata la cita textual como un puntero de vuelta a la página pública, no como la prueba en sí. [NIST AI 600-1: confabulación de IA generativa y verificación de fuentes]

• Supón que la cita textual y la afirmación son objetos separados hasta que las hayas comparado.

Abre el párrafo, no la frase

Encuentra la página pública citada y localiza la frase entrecomillada en su contexto. Lee el párrafo completo que la rodea y, si la redacción no está clara, el encabezado de la sección que está por encima. Fíjate en quién habla, qué se describe y si el pasaje afirma un hecho, un plan, una posibilidad o una opinión. Una frase extraída de un pasaje más largo suele perder el matiz que la limitaba.

• Lee un párrafo antes y otro después de la cita cuando el significado sea ambiguo.
• Anota el título de la página y la fecha en que la leíste para que la comprobación pueda repetirse.

Escribe una nota de alcance por cada cita

Usa una sola línea para cada cita textual, de modo que la comparación siga siendo visible. La tabla siguiente muestra cómo funciona una nota de alcance; las entradas son ejemplos hipotéticos, no hallazgos sobre ninguna página o producto real.

Retira, reduce o mantén la incertidumbre

Aplica una regla sencilla. Si la cita abarca la afirmación, mantén la afirmación vinculada a esa fuente. Si la cita es más limitada que la afirmación, reescribe la afirmación hasta el alcance citado o retira el exceso. Si la cita está ausente, retira la afirmación por completo salvo que se encuentre una fuente pública independiente. Todo lo que quede suelto permanece incierto en lugar de promoverse en silencio. Un informe de IA también puede ofrecer interpretaciones sobre el trabajo, los ingresos o las relaciones a partir del contenido de un perfil público; son inferencias no verificadas, no hechos personales, y una cita textual no las convierte en hechos. [TraceSeek: descripción general del producto y capacidades confirmadas por el operador]

• Nunca dejes que una afirmación retirada sobreviva en forma de resumen en otra parte del informe.
• Mantén una lista breve de las afirmaciones que siguen siendo inciertas para que no se lean como confirmadas.

Cuando la fuente no se puede comprobar

Algunas citas no se resolverán con claridad. Puede que la página haya desaparecido, que el texto circundante sea ambiguo, que la fuente citada no coincida con el informe o que el material citado sea privado. En cada uno de esos casos, registra el límite preciso y detén ahí la inferencia. No intentes reconstruir una página privada por otros medios ni trates una fuente ausente como confirmación tácita. Un nombre de usuario o una imagen públicos pueden llevar a material de perfil público, pero la cobertura no está garantizada y nada de ello demuestra la identidad ni la actividad actual. [TraceSeek: descripción general del producto y capacidades confirmadas por el operador]

• Escribe el límite con palabras sencillas junto a la afirmación: página ausente, página privada, texto ambiguo, fuente que no coincide.
• Detente en lugar de sustituir la página citada por otra distinta.

Un ejemplo hipotético de la distinción

Supón que un informe hipotético afirma que el titular de un perfil público vive en una ciudad concreta y cita la frase «residente en el norte» de la página citada. Si el párrafo circundante describe la ubicación de la oficina de un antiguo empleador, la cita no abarca la afirmación sobre dónde vive la persona ahora. La nota de alcance correcta es que la cita es más limitada que la afirmación, y la afirmación sobre la residencia se retira o se marca como incierta. Si otra afirmación del mismo informe dice que el perfil enumera una afición concreta y el párrafo citado lo expone con claridad, esa cita abarca su afirmación y puede mantenerse, siempre vinculada a la única fuente pública.

Un par de preguntas más