Un informe de IA afirma un empleo, unos ingresos o una situación sentimental que el perfil no indica

Por qué un informe de IA puede afirmar más de lo que dice la página

Las herramientas generativas pueden producir un texto fluido que va más allá del material que se les dio, o entra en conflicto con él. El perfil de IA generativa del NIST describe sistemas que presentan contenido erróneo con seguridad, incluidos resultados incoherentes con sus entradas, y recomienda que las personas revisen y verifiquen las fuentes de dichos resultados. Esa advertencia general es lo que hace útil esta auditoría: el informe es un conjunto de afirmaciones que hay que comprobar, no un resumen en el que confiar. La propia descripción del propietario del producto sobre el análisis de perfiles con IA califica las lecturas de trabajo, ingresos y relaciones como inferencias no verificadas en lugar de hechos personales establecidos, así que trata esos campos del mismo modo hasta que la página citada los indique. [NIST AI 600-1: confabulación de IA generativa y verificación de fuentes]

Crea una hoja de auditoría de cuatro filas

Usa una fila por campo. En la primera columna escribe el nombre del campo tal como lo formuló el informe. En la segunda, pega la frase exacta de la página pública citada que aborda ese campo, o escribe «ninguna frase coincidente». En la tercera, marca el resultado: declaración respaldada, sin resolver o inferencia tachada. En la cuarta, anota la página y la fecha en que la comprobaste. Así mantienes la observación, su límite y tu decisión visiblemente separados en lugar de mezclarlos en una sola impresión.

• Copia las declaraciones palabra por palabra en lugar de parafrasearlas hacia algo más contundente.
• Anota la página que realmente abriste, no un resumen de segunda mano de ella.
• Pon fecha a cada fila para que un cambio público posterior no parezca una contradicción anterior.

Lee la página citada en sí y luego cítala

Para cada campo del informe, abre un enlace de fuente disponible y busca la declaración de respaldo exacta. Si el informe no proporciona una fuente utilizable, deja ese campo sin respaldo. Si no puedes localizar una página que indique el campo, esa ausencia es tu hallazgo: el campo no tiene respaldo. La orientación del NIST sobre la verificación de fuentes respalda este hábito; no significa que se haya probado ningún informe o herramienta en particular, y es una observación general de gestión de riesgos más que un respaldo. [NIST AI 600-1: confabulación de IA generativa y verificación de fuentes]

Tacha, etiqueta y déjalo fuera de tu mensaje

Tachar un campo significa eliminarlo de la versión de trabajo del informe y marcarlo como una inferencia, no rebajarlo en silencio a una conjetura. Un campo tachado no debe aparecer en un mensaje a la persona como si se conociera. Si quieres plantear algo, haz una pregunta abierta y deja que la persona responda con sus propias palabras. El tachado es una decisión sobre lo que vas a repetir, no una afirmación de que la inferencia sea falsa. Solo significa que la página pública citada no lo respalda.

• Mantén una lista aparte de los campos tachados para que puedas ver cuánto del informe se basaba en inferencias.
• Redacta mensajes solo a partir de las declaraciones respaldadas.
• No pidas a la persona que confirme o niegue una inferencia como si fuera un hecho establecido.

Lo que una insignia, un estado o un silencio no establecen

Un perfil público es una autodescripción, no un registro verificado. La ausencia de un estado civil, una sección privada o una cuenta silenciosa no son prueba de ningún estado, intención u honestidad en particular. TraceSeek puede usar un nombre de usuario, la similitud de imágenes o el texto visible para buscar posibles coincidencias con perfiles públicos, pero la cobertura no es exhaustiva y esas búsquedas no establecen por sí mismas hechos personales. Trata toda interpretación de la IA como una hipótesis sobre el texto, nunca como identificación o prueba. [TraceSeek: descripción general del producto y capacidades confirmadas por el operador]

Ejemplo práctico hipotético

Supón que un informe enumera un trabajo, un rango de ingresos, un estado civil y una ciudad actual. Abres la página citada para cada campo. Donde la página indica el campo con claridad, consérvalo como una declaración respaldada. Donde la página guarda silencio, es ambigua o no aborda ese campo, táchalo y etiquétalo como una inferencia. En un mensaje posterior podrías apoyarte solo en las declaraciones respaldadas y hacer una pregunta abierta sobre cualquier cosa sin resolver. Ese ejemplo es hipotético y se ofrece para mostrar el método, no ningún perfil real. [TraceSeek: descripción general del producto y capacidades confirmadas por el operador]

Cuando la fuente falta o es ambigua

Si la página citada está ausente, es privada, no coincide o es ambigua, escribe ese límite preciso en la hoja y detente. No intentes llegar a la misma información por otra vía y no trates una frase ambigua como si respaldara varios campos. El NIST advierte contra sacar conclusiones amplias de comprobaciones limitadas o anecdóticas, lo que es otra razón para registrar el límite en lugar de rellenar el hueco con una conjetura plausible. Tu hoja de trabajo es una ayuda para el lector, no un control de la plataforma ni una función prometida. [NIST AI 600-1: confabulación de IA generativa y verificación de fuentes]

Un par de preguntas más