Un número de confianza en un informe de perfil necesita una definición de la evidencia

Empieza por nombrar la unidad del número

Una puntuación numérica de un modelo es un objeto distinto de un hecho con fuente y de una tasa de éxito medida. Un hecho con fuente remite a una declaración pública que puedes inspeccionar; una tasa de éxito medida procede de una validación sobre casos conocidos; una puntuación es una salida cuyo significado depende de con qué se entrenó y se probó para comparar. Cuando un informe muestra un número sin decir cuál de estas cosas es, regístralo como una unidad sin definir. No lo conviertas en silencio en una probabilidad sobre una persona, porque esa conversión es una inferencia que el informe no ha ganado. [NIST AI 600-1: confabulación de IA generativa y verificación de fuentes]

• Escribe el número exactamente como se muestra, con su etiqueta y las palabras que lo acompañen.
• Anota si el informe indica una unidad, una base de comparación, un rango o un conjunto de validación.
• Si falta alguno de esos elementos, marca el número como sin definir en lugar de preciso.

Haz tres preguntas antes de interpretar

Pregunta qué mide el número, con qué se comparó y si se aporta alguna validación. Una puntuación puede describir la similitud con un ejemplo almacenado, la concordancia entre fuentes o una preferencia interna del modelo; nada de eso son probabilidades sobre una persona. La validación es la parte que te permitiría leer el número como calibrado. Las orientaciones generales sobre riesgos de la IA señalan que el rendimiento no debe extrapolarse a partir de evaluaciones limitadas, no sistemáticas o anecdóticas, y que la salida generada puede parecer segura de sí misma mientras es incoherente con sus entradas. Aplica esa cautela a cualquier puntuación presentada sin una base declarada. [NIST AI 600-1: confabulación de IA generativa y verificación de fuentes]

• ¿Qué mide el número?
• ¿Con qué se comparó?
• ¿Se aporta alguna validación y sobre qué tipo de casos?

Mantén una puntuación sin definir aparte de los hechos observados

Crea dos registros separados. El primero contiene lo que observaste en la fuente pública permitida: un nombre de usuario, una publicación pública, una imagen, una afiliación declarada. El segundo contiene la salida numérica del informe y todo lo que el informe infiere a partir de ella. Mantenlos visualmente separados para que una puntuación nunca preste una autoridad prestada a una afirmación que carece de su propia fuente. Cuando el informe sea más rotundo que la fuente, escribe el calificador que falta junto a la afirmación y reduce la afirmación a lo que la fuente respalda realmente.

No dejes que un decimal implique validación

La precisión en la presentación no es prueba de exactitud. Un número escrito con varios decimales puede parecer calibrado mientras no mide nada del mundo real. Trata el formato como algo cosmético hasta que el informe defina la base de la puntuación. Revisa y verifica las fuentes de cualquier salida generada antes de fiarte de ella, porque el texto generado puede presentar contenido sin respaldo con un tono seguro. Si el informe no ofrece ninguna definición, tu hoja de trabajo debe llevar la palabra sin definir junto al número en lugar de una estimación de probabilidad. [NIST AI 600-1: confabulación de IA generativa y verificación de fuentes]

Anota el límite exacto y detente ahí

Si la fuente está ausente, es privada, no coincide o es ambigua, escribe ese límite preciso y detén la inferencia sin respaldo. No sustituyas la evidencia que falta por acceso privado, por una conjetura de similitud ni por una puntuación más alta. Un límite útil nombra lo que faltaba: la publicación se eliminó, la imagen solo coincidía de forma vaga, el perfil podría pertenecer a más de una persona. Nombrar la laguna te permite decidir qué hacer a continuación sin convertir la incertidumbre en una conclusión sobre alguien.

• Indica la laguna concreta, no una advertencia genérica.
• No trates un ajuste de privacidad, un silencio ni una foto coincidente como prueba de identidad o de intención.
• Si una pista importa, planifica una comprobación lícita a través de la propia fuente pública, no un rodeo.

Una hoja de trabajo para el lector sobre un informe

Haz tres columnas: afirmación del informe, base de la fuente y estado. En la columna de base de la fuente, pega o parafrasea la declaración pública en la que se apoya el informe. En la columna de estado, elige hecho con fuente, afirmación inferida o puntuación sin definir. Cualquier fila en la que el número aparezca solo permanece en la columna de sin definir. Esta es una ayuda editorial que escribes tú mismo; no es un control que ofrezca ninguna plataforma. Mantiene honesto un ejemplo hipotético: si un informe mostrara 0.87 junto a un nombre de usuario público, la hoja de trabajo registraría un nombre de usuario con fuente y una etiqueta numérica sin definir, no una probabilidad del 87 por ciento de que algo sobre la persona sea cierto.

Un par de preguntas más