Gardez l'incertitude attachée à chaque constat d'un rapport de profil généré par IA

Partez de la déclaration de source, et non de la conclusion

Avant de juger un paragraphe de rapport, découpez-le en affirmations les plus petites qu'il énonce. Pour chaque affirmation, citez ou paraphrasez fidèlement la déclaration de source publique exacte qui la sous-tend, puis notez ce que cette déclaration établit réellement. Un profil public indiquant qu'une personne travaille dans une entreprise établit que la page affiche ce texte au moment où vous l'avez vue. Cela n'établit pas un emploi actuel, un revenu ni une intention. C'est en gardant la formulation de la source à côté de celle du rapport que vous voyez où une nuance a discrètement disparu. [TraceSeek : présentation du produit et capacités confirmées par l'opérateur]

• Examinez le paragraphe affirmation par affirmation plutôt que de l'accepter ou de le rejeter en bloc.
• Rayez tout ce que vous ne pouvez pas rattacher à une source publique que vous avez vérifiée personnellement.

Nommez la nuance exacte qui a été perdue

La plupart des conclusions exagérées perdent une nuance précise. Les pertes courantes concernent l'incertitude quant à savoir si un compte est à jour, si un nom ou une photo appartient à la même personne, si une déclaration publique est vraie et si la couverture disponible est complète. Écrivez la nuance manquante en mots simples, par exemple la page était visible à cette date mais le statut d'activité est inconnu, ou le texte du profil public a été trouvé mais il n'est pas confirmé qu'il s'agit de la même personne. Les systèmes génératifs peuvent présenter un contenu erroné avec assurance, et même produire des sorties en contradiction avec leurs propres entrées, si bien qu'une phrase de rapport fluide n'est pas une preuve d'exactitude. [NIST AI 600-1 : confabulation de l'IA générative et vérification des sources]

• Étiquetez chaque affirmation selon l'une de trois catégories : texte de source publique étayé, interprétation non vérifiée de l'IA, ou non résolue.

Séparez ce qui a été observé de ce qui a été inféré

Tenez deux colonnes dans le relevé : ce que montre l'artefact public, et ce que le rapport vous demande d'en conclure. Les interprétations de rapport confirmées par l'opérateur concernant le travail, le revenu et les relations sont des inférences non vérifiées tirées de contenus accessibles publiquement, et non des faits personnels établis. Traitez-les comme des suggestions à examiner, jamais comme des constats sur une personne. Si une affirmation sur le revenu, la richesse, la sexualité ou la situation relationnelle repose sur une photo, un indice de mode de vie ou des schémas de contact, marquez-la comme non étayée et ne la retenez pas. [TraceSeek : présentation du produit et capacités confirmées par l'opérateur]

• Placez chaque interprétation de l'IA dans la colonne des inférences, même lorsqu'elle semble banale.
• Notez l'absence de liens de source ou d'horodatages confirmés pour chaque affirmation comme une limite de couverture, et non comme une lacune à combler par des suppositions.

Un relevé d'incertitude à trois colonnes

Le tableau ci-dessous est une aide au lecteur pour auditer un paragraphe, et non une fonctionnalité d'application promise. Utilisez-le pour tenir côte à côte la déclaration de source, l'affirmation du rapport et la limite, puis convenez d'une étape suivante non résolue. Les entrées d'exemple sont hypothétiques. Lorsque vous ne pouvez pas nommer de source publique pour une affirmation, l'entrée honnête est une limite et un arrêt, et non une supposition adoucie.

Auditez la façon dont les constats ont été combinés

L'incertitude survit souvent à chaque ligne prise isolément, puis disparaît lorsque les lignes sont fusionnées. Vérifiez les phrases qui joignent plusieurs observations avec des mots comme confirme, montre ou clairement. Demandez-vous si la phrase combinée contient une preuve absente des déclarations de source séparées. La recherche approfondie élargit l'éventail des sources publiques accessibles, mais elle ne contourne pas les comptes privés et ne garantit pas des résultats complets, si bien qu'un rapport d'apparence plus complète peut toujours reposer sur la même base mince. L'ampleur de la recherche n'est pas la profondeur de la preuve. [TraceSeek : présentation du produit et capacités confirmées par l'opérateur]

• Reformulez toute conclusion fusionnée en deux énoncés : ce que chaque source a montré, et ce qui reste inconnu.

Lorsque la source est absente ou ambiguë

Si la source sous-jacente est absente, privée, discordante ou ambiguë, écrivez cette limite précise et arrêtez l'inférence à cet endroit. Ne cherchez pas de dossiers privés, n'essayez pas d'identifier une personne à partir d'une similitude et ne formulez pas la lacune comme si elle avait été résolue. Si vous examinez un profil qui pourrait vous être communiqué volontairement, une question directe et non accusatoire est plus fiable qu'une collecte d'investigation. L'étape suivante non résolue devrait consister par exemple à demander simplement au titulaire du compte, ou à attendre une mise à jour publique datée, plutôt qu'un score de confiance numérique que le rapport n'a jamais comporté.

• Terminez la phrase d'audit par l'élément non résolu exact et une étape suivante proportionnée.

Vérifier le rapport par rapport à ses propres sources

Une dernière passe devrait comparer chaque conclusion avec les citations ou les déclarations des sources lorsqu'elles existent, et signaler les conclusions qui n'ont aucune base traçable. Les recommandations générales sur les risques de l'IA préconisent de vérifier et de contrôler les sources plutôt que de tenir la production générée pour définitive. Elles mettent aussi en garde contre le fait de traiter des observations étroites ou anecdotiques comme des preuves systématiques. Appliquez la même retenue à votre propre audit : une seule page vérifiée étaye une seule observation vérifiée, pas un jugement établi sur une personne. [NIST AI 600-1 : confabulation de l'IA générative et vérification des sources]

• Marquez chaque phrase qui dépasse sa source, et nuancez-la avant de la partager.
• Conservez le dossier complété avec le rapport afin que les limites accompagnent les constats.

Encore quelques questions