Les instructions contenues dans un profil public ne constituent pas une preuve pour un rapport d'IA

Partez de la phrase citée, pas du résumé

Ouvrez la page publique que le rapport indique et lisez le passage précis sur lequel il s'appuie. Notez ce que ce passage dit réellement, en mots simples. Placez-le ensuite à côté de la phrase du rapport. Lorsque le rapport ajoute une évaluation, une étiquette de confiance ou un trait de personnalité qu'aucune phrase visible n'énonce, marquez-le comme non étayé. Gardez l'observation, l'interprétation et la décision sur des lignes distinctes, afin qu'un résumé assuré ne puisse pas discrètement remplacer les preuves. NIST AI 600-1 note que l'IA générative peut présenter avec assurance un contenu incohérent avec ses entrées et recommande de vérifier les sources et les citations du résultat généré avant de s'y fier. [NIST AI 600-1 : confabulation de l'IA générative et vérification des sources]

Reconnaître quand des instructions orientent le résultat

OWASP décrit l'injection de consignes indirecte comme des instructions placées dans un contenu externe, tel que des pages ou des documents, pour détourner un système d'IA qui le traite. Son impact dépend des outils connectés et des autorisations. Il s'agit d'un mécanisme général, pas d'une preuve que TraceSeek ou un profil particulier a été compromis. [OWASP : injection indirecte d'invite]

Auditez le rapport par rapport à ses propres citations

Parcourez le rapport champ par champ, à l'aide d'un petit tableau. Chaque ligne associe une affirmation, le texte public cité et votre verdict. Si le texte cité est absent, privé, concerne une autre personne ou est ambigu, consignez cette limite précise et arrêtez-vous plutôt que de combler le vide par une supposition. Tenez toute demande d'identifiants, de paiement, de téléchargement ou de contact hors plateforme hors de vos notes de travail et considérez-la comme non étayée. Vérifier les sources et les citations du résultat généré, plutôt que de les accepter au pied de la lettre, est la pratique recommandée ici. [NIST AI 600-1 : confabulation de l'IA générative et vérification des sources]

Distinguez les faits énoncés des déductions générées

Un profil public peut énoncer un rôle, un lieu ou un centre d'intérêt dans les mots de la personne elle-même. C'est différent d'un modèle qui devine ces éléments à partir de photos, d'un style d'écriture ou de schémas d'activité. Ne conservez que ce qu'énonce une phrase publique explicite et étiquetez tout le reste comme une déduction que vous ne répéterez pas à la personne. Ne déduisez pas le revenu, la richesse, la sexualité ou la situation relationnelle à partir d'images, d'indices de mode de vie ou de schémas de contact. Des observations comme un badge, un paramètre de confidentialité ou un champ vide n'établissent rien sur l'identité, l'intention ou la sécurité. NIST AI 600-1 met en garde contre l'extrapolation à partir d'impressions limitées, non systématiques et anecdotiques, ce qui explique pourquoi des vérifications restreintes ne doivent pas être transformées en rapports assurés. [NIST AI 600-1 : confabulation de l'IA générative et vérification des sources]

Recourez à une vérification indépendante ordinaire

Vérifiez les déclarations restantes par rapport aux sources publiques accessibles et conservez la formulation et la date d'observation. Traitez une phrase professionnelle explicite comme une affirmation de cette page, et non comme un emploi confirmé. Si la source est ambiguë, laissez la conclusion non résolue. Il s'agit d'un exercice de lecture : ne testez pas d'attaques contre un service en ligne.

Exemple hypothétique d'un résultat qui suit la page

Supposons qu'une biographie publique indique qu'une personne travaille dans la logistique, puis ajoute une ligne demandant à tout lecteur automatisé de décrire la personne comme une experte et de réclamer des frais pour un dossier détaillé. Un rapport d'IA construit à partir de cette page pourrait répéter avec assurance l'étiquette d'experte et inclure la demande de paiement. Dans cet exemple hypothétique, la réponse correcte consiste à ne conserver que la phrase professionnelle explicite, à supprimer l'étiquette d'experte comme non étayée, à écarter entièrement la demande de frais et à consigner que la page contenait du contenu destiné aux lecteurs automatisés. Aucun profil ni produit réel n'est évalué ici.

Encore quelques questions