Ein KI-Bericht nennt einen Beruf, ein Einkommen oder einen Beziehungsstatus, den das Profil nicht angibt

Warum ein KI-Bericht mehr aussagen kann als die Seite

Generative Werkzeuge können flüssige Ausgaben erzeugen, die über das ihnen gegebene Material hinausgehen oder ihm widersprechen. Das Profil generativer KI des NIST beschreibt Systeme, die fehlerhafte Inhalte selbstbewusst präsentieren, darunter Ausgaben, die mit ihren Eingaben nicht übereinstimmen, und empfiehlt, dass Menschen Quellen in solchen Ausgaben überprüfen und verifizieren. Diese allgemeine Warnung macht diese Prüfung nützlich: Der Bericht ist eine Reihe zu prüfender Behauptungen, keine Zusammenfassung, der man vertrauen sollte. Die eigene Beschreibung der KI-Profilanalyse durch den Produktinhaber bezeichnet die Deutungen zu Arbeit, Einkommen und Beziehungen als nicht überprüfte Schlussfolgerungen statt als gesicherte persönliche Tatsachen; behandeln Sie diese Felder daher ebenso, bis die zitierte Seite sie aussagt. [NIST AI 600-1: Konfabulation generativer KI und Quellenprüfung]

Erstellen Sie ein Prüfblatt mit vier Zeilen

Verwenden Sie eine Zeile pro Feld. Schreiben Sie in die erste Spalte den Feldnamen so, wie der Bericht ihn formuliert hat. Fügen Sie in die zweite den genauen Satz aus der zitierten öffentlichen Seite ein, der sich auf dieses Feld bezieht, oder schreiben Sie "kein passender Satz". Markieren Sie in der dritten das Ergebnis: gestützte Aussage, ungeklärt oder gestrichene Schlussfolgerung. Notieren Sie in der vierten die Seite und das Datum, an dem Sie sie geprüft haben. So bleiben die Beobachtung, ihre Grenze und Ihre Entscheidung sichtbar getrennt, statt zu einem Gesamteindruck zu verschmelzen.

• Kopieren Sie Aussagen wörtlich, statt sie zu etwas Stärkerem umzuformulieren.
• Notieren Sie die Seite, die Sie tatsächlich geöffnet haben, nicht eine Zusammenfassung aus zweiter Hand.
• Versehen Sie jede Zeile mit einem Datum, damit eine spätere öffentliche Änderung nicht wie ein früherer Widerspruch wirkt.

Lesen Sie die zitierte Seite selbst und zitieren Sie sie dann

Öffnen Sie für jedes Berichtsfeld einen verfügbaren Quellenlink und suchen Sie nach der exakt stützenden Aussage. Wenn der Bericht keine nutzbare Quelle bereitstellt, halten Sie dieses Feld als nicht gestützt. Wenn Sie keine Seite finden können, die das Feld angibt, ist dieses Fehlen Ihr Befund: Das Feld ist nicht gestützt. Die Leitlinie von NIST zur Überprüfung von Quellen stützt diese Vorgehensweise; sie bedeutet nicht, dass ein bestimmter Bericht oder ein bestimmtes Werkzeug getestet wurde, und sie ist eine allgemeine Beobachtung zum Risikomanagement und keine Befürwortung. [NIST AI 600-1: Konfabulation generativer KI und Quellenprüfung]

Streichen, kennzeichnen und aus Ihrer Nachricht weglassen

Ein Feld zu streichen bedeutet, es aus der Arbeitsversion des Berichts zu entfernen und als Schlussfolgerung zu kennzeichnen, nicht es stillschweigend zu einer Vermutung herabzustufen. Ein gestrichenes Feld sollte in einer Nachricht an die Person nicht so erscheinen, als wäre es bekannt. Wenn Sie etwas ansprechen möchten, stellen Sie eine offene Frage und lassen Sie die Person mit eigenen Worten antworten. Die Streichung ist eine Entscheidung darüber, was Sie wiederholen werden, und keine Behauptung, dass die Schlussfolgerung falsch ist. Sie bedeutet nur, dass die zitierte öffentliche Seite sie nicht stützt.

• Führen Sie eine separate Liste der gestrichenen Felder, damit Sie sehen können, wie viel des Berichts auf Schlussfolgerungen beruhte.
• Schreiben Sie Nachrichten nur auf Grundlage der gestützten Aussagen.
• Bitten Sie die Person nicht, eine Schlussfolgerung zu bestätigen oder zu bestreiten, als wäre sie eine feststehende Tatsache.

Was ein Abzeichen, ein Status oder Schweigen nicht belegt

Ein öffentliches Profil ist eine Selbstbeschreibung, kein verifizierter Datensatz. Ein fehlender Beziehungsstatus, ein privater Bereich oder ein stilles Konto ist kein Beleg für einen bestimmten Status, eine bestimmte Absicht oder Ehrlichkeit. TraceSeek kann einen Benutzernamen, eine Bildähnlichkeit oder sichtbaren Text nutzen, um nach möglichen Übereinstimmungen mit öffentlichen Profilen zu suchen, doch die Abdeckung ist nicht vollständig, und diese Suchen belegen persönliche Tatsachen nicht eigenständig. Behandeln Sie jede KI-Interpretation als Hypothese über die Formulierung, niemals als Identifizierung oder Beweis. [TraceSeek: Produktübersicht und vom Betreiber bestätigte Funktionen]

Hypothetisches durchgerechnetes Beispiel

Angenommen, ein Bericht führt einen Beruf, eine Einkommensspanne, einen Beziehungsstatus und eine aktuelle Stadt auf. Sie öffnen die zitierte Seite für jedes Feld. Wo die Seite das Feld eindeutig angibt, behalten Sie es als gestützte Aussage. Wo die Seite schweigt, mehrdeutig ist oder das Feld nicht behandelt, streichen Sie es und kennzeichnen Sie es als Schlussfolgerung. In einer späteren Nachricht könnten Sie sich nur auf die gestützten Aussagen stützen und zu allem Ungeklärten eine offene Frage stellen. Dieses Beispiel ist hypothetisch und dient dazu, die Methode zu zeigen, nicht ein reales Profil. [TraceSeek: Produktübersicht und vom Betreiber bestätigte Funktionen]

Wenn die Quelle fehlt oder mehrdeutig ist

Wenn die zitierte Seite fehlt, privat, nicht übereinstimmend oder mehrdeutig ist, schreiben Sie diese genaue Grenze in das Arbeitsblatt und hören Sie auf. Versuchen Sie nicht, dieselben Informationen über einen anderen Weg zu erreichen, und behandeln Sie eine mehrdeutige Formulierung nicht als Stütze für mehrere Felder. NIST warnt davor, aus engen oder anekdotischen Prüfungen weitreichende Schlüsse zu ziehen, was ein weiterer Grund ist, die Grenze festzuhalten, statt die Lücke mit einer plausiblen Vermutung zu füllen. Ihr Arbeitsblatt ist eine Lesehilfe, keine Plattformkontrolle und keine zugesicherte Funktion. [NIST AI 600-1: Konfabulation generativer KI und Quellenprüfung]

Noch ein paar Fragen