Тримайте невизначеність біля кожного висновку у звіті про профіль, створеному ШІ

Починайте з твердження джерела, а не з висновку

Перш ніж оцінювати абзац звіту, розділіть його на найменші твердження, які він робить. Для кожного твердження процитуйте або близько перефразуйте точне публічне твердження джерела за ним, а потім занотуйте, що це твердження насправді встановлює. Публічний профіль, який каже, що людина працює в компанії, встановлює, що сторінка показувала цей текст на момент, коли ви його бачили. Він не встановлює поточне працевлаштування, дохід чи намір. Саме збереження формулювання джерела поруч із формулюванням звіту дає вам змогу побачити, де обережність тихо зникла. [TraceSeek: огляд продукту та можливості, підтверджені оператором]

• Опрацьовуйте абзац твердження за твердженням, а не приймайте чи відхиляйте його цілком.
• Викресліть усе, що ви не можете простежити до публічного джерела, яке ви особисто перевірили.

Назвіть точне застереження, яке було втрачено

Більшість перебільшених висновків втрачають конкретне застереження. Поширені втрати — це непевність щодо того, чи акаунт актуальний, чи ім'я або фото належать тій самій людині, чи публічне твердження правдиве та чи наявне охоплення повне. Запишіть відсутнє застереження простими словами, наприклад: сторінка була видима цієї дати, але статус активності невідомий, або текст публічного профілю знайдено, але не підтверджено, що це та сама особа. Генеративні системи можуть упевнено подавати помилковий вміст і навіть видавати результат, що суперечить власним вхідним даним, тож плавне речення звіту не є доказом точності. [NIST AI 600-1: вигадування генеративного ШІ та перевірка джерел]

• Позначте кожне твердження як одне з трьох: підкріплений текст публічного джерела, неперевірена інтерпретація ШІ або невирішене.

Відокремлюйте спостережене від виведеного

Тримайте у записі дві колонки: що показує публічний артефакт і що звіт просить вас із нього виснувати. Підтверджені оператором інтерпретації звіту про роботу, дохід і стосунки є неперевіреними умовиводами, зробленими з публічно доступного вмісту, а не встановленими особистими фактами. Ставтеся до них як до пропозицій для розгляду, ніколи як до висновків про людину. Якщо твердження про дохід, багатство, сексуальність або сімейний статус спирається на фото, ознаку способу життя чи схеми контактів, позначте його як непідкріплене і не переносьте далі. [TraceSeek: огляд продукту та можливості, підтверджені оператором]

• Перенесіть кожну інтерпретацію ШІ в колонку умовиводів, навіть коли вона звучить буденно.
• Занотуйте відсутність підтверджених посилань на джерела чи часових позначок для кожного твердження як обмеження охоплення, а не як прогалину, яку треба заповнити здогадами.

Запис невизначеності з трьох колонок

Наведена нижче таблиця є допомогою читачеві для перевірки одного абзацу, а не обіцяним елементом керування застосунку. Використовуйте її, щоб тримати твердження джерела, твердження звіту й обмеження поруч, а потім домовитися про один невирішений наступний крок. Приклади записів є гіпотетичними. Там, де ви не можете назвати публічне джерело для твердження, чесний запис — це обмеження й зупинка, а не пом'якшений здогад.

Перевірте, як висновки було поєднано

Невизначеність часто переживає кожен окремий рядок, а потім зникає, коли рядки об'єднують. Перевіряйте речення, що з'єднують кілька спостережень словами на кшталт підтверджує, показує чи явно. Запитайте, чи містить поєднане речення якісь докази, яких не було в окремих твердженнях джерел. Глибокий пошук розширює діапазон доступних публічних джерел, але він не обходить приватні акаунти й не гарантує повних результатів, тож звіт, що виглядає повнішим, усе одно може бути збудований на тій самій тонкій основі. Широта пошуку — це не глибина доказу. [TraceSeek: огляд продукту та можливості, підтверджені оператором]

• Перепишіть будь-який поєднаний висновок як два твердження: що показало кожне джерело і що залишається невідомим.

Коли джерело відсутнє або двозначне

Якщо першоджерело відсутнє, є приватним, не збігається або неоднозначне, запишіть саме цю межу й зупиніть висновок на ній. Не шукайте приватних записів, не намагайтеся встановити особу за схожістю і не формулюйте цю прогалину так, ніби її вже усунуто. Якщо ви перевіряєте профіль, який вам можуть добровільно розкрити, пряме запитання без звинувачень надійніше за пошуковий збір відомостей. Невирішеним наступним кроком має бути щось на кшталт простого запитання власнику акаунта або очікування датованого публічного оновлення, а не числовий показник упевненості, якого звіт ніколи не мав.

• Завершіть речення аудиту точним невирішеним пунктом і одним співмірним наступним кроком.

Перевірте звіт щодо його власних джерел

Завершальний прохід має порівняти кожен висновок із цитатами або твердженнями джерел там, де вони є, і позначити висновки, що не мають простежуваної основи. Загальні настанови щодо ризиків ШІ рекомендують перевіряти й підтверджувати джерела, а не довіряти згенерованому результату як остаточному. Вони також застерігають від того, щоб подавати вузькі або поодинокі спостереження як систематичні докази. Застосуйте ту саму стриманість до власного аудиту: одна перевірена сторінка підтверджує одне перевірене спостереження, а не остаточне судження про людину. [NIST AI 600-1: вигадування генеративного ШІ та перевірка джерел]

• Позначте кожне речення, яке виходить за межі свого джерела, і послабте його перед поширенням.
• Зберігайте заповнений запис разом зі звітом, щоб обмеження супроводжували знахідки.

Ще кілька запитань