Сохраняйте неопределённость при каждой находке в отчёте о профиле, составленном ИИ

Начинайте с формулировки источника, а не с вывода

Прежде чем оценивать абзац отчёта, разбейте его на мельчайшие утверждения. Для каждого утверждения процитируйте или близко перескажите точную публичную формулировку источника, стоящую за ним, а затем отметьте, что эта формулировка действительно устанавливает. Публичный профиль, где сказано, что человек работает в компании, устанавливает, что страница отображала этот текст на момент, когда вы её видели. Он не устанавливает текущее трудоустройство, доход или намерения. Именно сопоставление формулировки источника с формулировкой отчёта позволяет увидеть, где незаметно исчезла оговорка. [TraceSeek: обзор продукта и возможности, подтверждённые оператором]

• Прорабатывайте абзац утверждение за утверждением, а не принимайте или отвергайте его целиком.
• Вычеркните всё, что вы не можете проследить до публичного источника, который вы лично проверили.

Назовите точную оговорку, которая была утрачена

Большинство раздутых выводов теряют конкретную оговорку. Частые потери — это неопределённость в том, актуален ли аккаунт, принадлежат ли имя или фото одному и тому же человеку, правдиво ли публичное заявление и полон ли доступный охват. Запишите недостающую оговорку простыми словами, например: страница была видна в эту дату, но статус активности неизвестен, или: текст публичного профиля найден, но не подтверждено, что это тот же человек. Генеративные системы могут уверенно подавать ошибочное содержание и даже выдавать результат, противоречащий собственным входным данным, поэтому беглая фраза отчёта не является доказательством точности. [NIST AI 600-1: конфабуляция генеративного ИИ и проверка источников]

• Помечайте каждое утверждение как одно из трёх: подтверждённый текст публичного источника, непроверенная интерпретация ИИ или нерешённое.

Отделяйте наблюдаемое от предполагаемого

Ведите в записи две колонки: что показывает публичный артефакт и что отчёт просит вас из него заключить. Подтверждённые оператором интерпретации отчёта о работе, доходе и отношениях — это непроверенные выводы, сделанные из публично доступного содержания, а не установленные личные факты. Считайте их предложениями к рассмотрению, а не находками о человеке. Если утверждение о доходе, богатстве, сексуальности или семейном положении опирается на фото, признак образа жизни или модели контактов, отметьте его как неподтверждённое и не переносите дальше. [TraceSeek: обзор продукта и возможности, подтверждённые оператором]

• Переносите каждую интерпретацию ИИ в колонку выводов, даже если она звучит обыденно.
• Отмечайте отсутствие подтверждённых ссылок на источники или отметок времени для каждого утверждения как ограничение охвата, а не как пробел, который нужно заполнить догадками.

Запись неопределённости из трёх колонок

Приведённая ниже таблица — вспомогательное средство для читателя при проверке одного абзаца, а не обещанная функция приложения. Используйте её, чтобы держать формулировку источника, утверждение отчёта и ограничение рядом, а затем договориться об одном нерешённом следующем шаге. Примеры записей гипотетические. Там, где вы не можете назвать публичный источник для утверждения, честная запись — это ограничение и остановка, а не смягчённая догадка.

Проверьте, как были объединены находки

Неопределённость часто сохраняется в каждой отдельной строке, а затем исчезает при объединении строк. Проверяйте предложения, которые соединяют несколько наблюдений словами вроде «подтверждает», «показывает» или «явно». Спросите, содержит ли объединённое предложение какие-либо доказательства, которых не было в отдельных формулировках источников. Глубокий поиск расширяет диапазон доступных публичных источников, но не обходит закрытые аккаунты и не гарантирует полных результатов, поэтому даже отчёт, выглядящий полнее, может опираться на ту же тонкую основу. Широта поиска — не глубина доказательств. [TraceSeek: обзор продукта и возможности, подтверждённые оператором]

• Перепишите любой объединённый вывод как два утверждения: что показал каждый источник и что остаётся неизвестным.

Когда источник отсутствует или неоднозначен

Если исходный источник отсутствует, является приватным, не совпадает или неоднозначен, зафиксируйте именно это ограничение и остановите вывод на этом. Не стремитесь получить приватные записи, не пытайтесь идентифицировать человека по сходству и не формулируйте пробел так, будто он был устранён. Если вы проверяете профиль, который может быть раскрыт вам добровольно, прямой вопрос без обвинений надёжнее, чем следственный сбор сведений. Неразрешённым следующим шагом должно быть что-то вроде того, чтобы просто спросить владельца аккаунта или дождаться датированного публичного обновления, а не числовой оценки уверенности, которой у отчёта никогда не было.

• Завершите предложение аудита точным неразрешённым пунктом и одним соразмерным следующим шагом.

Сверьте отчёт с его собственными источниками

Финальный проход должен сравнить каждый вывод с цитатами или утверждениями источников там, где они есть, и отметить выводы, не имеющие прослеживаемой основы. Общие рекомендации по рискам ИИ советуют проверять и верифицировать источники, а не полагаться на сгенерированный результат как на окончательный. Они также предостерегают от того, чтобы принимать узкие или единичные наблюдения за систематические доказательства. Примените ту же сдержанность к собственному аудиту: одна проверенная страница подтверждает одно проверенное наблюдение, а не окончательное суждение о человеке. [NIST AI 600-1: конфабуляция генеративного ИИ и проверка источников]

• Отметьте каждое предложение, выходящее за пределы своего источника, и понизьте его степень до того, как делиться.
• Храните заполненную запись вместе с отчётом, чтобы ограничения сопутствовали выводам.

Ещё пара вопросов