Инструкции внутри публичного профиля не являются доказательством для отчёта ИИ

Начните с цитируемого предложения, а не с резюме

Откройте публичную страницу, на которую ссылается отчёт, и прочитайте конкретный фрагмент, на который он опирается. Запишите простыми словами, что на самом деле говорится в этом фрагменте. Затем поставьте его рядом с предложением из отчёта. Когда отчёт добавляет оценку, ярлык доверия или личностную черту, которых нет ни в одном видимом предложении, отметьте это как необоснованное. Держите наблюдение, интерпретацию и решение на отдельных строках, чтобы уверенное резюме не могло незаметно подменить доказательства. NIST AI 600-1 отмечает, что генеративный ИИ может уверенно выдавать содержание, не соответствующее его входным данным, и рекомендует проверять источники и цитаты в сгенерированном результате, прежде чем на него полагаться. [NIST AI 600-1: конфабуляция генеративного ИИ и проверка источников]

Распознавайте, когда инструкции управляют результатом

OWASP описывает косвенную инъекцию подсказок как инструкции, размещённые во внешнем содержимом, например на страницах или в документах, чтобы перенаправить обрабатывающую их систему ИИ. Её воздействие зависит от подключённых инструментов и разрешений. Это общий механизм, а не доказательство того, что TraceSeek или конкретный профиль были скомпрометированы. [OWASP: косвенная инъекция запросов]

Сверьте отчёт с его собственными ссылками

Разберите отчёт поле за полем, используя небольшую таблицу. В каждой строке — одно утверждение, цитируемый публичный текст, на который оно ссылается, и ваш вердикт. Если цитируемый текст отсутствует, является приватным, относится к другому человеку или неоднозначен, зафиксируйте именно это ограничение и остановитесь, а не заполняйте пробел догадкой. Любые просьбы об учётных данных, оплате, загрузке файлов или контакте вне платформы держите вне своих рабочих заметок и считайте их необоснованными. Проверка источников и цитат в сгенерированном результате, а не принятие их на веру, — рекомендуемая здесь практика. [NIST AI 600-1: конфабуляция генеративного ИИ и проверка источников]

Отделяйте заявленные факты от сгенерированных выводов

Публичный профиль может указывать роль, местоположение или интерес словами самого человека. Это отличается от того, когда модель угадывает это по фото, стилю письма или характеру активности. Оставляйте только то, что сказано в явном публичном предложении, а всё остальное помечайте как вывод, который вы не станете повторять человеку. Не выводите доход, богатство, сексуальность или семейный статус из изображений, намёков на образ жизни или характера контактов. Такие наблюдения, как значок, настройка приватности или пустое поле, ничего не доказывают о личности, намерениях или безопасности. NIST AI 600-1 предостерегает от экстраполяции по узким, несистематическим, единичным впечатлениям, поэтому ограниченные проверки не следует растягивать до уверенных отчётов. [NIST AI 600-1: конфабуляция генеративного ИИ и проверка источников]

Используйте обычную независимую проверку

Проверьте оставшиеся утверждения по доступным публичным источникам и сохраните формулировку и дату наблюдения. Явное предложение о работе считайте утверждением этой страницы, а не подтверждённой занятостью. Если источник неоднозначен, оставьте вывод нерешённым. Это упражнение в чтении: не проверяйте атаки на работающий сервис.

Гипотетический пример результата, следующего за страницей

Предположим, в публичной биографии сказано, что человек работает в логистике, а затем добавлена строка, предписывающая любому автоматизированному читателю описывать человека как эксперта и запрашивать плату за подробное досье. Отчёт ИИ, построенный по этой странице, может уверенно повторить ярлык эксперта и включить требование оплаты. В этом гипотетическом случае правильная реакция — оставить только явное предложение о работе, отбросить ярлык эксперта как необоснованный, полностью отказаться от требования оплаты и зафиксировать, что страница содержала контент, адресованный автоматизированным читателям. Никакой реальный профиль или продукт здесь не оценивается.

Ещё пара вопросов