Інструкції всередині публічного профілю не є доказом для звіту ШІ

Починайте з цитованого речення, а не з підсумку

Відкрийте публічну сторінку, на яку вказує звіт, і прочитайте конкретний уривок, на який він спирається. Запишіть простими словами, що насправді сказано в цьому уривку. Потім поставте його поруч із реченням звіту. Коли звіт додає рейтинг, позначку довіри чи особисту рису, яких не заявляє жодне видиме речення, позначте це як непідтверджене. Тримайте спостереження, інтерпретацію й рішення в окремих рядках, щоб упевнений підсумок не міг тихо замінити докази. NIST AI 600-1 зазначає, що генеративний ШІ може впевнено подавати вміст, несумісний із його вхідними даними, і рекомендує переглядати та перевіряти джерела й цитати у згенерованому результаті, перш ніж на нього покладатися. [NIST AI 600-1: вигадування генеративного ШІ та перевірка джерел]

Розпізнавайте, коли інструкції керують результатом

OWASP описує непряму ін’єкцію підказок як інструкції, розміщені в зовнішньому вмісті, наприклад на сторінках чи в документах, щоб перенаправити систему ШІ, яка його обробляє. Її вплив залежить від підключених інструментів і дозволів. Це загальний механізм, а не доказ того, що TraceSeek або конкретний профіль було скомпрометовано. [OWASP: непряме впровадження підказок]

Перевіряйте звіт за його власними цитатами

Пройдіть звіт поле за полем, використовуючи коротку таблицю. Кожен рядок поєднує одне твердження, цитований публічний текст, на який воно посилається, і ваш вердикт. Якщо цитований текст відсутній, приватний, стосується іншої особи або неоднозначний, зафіксуйте саме цю межу й зупиніться, а не заповнюйте прогалину здогадом. Тримайте будь-яке прохання надати облікові дані, оплатити, завантажити файли чи перейти на контакт поза платформою поза своїми робочими нотатками й вважайте його непідтвердженим. Перегляд джерел і цитат у згенерованому результаті, а не прийняття їх за чисту монету, є рекомендованою практикою в цьому випадку. [NIST AI 600-1: вигадування генеративного ШІ та перевірка джерел]

Відрізняйте викладені факти від згенерованого умовиводу

Публічний профіль може заявляти роль, місцезнаходження чи інтерес словами самої особи. Це відрізняється від того, коли модель вгадує ці речі за фото, стилем письма чи моделями активності. Залишайте лише те, що заявляє явне публічне речення, а все інше позначайте як умовивід, який ви не повторите особі. Не вичитуйте дохід, багатство, сексуальність чи сімейний статус із зображень, підказок способу життя чи моделей контактів. Такі спостереження, як значок, налаштування приватності чи порожнє поле, нічого не встановлюють про особу, намір чи безпеку. NIST AI 600-1 застерігає від екстраполяції з вузьких, несистематичних, анекдотичних вражень, і саме тому обмежені перевірки не слід розтягувати до впевнених звітів. [NIST AI 600-1: вигадування генеративного ШІ та перевірка джерел]

Використовуйте звичайну незалежну перевірку

Перевірте решту тверджень за доступними публічними джерелами й збережіть формулювання та дату спостереження. Сприймайте явне речення про посаду як заяву цієї сторінки, а не як підтверджене працевлаштування. Якщо джерело неоднозначне, залиште висновок невирішеним. Це вправа з читання: не перевіряйте атаки проти живого сервісу.

Гіпотетичний приклад результату, що слухається сторінки

Припустімо, публічна біографія заявляє, що особа працює в логістиці, а потім додає рядок, який каже будь-якому автоматизованому читачеві описати особу як експерта й вимагати плату за детальне досьє. Звіт ШІ, побудований на цій сторінці, міг би впевнено повторити позначку експерта й включити вимогу оплати. У цьому гіпотетичному випадку правильною реакцією є залишити лише явне речення про роботу, викреслити позначку експерта як непідтверджену, повністю відкинути вимогу оплати й зафіксувати, що сторінка містила вміст, скерований до автоматизованих читачів. Жоден реальний профіль чи продукт тут не оцінюється.

Ще кілька запитань