Дві підказки у звіті походять з одного джерела, а не з двох

Чому друге речення не є другим джерелом

Звіт може виглядати більш підтвердженим, ніж він є. Одна публічна сторінка профілю може згадувати посаду, місто й хобі, а підсумок може перетворити це на три речення, що читаються як три знахідки. Вони спираються на один артефакт. Підрахунок речень, а не джерел, завищує те, що ви, на вашу думку, знаєте. Практичне рішення — підрахунок незалежності джерел: для кожного твердження назвіть єдину сторінку, допис чи збіг зображення за ним, а потім порахуйте, скільки різних артефактів підтверджують звіт загалом. Два твердження, що поділяють один артефакт, стають однією підказкою. [TraceSeek: огляд продукту та можливості, підтверджені оператором]

• Перелічіть кожне речення у звіті в одній колонці, а конкретний публічний артефакт за ним — у наступній.
• Згрупуйте речення, що поділяють артефакт, і перепишіть кожну групу як одну підказку.
• Рахуйте групи, а не речення, як кількість ваших незалежних підказок.

Згенеровані підсумки можуть подвоювати підрахунок ненавмисно

Генеративні інструменти можуть переказувати той самий вхідний матеріал кількома впевненими формулюваннями, а іноді подавати результат, що не відповідає наданим їм матеріалам. Це робить перевірку джерел для кожного речення необхідною, а не необов'язковою. Загальна рекомендація щодо ризиків ШІ полягає в тому, щоб переглядати й перевіряти джерела за згенерованим результатом, а не приймати подану рамку. У застосуванні тут це означає запитувати щодо кожного речення: на яку саме публічну сторінку чи результат зображення я вказав би, якби мене запитали? Якщо відповідь — той самий артефакт, що й у попередньому реченні, у вас одна підказка в двох пальтах. Це загальна настанова щодо перевірки результатів ШІ, а не твердження про те, як поводиться якийсь конкретний інструмент. [NIST AI 600-1: вигадування генеративного ШІ та перевірка джерел]

Об'єднання пари та зниження впевненості

Об'єднання — це не просто прибирання. Коли два речення зливаються в одну підказку, звіт втрачає позірне підтвердження, тож ваша впевненість у об'єднаному висновку має впасти до рівня, який підтримує один непідтверджений артефакт. Залишайте об'єднану підказку як питання для перевірки, а не як знахідку. Якщо окрема сторінка окремо підтверджує одне з речень, виділіть це речення назад і залиште його як власну підказку. Усе, що підтверджено лише об'єднаним артефактом або жодним названим артефактом, слід прямо записати як здогад з одного джерела, доки не з'явиться щось незалежне.

• Перепишіть об'єднану підказку одним реченням, яке не передбачає кількох підтверджень.
• Запишіть знижену впевненість поруч, щоб пізніші читачі не перебільшували її значення.
• Позначайте речення без названого публічного артефакту як здогади з одного джерела, а не видаляйте їх мовчки.

Що може показати публічне дослідження, а що — ні

Введення публічного імені користувача може виявити відповідні загальнодоступні соціальні профілі, хоча охоплення не є вичерпним. Введення фото може використовувати розпізнавання видимого тексту й схожість зображень для пошуку публічних соціальних сторінок і появи зображень. Аналіз знайденого вмісту публічного профілю може давати інтерпретації про роботу, дохід чи стосунки, але це неперевірені висновки, а не встановлені особисті факти. Ніщо тут не обходить приватні облікові записи й не гарантує повних результатів. Тож об'єднана підказка все одно є лише публічним сигналом: вона не може підтвердити особу, намір чи поведінку, і бейдж, збіг на фото чи тихий профіль не є доказом жодного з цього. [TraceSeek: огляд продукту та можливості, підтверджені оператором]

Гіпотетична робоча таблиця для сортування речень

Припустімо, гіпотетичний звіт містить чотири речення: що людина працює в логістиці, живе в названому місті, має певне хобі й нещодавно була активна онлайн. Кожне отримує один рядок. Якщо речення про роботу й місто обидва вказують на ту саму публічну сторінку профілю, вони об'єднуються в одну підказку зі зниженою впевненістю. Якщо речення про хобі вказує на інший публічний допис, воно залишається окремим. Якщо речення про активність не має простеженої сторінки, воно залишається позначеним як здогад з одного джерела. Ця таблиця — допоміжний засіб для читача, який ви будуєте самі; це не опис екрана чи полів якогось інструмента.

Коли джерело відсутнє, приватне чи неоднозначне

Іноді сама перевірка зазнає невдачі. Зазначена сторінка може бути видалена, приватна або стосуватися людини зі схожим ім'ям, а збіг за фото може бути надто неоднозначним, щоб прив'язати його до правильного акаунта. Коли це трапляється, зафіксуйте точне обмеження у звіті й зупиніть умовивід, а не тягніться до приватного доступу чи ярликів щодо особи. Зупинений умовивід є законним результатом перевірки джерела. Те саме стосується узагальнень із вузького або поодинокого погляду; невелика перевірка не встановлює ширшої закономірності. Ставтеся до цих обмежень як до частини звіту, а не як до прогалин, які треба замаскувати. [NIST AI 600-1: вигадування генеративного ШІ та перевірка джерел]

Що робити з результатом

Коли ви об'єднали речення зі спільним джерелом і позначили здогади з одним джерелом, звіт має вказати кількість незалежних підказок і назвати свої відкриті питання. Якщо об'єднана підказка особисто для вас важлива, найспокійніший наступний крок зазвичай — запитати людину напряму, а не додавати ще шари пошуку поверх одного артефакту. Увесь час тримайтеся публічної інформації та добровільно наданих джерел і не шукайте приватних записів, щоб підкріпити слабку підказку.

• Завершіть звіт підрахунком незалежних джерел і коротким переліком здогадів з одним джерелом.
• Для будь-якої об'єднаної підказки, що здається важливою, плануйте пряму розмову замість подальшого пошуку.

Ще кілька запитань