보고서의 두 단서가 두 출처가 아닌 하나의 출처에서 비롯됨

두 번째 문장이 두 번째 출처가 아닌 이유

보고서는 실제보다 더 많이 교차 검증된 것처럼 보일 수 있습니다. 하나의 공개 프로필 페이지가 직업명, 도시, 취미를 언급할 수 있고, 요약은 이를 세 가지 발견처럼 읽히는 세 문장으로 바꿀 수 있습니다. 그것들은 하나의 자료에 근거합니다. 출처가 아니라 문장 수를 세면 여러분이 안다고 생각하는 양이 부풀려집니다. 실용적인 해결책은 출처 독립성 개수입니다: 각 주장마다 그 뒤에 있는 단일 페이지, 게시물 또는 이미지 일치를 명명하고, 그런 다음 보고서 전체를 뒷받침하는 서로 다른 자료가 몇 개인지 세세요. 하나의 자료를 공유하는 두 주장은 하나의 단서가 됩니다. [TraceSeek: 제품 개요 및 운영자가 확인한 기능]

• 보고서의 각 문장을 한 열에, 그 뒤에 있는 특정 공개 자료를 다음 열에 나열하세요.
• 자료를 공유하는 문장을 묶고 각 묶음을 하나의 단서로 다시 쓰세요.
• 문장 수가 아니라 묶음 수를 여러분의 독립적 단서 수로 세세요.

생성된 요약은 의도치 않게 이중으로 셀 수 있음

생성형 도구는 같은 입력을 여러 가지 확신에 찬 방식으로 다시 진술할 수 있으며, 때로는 주어진 자료와 일치하지 않는 결과물을 제시하기도 합니다. 그래서 문장별 출처 확인이 선택이 아니라 필요합니다. 일반적인 AI 위험 지침의 권고는 생성된 결과물을 제시된 틀 그대로 받아들이지 말고 그 뒤의 출처를 검토하고 검증하라는 것입니다. 여기에 적용하면, 모든 문장에 대해 물어야 한다는 뜻입니다: 이의가 제기된다면 나는 정확히 어떤 공개 페이지나 이미지 결과를 가리킬 것인가? 답이 앞 문장과 같은 자료라면, 여러분은 두 겹의 옷을 입은 하나의 단서를 가진 것입니다. 이는 AI 결과물 검증에 관한 일반적 지침이며, 특정 도구가 어떻게 작동하는지에 대한 주장이 아닙니다. [NIST AI 600-1: 생성형 AI의 허위 생성과 출처 검증]

한 쌍을 합치고 확신 낮추기

합치는 것은 단순한 정리가 아닙니다. 두 문장이 하나의 단서로 무너지면 보고서는 겉으로 보이던 확인 하나를 잃으므로, 결합된 결론에 대한 확신은 검증되지 않은 단일 자료가 뒷받침하는 수준으로 떨어져야 합니다. 합쳐진 단서를 발견이 아니라 점검할 질문으로 남기세요. 별개의 페이지가 문장 중 하나를 따로 뒷받침한다면, 그 문장을 다시 분리해 자체 단서로 유지하세요. 합쳐진 자료에 의해서만 뒷받침되거나 이름 붙은 자료가 전혀 없는 것은 무엇이든 독립적인 것이 나타날 때까지 단일 출처 추측으로 분명히 적어야 합니다.

• 합쳐진 단서를 여러 확인을 함축하지 않는 한 문장으로 다시 쓰세요.
• 나중에 읽는 사람이 과대 해석하지 않도록 낮아진 확신을 그 옆에 기록하세요.
• 이름 붙인 공개 자료가 없는 문장은 조용히 삭제하지 말고 단일 출처 추측으로 표시하세요.

공개 조사가 보여 줄 수 있는 것과 보여 줄 수 없는 것

공개 사용자 이름 입력은 일치하는 공개적으로 접근 가능한 소셜 프로필을 드러낼 수 있지만, 범위가 완전하지는 않습니다. 사진 입력은 보이는 텍스트 인식과 이미지 유사성을 활용해 공개 소셜 페이지와 이미지 노출을 찾을 수 있습니다. 발견된 공개 프로필 콘텐츠의 분석은 직업, 소득 또는 관계에 관한 해석을 제공할 수 있으나, 이는 확립된 개인적 사실이 아니라 검증되지 않은 추론입니다. 여기의 어떤 것도 비공개 계정을 우회하거나 완전한 결과를 보장하지 않습니다. 따라서 합쳐진 단서도 여전히 공개 신호일 뿐입니다: 신원, 의도 또는 행위를 확인할 수 없으며, 배지, 일치하는 사진 또는 조용한 프로필은 그중 어느 것도 증명하지 않습니다. [TraceSeek: 제품 개요 및 운영자가 확인한 기능]

문장을 분류하기 위한 가상의 워크시트

가상의 보고서에 네 문장이 포함되어 있다고 가정해 봅시다: 어떤 사람이 물류업에 종사하고, 특정 도시에 살고, 특정 취미를 따르며, 최근에 온라인에서 활동했다는 것입니다. 각각 한 행을 차지합니다. 직업과 도시 문장이 같은 공개 프로필 페이지를 가리킨다면, 그것들은 확신이 낮아진 하나의 단서로 합쳐집니다. 취미 문장이 다른 공개 게시물을 가리킨다면, 그것은 분리되어 유지됩니다. 활동 문장에 추적된 페이지가 없다면, 단일 출처 추측으로 표시된 채 남습니다. 이 시트는 여러분이 직접 만드는 독자 보조 자료이며, 어떤 도구의 화면이나 필드에 대한 설명이 아닙니다.

출처가 누락되었거나, 비공개이거나, 모호할 때

때로는 확인 자체가 실패하기도 합니다. 인용된 페이지가 사라졌거나 비공개이거나 비슷한 이름의 다른 사람에 관한 것일 수 있고, 사진 일치가 너무 모호해 올바른 계정과 연결하기 어려울 수도 있습니다. 그럴 때는 비공개 접근이나 신원 확인의 지름길을 찾기보다 보고서에 정확한 한계를 기록하고 추론을 멈추세요. 멈춘 추론은 출처 확인의 유효한 결과입니다. 좁거나 일화적인 관찰에서 일반화하는 경우에도 마찬가지입니다. 작은 확인 하나로 더 넓은 패턴이 확립되지는 않습니다. 이 한계들을 덮어 두어야 할 빈틈이 아니라 보고서의 일부로 다루세요. [NIST AI 600-1: 생성형 AI의 허위 생성과 출처 검증]

결과를 어떻게 다룰지

공유 출처 문장들을 병합하고 단일 출처 추측에 표시를 한 뒤에는, 보고서에 독립적인 단서 개수를 밝히고 열린 질문을 명시해야 합니다. 병합된 단서가 개인적으로 중요하다면, 하나의 자료 위에 검색 층을 더 쌓기보다 보통은 그 사람에게 직접 물어보는 것이 가장 차분한 다음 단계입니다. 처음부터 끝까지 공개 정보와 자발적으로 공유된 출처만 사용하고, 빈약한 단서를 보강하려고 비공개 기록을 찾지 마세요.

• 보고서는 독립 출처 개수와 단일 출처 추측의 짧은 목록으로 마무리하세요.
• 중요하게 느껴지는 병합된 단서가 있다면, 추가 검색 대신 직접 대화를 계획하세요.

질문 몇 가지 더