AI 보고서의 인용문이 그것이 인용된 주장을 뒷받침합니까?

인용문이 증거와 같지 않은 이유

생성 시스템은 입력과 일치하지 않는 자신감 있는 문구를 제시할 수 있으며, 이것이 AI 출력을 사용할 때 출처 및 인용 검토가 포함되어야 하는 이유입니다. 인용된 구절은 단어의 나열로서는 정확할 수 있지만 그 위에 세워진 문장을 뒷받침하지 못할 수 있습니다. 진짜 질문은 그 단어들이 어딘가에 나타나는지가 아니라 그것들이 나온 구절이 보고서가 주장하는 내용을 말하는지입니다. 인용문을 증거 그 자체가 아니라 공개 페이지로 돌아가는 표시로 취급하세요. [NIST AI 600-1: 생성형 AI의 허위 생성과 출처 검증]

• 비교하기 전까지는 인용문과 주장을 별개의 대상으로 가정하세요.

문장이 아니라 문단을 여세요

인용된 공개 페이지를 찾아 인용문이 문맥 속에서 어디에 있는지 확인하세요. 그 주변의 전체 문단을 읽고, 표현이 불분명하다면 그 위의 섹션 제목도 읽으세요. 누가 말하고 있는지, 무엇이 설명되고 있는지, 그리고 그 구절이 사실, 계획, 가능성 또는 의견을 말하는지 주목하세요. 더 긴 글에서 떼어낸 문장은 종종 그것을 한정하던 조건을 잃습니다.

• 의미가 모호할 때는 인용문 앞뒤로 한 문단씩 읽으세요.
• 페이지 제목과 읽은 날짜를 기록해 두면 그 확인을 다시 할 수 있습니다.

인용문마다 범위 메모를 하나씩 작성하세요

비교가 눈에 보이도록 인용문마다 한 줄을 사용하세요. 아래 표는 범위 메모가 어떻게 작동하는지 보여 줍니다. 표의 항목은 가상의 예시이며, 어떤 실제 페이지나 제품에 관한 발견이 아닙니다.

철회하거나, 좁히거나, 불확실한 상태로 유지하세요

간단한 규칙을 적용하세요. 인용문이 주장을 포괄하면, 그 주장을 해당 출처에 붙여 둡니다. 인용문이 주장보다 좁으면, 주장을 인용된 범위까지 낮추어 다시 쓰거나 초과 부분을 철회합니다. 인용문이 없으면, 독립적인 공개 출처를 찾지 않는 한 주장을 전적으로 철회합니다. 남는 것은 조용히 승격되지 않고 불확실한 상태로 남습니다. AI 보고서는 공개 프로필 내용에서 일, 소득 또는 관계에 관한 해석을 제시할 수도 있습니다. 그것은 검증되지 않은 추론이지 개인적 사실이 아니며, 인용문이 그것을 사실로 바꾸지는 않습니다. [TraceSeek: 제품 개요 및 운영자가 확인한 기능]

• 철회된 주장이 보고서 다른 곳에서 요약 형태로 살아남게 해서는 안 됩니다.
• 불확실한 채로 남은 주장 목록을 짧게 유지해, 확정된 것으로 읽히지 않게 하세요.

출처를 확인할 수 없을 때

일부 인용은 깔끔하게 확인되지 않습니다. 페이지가 사라졌을 수도, 주변 텍스트가 모호할 수도, 인용된 출처가 보고서와 맞지 않을 수도, 인용된 자료가 비공개일 수도 있습니다. 그러한 각 경우에 정확한 한계를 기록하고 추론을 거기서 멈추세요. 다른 수단으로 비공개 페이지를 재구성하려 하지 말고, 출처가 없음을 묵시적 확인으로 취급하지 마세요. 공개 사용자 이름이나 이미지는 공개 프로필 자료로 이어질 수 있지만 범위가 보장되지 않으며, 그곳의 어떤 것도 신원이나 현재 활동을 입증하지 않습니다. [TraceSeek: 제품 개요 및 운영자가 확인한 기능]

• 주장 옆에 한계를 쉬운 말로 적으세요: 페이지 없음, 페이지 비공개, 텍스트 모호, 출처 불일치.
• 인용된 페이지 대신 다른 페이지로 대체하지 말고 멈추세요.

이 구별에 관한 가상의 예

어떤 가상의 보고서가 공개 프로필 소유자가 특정 도시에 산다고 진술하며, 인용된 페이지에서 "북쪽에 기반을 둠"이라는 구절을 인용한다고 가정해 봅시다. 주변 문단이 과거 고용주의 사무실 위치를 설명한다면, 그 인용문은 그 사람이 현재 어디에 사는지에 관한 주장을 포괄하지 않습니다. 올바른 범위 메모는 인용문이 주장보다 좁다는 것이며, 거주지 주장은 철회되거나 불확실한 것으로 표시됩니다. 같은 보고서의 두 번째 주장이 그 프로필에 특정 취미가 나열되어 있다고 말하고 인용된 문단이 그것을 분명히 진술한다면, 그 인용문은 자신의 주장을 포괄하며, 여전히 단일 공개 출처에 묶인 채로 유지될 수 있습니다.

질문 몇 가지 더