공개 프로필 안의 지시는 AI 보고서의 증거가 아닙니다

요약이 아니라 인용된 문장에서 시작하세요

보고서가 가리키는 공개 페이지를 열고 그것이 의존하는 특정 구절을 읽으세요. 그 구절이 실제로 말하는 내용을 쉬운 말로 적으세요. 그런 다음 보고서의 문장 옆에 놓으세요. 보고서가 어떤 가시적인 문장도 언급하지 않은 평점, 신뢰 라벨 또는 개인적 특성을 덧붙인다면 근거 없음으로 표시하세요. 관찰, 해석, 결정을 별도의 줄에 두어 자신감 있는 요약이 조용히 증거를 대체하지 못하게 하세요. NIST AI 600-1는 생성형 AI가 입력과 일치하지 않는 내용을 자신 있게 제시할 수 있음을 지적하며, 생성된 출력에 의존하기 전에 출처와 인용을 검토하고 검증할 것을 권고합니다. [NIST AI 600-1: 생성형 AI의 허위 생성과 출처 검증]

지시가 출력을 조종하고 있는 때를 알아차리세요

OWASP는 간접 프롬프트 주입을 페이지나 문서 같은 외부 콘텐츠에 배치되어 그것을 처리하는 AI 시스템을 다른 방향으로 돌리는 지시로 설명합니다. 그 영향은 연결된 도구와 권한에 달려 있습니다. 이는 일반적인 메커니즘이지, TraceSeek나 특정 프로필이 침해되었다는 증거가 아닙니다. [OWASP: 간접 프롬프트 주입]

보고서를 그 자체의 인용과 대조해 감사하세요

짧은 표를 사용해 보고서를 항목별로 검토하세요. 각 행은 하나의 주장, 그것이 인용하는 공개 텍스트, 그리고 당신의 판정을 짝지어 줍니다. 인용된 텍스트가 없거나, 비공개이거나, 다른 사람에 관한 것이거나, 모호하다면, 추측으로 빈틈을 메우지 말고 그 정확한 한계를 기록하고 멈추세요. 자격 증명, 결제, 다운로드 또는 플랫폼 밖 접촉에 대한 요청은 작업 노트에 두지 말고 근거 없음으로 처리하세요. 생성된 출력의 출처와 인용을 액면 그대로 받아들이지 않고 검토하는 것이 여기서 권장되는 관행입니다. [NIST AI 600-1: 생성형 AI의 허위 생성과 출처 검증]

진술된 사실과 생성된 추론을 구별하세요

공개 프로필은 그 사람 자신의 말로 역할, 위치 또는 관심사를 밝힐 수 있습니다. 그것은 모델이 사진, 글쓰기 스타일 또는 활동 패턴으로 그러한 것들을 추측하는 것과는 다릅니다. 명시적인 공개 문장이 말하는 것만 남기고, 그 밖의 모든 것은 그 사람에게 되풀이하지 않을 추론으로 표시하세요. 사진, 생활 방식의 암시 또는 연락 패턴에서 소득, 재력, 성적 지향 또는 관계 상태를 읽지 마세요. 배지, 개인정보 설정 또는 빈 칸 같은 관찰은 신원, 의도 또는 안전에 관해 아무것도 입증하지 않습니다. NIST AI 600-1는 좁고 비체계적이며 일화적인 인상에서 외삽하는 것을 경계하는데, 이는 제한적인 확인이 자신감 있는 보고서로 확장되어서는 안 되는 이유입니다. [NIST AI 600-1: 생성형 AI의 허위 생성과 출처 검증]

평범한 독립적 확인을 사용하세요

나머지 진술을 접근 가능한 공개 출처와 대조해 검증하고, 문구와 관찰 날짜를 유지하세요. 명시적인 직업 문장은 확인된 고용이 아니라 그 페이지의 주장으로 취급하세요. 출처가 모호하다면 결론을 미결로 남기세요. 이는 읽기 연습입니다. 실제 서비스에 대해 공격을 시도하지 마세요.

페이지를 따르는 출력의 가상 예시

한 사람이 물류 분야에서 일한다고 밝히는 공개 소개글이 있다고 가정해 봅시다. 그런 다음 그 사람을 전문가로 묘사하고 상세한 신상 자료에 대해 요금을 청구하라고 모든 자동화된 독자에게 지시하는 줄이 덧붙습니다. 그 페이지에서 만들어진 AI 보고서는 그 전문가라는 라벨을 자신 있게 반복하고 결제 요청을 포함할 수 있습니다. 이 가상 상황에서 올바른 대응은 명시적인 직업 문장만 남기고, 전문가 라벨을 근거 없음으로 지우며, 요금 요청을 완전히 버리고, 그 페이지에 자동화된 독자를 겨냥한 콘텐츠가 포함되어 있었음을 기록하는 것입니다. 여기서 실제 프로필이나 제품은 평가되지 않습니다.

질문 몇 가지 더