คำสั่งภายในโปรไฟล์สาธารณะไม่ใช่หลักฐานสำหรับรายงานที่สร้างโดย AI

เริ่มจากประโยคที่อ้างอิง ไม่ใช่บทสรุป

เปิดหน้าเว็บสาธารณะที่รายงานชี้ไป และอ่านข้อความเฉพาะที่มันอ้างอิง จดว่าข้อความนั้นกล่าวถึงอะไรจริง ๆ ด้วยถ้อยคำง่าย ๆ จากนั้นวางเทียบกับประโยคของรายงาน เมื่อรายงานเพิ่มการจัดระดับ ป้ายความน่าเชื่อถือ หรือลักษณะเฉพาะบุคคลที่ไม่มีประโยคใดที่มองเห็นได้ระบุไว้ ให้ทำเครื่องหมายว่าไม่มีการสนับสนุน แยกการสังเกต การตีความ และการตัดสินใจไว้ในบรรทัดต่างกัน เพื่อให้บทสรุปที่ดูมั่นใจไม่สามารถแทนที่หลักฐานได้อย่างเงียบ ๆ NIST AI 600-1 ระบุว่า AI เชิงสร้างสรรค์สามารถนำเสนอเนื้อหาที่ไม่สอดคล้องกับข้อมูลนำเข้าได้อย่างมั่นใจ และแนะนำให้ทบทวนและตรวจสอบแหล่งที่มาและการอ้างอิงในผลลัพธ์ที่สร้างขึ้นก่อนจะพึ่งพามัน [NIST AI 600-1: การสร้างข้อมูลเท็จของ AI เชิงสร้างสรรค์และการตรวจสอบแหล่งที่มา]

ตระหนักเมื่อคำสั่งกำลังชี้นำผลลัพธ์

OWASP อธิบายการฉีดพรอมต์ทางอ้อมว่าเป็นคำสั่งที่วางไว้ในเนื้อหาภายนอก เช่น หน้าเว็บหรือเอกสาร เพื่อเบี่ยงเบนระบบ AI ที่ประมวลผลเนื้อหานั้น ผลกระทบขึ้นอยู่กับเครื่องมือที่เชื่อมต่อและสิทธิ์การเข้าถึง นี่คือกลไกทั่วไป ไม่ใช่หลักฐานว่า TraceSeek หรือโปรไฟล์ใดโปรไฟล์หนึ่งถูกบุกรุก [OWASP: การฉีดคำสั่งโดยอ้อม]

ตรวจสอบรายงานเทียบกับการอ้างอิงของมันเอง

ไล่ทีละช่องของรายงานโดยใช้ตารางสั้น ๆ แต่ละแถวจับคู่ข้อกล่าวอ้างหนึ่งข้อ ข้อความสาธารณะที่ยกมาซึ่งมันอ้างอิง และคำตัดสินของคุณ หากข้อความที่อ้างอิงหายไป เป็นส่วนตัว เกี่ยวกับคนอื่น หรือกำกวม ให้บันทึกข้อจำกัดที่แม่นยำนั้นและหยุด แทนที่จะเติมช่องว่างด้วยการเดา เก็บคำขอใด ๆ สำหรับข้อมูลรับรอง การชำระเงิน การดาวน์โหลด หรือการติดต่อนอกแพลตฟอร์ม ออกจากบันทึกการทำงานของคุณ และถือว่าไม่มีการสนับสนุน การทบทวนแหล่งที่มาและการอ้างอิงในผลลัพธ์ที่สร้างขึ้น แทนที่จะรับตามที่เห็น เป็นแนวปฏิบัติที่แนะนำในที่นี้ [NIST AI 600-1: การสร้างข้อมูลเท็จของ AI เชิงสร้างสรรค์และการตรวจสอบแหล่งที่มา]

แยกแยะข้อเท็จจริงที่ระบุไว้ออกจากข้อสรุปที่สร้างขึ้น

โปรไฟล์สาธารณะอาจระบุบทบาท สถานที่ หรือความสนใจด้วยถ้อยคำของเจ้าของโปรไฟล์เอง ซึ่งแตกต่างจากโมเดลที่เดาสิ่งเหล่านั้นจากรูปภาพ สไตล์การเขียน หรือรูปแบบกิจกรรม เก็บไว้เฉพาะสิ่งที่ประโยคสาธารณะที่ชัดเจนระบุ และติดป้ายทุกอย่างอื่นว่าเป็นการตีความที่คุณจะไม่พูดซ้ำกับบุคคลนั้น อย่าตีความรายได้ ความมั่งคั่ง รสนิยมทางเพศ หรือสถานะความสัมพันธ์จากรูปภาพ เบาะแสไลฟ์สไตล์ หรือรูปแบบการติดต่อ การสังเกตอย่างป้าย การตั้งค่าความเป็นส่วนตัว หรือช่องที่ว่างเปล่า ไม่ได้ยืนยันสิ่งใดเกี่ยวกับตัวตน เจตนา หรือความปลอดภัย NIST AI 600-1 เตือนไม่ให้สรุปเกินเลยจากความประทับใจที่แคบ ไม่เป็นระบบ และอิงตัวอย่างเฉพาะ ซึ่งเป็นเหตุผลว่าการตรวจสอบอย่างจำกัดไม่ควรถูกขยายเป็นรายงานที่ดูมั่นใจ [NIST AI 600-1: การสร้างข้อมูลเท็จของ AI เชิงสร้างสรรค์และการตรวจสอบแหล่งที่มา]

ใช้การตรวจสอบอิสระตามปกติ

ตรวจสอบข้อความที่เหลือเทียบกับแหล่งสาธารณะที่เข้าถึงได้ และเก็บถ้อยคำและวันที่สังเกตไว้ ปฏิบัติต่อประโยคเกี่ยวกับงานที่ชัดเจนว่าเป็นข้อกล่าวอ้างของหน้านั้น ไม่ใช่การยืนยันการจ้างงาน หากแหล่งที่มากำกวม ให้คงข้อสรุปไว้โดยไม่ตัดสิน นี่คือแบบฝึกหัดการอ่าน: อย่าทดสอบการโจมตีกับบริการที่ใช้งานจริง

ตัวอย่างสมมติของผลลัพธ์ที่ทำตามหน้าเว็บ

สมมติว่าคำอธิบายโปรไฟล์สาธารณะระบุว่าบุคคลหนึ่งทำงานด้านโลจิสติกส์ แล้วเพิ่มบรรทัดที่สั่งให้ผู้อ่านอัตโนมัติบรรยายบุคคลนั้นว่าเป็นผู้เชี่ยวชาญและเรียกเก็บค่าธรรมเนียมสำหรับแฟ้มข้อมูลโดยละเอียด รายงานที่สร้างโดย AI จากหน้านั้นอาจกล่าวซ้ำป้ายผู้เชี่ยวชาญอย่างมั่นใจและใส่คำขอชำระเงินไว้ ในสมมติฐานนี้ การตอบสนองที่ถูกต้องคือเก็บไว้เฉพาะประโยคเกี่ยวกับงานที่ชัดเจน ขีดป้ายผู้เชี่ยวชาญออกว่าไม่มีการสนับสนุน ทิ้งคำขอค่าธรรมเนียมทั้งหมด และบันทึกว่าหน้านั้นมีเนื้อหาที่มุ่งเป้าไปยังผู้อ่านอัตโนมัติ ไม่มีการประเมินโปรไฟล์หรือผลิตภัณฑ์จริงใด ๆ ในที่นี้

อีกสองสามคำถาม