सार्वजनिक प्रोफ़ाइल के भीतर दिए निर्देश किसी AI रिपोर्ट के लिए साक्ष्य नहीं हैं

सारांश से नहीं, उद्धृत वाक्य से शुरू करें

रिपोर्ट जिस सार्वजनिक पृष्ठ का जिक्र करती है उसे खोलें और उस विशिष्ट अनुच्छेद को पढ़ें जिस पर वह निर्भर है। उस अनुच्छेद में वास्तव में जो कहा गया है, उसे सरल शब्दों में लिखें। फिर उसे रिपोर्ट के वाक्य के साथ रखें। जब रिपोर्ट कोई ऐसी रेटिंग, भरोसे का लेबल या व्यक्तिगत विशेषता जोड़ती है जो किसी दृश्य वाक्य में नहीं कही गई, तो उसे असमर्थित के रूप में चिह्नित करें। अवलोकन, व्याख्या और निर्णय को अलग-अलग पंक्तियों में रखें ताकि कोई आत्मविश्वासी सारांश चुपचाप साक्ष्य की जगह न ले सके। NIST AI 600-1 इंगित करता है कि जनरेटिव AI अपने इनपुट के विपरीत सामग्री को भी आत्मविश्वास से प्रस्तुत कर सकता है, और सलाह देता है कि जनरेट किए गए आउटपुट पर निर्भर करने से पहले उसके स्रोतों और उद्धरणों की समीक्षा और सत्यापन करें। [NIST AI 600-1: जनरेटिव AI का गढ़ा हुआ सूचना देना और स्रोत सत्यापन]

पहचानें कि कब निर्देश आउटपुट को दिशा दे रहे हैं

OWASP अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन को बाहरी सामग्री, जैसे पृष्ठों या दस्तावेज़ों, में रखे गए निर्देशों के रूप में वर्णित करता है, जो उस सामग्री को संसाधित करने वाले AI सिस्टम को दिशा देते हैं। इसका प्रभाव जुड़े टूल्स और अनुमतियों पर निर्भर करता है। यह एक सामान्य तंत्र है, इस बात का साक्ष्य नहीं कि TraceSeek या कोई विशेष प्रोफ़ाइल समझौता किया गया है। [OWASP: अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन]

रिपोर्ट का उसके ही उद्धरणों के आधार पर ऑडिट करें

एक छोटी तालिका का उपयोग करके रिपोर्ट को फ़ील्ड-दर-फ़ील्ड देखें। प्रत्येक पंक्ति में एक दावा, उसका उद्धृत सार्वजनिक पाठ, और आपका निर्णय जोड़ें। यदि उद्धृत पाठ अनुपस्थित है, निजी है, किसी अन्य व्यक्ति के बारे में है या अस्पष्ट है, तो उस सटीक सीमा को दर्ज करें और अनुमान से उस अंतराल को भरने के बजाय रुक जाएँ। क्रेडेंशियल, भुगतान, डाउनलोड या प्लेटफ़ॉर्म से बाहर संपर्क के किसी भी अनुरोध को अपने कार्य-नोट्स से बाहर रखें और उसे असमर्थित मानें। जनरेट किए गए आउटपुट में स्रोतों और उद्धरणों की समीक्षा करना, उन्हें ज्यों का त्यों स्वीकार करने के बजाय, यहाँ अनुशंसित प्रक्रिया है। [NIST AI 600-1: जनरेटिव AI का गढ़ा हुआ सूचना देना और स्रोत सत्यापन]

कथित तथ्यों और जनरेट किए गए अनुमान में अंतर करें

कोई सार्वजनिक प्रोफ़ाइल व्यक्ति के अपने शब्दों में कोई भूमिका, स्थान या रुचि बता सकती है। यह इससे अलग है कि कोई मॉडल इन चीज़ों का अनुमान फ़ोटो, लेखन शैली या गतिविधि पैटर्न से लगाए। केवल वही रखें जो स्पष्ट सार्वजनिक वाक्य कहता है, और बाकी सब को ऐसा अनुमान बताएँ जिसे आप व्यक्ति को नहीं दोहराएँगे। तस्वीरों, जीवनशैली के संकेतों या संपर्क पैटर्न से आय, संपत्ति, यौनिकता या संबंध स्थिति का अर्थ न निकालें। बैज, कोई गोपनीयता सेटिंग या कोई खाली फ़ील्ड जैसे अवलोकन पहचान, मंशा या सुरक्षा के बारे में कुछ सिद्ध नहीं करते। NIST AI 600-1 संकीर्ण, गैर-व्यवस्थित, किस्सागत छापों से अटकलें लगाने के विरुद्ध सचेत करता है, इसलिए सीमित जाँचों को आत्मविश्वासी रिपोर्टों तक नहीं खींचना चाहिए। [NIST AI 600-1: जनरेटिव AI का गढ़ा हुआ सूचना देना और स्रोत सत्यापन]

सामान्य स्वतंत्र जाँच का उपयोग करें

शेष कथनों को सुलभ सार्वजनिक स्रोतों के विरुद्ध सत्यापित करें और उनका शब्द-प्रयोग तथा अवलोकन की तारीख सुरक्षित रखें। किसी स्पष्ट नौकरी-वाक्य को उस पृष्ठ का दावा मानें, पुष्ट रोज़गार नहीं। यदि स्रोत अस्पष्ट है, तो निष्कर्ष को अनसुलझा छोड़ें। यह एक पठन अभ्यास है: किसी लाइव सेवा पर हमले न परखें।

पृष्ठ का पालन करने वाले आउटपुट का काल्पनिक उदाहरण

मान लें कि कोई सार्वजनिक बायो बताता है कि व्यक्ति लॉजिस्टिक्स में काम करता है, फिर एक पंक्ति जोड़ता है जो किसी भी स्वचालित पाठक को कहती है कि व्यक्ति को विशेषज्ञ बताया जाए और विस्तृत डोज़ियर के लिए शुल्क माँगा जाए। उस पृष्ठ से बनी कोई AI रिपोर्ट आत्मविश्वास से विशेषज्ञ लेबल दोहरा सकती है और भुगतान अनुरोध शामिल कर सकती है। इस काल्पनिक स्थिति में, सही प्रतिक्रिया यह है कि केवल स्पष्ट नौकरी-वाक्य रखा जाए, विशेषज्ञ लेबल को असमर्थित बताकर हटाया जाए, शुल्क अनुरोध को पूरी तरह छोड़ा जाए, और दर्ज किया जाए कि पृष्ठ में स्वचालित पाठकों को लक्षित सामग्री थी। यहाँ किसी वास्तविक प्रोफ़ाइल या उत्पाद का आकलन नहीं किया जा रहा है।

कुछ और सवाल