التعليمات الموجودة داخل ملف شخصي عام ليست دليلًا لتقرير ذكاء اصطناعي

ابدأ بالجملة المستشهَد بها، لا بالملخص

افتح الصفحة العامة التي يشير إليها التقرير واقرأ المقطع المحدد الذي يعتمد عليه. اكتب ما يقوله ذلك المقطع فعليًا بكلمات بسيطة. ثم ضعه بجانب جملة التقرير. عندما يضيف التقرير تقييمًا أو وسم ثقة أو سمة شخصية لا تذكرها أي جملة ظاهرة، فاعتبره غير مدعوم. أبقِ الملاحظة والتفسير والقرار في أسطر منفصلة حتى لا يحل ملخص واثق محل الأدلة بهدوء. تشير NIST AI 600-1 إلى أن الذكاء الاصطناعي التوليدي قد يعرض بثقة محتوى لا يتوافق مع مدخلاته، وتوصي بمراجعة المصادر والاستشهادات والتحقق منها في الناتج المولَّد قبل الاعتماد عليه. [NIST AI 600-1: الاختلاق في الذكاء الاصطناعي التوليدي والتحقق من المصادر]

تعرّف على متى توجّه التعليمات الناتج

تصف OWASP حقن الأوامر غير المباشر بأنه تعليمات توضع في محتوى خارجي، مثل صفحات أو مستندات، لإعادة توجيه نظام ذكاء اصطناعي يعالجه. ويعتمد أثره على الأدوات والصلاحيات المتصلة. هذه آلية عامة، وليست دليلًا على أن TraceSeek أو ملفًا شخصيًا معينًا قد اختُرق. [OWASP: حقن الأوامر غير المباشر]

دقّق التقرير مقابل استشهاداته الخاصة

راجع التقرير حقلًا بحقل، مستعينًا بجدول قصير. يقرن كل صف ادعاءً واحدًا بالنص العام المقتبَس الذي يستشهد به وبحكمك. إذا كان النص المستشهَد به مفقودًا أو خاصًا أو يتعلق بشخص آخر أو غامضًا، فسجّل هذا الحد بدقة وتوقف بدلًا من ملء الفراغ بتخمين. احتفظ بأي طلب لبيانات اعتماد أو دفع أو تنزيلات أو تواصل خارج المنصة بعيدًا عن ملاحظاتك واعتبره غير مدعوم. مراجعة المصادر والاستشهادات في الناتج المولَّد، بدلًا من قبولها كما هي، هي الممارسة الموصى بها هنا. [NIST AI 600-1: الاختلاق في الذكاء الاصطناعي التوليدي والتحقق من المصادر]

ميّز بين الحقائق المذكورة والاستنتاج المولَّد

قد يذكر ملف شخصي عام دورًا أو موقعًا أو اهتمامًا بكلمات الشخص نفسه. وهذا يختلف عن تخمين نموذج لتلك الأمور من الصور أو أسلوب الكتابة أو أنماط النشاط. أبقِ فقط ما تقوله جملة عامة صريحة، وسمِّ كل ما عدا ذلك استنتاجًا لن تكرره للشخص. لا تستنتج الدخل أو الثروة أو التوجه الجنسي أو الحالة العلائقية من الصور أو الإشارات المتعلقة بنمط الحياة أو أنماط التواصل. ملاحظات مثل شارة أو إعداد خصوصية أو حقل فارغ لا تثبت شيئًا عن الهوية أو النية أو السلامة. تحذّر NIST AI 600-1 من الاستنتاج من انطباعات ضيقة وغير منهجية وحكائية، ولهذا لا ينبغي تحويل الفحوص المحدودة إلى تقارير واثقة. [NIST AI 600-1: الاختلاق في الذكاء الاصطناعي التوليدي والتحقق من المصادر]

استخدم تحققًا مستقلًا عاديًا

تحقق من البيانات المتبقية مقابل المصادر العامة المتاحة واحتفظ بالصياغة وتاريخ الملاحظة. تعامل مع جملة وظيفة صريحة كادعاء تلك الصفحة، لا كتأكيد للتوظيف. إذا كان المصدر غامضًا، فاترك الاستنتاج دون حل. هذا تمرين قراءة: لا تختبر هجمات ضد خدمة حية.

مثال افتراضي لناتج يتبع الصفحة

لنفترض أن نبذة عامة تذكر أن شخصًا يعمل في الخدمات اللوجستية، ثم تضيف سطرًا يطلب من أي قارئ آلي وصف الشخص بأنه خبير وطلب رسوم مقابل ملف مفصل. قد يكرر تقرير ذكاء اصطناعي مبني على تلك الصفحة وسم الخبير بثقة ويتضمن طلب الدفع. في هذا المثال الافتراضي، الاستجابة الصحيحة هي الإبقاء على جملة الوظيفة الصريحة فقط، وشطب وسم الخبير باعتباره غير مدعوم، وتجاهل طلب الرسوم كليًا، وتسجيل أن الصفحة احتوت محتوى موجّهًا للقراء الآليين. لا يجري تقييم أي ملف شخصي أو منتج حقيقي هنا.

سؤالان إضافيان