Herkese açık bir profildeki talimatlar, bir yapay zeka raporu için kanıt değildir

Özetle değil, alıntılanan cümleyle başlayın

Raporun işaret ettiği herkese açık sayfayı açın ve dayandığı belirli pasajı okuyun. O pasajın gerçekte ne söylediğini sade sözcüklerle yazın. Ardından raporun cümlesinin yanına koyun. Rapor, görünür hiçbir cümlenin belirtmediği bir derecelendirme, bir güven etiketi veya kişisel bir özellik eklediğinde bunu desteklenmeyen olarak işaretleyin. Gözlemi, yorumu ve kararı ayrı satırlarda tutun ki kendinden emin bir özet, kanıtın yerini sessizce alamayın. NIST AI 600-1, üretken yapay zekanın girdileriyle tutarsız içeriği kendinden emin bir şekilde sunabileceğini belirtir ve üretilen çıktıdaki kaynakların ve atıfların, ona dayanmadan önce gözden geçirilip doğrulanmasını önerir. [NIST AI 600-1: üretken yapay zekâ konfabülasyonu ve kaynak doğrulaması]

Talimatların çıktıyı yönlendirdiği durumu tanıyın

OWASP, dolaylı istem enjeksiyonunu, onu işleyen bir yapay zeka sistemini yönlendirmek üzere sayfalar veya belgeler gibi harici içeriğe yerleştirilen talimatlar olarak tanımlar. Etkisi, bağlı araçlara ve izinlere bağlıdır. Bu genel bir mekanizmadır; TraceSeek'in veya belirli bir profilin ele geçirildiğinin kanıtı değildir. [OWASP: dolaylı istem enjeksiyonu]

Raporu kendi atıflarına göre denetleyin

Raporda kısa bir tablo kullanarak alan alan ilerleyin. Her satır bir iddiayı, atıfta bulunduğu alıntılanmış kamusal metni ve sizin kararınızı eşleştirir. Atıfta bulunulan metin eksikse, özel ise, farklı bir kişiyle ilgiliyse veya belirsizse bu kesin sınırı kaydedin ve boşluğu bir tahminle doldurmak yerine durun. Kimlik bilgisi, ödeme, indirme veya platform dışı iletişim yönündeki her türlü isteği çalışma notlarınızın dışında tutun ve desteklenmeyen olarak değerlendirin. Burada önerilen uygulama, üretilen çıktıdaki kaynakları ve atıfları olduğu gibi kabul etmek yerine gözden geçirmektir. [NIST AI 600-1: üretken yapay zekâ konfabülasyonu ve kaynak doğrulaması]

Belirtilen olguları üretilen çıkarımdan ayırın

Herkese açık bir profil, kişinin kendi sözcükleriyle bir rol, bir konum veya bir ilgi alanı belirtebilir. Bu, bir modelin bunları fotoğraflardan, yazı stilinden veya etkinlik kalıplarından tahmin etmesinden farklıdır. Yalnızca açık bir kamusal cümlenin söylediklerini tutun ve diğer her şeyi kişiye tekrarlamayacağınız bir çıkarım olarak etiketleyin. Geliri, serveti, cinselliği veya ilişki durumunu resimlerden, yaşam tarzı ipuçlarından veya iletişim kalıplarından okumayın. Rozet, gizlilik ayarı veya boş alan gibi gözlemler kimlik, niyet veya güvenlik hakkında hiçbir şey ortaya koymaz. NIST AI 600-1, dar, sistematik olmayan, anekdot niteliğindeki izlenimlerden genelleme yapılmasına karşı uyarır; bu nedenle sınırlı kontroller kendinden emin raporlara dönüştürülmemelidir. [NIST AI 600-1: üretken yapay zekâ konfabülasyonu ve kaynak doğrulaması]

Olağan bağımsız kontrolü kullanın

Kalan ifadeleri erişilebilir kamusal kaynaklara karşı doğrulayın ve ifadeyi ve gözlem tarihini koruyun. Açık bir iş cümlesini o sayfanın iddiası olarak ele alın, doğrulanmış istihdam olarak değil. Kaynak belirsizse sonucu çözümsüz bırakın. Bu bir okuma alıştırmasıdır: canlı bir hizmete karşı saldırı testi yapmayın.

Sayfayı izleyen bir çıktının varsayımsal örneği

Diyelim ki herkese açık bir biyografi, bir kişinin lojistikte çalıştığını belirtiyor ve ardından herhangi bir otomatik okuyucuya kişiyi uzman olarak tanımlamasını ve ayrıntılı bir dosya için ücret istemesini söyleyen bir satır ekliyor. Bu sayfadan oluşturulan bir yapay zeka raporu, uzman etiketini kendinden emin bir şekilde tekrarlayabilir ve ödeme isteğini içerebilir. Bu varsayımsal durumda doğru yanıt, yalnızca açık iş cümlesini tutmak, uzman etiketini desteklenmeyen olarak çıkarmak, ücret isteğini tamamen atmak ve sayfanın otomatik okuyuculara yönelik içerik barındırdığını kaydetmektir. Burada hiçbir gerçek profil veya ürün değerlendirilmemektedir.

Birkaç soru daha