Bir yapay zekâ raporu, profilin söylemediği bir iş, gelir veya ilişki durumunu belirtiyor

Bir yapay zekâ raporu neden sayfanın söylediğinden fazlasını belirtebilir

Üretici araçlar, kendilerine verilen materyalin ötesine geçen veya onunla çelişen akıcı çıktılar üretebilir. NIST'in üretici yapay zekâ profili, sistemlerin hatalı içeriği, girdileriyle tutarsız çıktılar dahil, kendinden emin biçimde sunduğunu açıklar ve insanların bu tür çıktılardaki kaynakları gözden geçirmesini ve doğrulamasını önerir. Bu genel uyarı, bu denetimi yararlı kılan şeydir: rapor güvenilecek bir özet değil, kontrol edilecek bir iddialar kümesidir. Ürün sahibinin yapay zekâ profil analizine ilişkin kendi açıklaması, iş, gelir ve ilişki okumalarını yerleşik kişisel olgular yerine doğrulanmamış çıkarımlar olarak adlandırır; bu nedenle belirtilen sayfa bunları söyleyene kadar bu alanlara da aynı şekilde davranın. [NIST AI 600-1: üretken yapay zekâ konfabülasyonu ve kaynak doğrulaması]

Dört satırlık bir denetim çizelgesi oluşturun

Her alan için bir satır kullanın. İlk sütuna alan adını raporun ifade ettiği biçimde yazın. İkinciye, belirtilen herkese açık sayfadan o alana değinen tam cümleyi yapıştırın veya "eşleşen cümle yok" yazın. Üçüncüde sonucu işaretleyin: desteklenen ifade, çözümlenmemiş veya çizilmiş çıkarım. Dördüncüde, sayfayı ve kontrol ettiğiniz tarihi not edin. Bu, gözlemi, sınırını ve kararınızı tek bir izlenimde birleştirmek yerine görünür biçimde ayrı tutar.

• İfadeleri daha güçlü bir şeye dönüştürerek başka sözcüklerle anlatmak yerine sözcüğü sözcüğüne kopyalayın.
• Gerçekte açtığınız sayfayı kaydedin, onun ikinci elden bir özetini değil.
• Her satırı tarihlendirin, böylece sonraki bir herkese açık değişiklik önceki bir çelişki gibi görünmesin.

Belirtilen sayfanın kendisini okuyun, sonra onu alıntılayın

Her rapor alanı için, mevcut bir kaynak bağlantısı açın ve tam destekleyici ifadeyi arayın. Rapor kullanılabilir bir kaynak sunmuyorsa, o alanı desteksiz bırakın. Alanı belirten bir sayfa bulamıyorsanız, bu eksiklik sizin bulgunuzdur: alan desteksizdir. NIST'in kaynakları doğrulama konusundaki rehberliği bu alışkanlığı destekler; bu, herhangi bir raporun veya aracın test edildiği anlamına gelmez ve bir onay değil, genel bir risk yönetimi gözlemidir. [NIST AI 600-1: üretken yapay zekâ konfabülasyonu ve kaynak doğrulaması]

Üstünü çiz, etiketle ve mesajından çıkar

Bir alanın üstünü çizmek, onu raporun çalışma sürümünden kaldırmak ve sessizce tahmine indirgemeden çıkarım olarak işaretlemek demektir. Üstü çizili bir alan, sanki biliniyormuş gibi kişiye gönderilen bir mesajda yer almamalıdır. Bir şeyi gündeme getirmek istiyorsanız, açık bir soru sorun ve kişinin kendi sözcükleriyle yanıtlamasına izin verin. Üstünü çizmek, neyi tekrarlayacağınıza dair bir karardır; çıkarımın yanlış olduğu iddiası değildir. Yalnızca, atıfta bulunulan genel sayfanın bunu desteklemediği anlamına gelir.

• Raporun ne kadarının çıkarıma dayandığını görebilmek için üstü çizili alanların ayrı bir listesini tutun.
• Mesajları yalnızca desteklenen ifadelerden yazın.
• Kişiden, yerleşik bir gerçekmiş gibi bir çıkarımı doğrulamasını veya reddetmesini istemeyin.

Bir rozetin, durumun veya sessizliğin neyi kanıtlamadığı

Genel bir profil bir öz tanımlamadır, doğrulanmış bir kayıt değildir. Eksik bir ilişki durumu, gizli bir bölüm veya sessiz bir hesap, belirli bir durumun, niyetin veya dürüstlüğün kanıtı değildir. TraceSeek, olası genel profil eşleşmelerini aramak için bir kullanıcı adı, görsel benzerliği veya görünür metni kullanabilir, ancak kapsam kapsamlı değildir ve bu aramalar kişisel gerçekleri bağımsız olarak kanıtlamaz. Her AI yorumunu ifadeye dair bir hipotez olarak ele alın, asla kimlik tespiti veya kanıt olarak değil. [TraceSeek: ürün genel bakışı ve operatör tarafından doğrulanmış yetenekler]

Varsayımsal işlenmiş örnek

Bir raporun bir işi, bir gelir aralığını, bir ilişki durumunu ve mevcut bir şehri listelediğini varsayalım. Her alan için atıfta bulunulan sayfayı açarsınız. Sayfa alanı açıkça belirtiyorsa, onu desteklenen bir ifade olarak tutun. Sayfa sessizse, belirsizse veya o alana değinmiyorsa, üstünü çizin ve çıkarım olarak etiketleyin. Daha sonraki bir mesajda yalnızca desteklenen ifadelere dayanabilir ve çözülmemiş her şey hakkında açık bir soru sorabilirsiniz. Bu örnek varsayımsaldır ve gerçek bir profilden ziyade yöntemi göstermek için sunulmuştur. [TraceSeek: ürün genel bakışı ve operatör tarafından doğrulanmış yetenekler]

Kaynak eksik veya belirsiz olduğunda

Atıfta bulunulan sayfa yoksa, gizliyse, uyuşmuyorsa veya belirsizse, bu kesin sınırı tabloya yazın ve durun. Aynı bilgiye başka bir yoldan ulaşmaya çalışmayın ve belirsiz bir ifadeyi birden çok alanı destekliyormuş gibi değerlendirmeyin. NIST, dar veya anekdot niteliğindeki kontrollerden geniş sonuçlar çıkarılmasına karşı uyarır; bu da boşluğu akla yatkın bir tahminle doldurmak yerine sınırı kaydetmek için bir başka nedendir. Çalışma sayfanız bir okuyucu yardımcısıdır, bir platform kontrolü veya vaat edilen bir özellik değildir. [NIST AI 600-1: üretken yapay zekâ konfabülasyonu ve kaynak doğrulaması]

Birkaç soru daha