La citazione in un rapporto AI copre l'affermazione per cui è citata?

Perché una citazione non è la stessa cosa di una prova

Un sistema generativo può presentare una formulazione sicura di sé che non corrisponde ai suoi input, ed è per questo che l'esame delle fonti e delle citazioni rientra in qualsiasi uso dell'output AI. Una frase citata può essere accurata come stringa di parole e tuttavia non sostenere la frase costruita su di essa. La vera domanda non è se le parole compaiano da qualche parte, ma se il passaggio da cui provengono dice ciò che il rapporto afferma. Tratta la citazione come un rimando alla pagina pubblica, non come la prova stessa. [NIST AI 600-1: confabulazione dell'IA generativa e verifica delle fonti]

• Presumi che la citazione e l'affermazione siano oggetti separati finché non le hai confrontate.

Apri il paragrafo, non la frase

Trova la pagina pubblica citata e individua la frase virgolettata nel suo contesto. Leggi l'intero paragrafo che la circonda e, se la formulazione non è chiara, il titolo di sezione che la precede. Annota chi parla, che cosa viene descritto e se il passaggio enuncia un fatto, un piano, una possibilità o un'opinione. Una frase estratta da un passaggio più lungo spesso perde il qualificatore che la limitava.

• Leggi un paragrafo prima e uno dopo la citazione quando il significato è ambiguo.
• Registra il titolo della pagina e la data in cui l'hai letta, così la verifica può essere ripetuta.

Scrivi una nota di ambito per ogni citazione

Usa una sola riga per ogni citazione, così il confronto resta visibile. La tabella qui sotto mostra come funziona una nota di ambito; le voci sono esempi ipotetici, non constatazioni su alcuna pagina o prodotto reale.

Ritira, riduci o mantieni come incerta

Applica una regola semplice. Se la citazione copre l'affermazione, mantieni l'affermazione legata a quella fonte. Se la citazione è più ristretta dell'affermazione, riscrivi l'affermazione entro l'ambito citato oppure ritira l'eccesso. Se la citazione è assente, ritira del tutto l'affermazione a meno che non si trovi una fonte pubblica indipendente. Tutto ciò che resta è incerto anziché essere silenziosamente promosso. Un rapporto generato da intelligenza artificiale può anche offrire interpretazioni su lavoro, reddito o relazioni a partire da contenuti di profili pubblici; si tratta di inferenze non verificate, non di fatti personali, e una citazione non le trasforma in fatti. [TraceSeek: panoramica del prodotto e capacità confermate dall'operatore]

• Non lasciare mai che un'affermazione ritirata sopravviva in forma riassuntiva altrove nel rapporto.
• Tieni un breve elenco delle affermazioni che restano incerte, così non vengono lette come confermate.

Quando la fonte non può essere verificata

Alcune citazioni non si risolveranno in modo netto. La pagina può essere sparita, il testo circostante può essere ambiguo, la fonte citata può non corrispondere al rapporto oppure il materiale citato può essere privato. In ognuno di questi casi, registra il limite preciso e ferma lì l'inferenza. Non cercare di ricostruire una pagina privata con altri mezzi e non trattare una fonte mancante come conferma tacita. Un nome utente o un'immagine pubblica può portare a materiale di profilo pubblico, ma la copertura non è garantita e nulla di ciò che vi si trova prova l'identità o l'attività attuale. [TraceSeek: panoramica del prodotto e capacità confermate dall'operatore]

• Scrivi il limite in parole semplici accanto all'affermazione: pagina assente, pagina privata, testo ambiguo, fonte non corrispondente.
• Fermati anziché sostituire la pagina citata con una diversa.

Un esempio ipotetico della distinzione

Supponi che un rapporto ipotetico affermi che il titolare di un profilo pubblico vive in una determinata città e citi la frase «con base al nord» dalla pagina citata. Se il paragrafo circostante descrive la sede di un datore di lavoro passato, la citazione non copre l'affermazione su dove la persona vive ora. La nota di ambito corretta è che la citazione è più ristretta dell'affermazione, e l'affermazione sulla residenza viene ritirata o segnata come incerta. Se una seconda affermazione nello stesso rapporto dice che il profilo elenca un determinato hobby e il paragrafo citato lo enuncia chiaramente, quella citazione copre la sua affermazione e può restare, pur sempre legata all'unica fonte pubblica.

Ancora un paio di domande