Le istruzioni dentro un profilo pubblico non sono prove per un report di intelligenza artificiale

Parti dalla frase citata, non dal riassunto

Apri la pagina pubblica indicata dal report e leggi il passaggio specifico su cui si basa. Scrivi con parole semplici ciò che quel passaggio dice effettivamente. Poi mettilo accanto alla frase del report. Quando il report aggiunge una valutazione, un'etichetta di affidabilità o un tratto personale che nessuna frase visibile afferma, segnalalo come non supportato. Tieni osservazione, interpretazione e decisione su righe separate, così un riassunto sicuro di sé non può sostituire silenziosamente le prove. NIST AI 600-1 osserva che l'intelligenza artificiale generativa può presentare con sicurezza contenuti incoerenti con i suoi input e raccomanda di rivedere e verificare fonti e citazioni nell'output generato prima di farvi affidamento. [NIST AI 600-1: confabulazione dell'IA generativa e verifica delle fonti]

Riconosci quando le istruzioni stanno orientando l'output

OWASP descrive l'iniezione indiretta di prompt come istruzioni inserite in contenuti esterni, come pagine o documenti, per dirottare un sistema di intelligenza artificiale che li elabora. Il suo impatto dipende dagli strumenti collegati e dai permessi. Si tratta di un meccanismo generale, non di una prova che TraceSeek o un particolare profilo sia stato compromesso. [OWASP: iniezione indiretta di prompt]

Verifica il report rispetto alle sue stesse citazioni

Esamina il report campo per campo, usando una tabella breve. Ogni riga abbina un'affermazione, il testo pubblico citato tra virgolette e il tuo giudizio. Se il testo citato manca, è privato, riguarda una persona diversa o è ambiguo, annota quel limite preciso e fermati invece di colmare la lacuna con una supposizione. Tieni fuori dalle tue note di lavoro qualsiasi richiesta di credenziali, pagamenti, download o contatti fuori piattaforma e trattala come non supportata. Rivedere fonti e citazioni nell'output generato, invece di accettarle sulla fiducia, è la pratica raccomandata in questo caso. [NIST AI 600-1: confabulazione dell'IA generativa e verifica delle fonti]

Distingui i fatti dichiarati dalle inferenze generate

Un profilo pubblico può dichiarare un ruolo, una località o un interesse con le parole stesse della persona. Questo è diverso da un modello che li indovina dalle foto, dallo stile di scrittura o dai modelli di attività. Conserva solo ciò che afferma una frase pubblica esplicita ed etichetta tutto il resto come un'inferenza che non ripeterai alla persona. Non dedurre reddito, ricchezza, sessualità o stato relazionale dalle immagini, dagli indizi sullo stile di vita o dai modelli di contatto. Osservazioni come un badge, un'impostazione sulla privacy o un campo vuoto non stabiliscono nulla sull'identità, sulle intenzioni o sulla sicurezza. NIST AI 600-1 mette in guardia dall'estrapolare da impressioni limitate, non sistematiche e aneddotiche, ed è per questo che le verifiche limitate non vanno estese fino a diventare report sicuri di sé. [NIST AI 600-1: confabulazione dell'IA generativa e verifica delle fonti]

Usa un'ordinaria verifica indipendente

Verifica le affermazioni rimanenti rispetto alle fonti pubbliche accessibili e conserva la formulazione e la data dell'osservazione. Tratta una frase esplicita sul lavoro come un'affermazione di quella pagina, non come un impiego confermato. Se la fonte è ambigua, lascia la conclusione irrisolta. Questo è un esercizio di lettura: non testare attacchi contro un servizio attivo.

Esempio ipotetico di un output che segue la pagina

Supponi che una bio pubblica affermi che una persona lavora nella logistica, poi aggiunga una riga che dice a qualsiasi lettore automatizzato di descrivere la persona come esperta e di chiedere una somma per un dossier dettagliato. Un report di intelligenza artificiale costruito da quella pagina potrebbe ripetere con sicurezza l'etichetta di esperta e includere la richiesta di pagamento. In questo esempio ipotetico, la risposta corretta è conservare solo la frase esplicita sul lavoro, eliminare l'etichetta di esperta come non supportata, scartare del tutto la richiesta di pagamento e annotare che la pagina conteneva contenuti rivolti ai lettori automatizzati. Qui non viene valutato alcun profilo o prodotto reale.

Ancora un paio di domande