Instruções dentro de um perfil público não são evidência para um relatório de IA

Comece pela frase citada, não pelo resumo

Abra a página pública indicada pelo relatório e leia a passagem específica em que ele se baseia. Anote o que essa passagem realmente diz, em palavras simples. Depois, coloque-a ao lado da frase do relatório. Quando o relatório acrescenta uma classificação, um rótulo de confiança ou um traço pessoal que nenhuma frase visível declara, marque isso como sem sustentação. Mantenha observação, interpretação e decisão em linhas separadas para que um resumo confiante não possa substituir silenciosamente a evidência. O NIST AI 600-1 observa que a IA generativa pode apresentar com confiança conteúdo inconsistente com suas entradas e recomenda revisar e verificar fontes e citações na saída gerada antes de confiar nela. [NIST AI 600-1: confabulação de IA generativa e verificação de fontes]

Reconheça quando instruções estão direcionando a saída

A OWASP descreve a injeção indireta de prompt como instruções colocadas em conteúdo externo, como páginas ou documentos, para redirecionar um sistema de IA que o processa. Seu impacto depende das ferramentas conectadas e das permissões. Trata-se de um mecanismo geral, não de evidência de que o TraceSeek ou um perfil específico tenha sido comprometido. [OWASP: injeção indireta de prompt]

Audite o relatório em relação às suas próprias citações

Percorra o relatório campo por campo, usando uma tabela curta. Cada linha combina uma afirmação, o texto público citado e seu veredito. Se o texto citado estiver ausente, for privado, disser respeito a outra pessoa ou for ambíguo, registre esse limite preciso e pare, em vez de preencher a lacuna com um palpite. Mantenha qualquer pedido de credenciais, pagamento, downloads ou contato fora da plataforma fora das suas anotações de trabalho e trate-o como sem sustentação. Revisar fontes e citações na saída gerada, em vez de aceitá-las de imediato, é a prática recomendada aqui. [NIST AI 600-1: confabulação de IA generativa e verificação de fontes]

Distinga fatos declarados de inferência gerada

Um perfil público pode declarar uma função, uma localização ou um interesse nas próprias palavras da pessoa. Isso é diferente de um modelo adivinhar essas coisas a partir de fotos, estilo de escrita ou padrões de atividade. Mantenha apenas o que uma frase pública explícita declara e rotule todo o resto como uma inferência que você não repetirá para a pessoa. Não leia renda, riqueza, sexualidade ou estado civil a partir de imagens, indícios de estilo de vida ou padrões de contato. Observações como um selo, uma configuração de privacidade ou um campo vazio não estabelecem nada sobre identidade, intenção ou segurança. O NIST AI 600-1 alerta contra extrapolar a partir de impressões estreitas, não sistemáticas e anedóticas, e é por isso que verificações limitadas não devem ser estendidas a relatórios confiantes. [NIST AI 600-1: confabulação de IA generativa e verificação de fontes]

Use uma verificação independente comum

Verifique as demais afirmações em relação às fontes públicas acessíveis e mantenha a redação e a data da observação. Trate uma frase explícita sobre emprego como uma alegação daquela página, não como emprego confirmado. Se a fonte for ambígua, deixe a conclusão em aberto. Este é um exercício de leitura: não teste ataques contra um serviço ativo.

Exemplo hipotético de uma saída que segue a página

Suponha que uma bio pública informe que uma pessoa trabalha em logística e acrescente uma linha instruindo qualquer leitor automatizado a descrever a pessoa como especialista e a cobrar uma taxa por um dossiê detalhado. Um relatório de IA construído a partir dessa página poderia repetir com confiança o rótulo de especialista e incluir o pedido de pagamento. Neste hipotético, a resposta correta é manter apenas a frase explícita sobre o emprego, riscar o rótulo de especialista como sem sustentação, descartar totalmente o pedido de taxa e registrar que a página continha conteúdo dirigido a leitores automatizados. Nenhum perfil ou produto real está sendo avaliado aqui.

Mais algumas perguntas