Duas pistas em um relatório vêm de uma fonte, não de duas

Por que uma segunda frase não é uma segunda fonte

Um relatório pode parecer mais corroborado do que é. Uma página de perfil pública pode mencionar um cargo, uma cidade e um hobby, e um resumo pode transformar isso em três frases que parecem três descobertas. Elas se apoiam em um único artefato. Contar frases em vez de fontes infla o quanto você acha que sabe. A correção prática é uma contagem de independência de fontes: para cada afirmação, nomeie a única página, publicação ou correspondência de imagem por trás dela e depois conte quantos artefatos distintos sustentam o relatório como um todo. Duas afirmações que compartilham um artefato tornam-se uma pista. [TraceSeek: visão geral do produto e capacidades confirmadas pelo operador]

• Liste cada frase do relatório em uma coluna e o artefato público específico por trás dela na seguinte.
• Agrupe as frases que compartilham um artefato e reescreva cada grupo como uma única pista.
• Conte os grupos, não as frases, como seu número de pistas independentes.

Resumos gerados podem contar em dobro sem querer

Ferramentas generativas podem reformular a mesma entrada de várias maneiras que soam confiantes e, às vezes, apresentar resultados que não correspondem ao material que receberam. Isso torna necessária, e não opcional, uma verificação de fontes frase a frase. A recomendação nas orientações gerais sobre riscos de IA é revisar e verificar as fontes por trás do resultado gerado em vez de aceitar o enquadramento. Aplicado aqui, isso significa perguntar a cada frase: a qual página pública ou resultado de imagem exato eu apontaria se fosse questionado? Se a resposta for o mesmo artefato da frase anterior, você tem uma pista usando dois disfarces. Esta é uma orientação geral sobre verificar resultados de IA, não uma afirmação sobre como qualquer ferramenta específica se comporta. [NIST AI 600-1: confabulação de IA generativa e verificação de fontes]

Fundir um par e reduzir a confiança

Fundir não é apenas arrumar. Quando duas frases se reduzem a uma pista, o relatório perde uma aparente confirmação, então sua confiança na conclusão combinada deve cair para o nível que um único artefato não confirmado sustenta. Mantenha a pista fundida como uma pergunta a verificar, não como uma descoberta. Se uma página distinta sustentar separadamente uma das frases, separe essa frase novamente e mantenha-a como sua própria pista. Qualquer coisa sustentada apenas pelo artefato fundido, ou por nenhum artefato nomeado, deve ser registrada claramente como suposição de fonte única até que algo independente apareça.

• Reescreva a pista fundida em uma frase que não implique múltiplas confirmações.
• Registre a confiança reduzida ao lado dela para que leitores posteriores não a superinterpretem.
• Sinalize frases sem artefato público nomeado como suposições de fonte única em vez de apagá-las silenciosamente.

O que a pesquisa pública pode mostrar, e o que não pode

A entrada de um nome de usuário público pode revelar perfis sociais publicamente acessíveis correspondentes, embora a cobertura não seja exaustiva. A entrada de uma foto pode usar reconhecimento de texto visível e similaridade de imagem para procurar páginas sociais públicas e aparições de imagens. A análise do conteúdo de perfis públicos encontrados pode oferecer interpretações sobre trabalho, renda ou relacionamentos, mas estas são inferências não verificadas, não fatos pessoais estabelecidos. Nada aqui contorna contas privadas nem garante resultados completos. Portanto, uma pista fundida continua sendo apenas um sinal público: ela não pode confirmar identidade, intenção ou conduta, e um selo, uma foto coincidente ou um perfil silencioso não é prova de nenhuma dessas coisas. [TraceSeek: visão geral do produto e capacidades confirmadas pelo operador]

Uma planilha hipotética para classificar as frases

Suponha que um relatório hipotético contenha quatro frases: que uma pessoa trabalha em logística, mora em uma cidade nomeada, segue um hobby específico e esteve ativa online recentemente. Cada uma recebe uma linha. Se as frases sobre trabalho e cidade apontarem para a mesma página de perfil pública, elas se fundem em uma pista com confiança reduzida. Se a frase sobre o hobby apontar para uma publicação pública diferente, ela permanece separada. Se a frase sobre atividade não tiver página rastreada, ela permanece sinalizada como suposição de fonte única. Esta planilha é um recurso de leitura que você mesmo monta; não é a descrição da tela ou dos campos de nenhuma ferramenta.

Quando a fonte está ausente, é privada ou ambígua

Às vezes, a própria verificação falha. A página citada pode ter sido removida, ser privada ou ser sobre alguém com um nome semelhante, ou uma correspondência de foto pode ser ambígua demais para vinculá-la à conta certa. Quando isso acontece, registre o limite exato no relatório e interrompa a inferência em vez de recorrer a acesso privado ou atalhos de identidade. Uma inferência interrompida é um resultado válido de uma verificação de fonte. O mesmo se aplica a generalizar a partir de um olhar restrito ou anedótico; uma verificação pequena não estabelece um padrão mais amplo. Trate esses limites como parte do relatório, não como lacunas a serem encobridas. [NIST AI 600-1: confabulação de IA generativa e verificação de fontes]

O que fazer com o resultado

Depois de mesclar as frases de fonte compartilhada e marcar as suposições de fonte única, o relatório deve declarar sua contagem de pistas independentes e nomear suas questões em aberto. Se uma pista mesclada for importante para você pessoalmente, o próximo passo mais tranquilo costuma ser perguntar diretamente à pessoa em vez de adicionar mais camadas de busca sobre um único artefato. Mantenha-se, do início ao fim, em informações públicas e fontes compartilhadas voluntariamente, e não busque registros privados para reforçar uma pista frágil.

• Encerre o relatório com uma contagem de fontes independentes e uma breve lista de suposições de fonte única.
• Para qualquer pista mesclada que pareça importante, planeje uma conversa direta em vez de continuar buscando.

Mais algumas perguntas