Citazioni RAG: una risposta corretta può comunque citare prove errate

Cosa aggiunge la ricerca di settembre 2026

Una prestampa del 19 settembre 2026 studia la citazione post-razionalizzazione confrontando un modello ottimizzato per le istruzioni con i relativi agenti RLVR. Riferisce che i premi per le risposte migliori non hanno risolto la fedeltà delle citazioni in quella configurazione. Uno studio meccanicistico separato del 2026 esamina l'attribuzione in un modello e set di dati controllati. Entrambi mettono in guardia dall'equiparare una citazione allegata all'uso di prove dimostrate.

Prova: Post-razionalizzazione attribuibile nelle citazioni RAG: una riproduzione controllata e un confronto RLVR [1]Come citano i LLM? Un'interpretazione meccanicistica dell'attribuzione nella generazione aumentata dal recupero [2]

Separare tre domande di citazione

Il supporto chiede se il testo citato giustifica il reclamo. La copertura chiede se le affermazioni materiali della risposta sono adeguatamente citate. La fedeltà causale chiede se le prove citate hanno influenzato la risposta piuttosto che essere allegate in seguito. I primi due possono spesso essere rivisti dal risultato e dai passaggi. Il terzo è più difficile da stabilire solo dalla trascrizione.

Registra l'autorità e l'ora della fonte come dimensioni separate. Una citazione perfettamente corrispondente da una politica obsoleta può ancora trarre in inganno l'utente. Allo stesso modo, una citazione alla fine di un paragrafo può supportare una frase e lasciare il resto senza supporto. Revisione a livello di reclamo quando tali distinzioni contano.

Costruisci una revisione delle citazioni ispezionabile

Rubrex consiglia di suddividere la risposta in affermazioni materiali e di collegare ciascuna all'esatto passaggio di supporto. Etichettare casi supportati, contraddetti, insufficienti e non valutabili. Conserva abbastanza testo circostante per evitare di considerare una frase isolata come prova. Cattura uno snapshot di origine o una versione stabile ove consentito.

Per un esperimento controllato, altera o rimuovi un passaggio di supporto e confronta la risposta risultante. Tali interventi possono rivelare la dipendenza ma non sono un test causale universale: altri passaggi o conoscenze pregresse possono supportare la stessa affermazione. Documentare le prove alternative prima di interpretare la modifica.

Esempio illustrativo: la data cambia significato

Un assistente afferma che una funzionalità è disponibile per ogni account e si collega a una nota di rilascio. La nota descrive effettivamente la disponibilità per una beta limitata nel mese precedente. Il collegamento si risolve e il nome della funzionalità corrisponde, ma l'affermazione supera le prove.

Un selezionatore utile chiede se il testo citato supporta l'ambito e la data di implementazione, non se la risposta include un URL. L'esperimento correttivo potrebbe richiedere l'estrazione esplicita dell'ammissibilità e della tempistica prima del riepilogo. Confronta la risposta rivista sia sui casi di implementazione limitata che su quelli di disponibilità generale.

Riporta ciò che è stato testato, non un'etichetta di fiducia ampia

Pubblicare separatamente il supporto delle citazioni, la copertura, i conteggi dei riferimenti interrotti e le discrepanze temporali. Mostra esempi di affermazioni non supportate e spiega il processo di revisione. Se l'uso causale non è stato testato, ditelo. Ciò produce una dichiarazione di qualità più difendibile rispetto alla descrizione di una risposta come verificata semplicemente perché contiene riferimenti.

Indagare su un'allucinazione LLM a livello di reclamo

Quando si indaga su un'allucinazione LLM, separare un'affermazione non supportata da un'affermazione supportata da una fonte errata o obsoleta. In un flusso di lavoro RAG, conservare gli esatti passaggi disponibili per il generatore e identificare quale passaggio, se presente, supporta ciascuna affermazione importante. Una stringa a forma di citazione non è una prova sufficiente che l'affermazione derivi dal documento.

Rubrex consiglia di rivedere insieme la domanda, l'affermazione, il passaggio citato, la data della fonte e la correzione richiesta. Se mancano le prove, testare il comportamento di recupero o di astensione; se le prove sono presenti ma utilizzate in modo improprio, testare la fase di generazione della risposta. Mantenere la diagnosi sufficientemente specifica affinché un esperimento di follow-up possa confermarla o rifiutarla.

Domande comuni