«Vorrei un’AI che risponda sui nostri documenti». È la richiesta più frequente che ricevo, e dietro c’è quasi sempre la stessa tecnica: il RAG. Vale la pena capire come funziona, perché è anche il modo più rapido per accorgersi se nel tuo caso serve davvero o se stai per spendere soldi per risolvere un problema che non hai.
Cosa fa un agente sui documenti
Un modello linguistico non conosce i tuoi documenti: è stato addestrato su testo pubblico e si ferma lì. Se gli chiedi qual è la procedura di reso della tua azienda, o inventa o dice che non lo sa.
Il RAG — retrieval-augmented generation, generazione con recupero — risolve il problema nel modo più semplice possibile: prima cerca nei tuoi documenti i pezzi rilevanti alla domanda, poi li passa al modello insieme alla domanda stessa e gli chiede di rispondere usando solo quelli. Il modello non ha imparato niente di nuovo: sta leggendo un estratto che gli hai messo davanti in quel momento.
Da qui derivano due conseguenze pratiche che contano più di tutto il resto. La prima: aggiornare la conoscenza significa aggiornare i documenti, non riaddestrare nulla. La seconda: il sistema può sempre dirti da quale documento arriva la risposta. Se non cita la fonte, è configurato male.
I quattro passaggi, senza gergo
- 1. SpezzettareI documenti vengono divisi in pezzi di dimensione gestibile. Dove tagli conta: spezzare una tabella a metà o separare una clausola dal suo titolo peggiora tutto quello che viene dopo.
- 2. IndicizzareOgni pezzo viene trasformato in una rappresentazione numerica che permette di cercare per significato e non per parola esatta. Chi chiede «come restituisco un prodotto» trova la procedura di reso.
- 3. RecuperareAlla domanda vengono associati i pezzi più pertinenti. È il passaggio che determina la qualità finale, ed è quello su cui si lavora di più.
- 4. RispondereIl modello scrive la risposta usando quei pezzi e indicando da dove arrivano. Se non trova nulla di pertinente, deve poter dire che non lo sa.
Dove funziona bene
Il RAG dà il meglio quando esiste molto materiale scritto, la risposta è contenuta da qualche parte lì dentro, e il problema è trovarla. Alcuni casi concreti: manuali tecnici e procedure interne che nessuno ha voglia di sfogliare; archivi di contratti su cui bisogna verificare ricorrenze; capitolati e normative di settore; anni di corrispondenza in cui è sepolta la risposta che serve adesso; documentazione di prodotto per chi sta al banco o al telefono.
Il denominatore comune è che oggi qualcuno perde tempo a cercare, e ogni tanto non trova e risponde a memoria.
Quando invece è uno spreco
È la parte che chi ti manda un preventivo tende a saltare.
- I documenti sono pochi. Sotto una certa soglia, una ricerca testuale fatta bene e un indice ordinato costano meno e sbagliano meno.
- La risposta è un dato, non un testo. «Quante fatture ho emesso a marzo» è una domanda per il gestionale, non per un agente sui documenti. Il RAG cerca nel testo, non fa i conti.
- Il materiale è contraddittorio. Se convivono tre versioni della stessa procedura senza che si capisca quale valga, il sistema restituirà con sicurezza quella sbagliata. Il RAG non fa ordine: amplifica il disordine che trova.
- Serve una risposta giuridicamente esatta. Su un parere che deve reggere davanti a terzi, un sistema che «di solito ha ragione» non è utilizzabile senza una verifica umana che costa quanto la ricerca.
Il vero lavoro è sui documenti
Se c’è una cosa che vale la pena portarsi via da questo articolo è che la qualità di un agente sui documenti dipende quasi interamente dalla qualità dei documenti. Un archivio ordinato, con versioni chiare e senza tre copie divergenti dello stesso file, produce un sistema che funziona. Un archivio caotico produce un sistema che risponde con sicurezza cose sbagliate, che è peggio di non averlo.
È il motivo per cui la prima fase di questi progetti non è tecnica. Si guarda cosa c’è, si butta via quello che non vale più, si stabilisce quale versione fa fede. Spesso è già lì che si recupera metà del tempo perso, prima ancora di collegare qualsiasi modello.
Domande frequenti
Il RAG addestra il modello sui miei dati?
No, ed è un vantaggio. I documenti restano in un indice separato che puoi aggiornare o cancellare quando vuoi; il modello li legge al momento della domanda. Se togli un documento dall’indice, sparisce dalle risposte immediatamente.
Può funzionare senza mandare i documenti fuori?
Sì. Sia la parte di ricerca sia il modello possono girare su un server tuo. È la configurazione che uso quando i dati non possono lasciare la sede.
Quanti documenti servono perché abbia senso?
Non c’è una soglia fissa: conta più la frequenza delle domande che il numero dei file. Un archivio piccolo su cui dieci persone cercano ogni giorno giustifica il progetto più di un archivio enorme che qualcuno apre una volta al mese.
Può inventarsi le risposte?
Può, se è configurato male. Un sistema fatto bene cita sempre il pezzo di documento da cui ha tratto la risposta e ammette di non sapere quando non trova nulla di pertinente. La citazione della fonte non è un dettaglio estetico: è il modo con cui verifichi.
Hai un archivio in cui nessuno trova niente?
Raccontami che tipo di documenti sono, quante persone li consultano e cosa cercano di solito. Ti dico se il caso regge o se conviene partire da un riordino.