RAG in azienda, cos'è e come usarlo davvero

Un assistente AI generico sa molte cose, ma non sa nulla della tua azienda: non conosce il tuo manuale tecnico, le tue procedure interne, il tuo catalogo prodotti, i tuoi contratti. Se gli chiedi come funziona il tuo prodotto, ti risponde con informazioni generiche o, peggio, le inventa. Il RAG, retrieval augmented generation, risolve questo problema: è la tecnologia che permette di costruire un assistente che risponde basandosi sui tuoi documenti, non su conoscenze generiche, e sta diventando uno degli strumenti più usati nelle aziende che vogliono risultati concreti.

I limiti che devi conoscere

Vale la pena partire da qui, perché il RAG non è infallibile. Se la risposta giusta non è nei documenti caricati, l'AI non può trovarla: sembra ovvio, ma molte implementazioni falliscono perché ci si aspetta che il sistema risponda a domande per cui semplicemente non ha dati a disposizione. I documenti scannerizzati senza un riconoscimento del testo di qualità, le tabelle complesse, i PDF con layout elaborati sono difficili da indicizzare bene, e la qualità dell'estrazione del testo è un collo di bottiglia spesso sottovalutato in fase di progettazione. Il sistema può sbagliare su domande ambigue o che richiedono un ragionamento complesso su più fonti contemporaneamente: è ottimo per trovare e sintetizzare, meno efficace per ragionare e concludere su problemi complessi che richiedono di collegare informazioni distanti tra loro. E per i documenti molto confidenziali, contratti, dati di clienti, informazioni strategiche, la scelta dell'infrastruttura, cloud oppure on-premise, ha implicazioni serie di privacy e sicurezza che vanno valutate prima di procedere con l'implementazione.

Cosa significa RAG, senza tecnicismi

Il RAG funziona così: l'AI, prima di rispondere, va a cercare le informazioni pertinenti nei documenti aziendali, come un dipendente esperto che sa dove trovare la risposta giusta invece di inventarsela. Si fa una domanda, il sistema cerca nei documenti le parti più rilevanti per quella domanda, le passa all'AI insieme alla domanda originale, e l'AI risponde usando quelle informazioni come base, con la possibilità di citare la fonte esatta. Un approccio alternativo, il fine-tuning, addestra invece un modello direttamente sui propri dati: è costoso, richiede migliaia di euro per un addestramento significativo, è lento, richiede settimane, e diventa obsoleto non appena i dati cambiano perché bisogna riaddestrare tutto da capo. Il RAG non addestra nulla, si aggiornano i documenti nel sistema e il giorno dopo l'AI risponde già con le informazioni nuove: più veloce, più flessibile, molto meno costoso, e per la maggior parte dei casi d'uso aziendali è la scelta giusta.

Come funziona in pratica: i tre passaggi

Il processo, senza entrare nei dettagli tecnici, ha tre fasi. Nell'indicizzazione, i documenti vengono letti, divisi in blocchi di testo, e trasformati in rappresentazioni matematiche che catturano il significato semantico del testo, salvate poi in un database specializzato. Nel recupero, quando arriva una domanda anche questa viene trasformata nello stesso modo, e il sistema cerca nel database i blocchi di testo con significato più vicino alla domanda, trovando i passaggi più rilevanti anche se non contengono le stesse identiche parole della domanda. Nella generazione, i passaggi trovati vengono passati al modello linguistico insieme alla domanda originale, e il modello genera una risposta in linguaggio naturale basata su quei passaggi specifici. Il risultato è un'AI che risponde in modo preciso e verificabile, non generico e potenzialmente inventato.

Casi d'uso concreti nelle aziende italiane

Un'azienda manifatturiera con manuali tecnici di 200 pagine per ogni macchina può dare ai tecnici in campo una risposta in dieci secondi, con riferimento alla pagina esatta del manuale, a una domanda su come sostituire un componente specifico di un modello, riducendo tra il 40 e il 60% il tempo di ricerca e le chiamate all'ufficio tecnico. Un'azienda di software o di servizi con una base di conoscenza di centinaia di articoli di supporto può sostituire un chatbot tradizionale basato su parole chiave, che fallisce non appena il cliente formula la domanda in modo insolito, con un sistema che capisce la domanda in linguaggio naturale e trova la risposta giusta anche con parole diverse, portando il tasso di risoluzione autonoma dal 30-40% tipico dei chatbot tradizionali al 60-75%. I commerciali di un'azienda con un catalogo ampio, prodotti, varianti, configurazioni, prezzi, possono ottenere in pochi secondi la risposta a una domanda che incrocia più parametri tecnici contemporaneamente, invece di cercare manualmente su schede prodotto e listini. E un ufficio HR che riceve ogni settimana le stesse domande su permessi, note spese, politiche di lavoro da remoto può automatizzare queste risposte con un sistema costruito sulle policy aziendali, liberando ore di lavoro ripetitivo.

Cosa serve per implementarlo

La qualità delle risposte dipende prima di tutto dalla qualità dei documenti: documenti ben strutturati, aggiornati e privi di ambiguità producono risposte migliori, mentre un sistema costruito su documenti obsoleti, mal scritti o contraddittori darà risposte di qualità equivalente, quindi prima di implementare vale sempre la pena fare una pulizia dei documenti sorgente, un lavoro poco entusiasmante ma che fa la differenza tra un sistema utile e uno frustrante. Sul piano tecnico servono tre componenti, un modello che trasforma il testo in rappresentazioni matematiche, un database specializzato per salvare e cercare queste rappresentazioni, e un modello linguistico per generare le risposte finali: il costo mensile per un sistema su documenti aziendali di dimensioni medie, tra 500 e 2.000 documenti, varia da 200 a 2.000 euro al mese a seconda dei modelli scelti e del volume di utilizzo, con le soluzioni open-source che riducono i costi ma aumentano la complessità tecnica da gestire internamente. Esistono framework e piattaforme che semplificano molto questo lavoro, alcuni orientati agli sviluppatori, altri pensati come soluzioni cloud gestite, e per chi non ha un team tecnico interno esistono anche soluzioni a basso codice o completamente configurate.

Da dove iniziare

Il modo più rapido per testare il valore del RAG nella propria azienda è un pilota su un corpus di documenti specifico e un caso d'uso chiaro: scegliere un dominio delimitato, il manuale di un prodotto, le domande frequenti del supporto, le policy HR, caricare i documenti, configurare un sistema semplice, far testare le persone che lo userebbero ogni giorno, e misurare quante domande ottengono una risposta utile. Se il tasso di soddisfazione è alto, si ha la prova di concetto per scalare il progetto; se è basso, si è comunque imparato qualcosa di utile sui propri documenti, un'informazione che vale il prezzo del pilota anche quando il risultato non è quello sperato. Se vuoi capire da dove partire nella tua azienda, parliamone.