Cos'è il fine-tuning di un LLM e quando conviene in azienda

Il fine-tuning è uno di quei termini che circolano molto quando si parla di AI in azienda, spesso con aspettative sbagliate. C'è chi lo considera la soluzione definitiva per personalizzare l'intelligenza artificiale, chi lo teme come un'operazione costosissima e chi semplicemente non sa quando convenga rispetto alle alternative. Questa guida spiega cosa significa davvero, quando è la scelta giusta e, soprattutto, quando non lo è.

Cosa significa fare fine-tuning

Un modello linguistico, nel primo addestramento, viene esposto a enormi quantità di testo generico: libri, articoli, codice, siti web. Ne esce un modello capace di fare moltissime cose, ma senza una specializzazione particolare. Il fine-tuning è una fase di addestramento aggiuntiva in cui il modello viene esposto a esempi specifici, di solito coppie di domanda e risposta attesa, per affinarne il comportamento su un tipo di compito o su un settore: i parametri del modello vengono modificati in base a questi esempi. In pratica, se vuoi che il modello risponda sempre con un certo tono, usi una terminologia precisa, segua un formato rigoroso o gestisca bene domande di un settore molto tecnico, il fine-tuning può aiutare.

Quando conviene, e quando no

Ci sono casi in cui il fine-tuning dà un valore che le alternative non replicano facilmente: quando servono stile e tono molto specifici, con il modello che deve scrivere esattamente come il marchio, usare la terminologia interna ed evitare intere categorie di risposte, un traguardo che le istruzioni non raggiungono ma il fine-tuning sì; nei settori molto specialistici, come medico, legale o ingegneristico, dove i modelli generalisti sono meno precisi; nei compiti ripetitivi con formato rigido, come estrarre dati sempre nello stesso schema o classificare i ticket in categorie fisse, dove il fine-tuning aumenta coerenza e velocità; e per i costi su larga scala, dato che un modello piccolo addestrato su un compito specifico può costare molto meno di un grande modello usato via API per milioni di chiamate.

Nella maggior parte dei casi aziendali, però, il fine-tuning non è la prima cosa da fare, e spesso non serve affatto. Se il problema è accedere ai dati aziendali, il fine-tuning non risolve nulla, perché i parametri di un modello non sono un database, e per far conoscere al modello i tuoi documenti serve la RAG. Se il problema è il formato delle risposte, spesso basta un prompt scritto bene, più rapido, più flessibile e del tutto reversibile. Se i dati cambiano spesso, il fine-tuning va rifatto ogni volta, mentre la RAG si aggiorna aggiungendo documenti, con una dinamica dei costi molto diversa. E se non hai esempi di qualità, il fine-tuning dà risultati scadenti o addirittura peggiora il modello, perché costruire un buon insieme di esempi richiede tempo e competenza.

Fine-tuning e RAG: due problemi diversi

La distinzione è importante perché le due tecniche risolvono problemi diversi. La RAG porta informazioni al modello nel momento della risposta: non lo modifica, gli dà accesso a dati specifici, ed è la scelta giusta quando il modello deve sapere cosa c'è nei tuoi documenti. Il fine-tuning cambia il comportamento del modello: è la scelta giusta quando il modello deve rispondere in un certo modo, con un certo stile, su un certo tipo di compito. Un esempio: se vuoi un assistente che usi sempre il linguaggio tecnico del settore farmaceutico, con formati precisi e senza approssimazioni, il fine-tuning può insegnargli questo comportamento; se vuoi che conosca il tuo catalogo, è meglio la RAG. Le due tecniche non si escludono, e in alcuni sistemi si usano insieme, un modello adattato al settore più la RAG per i dati aggiornati.

Il rischio di dimenticare, e come si fa in pratica

C'è un problema specifico da conoscere prima di iniziare: il cosiddetto oblio catastrofico. Addestrando un modello su dati nuovi, può "dimenticare" capacità che aveva prima: un modello addestrato su documentazione tecnica molto specifica può perdere fluidità nelle risposte generali o gestire peggio certi ragionamenti. Non è inevitabile: le tecniche moderne, come LoRA (Low-Rank Adaptation), lo attenuano addestrando solo una piccola parte dei parametri invece di tutti. Ma il rischio è reale, e per questo un fine-tuning fatto bene prevede sempre una valutazione sistematica anche su compiti diversi da quello per cui si è addestrato il modello.

Oggi il fine-tuning è più accessibile di qualche anno fa, ma richiede ancora competenze tecniche e scelte non banali. I passaggi principali sono preparare gli esempi, un insieme di coppie di domanda e risposta di alta qualità, in genere da alcune centinaia a qualche migliaio; scegliere la tecnica, addestramento completo oppure varianti leggere come LoRA e QLoRA, in base a risorse e obiettivi; addestrare il modello su infrastrutture con GPU; valutare i risultati sul compito specifico e su compiti diversi; e iterare, correggendo gli esempi e ripetendo. Alcuni fornitori, come OpenAI, offrono il fine-tuning via API senza dover gestire infrastrutture proprie; per i modelli aperti come Llama servono invece server cloud o in sede con GPU adeguate. I costi variano moltissimo in base alla dimensione del modello, alla quantità di dati e ai cicli di addestramento: non è un'operazione da improvvisare.

Per la maggior parte delle aziende la sequenza logica è semplice: prima si prova il modello di base con buone istruzioni; se non basta, si aggiunge la RAG per dare accesso ai dati; solo se ancora non basta si valuta il fine-tuning, per i comportamenti che non si ottengono in altro modo. È uno strumento potente, ma costoso, da mantenere nel tempo e con rischi propri: usarlo prima di aver esaurito le alternative più semplici è quasi sempre un errore. Se vuoi capire quale approccio serve al tuo caso, parliamone.