FlavioBlogNotes

Di recente, su LinkedIn, mi sono imbattuto in un post provocatorio: venti domande da porre al vostro “esperto AI” per capire se sa davvero di cosa parla. Tra queste, una in particolare ha catturato la mia attenzione: la numero 6.

Perché l’idea di prendere tutti i miei documenti e istruire un’AI su quei documenti per ottenere risposte precise e puntuali è spesso un’idea sballata?

La mia risposta breve: non è sbagliato a priori. Ma bisogna capire cosa si sta facendo, e soprattutto con quale strumento.

Il malinteso di fondo

Nel mondo AI si tende spesso a ragionare per contrapposizioni nette: Fine Tuning oppure RAG, come se fossero alternative che si escludono a vicenda. Ma la realtà è diversa. Sono strumenti complementari, ciascuno con un ruolo preciso.

Pensatela così: il Fine Tuning insegna al modello come rispondere; la RAG gli dice cosa rispondere.

Fine Tuning: cambiare il comportamento del modello

Quando fate Fine Tuning di un modello — che sia tramite LoRA su piattaforme come Hugging Face, Together AI o direttamente su OpenAI e Google — non state semplicemente “caricando informazioni” nella rete neurale. State modificando il suo comportamento: il tono, lo stile, il modo in cui struttura le risposte, la capacità di aderire a un formato specifico o di seguire le convenzioni del vostro dominio.

Un modello fine-tunato sulle vostre comunicazioni aziendali, ad esempio, imparerà a rispondere con il vostro registro linguistico, a usare la terminologia corretta, a rispettare un certo livello di formalità. Ma — e questo è il punto cruciale — non diventa automaticamente una fonte affidabile di informazioni fattuali sui vostri dati.

Senza una base documentale a cui fare riferimento, il modello fine-tunato può allucinare: vi risponderà nel modo giusto, con il tono giusto, ma con contenuti inventati.

RAG: dare al modello i fatti

La Retrieval-Augmented Generation risolve esattamente questo problema. Attraverso l’ingestion dei vostri documenti aziendali — manuali, procedure, contratti, knowledge base — create un archivio interrogabile. Quando l’utente fa una domanda, il sistema recupera i documenti rilevanti e li fornisce al modello come contesto, insieme alla domanda.

Il modello non deve “ricordare” nulla: legge, comprende e risponde sulla base di ciò che gli viene fornito in quel momento.

Questo approccio ha un vantaggio enorme: se i documenti cambiano, le risposte cambiano con loro. Nessun bisogno di riaddestrare il modello. Aggiornate il documento nella vostra knowledge base e il gioco è fatto.

La vera risposta: integrazione

La combinazione di Fine Tuning e RAG è dove si ottiene il risultato migliore.

Con il Fine Tuning modellate il come: il modello sa parlare come un membro del vostro team, conosce le vostre convenzioni, rispetta il vostro stile.

Con la RAG fornite il cosa: i dati aggiornati, le procedure correnti, le informazioni fattuali che il modello deve usare per costruire le sue risposte.

Il risultato è un sistema che non solo risponde con competenza di dominio, ma lo fa con i dati corretti e aggiornati, minimizzando le allucinazioni.

E l’addestramento sui documenti?

Tornando alla domanda originale: addestrare un’AI sui propri documenti non è un’idea sballata di per sé. Ma è fondamentale capire cosa si intende per “addestrare”:

• Se intendete fare Fine Tuning con documenti statici che non cambiano nel tempo (linee guida di stile, policy consolidate, template di risposta), può funzionare e può essere una scelta ragionevole.
• Se intendete gestire documenti dinamici che vengono aggiornati, aggiunti o rimossi frequentemente, la RAG è la strada giusta.
• Se volete il meglio di entrambi i mondi, integrate le due tecniche: il Fine Tuning per il comportamento, la RAG per il contenuto.

Conclusione

Un prodotto AI di qualità raramente si basa su una singola tecnologia. Come in ogni ambito dello sviluppo software, la soluzione migliore nasce dall’integrazione intelligente di strumenti diversi, ciascuno usato per quello che sa fare meglio.

La prossima volta che qualcuno vi dice che dovete scegliere tra Fine Tuning e RAG, rispondetegli che la domanda giusta non è quale usare, ma come combinarli.