Come collegare LLM ai database aziendali

Un responsabile commerciale chiede: “Quali clienti hanno ridotto gli ordini negli ultimi tre mesi e quali trattative aperte meritano attenzione?”. Un LLM può comprendere la domanda, ma senza dati aggiornati dal CRM e dall’ERP produrrà solo una risposta plausibile. Capire come collegare LLM ai database significa quindi progettare un sistema che trasformi una richiesta in una consultazione autorizzata, verificabile e utile al processo.

Non basta consegnare a un modello linguistico credenziali SQL o incollare il contenuto di tabelle in un prompt. Quella scorciatoia espone dati sensibili, genera query fragili e non offre alcuna garanzia sul risultato. In ambito aziendale, il collegamento deve diventare parte di un’architettura controllata: il modello interpreta l’intento, un livello applicativo applica regole e permessi, il database restituisce solo ciò che è consentito e il sistema mostra fonti, limiti e azioni eseguite.

Come collegare LLM ai database: il principio corretto

Un LLM non è un motore di database e non dovrebbe sostituirlo. È un componente di ragionamento linguistico: interpreta richieste non strutturate, sceglie strumenti disponibili, sintetizza risultati e dialoga con l’utente. La precisione numerica, l’integrità transazionale e le autorizzazioni restano responsabilità dei sistemi informativi aziendali.

La separazione dei ruoli è ciò che rende l’AI utilizzabile in produzione. Il database rimane la fonte di verità. Un layer di integrazione espone funzioni circoscritte, ad esempio recuperare fatturato per periodo, verificare disponibilità di magazzino o cercare ticket aperti. L’agente AI usa tali funzioni entro policy definite, anziché costruire accessi indiscriminati.

Questo approccio è particolarmente efficace quando i dati vivono in più ambienti: SQL Server per produzione, SAP o un ERP per ordini e fatture, CRM per opportunità commerciali, data warehouse per analisi consolidate. L’utente pone una sola domanda; l’architettura stabilisce quali fonti consultare, con quali filtri e in quale ordine.

Le tre architetture da scegliere in base al dato

Non esiste un unico modo di connettere un modello linguistico ai dati aziendali. La scelta dipende dal tipo di informazione, dalla frequenza di aggiornamento e dall’azione richiesta.

Query SQL generate e validate

Nel modello text-to-SQL, l’LLM traduce una domanda in linguaggio naturale in una query SQL. È utile per analisi esplorative su schemi ben documentati, dataset leggibili e accessi rigorosamente in sola lettura. Un controller deve validare la query prima dell’esecuzione: consentire solo tabelle approvate, imporre limiti alle righe, bloccare operazioni DDL e DML, aggiungere filtri per tenant o business unit e applicare timeout.

Text-to-SQL offre flessibilità, ma richiede grande disciplina. I database reali contengono nomi tecnici, join ambigui, codifiche storiche e regole di business che non emergono dallo schema. Se un KPI dipende da esclusioni o calcoli complessi, lasciare che il modello lo ricostruisca ogni volta può produrre risposte formalmente convincenti ma operative errate.

Tool calling su API e query predefinite

Per processi ricorrenti, il percorso più affidabile è esporre strumenti applicativi con parametri chiari. Invece di chiedere al modello di interrogare direttamente una tabella ordini, si mette a disposizione una funzione come `ordini_per_cliente(periodo, area, stato)` o `marginalita_per_linea_prodotto(mese, stabilimento)`.

L’LLM decide se usare lo strumento e compila i parametri. L’applicazione esegue query o chiama API interne, applica autorizzazioni e restituisce un output strutturato. Il vantaggio è decisivo: le regole di business restano nel software, versionabili e testabili. Il modello non inventa il significato di “ordine attivo” o “cliente strategico”, ma usa definizioni approvate dall’azienda.

Questa architettura è adatta anche alle azioni operative. Un agente può preparare una bozza d’ordine, aprire una segnalazione o aggiornare un record CRM, ma l’operazione deve passare da API specifiche, validazioni e, quando necessario, approvazione umana. AI che agisce, non soltanto risponde, non significa AI libera di modificare dati senza confini.

RAG per documenti e conoscenza non strutturata

Un errore frequente è trattare ogni esigenza come text-to-SQL. Manuali, contratti, offerte, procedure qualità ed email non sono tabelle interrogabili con query relazionali. Qui serve un sistema RAG: i documenti vengono acquisiti, classificati, indicizzati e recuperati semanticamente per fornire al modello il contesto rilevante.

RAG e database relazionali non sono alternative. In molti casi lavorano insieme. Un copilota per l’assistenza tecnica può recuperare dal RAG la procedura corretta e consultare dal gestionale lo stato aggiornato della macchina, della commessa o del ricambio. La risposta deve distinguere chiaramente ciò che deriva da documentazione e ciò che deriva da dati transazionali in tempo reale.

L’architettura che porta il collegamento in produzione

Un sistema affidabile si costruisce per livelli. Al centro c’è l’orchestratore, che riceve la richiesta, identifica utente e contesto, seleziona strumenti e governa il flusso. Attorno operano connettori verso database, ERP, CRM, documentali e API proprietarie.

Il primo livello è la conoscenza dello schema e del dominio. Tabelle, relazioni, glossario KPI, descrizioni delle colonne e regole aziendali devono essere mantenuti in un catalogo comprensibile anche alla logica dell’agente. Non è necessario esporre l’intero schema: spesso è preferibile fornire una vista semantica dedicata a una funzione aziendale, come controllo di gestione o customer service.

Il secondo livello è la policy engine. Qui vengono applicati ruolo, reparto, società di appartenenza, territorio e finalità della richiesta. Un direttore vendite può vedere aggregati per area; un account manager solo i clienti assegnati; un operatore di assistenza non deve accedere a margini o dati HR. La sicurezza non si risolve chiedendo al modello di “non mostrare dati riservati”: deve essere imposta prima che i dati arrivino nel contesto del modello.

Il terzo livello è l’osservabilità. Ogni richiesta deve lasciare traccia dell’utente, delle fonti consultate, dello strumento invocato, dei parametri, dell’esito e della risposta presentata. I log permettono audit, diagnosi e miglioramento continuo. Se un risultato è inatteso, il team deve poter capire se l’errore nasce dal dato, dalla query, dalla regola di orchestrazione o dall’interpretazione linguistica.

Infine, serve un livello di presentazione progettato per il lavoro reale. Una risposta testuale è utile, ma non sempre sufficiente. Per valori critici, il sistema dovrebbe mostrare periodo analizzato, filtri applicati, record di origine e grado di confidenza. Quando l’agente propone un’azione, l’interfaccia deve rendere espliciti impatto, destinatari e richiesta di approvazione.

Sicurezza, qualità e controllo degli accessi

Collegare LLM e database cambia la superficie di rischio. Il modello può ricevere istruzioni ambigue, prompt malevoli contenuti nei documenti, richieste di escalation di privilegi o dati che non dovrebbe vedere. La risposta non è rinunciare all’integrazione, ma progettare difese coerenti con un ambiente enterprise.

Il principio del minimo privilegio è il punto di partenza. Credenziali separate, accesso read-only per gli scenari di analisi, viste database dedicate e segmentazione dei servizi limitano l’impatto di un errore. I segreti non devono comparire in prompt, configurazioni client o log. Anche la gestione della residenza del dato, della conservazione delle conversazioni e delle policy del modello scelto va definita prima del rilascio.

La qualità richiede valutazione, non impressioni da demo. Occorre creare un set di domande reali, includendo casi normali, richieste ambigue, dati mancanti e domande non autorizzate. Per ciascun caso si verificano correttezza della risposta, rispetto dei permessi, qualità della citazione delle fonti, tempi di risposta e comportamento in caso di incertezza. Se i dati non bastano, l’agente deve chiedere un chiarimento o dichiarare il limite, non colmare il vuoto con un’invenzione.

Dal caso d’uso al rilascio operativo

Il progetto dovrebbe partire da un processo circoscritto e misurabile, non da un chatbot generico per tutta l’azienda. Un buon primo caso combina valore evidente, dati sufficientemente ordinati e regole chiare: analisi delle anomalie di vendita, supporto alla pianificazione, ricerca su documentazione tecnica con dati di commessa, qualificazione di richieste commerciali.

Dopo la selezione del caso, si mappano fonti, proprietari del dato, permessi e definizioni di business. Solo allora si decide se usare RAG, tool calling, text-to-SQL o una combinazione. Un prototipo serve a validare il flusso, ma il passaggio decisivo è l’industrializzazione: autenticazione aziendale, gestione degli errori, code, monitoraggio, test di regressione e procedure di fallback.

PurpleSoft progetta queste architetture come sistemi integrati, non come una finestra conversazionale appoggiata ai dati. Software, dati e intelligenza artificiale devono lavorare nella stessa architettura, con responsabilità chiare e risultati misurabili.

Il collegamento migliore non è quello che consente al modello di vedere tutto. È quello che gli permette di usare, al momento giusto, il dato corretto e autorizzato per far avanzare un processo concreto. Da qui si costruisce un’AI aziendale che merita fiducia: capace di spiegare ciò che sa, rispettare ciò che non può vedere e agire solo entro regole verificabili.

Hai un progetto software o un'idea da sviluppare?

Raccontaci in due righe cosa ti serve — software su misura, app, integrazioni o soluzioni AI. Ti rispondiamo entro un giorno lavorativo, senza impegno.

Vuoi condividere l'articolo?

Share on Facebook
Share on Twitter
Share on Linkdin
Share on Pinterest