Sviluppare agenti in un contesto enterprise significa spesso cercare un equilibrio tra controllo ed espressività. I clienti richiedono spesso una pletora di soluzioni agentiche, ciascuna delle quali deve poter consultare o modificare parti specifiche di una knowledge base o di un dominio dati. Si finisce così per sviluppare tool specifici per ciascun verticale, accrescendo i tempi di sviluppo e di manutenzione e la superficie esposta a vulnerabilità. D’altro canto, spesso non è accettabile un paradigma puramente agentico, ovvero fornire accesso indiscriminato a sistemi e dati e restringere ciascun caso d’uso tramite un prompt specifico: è un livello di sicurezza fragile e violabile. In CSI ho sperimentato una soluzione ibrida, ispirata al paradigma MCP nella sua declinazione con STDIO (un dialogo interno tra LLM e server MCP). L’intenzione era nascondere all’agente le logiche di composizione dei tool, rendendole allo stesso tempo rapidamente configurabili, senza scrivere codice. Mi sono concentrato sullo scrivere un insieme limitato di tool «primitivi» (ad esempio «retrieval con filtri», «memoria conversazionale», «chiamata API») e su un file di configurazione YAML, consumato dal server MCP interno e trasformato in un set di tool pronti all’uso e già calibrati sui confini specifici del singolo agente.
Il risultato è che lo sviluppo di un agente per un nuovo cliente, che prima richiedeva 4-5 giorni di lavoro, oggi è fattibile in mezza giornata dedicata a scrivere il file YAML di configurazione, dove si indica quali documenti, quali filtri e quali operazioni può usare l’agente. Inoltre il collo di bottiglia si sposta dagli sviluppatori agli esperti di dominio, dal momento che questo tipo di «configurazione dei tool» è facilmente esponibile in una dashboard sulla piattaforma assistenti già online.
Nell’articolo per Agenda Digitale entro nel dettaglio dell’architettura e delle due alternative che abbiamo scartato, l’accesso pienamente agentico e l’uso di finestre di contesto molto ampie, e del perché non reggano nel contesto della PA su costo, auditabilità e sicurezza.
È il secondo di tre articoli sui sistemi LLM in produzione per la Pubblica Amministrazione, dopo quello su Camilla e prima di un terzo, in arrivo, dedicato al red-teaming e alla valutazione comportamentale degli assistenti agentici, con un focus particolare sul dominio PA. Il sistema è descritto nella sua pagina progetto.