Agenti LLM spiegati: architettura, framework e casi d’uso

Per molte persone, i large language model (LLM) sono usati principalmente come interfacce conversazionali. Fai una domanda, il modello risponde, e lì l’interazione finisce. 

Tuttavia, gli LLM possono fare di più: vengono integrati in sistemi capaci di pianificare, ricordare e agire in modo autonomo, dando vita ai cosiddetti agenti LLM. I sistemi agentici stanno diventando sempre più popolari nelle moderne analisi e nei workflow aziendali. 

Alla fine di questo articolo capirai cosa sono gli agenti LLM, come vengono costruiti, i diversi tipi di agenti e dove possono creare valore. 

Per trarre il massimo da queste informazioni, abbinale allo skill track AI Fundamentals per rinfrescare le tue conoscenze su AI e LLM.

Che cos’è un agente LLM?

Vediamo in cosa gli agenti LLM differiscono dai modelli linguistici standard. 

La classica interfaccia LLM, come un chatbot, può solo ricevere prompt e restituire risposte generate in base al suo addestramento, senza azioni esterne né stato. Un agente LLM, invece, usa un LLM come motore di ragionamento centrale (il “cervello”) e lo circonda di componenti di supporto che gli consentono di ragionare, pianificare ed eseguire.

Gli agenti LLM spostano l’attenzione dall’automazione all’autonomia.

L’automazione consente agli LLM di prendere input e seguire una serie di passaggi per generare un output. Con l’autonomia, forniamo all’LLM un set di strumenti e la capacità di decidere come arrivare alla soluzione in base a ciò che sa della situazione. Questo offre più flessibilità e complessità nell’agire “in modo indipendente”.

Pensa a un LLM semplice come a un consulente esperto che risponde alle domande in base alle proprie conoscenze. Un agente LLM è come quello stesso esperto che guida un team: decide quali domande porre, quali membri del team (strumenti) consultare e come combinare le loro risposte in una soluzione.

Componenti fondamentali di un agente LLM

Un agente LLM è composto da diversi elementi chiave:

• L’LLM stesso (il cervello)
• Logica di pianificazione
• Memoria
• Strumenti

Il grafico seguente visualizza la relazione tra questi elementi.

Il cervello LLM

L’LLM funge da nucleo cognitivo dell’agente. Interpreta l’obiettivo dell’utente, ragiona sui passaggi intermedi e decide quali azioni intraprendere. In pratica, l’LLM viene invocato più volte, non una sola.

Ogni volta che viene chiamato, l’LLM riceve un contesto che può includere l’obiettivo originale, azioni precedenti, output degli strumenti e memoria rilevante. In base a queste informazioni, decide la prossima azione. Questo fa sì che l’LLM funzioni più come un controller che come un generatore di testo statico.

Per chi lavora con i dati, è importante capire che l’LLM non esegue direttamente codice o query. Genera istruzioni strutturate che altri componenti interpretano. La qualità di un agente spesso dipende da quanto bene queste istruzioni sono vincolate e validate.

Logica di pianificazione

La logica di pianificazione è il meccanismo che consente agli agenti di risolvere problemi complessi scomponendoli in passaggi gestibili. Senza pianificazione, un agente tenterebbe di risolvere tutto in un’unica risposta, spesso portando a errori o a allucinazioni.

Nella fase di pianificazione, l’agente decomprime un obiettivo di alto livello in attività più piccole. Per esempio, “Analizzare il churn dei clienti” può diventare “caricare i dati dei clienti”, “calcolare il tasso di abbandono”, “identificare i trend” e “riassumere i risultati”. Ogni sotto-attività viene quindi eseguita in sequenza o in modo condizionale.

Una tecnica molto diffusa è la Chain-of-Thought (CoT), che incoraggia il modello a ragionare in modo esplicito concatenando una serie di azioni come prompt sequenziali. 

ReAct (reasoning and acting) fa un passo oltre e alterna tracce di ragionamento con azioni invocate tramite strumenti e osservazioni esterne. Questo feedback esterno aiuta gli agenti a rimanere ancorati e a correggersi quando i risultati intermedi non corrispondono alle aspettative.

Memoria

La memoria consente a un agente di mantenere la continuità tra interazioni e azioni riutilizzando informazioni pregresse. Senza memoria, ogni passaggio sarebbe isolato e l’agente sarebbe costretto a riscoprire continuamente le stesse conoscenze.

La memoria a breve termine esiste in genere nella finestra di contesto dell’LLM. Include messaggi recenti, ragionamenti intermedi e output degli strumenti. Proprio come la RAM nell’architettura dei computer, è veloce ma limitata e scompare una volta superato il contesto.

La memoria a lungo termine è implementata esternamente, spesso tramite database vettoriali. Tecniche come RAG (Retrieval-Augmented Generation) permettono all’agente di recuperare documenti o interazioni passate pertinenti e iniettarli nel contesto corrente. 

Strumenti

Gli strumenti estendono le capacità di un agente oltre il linguaggio. Gli consentono di interagire con il mondo reale, inclusi database, API e motori di calcolo.

Dal punto di vista dell’agente, gli strumenti sono funzioni richiamabili con input e output definiti. L’LLM decide quando usare uno strumento, quali argomenti fornire e come interpretarne il risultato. Questo processo decisionale è ciò che distingue gli agenti dai workflow scriptati.

Gli strumenti possono includere funzionalità come ricerche su Google, esecuzione SQL, interpreti Python e API. L’agente ha di fatto accesso agli stessi strumenti tecnologici che usiamo noi e può combinarli per eseguire soluzioni.

L’immagine sopra mostra l’architettura generale di un agente LLM. Il cervello fornisce memoria e informazioni di pianificazione, che danno avvio a una serie di attività usando strumenti.

Tipi di agenti LLM

Questa sezione riassume le diverse categorie di agenti, dai più basilari agenti riflessi a quelli complessi con apprendimento.

Agenti riflessi semplici

Gli agenti riflessi semplici operano su regole dirette condizione-azione. Non considerano la storia, le conseguenze future o azioni alternative. Se una condizione è soddisfatta, l’azione corrispondente viene eseguita immediatamente.

Questa semplicità li rende facili da implementare, ma estremamente fragili. Qualsiasi input imprevisto o segnale mancante può causare comportamenti errati. Inoltre, non possono adattarsi ad ambienti che cambiano.

L’esempio del bot per la disiscrizione dalle email evidenzia questo limite. Svolge il compito rapidamente ma manca di consapevolezza, il che può portare a esiti indesiderati.

Agenti riflessi basati su modello

Gli agenti riflessi basati su modello migliorano quelli semplici mantenendo una rappresentazione interna dell’ambiente. Questo modello interno consente loro di ragionare su aspetti non immediatamente visibili.

Tracciando uno stato nel tempo, questi agenti possono gestire la parziale osservabilità. Ricordano ciò che è già successo e usano tali informazioni per guidare azioni future.

Assistant IDE come Copilot o Cursor AI sono ottimi esempi. Mantengono consapevolezza di file, variabili e funzioni durante una sessione, consentendo suggerimenti più intelligenti rispetto al semplice pattern matching. Fanno anche da ponte verso la categoria successiva di agenti.

Agenti basati su obiettivi

Gli agenti basati su obiettivi sono progettati in funzione dei risultati, non dei trigger. Pianificano e valutano le azioni in base a quanto avvicinano il sistema a un obiettivo desiderato, invece di essere puramente reattivi.

Questi agenti generano piani che possono prevedere più passaggi e ramificazioni condizionali. Se un approccio fallisce, possono tentare un percorso alternativo. Questo li rende molto più flessibili degli agenti basati sui riflessi.

Per esempio, creare un itinerario di viaggio mostra come un singolo obiettivo di alto livello possa essere scomposto in più azioni coordinate tra sistemi. 

L’agente non sta semplicemente rispondendo al prompt “dammi un itinerario” rigurgitando informazioni. Invece, può scomporre l’obiettivo in piccoli sotto-problemi, come: 

• Come ci spostiamo tra le città?
• Quali sono i migliori ristoranti in ogni città?
• Come pianifichiamo insieme le diverse attività?

L’obiettivo di generare un itinerario viene poi raggiunto combinando le soluzioni di ciascuno di questi problemi.

Agenti basati sull’utilità

Gli agenti basati sull’utilità estendono quelli basati su obiettivi introducendo l’ottimizzazione. Invece di limitarsi a raggiungere un obiettivo, valutano gli esiti usando una “funzione di utilità”.

Una funzione di utilità assegna punteggi agli esiti in base a criteri come costo, tempo, rischio o preferenze dell’utente. L’agente seleziona quindi la sequenza di azioni che massimizza l’utilità complessiva.

Questo approccio è comune nei sistemi di raccomandazione e nei problemi di ottimizzazione. Può trattarsi di trovare il percorso migliore per una destinazione, raccomandare i prodotti giusti o persino proporre l’analisi migliore da mostrare a un determinato utente.

Agenti con apprendimento

Gli agenti con apprendimento sono progettati per migliorare il proprio comportamento nel tempo senza riprogrammazione esplicita. 

A ogni iterazione un agente riceve feedback e lo usa per migliorare le proprie prestazioni. Operano in ambienti in cui il comportamento ottimale non è noto in anticipo e non richiedono riprogrammazione esplicita per ogni nuova situazione.

Ci sono due componenti principali: un “Critico” e un “Elemento di apprendimento”. Il “Critico” valuta gli esiti e fornisce feedback. L’“Elemento di apprendimento” usa questo feedback per regolare le decisioni future. Nel tempo, l’agente si allinea meglio alle preferenze dell’utente o ai vincoli ambientali.

Per esempio, immagina un agente LLM che ti riassume le notizie del giorno. Potrebbe osservare il tuo comportamento e adattarsi alle tue preferenze. Se nota che apri raramente i riassunti “Sport” ma hai interesse per “Cibo e bevande”, potrebbe smettere di fornire i riassunti sportivi e concentrarsi invece sulle cucine o sui ristoranti che ti interessano.

Riassunto degli agenti LLM

La tabella seguente riassume le differenze tra i tipi di agenti LLM.

Framework popolari per costruire agenti LLM

Questa sezione presenta i framework più comuni usati per creare sistemi di agenti LLM.

LangChain

LangChain offre un framework modulare per costruire sistemi basati su LLM. L’idea centrale è che workflow complessi possano essere costruiti componendo componenti semplici. Affronta la sfida di comunicare con diversi LLM e astrae quel processo per l’utente tramite oggetti Python.

Il concetto chiave in LangChain è quello delle “Chain”, che collegano prompt, modelli e parser in workflow ripetibili. Ad esempio, prendi un PromptTemplate, che viene passato all’LLM e processato da un OutputParser. 

LCEL (LangChain Expression Language) fornisce una sintassi dichiarativa che consente di usare pipe (|) per comporre visivamente le chain. Quindi, invece dei classici workflow Python in cui devi passare esplicitamente i prompt al modello, puoi semplicemente scrivere chain = prompt | model e lasciare che LangChain gestisca il templating. 

Per funzionalità più complesse, LangChain consente di aggiungere strumenti come Wikipedia, REPL Python e Google Search ai propri agenti

LangGraph si basa sulle funzionalità di LangChain e combina questi concetti con la memoria per supportare architetture di agenti stateful, pronte per la produzione, con controllo esplicito del flusso di esecuzione. 

Oltre a LangGraph, l’ecosistema di LangChain si è ulteriormente ampliato includendo modi per osservare più facilmente gli agenti (LangSmith) e persino interfacce drag-and-drop (LangFlow). 

LlamaIndex

LlamaIndex eccelle nei workflow incentrati sui documenti offrendo OCR e parsing ad alta accuratezza per oltre 90 tipi di file non strutturati, opzionalmente combinati con workflow agentici per un recupero e un’estrazione intelligenti.

I suoi connettori dati semplificano l’ingestione da molte fonti, mentre le strutture di indicizzazione ottimizzano il recupero. Il VectorStoreIndex è la scelta più comune per la ricerca semantica.

I motori di query orchestrano recupero e generazione, mentre i router introducono un processo decisionale simile a quello degli agenti selezionando la fonte dati più adatta per una determinata query.

CrewAI

CrewAI è progettato intorno alla collaborazione. Invece di un singolo agente, consente a più agenti con ruoli distinti di lavorare insieme.

Si concentra sul concetto di “Crew”, cioè un set definito di agenti. A ciascun agente viene assegnata una persona, un obiettivo e una backstory, che ne plasmano il comportamento. 

I task definiscono cosa va fatto e come appare il successo. Definisci l’aspetto di un singolo task, fornisci alcuni parametri, l’output atteso e quali agenti dovrebbero lavorarci.

I processi determinano come vengono eseguiti i task: in sequenza, in modo gerarchico o tramite pattern orchestrator-worker in cui un agente principale scompone dinamicamente i task complessi, imitando i team umani.

Dalla documentazione di CrewAI, vediamo che i flow forniscono un modo per orchestrare e attivare le crew. Ogni crew usa agenti LLM con ruoli e task definiti per svolgere lavori specifici e creare i risultati desiderati.

Scegliere il framework giusto

La scelta del framework dipende dal tuo dominio di problema e dai vincoli. Ciascuno dei framework presentati ha punti di forza propri:

• LangChain: offre flessibilità e controllo con la migliore visibilità su come funziona ciascuno strumento
• LlamaIndex: eccelle nei workflow incentrati sui documenti in cui il parsing delle informazioni è cruciale
• CrewAI: brilla quando collaborazione e separazione dei ruoli sono importanti, e sei meno focalizzato su come esattamente gli agenti portano a termine il lavoro.

Considera la complessità dei dati, il livello di autonomia richiesto e i vincoli operativi. Non esiste una scelta universalmente corretta.

Per supportare le tue decisioni, puoi anche consultare i nostri articoli che confrontano LangChain con Llamaindex e, rispettivamente, CrewAI con LangGraph.

Casi d’uso degli agenti LLM

I casi d’uso per gli agenti LLM sono praticamente infiniti e limitati solo dalla tua immaginazione.

Assistant per il coding

I moderni assistant di coding usano workflow agentici per pianificare, eseguire e verificare modifiche. Possono esplorare una codebase, generare soluzioni, eseguire test e correggere errori in modo iterativo. 

Per esempio, Cursor si integra nativamente nell’IDE e ti aiuta a completare righe o correggere modifiche in pipeline con implicazioni a valle. Claude Code può aiutarti a scrivere test, creare interi script o valutare incoerenze nel codice in un repository. Possiamo usare GitHub Copilot per aiutare a scrivere pull request e testare il codice come parte di un workflow di richiesta.

Questo sposta il ruolo dello sviluppatore dallo scrivere ogni riga al supervisionare e guidare sistemi intelligenti. Per chi lavora con i dati, può accelerare notevolmente sperimentazione e prototipazione.

Ti consiglio il corso Software Development with GitHub Copilot se vuoi iniziare con gli assistant di coding basati su LLM.

Business intelligence

I sistemi di BI agentica consentono agli utenti di fare domande in linguaggio naturale e ricevere insight azionabili. L’agente può tradurre le domande in SQL, eseguire query e spiegare i risultati. 

Puoi parlare con i tuoi dati come faresti con un membro senior del team e ottenere nuovi insight e visualizzazioni in tempo reale. Questo riduce la dipendenza dalle dashboard e abilita l’analisi esplorativa per i membri del team non tecnici. 

Documentazione e sintesi delle informazioni

Gli agenti di ricerca automatizzano la raccolta e la sintesi delle informazioni. Cercano sul web, recuperano fonti e riassumono i risultati; alcuni sistemi includono filtri di qualità delle fonti di base. Possono persino consultare documentazione interna ospitata su siti come Notion o messaggi su Slack. 

Con accesso a tutte queste fonti, gli agenti LLM non solo possono sintetizzare rapidamente le informazioni, ma anche generare documenti completi e sommari per consentire ai team di condividere rapidamente le informazioni. 

Questo è particolarmente utile in domini in rapido cambiamento, dove i dataset statici diventano presto obsoleti. Gli agenti forniscono insight continuamente aggiornati.

Per altre idee su come si usano gli AI Agent, dai un’occhiata alla nostra guida sui 10 migliori progetti di AI Agent.

Sfide chiave nei workflow agentici

Sebbene i workflow agentici siano straordinari e molto potenti, presentano anche sfide proprie. Gli agenti possono allucinare passaggi, interpretare male gli output degli strumenti o entrare in loop lunghi o indesiderati. Guardrail, validazione e osservabilità sono fondamentali per i sistemi in produzione.

Ogni azione dell’agente spesso richiede una chiamata LLM. I task complessi possono implicare decine di chiamate, aumentando latenza e costi API. Inoltre, potresti pagare per infrastrutture aggiuntive come storage cloud, computing cloud e altri costi per supportare l’agente LLM.

I sistemi autonomi sono più difficili da fare debug rispetto al codice deterministico. Capire perché un agente ha preso una decisione richiede di tracciare stato, memoria e passaggi di ragionamento. 

A seconda del framework di agenti che usi, questo può essere estremamente impegnativo. Alcuni framework, come CrewAI, astraggono molto più in profondità a causa della complessità aggiuntiva rispetto a un framework più lineare come LangChain, il cui focus è semplificare l’accesso ai tuoi LLM.

Conclusione

Stiamo passando da chatbot isolati a workflow pienamente agentici capaci di ragionare, pianificare e agire. Pur essendo ancora agli inizi, questo paradigma sta già cambiando il modo in cui i sistemi dati vengono costruiti e utilizzati.

Per chi aspira a lavorare con i dati, imparare oggi gli agenti LLM offre un forte vantaggio per i ruoli di domani. Questi sistemi rappresentano il futuro dell’automazione intelligente. 

Inizia a esercitarti e a creare questi agenti LLM con il nostro corso Designing Agentic Systems with LangChain!