Quando un chatbot inizia a dare risposte sbagliate, l’istinto è di controllare il prompt. Va bene per una singola chiamata a un LLM. Non funziona più quando l’applicazione è un agente che effettua chiamate a tool.
Quel contesto mancante è ciò che le piattaforme di osservabilità per LLM cercano di fornire. Non sono strumenti tradizionali di monitoraggio applicativo. Uno strumento tradizionale ti dice latenza e tassi di errore. Una piattaforma di osservabilità LLM ti dice quale chiamata a un tool ha restituito un risultato errato e se una modifica al prompt ha migliorato la qualità dell’output.
Sia Langfuse che LangSmith coprono tracing, valutazione e gestione dei prompt, e entrambe hanno rilasciato aggiornamenti importanti all’inizio del 2026. Non sono però intercambiabili. La differenza dipende da requisiti di deployment, stack tecnologico e da come il tuo team esegue le valutazioni.
In breve: Langfuse è adatto ai team che hanno bisogno di self-hosting open source, controllo dei dati o di uno stack al di fuori di LangChain. LangSmith è adatto ai team che vogliono una piattaforma agnostica rispetto al framework, con osservabilità, valutazione, debugging e workflow di produzione integrati per applicazioni LLM. Se nessuna delle due condizioni è vera, guarderei ai prezzi.
Che cosa sono Langfuse e LangSmith?
A livello generale, entrambi i prodotti rendono le applicazioni LLM osservabili, testabili e debuggabili. Ecco cosa sono.
Confronto del posizionamento tra le piattaforme Langfuse e LangSmith. Immagine dell’autore.
Che cos’è Langfuse?
Langfuse è una piattaforma open source per l’ingegneria LLM lanciata nel 2023. Copre tracing, gestione dei prompt, valutazione (LLM-as-judge, annotazione umana e controlli basati su codice), esperimenti su dataset e monitoraggio di costi e latenza. Il core open source è con licenza MIT.
A gennaio 2026, ClickHouse ha annunciato un Series D da 400 milioni di dollari e ha acquisito Langfuse. Langfuse è ora parte di ClickHouse, il database colonnare che già alimentava il backend di Langfuse. All’epoca, la licenza MIT e l’identità open source sono state confermate come invariate.
Langfuse è disponibile come servizio cloud gestito con regioni USA, UE e Giappone, oppure come istanza open source self-hosted senza costi di licenza software.
Che cos’è LangSmith?
LangSmith è una piattaforma di osservabilità e valutazione agnostica rispetto ai framework, sviluppata da LangChain Inc., il team dietro LangChain, LangGraph e Deep Agents. La piattaforma è proprietaria e closed source. Nell’ottobre 2025 LangChain ha raccolto 125 milioni di dollari su una valutazione di 1,25 miliardi.
Le sue funzionalità principali includono tracing sull’intera esecuzione di un’applicazione, debugging visuale, valutazioni automatizzate, monitoraggio in produzione e gestione dei prompt tramite Prompt Hub e il Playground. A maggio 2026, LangChain ha lanciato SmithDB, un livello dati in Rust che ora gestisce il 100% dell’ingestione sul Cloud US di LangSmith. SmithDB è progettato per i payload di dati unici generati dalle applicazioni LLM e riduce il P50 di caricamento degli alberi di trace a 92 millisecondi e la ricerca full-text a 400 millisecondi.
LangSmith è disponibile come servizio cloud gestito, deployment BYOC (bring your own cloud) con dati nella VPC del cliente o deployment Enterprise self-hosted. LangChain ha anche annunciato che la versione self-hosted di LangSmith supporterà il BYOK (bring-your-own-key) per Engine, il suo agente in piattaforma per trovare e correggere errori nelle applicazioni LLM.
Open source vs SaaS gestito
La differenza principale tra le due piattaforme non è "open source contro non open source". La vera differenza è tra controllo e portabilità da un lato, e workflow gestiti dall’altro. Langfuse ti permette di eseguire lo stack sulla tua infrastruttura senza costi di licenza. LangSmith offre cloud gestito, BYOC e deployment self-hosted, con supporto nativo profondo per LangChain, LangGraph e Deep Agents, ma senza obbligo di usare questi framework.
Un aggiornamento cambia come inquadrare il confronto: LangSmith ora supporta il tracing OpenTelemetry tramite il pacchetto langsmith[otel] e la variabile d’ambiente LANGSMITH_OTEL_ENABLED=true. È uno dei vari modi in cui i team possono usare LangSmith con applicazioni non-LangChain.
Ecco dove si collocano strutturalmente le due piattaforme:
|
Dimensione
|
Langfuse
|
LangSmith
|
|
Modello di distribuzione
|
Open source (MIT)
|
Proprietario, closed source
|
|
Self-hosting
|
Self-hosting MIT gratuito; controlli enterprise a pagamento
|
Richiesto contratto Enterprise
|
|
Approccio ai framework
|
Funziona su più framework; ampie integrazioni; OTel nativo
|
Funziona su più framework; supporto OTel
|
|
Sovranità dei dati
|
Piena; possibile deployment air-gapped
|
Ibrido e self-hosted per clienti Enterprise
|
|
Database backend
|
ClickHouse
|
SmithDB (Rust/DataFusion)
|
|
Modello di prezzo
|
Basato su unità (traces + observations + scores)
|
Basato su seat più trace, con doppio tier di retention
|
|
Compliance
|
SOC 2 Type II, ISO 27001, GDPR, HIPAA
|
SOC 2 Type II, GDPR, HIPAA
|
Il resto dell’articolo spiega cosa significano in pratica queste differenze.
Tracing e osservabilità
Il tracing è dove i prodotti iniziano a divergere. Entrambi catturano chiamate LLM, chiamate ai tool e metadati correlati, ma i workflow degli agenti fanno emergere le differenze più rapidamente rispetto alle app prompt-risposta semplici.
Tracing delle richieste
Langfuse costruisce trace gerarchici che catturano chiamate LLM, invocazioni dei tool, embedding e passaggi di retrieval. Puoi filtrare per utente, sessione, costo, latenza o metadati personalizzati. A maggio 2026, Langfuse ha aggiunto la ricerca full-text basata sul motore FTS nativo di ClickHouse, riducendo ricerche che prima richiedevano quasi 20 secondi a meno di mezzo secondo.
LangSmith cattura ogni chiamata LLM e uso dei tool come un albero di esecuzione ispezionabile. Con SmithDB che ora gestisce tutta l’ingestione del Cloud US, gli alberi di trace si caricano a P50 in 92 millisecondi. LangSmith include anche il clustering di argomenti non supervisionato, che raggruppa i trace per tema rilevato e offre ai team un punto di partenza quando non hanno idea di cosa non vada.
Visibilità dei workflow degli agenti
Langfuse ha aggiunto Agent Graphs a novembre 2025, visualizzando il flusso di esecuzione per agenti multi-step deducendo la struttura del grafo dai tempi delle osservazioni e dal nesting. Funziona con qualsiasi framework strumentato, con supporto nativo per LangGraph incluso. Nello stesso periodo è stato aggiunto il Trace Log View, che fornisce un flusso piatto di passaggi dell’agente per workflow con molti loop o diramazioni.
Grafo agente di Langfuse per esecuzione LangGraph. Immagine dell’autore.
Il tracing di LangGraph in LangSmith cattura ogni nodo, arco e transizione di stato in un’esecuzione senza configurazione aggiuntiva oltre all’impostazione di una variabile d’ambiente. LangSmith Studio ti consente di procedere passo passo nell’esecuzione dell’agente, ispezionare lo stato a ogni nodo e riprodurre un trace con un modello o prompt diverso. In un’applicazione LangGraph, questo offre più contesto rispetto a un albero di trace generico.A settembre 2026, LangSmith ha rilasciato Trajectories, che rendono i trace più facili da debuggare e da inserire in loop di feedback con esperti di dominio.
Albero di trace di LangSmith per workflow di agente. Immagine dell’autore.
Monitoraggio in produzione
Per il monitoraggio in produzione, entrambe le piattaforme tracciano latenza, utilizzo di token, costi e tassi di errore. LangSmith include l’integrazione con PagerDuty e webhook per le allerte sugli incidenti in produzione, oltre a workflow di monitoraggio collegati a trace e valutazioni. Langfuse include allerte di spesa con soglie configurabili. A questo livello, le funzionalità di monitoraggio sono simili.
Valutazione offline e online
Il tracing ti dice cosa è successo. La valutazione ti dice se è stato buono. In pratica, questi strumenti sono più utili quando la valutazione fa parte del workflow, non una checklist pre-lancio.
LLM-as-a-judge ed evaluator basati su codice
L’LLM-as-judge di Langfuse è diventato completamente open source sotto MIT a giugno 2025. Qualsiasi utente self-hosted dalla v3.65.0 in poi lo ottiene senza licenza commerciale. A maggio 2026, Langfuse ha rilasciato i Code Evaluators: funzioni evaluate in Python o TypeScript che scrivi direttamente nella UI di Langfuse. Eseguono controlli deterministici, come validazione di schema JSON, validazione regex o verifica degli argomenti dei tool, senza costi in token o chiamate a un modello giudice.
LangSmith offre evaluator LLM-as-judge configurabili con tipi di feedback Boolean, Categorical e Continuous, oltre a template integrati per Security, Safety e Quality. Supporta anche la few-shot correction, in cui correzioni annotate da umani sugli output degli evaluator vengono reintrodotte come esempi few-shot per migliorare la calibrazione dell’evaluator nel tempo.
Dataset, esperimenti e annotazione umana
La valutazione offline funziona su entrambe le piattaforme tramite dataset e confronto affiancato degli esperimenti. Langfuse ha aggiunto Score Analytics a novembre 2025 per misurare l’allineamento degli evaluator su precision, recall, F1, costo e accuratezza. Il confronto con baseline, sempre a novembre 2025, consente di contrassegnare un’esecuzione specifica come punto di riferimento e mettere in evidenza le regressioni rispetto ad essa.
L’integrazione CI/CD con GitHub Actions di Langfuse, rilasciata a maggio 2026 tramite langfuse/experiment-action, fa fallire un workflow quando i punteggi degli esperimenti scendono sotto una soglia. Questo trasforma la valutazione in un gate di deploy invece che in una revisione post-rilascio.
Loop di valutazione Langfuse con GitHub Actions. Immagine dell’autore.
La configurazione di valutazione di LangSmith ha un aspetto di fatturazione da notare subito: gli evaluator che aggiungono feedback ai trace possono aggiornare tali trace alla retention estesa. Come tratterò nella sezione prezzi, ciò cambia il costo dei workflow di valutazione.
Versioning dei prompt, deployment e A/B test
La gestione dei prompt qui è più della cronologia versioni. Il workflow è: iterare in una sandbox, testare su un dataset, promuovere in produzione e fare rollback in modo pulito quando qualcosa si rompe.
Langfuse assegna a ogni versione di prompt un ID di versione e usa etichette come production e staging per controllare quale versione è live. Modificare un’etichetta nella UI è il modo per fare deploy o rollback. I prompt sono messi in cache lato client dall’SDK, quindi non viene aggiunta latenza alle chiamate di produzione quando l’SDK recupera la versione attiva. Le etichette protette consentono agli admin di limitare quali ruoli possono modificare l’etichetta production, cosa importante quando hai contributori con livelli di accesso diversi.
LangSmith gestisce i prompt tramite Prompt e Context Hub con versioning a commit-hash per fissare esattamente le versioni a livello programmatico. Il Prompt Hub include una libreria community che Langfuse non replica. L’A/B test tramite esperimenti su dataset è disponibile su entrambe le piattaforme.
In questa categoria, i due prodotti sono più vicini che in hosting, prezzi o configurazione dei framework.
Langfuse vs LangSmith per applicazioni con agenti
Gli agenti hanno guidato gran parte del lavoro sulle funzionalità in entrambe le piattaforme nell’ultimo anno. Qui conta dove è costruito l’agente.
Langfuse mostra i tool disponibili, evidenzia quali tool sono stati chiamati e mostra argomenti e ID di chiamata. Tipologie di osservazione ampliate distinguono nel trace le chiamate ai tool, gli embedding e le chiamate ai guardrail. Come accennato, i Code Evaluators possono anche verificare gli argomenti dei tool rispetto a uno schema. Il server MCP è stato ampliato a maggio 2026 per coprire 15 categorie di tool, così gli agenti in Claude Code, Cursor o OpenAI Codex possono interrogare i dati di Langfuse in modo programmatico.
Il punto su LangGraph dalla sezione tracing torna utile anche qui. Il supporto agli agenti di LangSmith include ispezione dello stato a ogni nodo, replay dei trace con modelli alternativi e LangSmith Studio per il debugging visuale step-by-step. Il team di ingegneria di Monte Carlo, che gestisce un sistema in produzione con centinaia di sotto-agenti, ha indicato questa integrazione LangGraph a zero setup come un motivo chiave della scelta.
Per agenti costruiti con CrewAI, Pydantic AI o altri framework multi-agente, Langfuse ha una strumentazione nativa più ampia e spesso richiede meno setup manuale.
Integrazioni con framework e SDK
Langfuse elenca ampie integrazioni tra provider di modelli, framework, gateway, tool no-code, analytics e strumenti per sviluppatori. I framework includono LangChain, LangGraph, OpenAI Agents SDK, Pydantic AI, CrewAI, AutoGen, DSPy, Haystack, LlamaIndex e altri. La piattaforma è nativamente OpenTelemetry a livello di SDK.
Gli SDK nativi di LangSmith coprono Python, TypeScript, Go e Java. Oltre a LangChain, LangGraph e Deep Agents, funziona con OpenAI SDK, Anthropic SDK, Vercel AI SDK, LlamaIndex, implementazioni personalizzate e OpenTelemetry. Ciò significa che non è uno strumento di tracing solo per LangChain.
La domanda pratica non è solo se un framework è supportato, dato che la maggior parte dei framework popolari funziona con entrambe le piattaforme. È quanta strumentazione devi scrivere.
Langfuse Open Source vs LangSmith Enterprise
Il self-hosting cambia il quadro operativo e di compliance più di molte altre categorie di funzionalità.
Il self-hosting di Langfuse è gratuito sotto licenza MIT. Docker Compose va bene per sviluppo o valutazione; i deployment in produzione usano di solito Kubernetes con Helm su GKE, EKS o AKS. Lo stack include ClickHouse, PostgreSQL, Redis e storage compatibile S3, con una VM minima consigliata da 4 core e 16 GiB di RAM. Il software non ha costi di licenza, ma il tuo team gestisce infrastruttura e operation. La Enterprise Edition self-hosted a pagamento aggiunge supporto dedicato, audit log, SCIM e SLA.
Per la compliance, Langfuse Cloud ha certificazioni SOC 2 Type II, ISO 27001, GDPR e HIPAA. LangSmith Cloud ha SOC 2 Type II, GDPR e HIPAA. ISO 27001 non è indicata per LangSmith. Se il tuo processo di procurement richiede quella voce, è una differenza concreta.
Il self-hosting di LangSmith richiede un contratto Enterprise. Non esiste un percorso open source e gratuito per il self-hosting. Tre modelli di deployment (Cloud, Bring-Your-Own-Cloud (BYOC) e Self-hosted) rientrano tutti nell’offerta Enterprise. SmithDB è disponibile per tutti i metodi di hosting.
Prezzi: Langfuse vs LangSmith
I prezzi in evidenza non raccontano tutta la storia.
I prezzi in questa categoria cambiano spesso. I numeri qui sotto riflettono le pagine ufficiali che ho consultato a giugno 2026, ma verifica le pagine aggiornate prima di pianificare il budget su una delle due piattaforme.
Prezzi di Langfuse
Langfuse Cloud addebita per unità: un’unità equivale a un trace, una observation o uno score. La formula è Units = Traces + Observations + Scores, quindi un’esecuzione di agente con molti tool può costare più di un semplice trace prompt-risposta. Il piano gratuito Hobby include 50.000 unità al mese, retention di 30 giorni e due utenti. Core costa 29 $/mese con 100.000 unità incluse, utenti illimitati e retention di 90 giorni. Pro costa 199 $/mese con accesso ai dati di 3 anni e certificazioni di compliance. Enterprise parte da 2.499 $/mese con prezzi su volumi personalizzati. L’overage parte da 8 $ per 100.000 unità aggiuntive.
Come accennato, la versione self-hosted di Langfuse non ha costi di licenza software. SCIM, audit log e supporto enterprise richiedono una licenza commerciale.
Prezzi di LangSmith
LangSmith addebita per seat e per trace. Il piano Developer è gratuito con 5.000 trace al mese, un seat e retention di 14 giorni. Plus costa 39 $ per seat al mese con 10.000 trace base inclusi. I trace base hanno retention di 14 giorni; i trace estesi mantengono i dati per 400 giorni e costano di più. Un team di cinque persone su Plus paga 195 $/mese in seat prima dell’overage sui trace. I prezzi Enterprise sono personalizzati.
Meccaniche di retention dei dati
Come accennato, la retention estesa si attiva automaticamente quando gli evaluator aggiungono feedback ai trace. Leggi la documentazione di fatturazione di LangSmith sull’auto-extended retention prima di impostare pipeline di valutazione.
Questi dettagli contano perché piccole differenze in profondità dei trace, uso degli evaluator e retention possono cambiare la bolletta mensile.
Tabella di confronto: Langfuse vs LangSmith
Come accennato, le principali differenze riguardano prorietà, framework più adatto, workflow di valutazione e prezzi. La tabella sotto comprime questi punti prima delle sezioni finali sulla decisione.
|
Funzionalità
|
Langfuse
|
LangSmith
|
|
Open source
|
Sì (MIT)
|
No (proprietario)
|
|
Self-hosting
|
Self-hosting MIT gratuito; controlli enterprise a pagamento
|
Richiesto contratto Enterprise
|
|
Valutazione
|
LLM-as-judge (MIT), code evaluator, annotazione umana, CI/CD
|
LLM-as-judge, annotazione umana, evaluator online, few-shot correction
|
|
Gestione dei prompt
|
Deployment basato su etichette, caching via SDK, componibilità dei prompt
|
Versioning a commit-hash, Prompt Hub community
|
|
Ecosistema
|
Integrazioni ampie, OTel nativo, funziona su più framework
|
Funziona su più framework; supporto OTel
|
|
Supporto agenti
|
Agent Graphs, Trace Log View, Code Evaluators, server MCP
|
LangSmith Studio, tracing nativo LangGraph, ispezione stato
|
|
Compliance
|
SOC 2 Type II, ISO 27001, GDPR, HIPAA
|
SOC 2 Type II, GDPR, HIPAA
|
|
Modello di prezzo
|
Basato su unità; utenti illimitati nei piani a pagamento
|
Basato su seat + trace; doppi tier di retention
|
|
Fit
|
Sovranità dei dati, stack non-LangChain, valutazione CI/CD
|
Team LangGraph, preferenza per SaaS gestito
|
Primo punto, secondo me: non concentrarti solo sul tracing. Il tracing ti dice cosa è successo, ma la valutazione ti dice se l’output è stato buono. Se scegli solo in base alla visualizzazione del trace, stai usando il criterio sbagliato.
Secondo punto: osserva le meccaniche di prezzo. Come visto sopra, i costi di Langfuse crescono con la profondità del trace, mentre la retention estesa di LangSmith può cambiare il costo della valutazione automatizzata. Fai i conti prima della produzione.
Terzo, il self-hosting non significa la stessa cosa nei due prodotti. La sezione sul self-hosting qui sopra spiega perché. Se la sovranità dei dati è un requisito rigido, questa differenza può decidere il confronto.
Infine, non decidere solo sulla compatibilità con i framework. Entrambe le piattaforme supportano più stack applicativi, e gli stack cambiano. Requisiti di deployment e workflow di valutazione sono più difficili da sostituire in seguito.
Quando scegliere Langfuse
In base ai compromessi sopra, Langfuse si adatta meglio quando:
- Il tuo team vuole integrazioni native per framework come CrewAI, Pydantic AI, LlamaIndex o chiamate API dirette a OpenAI o Anthropic.
- La sovranità dei dati è non negoziabile e input, output e trace degli LLM devono restare sulla tua infrastruttura.
- Il tuo team vuole valutazione integrata nel CI/CD con gate di regressione automatici via GitHub Actions.
- Ti servono costi prevedibili per un team in crescita, dato che i piani Cloud a pagamento includono utenti illimitati.
Quando scegliere LangSmith
In base agli stessi compromessi, LangSmith si adatta meglio quando:
- Vuoi una piattaforma agnostica rispetto a modelli e framework per osservabilità, valutazione, debugging e monitoraggio in produzione nelle applicazioni LLM, con supporto particolarmente profondo per i framework LangChain.
- Il tuo team desidera una piattaforma gestita che supporti l’intero loop di miglioramento degli agenti.
- Vuoi un database ad alte prestazioni per i tuoi trace che puoi distribuire sulla tua infrastruttura preferita
- Le tue esigenze vanno oltre l’osservabilità e includono la piattaforma più ampia di LangSmith, come valutazione, monitoraggio in produzione, agent server e LLM Gateway.
- Vuoi trace, dataset, esperimenti, valutazioni online, feedback umano e monitoraggio di produzione collegati in un unico workflow.
Conclusione
Langfuse e LangSmith risolvono entrambi un problema reale e sono entrambi cambiati molto nell’ultimo anno. A questo punto, il compromesso è chiaro.
La decisione non riguarda quale piattaforma abbia più funzionalità. È il compromesso tra proprietà ed ecosistema visto prima. Ti serve un percorso open source con controllo diretto sul tuo data stack, oppure vuoi una piattaforma gestita con osservabilità, valutazione e workflow di produzione integrati?
Una precisazione prima di decidere: entrambe le piattaforme cambiano spesso. Controlla i changelog prima di impegnarti.
Per approfondire l’ecosistema LangChain, vedi il nostro tutorial LangChain vs. LangGraph vs. LangSmith vs. LangFlow.
Quando un chatbot inizia a dare risposte sbagliate, l’istinto è di controllare il prompt. Va bene per una singola chiamata a un LLM. Non funziona più quando l’applicazione è un agente che effettua chiamate a tool.
Quel contesto mancante è ciò che le piattaforme di osservabilità per LLM cercano di fornire. Non sono strumenti tradizionali di monitoraggio applicativo. Uno strumento tradizionale ti dice latenza e tassi di errore. Una piattaforma di osservabilità LLM ti dice quale chiamata a un tool ha restituito un risultato errato e se una modifica al prompt ha migliorato la qualità dell’output.
Sia Langfuse che LangSmith coprono tracing, valutazione e gestione dei prompt, e entrambe hanno rilasciato aggiornamenti importanti all’inizio del 2026. Non sono però intercambiabili. La differenza dipende da requisiti di deployment, stack tecnologico e da come il tuo team esegue le valutazioni.
In breve: Langfuse è adatto ai team che hanno bisogno di self-hosting open source, controllo dei dati o di uno stack al di fuori di LangChain. LangSmith è adatto ai team che vogliono una piattaforma agnostica rispetto al framework, con osservabilità, valutazione, debugging e workflow di produzione integrati per applicazioni LLM. Se nessuna delle due condizioni è vera, guarderei ai prezzi.
Che cosa sono Langfuse e LangSmith?
A livello generale, entrambi i prodotti rendono le applicazioni LLM osservabili, testabili e debuggabili. Ecco cosa sono.
Confronto del posizionamento tra le piattaforme Langfuse e LangSmith. Immagine dell’autore.
Che cos’è Langfuse?
Langfuse è una piattaforma open source per l’ingegneria LLM lanciata nel 2023. Copre tracing, gestione dei prompt, valutazione (LLM-as-judge, annotazione umana e controlli basati su codice), esperimenti su dataset e monitoraggio di costi e latenza. Il core open source è con licenza MIT.
A gennaio 2026, ClickHouse ha annunciato un Series D da 400 milioni di dollari e ha acquisito Langfuse. Langfuse è ora parte di ClickHouse, il database colonnare che già alimentava il backend di Langfuse. All’epoca, la licenza MIT e l’identità open source sono state confermate come invariate.
Langfuse è disponibile come servizio cloud gestito con regioni USA, UE e Giappone, oppure come istanza open source self-hosted senza costi di licenza software.
Che cos’è LangSmith?
LangSmith è una piattaforma di osservabilità e valutazione agnostica rispetto ai framework, sviluppata da LangChain Inc., il team dietro LangChain, LangGraph e Deep Agents. La piattaforma è proprietaria e closed source. Nell’ottobre 2025 LangChain ha raccolto 125 milioni di dollari su una valutazione di 1,25 miliardi.
Le sue funzionalità principali includono tracing sull’intera esecuzione di un’applicazione, debugging visuale, valutazioni automatizzate, monitoraggio in produzione e gestione dei prompt tramite Prompt Hub e il Playground. A maggio 2026, LangChain ha lanciato SmithDB, un livello dati in Rust che ora gestisce il 100% dell’ingestione sul Cloud US di LangSmith. SmithDB è progettato per i payload di dati unici generati dalle applicazioni LLM e riduce il P50 di caricamento degli alberi di trace a 92 millisecondi e la ricerca full-text a 400 millisecondi.
LangSmith è disponibile come servizio cloud gestito, deployment BYOC (bring your own cloud) con dati nella VPC del cliente o deployment Enterprise self-hosted. LangChain ha anche annunciato che la versione self-hosted di LangSmith supporterà il BYOK (bring-your-own-key) per Engine, il suo agente in piattaforma per trovare e correggere errori nelle applicazioni LLM.
Open source vs SaaS gestito
La differenza principale tra le due piattaforme non è "open source contro non open source". La vera differenza è tra controllo e portabilità da un lato, e workflow gestiti dall’altro. Langfuse ti permette di eseguire lo stack sulla tua infrastruttura senza costi di licenza. LangSmith offre cloud gestito, BYOC e deployment self-hosted, con supporto nativo profondo per LangChain, LangGraph e Deep Agents, ma senza obbligo di usare questi framework.
Un aggiornamento cambia come inquadrare il confronto: LangSmith ora supporta il tracing OpenTelemetry tramite il pacchetto
langsmith[otel]e la variabile d’ambienteLANGSMITH_OTEL_ENABLED=true. È uno dei vari modi in cui i team possono usare LangSmith con applicazioni non-LangChain.Ecco dove si collocano strutturalmente le due piattaforme:
Dimensione
Langfuse
LangSmith
Modello di distribuzione
Open source (MIT)
Proprietario, closed source
Self-hosting
Self-hosting MIT gratuito; controlli enterprise a pagamento
Richiesto contratto Enterprise
Approccio ai framework
Funziona su più framework; ampie integrazioni; OTel nativo
Funziona su più framework; supporto OTel
Sovranità dei dati
Piena; possibile deployment air-gapped
Ibrido e self-hosted per clienti Enterprise
Database backend
ClickHouse
SmithDB (Rust/DataFusion)
Modello di prezzo
Basato su unità (traces + observations + scores)
Basato su seat più trace, con doppio tier di retention
Compliance
SOC 2 Type II, ISO 27001, GDPR, HIPAA
SOC 2 Type II, GDPR, HIPAA
Il resto dell’articolo spiega cosa significano in pratica queste differenze.
Tracing e osservabilità
Il tracing è dove i prodotti iniziano a divergere. Entrambi catturano chiamate LLM, chiamate ai tool e metadati correlati, ma i workflow degli agenti fanno emergere le differenze più rapidamente rispetto alle app prompt-risposta semplici.
Tracing delle richieste
Langfuse costruisce trace gerarchici che catturano chiamate LLM, invocazioni dei tool, embedding e passaggi di retrieval. Puoi filtrare per utente, sessione, costo, latenza o metadati personalizzati. A maggio 2026, Langfuse ha aggiunto la ricerca full-text basata sul motore FTS nativo di ClickHouse, riducendo ricerche che prima richiedevano quasi 20 secondi a meno di mezzo secondo.
LangSmith cattura ogni chiamata LLM e uso dei tool come un albero di esecuzione ispezionabile. Con SmithDB che ora gestisce tutta l’ingestione del Cloud US, gli alberi di trace si caricano a P50 in 92 millisecondi. LangSmith include anche il clustering di argomenti non supervisionato, che raggruppa i trace per tema rilevato e offre ai team un punto di partenza quando non hanno idea di cosa non vada.
Visibilità dei workflow degli agenti
Langfuse ha aggiunto Agent Graphs a novembre 2025, visualizzando il flusso di esecuzione per agenti multi-step deducendo la struttura del grafo dai tempi delle osservazioni e dal nesting. Funziona con qualsiasi framework strumentato, con supporto nativo per LangGraph incluso. Nello stesso periodo è stato aggiunto il Trace Log View, che fornisce un flusso piatto di passaggi dell’agente per workflow con molti loop o diramazioni.
Grafo agente di Langfuse per esecuzione LangGraph. Immagine dell’autore.
Il tracing di LangGraph in LangSmith cattura ogni nodo, arco e transizione di stato in un’esecuzione senza configurazione aggiuntiva oltre all’impostazione di una variabile d’ambiente. LangSmith Studio ti consente di procedere passo passo nell’esecuzione dell’agente, ispezionare lo stato a ogni nodo e riprodurre un trace con un modello o prompt diverso. In un’applicazione LangGraph, questo offre più contesto rispetto a un albero di trace generico.A settembre 2026, LangSmith ha rilasciato Trajectories, che rendono i trace più facili da debuggare e da inserire in loop di feedback con esperti di dominio.
Albero di trace di LangSmith per workflow di agente. Immagine dell’autore.
Monitoraggio in produzione
Per il monitoraggio in produzione, entrambe le piattaforme tracciano latenza, utilizzo di token, costi e tassi di errore. LangSmith include l’integrazione con PagerDuty e webhook per le allerte sugli incidenti in produzione, oltre a workflow di monitoraggio collegati a trace e valutazioni. Langfuse include allerte di spesa con soglie configurabili. A questo livello, le funzionalità di monitoraggio sono simili.
Valutazione offline e online
Il tracing ti dice cosa è successo. La valutazione ti dice se è stato buono. In pratica, questi strumenti sono più utili quando la valutazione fa parte del workflow, non una checklist pre-lancio.
LLM-as-a-judge ed evaluator basati su codice
L’LLM-as-judge di Langfuse è diventato completamente open source sotto MIT a giugno 2025. Qualsiasi utente self-hosted dalla v3.65.0 in poi lo ottiene senza licenza commerciale. A maggio 2026, Langfuse ha rilasciato i Code Evaluators: funzioni
evaluatein Python o TypeScript che scrivi direttamente nella UI di Langfuse. Eseguono controlli deterministici, come validazione di schema JSON, validazione regex o verifica degli argomenti dei tool, senza costi in token o chiamate a un modello giudice.LangSmith offre evaluator LLM-as-judge configurabili con tipi di feedback Boolean, Categorical e Continuous, oltre a template integrati per Security, Safety e Quality. Supporta anche la few-shot correction, in cui correzioni annotate da umani sugli output degli evaluator vengono reintrodotte come esempi few-shot per migliorare la calibrazione dell’evaluator nel tempo.
Dataset, esperimenti e annotazione umana
La valutazione offline funziona su entrambe le piattaforme tramite dataset e confronto affiancato degli esperimenti. Langfuse ha aggiunto Score Analytics a novembre 2025 per misurare l’allineamento degli evaluator su precision, recall, F1, costo e accuratezza. Il confronto con baseline, sempre a novembre 2025, consente di contrassegnare un’esecuzione specifica come punto di riferimento e mettere in evidenza le regressioni rispetto ad essa.
L’integrazione CI/CD con GitHub Actions di Langfuse, rilasciata a maggio 2026 tramite
langfuse/experiment-action, fa fallire un workflow quando i punteggi degli esperimenti scendono sotto una soglia. Questo trasforma la valutazione in un gate di deploy invece che in una revisione post-rilascio.Loop di valutazione Langfuse con GitHub Actions. Immagine dell’autore.
La configurazione di valutazione di LangSmith ha un aspetto di fatturazione da notare subito: gli evaluator che aggiungono feedback ai trace possono aggiornare tali trace alla retention estesa. Come tratterò nella sezione prezzi, ciò cambia il costo dei workflow di valutazione.
Versioning dei prompt, deployment e A/B test
La gestione dei prompt qui è più della cronologia versioni. Il workflow è: iterare in una sandbox, testare su un dataset, promuovere in produzione e fare rollback in modo pulito quando qualcosa si rompe.
Langfuse assegna a ogni versione di prompt un ID di versione e usa etichette come
productionestagingper controllare quale versione è live. Modificare un’etichetta nella UI è il modo per fare deploy o rollback. I prompt sono messi in cache lato client dall’SDK, quindi non viene aggiunta latenza alle chiamate di produzione quando l’SDK recupera la versione attiva. Le etichette protette consentono agli admin di limitare quali ruoli possono modificare l’etichettaproduction, cosa importante quando hai contributori con livelli di accesso diversi.LangSmith gestisce i prompt tramite Prompt e Context Hub con versioning a commit-hash per fissare esattamente le versioni a livello programmatico. Il Prompt Hub include una libreria community che Langfuse non replica. L’A/B test tramite esperimenti su dataset è disponibile su entrambe le piattaforme.
In questa categoria, i due prodotti sono più vicini che in hosting, prezzi o configurazione dei framework.
Langfuse vs LangSmith per applicazioni con agenti
Gli agenti hanno guidato gran parte del lavoro sulle funzionalità in entrambe le piattaforme nell’ultimo anno. Qui conta dove è costruito l’agente.
Langfuse mostra i tool disponibili, evidenzia quali tool sono stati chiamati e mostra argomenti e ID di chiamata. Tipologie di osservazione ampliate distinguono nel trace le chiamate ai tool, gli embedding e le chiamate ai guardrail. Come accennato, i Code Evaluators possono anche verificare gli argomenti dei tool rispetto a uno schema. Il server MCP è stato ampliato a maggio 2026 per coprire 15 categorie di tool, così gli agenti in Claude Code, Cursor o OpenAI Codex possono interrogare i dati di Langfuse in modo programmatico.
Il punto su LangGraph dalla sezione tracing torna utile anche qui. Il supporto agli agenti di LangSmith include ispezione dello stato a ogni nodo, replay dei trace con modelli alternativi e LangSmith Studio per il debugging visuale step-by-step. Il team di ingegneria di Monte Carlo, che gestisce un sistema in produzione con centinaia di sotto-agenti, ha indicato questa integrazione LangGraph a zero setup come un motivo chiave della scelta.
Per agenti costruiti con CrewAI, Pydantic AI o altri framework multi-agente, Langfuse ha una strumentazione nativa più ampia e spesso richiede meno setup manuale.
Integrazioni con framework e SDK
Langfuse elenca ampie integrazioni tra provider di modelli, framework, gateway, tool no-code, analytics e strumenti per sviluppatori. I framework includono LangChain, LangGraph, OpenAI Agents SDK, Pydantic AI, CrewAI, AutoGen, DSPy, Haystack, LlamaIndex e altri. La piattaforma è nativamente OpenTelemetry a livello di SDK.
Gli SDK nativi di LangSmith coprono Python, TypeScript, Go e Java. Oltre a LangChain, LangGraph e Deep Agents, funziona con OpenAI SDK, Anthropic SDK, Vercel AI SDK, LlamaIndex, implementazioni personalizzate e OpenTelemetry. Ciò significa che non è uno strumento di tracing solo per LangChain.
La domanda pratica non è solo se un framework è supportato, dato che la maggior parte dei framework popolari funziona con entrambe le piattaforme. È quanta strumentazione devi scrivere.
Langfuse Open Source vs LangSmith Enterprise
Il self-hosting cambia il quadro operativo e di compliance più di molte altre categorie di funzionalità.
Il self-hosting di Langfuse è gratuito sotto licenza MIT. Docker Compose va bene per sviluppo o valutazione; i deployment in produzione usano di solito Kubernetes con Helm su GKE, EKS o AKS. Lo stack include ClickHouse, PostgreSQL, Redis e storage compatibile S3, con una VM minima consigliata da 4 core e 16 GiB di RAM. Il software non ha costi di licenza, ma il tuo team gestisce infrastruttura e operation. La Enterprise Edition self-hosted a pagamento aggiunge supporto dedicato, audit log, SCIM e SLA.
Per la compliance, Langfuse Cloud ha certificazioni SOC 2 Type II, ISO 27001, GDPR e HIPAA. LangSmith Cloud ha SOC 2 Type II, GDPR e HIPAA. ISO 27001 non è indicata per LangSmith. Se il tuo processo di procurement richiede quella voce, è una differenza concreta.
Il self-hosting di LangSmith richiede un contratto Enterprise. Non esiste un percorso open source e gratuito per il self-hosting. Tre modelli di deployment (Cloud, Bring-Your-Own-Cloud (BYOC) e Self-hosted) rientrano tutti nell’offerta Enterprise. SmithDB è disponibile per tutti i metodi di hosting.
Prezzi: Langfuse vs LangSmith
I prezzi in evidenza non raccontano tutta la storia.
I prezzi in questa categoria cambiano spesso. I numeri qui sotto riflettono le pagine ufficiali che ho consultato a giugno 2026, ma verifica le pagine aggiornate prima di pianificare il budget su una delle due piattaforme.
Prezzi di Langfuse
Langfuse Cloud addebita per unità: un’unità equivale a un trace, una observation o uno score. La formula è
Units = Traces + Observations + Scores, quindi un’esecuzione di agente con molti tool può costare più di un semplice trace prompt-risposta. Il piano gratuito Hobby include 50.000 unità al mese, retention di 30 giorni e due utenti. Core costa 29 $/mese con 100.000 unità incluse, utenti illimitati e retention di 90 giorni. Pro costa 199 $/mese con accesso ai dati di 3 anni e certificazioni di compliance. Enterprise parte da 2.499 $/mese con prezzi su volumi personalizzati. L’overage parte da 8 $ per 100.000 unità aggiuntive.Come accennato, la versione self-hosted di Langfuse non ha costi di licenza software. SCIM, audit log e supporto enterprise richiedono una licenza commerciale.
Prezzi di LangSmith
LangSmith addebita per seat e per trace. Il piano Developer è gratuito con 5.000 trace al mese, un seat e retention di 14 giorni. Plus costa 39 $ per seat al mese con 10.000 trace base inclusi. I trace base hanno retention di 14 giorni; i trace estesi mantengono i dati per 400 giorni e costano di più. Un team di cinque persone su Plus paga 195 $/mese in seat prima dell’overage sui trace. I prezzi Enterprise sono personalizzati.
Meccaniche di retention dei dati
Come accennato, la retention estesa si attiva automaticamente quando gli evaluator aggiungono feedback ai trace. Leggi la documentazione di fatturazione di LangSmith sull’auto-extended retention prima di impostare pipeline di valutazione.
Questi dettagli contano perché piccole differenze in profondità dei trace, uso degli evaluator e retention possono cambiare la bolletta mensile.
Tabella di confronto: Langfuse vs LangSmith
Come accennato, le principali differenze riguardano prorietà, framework più adatto, workflow di valutazione e prezzi. La tabella sotto comprime questi punti prima delle sezioni finali sulla decisione.
Funzionalità
Langfuse
LangSmith
Open source
Sì (MIT)
No (proprietario)
Self-hosting
Self-hosting MIT gratuito; controlli enterprise a pagamento
Richiesto contratto Enterprise
Valutazione
LLM-as-judge (MIT), code evaluator, annotazione umana, CI/CD
LLM-as-judge, annotazione umana, evaluator online, few-shot correction
Gestione dei prompt
Deployment basato su etichette, caching via SDK, componibilità dei prompt
Versioning a commit-hash, Prompt Hub community
Ecosistema
Integrazioni ampie, OTel nativo, funziona su più framework
Funziona su più framework; supporto OTel
Supporto agenti
Agent Graphs, Trace Log View, Code Evaluators, server MCP
LangSmith Studio, tracing nativo LangGraph, ispezione stato
Compliance
SOC 2 Type II, ISO 27001, GDPR, HIPAA
SOC 2 Type II, GDPR, HIPAA
Modello di prezzo
Basato su unità; utenti illimitati nei piani a pagamento
Basato su seat + trace; doppi tier di retention
Fit
Sovranità dei dati, stack non-LangChain, valutazione CI/CD
Team LangGraph, preferenza per SaaS gestito
Errori nella scelta di una piattaforma di osservabilità LLM
Primo punto, secondo me: non concentrarti solo sul tracing. Il tracing ti dice cosa è successo, ma la valutazione ti dice se l’output è stato buono. Se scegli solo in base alla visualizzazione del trace, stai usando il criterio sbagliato.
Secondo punto: osserva le meccaniche di prezzo. Come visto sopra, i costi di Langfuse crescono con la profondità del trace, mentre la retention estesa di LangSmith può cambiare il costo della valutazione automatizzata. Fai i conti prima della produzione.
Terzo, il self-hosting non significa la stessa cosa nei due prodotti. La sezione sul self-hosting qui sopra spiega perché. Se la sovranità dei dati è un requisito rigido, questa differenza può decidere il confronto.
Infine, non decidere solo sulla compatibilità con i framework. Entrambe le piattaforme supportano più stack applicativi, e gli stack cambiano. Requisiti di deployment e workflow di valutazione sono più difficili da sostituire in seguito.
Quando scegliere Langfuse
In base ai compromessi sopra, Langfuse si adatta meglio quando:
Quando scegliere LangSmith
In base agli stessi compromessi, LangSmith si adatta meglio quando:
Conclusione
Langfuse e LangSmith risolvono entrambi un problema reale e sono entrambi cambiati molto nell’ultimo anno. A questo punto, il compromesso è chiaro.
La decisione non riguarda quale piattaforma abbia più funzionalità. È il compromesso tra proprietà ed ecosistema visto prima. Ti serve un percorso open source con controllo diretto sul tuo data stack, oppure vuoi una piattaforma gestita con osservabilità, valutazione e workflow di produzione integrati?
Una precisazione prima di decidere: entrambe le piattaforme cambiano spesso. Controlla i changelog prima di impegnarti.
Per approfondire l’ecosistema LangChain, vedi il nostro tutorial LangChain vs. LangGraph vs. LangSmith vs. LangFlow.