Когда чат-бот начинает давать плохие ответы, первое желание — проверить промпт. Это срабатывает для одного вызова LLM. Но перестаёт работать, когда приложение — это агент, который вызывает инструменты.
Именно этот недостающий контекст пытаются дать платформы наблюдаемости для LLM. Это не традиционные инструменты мониторинга приложений. Классический инструмент расскажет о задержках и доле ошибок. Платформа наблюдаемости LLM покажет, какой вызов инструмента вернул некорректный результат и улучшило ли изменение промпта качество вывода.
И Langfuse, и LangSmith поддерживают трассировку, оценивание и управление промптами, и обе получили крупные обновления в начале 2026 года. Но они не взаимозаменяемы. Разница сводится к требованиям к развёртыванию, технологическому стеку и тому, как ваша команда проводит оценивание.
Коротко: Langfuse подходит командам, которым нужны open-source, самостоятельное размещение, контроль над данными или стек вне LangChain. LangSmith подходит командам, которым нужна независимая от фреймворков платформа с интегрированными наблюдаемостью, оцениванием, отладкой и продакшен-процессами для LLM‑приложений. Если ни одно из условий не выполняется, стоит посмотреть на цены.
Что такое Langfuse и LangSmith?
В целом обе платформы делают LLM‑приложения наблюдаемыми, тестируемыми и отлаживаемыми. Вот что представляет собой каждая из них.
Обзор позиционирования платформ Langfuse и LangSmith. Изображение: автор.
Что такое Langfuse?
Langfuse — это платформа инженерии LLM с открытым исходным кодом, запущенная в 2023 году. Она охватывает трассировку, управление промптами, оценивание (LLM‑as‑judge, ручную разметку и проверки на базе кода), эксперименты с датасетами, а также мониторинг стоимости и задержек. Ядро open-source продукта имеет лицензию MIT.
В январе 2026 года ClickHouse объявила о раунде серии D на $400 млн и приобрела Langfuse. Теперь Langfuse — часть ClickHouse, колонночной базы данных, которая уже лежала в основе бэкенда Langfuse. На тот момент подтвердили, что лицензия MIT и open-source‑идентичность останутся без изменений.
Langfuse доступен как управляемый облачный сервис с регионами в США, ЕС и Японии, а также как самостоятельно разворачиваемый open-source инстанс без стоимости лицензии.
Что такое LangSmith?
LangSmith — независимая от фреймворков платформа наблюдаемости и оценивания, созданная LangChain Inc., командой, стоящей за LangChain, LangGraph и Deep Agents. Платформа проприетарная и с закрытым исходным кодом. В октябре 2025 года LangChain привлекла $125 млн при оценке $1,25 млрд.
Основные возможности включают трассировку в рамках запуска приложения, визуальную отладку, автоматизированные оценивания, мониторинг продакшена и управление промптами через Prompt Hub и Playground. В мае 2026 года LangChain запустила SmithDB — слой данных на Rust, который теперь обрабатывает 100% приёма данных в LangSmith US Cloud. SmithDB спроектирован под уникальные полезные нагрузки данных, создаваемые LLM‑приложениями, снижая P50 загрузки дерева трасс до 92 мс и полнотекстовый поиск до 400 мс.
LangSmith доступен как управляемый облачный сервис, развёртывание BYOC (данные в VPC клиента) или самостоятельное размещение уровня Enterprise. LangChain также объявила, что self‑hosted LangSmith будет поддерживать BYOK для Engine — встроенного агента для поиска и исправления ошибок в LLM‑приложениях.
Open Source vs. управляемый SaaS
Ключевое различие между платформами — не просто «open source против не open source». Настоящая разница — в контроле и переносимости с одной стороны и в управляемых рабочих процессах с другой. Langfuse позволяет запускать стек на собственной инфраструктуре без лицензионных затрат. LangSmith предлагает управляемое облако, BYOC и самостоятельное размещение, с глубокой нативной поддержкой LangChain, LangGraph и Deep Agents, но без обязательства использовать эти фреймворки.
Есть обновление, которое меняет акценты в сравнении: LangSmith теперь поддерживает трассировку OpenTelemetry через пакет langsmith[otel] и переменную окружения LANGSMITH_OTEL_ENABLED=true. Это один из способов использовать LangSmith с приложениями вне LangChain.
Вот как платформы располагаются структурно:
|
Измерение
|
Langfuse
|
LangSmith
|
|
Модель исходников
|
Открытый исходный код (MIT)
|
Проприетарная, закрытый исходный код
|
|
Самостоятельное размещение
|
Бесплатное self‑host по MIT; корпоративные контроли — платно
|
Требуется корпоративный контракт
|
|
Подход к фреймворкам
|
Работает с разными фреймворками; широкие интеграции; нативная OTel
|
Работает с разными фреймворками; поддержка OTel
|
|
Суверенитет данных
|
Полный; возможна изолированная (air‑gapped) инсталляция
|
Гибрид и self‑hosted для клиентов Enterprise
|
|
Бэкенд‑БД
|
ClickHouse
|
SmithDB (Rust/DataFusion)
|
|
Модель ценообразования
|
По юнитам (трассы + наблюдения + оценки)
|
По местам + по трассам с двумя уровнями хранения
|
|
Соответствие требованиям
|
SOC 2 Type II, ISO 27001, GDPR, HIPAA
|
SOC 2 Type II, GDPR, HIPAA
|
Далее в статье разбирается, что эти различия означают на практике.
Трассировка и наблюдаемость
Именно в трассировке продукты начинают расходиться. Оба захватывают вызовы LLM, вызовы инструментов и связанные метаданные, но в агентных сценариях различия проявляются быстрее, чем в простых приложениях «промпт‑ответ».
Трассировка запросов
Langfuse строит иерархические трассы, фиксирующие вызовы LLM, обращения к инструментам, эмбеддинги и шаги извлечения. Можно фильтровать по пользователю, сессии, стоимости, задержке или пользовательским метаданным. В мае 2026 года Langfuse добавил полнотекстовый поиск на базе нативного FTS‑движка ClickHouse, сократив запросы, занимавшие ранее почти 20 секунд, до менее чем полсекунды.
LangSmith фиксирует каждый вызов LLM и использование инструмента как исследуемое дерево запусков. Поскольку SmithDB теперь обрабатывает весь приём данных в US Cloud, деревья трасс загружаются с P50 в 92 мс. В LangSmith также есть неконтролируемая тематическая кластеризация, которая группирует трассы по выявленным темам и даёт командам отправную точку, когда непонятно, что именно не так.
Видимость агентных рабочих процессов
Langfuse добавил Agent Graphs в ноябре 2025 года: визуализацию потока выполнения для многошаговых агентов путём вывода структуры графа из таймингов наблюдений и вложенности. Работает с любым инструментированным фреймворком, включая нативную поддержку LangGraph. В то же время появился Trace Log View — плоский поток шагов агента для сильно зацикливающихся или ветвящихся сценариев.
Граф агента Langfuse для выполнения LangGraph. Изображение: автор.
Трассировка LangGraph в LangSmith фиксирует каждый узел, ребро и переход состояния в запуске без какой‑либо настройки, кроме задания переменной окружения. LangSmith Studio позволяет пошагово пройти выполнение агента, изучить состояние в каждом узле и воспроизвести трассу с другой моделью или промптом. В приложении на LangGraph это даёт больше контекста, чем общее дерево трасс.В сентябре 2026 года LangSmith выпустил Trajectories, которые упрощают отладку трасс и их включение в контуры обратной связи с экспертами предметной области.
Дерево трасс LangSmith для агентного процесса. Изображение: автор.
Мониторинг в продакшене
Для продакшен-мониторинга обе платформы отслеживают задержку, использование токенов, стоимость и уровень ошибок. LangSmith включает оповещения PagerDuty и вебхуки для инцидентов в продакшене, а также рабочие процессы мониторинга, связанные с трассами и оцениваниями. Langfuse включает оповещения о расходах с настраиваемыми порогами. На этом уровне функции мониторинга схожи.
Оффлайн- и онлайн‑оценивание
Трассировка показывает, что произошло. Оценивание показывает, хорошо ли это. На практике эти инструменты полезнее, когда оценивание — часть рабочего процесса, а не чек‑лист перед релизом.
LLM‑as‑a‑judge и оцениватели на коде
Механизм LLM‑as‑judge в Langfuse стал полностью open-source под MIT в июне 2025 года. Любой self‑hosted пользователь на v3.65.0 или новее получает его без коммерческой лицензии. В мае 2026 года Langfuse выпустил Code Evaluators: функции evaluate на Python или TypeScript, которые вы пишете прямо в UI Langfuse. Они выполняют детерминистские проверки, такие как валидация по JSON‑схеме, проверка по регэкспам или верификация аргументов инструментов, без затрат токенов и без вызова модели‑«судьи».
LangSmith предлагает настраиваемые оцениватели LLM‑as‑judge с типами обратной связи Boolean, Categorical и Continuous, а также встроенные шаблоны для безопасности, надёжности и качества. Поддерживается и few-shot correction, когда размеченные человеком правки на выходах оценивателя возвращаются как few‑shot примеры, улучшая со временем калибровку оценивателя.
Датасеты, эксперименты и ручная разметка
Оффлайн‑оценивание работает в обеих платформах через датасеты и сравнение экспериментов бок‑о‑бок. Langfuse добавил Score Analytics в ноябре 2025 года для измерения согласованности оценивателей по прецизионности, полноте, F1, стоимости и точности. Функция сравнения с базовой линией (также ноябрь 2025) позволяет пометить конкретный запуск как точку отсчёта и выявлять регрессии относительно неё.
Интеграция Langfuse с GitHub Actions для CI/CD, выпущенная в мае 2026 через langfuse/experiment-action, прерывает workflow, если оценки эксперимента падают ниже порога. Так оценивание становится допуском к деплою, а не пост‑релизной проверкой.
Цикл оценивания Langfuse с GitHub Actions. Изображение: автор.
В настройках оценивания LangSmith есть момент по биллингу, который важно учесть заранее: оцениватели, добавляющие фидбек в трассы, могут перевести их на расширенное хранение. Как будет показано в разделе про цены, это меняет стоимость рабочих процессов оценивания.
Версионирование, деплой и A/B‑тестирование промптов
Управление промптами здесь — это больше, чем история версий. Процесс такой: итерации в песочнице, тест на датасете, вывод в продакшен и аккуратный откат при сбое.
Langfuse присваивает каждой версии промпта ID версии и использует метки вроде production и staging для управления активной версией. Изменение метки в UI — это и есть деплой или откат. Промпты кэшируются на стороне клиента через SDK, так что при получении активной версии в продакшене задержка не добавляется. Защищённые метки позволяют администраторам ограничивать роли, которые могут менять метку production, что важно при разном уровне доступа у участников.
LangSmith управляет промптами через Prompt и Context Hub с версионированием по хешу коммита для программной фиксации точных версий. В Prompt Hub есть библиотека сообщества, которой у Langfuse нет. A/B‑тестирование через эксперименты с датасетами доступно на обеих платформах.
В этой категории продукты ближе друг к другу, чем в вопросах хостинга, ценообразования или настройки фреймворков.
Langfuse и LangSmith для агентных приложений
За прошлый год именно агенты во многом определяли развитие функций обеих платформ. Здесь важно, на чём построен агент.
Langfuse показывает доступные инструменты, выделяет вызванные инструменты и отображает аргументы и ID вызовов. Расширенные типы наблюдений различают вызовы инструментов, эмбеддинги и вызовы «ограждений» (guardrails) в представлении трассы. Как упомянуто выше, Code Evaluators также могут проверять аргументы инструментов по схеме. MCP‑сервер в мае 2026 расширили до 15 категорий инструментов, так что агенты в Claude Code, Cursor или OpenAI Codex могут запрашивать данные Langfuse программно.
Пункт про LangGraph из раздела трассировки актуален и здесь. Поддержка агентов в LangSmith включает инспекцию состояния на каждом узле, воспроизведение трассы с альтернативными моделями и LangSmith Studio для визуальной пошаговой отладки. Команда Monte Carlo, у которой в продакшене работает система из сотен субагентов, назвала эту интеграцию с LangGraph без настройки ключевой причиной выбора платформы.
Для агентов на CrewAI, Pydantic AI или других мультиагентных фреймворках у Langfuse шире нативная инструментализация и зачастую требуется меньше ручной настройки.
Интеграции с фреймворками и SDK
Langfuse перечисляет широкие интеграции с провайдерами моделей, фреймворками, шлюзами, no‑code инструментами, аналитикой и разработческими инструментами. Среди фреймворков — LangChain, LangGraph, OpenAI Agents SDK, Pydantic AI, CrewAI, AutoGen, DSPy, Haystack, LlamaIndex и др. Платформа нативно поддерживает OpenTelemetry на уровне SDK.
Нативные SDK LangSmith охватывают Python, TypeScript, Go и Java. Помимо LangChain, LangGraph и Deep Agents, он работает с OpenAI SDK, Anthropic SDK, Vercel AI SDK, LlamaIndex, кастомными реализациями и OpenTelemetry. Это означает, что это не инструмент трассировки только для LangChain.
Практический вопрос не только в том, поддерживается ли фреймворк, — большинство популярных работают с обеими платформами. Вопрос в том, сколько инструментализации придётся писать.
Langfuse Open Source и LangSmith Enterprise
Самостоятельное размещение сильнее прочих категорий меняет операционную и комплаенс‑картину.
Self‑hosting Langfuse бесплатен по MIT. Docker Compose подходит для разработки или оценивания; в продакшене обычно используют Kubernetes с Helm на GKE, EKS или AKS. В стек входят ClickHouse, PostgreSQL, Redis и S3‑совместимое хранилище; рекомендованный минимум ВМ — 4 ядра и 16 ГиБ ОЗУ. Стоимость софта — ноль, но инфраструктуру и операции берёт на себя ваша команда. Платная Enterprise‑редакция для self‑host добавляет выделенную поддержку, журналы аудита, SCIM и SLA.
По соответствию требованиям: Langfuse Cloud имеет SOC 2 Type II, ISO 27001, GDPR и HIPAA. LangSmith Cloud имеет SOC 2 Type II, GDPR и HIPAA. ISO 27001 у LangSmith не указан. Если в закупочных процедурах это обязательный пункт, это конкретное различие.
Self‑hosting LangSmith требует контракта уровня Enterprise. Бесплатного open-source пути для самостоятельного размещения нет. Три модели развёртывания (Cloud, Bring‑Your‑Own‑Cloud (BYOC) и Self‑hosted) все относятся к Enterprise. SmithDB доступен для всех способов хостинга.
Цены Langfuse и LangSmith
Заголовочные цифры не раскрывают всей картины.
В этой категории цены часто меняются. Приведённые ниже цифры соответствуют официальным страницам, проверенным в июне 2026 года, но перед планированием бюджета проверьте актуальные страницы цен обеих платформ.
Цены Langfuse
Langfuse Cloud берёт плату по юнитам: один юнит равен одной трассе, одному наблюдению или одному оценочному баллу. Формула Units = Traces + Observations + Scores, поэтому запуск агента с множеством инструментов может стоить дороже простой трассы «промпт‑ответ». Бесплатный план Hobby включает 50 000 юнитов в месяц, хранение 30 дней и двух пользователей. Core стоит $29/мес. со 100 000 включённых юнитов, неограниченным числом пользователей и хранением 90 дней. Pro — $199/мес. с доступом к данным за 3 года и сертификациями соответствия. Enterprise начинается от $2 499/мес. с индивидуальным объёмным ценообразованием. Перерасход — от $8 за каждые дополнительные 100 000 юнитов.
Как уже упоминалось, self‑hosted Langfuse не имеет стоимости лицензии. SCIM, журналы аудита и корпоративная поддержка требуют коммерческой лицензии.
Цены LangSmith
LangSmith берёт плату за места (seats) и за трассы. План Developer бесплатен с 5 000 трасс в месяц, одним местом и хранением 14 дней. Plus стоит $39 за место в месяц с 10 000 базовых трасс включено. Базовые трассы хранятся 14 дней; расширенные — 400 дней и стоят дороже. Команда из пяти человек на Plus платит $195/мес. за места до учёта перерасхода по трассам. Enterprise — по договорённости.
Механика хранения данных
Как уже отмечалось, расширенное хранение включается автоматически, когда оцениватели добавляют обратную связь в трассы. Перед настройкой конвейеров оценивания изучите документацию по биллингу LangSmith об авто‑расширенном хранении.
Эти детали важны, потому что небольшие различия в глубине трасс, использовании оценивателей и правилах хранения могут заметно менять месячный счёт.
Сравнительная таблица Langfuse и LangSmith
Как уже упоминалось, основные различия — это владение, совместимость со стеком, рабочий процесс оценивания и цены. Таблица ниже сжимает эти пункты перед финальными разделами с рекомендациями.
|
Функция
|
Langfuse
|
LangSmith
|
|
Open source
|
Да (MIT)
|
Нет (проприетарный)
|
|
Самостоятельное размещение
|
Бесплатное self‑host по MIT; корпоративные контроли — платно
|
Требуется корпоративный контракт
|
|
Оценивание
|
LLM‑as‑judge (MIT), оцениватели на коде, ручная разметка, CI/CD
|
LLM‑as‑judge, ручная разметка, онлайн‑оцениватели, few‑shot correction
|
|
Управление промптами
|
Деплой на метках, кэширование в SDK, композиция промптов
|
Версионирование по хешу коммита, сообщественный Prompt Hub
|
|
Экосистема
|
Широкие интеграции, нативная OTel, работает с разными фреймворками
|
Работает с разными фреймворками; поддержка OTel
|
|
Поддержка агентов
|
Agent Graphs, Trace Log View, Code Evaluators, MCP‑сервер
|
LangSmith Studio, нативная трассировка LangGraph, инспекция состояния
|
|
Соответствие требованиям
|
SOC 2 Type II, ISO 27001, GDPR, HIPAA
|
SOC 2 Type II, GDPR, HIPAA
|
|
Модель ценообразования
|
По юнитам; неограниченные пользователи в платных планах
|
По местам + по трассам; два уровня хранения
|
|
Кому подходит
|
Суверенитет данных, стеки не на LangChain, оценивание в CI/CD
|
Команды на LangGraph, предпочтение управляемому SaaS
|
Ошибки при выборе платформы наблюдаемости LLM
Во‑первых, на мой взгляд: не фокусируйтесь только на трассировке. Трассировка показывает, что произошло, но оценивание показывает, насколько хорош результат. Если выбирать только по визуализации трасс, вы используете неверный критерий.
Во‑вторых: внимательно изучите механику цен. Как описано выше, стоимость Langfuse растёт с глубиной трасс, а расширенное хранение в LangSmith может изменить стоимость автоматизированного оценивания. Посчитайте экономику до продакшена.
В‑третьих, self‑hosting означает разное у двух продуктов. Раздел о самостоятельном размещении показывает почему. Если суверенитет данных — жёсткое требование, это различие может решить исход сравнения.
Наконец, не выбирайте только по совместимости с фреймворком. Обе платформы поддерживают несколько стеков, и стеки меняются. Требования к развёртыванию и процессы оценивания сложнее поменять позже.
Когда выбрать Langfuse
С учётом компромиссов выше, Langfuse больше подходит, когда:
- Вашей команде нужны нативные интеграции для фреймворков, таких как CrewAI, Pydantic AI, LlamaIndex, или прямые вызовы API OpenAI или Anthropic.
- Суверенитет данных не обсуждается, и вводы/выводы LLM и трассы должны оставаться на вашей инфраструктуре.
- Команде нужно оценивание, интегрированное в CI/CD, с автоматическими порогами регрессий через GitHub Actions.
- Нужна предсказуемая стоимость для растущей команды, так как платные облачные планы включают неограниченное число пользователей.
Когда выбрать LangSmith
По тем же критериям LangSmith лучше подходит, когда:
- Вам нужна независимая от моделей и фреймворков платформа для наблюдаемости, оценивания, отладки и мониторинга продакшена во всех LLM‑приложениях, с особенно глубокой поддержкой фреймворков LangChain.
- Команде нужна управляемая платформа, покрывающая весь цикл улучшения агентов.
- Вам нужна высокопроизводительная база данных для трассовых данных, которую можно развернуть на предпочитаемой инфраструктуре.
- Ваши нужды выходят за рамки наблюдаемости и включают более широкую платформу LangSmith: оценивание, мониторинг продакшена, агентный сервер и LLM Gateway.
- Вам нужны трассы, датасеты, эксперименты, онлайн‑оценивание, обратная связь людей и мониторинг продакшена, объединённые в один рабочий процесс.
Заключение
И Langfuse, и LangSmith решают реальную задачу и сильно изменились за последний год. Сейчас компромисс понятен.
Речь не о том, у кого больше функций. Это выбор между владением и экосистемой, описанный выше. Нужен ли вам open-source путь с прямым контролем над стеком данных или управляемая платформа с интегрированными наблюдаемостью, оцениванием и продакшен‑процессами?
Одна оговорка перед выбором: обе платформы часто меняются. Проверьте журналы изменений перед тем, как принять решение.
Для дополнительного фона по экосистеме LangChain см. наш туториал «LangChain vs. LangGraph vs. LangSmith vs. LangFlow».
Когда чат-бот начинает давать плохие ответы, первое желание — проверить промпт. Это срабатывает для одного вызова LLM. Но перестаёт работать, когда приложение — это агент, который вызывает инструменты.
Именно этот недостающий контекст пытаются дать платформы наблюдаемости для LLM. Это не традиционные инструменты мониторинга приложений. Классический инструмент расскажет о задержках и доле ошибок. Платформа наблюдаемости LLM покажет, какой вызов инструмента вернул некорректный результат и улучшило ли изменение промпта качество вывода.
И Langfuse, и LangSmith поддерживают трассировку, оценивание и управление промптами, и обе получили крупные обновления в начале 2026 года. Но они не взаимозаменяемы. Разница сводится к требованиям к развёртыванию, технологическому стеку и тому, как ваша команда проводит оценивание.
Коротко: Langfuse подходит командам, которым нужны open-source, самостоятельное размещение, контроль над данными или стек вне LangChain. LangSmith подходит командам, которым нужна независимая от фреймворков платформа с интегрированными наблюдаемостью, оцениванием, отладкой и продакшен-процессами для LLM‑приложений. Если ни одно из условий не выполняется, стоит посмотреть на цены.
Что такое Langfuse и LangSmith?
В целом обе платформы делают LLM‑приложения наблюдаемыми, тестируемыми и отлаживаемыми. Вот что представляет собой каждая из них.
Обзор позиционирования платформ Langfuse и LangSmith. Изображение: автор.
Что такое Langfuse?
Langfuse — это платформа инженерии LLM с открытым исходным кодом, запущенная в 2023 году. Она охватывает трассировку, управление промптами, оценивание (LLM‑as‑judge, ручную разметку и проверки на базе кода), эксперименты с датасетами, а также мониторинг стоимости и задержек. Ядро open-source продукта имеет лицензию MIT.
В январе 2026 года ClickHouse объявила о раунде серии D на $400 млн и приобрела Langfuse. Теперь Langfuse — часть ClickHouse, колонночной базы данных, которая уже лежала в основе бэкенда Langfuse. На тот момент подтвердили, что лицензия MIT и open-source‑идентичность останутся без изменений.
Langfuse доступен как управляемый облачный сервис с регионами в США, ЕС и Японии, а также как самостоятельно разворачиваемый open-source инстанс без стоимости лицензии.
Что такое LangSmith?
LangSmith — независимая от фреймворков платформа наблюдаемости и оценивания, созданная LangChain Inc., командой, стоящей за LangChain, LangGraph и Deep Agents. Платформа проприетарная и с закрытым исходным кодом. В октябре 2025 года LangChain привлекла $125 млн при оценке $1,25 млрд.
Основные возможности включают трассировку в рамках запуска приложения, визуальную отладку, автоматизированные оценивания, мониторинг продакшена и управление промптами через Prompt Hub и Playground. В мае 2026 года LangChain запустила SmithDB — слой данных на Rust, который теперь обрабатывает 100% приёма данных в LangSmith US Cloud. SmithDB спроектирован под уникальные полезные нагрузки данных, создаваемые LLM‑приложениями, снижая P50 загрузки дерева трасс до 92 мс и полнотекстовый поиск до 400 мс.
LangSmith доступен как управляемый облачный сервис, развёртывание BYOC (данные в VPC клиента) или самостоятельное размещение уровня Enterprise. LangChain также объявила, что self‑hosted LangSmith будет поддерживать BYOK для Engine — встроенного агента для поиска и исправления ошибок в LLM‑приложениях.
Open Source vs. управляемый SaaS
Ключевое различие между платформами — не просто «open source против не open source». Настоящая разница — в контроле и переносимости с одной стороны и в управляемых рабочих процессах с другой. Langfuse позволяет запускать стек на собственной инфраструктуре без лицензионных затрат. LangSmith предлагает управляемое облако, BYOC и самостоятельное размещение, с глубокой нативной поддержкой LangChain, LangGraph и Deep Agents, но без обязательства использовать эти фреймворки.
Есть обновление, которое меняет акценты в сравнении: LangSmith теперь поддерживает трассировку OpenTelemetry через пакет
langsmith[otel]и переменную окруженияLANGSMITH_OTEL_ENABLED=true. Это один из способов использовать LangSmith с приложениями вне LangChain.Вот как платформы располагаются структурно:
Измерение
Langfuse
LangSmith
Модель исходников
Открытый исходный код (MIT)
Проприетарная, закрытый исходный код
Самостоятельное размещение
Бесплатное self‑host по MIT; корпоративные контроли — платно
Требуется корпоративный контракт
Подход к фреймворкам
Работает с разными фреймворками; широкие интеграции; нативная OTel
Работает с разными фреймворками; поддержка OTel
Суверенитет данных
Полный; возможна изолированная (air‑gapped) инсталляция
Гибрид и self‑hosted для клиентов Enterprise
Бэкенд‑БД
ClickHouse
SmithDB (Rust/DataFusion)
Модель ценообразования
По юнитам (трассы + наблюдения + оценки)
По местам + по трассам с двумя уровнями хранения
Соответствие требованиям
SOC 2 Type II, ISO 27001, GDPR, HIPAA
SOC 2 Type II, GDPR, HIPAA
Далее в статье разбирается, что эти различия означают на практике.
Трассировка и наблюдаемость
Именно в трассировке продукты начинают расходиться. Оба захватывают вызовы LLM, вызовы инструментов и связанные метаданные, но в агентных сценариях различия проявляются быстрее, чем в простых приложениях «промпт‑ответ».
Трассировка запросов
Langfuse строит иерархические трассы, фиксирующие вызовы LLM, обращения к инструментам, эмбеддинги и шаги извлечения. Можно фильтровать по пользователю, сессии, стоимости, задержке или пользовательским метаданным. В мае 2026 года Langfuse добавил полнотекстовый поиск на базе нативного FTS‑движка ClickHouse, сократив запросы, занимавшие ранее почти 20 секунд, до менее чем полсекунды.
LangSmith фиксирует каждый вызов LLM и использование инструмента как исследуемое дерево запусков. Поскольку SmithDB теперь обрабатывает весь приём данных в US Cloud, деревья трасс загружаются с P50 в 92 мс. В LangSmith также есть неконтролируемая тематическая кластеризация, которая группирует трассы по выявленным темам и даёт командам отправную точку, когда непонятно, что именно не так.
Видимость агентных рабочих процессов
Langfuse добавил Agent Graphs в ноябре 2025 года: визуализацию потока выполнения для многошаговых агентов путём вывода структуры графа из таймингов наблюдений и вложенности. Работает с любым инструментированным фреймворком, включая нативную поддержку LangGraph. В то же время появился Trace Log View — плоский поток шагов агента для сильно зацикливающихся или ветвящихся сценариев.
Граф агента Langfuse для выполнения LangGraph. Изображение: автор.
Трассировка LangGraph в LangSmith фиксирует каждый узел, ребро и переход состояния в запуске без какой‑либо настройки, кроме задания переменной окружения. LangSmith Studio позволяет пошагово пройти выполнение агента, изучить состояние в каждом узле и воспроизвести трассу с другой моделью или промптом. В приложении на LangGraph это даёт больше контекста, чем общее дерево трасс.В сентябре 2026 года LangSmith выпустил Trajectories, которые упрощают отладку трасс и их включение в контуры обратной связи с экспертами предметной области.
Дерево трасс LangSmith для агентного процесса. Изображение: автор.
Мониторинг в продакшене
Для продакшен-мониторинга обе платформы отслеживают задержку, использование токенов, стоимость и уровень ошибок. LangSmith включает оповещения PagerDuty и вебхуки для инцидентов в продакшене, а также рабочие процессы мониторинга, связанные с трассами и оцениваниями. Langfuse включает оповещения о расходах с настраиваемыми порогами. На этом уровне функции мониторинга схожи.
Оффлайн- и онлайн‑оценивание
Трассировка показывает, что произошло. Оценивание показывает, хорошо ли это. На практике эти инструменты полезнее, когда оценивание — часть рабочего процесса, а не чек‑лист перед релизом.
LLM‑as‑a‑judge и оцениватели на коде
Механизм LLM‑as‑judge в Langfuse стал полностью open-source под MIT в июне 2025 года. Любой self‑hosted пользователь на v3.65.0 или новее получает его без коммерческой лицензии. В мае 2026 года Langfuse выпустил Code Evaluators: функции
evaluateна Python или TypeScript, которые вы пишете прямо в UI Langfuse. Они выполняют детерминистские проверки, такие как валидация по JSON‑схеме, проверка по регэкспам или верификация аргументов инструментов, без затрат токенов и без вызова модели‑«судьи».LangSmith предлагает настраиваемые оцениватели LLM‑as‑judge с типами обратной связи Boolean, Categorical и Continuous, а также встроенные шаблоны для безопасности, надёжности и качества. Поддерживается и few-shot correction, когда размеченные человеком правки на выходах оценивателя возвращаются как few‑shot примеры, улучшая со временем калибровку оценивателя.
Датасеты, эксперименты и ручная разметка
Оффлайн‑оценивание работает в обеих платформах через датасеты и сравнение экспериментов бок‑о‑бок. Langfuse добавил Score Analytics в ноябре 2025 года для измерения согласованности оценивателей по прецизионности, полноте, F1, стоимости и точности. Функция сравнения с базовой линией (также ноябрь 2025) позволяет пометить конкретный запуск как точку отсчёта и выявлять регрессии относительно неё.
Интеграция Langfuse с GitHub Actions для CI/CD, выпущенная в мае 2026 через
langfuse/experiment-action, прерывает workflow, если оценки эксперимента падают ниже порога. Так оценивание становится допуском к деплою, а не пост‑релизной проверкой.Цикл оценивания Langfuse с GitHub Actions. Изображение: автор.
В настройках оценивания LangSmith есть момент по биллингу, который важно учесть заранее: оцениватели, добавляющие фидбек в трассы, могут перевести их на расширенное хранение. Как будет показано в разделе про цены, это меняет стоимость рабочих процессов оценивания.
Версионирование, деплой и A/B‑тестирование промптов
Управление промптами здесь — это больше, чем история версий. Процесс такой: итерации в песочнице, тест на датасете, вывод в продакшен и аккуратный откат при сбое.
Langfuse присваивает каждой версии промпта ID версии и использует метки вроде
productionиstagingдля управления активной версией. Изменение метки в UI — это и есть деплой или откат. Промпты кэшируются на стороне клиента через SDK, так что при получении активной версии в продакшене задержка не добавляется. Защищённые метки позволяют администраторам ограничивать роли, которые могут менять меткуproduction, что важно при разном уровне доступа у участников.LangSmith управляет промптами через Prompt и Context Hub с версионированием по хешу коммита для программной фиксации точных версий. В Prompt Hub есть библиотека сообщества, которой у Langfuse нет. A/B‑тестирование через эксперименты с датасетами доступно на обеих платформах.
В этой категории продукты ближе друг к другу, чем в вопросах хостинга, ценообразования или настройки фреймворков.
Langfuse и LangSmith для агентных приложений
За прошлый год именно агенты во многом определяли развитие функций обеих платформ. Здесь важно, на чём построен агент.
Langfuse показывает доступные инструменты, выделяет вызванные инструменты и отображает аргументы и ID вызовов. Расширенные типы наблюдений различают вызовы инструментов, эмбеддинги и вызовы «ограждений» (guardrails) в представлении трассы. Как упомянуто выше, Code Evaluators также могут проверять аргументы инструментов по схеме. MCP‑сервер в мае 2026 расширили до 15 категорий инструментов, так что агенты в Claude Code, Cursor или OpenAI Codex могут запрашивать данные Langfuse программно.
Пункт про LangGraph из раздела трассировки актуален и здесь. Поддержка агентов в LangSmith включает инспекцию состояния на каждом узле, воспроизведение трассы с альтернативными моделями и LangSmith Studio для визуальной пошаговой отладки. Команда Monte Carlo, у которой в продакшене работает система из сотен субагентов, назвала эту интеграцию с LangGraph без настройки ключевой причиной выбора платформы.
Для агентов на CrewAI, Pydantic AI или других мультиагентных фреймворках у Langfuse шире нативная инструментализация и зачастую требуется меньше ручной настройки.
Интеграции с фреймворками и SDK
Langfuse перечисляет широкие интеграции с провайдерами моделей, фреймворками, шлюзами, no‑code инструментами, аналитикой и разработческими инструментами. Среди фреймворков — LangChain, LangGraph, OpenAI Agents SDK, Pydantic AI, CrewAI, AutoGen, DSPy, Haystack, LlamaIndex и др. Платформа нативно поддерживает OpenTelemetry на уровне SDK.
Нативные SDK LangSmith охватывают Python, TypeScript, Go и Java. Помимо LangChain, LangGraph и Deep Agents, он работает с OpenAI SDK, Anthropic SDK, Vercel AI SDK, LlamaIndex, кастомными реализациями и OpenTelemetry. Это означает, что это не инструмент трассировки только для LangChain.
Практический вопрос не только в том, поддерживается ли фреймворк, — большинство популярных работают с обеими платформами. Вопрос в том, сколько инструментализации придётся писать.
Langfuse Open Source и LangSmith Enterprise
Самостоятельное размещение сильнее прочих категорий меняет операционную и комплаенс‑картину.
Self‑hosting Langfuse бесплатен по MIT. Docker Compose подходит для разработки или оценивания; в продакшене обычно используют Kubernetes с Helm на GKE, EKS или AKS. В стек входят ClickHouse, PostgreSQL, Redis и S3‑совместимое хранилище; рекомендованный минимум ВМ — 4 ядра и 16 ГиБ ОЗУ. Стоимость софта — ноль, но инфраструктуру и операции берёт на себя ваша команда. Платная Enterprise‑редакция для self‑host добавляет выделенную поддержку, журналы аудита, SCIM и SLA.
По соответствию требованиям: Langfuse Cloud имеет SOC 2 Type II, ISO 27001, GDPR и HIPAA. LangSmith Cloud имеет SOC 2 Type II, GDPR и HIPAA. ISO 27001 у LangSmith не указан. Если в закупочных процедурах это обязательный пункт, это конкретное различие.
Self‑hosting LangSmith требует контракта уровня Enterprise. Бесплатного open-source пути для самостоятельного размещения нет. Три модели развёртывания (Cloud, Bring‑Your‑Own‑Cloud (BYOC) и Self‑hosted) все относятся к Enterprise. SmithDB доступен для всех способов хостинга.
Цены Langfuse и LangSmith
Заголовочные цифры не раскрывают всей картины.
В этой категории цены часто меняются. Приведённые ниже цифры соответствуют официальным страницам, проверенным в июне 2026 года, но перед планированием бюджета проверьте актуальные страницы цен обеих платформ.
Цены Langfuse
Langfuse Cloud берёт плату по юнитам: один юнит равен одной трассе, одному наблюдению или одному оценочному баллу. Формула
Units = Traces + Observations + Scores, поэтому запуск агента с множеством инструментов может стоить дороже простой трассы «промпт‑ответ». Бесплатный план Hobby включает 50 000 юнитов в месяц, хранение 30 дней и двух пользователей. Core стоит $29/мес. со 100 000 включённых юнитов, неограниченным числом пользователей и хранением 90 дней. Pro — $199/мес. с доступом к данным за 3 года и сертификациями соответствия. Enterprise начинается от $2 499/мес. с индивидуальным объёмным ценообразованием. Перерасход — от $8 за каждые дополнительные 100 000 юнитов.Как уже упоминалось, self‑hosted Langfuse не имеет стоимости лицензии. SCIM, журналы аудита и корпоративная поддержка требуют коммерческой лицензии.
Цены LangSmith
LangSmith берёт плату за места (seats) и за трассы. План Developer бесплатен с 5 000 трасс в месяц, одним местом и хранением 14 дней. Plus стоит $39 за место в месяц с 10 000 базовых трасс включено. Базовые трассы хранятся 14 дней; расширенные — 400 дней и стоят дороже. Команда из пяти человек на Plus платит $195/мес. за места до учёта перерасхода по трассам. Enterprise — по договорённости.
Механика хранения данных
Как уже отмечалось, расширенное хранение включается автоматически, когда оцениватели добавляют обратную связь в трассы. Перед настройкой конвейеров оценивания изучите документацию по биллингу LangSmith об авто‑расширенном хранении.
Эти детали важны, потому что небольшие различия в глубине трасс, использовании оценивателей и правилах хранения могут заметно менять месячный счёт.
Сравнительная таблица Langfuse и LangSmith
Как уже упоминалось, основные различия — это владение, совместимость со стеком, рабочий процесс оценивания и цены. Таблица ниже сжимает эти пункты перед финальными разделами с рекомендациями.
Функция
Langfuse
LangSmith
Open source
Да (MIT)
Нет (проприетарный)
Самостоятельное размещение
Бесплатное self‑host по MIT; корпоративные контроли — платно
Требуется корпоративный контракт
Оценивание
LLM‑as‑judge (MIT), оцениватели на коде, ручная разметка, CI/CD
LLM‑as‑judge, ручная разметка, онлайн‑оцениватели, few‑shot correction
Управление промптами
Деплой на метках, кэширование в SDK, композиция промптов
Версионирование по хешу коммита, сообщественный Prompt Hub
Экосистема
Широкие интеграции, нативная OTel, работает с разными фреймворками
Работает с разными фреймворками; поддержка OTel
Поддержка агентов
Agent Graphs, Trace Log View, Code Evaluators, MCP‑сервер
LangSmith Studio, нативная трассировка LangGraph, инспекция состояния
Соответствие требованиям
SOC 2 Type II, ISO 27001, GDPR, HIPAA
SOC 2 Type II, GDPR, HIPAA
Модель ценообразования
По юнитам; неограниченные пользователи в платных планах
По местам + по трассам; два уровня хранения
Кому подходит
Суверенитет данных, стеки не на LangChain, оценивание в CI/CD
Команды на LangGraph, предпочтение управляемому SaaS
Ошибки при выборе платформы наблюдаемости LLM
Во‑первых, на мой взгляд: не фокусируйтесь только на трассировке. Трассировка показывает, что произошло, но оценивание показывает, насколько хорош результат. Если выбирать только по визуализации трасс, вы используете неверный критерий.
Во‑вторых: внимательно изучите механику цен. Как описано выше, стоимость Langfuse растёт с глубиной трасс, а расширенное хранение в LangSmith может изменить стоимость автоматизированного оценивания. Посчитайте экономику до продакшена.
В‑третьих, self‑hosting означает разное у двух продуктов. Раздел о самостоятельном размещении показывает почему. Если суверенитет данных — жёсткое требование, это различие может решить исход сравнения.
Наконец, не выбирайте только по совместимости с фреймворком. Обе платформы поддерживают несколько стеков, и стеки меняются. Требования к развёртыванию и процессы оценивания сложнее поменять позже.
Когда выбрать Langfuse
С учётом компромиссов выше, Langfuse больше подходит, когда:
Когда выбрать LangSmith
По тем же критериям LangSmith лучше подходит, когда:
Заключение
И Langfuse, и LangSmith решают реальную задачу и сильно изменились за последний год. Сейчас компромисс понятен.
Речь не о том, у кого больше функций. Это выбор между владением и экосистемой, описанный выше. Нужен ли вам open-source путь с прямым контролем над стеком данных или управляемая платформа с интегрированными наблюдаемостью, оцениванием и продакшен‑процессами?
Одна оговорка перед выбором: обе платформы часто меняются. Проверьте журналы изменений перед тем, как принять решение.
Для дополнительного фона по экосистеме LangChain см. наш туториал «LangChain vs. LangGraph vs. LangSmith vs. LangFlow».