如果您使用大型语言模型，您会知道 提示工程 可能有些棘手。您可能会花费数小时调整提示词，但最终结果参差不齐。这既令人沮丧，又耗费时间，而且往往需要大量反复试验才能得到理想效果。
一个解决方案就是 DSPy ——一个改变我们进行提示工程方式的新框架。DSPy 不再强调打磨完美提示词，而是让我们直接对模型进行编程。
在本教程中，我将解释 DSPy 以及它与传统方法的不同之处。您将了解其核心特性与优势及其工作方式。我会带您完成 DSPy 的入门步骤，并指向有用的资源与社区。
让我们开始吧！
什么是 DSPy？
DSPy 是斯坦福大学创建的一个开源工具，能够“将声明式的语言模型调用编译为可自我改进的流水线”。DSPy 让您无需耗时打磨提示词，而是可以直接对 AI 模型进行编程。
这让 AI 应用更加可靠，也更易扩展。DSPy 将应用逻辑与其使用的文本相分离，使您可以专注于希望 AI 完成的任务；与此同时，DSPy 会在幕后优化提示词。
接下来看看它的一些关键特性。
声明式编程
使用 DSPy，您只需定义要完成的任务以及衡量成功的指标。框架会为您优化模型行为。它采用易于理解的 Python 语法，让您将注意力放在应用应该做什么，而不是如何去提示模型。
自我改进的提示词
DSPy 的一大亮点是能够随时间自动改进提示词。它会持续优化提示词，免去您频繁手动调整的麻烦。其通过反馈与评估来实现，确保模型在每次迭代中表现更好。
模块化架构
DSPy 还提供模块化架构，允许您为不同自然语言处理（NLP）任务组合使用预构建模块。这种模块化使其高度可定制，能够满足特定需求，提升灵活性与可复用性。框架包含诸如 ChainOfThought 和 ReAct 等实用模块，可轻松集成到您的应用中。
DSPy 的工作原理
本节将介绍 DSPy 的主要组成部分，以及它如何简化与 LLM 的协作。
任务定义
在 DSPy 中，用户首先要明确任务目标及优化指标。这意味着您需要定义希望模型达成的成果，以及如何衡量其成功。
DSPy 会利用带标注或未标注的示例输入来引导学习过程。这些示例有助于框架更好地理解任务并提升性能。此外，DSPy 引入“模块”的概念，即适用于各类 NLP 任务的可复用积木。这些模块可按需组合与定制。
流水线构建
任务定义完成后，用户需要为具体任务选择并配置合适的模块。这包括挑选与任务要求匹配的模块并进行相应设置。DSPy 允许您将这些模块串联起来，构建复杂的流水线，从而实现更精巧的工作流。每个模块都有签名来定义输入与输出规范，确保模块之间能够无缝协作。
优化与编译
DSPy 通过上下文学习与自动 小样本 示例生成来优化提示词。也就是说，框架会持续打磨提示词以提升模型性能。对于需要更细化调优的任务，DSPy 也可以对较小的模型进行微调。
最后，DSPy 会将整条流水线编译为可执行的 Python 代码，便于集成到您的应用中。该编译过程确保流水线高效、有效地运行。
图 1：DSPy 工作流：从数据到优化的 AI 模型
该图展示了 DSPy 的核心工作流，即如何将原始数据转化为优化后的 AI 模型。流程从数据集开始，据此确定签名（输入/输出结构）。利用该签名创建模块，随后通过 DSPy 的先进技术进行优化。最后，对优化后的模块进行评估，确保其达到预期性能标准。
这种精简的路径让您专注于高层设计，而由 DSPy 处理提示工程与模型优化的复杂性。
DSPy 的优势
DSPy 拥有多项关键优势，使其成为处理 LLM 的有力工具：
更高的可靠性
DSPy 的声明式方法可带来更可靠、可预测的 LLM 行为。您无需手工编写提示词，而是直接定义希望模型完成的任务。随后由 DSPy 找到稳定实现的方法。这意味着更少的意外输出，在不同任务间获得更稳定的表现。
假设您在构建客服聊天机器人。与其编写具体提示词，使用 DSPy 您可以这样定义意图：
理解客户的问题。 从知识库检索相关信息。 生成有帮助且具同理心的回复。 检查回复是否回答了原始问题。 若未回答，则优化答案。
随后由 DSPy 负责：
为每一步编排最佳提示词。 管理步骤间信息流。 为准确性与一致性优化整体流程。
例如，DSPy 可能会学习到在第 3 步以“我理解您对……的担忧”开头能带来更好的客户满意度；而在第 4 步，它可能会形成一种有效的方式来将回复与原始问题进行对比。
关键在于，您专注于定义高层结构与目标。DSPy 负责提示工程与优化细节，从而使 LLM 在处理各类客户咨询时表现更加可靠、可预测。
这种方法也便于您调整机器人的行为（例如让语气更正式，或新增敏感信息检查步骤），而无需手动重写所有提示词。DSPy 会自动适配并优化以满足新的需求。
简化开发
DSPy 的模块化架构与提示词自动优化大幅简化了 LLM 开发。您可以像搭积木一样，通过组合预置模块来构建复杂应用。DSPy 在幕后处理提示词优化的难点，使您可以把重心放在应用逻辑上，而不是无休止地微调提示词。
想象您在为博客创建内容助手。如果不写代码，您可以这样构思应用：
1. Topic Generator Module
- Input: Blog niche and target audience
- Output: List of potential blog topics
2. Outline Creator Module
- Input: Selected blog topic
- Output: Detailed outline for the blog post
3. Content Writer Module
- Input: Blog outline
- Output: Full blog post draft
4. Editor Module
- Input: Blog post draft
- Output: Edited and polished blog post
5. SEO Optimizer Module
- Input: Edited blog post
- Output: SEO-optimized version of the post技术支持 在该场景中，DSPy 会：
提供这些可直接选择与编排的预构建模块。 在幕后自动优化各模块的提示词。 处理模块间信息传递。
您无需编写任何代码，也无需打造任何提示词。只需选择所需模块，按所需顺序排列，并指定输入（如博客细分领域与目标受众）。
适应性
在适配新任务与新领域方面，DSPy 表现出色。您只需调整任务定义与指标，DSPy 就会重新配置以满足新需求。这种灵活性意味着您可以快速将 LLM 应用于不同用例，而无需每次都从头开始。
假设您用 DSPy 为一家科技公司构建了客服机器人。最初，机器人的任务是回答技术支持问题，指标侧重于回复准确性与方案相关性，领域则集中在计算机软硬件。
现在，您希望将其适配到医疗保健公司。为此，您将任务定义调整为“回答与医疗保健相关的客户咨询”，并将指标修改为包含“医学准确性”与处理敏感健康问题的“同理心评分”。您还指定了新领域，涵盖一般医疗保健、医疗流程与保险。
完成这些变更后，DSPy 会自动重新配置。它会调整内部流程以聚焦医学知识库，使语言生成更具同理心且医学表述更准确，并修改评估标准以优先考虑医学准确性与同理心。
随后，您提供一小套与医疗保健相关的问答示例。DSPy 利用这些示例来微调其方法，而无需您重写任何提示词。
结果是，您的机器人可以有效处理医疗保健咨询，既提供医学上准确的信息，又能以适当的同理心进行沟通。
因此，您无需编写任何新代码。只需重新定义任务、调整指标并提供新示例，DSPy 就能重新配置底层的 LLM 交互以满足新需求。
可扩展性
在处理大规模任务时，DSPy 的优化技术尤为出色。该框架可通过自动优化提示词与调整模型行为，提升 LLM 在大型数据集或复杂问题上的表现。这种可扩展性确保您的应用能够按需成长，应对更具挑战性的任务。
假设您在为电商平台开发推荐系统。起初，系统需要处理大量用户行为与商品详情数据，以生成个性化推荐。
如果不用 DSPy，您需要为每一步（如检索用户历史、分析偏好、推荐商品）手工设计提示词。随着数据集增长与复杂性上升，这个过程需要大量试错来把提示词调到恰到好处。
使用 DSPy，这一过程将更简单高效。
您先定义任务：生成个性化商品推荐；并指定优化指标，如推荐准确率与用户满意度。
接着，向 DSPy 提供用户交互与商品详情数据集。该数据集帮助 DSPy 理解任务并提升表现。
随后，DSPy 利用其模块化架构将任务拆解为更小、可管理的模块。例如，一个模块负责检索用户历史，另一个分析偏好，第三个生成推荐。
随着您提供更多数据并细化任务定义，DSPy 会自动优化提示词与调整模型行为。您无需手动微调每个提示词——DSPy 会在幕后为您完成。
例如，当数据集扩大或用户交互更复杂时，DSPy 会自我重构以应对更大规模。它会细化提示词并调整模型参数，确保性能的一致与可靠。
这种可扩展性确保推荐系统能够随之成长，应对更具挑战性的任务，而无需每次从头再来。DSPy 的优化技术让大规模任务处理更高效，使您可以专注于应用的高层逻辑，而非提示工程的细枝末节。
DSPy 的应用场景
DSPy 可用于广泛的自然语言处理任务。我们来看几个示例。
问答系统
DSPy 非常擅长构建稳健的问答（QA）系统。它可以将 检索增强生成（RAG） 与链式思维提示结合，打造强大的 QA 工具。也就是说，您可以构建既能检索相关信息，又能逐步推理复杂问题的系统，从而提供更准确、更有洞见的答案。
文本摘要
使用 DSPy，构建摘要流水线变得简单许多。您可以轻松搭建可适配不同输入长度与写作风格的系统。这样既能覆盖从短文到长文的摘要需求，又能在保留要点的同时，根据需要调整摘要风格。
代码生成
DSPy 可以根据描述生成代码片段。对于想要快速做原型的开发者或需要编写简单脚本的非程序员而言，这尤其实用。
语言翻译
DSPy 能显著改进机器翻译。它有助于构建更“聪明”的翻译系统，不仅翻译词语，还能理解语境与文化。
借助 DSPy，您可以打造能够正确处理成语俗语、保持原文文风与语气、并在法律、医疗或技术等特定领域表现出色的译者。它甚至可以解释为何选择某些译法。
聊天机器人与对话式 AI
DSPy 能让聊天机器人的对话更像与真人交流。相比预设答案，基于 DSPy 的机器人可以记住上下文，进行连贯的来回对谈。它能给出更贴合问题的回答，并可根据您的偏好调整表达方式。这些机器人甚至可以处理需要推理与决策的复杂任务。由此，聊天体验更有帮助、更易沟通，几乎如同与一位知识渊博的朋友交谈。
DSPy 入门
您可以使用 pip 安装 DSPy。打开终端或命令提示符并运行：
pip install dspy- ai技术支持 该命令将安装最新的稳定版 DSPy。
如果您想结合更多集成来探索 DSPy 的功能，可以安装带有附加组件的版本。例如，要包含 Pinecone 支持，请使用：
pip install "dspy-ai[pinecone]" 技术支持 其他集成（如 Qdrant 、 ChromaDB 与 Marqo）也有类似命令可用。
DSPy 学习资源
想进一步了解如何使用 DSPy，请查看 官方文档 。其中提供了详细的教程与示例，助您快速上手并充分发挥框架能力。
官方 GitHub 代码库 包含源码、问题追踪与更多示例。
虽然 DSPy 仍较新，但其社区正在成长。您可以在 GitHub 上发起 issue 或参与讨论来寻求帮助。随着社区扩大，关于 DSPy 的资源与经验分享会越来越多，助您一路进步。
请记住，DSPy 仍在积极开发中，留意更新与新功能，或能进一步增强您的项目。
此 页面 提供 DSPy 安装说明与版本发布信息。
如果您偏好在 Notebook 中工作， DSPy Colab Notebook 是一个互动式 Colab 笔记本，助您快速上手 DSPy。
最后，您可以加入 Discord 服务器，与其他 DSPy 用户交流、提问并分享经验。
结语
总之，DSPy 提供了一种更直观、更强大的 AI 开发方式，从提示工程走向对基础模型的编程。让我们回顾一下本文的要点：
DSPy 是一个声明式、可自我改进的框架，简化了 LLM 应用的开发。 其具备声明式编程、自我改进的提示词与模块化架构，便于构建复杂 AI 系统。 DSPy 允许用户定义任务、构建流水线，并自动优化提示词。
与传统提示工程相比，该框架在可靠性、开发简化、适应性与可扩展性方面更具优势。 DSPy 可应用于广泛场景，包括问答、文本摘要、代码生成与自定义 NLP 任务。
在持续使用 DSPy 的过程中，别忘了充分利用社区资源。同时也要关注这一领域的最新进展——若想了解近期发展，推荐阅读以下博文：
如果您使用大型语言模型，您会知道提示工程可能有些棘手。您可能会花费数小时调整提示词，但最终结果参差不齐。这既令人沮丧，又耗费时间，而且往往需要大量反复试验才能得到理想效果。
一个解决方案就是DSPy——一个改变我们进行提示工程方式的新框架。DSPy 不再强调打磨完美提示词，而是让我们直接对模型进行编程。
在本教程中，我将解释 DSPy 以及它与传统方法的不同之处。您将了解其核心特性与优势及其工作方式。我会带您完成 DSPy 的入门步骤，并指向有用的资源与社区。
让我们开始吧！
什么是 DSPy？
DSPy 是斯坦福大学创建的一个开源工具，能够“将声明式的语言模型调用编译为可自我改进的流水线”。DSPy 让您无需耗时打磨提示词，而是可以直接对 AI 模型进行编程。
这让 AI 应用更加可靠，也更易扩展。DSPy 将应用逻辑与其使用的文本相分离，使您可以专注于希望 AI 完成的任务；与此同时，DSPy 会在幕后优化提示词。
接下来看看它的一些关键特性。
声明式编程
使用 DSPy，您只需定义要完成的任务以及衡量成功的指标。框架会为您优化模型行为。它采用易于理解的 Python 语法，让您将注意力放在应用应该做什么，而不是如何去提示模型。
自我改进的提示词
DSPy 的一大亮点是能够随时间自动改进提示词。它会持续优化提示词，免去您频繁手动调整的麻烦。其通过反馈与评估来实现，确保模型在每次迭代中表现更好。
模块化架构
DSPy 还提供模块化架构，允许您为不同自然语言处理（NLP）任务组合使用预构建模块。这种模块化使其高度可定制，能够满足特定需求，提升灵活性与可复用性。框架包含诸如
ChainOfThought和ReAct等实用模块，可轻松集成到您的应用中。DSPy 的工作原理
本节将介绍 DSPy 的主要组成部分，以及它如何简化与 LLM 的协作。
任务定义
在 DSPy 中，用户首先要明确任务目标及优化指标。这意味着您需要定义希望模型达成的成果，以及如何衡量其成功。
DSPy 会利用带标注或未标注的示例输入来引导学习过程。这些示例有助于框架更好地理解任务并提升性能。此外，DSPy 引入“模块”的概念，即适用于各类 NLP 任务的可复用积木。这些模块可按需组合与定制。
流水线构建
任务定义完成后，用户需要为具体任务选择并配置合适的模块。这包括挑选与任务要求匹配的模块并进行相应设置。DSPy 允许您将这些模块串联起来，构建复杂的流水线，从而实现更精巧的工作流。每个模块都有签名来定义输入与输出规范，确保模块之间能够无缝协作。
优化与编译
DSPy 通过上下文学习与自动小样本示例生成来优化提示词。也就是说，框架会持续打磨提示词以提升模型性能。对于需要更细化调优的任务，DSPy 也可以对较小的模型进行微调。
最后，DSPy 会将整条流水线编译为可执行的 Python 代码，便于集成到您的应用中。该编译过程确保流水线高效、有效地运行。
图 1：DSPy 工作流：从数据到优化的 AI 模型
该图展示了 DSPy 的核心工作流，即如何将原始数据转化为优化后的 AI 模型。流程从数据集开始，据此确定签名（输入/输出结构）。利用该签名创建模块，随后通过 DSPy 的先进技术进行优化。最后，对优化后的模块进行评估，确保其达到预期性能标准。
这种精简的路径让您专注于高层设计，而由 DSPy 处理提示工程与模型优化的复杂性。
DSPy 的优势
DSPy 拥有多项关键优势，使其成为处理 LLM 的有力工具：
更高的可靠性
DSPy 的声明式方法可带来更可靠、可预测的 LLM 行为。您无需手工编写提示词，而是直接定义希望模型完成的任务。随后由 DSPy 找到稳定实现的方法。这意味着更少的意外输出，在不同任务间获得更稳定的表现。
假设您在构建客服聊天机器人。与其编写具体提示词，使用 DSPy 您可以这样定义意图：
随后由 DSPy 负责：
例如，DSPy 可能会学习到在第 3 步以“我理解您对……的担忧”开头能带来更好的客户满意度；而在第 4 步，它可能会形成一种有效的方式来将回复与原始问题进行对比。
关键在于，您专注于定义高层结构与目标。DSPy 负责提示工程与优化细节，从而使 LLM 在处理各类客户咨询时表现更加可靠、可预测。
这种方法也便于您调整机器人的行为（例如让语气更正式，或新增敏感信息检查步骤），而无需手动重写所有提示词。DSPy 会自动适配并优化以满足新的需求。
简化开发
DSPy 的模块化架构与提示词自动优化大幅简化了 LLM 开发。您可以像搭积木一样，通过组合预置模块来构建复杂应用。DSPy 在幕后处理提示词优化的难点，使您可以把重心放在应用逻辑上，而不是无休止地微调提示词。
想象您在为博客创建内容助手。如果不写代码，您可以这样构思应用：
在该场景中，DSPy 会：
您无需编写任何代码，也无需打造任何提示词。只需选择所需模块，按所需顺序排列，并指定输入（如博客细分领域与目标受众）。
适应性
在适配新任务与新领域方面，DSPy 表现出色。您只需调整任务定义与指标，DSPy 就会重新配置以满足新需求。这种灵活性意味着您可以快速将 LLM 应用于不同用例，而无需每次都从头开始。
假设您用 DSPy 为一家科技公司构建了客服机器人。最初，机器人的任务是回答技术支持问题，指标侧重于回复准确性与方案相关性，领域则集中在计算机软硬件。
现在，您希望将其适配到医疗保健公司。为此，您将任务定义调整为“回答与医疗保健相关的客户咨询”，并将指标修改为包含“医学准确性”与处理敏感健康问题的“同理心评分”。您还指定了新领域，涵盖一般医疗保健、医疗流程与保险。
完成这些变更后，DSPy 会自动重新配置。它会调整内部流程以聚焦医学知识库，使语言生成更具同理心且医学表述更准确，并修改评估标准以优先考虑医学准确性与同理心。
随后，您提供一小套与医疗保健相关的问答示例。DSPy 利用这些示例来微调其方法，而无需您重写任何提示词。
结果是，您的机器人可以有效处理医疗保健咨询，既提供医学上准确的信息，又能以适当的同理心进行沟通。
因此，您无需编写任何新代码。只需重新定义任务、调整指标并提供新示例，DSPy 就能重新配置底层的 LLM 交互以满足新需求。
可扩展性
在处理大规模任务时，DSPy 的优化技术尤为出色。该框架可通过自动优化提示词与调整模型行为，提升 LLM 在大型数据集或复杂问题上的表现。这种可扩展性确保您的应用能够按需成长，应对更具挑战性的任务。
假设您在为电商平台开发推荐系统。起初，系统需要处理大量用户行为与商品详情数据，以生成个性化推荐。
如果不用 DSPy，您需要为每一步（如检索用户历史、分析偏好、推荐商品）手工设计提示词。随着数据集增长与复杂性上升，这个过程需要大量试错来把提示词调到恰到好处。
使用 DSPy，这一过程将更简单高效。
您先定义任务：生成个性化商品推荐；并指定优化指标，如推荐准确率与用户满意度。
接着，向 DSPy 提供用户交互与商品详情数据集。该数据集帮助 DSPy 理解任务并提升表现。
随后，DSPy 利用其模块化架构将任务拆解为更小、可管理的模块。例如，一个模块负责检索用户历史，另一个分析偏好，第三个生成推荐。
随着您提供更多数据并细化任务定义，DSPy 会自动优化提示词与调整模型行为。您无需手动微调每个提示词——DSPy 会在幕后为您完成。
例如，当数据集扩大或用户交互更复杂时，DSPy 会自我重构以应对更大规模。它会细化提示词并调整模型参数，确保性能的一致与可靠。
这种可扩展性确保推荐系统能够随之成长，应对更具挑战性的任务，而无需每次从头再来。DSPy 的优化技术让大规模任务处理更高效，使您可以专注于应用的高层逻辑，而非提示工程的细枝末节。
DSPy 的应用场景
DSPy 可用于广泛的自然语言处理任务。我们来看几个示例。
问答系统
DSPy 非常擅长构建稳健的问答（QA）系统。它可以将检索增强生成（RAG）与链式思维提示结合，打造强大的 QA 工具。也就是说，您可以构建既能检索相关信息，又能逐步推理复杂问题的系统，从而提供更准确、更有洞见的答案。
文本摘要
使用 DSPy，构建摘要流水线变得简单许多。您可以轻松搭建可适配不同输入长度与写作风格的系统。这样既能覆盖从短文到长文的摘要需求，又能在保留要点的同时，根据需要调整摘要风格。
代码生成
DSPy 可以根据描述生成代码片段。对于想要快速做原型的开发者或需要编写简单脚本的非程序员而言，这尤其实用。
语言翻译
DSPy 能显著改进机器翻译。它有助于构建更“聪明”的翻译系统，不仅翻译词语，还能理解语境与文化。
借助 DSPy，您可以打造能够正确处理成语俗语、保持原文文风与语气、并在法律、医疗或技术等特定领域表现出色的译者。它甚至可以解释为何选择某些译法。
聊天机器人与对话式 AI
DSPy 能让聊天机器人的对话更像与真人交流。相比预设答案，基于 DSPy 的机器人可以记住上下文，进行连贯的来回对谈。它能给出更贴合问题的回答，并可根据您的偏好调整表达方式。这些机器人甚至可以处理需要推理与决策的复杂任务。由此，聊天体验更有帮助、更易沟通，几乎如同与一位知识渊博的朋友交谈。
DSPy 入门
您可以使用
pip安装 DSPy。打开终端或命令提示符并运行：该命令将安装最新的稳定版 DSPy。
如果您想结合更多集成来探索 DSPy 的功能，可以安装带有附加组件的版本。例如，要包含Pinecone 支持，请使用：
其他集成（如Qdrant、ChromaDB 与 Marqo）也有类似命令可用。
DSPy 学习资源
想进一步了解如何使用 DSPy，请查看官方文档。其中提供了详细的教程与示例，助您快速上手并充分发挥框架能力。
官方GitHub 代码库包含源码、问题追踪与更多示例。
虽然 DSPy 仍较新，但其社区正在成长。您可以在 GitHub 上发起 issue 或参与讨论来寻求帮助。随着社区扩大，关于 DSPy 的资源与经验分享会越来越多，助您一路进步。
请记住，DSPy 仍在积极开发中，留意更新与新功能，或能进一步增强您的项目。
此页面提供 DSPy 安装说明与版本发布信息。
如果您偏好在 Notebook 中工作，DSPy Colab Notebook 是一个互动式 Colab 笔记本，助您快速上手 DSPy。
最后，您可以加入 Discord 服务器，与其他 DSPy 用户交流、提问并分享经验。
结语
总之，DSPy 提供了一种更直观、更强大的 AI 开发方式，从提示工程走向对基础模型的编程。让我们回顾一下本文的要点：
在持续使用 DSPy 的过程中，别忘了充分利用社区资源。同时也要关注这一领域的最新进展——若想了解近期发展，推荐阅读以下博文：