LLM 初学者项目
在初级项目中，您将学习如何使用 OpenAI API 生成回复、构建具备多模态能力的 AI 助手，并使用 FastAPI 对应用的 API 端点进行服务化。
先修要求：需要具备 Python 的基础理解。
1. 使用 Langflow 构建语言学习助教
项目链接： Langflow：含演示项目的指南
对于许多初学者而言，从零开始编写复杂的 Python 代码是构建 AI 应用的最大障碍。Langflow 通过可视化的拖拽式界面，让您轻松搭建强大的 AI 工作流，并可便捷连接标准数据库，从而改变了这一点。
在该项目中，您无需成为资深程序员，即可构建一款语言学习助教应用。您将使用 Langflow 以可视化方式设计一个智能体，它可基于用户的词汇列表（存储在 Postgres 数据库中）生成阅读材料。这是对“有状态”AI（能记住您的数据的应用）的绝佳入门，同时保持技术门槛较低。
2. 构建具多模态能力的数据科学 AI 助手
项目链接： Creating AI Assistants with GPT-4o
在本项目中，您将创建一个类似 ChatGPT 的专属 AI 助手。您将学习使用 OpenAI API 和 GPT-4o，构建面向数据科学任务的专业助手，包括提供自定义指令、处理文件与数据，以及运用多模态能力。
有趣的是，整个项目只需理解 OpenAI Python API 的各类函数。用几行代码，您即可构建一位自动化 AI 助手，替您处理数据并呈现分析结果。
来源： Creating AI Assistants with GPT-4o
3. 使用 FastAPI 将 LLM 应用作为 API 端点提供服务
项目链接： Serving an LLM application as an API endpoint using FastAPI in Python
使用 OpenAI API 构建好应用后，下一步是什么？就是对其进行服务与部署。这意味着创建一个任何人都可用的 REST API 应用，以便将您的 AI 应用集成到他们的系统中。
在该项目中，您将了解 FastAPI 以及如何构建并提供 AI 应用服务。您还会学习 API 的工作原理以及如何在本地进行测试。
来源： Serving an LLM application as an API endpoint using FastAPI in Python
中级 LLM 项目
在中级项目中，您将学习将 Groq、OpenAI、Cohere 等多种 LLM API 与 LlamaIndex、LangChain 等框架集成。您将学会构建具备上下文感知的应用，并连接多个外部数据源，生成更相关、更准确的回复。
先修要求：具备 Python 经验，并理解 AI 智能体的工作原理。
4. 使用 FastAPI 构建并服务化 RAG 系统
项目链接： Building a RAG System with LangChain and FastAPI: From Development to Production
在笔记本里写个 RAG 脚本是很好的起点，但真实世界的 AI 需要部署。要让您的应用对用户或其他软件可访问，必须将其封装为高性能的 Web API。
在该项目中，您将打通数据科学与 Web 工程之间的鸿沟。使用 LangChain 构建文档数据检索逻辑，并用 FastAPI 将该逻辑作为 REST 端点提供服务。您将学习如何处理 API 请求、处理文档，并交付适用于生产的 AI 应用后端。
来源：Building a RAG System with LangChain and FastAPI
5. 使用 LLM 构建 DuckDB SQL 查询引擎
项目链接： DuckDB 教程：构建 AI 项目
DuckDB 是一款现代的高性能内存型分析数据库管理系统（DBMS），既可用作向量存储，也可用作 SQL 查询引擎。
在该项目中，您将学习使用 LlamaIndex 框架，以 DuckDB 作为向量存储构建 RAG 应用。此外，您还将构建一个 DuckDB SQL 查询引擎，将自然语言转换为 SQL 查询，并生成可作为提示上下文的回复。项目趣味性强，您会了解大量 LlamaIndex 的函数与智能体。
6. 使用 DeepSeek-V3.2 构建自主数据分析师
项目链接： DeepSeek-V3.2-Speciale 教程：构建数据分析智能体
DeepSeek 的模型因其推理能力而广受关注，非常适合数据科学等复杂任务。本项目超越简单对话，聚焦“智能体式”工作流，让 AI 主动调用工具来解决问题。
在该项目中，您将构建一个可用的数据分析智能体，能够摄取数据集、编写并执行 Python 代码、自动生成洞见。您将学习如何利用 DeepSeek-V3.2-Speciale 模型编排多步分析任务——这是下一代 AI 开发的关键技能。
来源：DeepSeek-V3.2-Speciale 教程：构建数据分析智能体
毕业年级学生的 LLM 项目
毕业年级的学生有机会构建完整的 LLM 应用。因此，本节中的大多数项目需要掌握微调、LLM 架构、多模态应用、AI 智能体，以及最终在服务器上部署应用的相关知识。
先修要求：熟练理解 Python、LLM、AI 智能体与模型微调。
7. 使用 LangChain 与 OpenAI API 构建多模态 AI 应用
项目链接： Building Multimodal AI Applications with LangChain & the OpenAI API
生成式 AI 让我们轻松超越“只处理文本”。如今可以结合文本与音频模型的能力，构建能回答 YouTube 视频相关问题的机器人。
在此项目中，您将学习使用 Whisper 语音转文本 AI 转写 YouTube 视频内容，然后用 GPT 针对内容进行问答。您还将了解 LangChain 与多种 OpenAI 函数。
项目包含视频指南与同步编码环节，便于您跟随讲师一起构建应用。
如需进一步了解其功能，可学习Developing LLM Applications with LangChain课程，通过交互式练习、幻灯片、小测验、视频教程与评估题目进行学习。
来源： Building Multimodal AI Applications with LangChain & the OpenAI API
8. 使用 NVIDIA Nemotron 与 Ollama 构建“有依据”的问答应用
项目链接： NVIDIA Nemotron 3 Nano 教程：借助 Ollama 的有依据问答
在本地运行模型有利于保护隐私，但用小模型维持准确性并不容易。NVIDIA 的 Nemotron-3-Nano 专为此而生，擅长“有依据”的生成，即确保答案严格以所提供的事实为依据。
在本项目中，您将学习使用 Ollama 部署这一专用模型，并用 Streamlit 构建“有依据的问答”应用。与标准聊天机器人不同，该系统会引用来源，便于您核实每个答案。您将获得关于本地推理、幻觉预防与构建可信 AI 界面的实战经验。
来源：NVIDIA Nemotron 3 Nano 教程：借助 Ollama 的有依据问答
9. 使用 LangChain 与 Cohere API 构建多步 AI 智能体
项目链接： Cohere Command R+：完整分步教程
Cohere API 与 OpenAI API 类似，相较其他 LLM 框架提供了诸多功能。在本项目中，您将学习 Cohere API 的核心特性，并用其构建一个多步 AI 智能体。
您还将熟练掌握 LangChain 框架，以及如何将多个 AI 智能体进行链式组合。
最终，您将构建一个 AI 应用，它会接收用户查询进行网页搜索并生成 Python 代码，随后通过 Python REPL 执行代码，返回用户所需的可视化结果。
10. 使用 LangServe 部署 LLM 应用
项目链接： Deploying LLM Applications with LangServe
在该项目中，您将学习如何使用 LangServe 部署 LLM 应用。您将从设置 LangServe 开始，使用 FastAPI 创建服务器，在本地测试服务器，然后部署应用。您还将学习使用 Prometheus 框架监控 LLM 的性能，并借助 Grafana 在仪表板中可视化模型性能。
学习内容丰富，可助您进入需求不断增长的 LLMOps 领域。
来源： Deploying LLM Applications with LangServe
高级 LLM 项目
高级 LLM 项目面向希望构建可投入生产的应用并改进已部署 LLM 应用的专家。通过这些项目，您将学习在 TPU 而非 GPU 上进行推理与微调以获得更快性能、自动化生成分类体系与文本分类，以及在 Microsoft Azure 云上构建 AI 应用。
先修要求：熟悉 Python、LLM、模型微调、TPU 与云计算。
11. 使用 LangGraph 构建可自我纠错的 RAG 智能体
项目链接： Self-Rag：含 LangGraph 实现的指南
传统 RAG 系统在检索到不相关数据时常会“盲目失败”。“Self-RAG”通过加入批判环路来解决此问题：模型会评估其检索到的文档与生成的答案，若达不到质量标准则拒绝或重新生成。
在本项目中，您将使用 LangGraph 从线性链路转向循环式智能体。您将实现精巧的控制流，让 AI 主动对自身输出进行相关性与幻觉的打分。这一架构代表了构建可靠自主 AI 系统的最新前沿。
12. 构建 TNT-LLM 应用
项目链接： GPT-4o 与 LangGraph 教程：构建 TNT-LLM 应用
微软的 TNT-LLM 是一套前沿系统，旨在借助大语言模型（如 GPT-4）的能力，实现分类体系（taxonomy）的自动化生成与文本分类，以最少的人为干预提升效率与准确性。在该项目中，您将使用 LangGraph、LangChain 与 OpenAI API 实现 TNT-LLM。
您将定义图状态类、加载数据集、摘要化文档、创建小批次、生成并更新分类体系、进行复核、使用 StateGraph 编排 TNT-LLM 流水线，最后对分类体系进行聚类与展示。
13. 使用 Azure 云构建 AI 应用
项目链接： Using GPT on Azure
掌握云计算经验是进入任何与 LLM 相关岗位的关键技能。熟练在 Azure 云上构建、自动化、部署与维护 LLM 流水线，将助您成为 LLM 领域的专家。
在本项目中，您将学习如何设置 OpenAI 的按需付费实例，并构建简洁应用，结合您的数据展示 LLM 与生成式 AI 的能力。您还将使用向量存储构建 RAG 应用，降低 AI 应用中的幻觉。
结语
完成以上项目，将为您积累足够经验去打造自己的产品，或在 LLM 领域获得一份工作。成功的关键不仅在于编码或微调，还在于完善的文档与在社交媒体上的分享以吸引关注。确保项目说明清晰友好，并在文档中包含演示或可用性指南。
如果您想进一步学习 LLM，我们强烈建议探索 Developing Large Language Models技能路径。它将教授开发尖端语言模型的最新技术、用 PyTorch 掌握深度学习、从零构建自己的 Transformer 模型，以及微调来自 Hugging Face 的预训练 LLM。
作为一名持证的数据科学家，我热衷于利用前沿技术打造创新的机器学习应用。凭借在语音识别、数据分析与报告、MLOps、对话式人工智能以及自然语言处理方面的扎实背景，我不断打磨构建智能系统的能力，力求带来切实影响。除技术专长外，我也擅长沟通，能够将复杂概念提炼为清晰、简明的表述。因此，我成为数据科学领域备受关注的博主，与不断壮大的数据专业人士社区分享洞见与实践经验。目前，我专注于内容创作与编辑，借助大语言模型打造有力且吸引人的内容，帮助企业与个人更好地发挥数据价值。
通过动手做项目学习，是加深对大语言模型（LLM）与人工智能理解并提升实战技能的最佳方式。借由项目实践，您将掌握可优化应用的新工具、新技术与新模型，从而打造高准确度、响应迅速的 AI 应用。
对这些项目进行排错调优，将为您积累宝贵经验、提升获得理想工作的机会，并有望通过项目变现打造可销售的产品，从而获得额外收入。
在本文中，我们将按初学者、中级、毕业年级学生与专家四个层次，带您探索一系列 LLM 项目。每个项目都包含指南与源码材料，便于学习与复现结果。
如果您刚接触 LLM，请先完成AI Fundamentals技能路径，再开始下文的项目。这将帮助您获得关于 ChatGPT、大语言模型、生成式 AI 等热门主题的可操作知识。