AI from Scratch · Phase 11 | LLM 工程化实战
阶段概览
Phase 11 是连接”懂模型”和”做产品”的桥梁。15节课、约17小时的内容，聚焦于一个核心问题：如何把 LLM 变成可靠、可控、可维护的应用组件？
很多开发者会犯一个错误——把 LLM 当数据库用，扔进去一个 query 就期待精确结果。现实是，LLM 应用工程化涉及一整套技术栈：Prompt 设计、上下文管理、检索增强、微调优化、工具调用、安全防护、成本控制。这个阶段带你走完从”原型能用”到”生产可靠”的完整路径。
无论你是构建客服机器人、代码助手还是知识库问答系统，这里的技术都是你的日常武器。
核心概念解析
🎯 Context Engineering：上下文是新的特征工程
传统机器学习做特征工程，LLM 时代做上下文工程。Context Engineering 的核心是：在有限的上下文窗口里，放入最相关的信息，用最清晰的方式表达任务意图。 这包括系统提示词的设计、few-shot 示例的选择、检索内容的注入位置和格式、对话历史的压缩策略。一个好工程师和一个平庸工程师的差距，往往就在于上下文管理的功夫。
📚 RAG（Retrieval-Augmented Generation）：给模型装上”外挂大脑”
RAG 解决了 LLM 知识过时和幻觉的问题。基础 RAG 流程很简单：把文档切块 → 向量化 → 存入向量数据库 → 检索相关块 → 拼接到 Prompt 中。但 Advanced RAG 引入了查询重写、HyDE（Hypothetical Document Embeddings）、混合检索（BM25 + Dense）、重排序（Cross-Encoder Reranking）、自适应检索等高级技术。RAG 不是”搜索 + 生成”这么简单，它是一个需要精心调优的系统工程。
🔧 Fine-Tuning：LoRA 与 QLoRA
当你需要模型在特定领域有更深的理解时，微调是答案。但全量微调成本高昂。LoRA（Low-Rank Adaptation） 通过在冻结的原始权重旁注入低秩矩阵，将可训练参数减少到原来的 1% 以下。QLoRA 更进一步——先用 4-bit 量化加载基础模型，再在之上做 LoRA 微调，使得在单张消费级 GPU 上微调 70B 模型成为可能。这是个人开发者和创业公司的利器。
🛠️ Function Calling & MCP：让 LLM 调用真实世界
Function Calling 让 LLM 从”聊天机器人”进化为”行动代理”。你定义工具的 schema（名称、描述、参数），模型根据用户意图选择并调用工具。MCP（Model Context Protocol） 是 Anthropic 提出的开放标准，统一了模型与外部工具/数据源的连接方式——就像 USB-C 之于电子设备。掌握 MCP 意味着你构建的工具可以被任何支持 MCP 的 AI 应用复用。
🛡️ Guardrails：生产环境的安全带
LLM 会产生幻觉、泄露训练数据、被注入恶意指令、生成有害内容。Guardrails 是你在应用层构建的防护机制：输入过滤（检测恶意 Prompt）、输出审查（检测有害内容）、事实核查（验证生成内容与检索来源一致）、速率限制（防止滥用）。没有 Guardrails 的 LLM 应用上不了生产环境。
完整课程列表
| 序号 | 课程名 | 预计时长 |
|---|---|---|
| 1 | Prompt Engineering | 60 min |
| 2 | Few-Shot, Chain-of-Thought, Tree-of-Thoughts | 75 min |
| 3 | Structured Outputs | 50 min |
| 4 | Embeddings & Vector Representations | 60 min |
| 5 | Context Engineering | 70 min |
| 6 | RAG (Retrieval-Augmented Generation) | 75 min |
| 7 | Advanced RAG | 90 min |
| 8 | Fine-Tuning: LoRA, QLoRA | 80 min |
| 9 | Function Calling & Tool Use | 65 min |
| 10 | Evaluation & Testing | 55 min |
| 11 | Caching, Rate Limiting & Cost | 50 min |
| 12 | Guardrails & Safety | 60 min |
| 13 | Production LLM Application | 75 min |
| 14 | MCP (Model Context Protocol) | 70 min |
| 15 | Prompt Caching | 45 min |
前置依赖
- 熟悉 LLM 的基本工作原理（Phase 10 内容）
- Python 编程能力
- 了解 REST API 和基本的 Web 开发概念
- 基本的机器学习概念（向量、相似度、梯度下降）
后续方向
- Phase 12（Multimodal AI）：将 LLM 工程技能扩展到多模态场景
- Phase 13（Tools & Protocols）：深入 MCP 协议和工具生态系统
- Phase 14（Agent Engineering）：从单轮工具调用进化到自主 Agent
- Phase 17（Infrastructure）：学习如何在生产环境部署和运维 LLM 应用
学习建议
- 动手构建一个 RAG 系统：这是本阶段最核心的实践项目，用 LangChain 或直接用原生代码实现
- 对比 Prompt 工程和微调：同一个任务分别用两种方式实现，理解各自的适用场景
- 尽早接触 MCP：这是 2025-2026 年 AI 工具生态的标准协议，越早上手越好
- 关注成本：每节课后算一算”如果我跑这个 1000 次要花多少钱”，培养成本意识
- 做评估驱动开发：不要凭感觉判断效果好坏，建立系统化的评估方法
- 15 节课可以两周搞定：每天 1-2 节，配合动手实践，节奏刚好