🎯 课程主题
介绍LangChain中模型调用前的四个准备工作:理解模型交互流程、掌握模型初始化的三种分类角度、了解主流线上模型服务平台、以及提前安装所有依赖。
📝 核心知识点
1. LangChain模型交互流程概述
- 概念说明:在LangChain中,大模型应用的典型交互流程为:创建模型 → 通过提示词模板填充提示词 → 与模型交互 → 解析模型输出为指定格式(字符串/JSON等)。
- 关键细节:本章聚焦于"模型的初始化和调用",提示词模板和结构化输出将在后续章节讲解。
2. LLM与ChatModel的区分
- 概念说明:LangChain将模型分为两类——LLM(补全模型/非对话模型)和ChatModel(对话模型)。GPT-3时代以补全模型为主,模型不稳定,需LangChain封装API辅助调用。
- 关键细节:自GPT-3.5发布后,对话模型已足够稳定,LangChain-v1.2不再讲解补全模型。即使传入字符串,内部也会封装为Message格式以对话模型方式调用。
3. 模型初始化的三种分类角度
- 概念说明:
- 角度一(用谁家的API):可使用模型提供商自身的API(个性化方式),也可使用LangChain提供的统一API(推荐方式)。
- 角度二(以什么方式创建):核心参数包括
base_url(对接地址)、model_name(模型名)、api_key(密钥)。推荐存储在配置文件(.env)中,而非硬编码在代码中。 - 角度三(模型存放在哪):在线部署模型(主流,通过网络调用服务器大模型)和本地部署模型(参数较小,能力相对弱)。
- 关键细节:LangChain本身只是工具框架,不存放任何大模型,必须依赖第三方。
4. 线上大模型服务平台概览
- 概念说明:平台集成了多家厂商的模型,方便统一调用。
- 关键细节:
- OpenRouter:全球最主流的平台,提供大量国外模型,需魔法/梯子。
- CloseAI:号称亚洲最大,中文界面,国内外模型均有。
- 阿里云百炼:除通义千问外,也提供DeepSeek、Kimi等,企业端友好,赠送较多token。
- 硅基流动:9B参数以下模型永久免费,适合个人学习。
- 百度千帆 / 火山引擎:主打各自生态,对自家模型更友好。
- 本课程后续以CloseAI为主进行演示。
5. 提前安装所有依赖
- 概念说明:将后续所有章节需要的第三方库和版本号写入
requirements.txt,一次性安装,避免后续逐个安装的麻烦。 - 关键细节:版本号已写死,防止后续库更新导致冲突。使用命令:
pip install -r requirements.txt。
🏗️ 架构与工作流
LangChain模型交互流程:创建模型 → Prompt Template填充 → 模型调用(invoke) → Output Parser解析输出。本章聚焦于第一步"模型创建与调用",后续章节分别讲解Prompt Template和Output Parser。
💻 代码实战
本节课以理论讲解为主,无代码实战。
⚠️ 常见问题与避坑指南
requirements.txt中的版本号已固定,若自行安装最新版可能产生依赖冲突,建议严格按照文件中的版本安装。- 个人学习初期不必急于充值,各大平台(如阿里云百炼、硅基流动)有免费token赠送。
- 使用OpenRouter调用国外模型需要梯子/魔法,无梯子可用CloseAI替代。
💡 个人总结与延伸
本节课为第二章"模型的创建与调用"的总览,核心价值在于建立了模型初始化的知识框架。三个分类角度(用谁家的API、以什么方式创建、模型存放在哪)贯穿后续所有章节,是理解LangChain模型调用的基础。建议学习者根据自身情况选择1-2个平台(如CloseAI或硅基流动)进行后续实践。