LangChain

什么是 LangChain

为什么要用 LangChain

LangChain的核心组件

• 为LLMs提供接口封装、模板提示和信息检索索引

• 将不同的组件组合起来解决特定的任务，比如在大量文本中查找某些具体信息

• 使得大模型能够与外部环境进行交互，例如通过API请求执行某些具体操作

LangChain 的核心概念

• LLM Wrappers：包装器，允许应用程序连接到大型语言模型，如 GPT-4 等大模型

• Prompt Templates：提示词模板，让用户避免硬编码文本输入，用户输入可以动态插入到模板中，并发送给语言模型

• Indexes：索引，用户需要借助索引从大模型中提取信息

• Models：负责理解和生成语言，提示用于引导模型输出

• Chains：链，将不同的组件组合起来解决特定的任务，比如在大量文本中查找某些具体信息

• Agent：使得大模型能够与外部环境进行交互，例如通过API请求执行某些具体操作

• Embedding：嵌入与向量存储 VectorStore 是数据表示和检索的手段，为模型提供必要的语言理解基础

LangChain 的工作原理

graph TD
    A[用户提交问题或请求] --> B[提取并检索相关内容]
    B -->|从向量库中取出匹配片段| C[组装问题与相关知识]
    C --> D[向语言模型发起查询]
    D --> E([语言模型生成回答或执行具体任务])

Model I/O

Model I/O 的核心概念

• Prompt Template：通过预设模板对大模型输入进行结构化组织和管理。

• Model：负责通过统一接口接入和调用不同的大语言模型

• Output parser：用于从模型输出中提取所需信息，并根据既定格式进行规范化处理后输出

• 基础 LLM（Base LLM）：在 LangChain 中，LLM 通常指的是传统的文本补全模型（Text Completion）。这类模型通过封装的 API 接收一个字符串类型的提示词作为输入，并返回对应的文本补全结果，输出同样是一个字符串。

• 对话式 LLM（Chat LLM）：Chat LLM 虽然通常构建在 Base LLM 之上，但针对多轮对话场景做了专门优化。它们采用不同于基础模型的接口形式，以聊天消息的列表作为输入，并返回结构化的响应（Response 类型），而不仅仅是简单的字符串文本。

graph LR
    A[输入变量<br>Variables] --> B[Prompt Template<br>提示词模板]
    B -->|格式化得到 Prompt| C((Language Model<br>LLM / ChatModel))
    C -->|返回非结构化文本/Message| D[Output Parser<br>输出解析器]
    D -->|解析并格式化| E([最终输出的结构化数据])

Prompt Template

prompt templates

PromptTemplate

指定参数

from langchain.prompts import PromptTemplate

prompt_template = PromptTemplate.from_template(
    "请给我取一个{adjective}的{name}名字"
)

prompt_template.format(adjective="搞笑的", name="男孩")

不带参数

from langchain.prompts import PromptTemplate

prompt_template = PromptTemplate.from_template(
    "请给我取一个名字"
)
prompt_template.format()

通过 invoke 方法填入提示词参数

from langchain.prompts import PromptTemplate

prompt_template = PromptTemplate.from_template(
    "请给我取一个{adjective}的{name}名字"
)

prompt_template.invoke({"adjective":"很土","name":"男孩"})

通过加号增加临时内容

from langchain.prompts import PromptTemplate

prompt_template = PromptTemplate.from_template(
    "请给我取一个{adjective}的{name}名字，")+ "并告诉我你取名参考的是{content}"

prompt_template.format(adjective="好听的",name="男孩",content="论语")

ChatPromptTemplate

from langchain_deepseek import ChatDeepSeek
from langchain.prompts.chat import ChatPromptTemplate
import os

load_dotenv()

chat_template = ChatPromptTemplate.from_messages(
    [
        ("system", "你是一位专业且有耐心的客服助手，负责解答用户的问题。你的名字叫{name}."),
        ("human", "你好，我的订单怎么还没有发货？"),
        ("ai", "您好，我来帮您查询一下订单状态，请您稍等。"),
        ("human", "{user_question}"),
    ]
)

messages = chat_template.format_messages(name="小明", user_question="请问我可以修改收货地址吗？")

from langchain_deepseek import ChatDeepSeek
import os

load_dotenv()

# 创建 DeepSeek 模型实例
model = ChatDeepSeek(
    model="deepseek-chat",
    temperature=0,
    api_key=os.getenv("DEEPSEEK_API_KEY")
)

# 将消息发送给模型
response = model.invoke(messages)

# 输出响应内容
print(response.content)

您好，如果订单还未发货，是可以修改收货地址的。请您提供订单号，我帮您确认一下当前状态。

Language Model

• LLMs：接受文本字符串作为输入，返回文本字符串作为输出的模型（即 text in → text out）。

• Chat Models：以一组对话消息作为输入，返回新的对话消息作为输出的模型（即 chat messages in → chat messages out）。这些消息通常包含文本内容（content）和角色（role）信息（如 system、human、ai）。

LLMS

Chat LLM

Messages 类型

from langchain_deepseek import ChatDeepSeek
import os

load_dotenv()

# 创建 DeepSeek 模型实例
model = ChatDeepSeek(
    model="deepseek-chat",
    temperature=0,
    api_key=os.getenv("DEEPSEEK_API_KEY")
)

messages = [
    SystemMessage(content="你一名中国古诗词鉴赏专家"),
    HumanMessage(content="《青玉案·元夕》"),
]

response = model.invoke(messages)

print(response.content)

# 构建 Prompt 模板（带变量）
system_template = "你是一个专业的{role}，回答问题要简洁清晰。"
human_template = "请用{language} 写一个{task} 的程序。"

# 使用模板封装 message
system_message_prompt = SystemMessagePromptTemplate.from_template(system_template)
human_message_prompt = HumanMessagePromptTemplate.from_template(human_template)

# 构建最终 ChatPromptTemplate
chat_prompt = ChatPromptTemplate.from_messages([
    system_message_prompt,
    human_message_prompt
])

# 模板填充变量
formatted_messages = chat_prompt.format_messages(
    role="后端开发专家",
    language="Go语言",
    task="快速排序"
)

response = model.invoke(formatted_messages)

print(response.content)

[SystemMessage(content='你是一个专业的 后端开发专家，回答问题要简洁清晰。', additional_kwargs={}, response_metadata={}),
 HumanMessage(content='请用 Go语言 写一个 快速排序 的程序。', additional_kwargs={}, response_metadata={})]

Output Parsers

1. get_format_instructions()：返回一段文本，用于告诉语言模型如何组织和格式化它的输出内容。

2. parse()：用于接收语言模型返回的字符串结果，并将其解析为结构化的数据形式（如字典、对象等），便于后续程序处理。

from langchain.output_parsers import CommaSeparatedListOutputParser

output_parser = CommaSeparatedListOutputParser()
# 获取输出解析器提供的格式指导说明文本
parser_instructions = output_parser.get_format_instructions()
...

# 调用模型，获取模型响应内容
response = model.invoke(final_prompt)

# 使用解析器将模型输出内容转换成 Python 列表
ret = output_parser.invoke(response)

###
Your response should be a list of comma separated values, eg: `foo, bar, baz` or `foo,bar,baz`
['中山陵', '夫子庙', '明孝陵', '玄武湖', '南京博物院']
###

数据连接

什么是数据连接