21. LangChain组件——memory临时会话记忆

糖逗

1. 如何临时会话记忆，让大模型的回答能基于上文内容？
LangChain提供了History功能,帮助模型在有历史记忆的情况下回答：

• 基于RunnableWithMessageHistory在原有链的基础上创建带有历史记录功能的新链(新Runnable实例)
• 基于InMemoryChatMessageHistory为历史记录提供内存存储(临时用)
  

注：①这里的会话ID是用于区分不同用户的不同会话内容
      ②临时会话记忆的缺点是一旦程序退出,则记忆丢失



2. 代码实战

1. from langchain_community.chat_models.tongyi import ChatTongyi
   
2. from langchain_core.prompts import PromptTemplate, ChatPromptTemplate, MessagesPlaceholder
   
3. from langchain_core.output_parsers import StrOutputParser
   
4. from langchain_core.runnables.history import RunnableWithMessageHistory
   
5. from langchain_core.chat_history import InMemoryChatMessageHistory
   
6. 
   
7. model = ChatTongyi(model="qwen3-max")
   
8. # prompt = PromptTemplate.from_template(
   
9. #     "你需要根据会话历史回应用户问题。对话历史：{chat_history}，用户提问：{input}，请回答"
   
10. # )
    
11. prompt = ChatPromptTemplate.from_messages(
    
12.     [
    
13.         ("system", "你需要根据会话历史回应用户问题。对话历史："),
    
14.         MessagesPlaceholder("chat_history"),
    
15.         ("human", "请回答如下问题：{input}")
    
16.     ]
    
17. )
    
18. 
    
19. str_parser = StrOutputParser()
    
20. 
    
21. 
    
22. def print_prompt(full_prompt):
    
23.     print("="*20, full_prompt.to_string(), "="*20)
    
24.     return full_prompt
    
25. 
    
26. 
    
27. base_chain = prompt | print_prompt | model | str_parser
    
28. 
    
29. 
    
30. store = {}      # key就是session，value就是InMemoryChatMessageHistory类对象
    
31. # 实现通过会话id获取InMemoryChatMessageHistory类对象
    
32. def get_history(session_id):
    
33.     if session_id not in store:
    
34.         store[session_id] = InMemoryChatMessageHistory()
    
35. 
    
36.     return store[session_id]
    
37. 
    
38. # 创建一个新的链，对原有链增强功能：自动附加历史消息
    
39. conversation_chain = RunnableWithMessageHistory(
    
40.     base_chain,     # 被增强的原有chain
    
41.     get_history,    # 通过会话id获取InMemoryChatMessageHistory类对象
    
42.     input_messages_key="input",             # 表示用户输入在模板中的占位符
    
43.     history_messages_key="chat_history"     # 表示用户输入在模板中的占位符
    
44. )
    
45. 
    
46. 
    
47. if __name__ == '__main__':
    
48.     # 固定格式，添加LangChain的配置，为当前程序配置所属的session_id
    
49.     session_config = {
    
50.         "configurable": {
    
51.             "session_id": "user_001"
    
52.         }
    
53.     }
    
54. 
    
55.     res = conversation_chain.invoke({"input": "小明有2个猫"}, session_config)
    
56.     print("第1次执行：", res)
    
57.    
    
58.     res = conversation_chain.invoke({"input": "小刚有1只狗"}, session_config)
    
59.     print("第2次执行：", res)
    
60. 
    
61.     res = conversation_chain.invoke({"input": "总共有几个宠物"}, session_config)
    
62.     print("第3次执行：", res)
    

复制代码

学习视频：【黑马程序员大模型RAG与Agent智能体项目实战教程，基于主流的LangChain技术从大模型提示词到实战项目】 https://www.bilibili.com/video/BV1yjz5BLEoY/?p=37&share_source=copy_web&vd_source=792a2cb63a1882bff4ed856eadc41a71

FishC

如何临时会话记忆，让大模型的回答能基于上文内容？
LangChain提供了History功能,帮助模型在有历史记忆的情况下回答：
基于RunnableWithMessageHistory在原有链的基础上创建带有历史记录功能的新链(新Runnable实例)
基于InMemoryChatMessageHistory为历史记录提供内存存储(临时用)
注：这里的会话ID是用于区分不同用户的不同会话内容

实现让大模型基于上文内容（临时会话记忆）回答的核心步骤如下：

1. 创建一个基础的对话链（base_chain）。
2. 定义一个存储聊天历史的字典（store）和一个根据会话ID获取或创建历史记录的函数（get_history）。
3. 使用 RunnableWithMessageHistory 来增强基础链，使其能够自动管理历史消息。
4. 调用时，通过 session_config 指定会话ID，以确保同一个会话的对话历史被连贯地使用。

你提供的代码思路正确，但有几处需要修正和完善的地方：

主要修正点：

• get_history 函数中，当 session_id 不存在时，需要将创建的 InMemoryChatMessageHistory 对象存入 store 字典。
• ChatPromptTemplate.from_messages 的内容是空的，需要补充消息结构。
• 对话链的配置参数名称需要根据你使用的 PromptTemplate 进行调整。
  

以下是修正和优化后的完整代码示例：

1. 
   
2. from langchain_community.chat_models.tongyi import ChatTongyi
   
3. from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
   
4. from langchain_core.output_parsers import StrOutputParser
   
5. from langchain_core.runnables.history import RunnableWithMessageHistory
   
6. from langchain_community.chat_message_histories import InMemoryChatMessageHistory
   
7. 
   
8. # 1. 初始化模型
   
9. model = ChatTongyi(model="qwen-max", temperature=0)
   
10. 
    
11. # 2. 构建Prompt模板，使用 MessagesPlaceholder 来预留历史消息的位置
    
12. prompt = ChatPromptTemplate.from_messages([
    
13.     # 系统提示词，可以设定AI的角色或行为
    
14.     ("system", "你是一个乐于助人的助手。请根据对话历史和当前问题来回答。"),
    
15.     # 这是历史消息的占位符，RunnableWithMessageHistory会自动将历史对话填充到这里
    
16.     MessagesPlaceholder(variable_name="chat_history"),
    
17.     # 用户最新问题的占位符
    
18.     ("human", "{input}")
    
19. ])
    
20. 
    
21. # 3. 初始化输出解析器
    
22. str_parser = StrOutputParser()
    
23. 
    
24. # 4. 一个用于调试、打印当前完整Prompt的函数
    
25. def print_prompt(full_prompt):
    
26.     print("=" * 40)
    
27.     print("[DEBUG] 当前完整的Prompt内容：")
    
28.     print(full_prompt.to_string())
    
29.     print("=" * 40)
    
30.     return full_prompt
    
31. 
    
32. # 5. 构建基础链
    
33. base_chain = prompt | print_prompt | model | str_parser
    
34. 
    
35. # 6. 创建一个字典来存储不同会话的历史记录
    
36. # key: session_id (字符串), value: InMemoryChatMessageHistory 对象
    
37. store = {}
    
38. 
    
39. def get_session_history(session_id: str) -> InMemoryChatMessageHistory:
    
40.     """根据session_id获取或创建对应的聊天历史记录对象"""
    
41.     if session_id not in store:
    
42.         # 如果这个session_id是第一次出现，则为它创建一个新的历史记录存储对象
    
43.         store[session_id] = InMemoryChatMessageHistory()
    
44.     return store[session_id]
    
45. 
    
46. # 7. 使用 RunnableWithMessageHistory 增强基础链，使其具备历史记忆功能
    
47. conversation_chain = RunnableWithMessageHistory(
    
48.     runnable=base_chain,          # 要被增强的基础链
    
49.     get_session_history=get_session_history, # 获取历史记录的函数
    
50.     input_messages_key="input",              # 用户最新输入在Prompt模板中对应的变量名
    
51.     history_messages_key="chat_history"      # 历史消息在Prompt模板中对应的变量名
    
52. )
    
53. 
    
54. if __name__ == '__main__':
    
55.     # 定义会话配置，`session_id` 用于区分不同的对话上下文
    
56.     config = {"configurable": {"session_id": "user_001"}}
    
57. 
    
58.     # 第一轮对话
    
59.     response_1 = conversation_chain.invoke({"input": "小明有2个猫"}, config=config)
    
60.     print("第1次回答：", response_1)
    
61. 
    
62.     # 第二轮对话
    
63.     response_2 = conversation_chain.invoke({"input": "小刚有1只狗"}, config=config)
    
64.     print("第2次回答：", response_2)
    
65. 
    
66.     # 第三轮对话：此时模型应该能“记住”前面提到的猫和狗
    
67.     response_3 = conversation_chain.invoke({"input": "他们总共有几个宠物？"}, config=config)
    
68.     print("第3次回答：", response_3)
    
69. 
    
70.     # 验证不同session_id的隔离性
    
71.     print("\n--- 测试不同会话ID的隔离 ---")
    
72.     another_config = {"configurable": {"session_id": "user_002"}}
    
73.     response_new_session = conversation_chain.invoke({"input": "总共有几个宠物？"}, config=another_config)
    
74.     print("新会话(user_002)的回答：", response_new_session)
    

复制代码

代码要点解释：

• ChatPromptTemplate：消息模板清晰地分为系统指令、历史消息和用户当前输入三部分。MessagesPlaceholder 是容纳历史对话的关键。
• store 和 get_session_history：在内存中为每个 session_id 维护独立的对话历史。这是实现“临时”记忆的基础。
• RunnableWithMessageHistory：这个包装器自动完成繁琐的历史消息管理。每次调用时，它会：
     
  
     
  • 根据 session_id 从 get_session_history 函数中获取对应的历史记录对象。
       
  • 将历史记录中的所有消息填充到Prompt模板的 chat_history 占位符。
       
  • 将用户本次的输入 input 填充到对应位置。
       
  • 调用基础链生成回复后，将本轮的用户输入和AI回复自动添加到历史记录对象中，供下次使用。
       
• session_id 的重要性：它是区分不同对话上下文的唯一标识。例如，“user_001”和“user_002”拥有完全独立、互不干扰的对话历史。在实际应用中，这可以对应不同的用户或不同的聊天窗口。
• 运行结果预期：在同一个 session_id（如“user_001”）下，第三次询问“总共有几个宠物？”时，模型能基于前两次对话的记忆，给出“3个”或类似的答案。而对于新的 session_id（如“user_002”），由于没有历史，模型无法直接回答数量问题。
  

通过以上方式，你就成功地为LangChain应用添加了临时的、基于会话的记忆功能。

以上回复来自 FishC AI 小助理，如未能正确解答您的问题，请继续追问。