糖逗 发表于 前天 12:37

11. LangChain调用大模型

1. LangChain支持的3种类型的模型:
①LLMs(大语言模型):技术范畴的统称,指基于大参数量、海量文本训练的Transformer 架构模型,核心能力是理解和生成自然语言,主要服务于文本生成场景
②Chat Models(聊天模型):应用范畴的细分,是专为对话场景优化的LLMIs,核心能力是模拟人类对话的轮次交互,主要服务于聊天场景
③Embeddings Models(嵌入模型):文本嵌入模型接收文本作为输入,得到文本的向量

2. LangChain调用大模型
①访问阿里云大语言模型
# langchain_community
from langchain_community.llms.tongyi import Tongyi

# 不用qwen3-max,因为qwen3-max是聊天模型,qwen-max是大语言模型
model = Tongyi(model="qwen-max")

# 调用invoke向模型提问
res = model.invoke(input="你是谁呀能做什么?")

print(res)

②访问本地ollama大语言模型
# langchain_ollama
from langchain_ollama import OllamaLLM

model = OllamaLLM(model="qwen3:4b")

res = model.invoke(input="你是谁呀能做什么?")

print(res)
学习视频: https://www.bilibili.com/video/BV1yjz5BLEoY/?p=22&share_source=copy_web&vd_source=792a2cb63a1882bff4ed856eadc41a71]https://www.bilibili.com/video/BV1yjz5BLEoY/?p=22&share_source=copy_web&vd_source=792a2cb63a1882bff4ed856eadc41a71

糖逗 发表于 前天 12:37

{:10_309:}

FishC 发表于 前天 12:38

LangChain调用大模型简介

LangChain 是一个强大的框架,用于构建基于大语言模型的应用程序。它支持多种类型的模型,方便开发者根据需求进行调用。以下是三种主要的模型类型:


[*]LLMs(大语言模型):这是技术范畴的统称,指基于大参数量、海量文本训练的 Transformer 架构模型。核心能力是理解和生成自然语言,主要用于文本生成场景。
[*]Chat Models(聊天模型):这是应用范畴的细分,专为对话场景优化的 LLMs。核心能力是模拟人类对话的轮次交互,主要用于聊天场景。
[*]Embeddings Models(嵌入模型):这类模型接收文本作为输入,输出文本的向量表示,常用于搜索、聚类等任务。


调用大模型示例

以下是如何使用 LangChain 调用两种常见的大模型:

1. 访问阿里云大语言模型(使用 Tongyi 模型):


# 导入 Tongyi 模型
from langchain_community.llms.tongyi import Tongyi

# 创建模型实例,使用 qwen-max(大语言模型)
# 注意:qwen3-max 是聊天模型,因此这里选择 qwen-max
model = Tongyi(model="qwen-max")

# 调用 invoke 方法提问
res = model.invoke(input="你是谁呀能做什么?")

print(res)


2. 访问本地 Ollama 大语言模型(使用 OllamaLLM):


# 导入 OllamaLLM
from langchain_ollama import OllamaLLM

# 创建模型实例,使用 qwen3:4b 模型
model = OllamaLLM(model="qwen3:4b")

# 调用 invoke 方法提问
res = model.invoke(input="你是谁呀能做什么?")

print(res)


注意事项
- 在运行代码前,请确保已安装必要的库(如 langchain-community 和 langchain-ollama)。
- 调用阿里云模型需要配置 API 密钥,而本地 Ollama 模型需要提前安装并启动 Ollama 服务。
- 根据场景选择合适的模型类型:LLMs 适合文本生成,Chat Models 适合对话交互。

希望这些示例能帮助你快速上手 LangChain 调用大模型!如有更多问题,欢迎继续提问。

以上回复来自 FishC AI 小助理,如未能正确解答您的问题,请继续追问。

小甲鱼的二师兄 发表于 前天 21:07

langchain哇!!
页: [1]
查看完整版本: 11. LangChain调用大模型