鱼C论坛

 找回密码
 立即注册
查看: 3737|回复: 7

[大语言模型] DeepSeek R1 本地环境搭建(免费+本地隐私)|Mac 32GB 足以

[复制链接]
发表于 5 天前 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
先说结论:

32g 内存 m1 pro 实测 14b 可用~

DeepSeek R1不光开源,还把一套蒸馏全家桶放出来了。

关于 R1 的介绍可以看这期视频:



记录一下本地部署,真的很方便!

1. 安装Ollama

13382267637726403.jpeg

官网下载安装即可。
传送门
       
2. 下载对应模型

13382267639809365.jpeg

最小的是1.5b,适合尝鲜:
ollama run deepseek-r1:1.5b
       
建议装 14b:
ollama run deepseek-r1:14b
       
超大杯70b:
ollama run deepseek-r1:70b
       

3. 设置 chatbox

13382267641661157.jpeg

chatbox 是很不错的 LLM 图形化界面,非常方便。

在设置里面模型 provider 选择 OLLMA 然后选择相应模型就可以用了!

注意默认 temperature 是 0.7,但是官方建议是 0.5-0.7,所以可以稍微调低一点。

这样就可以开始本地用了:

13382267643456680.jpeg
       
生成速度还可以,基本任务质量还是不错的,复杂任务感觉还是没有 o1 强但是胜在
游客,如果您要查看本帖隐藏内容请回复
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 5 天前 | 显示全部楼层
为什么它火了
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 4 天前 | 显示全部楼层
需要英伟达显卡吗?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 4 天前 | 显示全部楼层
Mac 系统吗?Windows不能用?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 4 天前 | 显示全部楼层
谁能给我个32G的MAC~~~
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 4 天前 | 显示全部楼层

因为值得阿,R1各项评测数据遥遥领先
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 3 天前 | 显示全部楼层
感谢分享!
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 昨天 16:11 | 显示全部楼层
感谢分享!新手学习中
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-1-30 12:53

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表