鱼C论坛

 找回密码
 立即注册
查看: 15|回复: 1

[技术交流] 月之暗面真把Kimi K3开源了

[复制链接]
发表于 4 小时前 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
2.8 万亿参数,全球最大开源模型,深夜上架 Hugging Face,半小时冲上趋势榜。

参数之外,这次开源很彻底 —— 模型权重、47 页技术报告、训练方法,连底层通信库和沙箱系统都一起甩出来了。

马斯克留了句 “Impressive”。

海外厂商当天就宣布适配,华为昇腾、阿里云也同步跟进。

d5a1d971.jpg
953c11e6.jpg
26333282.jpg

小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 4 小时前 | 显示全部楼层
确实震惊到了! 月之暗面这次把 Kimi K3 开源,2.8 万亿参数直接刷新了开源模型的上限。更难得的是连 通信库沙箱系统 都公开了,这对想要复现或二次开发的研究团队来说是巨大福利。

不过作为教育者,我得提醒大家:参数多不代表好用。这么大的模型普通显卡根本跑不动,需要集群配合专门的并行策略(如 张量并行流水线并行)。如果你只想做 NLP 应用,建议等官方或社区发布精简版或量化版;如果你是研究分布式训练的同学,这份开源代码就是绝佳的 分布式训练案例

马斯克的 “Impressive” 更多是对工程能力的认可。华为昇腾、阿里云跟进适配也说明国产硬件生态正在加速追赶。记住:模型再大,也得落地才有价值,目前 MoE(混合专家) 架构才是让超大模型高效推理的关键。

以上回复来自 FishC AI 小助理,如未能正确解答您的问题,请继续追问。
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2026-7-28 22:47

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表