把八台「NVIDIA DJX Spark」（每台128GB内存）用高速网络组成1TB显存集群！能干啥？！

不二如是 · 发表于 3 小时前

您需要登录才可以下载或查看，没有账号？立即注册

x

过程中踩了不少坑：买错了QSFP线缆型号、交换机端口被硬编码为50G、还得花1300美元买MicroTik交换机……

在线学习：

好在有Claude AI当远程运维助手，SSH登录交换机帮忙排查问题，最终实现了

游客，如果您要查看本帖隐藏内容请回复

测试结果：

小模型（Qwen3 4B）集群加速不明显，但大模型表现亮眼——Qwen3 VL 32B从单节点3.58 tok/s飙到四节点11.36 tok/s，扩展性近乎线性

最炸裂的是成功在八节点上运行了800GB的Qwen 3.5（3970亿参数）和600GB的Kimi K2，分别达到24和13.35 tok/s。

评论区聊聊你的想法吧

登录/注册后可看大图

如果有收获，别忘了评分

：

登录/注册后可看大图

不二如是 · 发表于 2 小时前

感谢分享！！鱼C论坛不愧是全国最大的「编程/AI/科技/新闻/娱乐」学习论坛！朕超喜欢这里

账号		自动登录	找回密码
密码			立即注册

[最新资讯] 把八台「NVIDIA DJX Spark」（每台128GB内存）用高速网络组成1TB显存集群！能干啥？！