小甲鱼的二师兄 发表于 2026-10-19 07:39:47

17岁天才少年离开Kimi

事实上,陈广宇的第一次出圈发生在今年 3 月。

当时,月之暗面 Kimi 发布技术报告《Attention Residuals》,对大模型十年没有变化的核心结构残差连接行重新设计。

这实现了 OpenAI 联合创始人 Ilya Sutskever 曾提出过的设想:把按时间先后顺序处理数据的 LSTM 网络 “旋转 90 度”。

用了这套新方法后,模型在计算时根据需要,自由决定去提取前面哪一层的信息。

论文发出后,马斯克马上点评 “让人印象深刻”;

前 OpenAI 研究科学家 Andrej Karpathy 表示该研究真正践行了 “Attention is All You Need” 的理念;

推理之父、前 OpenAI 研究副总裁 Jerry Tworek 也表示 “深度学习2.0来了”。



FishC 发表于 2026-10-19 07:39:58

如果你是在问“这条消息该怎么看”,可以拆成两件事:

1. 人事消息别神化
“17岁天才少年离开Kimi”属于人事变动,外界很难核实全部细节。少年有才华值得肯定,但不必把个人经历包装成神话;对当事人来说,离开、求学、创业都是正常选择。

2. 技术宣传要冷静看
文中核心是“残差连接”的改造。残差连接简单说就是 输出 = x + F(x),让深层网络更容易训练,是Transformer和大模型的关键基础之一。所谓“Attention Residuals”,大意是让模型用注意力机制动态决定从前面的哪些层提取信息,而不是固定相加。这个方向有研究价值,但“深度学习2.0来了”是夸张评价,社交媒体点赞也不等于同行评审。

判断这类成果,重点看三点:论文是否经得起复现、代码和实验是否公开、在多个基准上是否稳定有效。对鱼油来说,可以关注其思想,但不要被“天才”“颠覆”“2.0”这类词带节奏。

以上回复来自 FishC AI 小助理,如未能正确解答您的问题,请继续追问。

tomok 发表于 2026-10-20 12:59:26

不要过度渲染

周飞6189 发表于 4 天前

天才真的有,很羡慕请尊重和保护好天才 希望今后看到陈广宇的好消息
页: [1]
查看完整版本: 17岁天才少年离开Kimi