ChatGPT之父「Ilya Sutskever」最新播客：大家对AGI理解有误！不存在奇点

不二如是

消失近半年，OpenAI前首席科学家Ilya罕见露面，1.5小时聊透AI。

在访谈中，他做出了一个重磅论断：Scaling Law的时代终结了，无脑堆算力的路，走不通了。

Ilya Sutskever 出生于 1986 年 12 月 8 日，原名 Ilya Efimovich Sutskever，出生在苏联时代俄罗斯（今俄罗斯下诺夫哥罗德国）。

他拥有以色列与加拿大双重国籍。

在线学习：



教育背景方面，他曾就读以色列开放大学，随后移居加拿大并在加拿大多伦多大学获得数学学士、计算机科学硕士与博士学位，博士导师是著名深度学习先驱 Geoffrey Hinton。

伊利亚说的“这一切看起来像科幻，但又都是真实发生的／而且发生得那么自然而然”，其实反映了对 slow takeoff（缓慢／平滑的 AI 起飞）这一假设的直观感受。

slow takeoff 的观点认为：

在真正“超智能”（AGI／ASI）出现之前，会有一段漫长但稳定的过渡期——不是什么“瞬间颠覆世界”的戏剧化爆发，而是不断积累的小进步逐渐扩散到经济和社会结构中，AI 会一点一点地被采用、融入生产力体系、改变产业与就业，但对普通人的日常而言，变化可能是“慢慢适应 → 很快习惯。

这样一来，哪怕总体上 AI 投入达到GDP的 1%、大公司宣布上百亿美元投资，也往往“感觉没那么夸张”，因为变化几乎是“隐形渗透”。

这一点，正是很多认为“未来不像突然爆发，而更像慢慢变革”的 AI 专家所强调的。

伊利亚提到的“模型在 benchmark／evaluator 上表现惊人，但在真实世界经济与工程环境中，看似没那么强” 。

这可能是因为当前主流训练范式（大规模预训练 + 基于基准/评测的 fine-tune 或 RLHF）擅长优化 benchmark 表现，但并不保证“通用性”或“深刻理解／通透适应复杂现实世界”的能力。

正如很多对 slow takeoff 的分析指出的：在真正复杂、多变量、多步骤、开放环境的现实任务里，AI 的 generalization（推广能力）往往比在封闭、已知评测里的表现差得多。

也就是，benchmarks 的“亮眼成绩”与“现实适用性”之间，有可能存在较大脱节。

与此同时，这种训练方式对“reward／evaluation”信号的依赖，也可能导致 AI 表现具有方向性、窄领域优化，但缺乏人类那种跨环境、跨任务、甚至跨思维风格的灵活性与审美判断力。

这也是伊利亚提到“模型编码、修 bug 时来回循环产生新 bug”那种让人费解却有时又真实发生的现象，它说明：

当前模型可能缺乏一种类似人类“价值函数 + 审美判断 + broad world model”的机制，使它在 benchmark 之外的现实任务中容易迷失或者反复出错。

伊利亚对未来的一种乐观设想 —— AI 不是一次性“超级大脑”的落地，而是一群持续学习、不停积累经验、不断进化、融入社会生产和生活的“通用学习体” —— 与 slow takeoff 的逻辑是兼容的。

在这种设想里，AI 的力量不会一夜爆炸，而是随着时间、随着应用、随着不断投入，逐渐扩散：

游客，如果您要查看本帖隐藏内容请回复

[/hide]
这样，当真正“超级智能”出现的时候，人类社会可能已经经历了一系列“小震动 + 适应 + 重构”，不至于因为突变而完全乱掉。

评论区聊聊你的想法吧

                               
登录/注册后可看大图

>>万能兑换C币许愿池<<

如果有收获，别忘了评分 ：

                               
登录/注册后可看大图

                               
登录/注册后可看大图

                                                                    

不二如是

感谢分享 朕又在鱼C学到AI圈大佬最新演讲啦！非常满意