鱼C论坛

 找回密码
 立即注册
查看: 12|回复: 1

[大咖观点] Transformer之父「Llion Jones」警告:Transformer正在成为AI的囚笼!当所有人都...

[复制链接]
发表于 1 小时前 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
78f4897fa51b6ff6fd1aa21cce23d37d8891963f.jpg@308w_174h.jpeg

Transformer之父「Llion Jones」警告:Transformer正在成为AI的囚笼!

当所有人都在堆算力,真正的突破可能正在消失:



如果有人告诉你,那个让ChatGPT风靡全球、开启大模型时代的核心技术——Transformer架构,正在逐渐成为阻碍人工智能下一次飞跃的“囚笼”,你或许会觉得不可思议。

但说出这句话的人,正是Transformer架构的奠基者之一、谷歌经典论文《Attention Is All You Need》的八位作者之一——Llion Jones。

该论文在2017年提出Transformer模型,后来成为几乎所有大型语言模型的基础架构,被认为是现代AI革命的关键技术之一。

在一次引发行业广泛讨论的演讲中,Llion Jones给这个烈火烹油的AI时代泼了一盆冷水。

他认为:

游客,如果您要查看本帖隐藏内容请回复

Transformer的成功过于巨大,以至于整个行业都围绕它不断做微调与优化。

就像一群工匠围着一台精密钟表,不断打磨齿轮,却很少有人再去思考是否应该发明一台全新的机器。

Llion Jones把这种现象称为探索与开发之间的失衡。

在科研中,本应同时存在两种力量:

一部分人探索未知路径,另一部分人改进已有技术。

但在资本驱动的AI产业里,开发被无限放大,而探索被严重压缩。

许多研究者被迫追逐短期成果,比如增加参数规模、优化架构细节、刷高基准测试成绩,却很少有人去思考智能的本质问题。

讽刺的是,当年Transformer诞生时,恰恰来自一种几乎没有KPI压力的环境。

团队成员通过午餐讨论、白板涂鸦和自由探索逐渐形成想法,而不是被指标驱动的项目。

Llion Jones认为,如果当年也存在如今这种季度回报压力,这项改变AI历史的技术很可能根本不会出现。

如今的AI研究,很像19世纪不断改良马车的人们——车轮越来越精致,却没人敢去发明发动机。

在他看来,Transformer最大的成功反而成了一种路径依赖。

当一种工具足够强大、足够好用时,人们反而更不愿意寻找替代方案。

整个行业于是不断扩大模型规模、堆叠算力,却可能忽略了更根本的架构创新。

Llion Jones甚至表示:

他已经将自己研究Transformer的时间降到最低,转而寻找新的AI架构方向,希望重新激活探索精神。

这不仅是一个技术选择,更是一种科研态度。

他向研究者、管理者和投资人提出一个尖锐的问题:

我们是否还有勇气投资那些看起来毫无用处、甚至可能失败的想法?

如果这场价值万亿美元的AI竞赛,最终只是让我们拥有一个更会聊天、却始终无法产生真正智能的系统,那么它或许会成为科技史上最昂贵的一次原地踏步。

而真正不可替代的价值,或许不是某种技术,而是人类那种敢于浪费时间、推翻旧框架的纯粹好奇心。

评论区聊聊你的想法



                               
登录/注册后可看大图




如果有收获,别忘了评分


                               
登录/注册后可看大图


                               
登录/注册后可看大图
                                                                    
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

 楼主| 发表于 1 小时前 | 显示全部楼层
感谢分享!!鱼C论坛不愧是全国最大的「编程/AI/科技/新闻/娱乐」学习论坛!朕超喜欢这里
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2026-3-8 18:58

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表