不二如是 发表于 3 天前

苹果公司研究人员发现人工智能危险信号！



苹果公司的研究人员通过测试发现，当前一些被认为具有先进推理能力的大语言模型（LLM），其推理能力可能被高估了。

在线学习：

https://www.bilibili.com/video/BV1VKMnzEEpx

例如，研究人员在测试中发现，当给大语言模型提出一个简单的数学问题时，模型能够正确计算出答案。

但当在问题中增添一些无关紧要的修饰语后，部分大语言模型就会给出错误的答案。

这表明这些模型并非真正理解问题的逻辑，而只是在模仿训练数据中的模式。


模型在复杂问题面前“掉链子”

苹果研究人员的另一项研究指出，这些大语言模型在面对复杂问题时，其推理能力会随着问题复杂度的增加先上升后下降，最终在达到一定复杂度后出现“完全准确度崩溃”的情况。

这可能是因为模型在处理复杂问题时，会陷入一种“过度思考”的现象，导致其推理能力反而下降。

这种现象表明，当前的人工智能模型在处理超出其训练范围的复杂任务时，存在明显的局限性。


人工智能发展需谨慎对待

苹果研究人员的发现提醒我们，尽管人工智能技术取得了显著进展，但其距离真正的人类智能还有很大差距。

当前一些人工智能模型所表现出的“推理”能力，可能只是一种“幻觉”，并不具备真正的逻辑推理能力。

因此，在人工智能的发展过程中，我们需要更加谨慎地评估其能力和风险，避免过度依赖和盲目乐观。

Apple researchers AI red flag苹果公司研究人员（发现的）人工智能危险信号 ！

评论区聊聊你的想法吧{:10_330:}

https://xxx.ilovefishc.com/forum/202505/12/120451wiv7viv5iebupbbr.png

>>万能兑换C币许愿池<<

如果有收获，别忘了评分{:10_281:} ：

https://xxx.ilovefishc.com/forum/202011/20/092334ggd6inlzfisfrdir.png.thumb.jpg
https://xxx.ilovefishc.com/forum/202505/21/111710rvxgdn90vaub5gag.gif                                                                  

sunshine_8205 发表于 3 天前

妥妥的直男

某一个“天” 发表于 3 天前

都发现了

不二如是 发表于 3 天前

感谢分享 朕又在鱼C学到东西啦！非常满意{:10_275:}

不二如是 发表于 3 天前

某一个“天” 发表于 2025-6-12 12:54
都发现了

哈哈，是吧

快速收敛 发表于 3 天前

感谢分享 朕又在鱼C学到东西啦！非常满意{:10_275:}

小甲鱼的二师兄 发表于 3 天前

感谢分享 朕又在鱼C学到东西啦！非常满意{:10_275:}

康小泡 发表于 3 天前

感谢分享 朕又在鱼C学到东西啦！非常满意{:10_275:}

不二如是 发表于 3 天前

小甲鱼的二师兄 发表于 2025-6-12 15:26
感谢分享 朕又在鱼C学到东西啦！非常满意

{:10_275:}鱼C有你更精彩{:10_288:}

不二如是 发表于 3 天前

康小泡 发表于 2025-6-12 15:55
感谢分享 朕又在鱼C学到东西啦！非常满意

{:10_288:}{:10_288:}{:10_288:}

鱼C-小师妹 发表于 3 天前

感谢分享 朕又在鱼C学到东西啦！非常满意{:10_275:}

不二如是 发表于 3 天前

鱼C-小师妹 发表于 2025-6-12 17:22
感谢分享 朕又在鱼C学到东西啦！非常满意

{:10_275:}鱼C有你更精彩{:10_288:}

画风华 发表于 前天 07:36

感谢分享 朕又在鱼C学到东西啦！非常满意{:10_275:}
页: [1]
查看完整版本: 苹果公司研究人员发现人工智能危险信号！