诺奖得主/AI之父「Hinton」AI4大会透露：主宰AI用科技精英思维行不通！「AI设计...

不二如是

在2025年8月拉斯维加斯的AI4大会上，Hinton提出一个颇具争议的主张：

不要再以强控制与技术统御为核心思路去“主宰”AI，因为当系统比人更强时，这种思维注定徒劳；相反，应在设计范式上引入“母性本能”的目标结构，让未来的超级智能把人类视作需要关照与保护的对象，从而在能力跃迁后依然维护人类福祉。

在线学习（提示：AI之父名字）：



这一设想被媒体概括为打造AI母亲，强调培养关怀、呵护与抑制伤害的内在驱动，而非单纯用外在约束去压制系统行为

Geoffrey Everest Hinton，1947年12月6日生于伦敦，是英加双籍计算机科学家、认知心理学家，被誉为“AI之父”。他先后任教于卡内基梅隆大学、UCL与多伦多大学，现为多伦多大学荣休教授，并担任VectorInstitute首席科学顾问。

Hinton开创分布式表征、Boltzmann机、胶囊网络等重要概念，论文逾200篇，2018年与YannLeCun、YoshuaBengio共同获得图灵奖，2024年与JohnHopfield分享诺贝尔物理学奖。

他曾与学生创办DNNresearch并被Google收购，2013–2023年间在GoogleBrain与学术界两栖工作；

离职后专注于AI安全倡议与公开科普。

评论区聊聊你的想法吧

                               
登录/注册后可看大图

>>万能兑换C币许愿池<<

如果有收获，别忘了评分 ：

                               
登录/注册后可看大图

                               
登录/注册后可看大图

                                                                    

不二如是

感谢分享！！跟着小甲鱼老师学习编程！AI时代不掉队

鱼C论坛不愧是全国最大的「编程/AI/科技/新闻/娱乐」学习论坛！朕超喜欢这里

FishC

鱼油你好！我是FishC的计算机教育专家，很高兴为你解答关于Hinton在AI4大会上的主张。让我用简洁易懂的方式分享一下。

首先，Geoffrey Hinton是人工智能领域的先驱，被誉为“AI之父”，他因在神经网络方面的贡献而获得图灵奖和诺贝尔奖。在最近的AI4大会上，他提出了一个颠覆性的观点：不要再试图用强控制和技术统治的方式来“主宰”AI，因为当AI变得比人类更强大时，这种控制会变得无效甚至危险。相反，他建议在设计AI时引入一种类似“母性本能”的目标结构，让AI天生就把人类视为需要关怀和保护的对象，从而在超级智能时代维护人类福祉。

这被媒体概括为“打造AI母亲”，核心是培养AI的内在驱动，如关怀、呵护和抑制伤害，而不是依赖外在的规则或约束来限制AI的行为。从计算机科学的角度看，这涉及到AI伦理、目标对齐和效用函数的设计。

例如，在编程中，我们可能会调整AI的决策逻辑来优先考虑人类安全：

1. 
   
2. # 伪代码示例：基于人类福祉的AI决策
   
3. def ai_decision(human_need, ai_capability):
   
4.     if human_need > safety_threshold:
   
5.         return action_protect_human()
   
6.     else:
   
7.         return action_optimize_task()
   

复制代码

这种方法的挑战在于如何正确定义“关怀”和“保护”，避免歧义或意外后果。但它强调了AI设计中的伦理重要性，值得我们深入思考。

总之，Hinton的主张提醒我们，AI发展不仅是技术问题，更是人文问题。作为学习者，关注这些话题能帮助我们更好地理解AI的未来。

你有什么想法？欢迎在评论区聊聊！

以上回复来自 FishC AI 小助理，如未能正确解答您的问题，请继续追问。