AI之父「Geoffrey Hinton」最新对「AI」的 7 个观点｜超级智能不需要太久就会出现

不二如是

Geoffrey Hinton教授，人称“人工智能教父”、“神经网络之父”。

他最近（2024.2.19）给牛津大学做了一个公开演讲，从哲学角度对AI的未来走向，提出了严肃而重要的思考。

这个演讲37分钟，PPT32页，全文6422个单词：



Geoffrey Hinton（1947年12月6日～），是英国出生的加拿大计算机学家和心理学家，多伦多大学教授。

他是神经网络反向传播算法和对比散度算法的发明人之一。

他、约书亚·本希奥、杨立昆一同被授予了2018年的图灵奖。

以下是他在本次演讲中所传达的主要观点。

1、看来，生物方法战胜了逻辑方法

逻辑方法（又称符号方法）认为智能的本质是符号和规则；生物方法（即神经网络方法）则大不相同，它认为智能的关键是神经元之间的强度。

Hinton在演讲中说：

2012年，我的两位学生Ilya Sutskever（后来成了OpenAI首席科学家）和Alex Krizhevsky，在我一点帮助下，展示了可以通过这种方式（反向传播）制作一个非常好的神经网络，在有一百万张训练图片时，可以识别一千种不同类型的对象。伊利亚很有远见，他知道这个神经网络会在ImageNet竞赛中获胜。他是对的，他们赢得相当炸裂，他们的神经网络只有16%的错误率，而最好的传统计算机视觉系统错误率超过了25%。

然后，科学界发生了非常奇怪的事情。通常在科学界中，如果有两个竞争的学派，当你取得一点进展时，另一个学派会说你的成果是垃圾。

但在这个案例中，由于差距足够大，使得（符号学派）最好的研究者Jitendra Malik和Andrew Zisserman转换了研究方向来做这个，Andrew Zisserman还给我发送邮件说“这太神奇了”。

Hinton认为，在AI方面，生物方法显然占了优势。


2、大型神经网络可以无师自通地学会语言

符号学派认为他们在语言处理方面应该很出色，他们认为，神经网络是无法处理语言问题的，很多语言学家也持这样的态度。

然而，事实表明，大型神经网络仅仅通过学习大量的文本，就能无师自通掌握了语言的语法和语义！

统计学家和认知科学家认为这完全是疯狂的。

Hinton说，乔姆斯基（Noam Chomsky）曾说语言是天赋而非习得的，这很荒谬，他曾经做出了惊人的贡献，但他的时代已经过去了。


3、大模型完全有理解力

关于人是怎么理解事物的，有两种理论。

一种理论（符号方法）认为，一个词的意义在于它与其他词的关系；

另一种理论（心理学方法）认为，一个词的意义是一大堆特征组成的，比如“狗”有一大堆特征，它有生命、它是哺乳动物、它捕食等等。

大模型很好结合了以上两种理论：它学习每个单词的特征，并学习单词的特征如何相互作用。

在推理时，大模型分析文本，列出文本中每个单词的特征，并计算所有特征之间的交互（通过注意力算法），从而预测下一个单词的特征。

Hinton举了一个小例子，来说明其工作原理。

在符号方法中，回答“詹姆斯的妻子是谁”这种问题时，人工智能是这么做的：

它看到科林有父亲詹姆斯，科林有母亲维多利亚，它用规则推断出，詹姆斯有妻子维多利亚。（前提大家都是正经人）

而在大模型中，它学到“詹姆斯”有一堆特征，“妻子”有一堆特征，推理时，它让这些特征相互作用，得出了“詹姆斯”的“妻子”应该有的特征。

然后发现“维多利亚“最匹配这些特征，那么“维多利亚”就是”詹姆斯“的”妻子”。（虽然可能认错了人）

Hinton坚定地认为，在大模型中，数百万个特征以及特征之间数十亿次的交互，就是理解！

大模型当然也是一种模型，只不过是一种人类以前从没见过的巨大的模型，它如此巨大，大到能够包容人类拥有的所有知识。


4、大模型是人类认识自己的最好方法

大模型是了解人类如何理解语言的最佳模型，大脑就是在给单词分配特征，并让特征交互。

神经网络模型就是为了模拟人类理解而设计的一个模型。

大模型正如大脑那样工作，大模型正如大脑那样理解。


5、大模型的幻觉不是问题，人也会胡说

心理学家从来不说大模型有幻觉，因为心理学家知道人类也经常编造东西。

任何研究过记忆的人都知道，对人类而言，真实记忆与虚假记忆之间并没有明确的界限。

Hinton说：

如果某件事是最近发生的，并且它与你理解的事情相符，你可能会大致正确地记住它。如果某件事是很久以前发生的，或者是比较奇怪的事，你会记得不正确，而且你经常会非常自信地认为你记得正确，但你错了。

6、超级智能不需要太久就会出现

Hinton说：

我一直以为我们离超级智能还有很长很长的路要走，我过去常告诉人们可能需要50到100年，甚至可能是30到100年，我们现在不需要担心它。但是，由于我在之前两年所从事的工作，我突然开始相信我们现在拥有的数字模型已经非常接近于大脑的水平，并且将变得比大脑更好。

为什么GPT4比人类知识更丰富？

它不是由一个模型实现的，而是由不同硬件上运行的大量相同模型的副本实现的，一千个副本都去互联网上查看不同的内容并学习东西。

然后，通过平均梯度或平均权重，每个代理都掌握了其他代理学到的东西，这种沟通比人类要强太多了。

GPT-4的权重只有人类大脑权重的2%左右，但却拥有比人类多上千倍的知识。

数字计算的缺点是需要大量能量，但我们可以通过进化硬件，使大模型的能量消耗降低。

Hinton认为：

游客，如果您要查看本帖隐藏内容请回复

很少有例子表明更聪明的事物被不太聪明的事物所控制。


7、超级智能有若干种方法将我们消灭

当我们迎来工业革命时，我们拥有强有力的机器，体力劳动的工作岗位消失了。

现在在智力领域，有些工作也将会消失，取而代之的是比我们聪明得多的东西。

Hinton认为：

人工智能会产生致命的自主武器，它们将非常可怕，而且真的会自主运行

他说：

人工智能有若干种方式将我们消灭“，”任何打算关闭它们的人都会被超级智能说服。

有些人认为我们可以使这些东西（人工智能）变得善良，但如果它们相互竞争，我认为它们会开始像黑猩猩一样行事。

我不确定你能否让它们保持善良，如果它们变得非常聪明并且有了自我保护的意识，它们可能会认为自己比我们更重要。

tomok

静观其变

binzai_007

这个要看看