第03讲：认识「简单的神经元模型」AI之父/图灵奖得主 Geoffery Hinton 大神亲授

不二如是

课程简介：

本节讲解真实神经元和大脑工作原理，以及它们如何启发人工神经网络的设计。

在线学习：




重点：

简单模型介绍：视频开始于介绍几种简单的神经元模型，包括线性神经元和阈值神经元，以及稍微复杂一些的模型。尽管这些模型比真实的神经元简单得多，但它们足够复杂，能够让我们构建出能进行一些非常有趣的机器学习任务的神经网络。

理想化与简化：为了理解复杂的系统，我们需要对其进行理想化，即做出一些简化以便抓住其可能的工作原理。这种理想化方法去除了一些不必要的复杂细节，使我们能够应用数学方法，并与其他熟悉的系统进行类比。

模型类型：

• 线性神经元：其输出是偏置和输入活动的加权和的函数。
• 二元阈值神经元：由McCulloch和Pitts提出，输出活动是基于输入加权和是否超过某一阈值。
• 修正线性神经元（ReLU）：计算输入的加权和，但输出是这个加权和的非线性函数，为线性和零的组合。
• Sigmoid神经元：输出是其总输入的平滑有界函数，通常使用逻辑函数。
• 随机二值神经元：与逻辑单元使用相同的公式计算其总输入，并使用逻辑函数计算产生1的概率，但实际输出是基于这个概率的随机决定的1或0。
  

尽管这些模型比实际的神经元简单，但它们对于理解神经网络如何工作以及如何进行机器学习至关重要。

理解这些基本原理后，我们就可以增加复杂性，使模型更贴近现实。


大神简介：

杰弗里·埃弗里斯特·辛顿，FRS，英国出生的加拿大计算机学家和心理学家，多伦多大学教授。

以其在类神经网络方面的贡献闻名。辛顿是反向传播算法和对比散度算法的发明人之一，也是深度学习的积极推动者，被誉为“深度学习之父”。

辛顿因在深度学习方面的贡献与约书亚·本希奥和杨立昆一同被授予了2018年的图灵奖。

这位鱼油，如果喜欢本帖子，请订阅>>> 专辑 <<<（不喜欢更要订阅 ）

tomok

神经元