第03讲：认识「简单的神经元模型」AI之父/图灵奖得主 Geoffery Hinton 大神亲授
本帖最后由 不二如是 于 2024-3-29 11:42 编辑课程简介：
本节讲解真实神经元和大脑工作原理，以及它们如何启发人工神经网络的设计。
在线学习：
https://www.bilibili.com/video/BV1Jx4y1e7RL
重点：
简单模型介绍：视频开始于介绍几种简单的神经元模型，包括线性神经元和阈值神经元，以及稍微复杂一些的模型。尽管这些模型比真实的神经元简单得多，但它们足够复杂，能够让我们构建出能进行一些非常有趣的机器学习任务的神经网络。
理想化与简化：为了理解复杂的系统，我们需要对其进行理想化，即做出一些简化以便抓住其可能的工作原理。这种理想化方法去除了一些不必要的复杂细节，使我们能够应用数学方法，并与其他熟悉的系统进行类比。
模型类型：
[*]线性神经元：其输出是偏置和输入活动的加权和的函数。
[*]二元阈值神经元：由McCulloch和Pitts提出，输出活动是基于输入加权和是否超过某一阈值。
[*]修正线性神经元（ReLU）：计算输入的加权和，但输出是这个加权和的非线性函数，为线性和零的组合。
[*]Sigmoid神经元：输出是其总输入的平滑有界函数，通常使用逻辑函数。
[*]随机二值神经元：与逻辑单元使用相同的公式计算其总输入，并使用逻辑函数计算产生1的概率，但实际输出是基于这个概率的随机决定的1或0。
尽管这些模型比实际的神经元简单，但它们对于理解神经网络如何工作以及如何进行机器学习至关重要。
理解这些基本原理后，我们就可以增加复杂性，使模型更贴近现实。
大神简介：
杰弗里·埃弗里斯特·辛顿，FRS，英国出生的加拿大计算机学家和心理学家，多伦多大学教授。
以其在类神经网络方面的贡献闻名。辛顿是反向传播算法和对比散度算法的发明人之一，也是深度学习的积极推动者，被誉为“深度学习之父”。
辛顿因在深度学习方面的贡献与约书亚·本希奥和杨立昆一同被授予了2018年的图灵奖。
这位鱼油，如果喜欢本帖子，请订阅>>> 专辑 <<<（不喜欢更要订阅{:10_278:} ）
神经元
页:
[1]