jerryxjr1220 发表于 2017-1-23 16:41:58

20行代码实现多层神经网络的机器学习

现在神经网络、机器学习、深度学习逐渐成为未来计算机发展的大趋势。

今天就通过一个很简单的小例子,浅谈一下如何用python实现多层神经网络的机器学习。

神经网络(Neural Networks)属于 机器学习(Machine Learning)的一种。

深层神经网络(Deep Neural Networks)也只是 深层学习(Deep Learning) 的一种。

"深度学习"是为了让层数较多的多层神经网络可以训练,能够work而演化出来的一系列的 新的结构和新的方法。

好吧,太复杂的概念大家可以google,这里举个简单的例子说明:

例如,
有一组输入:X = 1,2,3,4,5,6,7,8,9,10
有一组输出:Y = 10,20,30,40,50,60,70,80,90,100
求解:Y = k*X + b 中的 k 和 b 为何值时,函数拟合最好。
当然,这是非常简单的题目,用脚趾头想都能知道这个函数当然应该是 Y = 10 * X + 0,即 k = 10, b = 0.

那么用神经网络学习应该如何实现呢?

卖个关子。

我们先看结果吧:
当学习次数为100时,程序输出:
k=9.999852648623337 b=0.0007369339496443169

当学习次数为10000时,程序输出:
k=9.999866463857986 b=0.0007360277038955244

当学习次数为1000000时,程序输出:
k=9.999935468934599 b=0.0003552889884596963

可以看到随着学习次数的增加,输出值会无限接近标准值(但是永远也打不到标准值,因为机器学习的特点就是根据偏差值不断调整自身参数,以不断减小误差,但是误差是永远存在的。)

下面详细解释程序代码:
首先,我们要定义一个函数,这个函数的作用是能够把输入值转化为一个0~1之间的数,并且当输入值与0的差值越大,输出越接近1,输入值越接近0时,输入值也越接近于0. 这个函数的作用就是用来调整机器本身参数,使结果更加接近于标准值。
那么,我们这个函数F(x)= (e^x -1) / (e^x + 1) 就符合这样的要求,其中x>=0(取绝对值)。
def F(x):
    return (math.exp(abs(x))-1)/(math.exp(abs(x))+1)

然后当然要把X和Y以列表的形式放入以便机器学习使用。
X = list(range(1,11))
Y = list(range(10,110,10))

由于有k和b 2个未知数,我们设定一个二层的神经网络。
把X作为第一层输入,k*X作为第一层的输出
把k*X作为第二层输入,k*X+b作为第二层的输出

利用k*X与Y-b计算第一层的偏差值error1,代入F(error1)计算权重,然后把这个权重值*error1作为k值的调整值
同样,利用k*X+b与Y计算第二层的偏差值error2,代入F(error2)计算权重,再把这个权重值*error2作为b值的调整值

然后,不断反复迭代这个过程,使得k和b不断接近标准值。
这个过程就是这样。

20行源代码如下:
**** Hidden Message *****

Lnan95 发表于 2017-1-23 22:12:44

厉害,回复看看!

咸鱼沙拉 发表于 2017-1-27 09:31:52

楼主好厉害!

大梦想小明造 发表于 2017-1-28 09:12:23

楼主我看你是神

zsy1998 发表于 2017-1-30 21:58:52

厉害!

liuzhu1990 发表于 2017-2-8 07:52:03

学习了,感谢

liufang 发表于 2017-2-8 18:56:16

...

liufang 发表于 2017-2-8 18:59:22

..

叽哩哗啦 发表于 2017-2-11 22:04:21

谢谢分享

qq413317226 发表于 2017-3-10 15:37:52

牛逼

寂寞地学python 发表于 2017-3-11 09:55:39

利用k*X与Y-b计算第一层的偏差值error1,代入F(error1)计算权重,然后把这个权重值*error1作为k值的调整值
同样,利用k*X+b与Y计算第二层的偏差值error2,代入F(error2)计算权重,再把这个权重值*error2作为b值的调整值

xiaoshan01 发表于 2017-3-14 17:05:11

美滋滋

Lei.j1ang 发表于 2017-3-21 09:27:23

1111111111

zsxwhyghf 发表于 2017-3-30 08:46:34

来学习学习

雨天的渔人 发表于 2017-3-30 10:06:19

xuexi

fangyufeng 发表于 2017-4-2 19:33:44

厉害 不得不看

caowanjin 发表于 2017-4-6 23:30:00

厉害

zyc1 发表于 2017-4-8 19:42:30

谢谢,学习一下

20岁普通市民 发表于 2017-4-13 21:12:49

新人围观

cngrand 发表于 2017-4-24 07:01:27

感谢感谢
页: [1] 2 3 4 5 6 7 8 9
查看完整版本: 20行代码实现多层神经网络的机器学习