20行代码实现多层神经网络的机器学习
现在神经网络、机器学习、深度学习逐渐成为未来计算机发展的大趋势。今天就通过一个很简单的小例子,浅谈一下如何用python实现多层神经网络的机器学习。
神经网络(Neural Networks)属于 机器学习(Machine Learning)的一种。
深层神经网络(Deep Neural Networks)也只是 深层学习(Deep Learning) 的一种。
"深度学习"是为了让层数较多的多层神经网络可以训练,能够work而演化出来的一系列的 新的结构和新的方法。
好吧,太复杂的概念大家可以google,这里举个简单的例子说明:
例如,
有一组输入:X = 1,2,3,4,5,6,7,8,9,10
有一组输出:Y = 10,20,30,40,50,60,70,80,90,100
求解:Y = k*X + b 中的 k 和 b 为何值时,函数拟合最好。
当然,这是非常简单的题目,用脚趾头想都能知道这个函数当然应该是 Y = 10 * X + 0,即 k = 10, b = 0.
那么用神经网络学习应该如何实现呢?
卖个关子。
我们先看结果吧:
当学习次数为100时,程序输出:
k=9.999852648623337 b=0.0007369339496443169
当学习次数为10000时,程序输出:
k=9.999866463857986 b=0.0007360277038955244
当学习次数为1000000时,程序输出:
k=9.999935468934599 b=0.0003552889884596963
可以看到随着学习次数的增加,输出值会无限接近标准值(但是永远也打不到标准值,因为机器学习的特点就是根据偏差值不断调整自身参数,以不断减小误差,但是误差是永远存在的。)
下面详细解释程序代码:
首先,我们要定义一个函数,这个函数的作用是能够把输入值转化为一个0~1之间的数,并且当输入值与0的差值越大,输出越接近1,输入值越接近0时,输入值也越接近于0. 这个函数的作用就是用来调整机器本身参数,使结果更加接近于标准值。
那么,我们这个函数F(x)= (e^x -1) / (e^x + 1) 就符合这样的要求,其中x>=0(取绝对值)。
def F(x):
return (math.exp(abs(x))-1)/(math.exp(abs(x))+1)
然后当然要把X和Y以列表的形式放入以便机器学习使用。
X = list(range(1,11))
Y = list(range(10,110,10))
由于有k和b 2个未知数,我们设定一个二层的神经网络。
把X作为第一层输入,k*X作为第一层的输出
把k*X作为第二层输入,k*X+b作为第二层的输出
利用k*X与Y-b计算第一层的偏差值error1,代入F(error1)计算权重,然后把这个权重值*error1作为k值的调整值
同样,利用k*X+b与Y计算第二层的偏差值error2,代入F(error2)计算权重,再把这个权重值*error2作为b值的调整值
然后,不断反复迭代这个过程,使得k和b不断接近标准值。
这个过程就是这样。
20行源代码如下:
**** Hidden Message ***** 厉害,回复看看! 楼主好厉害! 楼主我看你是神 厉害! 学习了,感谢 ... ..
谢谢分享 牛逼 利用k*X与Y-b计算第一层的偏差值error1,代入F(error1)计算权重,然后把这个权重值*error1作为k值的调整值
同样,利用k*X+b与Y计算第二层的偏差值error2,代入F(error2)计算权重,再把这个权重值*error2作为b值的调整值 美滋滋 1111111111 来学习学习 xuexi 厉害 不得不看 厉害 谢谢,学习一下 新人围观 感谢感谢