神经网络是深度学习的基础,所以我认为,学习深度学习有两大基石,即:学好神经网络理论,学好实现理论的利器——Python。
一篇很好的文章,用Python编写了简单的BP神经网络,并几乎将所有代码解释了一遍。原文链接如下:http://python.jobbole.com/82758/
我在研究之后,自己试着重复那段程序,经过思考,终于理解了。下面是我在eclipse下编写的代码:
#-*-coding:utf-8 -*-
import numpy as np
#首先创建sigmoid函数
def nonlin(x,deriv=False):
if deriv==True:
return x*(1-x)
return 1/(1+np.exp(-x))
#然后创建x和y
x=np.array([[1,0,0],
[0,0,1],
[0,1,0],
[1,0,1]
])
y=np.array([[1,0,0,1]]).T
#创建syn0,为权重矩阵。随机生成,注意控制其范围在-1到1
syn0=2*np.random.random([3,1])-1
#训练网络,开始循环。根据差别修改权重矩阵-更新l0层数据-循环n次
for i in xrange(1000):
#网络有两层,l0和l1.
l0=x
l1=nonlin(np.