逻辑异或似乎很简单,但是用神经网络实现它,对我这个菜鸟来说,却是目前四道编程题里面最耗时的一个。偏置这个东西让矩阵运算不得不时刻考虑维度问题,捂脸哭。。。实现了反向传播算法,直接上代码,有完整注释,希望有兴趣的朋友交流。
note:注意检测模型效果时的输入方式[x1;x2],括号里面是分号。我怎么这么啰嗦,理解下被矩阵维度折磨怕的宝宝,捂脸。
neural_network.m
%%利用神经网络模拟逻辑异或;
%%利用前向传播计算代价函数J(theta),利用反向传播算法计算代价函数对theta的导数
%%利用finunc最小化代价函数,求得神经网络模型参数theta;
%%神经网络共三层,两输入(不含偏置),一输出,隐藏层一层共四个节点(不含偏执)
%%
inp=load('XOR_input.txt');
output=load('XOR_output.txt');
m=length(output);
in=[ones(m,1),inp];in=in';
%%画出数据集
pos=find(output==1);neg=find(output==0);
plot(inp(pos,1),inp(pos,2),'k+','Linewidth',2,'MarkerSize',7);hold on;
plot(inp(neg,1),inp(neg,2),'ro','MarkerFaceColor','y','MarkerSize',7);
%%参数theta随机初始化
range=0.1;
init_theta1=rand(4,3)*2*range-range;init_thet