前三四节课讲得是有监督神经网络,这一节课讲得两种神经网络是无监督神经网络,不需要给出类别(标签),只需要给出输入即可。所有神经网络的重点就是阈值b和权值W的生成过程,是根据参数所决定的,可访问函数内部去了解算法。
有监督:需要输入和划分标签,结果是判断是哪一类东西,比如:训练西瓜,苹果等,然后给出新水果告诉你是哪一种水果。
无监督:只需要输入无标签,结果判定属于哪一群体的,这群体是什么不知道。比如:训练一堆水果(什么都有,但是都不知道名字),然后一新水果,判断是一堆中的哪一堆。常见的名词是“聚类”。同类放一块,具体类别不知道。
自组织映射(self-organizing map ,SOM)或自组织特征映射(self-organizing feature map,SOFM)
newc:
– 创建竞争神经网络( competitive layer)
– PR输入的维度,s隐藏层神经元个数,KLR权值学习率,CLR阈值学习率
– net = newc(PR,S,KLR,CLR)
newsom:
– 创建SOM
– P输入样本,[D1]网络拓扑结构,TFCN拓扑类型函数,DFCN距离计算方式,STEPS迭代领域变化的大小,IN初始领域
– net = newsom(P,[D1,D2,...],TFCN,DFCN,STEPS,IN)
案例实战:
数据样本介绍:water_data.mat
竞争神经网络的创建:
% 1. 创建网络 维度,隐藏层神经元个数,权值学习率,阈值学习率,
% minmax()函数用于获取数组中每一行的最小值和最大值。本案例中为6组【-1,1】
net = newc(minmax(P_train),4,0.01,0.01);
% 2. 设置训练参数
net.trainParam.epochs = 500;
%%
% 3. 训练网络
net = train(net,P_train);
SOM神经网络的创建:
%% IV. SOFM神经网络创建、训练及仿真测试
%%
% 1. 创建网络 输入样本 4*4的网络拓扑结构
net = newsom(P_train,[4 4]);
%%
% 2. 设置训练参数
net.trainParam.epochs = 200;
%%
% 3. 训练网络
net = train(net,P_train);
综上两个网络,在训练的时候没有用的classes里面的数据,体现了无监督的特性。
%% I. 清空环境变量
clear all
clc
%% II. 训练集/测试集产生
%%
% 1. 导入数据
load water_data.mat
%%
% 2. 数据归一化【-1,1】
attributes = mapminmax(attributes);
%%
% 3. 训练集和测试集划分,没有随机划分,前35训练集,后4测试集
% 训练集——35个样本
P_train = attributes(:,1:35);
T_train = classes(:,1:35);
% 测试集——4个样本
P_test = attributes(:,36:end);
T_test = classes(:,36:end);
%% III. 竞争神经网络创建、训练及仿真测试
%%
% 1. 创建网络 维度,隐藏层神经元个数,权值学习率,阈值学习率,
% minmax()函数用于获取数组中每一行的最小值和最大值。
net = newc(minmax(P_train),4,0.01,0.01);
%%
% 2. 设置训练参数
net.trainParam.epochs = 500;
%%
% 3. 训练网络
net = train(net,P_train);
%%
% 4. 仿真测试
% 训练集
t_sim_compet_1 = sim(net,P_train);
T_sim_compet_1 = vec2ind(t_sim_compet_1);
% 测试集
t_sim_compet_2 = sim(net,P_test);
T_sim_compet_2 = vec2ind(t_sim_compet_2);
%% IV. SOFM神经网络创建、训练及仿真测试
%%
% 1. 创建网络 输入样本 网络拓扑结构
net = newsom(P_train,[4 4]);
%%
% 2. 设置训练参数
net.trainParam.epochs = 200;
%%
% 3. 训练网络
net = train(net,P_train);
%%
% 4. 仿真测试
% 训练集
t_sim_sofm_1 = sim(net,P_train);
T_sim_sofm_1 = vec2ind(t_sim_sofm_1);
% 测试集
t_sim_sofm_2 = sim(net,P_test);
T_sim_sofm_2 = vec2ind(t_sim_sofm_2);
%% V. 结果对比
%%
% 1. 竞争神经网络
result_compet_1 = [T_train' T_sim_compet_1']
result_compet_2 = [T_test' T_sim_compet_2']
%%
% 2. SOFM神经网络
result_sofm_1 = [T_train' T_sim_sofm_1']
result_sofm_2 = [T_test' T_sim_sofm_2']
竞争神经网络结果比较:
result_compet_1 =
1 1
1 4
1 4
1 1 第一列表示T_train' 1*35
1 1 第二列表示为P—train的变形 T_sim_compet_1 1*35
1 4
2 1
2 1
2 1 因为有四种类型,所以输出是4中,分别用1 2 3 4表示
2 1 第二列的数字表示对应的神经元,竞争网络隐藏层有4个神经元所以1-4
2 1 前六个第一列为1,表示第一类,后面有1和4表示第一类对应1和4神经元
2 1
2 4
2 1
2 1
2 1
2 4
2 1
3 3
3 3
3 3
3 3
3 3
3 3
3 3
3 3
3 3
4 4
4 4
4 4
4 4
4 1
4 1
4 1
4 1
result_compet_2 = 上面是训练的过程没这是验证
1 4 1类对应1和4,所以这个结果不完全
2 1 2类也是1和4,不完全
3 3 3类值对应3,所以对
4 4 4类1和4故不完全
SOFM网络结果比较:
result_sofm_1 =
1 8
1 11
1 14
1 7
1 3 可根据每一类的对应的神经元和颜色图比较,
1 14 同一类的颜色浅
2 12
2 12
2 12
2 12
2 12
2 12
2 15
2 12
2 8
2 8
2 15
2 12
3 6
3 10
3 1
3 1
3 5
3 2
3 1
3 2
3 1
4 16
4 14
4 13
4 16
4 4
4 4
4 4
4 4
result_sofm_2 =
1 11
2 12
3 1
4 16