进入网页ConvnetJS demo,可视化双层神经网络的分类结果,红点表示类别0, 绿点表示类别1的数据,
type为网络层之间的连接方式,fc表示fully connected(全连接),
activation为激活函数,此处用双曲正切函数,对于分类采用softmax,类别数目 num_classes为2
layer_defs.push({type:'fc', num_neurons:6, activation: 'tanh'});
layer_defs.push({type:'fc', num_neurons:2, activation: 'tanh'});
layer_defs.push({type:'softmax', num_classes:2});
模型的超参数:学习率为0.01,动量为0.1,批大小的10,L2正则化的权重衰减率为0.001
trainer = new convnetjs.SGDTrainer(net, {learning_rate:0.01, momentum:0.1, batch_size:10, l2_decay:0.001});
自行更改 num_neurons ,再点击【change network】,观察就可以发现神经元数目对网络效果的影响。
左图的下方 有简单数据,环形/螺旋形数据,随机数据四种。
右图的下方有网络各层的数据点分布,还挺好玩的。适合初学者。