感知机是处理二分类问题的神经网络模型
二分类:1或-1,输出离散的类
Softmax模型如果有n个类的话可以做多分类问题,这里只输出一个元素,因此只作为二分类模型
训练(权重更新过程):
每次将预测值与真实值比较,假设预测错误,就更新一下权重值
· 等价于使用批量大小为1的梯度下降(不随机)
· 假设分类正确,那么y<w,x>是要大于0的;如果分类错误就有梯度了,需要更新参数
感知机的XOR问题:
感知机是处理二分类问题的神经网络模型
二分类:1或-1,输出离散的类
Softmax模型如果有n个类的话可以做多分类问题,这里只输出一个元素,因此只作为二分类模型
训练(权重更新过程):
每次将预测值与真实值比较,假设预测错误,就更新一下权重值
· 等价于使用批量大小为1的梯度下降(不随机)
· 假设分类正确,那么y<w,x>是要大于0的;如果分类错误就有梯度了,需要更新参数
感知机的XOR问题: