分类与回归问题
在用DBN作手写体识别实验的时候,hinton 2006年发表的论文 A fast learning Algorithm for deep belief nets所对应的代码,里面用到softmax进行多分类。现就所查的资料和自己所理解的,整理这篇Blog。
Softmax回归模型,该模型是logistic回归模型在多分类问题上的推广,本文针对线性回归、逻辑回归和softmax回归问题做些简单介绍。
分类、回归问题的不同
首先解释一下回归问题,分类问题的不同点。回归问题预测的结果是连续的值,而分类问题的预测结果是离散的。拿支持向量机举个例子,分类问题和回归问题都要根据训练样本找到一个实值函数g(x). 回归问题的要求是:给定一个新的模式,根据训练集推断它所对应的输出