机器学习：分类与回归（classify and regression）

分类与回归问题

在用DBN作手写体识别实验的时候，hinton 2006年发表的论文 A fast learning Algorithm for deep belief nets所对应的代码，里面用到softmax进行多分类。现就所查的资料和自己所理解的，整理这篇Blog。 

Softmax回归模型，该模型是logistic回归模型在多分类问题上的推广，本文针对线性回归、逻辑回归和softmax回归问题做些简单介绍。

分类、回归问题的不同

首先解释一下回归问题，分类问题的不同点。回归问题预测的结果是连续的值，而分类问题的预测结果是离散的。拿支持向量机举个例子，分类问题和回归问题都要根据训练样本找到一个实值函数g(x). 回归问题的要求是：给定一个新的模式，根据训练集推断它所对应的输出