深度学习(一) 相关介绍

一：机器学习总括：

(正在完善中。。。。。)

类别	常见算法
监督学习：分类	决策树（DT）
	临近取样（KNN）
	支持向量机（SVM）
	神经网络算法（NN）
监督学习：回归	线性回归()
	非线性回归
非监督学习	聚类

二、机器学习相关概念

1. 线性回归

其中x是矩阵，

1).独立，认为各个样本之间是没有关联的。

2） 高斯分布，用高斯分布来描述预测结果，小于0认为是低于，大于0认为是高于。

3） 均值为0，y=wx+b，这里b是可控的，可以通过调整y来，来使左右分布均衡。

4） 方差是可以自己指定的

累乘比较麻烦，取对数转为加法，方便计算(对数似然)。

把累成换成累加，最后J()称为目标函数,即最小二乘法。所以最小二乘法就是要求的目标。

具体带入求解。一般是求不出来。就出来最优化问题。