机器学习-代价函数（单变量线性回归）

机器学习-代价函数（单变量线性回归）

2.1函数表示
因为只含有一个特征/输入变量，所以这样的问题叫作单变量线性回归问题。

回归问题：
构建一个模型，也许是条直线，从这个数据模型上看，如果你朋友的房子是 1250 平方尺大小，能以大约 220000(美元)左右的价格卖掉这个房子，左图就是监督学习算法的一个例子。对于每个数据来说，我们给出了“正确的答案”，即告诉我们： 根据我们的数据来说，房子实际的价格是多少，而且，更具体来说，这是一个回归问题。

分类问题：
当我们想要预测离散的输出值，例如，我们正在寻找癌症肿瘤，并想要确定肿瘤是良性的还是恶性的，这就是 0/1 离散输出的问题。更进一步来说，在监督学习中我们有一个数据集，这个数据集被称训练集。

2.2代价函数

h 为假设（hypothesis）函数。也是用来进行预测的函数，因为只含有一个特征/输入变量，因此这样的问题被称为单变量线性回归问题。

在线性回归中我们有一个像这样的训练集，m 代表了训练样本的数量，比如 m = 47。

我们现在要做的便是为我们的模型选择合适的参数 θ0 和 θ1（参数的取值我们训练集的准确程度）

右图为代价函数图像，横坐标为1的时候，为此代价函数最小值
代价就是所有点的预测值与真实值之间的差值的和。

建模误差：也就是每一点的预测值与真实值之间的差，就是对应点的线上的y值减去红色×的y值

计算代价函数：
1.每一点预测值与真实值求差值（也就是每一点的建模误差）
2.对每一点差值求平方。
3.把所有点差值的平方加起来。

此处取1/2m 是为了方便计算，而最优解即为代价函数的最小值
三维空间中，三个坐标分别为 θ0 和 θ1 和 J(θ0,θ1)：可以看出三维空间中存在一个使得 J(θ0,θ1)最小的点。