吴恩达笔记——神经网络基础:Logistic回归成本函数
上一节讲到Logistic回归算法:
Logistic回归算法是给定了特定的一个sigmoid函数模型 :y(hat) = sigmoid(wTx+b)。其中w是权重,b是偏置,这两个参数都是未知的。
将训练集输入Logistic回归算法模型,通过学习获取y(hat)函数的相关参数 w和b,此时,需要定义一个成本函数,凭借对成本函数的约束(成本函数最小),获取合适的参数w和b。
为了让模型通过学习来调整参数w和b,这里给出一个有m个样本的训练集:
通过学习获取到的w和b可以使得每个训练样本所对应的预测值和真实值近似相等:
1)损失函数,又叫做误差函数(Loss function):用于衡量单个训练样本上,算法的运行情况,即y(hat)和y之间的接近程度,它是在单个训练样本中定义的。
例:定义L(y(hat),y)= 1/2 *(y(hat)-y)