代价函数
先从一个神经网络的例子出发:
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/310f2494348c18420f89453cbb6c0238.png)
L表示神经网络的总层数,简单来说就是列数。
sl表示第l层的单元数,如s3 = 5,s4 = L = 4。
考虑两种分类问题,即二分类问题和多分类问题👇。
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/f887ae2e99c8ee0a498eb2703f82edae.png)
- 很明显,对于二分类问题,输出只有1个,即0或1,则输出单元只有一个(sL = 1)且这个输出是 hΘ(x) ∈ R。
- 而对于多分类问题,输出有K个(即输出单元有K个),输出hΘ(x)∈Rk,是一个k维向量(k ≥ 3)。
使用的代价函数是逻辑回归中使用的代价函数(逻辑回归就是用于分类问题的)。
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/26b509ffb217652f761371237b2fd119.png)
图中标注的θ0是正则项,用于削弱误差。对代价函数进行更新,得到了神经网络分类问题所用的代价函数:
<