机器学习入门~神经网络在分类问题中的应用

代价函数

先从一个神经网络的例子出发：

L表示神经网络的总层数，简单来说就是列数。
s_l表示第l层的单元数，如s₃ = 5，s₄ = L = 4。
考虑两种分类问题，即二分类问题和多分类问题👇。

• 很明显，对于二分类问题，输出只有1个，即0或1，则输出单元只有一个（s_L = 1）且这个输出是 h_Θ(x) ∈ R。
• 而对于多分类问题，输出有K个（即输出单元有K个），输出h_Θ(x)∈R^k，是一个k维向量（k ≥ 3）。

使用的代价函数是逻辑回归中使用的代价函数（逻辑回归就是用于分类问题的）。

图中标注的θ₀是正则项，用于削弱误差。对代价函数进行更新，得到了神经网络分类问题所用的代价函数：
<