前面我们提到过,如果想要一个非线性假设函数,我们可以通过构造高阶多项式特征实现。但是,这种方法仅限于特征数量很少的情况下,当特征数量很大的时候,形成的高阶多项式特征就可能急剧增长。比如特征数量
n
=
100
n=100
n=100的时候,可选择的二次特征就有
n
∗
(
n
−
1
)
2
\frac{n*(n-1)}{2}
2n∗(n−1)种,量级在
O
(
n
2
)
O(n^{2})
O(n2),更别说更高次的特征了。 由此可见,想通过手动构造特征来形成非线性假设函数,难度非常大,而神经网络可以帮助我们解决这一问题,它可以自动学习到非常复杂的非线性假设函数。