- 博客(1)
- 资源 (2)
- 收藏
- 关注
RSS订阅原创 为什么神经网络无法用解析解来解？
这个是面试是遇到的这个问题。说对于线性回归，可以用normal equation来解，但是为何deep learning没法用解析解？当时答得略差。从网上找答案暂时也没有特别好的答案，因此我自己想了一下，总结在这里。对于类似于sigmoid、tanh还有什么softplus之类奇奇怪怪的激活函数来说，以及类似交叉熵之类的损失函数来说，前向推断直接求导之后等于0，求极值，这个方程是超越方程，没有解析解。事实上人类能解的方程很少的。即使是最简单的多项式方程来说，大于等于5次的，都没有解析解求解（ Abel
2021-07-30 15:54:37
1236
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人