为什么要用非线性的激活函数？

使用非线性激活函数的原因可以用以下例子来解释

1.模拟复杂的关系

想象一下，如果 你只用一条直线就描述两个变量之间的关系（身高和体重），你可能无法很好的捕捉到这个关系的复杂性。

非线性激活函数好像是给了你一直曲线笔，让你可以绘制出更复杂真实的关系！

2.引入多样性

如果每一层的计算都是线性的（仅仅是加法），那么无论你堆叠多少层

最后的输出仍然知识输入的线性组合，最终的结果依然是一条直线，这就没办法利用多层网络的优势。

非线性激活函数让每一层都可以进行‘变形’

从而让网络有能力学习到更复杂的模式～

3.更强的表达能力

通过引入非线性，神经网络就可以解决各种复杂问题，比如图像识别、语言翻译等等

想象一下 你在做数学题的时候，越复杂的题目需要的工具和方法会越多

而简单的线性方法往往无法解决问题捏

4.添加模型的灵活性

非线性激活函数让模型能够适应不同的任务和数据类型。就像在烹饪中，你需要不同的调料来调整口味，激活函数也是帮助神经网络“调味”的关键哦

总结：

简单来讲，非线性激活函数能让神经网络更加灵活准确的理解复杂的数据和任务，帮助我们在许多应用中取得更好的效果