常用激活函数介绍、实现以及优缺点分析

激活函数

---

前言

机器学习新手，记录一些自己在学习机器学习中的理解，如果对大家有帮助，我感到很开心，如果有什么语言组织不当的地方，欢迎大家指正！

---

一、为什么要用激活函数？

一般而言，我们构造的模型都是线性的，但是在实际应用过程中，遇到的很多问题其实是非线性的，这个时候，就需要在模型中应用激活函数，从而提高模型的性能。

二、常见激活函数

1.sigmoid函数

sigmoid函数主要用于解决二分类问题，它的函数如下图中的式1；

图像如下图：

在jupyter中构造sigmoid函数的代码如下：

import matplotlib.pyplot as plt
import numpy as np
x=np.linspace(-10,10)
y_sigmoid=1/(1+np.exp(