文章目录
- 1. s i g m o i d ( x ) = 1 1 + e − x sigmoid(x)=\frac{1}{1+e^{-x}} sigmoid(x)=1+e−x1
- 2. g ( z ) = e x − e − x e x + e − x g(z)=\frac{e^{x}-e^{-x}}{e^{x}+e^{-x}} g(z)=ex+e−xex−e−x
- 3. g ( z ) = { z z > 0 0 z < 0 g(z)=\begin{cases}z & z > 0\\0 & z < 0\end{cases} g(z)={ z0z>0z<0
- 4. g ( z ) = { z z > 0 a z z < 0 g(z)=\begin{cases}z & z > 0\\az & z < 0\end{cases} g(z)={ zazz>0z<0
神经 网络(neural networks) 方面 的研究很早就 今天"神经网络"
己是 个相当大的 多学科交叉的学科领域.各相关学科对神经网络的定义多
种多样,本书采用目前使用得最广泛的 ,即"神经网络是由具有适应性的
简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实
世界 体所作出的交互反应 [Kohonen, 988] 我们在机器学习 中谈论神经网
络时指 的是"神经网络学 者说,是机器学习与神经网络这两个学科领
域的交叉部分
神经网络中最基本的成分是神经元(neur 且)模型,即上述定义中的"简单
单元"在生物神经网络中 每个神经元与其他神经元相连,当它"兴奋"时,
就会 相连的神经元发送化学 ,从而改变这些神 内的电位;如果某
经元的电位超过了 个"阔值" (thr ho 那么它就会被激活 "兴奋
起来,向其他神经元发送化学物质.
1943 年, [McCulloch and Pitts, 1943] 将上述情形抽象为国 .1 所示的简单
模型,这就是 直沿用至 "M-P 经元模 模型.
![在这里插入图片描述](https://img-blog.csdnimg.cn/20210527160355524.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20wXzUzNDEyMjc0,size_16,color_FFFFFF,t_70)
1. s i g m o i d ( x ) = 1 1 + e − x sigmoid(x)=\frac{1}{1+e^{-x}} sigmoid(x)=1+e−x1
import matplotlib
import matplotlib.pyplot as plt
import numpy as np
matplotlib.rcParams['font.sans-serif'] = ['SimHei'] # 用黑体显示中文
plt.rcParams['axes.unicode_minus']=False # 加入这条语句解决负号乱码问题
plt.rcParams['font.family']='FangSong' # 加入这条语句解决中文乱码问题
X1 = np.linspace(-5, 5, 40)
Y1 = 1/(1+np.e**(-X1))
def plot_figure(X,Y,figure_name):
plt.figure(dpi=200)
if __name__ == '__main__':
plt.plot(X1,Y1)
plt.title("$sigmoid(x)=\\frac{1}{1+e^{-x}}$")
plt.xlabel('X ')
plt.ylabel('Y ')
plt.xlim((-5, 5))
plt.ylim((0, 1))
plt.grid()
# 获取当前的坐标轴, gca = get current axis
ax = plt.gca()
# 设置右边框和上边框
ax.spines['right'].set_color('none')
ax.spines['top'].set_color('none')
# 设置x坐标轴为下边框
ax.xaxis.set_ticks_position('bottom')
# 设置y坐标轴为左边框
ax.yaxis.set_ticks_position('left')
ax.spines['bottom'].set_position(('data', 0))
ax.spines['left'].set_position(('data', 0))
plt.show()