神经网络
蓝翔厨师长
AI量化算法工程师
展开
-
全网最简单易懂的一篇文章,神经网络(Neural Network)入门级学习笔记
神经网络起源于上世纪五、六十年代,当时称之为“感知机”。神经网络主要由输入层、隐藏层、输出层所构成,其实质是一个一个端到端的黑盒,可解释性比较差。这里写目录标题一、前言二、前向传播激活函数是什么?基于numpy模拟简易的前向传播三、反向传播一、前言一个经典的神经网络结构如下图所示,蓝色代表输入层,红色代表隐藏层,黑色代表输出层,输入层为3个维度,隐藏层为4个维度,输出层为2个维度。其中,输入层和输出层的维度固定,唯有隐藏层的维度和层数不固定。thinging?如下图的网络结构:输入层(第0层原创 2020-11-24 16:17:17 · 749 阅读 · 2 评论 -
基于numpy模拟神经网络的前向传播
import numpy as npclass Network(): # 初始化网络,设定权重和偏置 def __init__(self): self.network = dict() self.network['W1'] = np.array([[0.3,0.3,0.7],[0.3,0.6,0.9]]) self.network['b1'] = np.array([1,1,0.7]) self.network['W2'] =原创 2020-11-23 20:25:13 · 364 阅读 · 0 评论 -
在神经网络中常用的激活函数
一、sigmiod激活函数激活函数公式:画图代码:https://github.com/HuangxinYu359/project/blob/master/nn/numpy%E6%A8%A1%E6%8B%9F%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C/sigmiod.py特点:1.输入结果为连续实值,值域为(0,1);2.负无穷的结果为0,正无穷结果为1缺点:可能会产生梯度消失,小概率产生梯度爆炸。二、tanh激活函数激活函数公式:画图代码:ht原创 2020-11-23 20:21:38 · 1494 阅读 · 0 评论