关于验证神经网络的诸多细节(更新中)

项目是简单的验证一下2-3-1神经网络(c语言版)。

原理

全连接神经元

单个神经元

2-3-1全连接神经网络

如图所示这是一个2-3-1神经网络的整体结构

数学表达

线性函数: y = k x + b 多元线性函数: y = k 1 x 1 + k 2 x 2 + . . . + b 矩阵表达: y = [ x 1 x 2 . . . x n ] [ k 1 k 2 ⋮ k n ] + [ b ] 激活函数: σ ( x ) = S i g m o i d ( x ) 全连接神经元 : a 0 ( 1 ) = σ ( w ( 0 , 1 ) a 1 ( 0 ) + w ( 0 , 2 ) a 2 ( 0 ) + . . . + w ( 0 , n ) a n ( 0 ) + b 0 ) 一层神经元: [ a 0 ( 1 ) a 1 ( 1 ) ⋮ a n ( 1 ) ] = σ ( [ w ( 0 , 0 ) w ( 0 , 1 ) … w ( 0 , n ) w ( 1 , 0 ) w ( 1 , 1 ) … w ( 1 , n ) ⋮ ⋮ ⋱ ⋮ w ( k , 0 ) w ( k , 1 ) … w ( k , n ) ] [ a 0 ( 0 ) a 1 ( 0 ) ⋮ a n ( 0 ) ] + [ b 0 b 1 ⋮ b n ] ) 线性函数:y = kx+b \\ 多元线性函数:y = k_{1}x_{1}+k_{2}x_{2}+...+b\\ 矩阵表达:y = \begin{bmatrix} x_{1} & x_{2} & ... &x_{n}\end{bmatrix}\begin{bmatrix} k_{1}\\ k_{2}\\ \vdots \\ k_{n}\\ \end{bmatrix}+\begin{bmatrix} b \end{bmatrix}\\ 激活函数:\sigma (x) = Sigmoid(x)\\ 全连接神经元:a_{0}^{(1)} = \sigma(w_{(0,1)}a_{1}^{(0)}+w_{(0,2)}a_{2}^{(0)}+...+w_{(0,n)}a_{n}^{(0)}+b_{0})\\ 一层神经元: \begin{bmatrix} a_{0}^{(1)}\\ a_{1}^{(1)}\\ \vdots \\ a_{n}^{(1)}\\ \end{bmatrix} =\sigma \left ( \begin{bmatrix} w_{(0,0)} & w_{(0,1)} & \dots & w_{(0,n)}\\ w_{(1,0)} & w_{(1,1)} & \dots & w_{(1,n)}\\ \vdots & \vdots & \ddots & \vdots \\ w_{(k,0)}& w_{(k,1)} & \dots &w_{(k,n)}\\ \end{bmatrix}\begin{bmatrix} a_{0}^{(0)}\\ a_{1}^{(0)}\\ \vdots \\ a_{n}^{(0)}\\ \end{bmatrix}+\begin{bmatrix} b_{0}\\ b_{1}\\ \vdots \\ b_{n}\\ \end{bmatrix}\right) 线性函数:y=kx+b多元线性函数:y=k1x1+k2x2+...+b矩阵表达:y=[x1x2...xn] k1k2kn +[b]激活函数:σ(x)=Sigmoid(x)全连接神经元:a0(1)=σ(w(0,1)a1(0)+w(0,2)a2(0)+...+w(0,n)an(0)+b0)一层神经元: a0(1)a1(1)an(1) =σ w(0,0)w(1,0)w(k,0)w(0,1)w(1,1)w(k,1)w(0,n)w(1,n)w(k,n) a0(0)a1(0)an(0) + b0b1bn

参考及工具:

3blue1brown
神经网络1:多层感知器-MLP
一文看懂25个神经网络模型
在线公式编辑器
LaTeX 画神经网络
在线画神经网络
miktex:latex编译器
texstudio:latex IDE

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值