深度学习
文章平均质量分 96
深度学习
莫聽穿林打叶聲
Talk is cheap, show me the code.
展开
-
全连接神经网络
全连接神经网络是一种特殊的前馈神经网络,其中每一层的每一个神经元都与下一层的每一个神经元相连。这意味着每个节点都接收来自前一层所有节点的输入,并对这些输入进行加权求和,然后通过激活函数输出。原创 2024-09-25 21:20:07 · 840 阅读 · 0 评论 -
神经网络激活函数
神经网络可以用在分类问题和回归问题上,不过需要根据情况改变输出层的激活函数。一般而言,回归问题用恒等函数,分类问题用softmax函数。原创 2024-09-24 21:22:37 · 918 阅读 · 0 评论 -
感知机&多层感知机
感知机(perceptron)是二分类的线性分类模型,属于监督学习算法。输入为实例的特征向量,输出为实例的类别(取+1和-1)。感知机旨在求出将输入空间中的实例划分为两类的分离超平面。为求得超平面,感知机导入了基于误分类的损失函数,利用梯度下降法对损失函数进行最优化求解。原创 2024-05-26 21:19:02 · 1258 阅读 · 0 评论 -
计算图与自动微分
符号微分是一种基于符号计算的自动求导方法,符号计算也叫代数计算,是指用计算机处理处理带有变量的数学表达式,这里的变量被看作符号(symbols),一般不需要代入具体的值。自动微分是一种可以对一个函数进行计算导数的方法,其基本原理是所有的数值计算可以分解为一些基本操作,包含±*/,和一些初等函数exp,log,sin,cos等,然后利用链式法则来自动计算一个符合函数的梯度。要计算函数 𝑓(𝑥) 在点 𝑥 的导数,可以对 𝑥 加上一个很少的非零的扰动 Δ𝑥,通过上述定义来直接计算函数𝑓(𝑥)的梯度。原创 2024-05-10 23:07:11 · 1160 阅读 · 0 评论