机器学习杂谈
文章平均质量分 87
布吉岛的一筐猪
喜欢深度学习相关知识
展开
-
深度学习的数值溢出问题
计算机导致数值溢出的根本原因在于,使用有限的位数去表示连续的实数。这就导致了误差的出现,我们称之为舍入误差。舍入误差会导致很多后果,其中下溢(underflow)和上溢(overflow)是其中较为典型的代表。接近0的数字因为舍入误差导致该数在计算机中表示为0;数量级特别大的数的被近似为无穷。原创 2024-02-26 17:33:43 · 984 阅读 · 0 评论 -
【手搓算法】反向传播算法 C++代码实现
/ 权重(上一层连到当前层)// 偏置// 上一层的输出乘上对应权重求和后的结果(未经过激活函数)// 经过激活函数后当前层的输出// 当前层的误差// 权重的梯度// 偏置的梯度将上面定义的网络层集合到一起,形成模型,同时使用一些函数使得能够清晰地访问我们需要的参数(这里请不用纠结为什么是layer-1private:// 隐藏层层数+1(隐藏层+输出层)// 存储隐藏层和输出层// 网络每一层的节点数,包括输入层// 训练数据(在构造函数中构建)原创 2023-11-13 22:46:47 · 234 阅读 · 0 评论 -
在sklearn中使用LDA降维,并解决输出维度与要求维度不相等的问题
本文章先是展示了如何使用sklearn进行LDA降维,接着t通过查看源码,解决了输出维度与要求维度不一致的问题。原创 2023-04-05 15:49:23 · 902 阅读 · 0 评论 -
机器学习之变分推断
概率模型的中心任务就是求潜变量的后验概率分布pZ∣X,以及关于该后验的期望。前者是推断,后者是决策。px∣X∫Zpx∣ZpZ∣XdZEpZ∣Xpx∣Z)]由此可见,对于后验概率分布的求解是十分重要的。。具体地,对于连续型随机变量,积分可能没有解析解,同时由于空间维度过高和被积函数复杂导致没有数值解;对于离散型随机变量,理论上是可以计算的,但是隐含状态的数量可能有指数多个,从而导致精确计算的计算代价过大。原创 2023-08-21 22:29:20 · 186 阅读 · 1 评论