![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
算法
文章平均质量分 72
田飞酱啊
这个作者很懒,什么都没留下…
展开
-
拒绝采样(Rejection sampling)
已知分布,如何从该分布中采样样本呢?今天介绍一种称为拒绝采样的方法。具体如下:假设已知一个容易采样的候选分布,和之间满足:,为某一个常数,上式的意思即选择一个候选分布和某一常数,使得包含。接下来,拒绝采样的步骤可以总结如下:1. 确定需采样的样本个数N;2. 从候选分布中采样样本;3. 从均匀分布中采样系数;4. 计算,若,则接受当前采样样本,否则,拒绝该次采样;5. 重复步骤2-...原创 2021-08-24 19:28:35 · 3662 阅读 · 0 评论 -
SGD中的自适应采样法总结
1. 有放回均匀采样(SGD uniform),样本采样概率为: (1)式中,|D|为数据集大小。为采样第i个样本的概率。2. 不放回采样(SGD scan) ...原创 2021-05-26 16:16:21 · 1339 阅读 · 0 评论 -
SGD中的自适应采样法
SGD中的自适应采样法SGD是一种广泛使用的优化算法,在其优化过程中,更新规则如下:dt=∇f(it,θt−1),θt=θt−1−γtdtd^t=\nabla f(i^t,\theta^{t-1}),\\\theta^t=\theta^{t-1} -\gamma ^t d^tdt=∇f(it,θt−1),θt=θt−1−γtdt其中,dtd^tdt为输入样本iti^tit时,性能函数fff对参数θt−1\theta^{t-1}θt−1的导数,即梯度。可见,在SGD更新过程中,需要随机选择一个样原创 2021-04-14 21:45:17 · 981 阅读 · 0 评论 -
Deep SVDD
SVDD的基本原理是建立一个超球体去尽可能地包含所有数据,当数据在超球体外就将其作为异常点。如图1所示: 图1 SVDD原理示意图在SVDD的原理(具体可参考上一篇博客)中,其优化过程如下: ...原创 2021-04-03 11:40:16 · 4633 阅读 · 1 评论 -
SVDD基本原理
支持向量数据表达/描述(SVDD;Support Vector Data Description)是一种适用于只有一类数据的分类方法。可能你会说,开什么玩笑?一类数据分个什么类?其实,这是一种很常见的应用场景。如机器故障诊断,很多时候,我们能够采集到的正常情况下机器的运行数据,而我们的一个想法是利用这些正常的数据判断机器是否发生故障。因此,对于这个问题,根据不同的应用场景其实还有另外的一些称呼:如异常检测,开集识别,孤立点检测等等。详细的一些介绍可以参考文献[1]的介绍。这里,我们聚焦于原创 2021-03-27 17:19:57 · 13162 阅读 · 3 评论