- 博客(5)
- 收藏
- 关注
RSS订阅原创 论文阅读：Measuring internal inequality in capsule networks for supervised anomaly detection
总的来说，这篇文章就是观察capsnet中的动态路由系数，如果没有出现anomaly，那么指向不同secondary capsules的系数应该有较大的差异（模型对某预测正确的类置信度很高，而对其他的类置信度很低），当出现anomaly时，这个差异会显著减小。可以看到，在右图中，normal case的基尼系数比anomalous的基尼系数小很多（文中没有说明什么是normal/anomalous capsule，我也不知道那是个啥），所以当基尼系数增加时，可以认为发生了anomaly case。
2023-09-07 08:59:36
53
1
原创 论文阅读：Online Learning From Incomplete and Imbalanced Data Streams
将特征权重分成三部分（1）两个样本都拥有的features（2）从previous sample 消失的features（3）current sample 新添加的features。但是这样做又出现了一个问题，如果一味降低weights的变化，那么模型将无法从current sample中学到knowledge。对于imbalance情况，该算法提出了一种基于Fβ-measure（eq 14）的loss，F measure综合考虑了精确度和召回率，因此可以在不平衡的数据流上跑出较好的效果。
2023-09-05 15:41:53
108
原创 论文阅读：CSAL: Cost sensitive active learning for multi-source drifting stream
这个很好理解，在ensemble learning中，每一个classifier都有与之对应的权重，通过调节权重可以控制这个classifier在整个ensemble中的话语权，通过将增加分类正确的classifier的权重并降低分类错误的classifier的权重可以很好的实现knowledge transfer。算法看起来很复杂，其实那些公式就是在计算uncertainty strategy的阈值，知道是在干嘛就行了，文章中也没提供公式的推导，我们就直接把它们当作映射函数就行。
2023-09-04 06:09:51
497
原创 LFR（Linear Four Rates）与HLFR(Hierarchical LFR)
在classifier运行中，每次计算新样本都会出现两个被(返回值，真实值)所影响的rates，分别统计四个rates的出现次数作为经验速率(empirical rate).然后通过混淆矩阵计算classifier的precision（精准度）和recall（召回度），利用这两个metrics，然后通过Monte Carlo模拟来模拟出4个rates的历史分布，最后比较rates的统计值和历史分布之间的差异，如果差异显著，则代表检测到concept drift。在ppv和npv中，我们更关心精确度。
2023-09-02 00:22:35
435
1
原创 论文阅读：Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks
这张图详细解释了MAML算法的工作流程，p(T)可以理解成该算法所使用的训练集，可以看到，在line 4-7，该算法先针对batch中的每一个任务单独做了一遍gradient descent，并记录了更新后的参数（注意，在此时并没有对主模型进行更新，可以理解为对于每一个单独的任务，单独为其复制了一个模型，并在这个模型上进行梯度下降并更新参数，主模型参数不变）。红线是ground truth，蓝三角是训练样本，绿线是MAML训练效果，蓝线是预训练模型的效果。这是一篇介绍MAML的老文章了，2017年写的。
2023-09-01 17:13:40
97
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人