周报
文章平均质量分 78
来日可期1314
世界是个无限循环
展开
-
SMALE周报_20230714
通过阅读论文《Semi-Supervised Deep Regression with Uncertainty Consistency and Variational Model Ensembling》,了解不确定性在半监督回归中的运用。本文对于不确定性,详细来说是认知不确定性,提出了不确定性一致性。简单来说就是,两个模型对于同一个样本预测的不确定也应该相似。论文本身从损失函数的层面是容易理解的,本身的工作量多,阅读难度中等。对本文提出的算法进行代码层面的实践。总结不确定性在神经网络中的运用。原创 2023-07-14 09:06:05 · 147 阅读 · 0 评论 -
SMALE周报_20230707
原本的神经网络通过最大似然或者最小MSE损失来拟合函数,网络参数是常数,对应函数的预测值也是一个常数,相当于是点估计。而如果我们想预测一个置信区间,我们就需要贝叶斯神经网络,它的参数不是常数而是分布,其预测的也是一个分布,通过置信度计算,就可以变成一个置信度区间,相当于区间估计。这里注意的是,这里描述的不确定性属于模型预测不确定性,也叫认知不确定性(epistemic uncertainty),这一点在后面会讲到。它描述的是简单模型无法拟合复杂数据的所产生的误差(例如,线性模型拟合正弦曲线所产生的误差)。原创 2023-07-07 17:54:51 · 320 阅读 · 0 评论