机器学习
XiaoE爱食橙
记录点东西方便查看,积累
展开
-
【机器翻译】调优和测评
学习率优化方法warmup参考:【调优方法】——warmup_黑白象-CSDN博客翻译测评参考:机器翻译评测——BLEU算法详解 (新增 在线计算BLEU分值) - 胖喵~ - 博客园原创 2021-09-27 09:18:10 · 143 阅读 · 0 评论 -
【pytorch】pytorch nn.init 中实现的初始化函数 uniform, normal, const, Xavier, He initialization
提前挖坑:ttpytorch系列 -- 9 pytorch nn.init 中实现的初始化函数 uniform, normal, const, Xavier, He initialization_墨流觞的博客-CSDN博客原创 2021-09-24 19:38:41 · 413 阅读 · 0 评论 -
【机器学习】总结复习,问题集锦
### 线性回归任参考:线性回归任务一 - 知乎· 说明为什么用L1-Norm代替L0-NormL0范数的优化求解是NP难的问题,而L1是范数是L0范数的最优凸近似且L1范数有特定的求解方法。· 学习为什么只对w/Θ做限制,不对b做限制因为做限制的原因是防止模型对当前的训练数据过拟合进而失去泛化能力,而过拟合的表现就是模型为了符合当前数据的分布情况趋向于变得复杂以获得更低的loss。而模型的复杂程度是由w/θ决定的,b只是起到平移模型的作用。缩小b不能使模型简化,只能使模型分界面原创 2021-09-23 16:13:38 · 92 阅读 · 0 评论