迁移学习
文章平均质量分 72
pythonSuperman
这个作者很懒,什么都没留下…
展开
-
知识蒸馏 pytorch官网源码分析
知识蒸馏的损失函数只接受两个相同维度的输入,所以我们需要采取措施使他们在进入损失函数之前是相同维度的。我们将使用平均池化层对在教师模型卷积运算后的logits进行池化,使得logits维度和学生保持一样。只有forward函数内有调整。原创 2024-02-29 19:07:49 · 477 阅读 · 0 评论 -
知识蒸馏 基础知识
模型小型化的工作,把肥肉去掉只保留肌肉。原创 2024-02-28 20:34:13 · 360 阅读 · 0 评论 -
对抗生成网络
手底有一堆数据,告诉它要生成什么东西,它就这么去做。原创 2024-02-27 22:02:40 · 186 阅读 · 0 评论 -
迁移学习 领域自适应
英文名:Domain Adaptation(DA)相关的概念:cross-domain learning(同构迁移学习)问题定义:有标签的源于和无标签的目标域共享相同的特征和类别,但是特征分布不同,如何利用源域标定目标域。领域自适应实际上是源域目标域特征分布不一样,但是特征维度是一样的。原创 2024-02-27 21:06:55 · 869 阅读 · 0 评论