喵咖的专栏

原创 多任务学习

原创 迁移学习

什么是迁移学习？比如训练了一个识别猫的图片的网络，图片有很多，将它迁移到医疗影像诊断的任务上（因为X射线影像很难收集，数据很少）。Task A -> Task B怎么迁移？首先，要做预训练 pre-training ， 例如cat picture （x,y）训练神经网络。然后，微调fine-tuning。更改输出层的最后一层（或两层甚至三层，如果Task B数据相对较多），重新训练最...

原创 方差和偏差

方差 Variance , 描述数据分布的离散程度，方差越大，数据越分散。（训练算法不稳定呗 dev set error 与training set error相差大 ，training set 欠拟合）偏差 Bias， 描述数据的预测值与真实值之间的差距，偏差越大，预测数据离真实值差距越大。（test set error 与 dev set error相差大， 对dev set 过拟合）...