又开一个新坑,来记录一些学习过程中遇到的不那么重要的概念,目标是建立对这些概念的浅薄intuition
元学习
meta-learning即元学习,也可以称为“learning to learn”。常见的深度学习模型,目的是学习一个用于预测的数学模型。而元学习面向的不是学习的结果,而是学习的过程。其学习的不是一个直接用于预测的数学模型,而是学习“如何更快更好地学习一个数学模型”。
model-agnostic
模型无关。与其说是一个深度学习模型,倒不如说是一个框架,提供一个meta-learner用于训练base-learner。
BPR Loss
用得比较多的一种raking loss,常用于推荐任务中。其思想很简单,就是让正样本和负样本的得分之差尽可能达到最大:
领域自适应
将不同领域(如两个不同的数据集)的数据特征映射到同一个特征空间,这样可利用其它领域数据来增强目标领域训练。
机器学习中的特权信息
对传统的训练集是(X,Y)SVM分类的改进方法,添加了特权信息,变成了(X,X*,Y),这里的X*指的就是特权信息。例如常见的MINI_data,手写数字识别的例子,添加的特权信息是诗歌类型的描述,比如是否倾斜,是否是两个部分,这就增加了原始特征。特权信息在训练的时候是可以用的,但是在测试的时候是没有办法用的。
网络切片
网络切片是一种新型网络架构,在同一个共享的网络基础设施上提供多个逻辑网络,每个逻辑网络服务于特定的业务类型或者行业用户。每个网络切片都可以灵活定义自己的逻辑拓扑、SLA需求、可靠性和安全等级,以满足不同业务、行业或用户的差异化需求。
参考
Model-Agnostic Meta-Learning (MAML)模型介绍及算法详解
BPR LOSS
领域适应学习(domain adaptation)
机器学习新方向-特权信息
什么是网络切片?