以经典机器学习算法章节知识点为例,不说废话直接上干货!
一、深度学习算法介绍
1.深度学习
考法1:定义
- 以人工神经网络为架构,通过多层非线性变换,对数据、资料进行表征学习的算法
考法2:特点
- 优点:精度更高、大量样本训练下鲁棒性强
- 缺点:样本需求量大、硬件要求高、模型解释性差
2.神经网络
考法1:定义
- 是一种仿生的算法结果,通过模仿人类神经组织行为特征实现分布式并行信息处理,可抽象为人工神经元结构
考法2:缺陷
- 参数数量多、训练速度慢
3.卷积神经网络
考法1:定义
- 一个多层结构,一般由若干卷积层(添加非线性变换)、池化层(降维减少参数)、全连接层组成
考法2:神经网络减参操作
1. 稀疏连接、参数共享
二、增强学习
1.增强学习
考法1:定义
- 将智能体(Agent)置于环境中,通过环境的反馈(包括奖赏和惩罚)进行学习,是的智能体的累计收益最大;代表算法:Q-learning
考法2:相关概念
1. 智能体(Agent):增强学习中的实体,从实验和错误中学习
- 环境(Environment):智能体进行学习和实验的空间和场景
- 行为(Action,A):智能体所能采取的所有可能的行为
- 奖励(Reward,R):环境对智能体上一个行为的反馈
- 策略(Policy,π):智能体根据当前状态来决定下一步行为的方法
- 值(Value,V):智能体所期待的长期目标
- 折算因子(Discount factor,Y):[0,1]区间的值,表示智能体对短期收益(奖励)和长期收益(值)的重视程度。0则短期收益重要,1则长期收益重要
考法3:马尔科夫决策过程
- 马尔科夫性:若当前状态已知的条件下,未来状态仅由当前状态决定,与所有历史信息无关,则称该状态具有马尔科夫性
- 马尔科夫链:若一系列过程中的每一个事件都具有马尔科夫性,则该系列称为马尔科夫链
- 马尔科夫决策过程:在具有马尔科夫性质的环境中只会形成解决策略的数学模型
三、 迁移学习
1.迁移学习
考法1:定义
1. 对一个已经开发过的任务(源域任务)模型重复利用,作为第二个任务(目标任务)模型的起点,能充分发挥网络对通用特征的获取能力,降低卷积神经网络训练难度,只需要很少量的计算资源开销与训练时间就可以实现对新任务的支持
考法2:相关概念
1. 领域(Domain):进行学习的主体
2. 源领域(Source Domain):有大量标签数据的领域,需要迁移的对象
3. 目标领域(Target Domain):最终要赋予知识、赋予标识的对象
4. 任务(Task):学习目标
考法3:迁移学习方法
(一)基于样本的迁移学习
- 根据一定的权重生成规则,对数据样本进行重用,来进行迁移学习
- 代表算法TrAdaboost方法
- 具有较好的理论支撑、容易推导泛化误差上界
- 领域分布差异较小时效果好
(二)基于特征的迁移学习
- 通过特征变换的方式互相迁移,来减少源域与目标域之间的差距
- 将源域和目标域的数据特征变换到统一特征空间中,然后利用传统机器学习方法进行分类识别
- 代表算法迁移成分分析方法
- 四种方法中,效果较稳定
(三)基于模型的迁移学习
- 从源域和目标域中找到他们之间共享的参数信息,以实现迁移的方法
- 要求的假设条件是:源域中的数据与目标域中的数据可以共享一些模型的参数
- 常与深度神经网络进行结合
- 基于关系的迁移学习
- 通过比较源领域和目标领域中样本之间的关系进行学习
- 处于初级探索阶段
文章篇幅有限,更多阿里云ACP人工智能高级工程师知识点及题库试题可戳下方明~pian↓↓↓