本文详细介绍了机器学习中的批量学习、在线学习、迁移学习和主动学习的区别。批量学习在所有样本出现后调整权重，适合并行处理，但需要大量存储。在线学习逐样本调整权重，适用于大规模问题，存储需求小。强化学习通过环境反馈进行学习，常见于动态系统和机器人控制。迁移学习则解决新领域数据不足问题，通过迁移已有知识到新任务。这些学习方法各有优劣，适应不同场景。
一、批量学习
在监督学习的批量方法中，多层感知器的突出权值的调整在训练样本集合的所有N个例子都出现后进行，这构成了训练的一个回合。换句话说，批量学习的代价函数是由平均误差能量定义的。多层感知器的突触权值的调整是以回合-回合为基础的。相应地，学习曲线的一种实现方式是通过描绘平均误差能量对回合数的图形而得到，对于训练的每一个回合，训练样本集合的样例是随机选取的。学习曲线通过对足够大量的这样实现的总体平均来计算，这里每次实现是在随机选取不同初始条件下完成的。这一特点符合交叉验证的规律，实验中的实验集、验证集、测试集一般都是批量处理的典例。
优点：
（1）消除样本顺序的影响
（2）对梯度向量的精确估计，因此，在简单条件下，保证了这一方法最速下降到局部极小点的收敛性。
（3）学习的并行性。
缺点：
（1）有着存储需求
二、在线学习
在监督学习的在线方法下，对于多层感知器突触权值的调整是以样例-样例为基础的，用来最小化的代价函数是全体瞬时误差能量。和批量学习一样，在线学习的学习曲线是通过足够大量的随机选取的初始条件上的总体平均来计算的。对于给定的网络结构，在线学习下获得的学习曲线和批量学习下获得的学习曲线有着很大的不同。
给定训练
最低0.47元/天 解锁文章
809
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
