第十章模型独立的学习方式

最新推荐文章于 2023-10-11 23:06:40 发布

Avery123123

最新推荐文章于 2023-10-11 23:06:40 发布

阅读量1k

点赞数

分类专栏：神经网络与深度学习（读书笔记）

本文链接：https://blog.csdn.net/Avery123123/article/details/104862406

版权

第十章模型独立的学习方式

第十章模型独立的学习方式

第十章模型独立的学习方式

在前面的章节中，我们已经介绍了机器学习的几种学习方式，包括监督学习、无监督学习等。这些学习方式分别可以由不同的模型和算法实现，比如神经网络、线性分类器等。针对一个给定的任务，首先要准备一定规模的训练数据，这些训练数据需要和真实数据的分布一致，然后设定一个目标函数和优化方法，在训练数据上学习一个模型。此外，不同任务的模型往往都是从零开始来训练的，一切知识都需要从训练数据中得到。这也导致了每个任务都需要准备大量的训练数据。在实际应用中，我们面对的任务往往难以满足上述要求，比如训练任务和目标任务的数据分布不一致，训练数据过少等。这时机器学习的应用会受到很大的局限。并且在很多场合中，我们也需要一个模型可以快速地适应新的任务。因此，人们开始关注一些新的学习方式。

本章介绍一些“模型独立的学习方式”，比如集成学习、协同学习、自训练、多任务学习、迁移学习、终身学习、小样本学习、元学习等。这里“模型独立”是指这些学习方式不限于具体的模型，不管是前馈神经网络、循环神经网络还是其它模型。然而，一种学习方式往往会对符合某种特性的模型更加青睐，比如集成学习往往和方差大的模型组合时效果显著。