深度学习——第五章：机器学习基础

本文为阅读总结个人认为书里概念性的、对本人有帮助的内容，仅供参考。

深度学习是机器学习的一个特定分支。

大部分机器学习算法都有超参数（必须在学习算法外设定）。

及其学习本质上属于应用统计学，更多地关注于如何用计算机统计地估计复杂函数，不太关注为这些函数提供置信区间。

大部分深度学习算法都是基于被称为随机梯度下降的算法求解的。

机器学习算法是一种能够从数据中学习的算法。

学习的定义是：对于某类任务T和性能度量P，一个计算机程序被认为可以从经验E中学习是指，通过经验E改进后，它在任务T上由性能度量P衡量的性能有所提升。

机器学习可以让我们解决一些人为设计和使用确定性程序很难解决的问题。

从科学和哲学的角度来看，机器学习之所以受到关注，是因为提高我们对机器学习的认识需要提高我们自身对智能背后原理的理解。

通常机器学习任务定义为机器学习系统应该如何处理样本。

样本是指我们从某些希望机器学习系统处理的对象或事件中收集到的已经量化的特征的集合。

一些非常常见的机器学习任务如下：分类（输出类别或概率）、输入缺失分类（输出类别或概率）、回归（输出预测数字或内容）、转录（非结构化数据->离散文本）、机器翻译（语言文本1->语言文本2）、结构化输出（包括转录、机器翻译、图像分割等）、异常检测、合成和采样、缺失值填补、去噪、密度估计或概率质量函数估计。

大致来说，无监督学习涉及观察随机向量x的好几个样本，摄图显式或隐式地学习出概率分布p(x)，或者是该分布一些有意思的性质；而