听它爹说他孩儿：Keras 学习笔记 2

本书有30多个范例，帮你学会解决具体问题。

这些范例开发工具，用的是 Keras 及其底层 TensorFlow。

你将学会使用 Keras 处理实际问题，如机器视觉、自然语言、图像分类、时间序列预测、情绪分析、图像和文本生成等。

Keras 的老家在 https://keras.io 

本书范例代码在 https://github.com/fchollet/deep-learning-with-python-notebooks

深度学习是什么？

人工智能 => 机器学习 => 深度学习。在此， => 表示包含关系。

机器学习需要三样东西：数据点阵（矩阵化的数据）、数据标签（期望输出的样本）、算法误差测量。

为了确定算法的当前输出值与期望输出值的差距，必须对二者进行测算。测算出的差值作为反馈信号，用以调整运算。这一过程称之为“学习”

机器学习和深度学习的中心问题，是转化输入数据的含意表示。

数据含意可以分成多层表示。深度学习的“深度”，是指这种层次。现代的深度学习，在数据训练过程中，经常涉及几十层甚至几百层的含意表示。

相对于深度学习，其他机器学习可称为“浅层学习”。

层次化的深度学习，通过多层叠加的神经网络实现。

深度学习大致这样进行：神经网络以若干“权重”作为参数；损失函数测量网络输出的误差；误差数值反馈给前层，调整权重。

深度学习要有大量数据才能工作良好。

有些问题用深度学习并不好解决，应该用其他机器学习方法。

概率模型

朴素贝叶斯算法是其中最著名的之一。它假定输入的数据全部是独立的。

与其密切相关的模型是“逻辑回归”（ logistic regression）。有人认为它是现代机器学习的“hello world”。

其实，逻辑回归是分类算法，不是回归算法。

数据科学者对数据集进行分类时，首先想到的就是逻辑回归算法。

核心方法

核心方法是一组分类算法，其中最有名的是支持向量机（SVM）。

两组数据分别表示不同的两类，SVM 的目标是找到两组数据的分界线，解决分类问题。

SVM 处理简单的分类问题时表现极好。极少数机器学习算法有广泛的数学分析理论支撑，易于理解解释，SVM是其中之一。很长一段时期，SVM 因此成为极度流行的机器学习算法。

但是，SVM 很难用于大数据处理；对于图像分类等知觉问题，不能给出好结果。

决策树、随机森林、梯度推进机

决策树有着流程图般的样式结构。它用于对输入的数据点阵进行分类，或者预测输出值。

决策树很容易解释和可视化。对其研究的热潮始于2000年，在2010年代被核心方法超越。

随机森林算法，产生了高可靠性、实用性的“决策树学习”，能建造大量决策树完成特定任务，并将其输出集成为一体。

随机森林对于解决各种问题，有着广泛的应用性。可以说，在各种浅层学习算法中，它几乎总是位居第二的优秀算法。

大众化的机器学习竞赛网“开搞” (http://kaggle.com) ，2010年开办后，随机森林很快成为其平台用户的最爱，直到2014年，才被梯度推进机所取代。

梯度推进机很像随机森林。它是一种机器学习技术，它把多个预测能力较弱的模型，通常是决策树，集成为一体作为它的基础。

梯度推进机，在当今处理非知觉问题数据的各种算法中，可能不是最好的，但肯定是最好的之一。

在深度学习的“开搞竞赛”中，它是最常用的技术之一。

深度学习的特点

1. 在处理许多问题时，它的性能表现好；
2. 它使得问题容易解决。在机器学习流程中，最为重要的一步是数据的特征工程。对此，深度学习完全自动化了。

深度学习在对数据的“学习”方面，有两个基本特征：

一是逐层递进，增加数据含意表示的复杂度；二是各层的“学习”是联合进行，各层的更新既需要其上层，也需要其下层。

于是，深度学习比早先的机器学习取得了巨大成功。