TensorFlow学习笔记一

什么是深度学习

深度学习的前身是人工神经网络，，在机器学习中，我们说的神经网络一般就是指人工神经网络。基本的神经网络是3层模型，两端分别为输入层和输出层，中间是隐藏层。

• 输入层，训练数据的输入。
• 输出层，输出计算结果。
• 中间层，中间层可以有一个或者多个，一般有5层，几百甚至上千层。

人工智能神经网络的么一层有大量的节点组成，层内的神经元一般相互独立。深度学习的目的就是利用已知的数据学习一套模型，在遇见未知的数据时也能够做出预测。这个过程需要神经元具备以下两个特性。

• 激活函数，将原有的来自其他神经元的输入做一个非线性变换，输出给下一个神经元，实现非线性能力的是前向传播。
• 成本函数，用来定量评估在特定输入值下，计算输出结果与真实结果的的距离，然后调整每层的权重参数，降低损失。这就是完成了一次反向传播。

监督学习：训练数据有标记的学习。
无监督学习：所有数据只有特征，没有标记，目的是让计算机自己去学习怎样做一件事。有两种思路，一是在训练时不为其制定明确的分类，但是这些数据会呈现出聚类的结构，计算机通过把这些没有标记的数据分成一个个的组合，就是聚类。二是在成功时采用某种形式的奖励机制，即强化学习，通过学习过程中的激励函数获得某种从状态到行动的隐射。
半监督学习：训练数据一半带有标记，一半没有标记。

机器学习的入门

数学知识:概率论和数理统计，高等数学，线性代数。
机器学习理论与算法：LR，SVM，决策树，RF……
编程工具：Python，c++，go……
研读论文，公众号，博客：LeNet，GoogleNet，GAN……
动手实践：演示案例。
深入工作的相关领域：计算机视觉……

为什么要学习TensorFlow

支持异构设备的分布式计算，支持卷积神经网络和循环神经网络。
TensorFlow的特性

• 高等的灵活性
• 真正的可移植性
• 将科研与产品结合在一起
• 自动求微分
• 多语言支持
• 最优化性能