TensorFlow深度学习1

共15章，分4部分。
1~3第一部分， 初步介绍人工智能，用两个例子引出。
4~5第二部分，介绍TensorFlow基础，为后续算法实现做铺垫。
6~9第三部分，介绍神经网络的核心理论和共性知识，让我们理解深度学习的本质。
10~15第四部分，模型算法应用，介绍常见算法与模型，学有所用。

第1章 人工智能绪论

                                        我们需要的是一台可以从经验中学习的机器。——阿兰.图灵

……

人工智能->机器学习->神经网络->深度学习（深层神经网络）

人工智能：
机器学习：有监督学习 ，无监督学习 ， 强化学习。

神经网络：
深度学习：特点：数据量，计算力，网络规模，通用智能
应用：计算机视觉，自然语言处理，强化学习。

主流框架：TensorFlow,Keras,pyTorch.

开发环境安装…………

第2章 回归问题

                         有些人担心人工智能会让人类觉得自卑，但是实际上，即使是看到一朵花，我们也应该或多或少感到一些自愧不如。 ——艾伦.凯

2.1神经元模型
生物概念，多树突，一个轴突。一或多输入，一或多输出。

解析解（Closed-form Solution)：一个数据点的情况，通过严格的公式推导。多个数据点没有解析解，只能优化（Optimize)出一个近似的数值解（Numerical Solution)。
梯度下降算法（Gradient Descent):神经网络训练最常用的优化算法，是深度学习的核心算法。

x模型输入，n缩放梯度向量，下降梯度。

GPU(Graphics Processing Unit)
线性回归（Linear Regression):LR,用线性模型去逼近真实模型。
分类（Classification)问题：离散值预测问题。

第3章 分类问题

                        在人工智能上花一年时间，这足以让人相信上帝的存在。——艾伦.佩利

3.1手写数字图片数据收集
数字编码（Number Encoding)。
希望模型在新的样本上也能具有良好的表现，即模型泛化能力（Generalization Ability）。
独热编码（one——hot)。
将数字编码（Number Encoding)转换为独热编码（one——hot)。
回归问题：用均方差损失函数，分类问题：用交叉熵（Cross Entropy）损失函数。
表达能力：逼近复杂分布的能力。
过拟合会影响泛化能力。
激活函数（Activation Function),一个非线性函数，有Sigmoid函数，ReLU函数是深度学习模型使用最广泛的激活函数之一。

TensorFlow基础
我设想在未来，我们可能就相当于机器人的宠物狗，到那时我也会支持机器人的。−克劳德·香农

TensorFlow 是面向深度学习算法的科学计算库，内部数据保存在张量(Tensor)对象上，所有的操作基于张量对象进行。
复杂的神经网络算法本质上就是各种张量相乘、相加等基本运算操作的组合。

4.1数据类型
TensorFlow 中的基本数据类型，包含：数值类型、字符串类型和布尔类型
4.1.1数据类型
数值类型的张量是 TensorFlow 的主要数据载体，根据维度数来区分：
标量(Scalar)，维度为0
向量(Vector)，维度1
矩阵(Matrix)，维度2
张量(Tensor)。维度大于2。一个维度也叫轴（Axis)。比如 Shape 为[2,32,32,3]的张量共有 4 维，如果表
示图片数据的话，每个维度/轴代表的含义分别是图片数量、图片高度、图片宽度、图
片通道数，其中 2 代表了 2 张图片，32 代表了高、宽均为 32，3 代表了 RGB 共 3 个
通道。张量的维度数以及每个维度所代表的具体物理含义需要由用户自行定义。
以上分类可以统称为张量，按维度来区分。

4.1.2字符串类型