TensorFlow

TensorFlow 是谷歌发布的深度学习开源的计算框架，该计算框架可以很好地实现各种深度学习算法，涉及自然语言处理、机器翻译、图像描述、图像分类等一系列技术。简单来说，TensorFlow 为我们封装了大量机器学习、神经网络的函数，帮助我们高效地解决问题。 tensorflow与pytorch之间是相互竞争的，是现今最为广泛的两种学习框架，都是开源的，但它们是由两个不同的向导创建的。Tensorflow 基于 Theano，由 Google 开发，而 PyTorch 基于 Torch，由 Facebook 开发。

习题1：

卷积中的局部连接：层间神经只有局部范围内的连接，在这个范围内采用全连接的方式，超过这个范围的神经元则没有连接；连接与连接之间独立参数，相比于去全连接减少了感受域外的连接，有效减少参数规模。

全连接：层间神经元完全连接，每个输出神经元可以获取到所有神经元的信息，有利于信息汇总，常置于网络末尾；连接与连接之间独立参数，大量的连接大大增加模型的参数规模。

区别在于层间神经是否完全连接。

习题2：

利用快速傅里叶变换把图片和卷积核变换到频域，频域把两者相乘，把结果利用傅里叶逆变换得到特征图。

习题3：

池化操作的作用：对输入的特征图进行压缩,一方面使特征图变小,简化网络计算复杂度;一方面进行特征压缩,提取主要特征。

激活函数的作用：用来加入非线性因素的，解决线性模型所不能解决的问题。

习题4：

局部响应归一化的作用：消除数据之间的量纲差异，便于数据利用与快速计算。

习题5：

随机梯度下降算法的原理：寻找损失函数的最低点，就像我们在山谷里行走，希望找到山谷里最低的地方。那么如何寻找损失函数的最低点呢？在这里，我们使用了微积分里导数，通过求出函数导数的值，从而找到函数下降的方向或者是最低点（极值点）。损失函数里一般有两种参数，一种是控制输入信号量的权重(Weight, 简称  ），另一种是调整函数与真实值距离的偏差（Bias，简称  ）。我们所要做的工作，就是通过梯度下降方法，不断地调整权重  和偏差b，使得损失函数的值变得越来越小。而随机梯度下降算法只随机抽取一个样本进行梯度计算。

实验：

# -*- coding: utf-8 -*-
"""
Created on Sun Apr 24 17:10:1