深度学习笔记一：一些概念

目录

深度学习——网络分类

1. 人工神经网络ANN(NN)（ Artificial Neural Network）

2. 卷积神经网络CNN（Convolutional Neural Network）

3. 循环神经网络RNN（Recurrent Neural Network）

4. 生成式对抗网络GAN（Generative adversarial network）

深度学习——数据类型

1. 结构化数据

2. 非结构化数据

深度学习——应用场景

1. 在线广告

2. 计算机视觉

3. 语音识别

4. 机器翻译

5. 自动驾驶技术

6. 其它

---

深度学习——网络分类

1. 人工神经网络ANN(NN)（ Artificial Neural Network）

原理：

        是一种模仿生物神经网络结构和功能的计算模型。人脑可以看做是一个生物神经网络，由众多的神经元接而成。各个神经元传递复杂的电信号，树突接收到输入信号，然后对信号进行处理，通过轴突输出信号。

        当电信号通过树突进入到细胞核时，会逐渐聚集电荷。达到一定的电位后，细胞就会被激活，通过轴突发出电信号。

2. 卷积神经网络CNN（Convolutional Neural Network）

应用：

        常用于影像数据进行分析处理。

        例如：图像分类(image classification)、目标检测目标检测(object detection)及语义分割(semantic segmentation)

3. 循环神经网络RNN（Recurrent Neural Network）

应用：

        文本分析或自然语言处理

4. 生成式对抗网络GAN（Generative adversarial network）

原理：

        模型通过框架中（至少）两个模块：生成模型（Generative Model, G）和判别模型（Discriminative Model, D）的互相博弈学习产生相当好的输出。

        原始 GAN 理论中，并不要求 G 和 D 都是神经网络，只需要是能拟合相应生成和判别的函数即可。但实用中一般均使用深度神经网络作为 G 和 D 。

        一个优秀的GAN应用需要有良好的训练方法，否则可能由于神经网络模型的自由性而导致输出不理想。

应用：

        常用于数据生成或非监督式学习

深度学习——数据类型

1. 结构化数据

        整齐地放入数据表的数据，包括数字、短文本和日期等离散数据类型。

        例如：在房价预测中，可能有一个数据库，有专门的几列数据告诉你卧室的大小和数量，这就是结构化数据。或预测用户是否会点击广告，你可能会得到关于用户的信息，比如年龄以及关于广告的一些信息，然后对你的预测分类标注，这就是结构化数据。即每个特征都有一个很好的定义。

2. 非结构化数据

        非结构化数据无法整齐地放入数据表，例如：音频和视频文件以及大型文本文档。

        有时，数字或文本数据可能是非结构化的，因为将其建模为表的做法效率低下。例如，传感器数据是恒定的数值流，但是如果创建一个包含两列（时间戳和传感器值）的表，则效率低下且不切实际。

深度学习——应用场景

1. 在线广告

        通过在网站上输入一个广告的相关信息，同时也输入用户的信息，于是网站就会考虑是否向你展示广告。

2. 计算机视觉

        例如：通过训练多种标签的图片数据来生成一个类别识别模型（分类器），当你给出一张照片，模型可以给这张照片打标签。

3. 语音识别

        例如：可以将音频片段输入神经网络，然后让它输出文本记录。

4. 机器翻译

        利用神经网络输入英语句子，接着输出一个中文句子。

5. 自动驾驶技术

        例如：可以训练一个神经网络，来告诉汽车在马路上面具体的位置，前方的路况......

6. 其它

        例如：智能机器人，智慧医疗，智能安防，智能零售，智慧教育......