水很深的深度学习|Task 01

水很深的深度学习|Task 01

1.绪论与深度学习概述

说深度学习之前，先说下人工智能和机器学习吧
人工智能是利用数字计算机或者数字计算机控制的机器模拟、延伸 和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能可以分为强人工智能、弱人工智能、超级人工智能
个人觉得还是不期望强人工智能的到来

人工智能三次浪潮：
第一阶段：1956-1980(诞生)
第二阶段：1980-2000（步入产业化）
第三阶段：2000-up to now (迎来爆发)

机器学习：让计算机像人一样学习和思考

机器学习分类：有监督学习、无监督学习、强化学习

深度学习

一般是指通过训练多层网络结构对未知数据进行分类或回归

深度学习分类：
有监督学习方法——深度前馈网络、卷积神经网络、循环神经网络等；无监督学习方法——深度信念网、深度玻尔兹曼机，深度自编码器等。
在图像处理领域主要应用在：图像分类、物体检测、图像分割、图像回归
在语音识别领域主要应用在：语音识别、声纹识别、语音合成
在自然语言处理领域主要应用在：语言模型、情感分析、神经机器翻译、神经自动摘要、机器阅读理解、自然语言推理

综合应用：图像描述、可视问答、图像生成、视频生成

2、数学基础

矩阵论
这部分我觉得张量刚开始可能不好理解
它其实是矢量概念的推广，可用来表示在一些矢量、标量和其他张量之间的线性关系的多线性函数。标量是0阶张量，矢量是一阶张量，矩阵是二阶张量，三维及以上数组一般称为张量。
还有需要注意的点是
信息熵，可以看作是样本集合纯度一种指标，也可以认为是样本集合包含的平均信息量。