为什么要“深度”学习

为什么要“深度”学习

全连接网络问题

全连接网络由于链接权过多，算的慢，难收敛，同时可能进入局部极小值，也可能产生过拟合问题

解决算的慢的问题的方法：减少权值连接，每一个节点只连到上一层的少数神经元，即局部连接网络

解决难收敛的问题的方法：权值过多极易过拟合，信息分层处理，每一层在上层提取特征的基础上获取进行再处理，得到更高级别的特征

深度学习平台简介

pytorch 基本概念

张量（Tensor）：是一个物理量，对高维(维数≥2) 的物理量进行“量纲分析” 的一种工具
计算图：用“结点”(nodes)和“线”(edges)的有向图来描述数学计算的图像。“节点”一般用来表示施加的数学操作，但也可以表示数据输入的起点/输出的终点，或者是读取/写入持久变量的终点。“线”表示“节点”之间的输入/输出关系。这些数据“线”可以输运“size可动态调整”的多维数据数组，即“张量”

• 使用tensor表示数据
• 使用Dataset、Dataloader读取样本数据和标签
• 使用变量（Variable）存储神经网络权值等参数
• 使用计算图（Computational Graph）表示计算任务
• 在代码运行过程中同时执行计算图