深度学习
像我一样就刚好
这个作者很懒,什么都没留下…
展开
-
深度学习中的数据维度表示
1.标量(0D 张量) 只含有一个数字的张量称为标量(或 0 维张量、0D 张量),标量有 0 个坐标轴,即 ndim == 0。张量轴的个数又称为它的秩。>>>import numpy as np>>>x = np.array(12)>>>xarray(12)>>>x.ndim02.矢量(1D 张量) ...翻译 2018-03-09 11:17:54 · 8292 阅读 · 1 评论 -
深度学习中模型的参数选择
1.优化器 优化器一般选择 rmsprop,其适用于绝大多数问题,是最不用担心的因素。2.激活函数 中间层的激活函数一般选择 relu 函数以及其引申函数。当为二分类问题时,最后一层一般采用 sigmoid 激活函数。当为多分类问题时,最后一层一般采用 softmax 函数。当为回归问题时,最后一层不使用激活函数,因为激活函数会将无限空间映射到有限空间中,限制最后的结果。3.损失函数(...原创 2018-03-09 15:07:05 · 2368 阅读 · 0 评论 -
深度学习中的数据预处理
1.归一化 当多个特征的参数值数量级差异过大时,容易增加计算成本,需要对数据做归一化处理。最常用的归一化方法为,取数据集与其均值的差,再除以其标准差,使数据集拥有一个单位标准差,方便处理。mean = train_data.mean(axis=0)train_data -= meanstd = train_data.std(axis=0)train_data /= stdtest_...原创 2018-03-09 15:23:04 · 3028 阅读 · 0 评论 -
交叉验证
S-fold Cross Validation:中文为S折交叉验证,即将数据集分成S份,在第i次试验中,使用D-Di作为训练集,Di作为测试集进行模型的训练,最终取平均误差最小的模型。留一交叉验证(Leave-one-out Cross Validation):这是S折交叉验证的特殊情况,即S=N,每次测试集中只有1个数据。简易交叉验证:将数据集随机打乱,然后选取数据集的前70%作为训练集,剩余作...原创 2017-10-18 20:40:36 · 557 阅读 · 0 评论 -
深度学习与计算机视觉
1.数据预处理2.数据扩充3.使用预训练网络(特征提取)4.调参原创 2018-04-08 11:19:00 · 227 阅读 · 0 评论 -
深度学习中的数据集划分
将数据集划分为训练集、验证集和测试集,训练集用来训练模型,验证集用来观察模型性能,测试集用来验证模型效果。验证集和测试集不能合并,因为我们会根据验证集的效果调整模型参数,导致模型会往验证集效果好的方向收敛,即模型也学到了验证集的特征,所以再用来评估模型性能并不科学。...原创 2018-03-27 16:04:17 · 4460 阅读 · 0 评论 -
欠拟合与过拟合
欠拟合:模型并不能好好描绘训练集特征,损失函数还有继续下降的空间,一般是由于模型参数过于简单。过拟合:模型除了记住数据普遍特征之外,还记住了训练集的个别数据特征,导致训练集损失函数值下降的同时验证集损失函数却在上升,模型不能很好的预测未知的新数据。往往是由于模型参数过于复杂造成,一般的解决方法为增加数据量或者限制模型参数。一般情况下,相同的性能的模型往往越简单越好。消除过拟合的基本方法:1.获取更...原创 2018-03-28 15:26:18 · 509 阅读 · 0 评论