深度学习入门-唐宇迪 (笔记加自我整理)
深度学习 第一章 简介
1.安装anaconda
Anaconda是最方便的环境,其他的库都可以安装,建议使用anaconda自带的安装命令。初学者不建议再环境上浪费太多时间,容易打消积极性,anaconda集成环境非常棒。
2.常规套路
和考试的套路一样,要先收集之前的测试题,要知道这些题的正确答案是什么;然后开始做题训练,大概率会有个知识体系,知道什么样的题答案是什么;然后需要通过一些模拟考试测试评估,评估下自己学习的程度,比如满分100分自己可以得到多少分。
- 收集数据,给定标签
- 训练一个分类器
- 测试、评估
3.超参数选择
参数一般是可以学习到的,比如用线性回归模型,每个特征的重要性是多少,也就是权重,都是可以学习到的;而超参数一般都是指定的,比如说k近邻算法,判断一个样本属于哪一类,是和这个样本周围最近的样本相关的,k就是超参数,比如指定为3,那么就是最近3个样本属于哪一类,如果指定为5,就是最近的5个样本属于哪一类。
不管是机器学习还是深度学习,一般用于训练模型的数据,和用于评测的数据,是完全不重复的,就好像要准备考试,考试题不会是联系题原题。但是训练集中也会存在问题,比如收集到的题覆盖度是不是够,会不会这次的题比较简单,下一波题比较难,两波题的难度不一样怎么综合衡量能力。
这里很常见也很关键的方法,就是交叉验证,就是把训练集分成多份,一般会选择5、10份,分成其他份也可以,然后把一份留出来作为测试集,就是考卷,其他几份数据当做训练集,放到模型里建模学习;对于每一份测试集都采用同样的操作,把每一份测试集的评测结果取平均值,就是最终的效果,这样的好处是,不管简单的题还是难的题都学习到了,而且取得的平均值,更能衡量学习能力。
- 交叉验证:平均值作为验证集总效果
- k-fold,将训练集切分成k份,这里是5
- 每一份作为验证集,其他四份作为训练集训练
- 【1,2,3