感怀
hyczkg
一只小菜鸡
展开
-
2017-2018学年的自我评价
我对我这一年的评价是,“曾经雄心勃勃,却是虎头蛇尾”。 至于原因,我也曾反思过。 我有那么多想做的事情:想学数学,想学机器学习,还想了解计算机体系结构。 我的课表也是那么的ambitious:每学期十几门课,有数学课,有机器学习课,也有一些计算机的专业课。 最初的英语分级考试,和几门结课比较早的课程,我对自己的表现是比较满意的,成绩也还可以。 到后来,当考试与作业接踵而至,我却只有一种疲...原创 2018-06-29 22:41:34 · 855 阅读 · 0 评论 -
关于深度学习学习率调整的心得【无病呻吟】
最近在研究姿态估计方面的内容。这个task数据量比较大,实验室的四路TITAN XP也只能用小batch运行,并且要跑好几天(我在想原文是不是都是四路特斯拉跑的)。为了克服设备的困难,最近关于学习率方面有一些心得。我的调参哲学大概是先给一个特别大的学习率(大到模型只要不崩就行),跑一百多epoch,看一下大概什么位置比较好;(跑的过程中可以存下效果top5的模型,用作后续的pre-trai...原创 2019-04-17 04:53:23 · 1798 阅读 · 0 评论