- 博客(1)
- 收藏
- 关注
原创 神经网络凸优化
这是一篇试验失败的总结。第一次读博士的时候,就是读的凸优化。所以对凸函数有一种莫名的好感。去年在做SGD加速,发现很多SGD算法的理论分析都是基于凸函数的。详见Zhang Tong, Li Mu这两年来的文章。这也就是我为什么想把神经网络凸化的背景。为了构建一个凸函数,那么从最基本的ANN出发。基本是一个函数套入另外一个函数。这里主要的函数分几大类:1)weight和input
2016-03-31 23:51:16 5328
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人