![](https://img-blog.csdnimg.cn/20201014180756930.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
machine-learning
Ce1estial
这个作者很懒,什么都没留下…
展开
-
An overview of gradient descent optimization algorithms解读
文章主要内容: 本文旨在为读者提供不同算法的原理以及效果的直观展示,并希望读者能够在实际问题中更合理地选用梯度下降法。文章结构: 1. 简介:梯度下降法 2. 随机梯度下降法 3. 随机梯度下降的问题与挑战 4. 随机梯度下降的优化算法(主要内容) 5. 并行与分布式架构 6. 随机梯度下降的其他优化方法正文 1 梯度下降法 如果 J(θ)J(\theta)原创 2017-08-17 15:34:05 · 1737 阅读 · 0 评论 -
使用scipy.optimize进行目标函数中的矩阵参数优化
在做机器学习最优化的时候,参数通常以矩阵形式存在,现网上在矩阵参数优化内容方面例子较少,遂写下这篇博文。 例如: 目标函数:T(θ)=12||Xθ−Y||T(\theta)=\frac{1}{2}||X\theta-Y|| 其中XX为m×nm\times n特征矩阵,YY为m×lm\times l标签矩阵,θ\theta为n×ln\times l参数矩阵。 以下为具体代码:import nu原创 2017-09-08 13:47:34 · 4266 阅读 · 1 评论