![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习的基础理论
文章平均质量分 67
算法程序员&mlh
这个作者很懒,什么都没留下…
展开
-
pytorch框架实现反向传播
### 反向传播(back propagation)使用pytorch框架不需要自己去手动求导,框架中自带求导的工具,我们可以通过反向传播将梯度往回传播。通常有二个过程,forward和backward。原创 2022-03-06 19:00:15 · 1805 阅读 · 0 评论 -
梯度下降法(GD、SGD、BGD、MINI-BGD)
### 1、梯度下降法(Gradient Descent Algorithm)梯度下降法,类似于贪心算法,只考虑当下,一般找到的是局部最优解。在深度学习中,大量使用梯度下降法,因为神经网络中损失函数并没有特别多的局部最优点,所以找到的一般都是全局最优解。损失函数-如下图所示:原创 2022-03-06 10:08:55 · 2592 阅读 · 0 评论 -
2、线性回归预测模型的实现(linear model)y=x*w+b
### 线性回归预测模型的实现(linear model)y=x*w+b**通过 numpy包穷举找到线性模型的预测的w和b值,并用matplotlib和mpl_toolkits包画出在训练过程中w、b、loss的三维变化。**1、实现==y=x*w + b==线性回归预测。**关键是求解出w和b的值,w和b的值知道了其线性模型就确定了。**如下图所示:原创 2022-03-02 23:01:22 · 1940 阅读 · 1 评论 -
1、线性回归预测模型的实现(linear model)y=x*w
### 线性回归预测模型的实现(linear model)**通过 numpy包穷举找到线性模型的预测的w值,并用matplotlib包画出线性预测效果。**1、实现==y=x*w==线性回归预测。本例题中有学习成绩关于学习时长的一组数据,其满足线性模型,通过此数据训练一个线性模型,并用训练完的模型做预测,预测时长x=4时,成绩y=?。**关键是求解出w的值,w的值知道了其线性模型就确定了。**原创 2022-03-02 21:41:19 · 1371 阅读 · 0 评论