Python
文章平均质量分 56
DS_agent
这个作者很懒,什么都没留下…
展开
-
Pytorch学习笔记-Autograd自动求导与梯度操作
tensor.grad和tensor.grad.data区别是什么?手动进行梯度更新时,如果直接用tensor.grad进行运算则会被加入计算图,导致内存占用不停加大以及累计梯度出错,用tensor.grad.data则不会。或者可以在with torch.no_grad():下直接用tensor.grad进行,这样就不会被加入计算图或者梯度累加__注意:__不管哪种方法,每次更新完都记得对梯度清空!!!Pytorch教程中有一段关于自定义autograd函数的代码class Legen..原创 2021-06-13 16:52:00 · 252 阅读 · 0 评论 -
Pytorch学习笔记-Basic Data Type基本数据类型
少用tensor.numpy()来查看tensor的np.ndarray格式数据,共享内存,修改torch.tensor对应的np.ndarray也会被改动少用torch.from_numpy()来生成torch.tensor,共享内存,修改原始np.ndarray,其生成的torch.tensor也会被修改如果是希望防止跟踪历史(以及使用内存),可以将代码块放在 with torch.no_grad(): 内,这个做法在使用一个模型进行评估的时候非常有用,因为模型会包含一些带有 requi..原创 2021-06-12 20:27:49 · 242 阅读 · 2 评论 -
LASSO近端梯度下降法Proximal Gradient Descent公式推导及代码
文章目录LASSO by Proximal Gradient DescentProximal Gradient Descent FrameworkProximal Gradient Descent DetailsSimplified CodeLASSO by Proximal Gradient DescentProximal Gradient Descent Frameworkrandomly set β(0)\beta^{(0)}β(0) for iteration 0For kkkth ite原创 2020-05-25 20:05:00 · 6461 阅读 · 4 评论 -
LASSO坐标下降法Coordinate Descent Method公式推导及代码
文章目录LASSO by Coordinate Descent MethodCoordinate Descent Method FrameworkCoordinate Descent Method Update DetailsSimplified CodeMy LASSO PathLASSO by Coordinate Descent MethodPrepare:from itertools import cycleimport numpy as npimport matplotlib.pyplo原创 2020-05-25 19:43:34 · 4392 阅读 · 3 评论 -
《機器學習實戰》學習筆記
對機器學習感興趣的大二黨,暑假過後就要升大三了,學姊和導師推薦過《機器學習實戰》。原來已經接觸Matlab快大半年了(被學姊吐槽CS),而《機器學習實戰》裡面用的是python,所以同時自學python,不是很熟悉。在這裡主要是想寫一些總結,和自己用Matlab實現的代碼原创 2016-06-18 00:09:15 · 571 阅读 · 0 评论 -
组合优化中的全排列生成方法
组合优化中的全排列生成之前有同学遇到组合优化(如0-1优化)问题,想采用穷举法,那么首先就要穷举产生所有的组合。以0-1优化为例,假设当前有3个item,每个item有“选”或“不选”两种状态。原创 2017-03-14 21:17:02 · 1679 阅读 · 0 评论