pytorch实践
文章平均质量分 70
Worick
这个作者很懒,什么都没留下…
展开
-
PyTorch实践(三)
梯度 凸函数可以找到全局最优解 影响搜索全局最优解的因素: 初始状态(权值需要初始化) 动量(摆脱局部最小值) 学习率(影响收敛速度与精度) 激活函数及其梯度 f(x)=σ(x)=11+e−x f(x)=\sigma(x)=\frac{1}{1+e^{-x}} f(x)=σ(x)=1+e−x1 有点:连续光滑,压缩在0~1,且计算方便 缺点:梯度消失 f(x)=tanh(x)=(ex−e−x)(ex+e−x)=2sigmoid(2x)−1 \begin{aligned} f(x)=& \原创 2021-05-23 16:08:52 · 88 阅读 · 0 评论 -
PyTorch实践(二)
Broadcast自动扩展 在前面插入一个新的维度 扩展维度为1的维度变为相同的维度 tensor拼接与拆分 函数 作用 torch.cat([a ,b],dim=d) tensor拼接(除d维度其他维度必须相同) torch.stack()原创 2021-04-06 09:50:10 · 86 阅读 · 0 评论 -
PyTorch实践(一)
基本数据类型 torch中所有的数据类型都为tensor(张量) dim为维度,size为某一维的数量 创建tensor 从numpy中创建 torch.from_numpy() 从list中导入 torch.tensor(list) uninitialized Torch.empty() Torch.FloatTensor(d1,d2,d3) Torch.IntTensor(d1,d2,d3) 随机初始化 函数 作用 torch.rand(shape) 从0~1中初始化 torc原创 2021-04-05 00:18:10 · 225 阅读 · 0 评论