Vivianyzw-CSDN博客

原创 Pytorch学习第六讲：实现裁剪后的resnet50

先上一个pytorch里自带的一个版本这个版本实现的比较简洁优雅，但如果你想自己改变一些参数，就比较难调，所以这篇文章，会基于该版本中最基本的一个bottleblock来做一个自己实现的版本，这个版本更方便修改参数，调试等。import torch.nn as nnimport torch.nn.functional as Fimport mathimport torchdef c...

2019-07-22 17:43:43 2458 5

翻译 Grid RCNN 阅读笔记

1. 摘要 Abstract与传统回归不同，Grid RCNN利用全卷积结构来抓取了空间信息。设计一种多点，而非只用两个独立的点，的监督形式来编码更多的线索，为了减少具体的点的不准确推测的影响。为了充分发挥网格点的相关性的优势，我们采用了两阶段融合侧率来融合邻网格点的特征图。网格限制的定位方法很容易拓展到不同的检测框架中。Grid RCNN是高质量的物体检测策略。和Res50的Faster ...

2018-12-26 19:52:15 846

原创 Leetcode

3. 无重复字符的最长子串class Solution {public: int lengthOfLongestSubstring(string s) { vector<int> m(256,-1); int res = 0; int left = -1; for(int i=0;i<s.size()...

2018-09-07 15:00:35 210

翻译 ICML_2018学霸笔记2.1

2.1 深度学习的理论认识：（主讲人：Sanjeev Arora）专业术语：深度网络参数分布D的第ii次训练：损失函数目标：梯度下降：要点：优化概念形成了深度学习理论目标：通过竞争直觉的排序的定理，形成新的观点和概念。新观点的数学基础。演讲概述：优化：什么时候/怎样找到下降方案。尤其是非凸问题。过度参数化/泛化：当参数远大于训练样本时，还有效吗？为...

2018-07-18 14:37:14 515

原创深度学习第一讲：梯度下降算法

主要引自：An overview of gradient descent optimization algorithms梯度下降主要的三种形式：1. 批梯度下降是在整个数据集上计算损失函数关于参数，然后想着梯度相反的方向更新参数，学习率来决定每次更新的量。优点：对于凸函数可以收敛到全局最小值，非凸函数可以收敛到局部最小值。缺点：速度慢，占内存，无法在线更新模型。2....

2018-07-17 15:04:30 494

原创 Pytorch学习第五讲：LSTM网络实现

这里主要记录一下lstm网络的pytorch实现：import torchimport torch.nn as nnfrom torch.autograd import Variableimport torch.nn.functional as Fclass my_lstm(nn.Module): def __init__(self): super(my_lst...

2018-07-16 14:48:03 3640

原创 Pytorch学习第四讲：加载预训练模型

东风的地方1. 直接加载预训练模型在训练的时候可能需要中断一下，然后继续训练，也就是简单的从保存的模型中加载参数权重：net = SNet()net.load_state_dict(torch.load("model_1599.pkl"))这种方式是针对于之前保存模型时以保存参数的格式使用的：torch.save(net.state_dict(), "model/model_1599.pkl")...

2018-07-16 11:04:58 16611 6

原创 Pytorch学习第三讲：训练网络

Pytorch官网也给了训练网络实例：for epoch in range(2): # loop over the dataset multiple times running_loss = 0.0 for i, data in enumerate(trainloader, 0): # get the inputs inputs, labels =...

2018-07-09 15:35:01 1331 1

原创 Pytorch学习第二讲：网络创建

Pytorch官网的例子是一个LeNet网络：import torch.nn as nnimport torch.nn.functional as Fclass Net(nn.Module): def __init__(self): super(Net, self).__init__() self.conv1 = nn.Conv2d(3, 6, 5)...

2018-07-09 14:48:04 1758

原创 Pytorch学习第一讲：数据加载

Pytorch官网上给出了一个关于加载CIFAR10数据集的例子：主要使用了torchvision数据包，里面有一些ImageNet，CIFAR-10和MNIST等常见数据集。加载数据分成三个部分：torchvision.transforms（数据预处理）torchvision.datasets（数据集读取）torchvision.DataLoader（数据集加载）代码实现如下:import to...

2018-07-09 14:23:08 954

翻译 YOLOv3: An Incremental Improvement

YOLOv3: An Incremental ImprovementAbstractWe present some updates to YOLO! We made a bunch of little design changes to make it better. We also trained this new network that’s pretty swell. It’s a litt...

2018-03-28 19:22:49 1651

翻译 MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

Abstact We present a class of efficient models called MobileNets for mobile and embedded vision applications. MobileNets are based on a streamlined architecture that uses depthwise separable convoluti...

2018-03-23 16:34:16 1200

Vivianyzw的博客