- 博客(18)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 从softmax到ArcFace
0. softmaxσi(z)=ezi∑j=1mezj\sigma_i(z)=\frac{e^{z_i}}{\sum_{j=1}^{m}e^{z_j}}σi(z)=∑j=1mezjezi其中，exe^xex的作用：对xxx取exp变为非负数，避免正负值抵消更容易达到终极目标one-hot形式，或者说，softmax降低了训练难度，使得多分类问题更容易收敛。 Soft...
2020-04-09 21:01:09
763
转载 交叉熵的原理
关于交叉熵在loss函数中使用的理解交叉熵（cross entropy）是深度学习中常用的一个概念，一般用来求目标与预测值之间的差距。以前做一些分类问题的时候，没有过多的注意，直接调用现成的库，用起来也比较方便。最近开始研究起对抗生成网络（GANs），用到了交叉熵，发现自己对交叉熵的理解有些模糊，不够深入。遂花了几天的时间从头梳理了一下相关知识点，才算透彻的理解了，特地记录下来，以便日后查阅。...
2020-04-08 15:17:37
667
原创 Linux常用命令：文件压缩，内存挂载
文件压缩与分包要将目录logs打包压缩并分割成多个1G的文件，可以用下面的命令： tar cjf - logs/ |split -b 1024m - logs.tar.bz2.完成后会产生下列文件： logs.tar.bz2.aa, logs.tar.bz2.ab, logs.tar.bz2.ac要解压的时候只要执行下面的命令就可以了：cat logs.tar.bz2.a* | t...
2020-01-08 10:12:14
214
原创 python魔法方法__get_item__
在Python中我们可以使用__get__item__、__len__等方法去创建类似于序列和映射的类。这种方法的好处是可以像列表一样使用索引功能访问元素。魔术方法的作用：getitem(self,key):返回键对应的值。setitem(self,key,value)：设置给定键的值delitem(self,key):删除给定键对应的元素。len():返回元素的数量【注释】只要实现了...
2019-12-05 10:42:13
3120
转载 rsync 的使用方法
文章目录rsync 的命令格式不带任何选项-t 选项-I 选项-v 选项-z 选项-r 选项-l 选项-p 选项-g 和 -o 选项-D选项-a 选项-delete 选项-delete-excluded 选项-delete-after 选项-n 选项-exclude 和 -exclude-from 选项-partial 选项-progress 选项rsync 的命令格式rsync [OPTIO...
2019-11-26 11:05:24
239
原创 pip和anaconda换源
1. pip换源pip换源需要修改文件~/.pip/pip.conf[global]index-url = http://mirrors.aliyun.com/pypi/simple/trusted-host = mirrors.aliyun.com2. Anaconda换源换到国内源conda config --add channels https://mirrors.tun...
2019-11-25 14:12:23
487
转载 轻量级网络ShuffleNet v1
轻量级网络ShuffleNet v1有事没事扯扯淡关注0.0732019.01.10 14:50:55字数 1,803阅读 2,698ShuffleNet paperShuffleNet是旷视科技提出的一种计算高效的CNN模型，其和MobileNet和SqueezeNet等一样主要是想应用在移动端。所以，ShuffleNet的设计目标也是如何利用有限的计算资源来达到最好的模型精度，这需要很好地在...
2019-11-19 10:56:31
221
转载 Group Convolution分组卷积
文章目录写在前面Convolution VS Group ConvolutionGroup Convolution的用途写在前面Group Convolution分组卷积，最早见于AlexNet——2012年Imagenet的冠军方法，Group Convolution被用来切分网络，使其在2个GPU上并行运行，AlexNet网络结构如下：Convolution VS Group Conv...
2019-11-19 09:44:48
407
原创 pytorch一机多卡训练
1. 一机多卡（one matchine multi-GPU）1.1 DataParallelDataParallel（DP）：Parameter Server模式，一张卡位reducer，实现也超级简单，一行代码。有个不能接受的缺陷是：DataParallel是基于Parameter server的算法，所有的loss都在主卡上计算，负载不均衡的问题比较严重，有时在模型较大的时候（比如be...
2019-11-01 17:28:38
2220
4
原创 mxnet-获取所有GPU
mxnet获取当前可用的所有GPU当节点的gpu不确定时，可以使用一下函数获取所有可用GPUmx.test_utils.list_gpus()
2019-10-17 17:36:20
1696
原创 线性代数的本质-教程
【双语字幕】「线性代数的本质」合集第零讲：序言第一讲：向量究竟是什么第二讲：线性组合、张成的空间与基第三讲：矩阵与线性变换第四讲：矩阵乘法与线性变换的复合第四讲附注：三维空间中的线性变换第五讲：行列式的意义第六讲：逆矩阵、列空间与零空间第六讲附注：非方阵第七讲：点积与对偶性第八讲上：叉积的标准介绍第八讲下：以线性变换的眼光看叉积第九讲：基变换第十讲：特征向量与特征值...
2019-10-16 17:01:51
271
原创 设计模式（python）-单例模式
单例模式的理解保证只有一个特定的类型对象，并提供全局访问点目的：确保类有且只有一个对象被创建为对象提供一个访问点，以使程序可以全局访问该对象。控制共享资源的并行访问。应用范围： 日志记录，数据库操作，打印机后台处理程序等。例如：希望使用一个日志类对象，将多个服务的日志信息存储到同一个日志文件中。下面是单例模式的UML图：python实现经典的单例模式class singl...
2019-10-15 21:11:33
551
原创 设计模式（python）-程序设计原则
1. 开放封闭原则开放/封闭原则规定，类或对象及其方法对于扩展来说，应该是开放的，但是对于修改来说，应该是封闭的。简单地说，这意味着当你开发软件应用的时候，一定确保以通用的方式来编写类或模块，以便每当需要扩展类或对象行为的时候不必修改类本身。相反，类的简单扩展将有助于建立新的行为。例如，开放/封闭原则能够在下列情形中表现得淋漓尽致:为了实现所需行为，用户必须通过扩展抽象基类来创建类的实现，而...
2019-10-15 10:12:45
264
原创 详解 YOLO3
YOLOv3没有太多的创新，主要是借鉴一些好的方案融合到YOLO里面。不过效果还是不错的，在保持速度优势的前提下，提升了预测精度，尤其是加强了对小物体的识别能力。本文主要讲v3的改进，由于是以v1和v2为基础，关于YOLO1和YOLO2的部分析请移步YOLO v1深入理解 和 YOLOv2 / YOLO9000 深入理解。YOLO3主要的改进有：调整了网络结构；利用多尺度特征进行对象检测；对象...
2019-10-14 13:38:38
2302
原创 轻量网络 Mobile net
引言卷积神经网络（CNN）已经普遍应用在计算机视觉领域，并且已经取得了不错的效果。图1为近几年来CNN在ImageNet竞赛的表现，可以看到为了追求分类准确度，模型深度越来越深，模型复杂度也越来越高，如深度残差网络（ResNet）其层数已经多达152层。图1 CNN在ImageNet上的表现（来源：CVPR2017）然而，在某些真实的应用场景如移动或者嵌入式设备，如此大而复杂的模型是难以被...
2019-10-14 11:30:03
682
转载 Markdown数学公式语法
Markdown数学公式语法行内与独行行内公式：将公式插入到本行内，符号：$公式内容$，如：xyzxyzxyz独行公式：将公式插入到新的一行内，并且居中，符号：$$公式内容$$，如：xyzxyzxyz上标、下标与组合上标符号，符号：^，如：x4x^4x4下标符号，符号：_，如：x1x_1x1组合符号，符号：{}，如：168O2+2{16}_{8}O{2+}_{2}168O2...
2019-10-14 11:15:49
603
原创 Linux文件加密系统-eCryptfs
eCryptfseCryptFS（Enterprise Cryptographic Filesystem）可翻译为企业级文件加密系统，是Linux系统中的文件加密系统，能够对文件或目录进行加密，且加密级别高，安全性强于一般软件。安装eCryptfssudo apt-get install ecryptfs-utils加密目录创建一个加密目录mkdir -p /disk2/.Pr...
2019-10-14 09:50:03
1901
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人