- 博客(744)
- 资源 (4)
- 收藏
- 关注
RSS订阅转载 在用交叉熵损失函数时，只希望惩罚0.4-0.6这样模糊的值，应该怎么改？
比如二分类问题，把label为0的预测成0.1，label为1的预测成0.9，这样已经可以了，我希望神经网络更关注那些预测在0.5左右的难以分割的样本（虽然在bp的时候0.5会有更大的梯度），感觉上有点像SVM，我可以怎么做呢？修改损失函数或者在计算损失时过滤掉预测得很好的样本？这样做有没有必要呢？作者：Chaves链接：https://www.zhihu.com/question/366389643/answer/979361929来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转
2020-05-11 18:02:07
508
转载 损失函数改进方法总览
损失函数改进方法总览https://blog.csdn.net/u014380165/article/details/76946358这篇博客主要列个引导表，简单介绍在深度学习算法中损失函数可以改进的方向，并给出详细介绍的博客链接，会不断补充。1、Large Marge Softmax LossICML2016提出的Large Marge Softmax Loss（L-softmax）通过在传统的softmax loss公式中添加参数m，加大了学习的难度，逼迫模型不断学习更具...
2020-05-11 17:46:28
889
转载 深度学习-LeCun、Bengio和Hinton的联合综述
深度学习其实要入门也很简单，不要被深度学习、卷积神经网络CNN、循环神经网络RNN等某些“高大上”的专有名词所吓到或被忽悠，要相信大道至简，一个高中生只要愿意学也完全可以入门级了解并依赖一些成熟的Tensorflow、pytorch等框架去实现一些常用模型。有关《深度学习》的综述或翻译已有很多，在此不在赘述，深度学习是机器学习的一种，今天将从更广的视觉来分析。图1 深度学习是机器学习的子问题1.机器学习 机器学习（Machine Learning, ML)是指利用机器（计算机）...
2020-05-11 10:31:56
561
转载 人脸识别中的margin损失函数
用于人脸识别的损失函数，有Softmax，Contrastive Loss，Triplet Loss，Center Loss，Norm Face，Large-Margin Loss，A-Softmax Loss，InsightFace等等，这篇文章简单聊聊近年的margin损失函数。margin损失函数：Large-margin Softmax(L-Softmax) Sphereface(A-Softmax) Additive Margin Softmax(AM-Softmax) CosFac
2020-05-10 21:14:42
1267
转载 【论文理解】ArcFace: Additive Angular Margin Loss for Deep Face Recognition（InsightFace）
论文地址：https://arxiv.org/abs/1801.07698github：https://github.com/deepinsight/insightface这篇论文基本介绍了近期较为流行的人脸识别模型，loss变化从softmax一路捋到CosFace，然后提出ArcFace，可以说起到很好的综述作用。论文评价对比方面也做了非常详细的对比策略方案分析。数据清洗工作也对后续研究应用有较大意义。数据和代码都开源，相当良心。本文主要工作概述：在三个影响人脸识别模型精度的主要因素上都
2020-05-09 22:22:31
479
转载 【CVPR 2018】腾讯AI lab提出深度人脸识别中的大间隔余弦损失
论文导读】 深度卷积神经网络（DCNN）在人脸识别中已经取得了巨大的进展，通常的人脸识别的核心任务都包括人脸验证与人脸识别，涉及到特征判别。很多模型都是使用Softmax损失函数去监督模型的训练，但是现在已经有资料证明，Softmax loss缺乏足够的在分类任务上的判别力，所以取得的效果也不是最好的。针对这个问题，本文设计了一个新的损失函数，我们称之为大间隔余弦损失。Figure 1图 1：我们提出的 CosFace 框架。在训练阶段，带有大间隔（large margin）的具有判别性的面部
2020-05-09 18:13:42
513
转载 Latex论文作者与单位排版
一、不同作者属于同一个单位（选自http://bbs.ctex.org/viewthread.php?tid=38040&page=2）\author[add1]{Aaron\corauthref{cor1}},% Aaron是第1个单位的作者，且是通讯作者\ead{**@**.edu.cn} \corauth[cor1]{Corre...
2020-04-13 22:48:17
41859
转载 Windows+PHP5.6环境下安装imagick扩展和imagemagick 三五行代码实现PHP抠图
查看phpinfo()信息 其实回过头看,安装过程中最容易出错的反而是下载阶段,一定要将imagemagick和imagick的版本和phpinfo的信息对应好!下图中几点需要注意,每个人的信息可能不同,根据你自己的phpinfo来选择接下来的下载的程序及扩展版本:PHP Version: PHP版本 compiler: MSVC11 Architecture: x86 Thre...
2020-03-14 22:05:16
1136
转载 python3一键排版证件照（一寸照、二寸照），附源代码
又到了一年一度办公园年卡的日子了，每年需要一张一寸照片，库存今年告罄如果拿着一寸照片去冲印，商家那个冲印的价格可比冲印普通照片不知道贵了多少呗（目测10倍以上）其实是一样的相纸啊于是乎，为了省这点钱就自己排版好了如果选用工具的话，不会ps的推荐“光影魔术手v3.1.2”（最新版感觉不太好用）but，作为一个技术宅，我当然是选择自己来实现啦！...
2020-03-03 23:18:58
3208
1
转载 基于深度学习识别模型的缺陷检测
根据读者反映，咱们的这个PCB素材设置的不对，应该是没有漆，铜线等等，应该是黑白的。额，具体我也知道，但没去过工厂，实在很难获得这些素材。。。所以就当是一次瑕疵识别的实践，具体的数据集你可以自己定义。代码在Github:Source code : https://github.com/Ixiaohuihuihui/Tiny-Defect-Detection-for-PCB一点心路历程，供需...
2020-03-01 23:48:37
3137
3
转载 latex 公式转为 word 公式
真是惨，帮同学改论文，发现因版本不兼容，公式全部转为图片了，需要将公式的图片转为 word 公式： 先使用mathpix将图片转为 latex。mathpix软件下载地址：https://mathpix.com/mathpix的使用是ctrl+alt+m。 再将latex 转为 word 公式。 这个可以有两种方式： 采用LaTex2Word-Equation。 可...
2020-02-06 22:53:12
2273
转载 结合深度学习的图像修复怎么实现？
作者：QZhang链接：https://www.zhihu.com/question/56801298/answer/155891603来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。019.09.02更新，目前共整理了15篇论文，仅供学习参考附: inpainting这个坑在CV大家族里是个相当小众的方向了，然而做了三年才发现这是个大坑...DL+...
2020-02-04 23:41:16
1862
转载 O-GAN：简单修改，让GAN的判别器变成一个编码器！
2019-03-08 08:36作者丨苏剑林单位丨广州火焰信息科技有限公司研究方向丨NLP，神经网络个人主页丨kexue.fm本文来给大家分享一下笔者最近的一个工作：通过简单地修改原来的 GAN 模型，就可以让判别器变成一个编码器，从而让 GAN 同时具备生成能力和编码能力，并且几乎不会增加训练成本。这个新模型被称为O-GAN（正交 GAN，即 Orthogonal...
2020-01-17 09:54:37
1104
转载 去噪、去水印、超分辨率，这款不用学习的神经网络无所不能
同的神经网络可以实现给图像去噪、去水印、消除马赛克等等功能，但我们能否让一个模型完成上述所有事？事实证明 AI 确实有这样的能力。来自 Skoltech、Yandex 和牛津大学的学者们提出了一种可以满足所有大胆想法的神经网络。事情是这样的：研究人员们让一个深度卷积网络去学习复制被破坏的图像（例如加入噪点的图像），随后竟发现这个网络可以自行先学会如何重建图像。该研究的论文《...
2020-01-02 12:55:54
447
转载 卷积:kernel size/padding/stride
卷积的原理卷积尺寸变化输出尺寸=(输入尺寸-filter尺寸+2*padding)/stride+1宽和高都是这么计算的；输入图片大小为200×200，依次经过一层卷积（kernel size 5×5，padding 1，stride 2），pooling（kernel size 3×3，padding 0，stride 1），又一层卷积（kernel size 3×3，padding ...
2019-12-27 08:45:41
774
转载 pytorch中网络loss传播和参数更新理解
相比于2018年，在ICLR2019提交论文中，提及不同框架的论文数量发生了极大变化，网友发现，提及tensorflow的论文数量从2018年的228篇略微提升到了266篇，keras从42提升到56，但是pytorch的数量从87篇提升到了252篇。TensorFlow: 228--->266Keras: 42--->56Pytorch: 87--->252在使...
2019-12-19 17:04:09
626
转载 Python中glob.glob的排序问题
python的glob模块，我们可以用它批量抓取某种格式、或者以某个字符打头的文件名import globimport numpy as npimport linecacheimport osfilenames = glob.glob(path+"res*.txt")//filenames = glob.glob("*.txt")for filename in filename...
2019-11-28 09:19:58
3705
2
转载 pytorch 查看模型参数，查看模型特定层输入输出，模型结构图绘制总结
1 参考链接大杂烩https://zhuanlan.zhihu.com/p/33992733绘制图形时候记得安装graphviz插件https://stackoverflow.com/questions/35064304/runtimeerror-make-sure-the-graphviz-executables-are-on-your-systems-path-aft画模型...
2019-11-26 21:43:41
1907
转载 画pytorch模型图，以及参数计算
刚入pytorch的坑，代码还没看太懂。之前用keras用习惯了，第一次使用pytorch还有些不适应，希望广大老司机多多指教。首先说说，我们如何可视化模型。在keras中就一句话，keras.summary()，或者plot_model()，就可以把模型展现的淋漓尽致。但是pytorch中好像没有这样一个api让我们直观的看到模型的样子。但是有网友提供了一段代码，可以把模型画出来...
2019-11-26 21:39:41
345
转载 研习U-Net++
Author:Zongwei Zhou| 周纵苇Weibo:@MrGiovanniEmail:[email protected]:UNet++: A Nested U-Net Architecture for Medical Image SegmentationCode:github.com/Nested-UNetTalk:研习U-Net--现有的分割网络...
2019-11-25 12:38:13
523
转载 Hiding Images in Plain Sight: Deep Steganography 于众目睽睽之下隐藏图像：深度隐写术
Hiding Images in Plain Sight: Deep Steganography于众目睽睽之下隐藏图像：深度隐写术1.摘要隐写术是将秘密信息隐藏在另一条普通信息中的一种实践。通常，隐写术用于在较大图像的嘈杂区域中不显眼地隐藏小消息。在本研究中，作者尝试将一个全尺寸彩色图像放置在另一个相同尺寸的图像中。深层神经网络同时被训练来创建隐藏和揭示过程，并被设计成专门作为一对工作。...
2019-11-18 12:27:50
4445
6
转载 stylegan生成循环gif图片
style参考地址：https://github.com/NVlabs/stylegan生成gif参考地址：https://github.com/parameter-pollution/stylegan_paintingspaper地址：https://arxiv.org/abs/1812.04948"""generating cycle gif images"""import os...
2019-10-26 10:52:43
611
转载 爬虫之手机APP抓包教程-亲测HTTP和HTTPS均可实现
当下很多网站都有做自己的APP端产品，一个优秀的爬虫工程师，必须能够绕过难爬取点而取捷径，这是皆大欢喜的。但是在网上收罗和查阅了无数文档和资料，本人亲测无数次，均不能正常获取HTTPS数据，究其原因是手机端证书安装不正确所致，故编写文章以帮助后来的小伙伴。当下抓包工具有Fiddler，Charles，wireshark等，手机APP最常用的是Fiddler和Charles，而wireshark...
2019-09-10 16:38:49
1252
转载 PyTorch复现SRGAN算法核心代码（带注释）
train.pyimport argparseimport osfrom math import log10import pandas as pdimport torch.optim as optimimport torch.utils.dataimport torchvision.utils as utilsfrom torch.autograd import Variabl...
2019-09-03 09:01:40
5808
12
翻译 在两幅图像之间获得正确（最小二乘意义）仿射变换参数affine points via least square method
我有两个想要计算仿射运动模型参数的图像。我使用的模型是$$ x'= a_1x + a_2y + a_3 $$ $$ y'= a_4x + a_5y + a_6 $$为了计算这6个参数，我在两个图像之间选取了6个点（超定系统），并进行了计算这些参数使用MATLAB（A = X \ X_primes）。但是，当我应用转换时，即使我选择的点（X）也不会转换为指定的位置（X_prime）。我推断我的最小二...
2019-08-28 15:29:31
620
转载 手把手教你深度学习ai变证件照尺寸+改背景色
求职接近尾声，快毕业的你拿到心仪offer了吗？除了做简历，生活中需要证件照的地方也很多。毕业证、身份证、工作证、出入证、旅游签证…懒得为不同底色、不同尺寸的照片，一遍遍去照相馆？改尺寸、换背景色，一文解决！转起留存！来源：人民日报微博...
2019-08-19 15:38:05
13883
1
转载 Opencv-Python学习笔记五
本篇笔记主要记录Opencv里的图像翻转，平移，旋转，仿射及透视功能，主要是下面几个API:cv2.flip() # 图像翻转 cv2.warpAffine() ＃图像仿射 cv2.getRotationMatrix2D() ＃取得旋转角度的Matrix cv2.GetAffineTransform(src, dst, mapMatrix) #取得图像仿射的matrix cv2.get...
2019-08-16 15:12:45
280
转载 引子 我想大家应该都很熟悉DNS了，这回在DNS前面加了一个D又变成了什么呢？这个D就是Dynamic(动态)，也就是说，按照传统，一个域名所对应的IP地址应该是定死的，而使用了DDNS后，域名所对应
引子我想大家应该都很熟悉DNS了，这回在DNS前面加了一个D又变成了什么呢？这个D就是Dynamic(动态)，也就是说，按照传统，一个域名所对应的IP地址应该是定死的，而使用了DDNS后，域名所对应的IP是可以动态变化的。那这个有什么用呢？比如，在家里的路由器上连着一个raspberry pi(树莓派)，上面跑着几个网站，我应该如和在外网环境下访问网站、登陆树莓派的SSH呢？还有，家里的...
2019-08-15 15:59:29
286
转载 你们要的圣诞帽～ Python实现
借鉴了公众号：crossion首先你需要自己配置好opencv环境window或者linux网上都有教程的～或者更懒点，直接网上下haarcascade_frontalface_default.xml拿来用就行～（我就是......）代码如下：#coding=utf-8import cv2import random# OpenCV 人脸检测face_patterns...
2019-08-08 15:47:41
108
转载 Google Colab简介
! git clone https://github.com/bluer555/CR-GAN.gitimport osos.chdir("drive")os.chdir('../')!unzip crop_0907.zip!unzip multi_PIE_crop_128.zip!unzip -o -q multi_PIE_crop_128.zip% ls cd content...
2019-07-23 17:09:00
6033
转载 源码剖析transformer、self-attention（自注意力机制）原理！
首先给大家引入一个github博客，这份代码是我在看了4份transformer的源码后选出来的，这位作者的写法非常易懂，代码质量比较高。https://github.com/Separius/BERT-keras这篇文章主要跟大家分享四个点：多头机制(multi-head)、LN和GELU、位置编码。在这再给大家安利几篇博客，便于大家更具体的理解自注意力的内在原理。https://z...
2019-07-12 09:29:13
3509
转载 深度学习中 Embedding层两大作用的个人理解
前一个月接触到一个概念，Embedding层。今天跟大家分享一下个人心得。首先，我们有一个one-hot编码的概念。假设，我们中文，一共只有10个字。。。只是假设啊，那么我们用0-9就可以表示完比如，这十个字就是“我从哪里来，要到何处去”其分别对应“0-9”，如下：我从哪里来要到何处去01234...
2019-07-12 09:27:08
348
转载 CR-GAN系列1：CR-GAN:Learning Complete Representations for Multi-view Generation的训练
paper:https://sites.google.com/site/xipengcshomepage/research/ijcai18code:https://github.com/bluer555/CR-GAN在开始前我先提醒各位进行的小伙伴，本篇文章的训练所需要的数据集相当大（10G有多吧），所以你们需要开足vpn才能去下载这个庞大的数据集，不然就不要训练了。CR-GAN是用...
2019-07-10 16:27:46
458
转载 pytorch方法测试——损失函数（CrossEntropyLoss）
import torchimport torch.nn as nnimport mathloss = nn.CrossEntropyLoss()input = torch.randn(1, 5, requires_grad=True)target = torch.empty(1, dtype=torch.long).random_(5)output = loss(input, targ...
2019-07-09 10:26:58
833
转载 亚马逊推出了SecureCRT免费的云主机服务器 Amazon EC2，
chmod 600 /home/xiaoqiang.he/.ssh/*亚马逊推出了免费的云主机服务器 Amazon EC2，它是通过安全密钥来访问主机的。问题是下载的密钥在SecureCRT 上无法直接使用，需要转换。ubuntu下面的方法可以在自己的linux主机上生成securecrt需要的密钥。首先在 AWS 管理面板中生成密钥对。将密钥上传到一台自己的linux主机...
2019-07-04 20:07:25
545
转载 Python实现阿里云aliyun服务器里的文件上传与下载
Python实现阿里云服务器里的文件上传与下载Python实现阿里云服务器里的文件上传与下载背景：正文：预备环境：构想：实现：注意：结尾018.4.15背景：老实说，因为现实的各种原因造成电脑换来换去是可能出现的事情，但是电脑能换，电脑里的环境却不能换。我就曾在三个电脑里各自安装了虚拟机，这样一来，所有考虑到的情况下都可以好好编程了。本来该自鸣得意的时候，可别忙，环境的安装...
2019-07-04 10:45:32
464
转载 Pytorch第六课：package-torch.nn详解（2）之 网络结构组建
本节要点：1 卷积层2 池化层3 非线性激活层4 正则层5 循环层6 线性层7 Dropout层8 Sparse层9 Veision层10 Multi-GPU层1 卷积层1.1 一维卷积层类名：class torch.nn.Conv1d(in_channels, out_channels, kernel_size, stride=1, paddin...
2019-07-02 13:40:03
558
转载 Pytorch第二课：package-torch（2） 之数学操作
本节要点：1 逐点计算操作2 缩减操作3 比较操作4 其他操作5 线性代数操作1 逐点计算操作# 导入包import torch12# 1.计算绝对值a = torch.FloatTensor([-1, -10])a_abs = torch.abs(a)print(a_abs)1234tensor([ 1., 10.])1# 2.计算余弦...
2019-07-02 09:21:14
649
转载 torch---pytorch常用函数（持续更新中.......）
随机抽样类函数1.torch.manual_seed(seed)设定生成随机数的种子，并返回一个torch._C.Generator对象参数：seed(int or long)种子2.torch.initial_seed()返回生成随机数的原始种子（pathon long）3.torch.get_rng_state()返回随机生成器状态（Byte Tensor）4....
2019-07-01 15:29:08
954
转载 tensorflow的mnist改写成pytorch
最近公司使用算法要用pytorch，所以本人暂时放弃使用tensorflow，为了练手pytorch，本人首先使用pytorch将tensorflow版本的mnist转换成pytorch版本，tensorflow原版本如下所示：from tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_d...
2019-07-01 15:25:53
419
dlib安装 dlib-19.19.0-cp38-cp38-win_amd64.whl.whl
2022-04-20
dlib-19.17.99-cp37-cp37m-win_amd64.whl
2022-04-20
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人