- 博客(114)
- 资源 (1)
- 收藏
- 关注
RSS订阅
转载 论文笔记模板
Title：Continuous learning of face attribute synthesisSummary写完笔记之后最后填，概述文章的内容，以后查阅笔记的时候先看这一段。注：写文章summary切记需要通过自己的思考，用自己的语言描述。忌讳直接Ctrl + c原文。Research Objective(s)作者的研究目标是什么？Problem Statement问题陈述：作者需要解决的问题是什么？Method(s)作者解决问题的方法/算法是什么？是否基于前人的方法？基于了哪些
2020-12-02 14:08:46
900
原创 YOLO1代码详解
1. 候选区域选择设计label格式，设置真值。def encoder(self,boxes,labels): ''' boxes (tensor) [[x1,y1,x2,y2],[]] labels (tensor) [...] return 7x7x30 ''' grid_num = 14 # 每个网格需要预测B个BBox的位置信息(Region Proposal)和confidence（置信度）信息 # 在PASCAL VOC中，图像
2021-09-21 15:16:27
586
1
原创 灰度共生矩阵：Gray-Level Co-occurrence Matrix
定义https://zhuanlan.zhihu.com/p/147066037https://blog.csdn.net/kmsj0x00/article/details/79463376https://blog.csdn.net/qq_36654309/article/details/106527876https://www.cnblogs.com/rong86/p/3695621.htmlhttps://blog.csdn.net/jialeheyeshu/article/details/5
2021-04-15 19:34:15
3172
1
原创 协方差的行列式值代表的意义
https://math.stackexchange.com/questions/889425/what-does-determinant-of-covariance-matrix-give/889513#889513?newreg=1e6ce152e0ce4c25bc8d7a6cf3e2e6fc
2021-03-24 16:53:36
1805
原创 Pytorch 自定义loss的两种方法
一般来说，Pytorch提供自定义loss的方法，常用的有两种：使用pytorch内部函数直接实现，该方法较为简单，不用人工计算梯度需要Numpy实现，需要自定义反向传播的公式使用Pytorch内部的函数实现的Custom loss function in PyTorchnumpy_extensions_tutorial使用Numpy的函数实现的下面模型来自网络模型入门import torchimport torch.nn as nn# https://blog.csdn.ne
2020-12-27 21:26:26
1509
原创 cuda 10 环境下安装 pytorch_geometric
1. 安装pytorchpip install torch==1.4.0+cu100 -f https://download.pytorch.org/whl/torch_stable.html2. 安装依赖浏览器打开https://pytorch-geometric.com/whl/torch-1.4.0.html然后用wget下载对应python版本的四个依赖，使用pip install安装https://pytorch-geometric.com/whl/torch-1.4.0.htmlht
2020-12-21 18:20:31
468
转载 PyTorch 的 Autograd
写在前面：这篇博客主要是对 pytorch 的自动求导机制进行学习，主要内容来自知乎：PyTorch 的 Autograd文章目录1. 计算图2. 具体实例3. 叶子张量4. inplace 操作1. 计算图假设我们有一个复杂的神经网络模型，我们把它想象成一个错综复杂的管道结构，不同的管道之间通过节点连接起来，我们有一个注水口，一个出水口。我们在入口注入数据的之后，数据就沿着设定好的管道路线缓缓流动到出水口，这时候我们就完成了一次正向传播。计算图通常包含两种元素，一个是 tensor，另一个是 Fu
2020-12-09 10:41:50
156
原创 Realtime Multi-Person 2D Pose Estimation using Part Affinity Field
1 Summary写完笔记之后最后填，概述文章的内容，以后查阅笔记的时候先看这一段。注：写文章summary切记需要通过自己的思考，用自己的语言描述。忌讳直接Ctrl + c原文。2 Research Objective(s)bottom-up approaches to estimate the keypoints of skeleton3 Problem Statementunknow number of people that can occur at any position or sc
2020-12-08 11:06:14
2925
原创 Convolutional Pose Machines
Title：Convolutional Pose Machines1 Summary写完笔记之后最后填，概述文章的内容，以后查阅笔记的时候先看这一段。注：写文章summary切记需要通过自己的思考，用自己的语言描述。忌讳直接Ctrl + c原文。2 Research Objective(s)model long range dependencies between variables in structed prediction task.3 Problem Statementkey pro
2020-12-07 15:30:24
777
原创 GmFace: A Mathematical Model for Face Image Representation Using Multi-Gaussian
Title：Continuous learning of face attribute synthesis1. SummarySupported by the theory that finite multi-Gaussian functions can approximate any non-negative integrable functions on a real number with arbitary accuracy. Author set the Gaussian function a
2020-12-06 01:42:15
229
原创 4.1 百度飞桨GCN代码解析
这里写目录标题1. 引入数据3. 定义数据2. 定义model and data2.1 定义数据读取方式2.2 定义model2.2.1 GCN函数2.2.2 fluid.layers.gather(output, node_index)函数三级目录1. 引入数据从库中读取数据正则化数据import pglfrom pgl import data_loaderimport paddle.fluid as fluidimport numpy as npimport timeimport
2020-12-04 01:24:42
990
原创 3-1 图游走算法-link predict
系列文章目录1 图的度量2 PageRank3 图游走算法文章目录系列文章目录前言一、整体框架二、代码解读1.读取数据集2.划分训练集和测试集3.构建model3.1 feed 数据4. 训练5. 总结前言在 3 图游走算法 中简单介绍了图游走算法的原理和实现，这一章算是图游走算法的一个应用，算是作为一个补充。PS：日常感谢度娘：[实战二] 图神经网络七日打卡训练营——图游走算法核心代码实现github地址一、整体框架通过图随机游走算法，我们得到了每个节点的embedding
2020-11-30 02:04:08
527
1
原创 3 图游走算法
文章目录一个简单的图首先创建安装环境创建一张图定义图模型图游走算法，到底要干啥？一个通俗的例子Word2Vec感谢百度，感恩度娘，百度飞桨-图神经网络一个简单的图首先创建安装环境# 安装 PaddlePaddle 框架pip install paddlepaddle==1.8.5# 安装 PGL 学习库!pip install pgl创建一张图import pglfrom pgl import graph # 导入 PGL 中的图模块import paddle.fluid
2020-11-28 14:08:56
2349
6
原创 图-Traversal
图的两种遍历何谓遍历：从图中某一顶点出发，访遍图中其余顶点，且使每一个顶点仅被访问一次，这一过程谓之图的遍历（Traversing Graph）深度优先遍历（Depth First Search）该方法相当于一根筋走到底，以图1左边为例。假设每次都选择右边的路口，当右边无路可走或者已经走过时，返回上一个节点，选择左边的路口。遍历路线为：A-B-C-D-E-F-G-H-I邻接矩阵思路：1.需要一个数组存储哪些顶点遍历过，哪些顶点没有遍历。visitied = []2.其实是一个递归的过程，
2020-09-27 13:34:31
164
转载 RGB与YCBCR颜色空间转换及python实现
文章目录问题描述解决方案原理1. 灰度值与亮度的关系RGB颜色空间与颜色控制YCbCr颜色空间及与RGB的变换关系问题描述在处理鱼类行为图像时，遇到这样一个问题，拍摄的鱼类视频数据，经过背景相减、中值滤波的结果如下图所示：可以看到，由于水面光源倒影反光的问题，导致在将鱼类进行分割的时候，总是会把光源算进去，就很烦。解决方案在17年浙江大学赵建博士论文《循环水养殖游泳型鱼类精准投喂研究》中，提到了这样一段话：利用背景去除法对复杂实验环境下的鱼群目标前景分割具有重要意义。图2.2为本章研究中典
2020-09-25 08:45:21
8752
4
原创 相机标定原理
1 基本概念介绍几个基本的定义：世界坐标系（object space）：代表物体在真实世界里的三维坐标，坐标系用Xw,Yw,ZwX_w,Y_w,Z_wXw,Yw,Zw表示。相机坐标系：代表以相机光学中心为原点的坐标系，光轴与z轴重合，坐标系统Xc,Yc,ZcX_c, Y_c, Z_cXc,Yc,Zc表示。图像坐标系（film plane）：代表相机拍摄图像的坐标系，原点为相机光轴与成像平面的交点，是图像的中心点，坐标系用X,YX,YX,Y表示像素坐标系（projection plan
2020-06-29 07:18:10
618
翻译 三维重建之DLT method
1 基本概念我们的目标是，首先在真实世界中选取特定的点，测量其坐标（这个是人为可以测量得到的），然后观察它在图像中的坐标，估计相机的内、外参数，利用相机的内外参数，就可以计算真实世界中任意点的坐标。2 引言我们使用摄像机对物体进行拍摄时，本质上是将object space中的点OOO映射到film plane中的图像点I′I'I′上，具体关系如图1a所示；而数字化的又是将图上的点再次映射到projection planeIII上，具体关系如图1b所示。但是通常情况下，为了简单起见，人们一般都是将o
2020-06-29 07:16:58
838
翻译 Reinforcement Learning——Chapter 2 Multi-armed Bandits
1. Perface强化学习与其他学习方法最大的区别在于，强化学习 it uses training information that evaluates the actions taken rather than instructs by giving correct actions.1.1 A k-armed Bandit Problem假设你面前有K个不同的选项，每一次选择都会你选择的选项中得到一个量化的reward，你的目标是使得一段时间后获得的reward累积最大。一个具体的例子是这样的：
2020-05-10 09:14:31
372
翻译 Reinforcement Learning——Chapter 1 Introduction
Introduction强化学习是一种从与环境交互中直接获得goal-direxted learning的方法。1.1 Reinforcement Learning强化学习有两个主要的特征：trial and error（不停的试错）和delay reward（延迟反馈）。强化学习要解决的三个内容：work well on the problem， the field that studi...
2020-05-07 02:26:32
312
原创 神经网络——（GAN之二）
1. GAN的理论在图片生成过程中，我们的目标其实是存在一定的分布的，假设在整个图像空间中，蓝色部分的点可以生成人脸，其他区域的脸则不能生成人脸。那么，我们的目的是寻找蓝色区域的概率密度函数1.1 最大似然估计与GAN一般的思路是：我们通过sample数据集，去估计给定数据（输入数据）的分布，记为Pdata(x)P_{data}(x)Pdata(x)，因此，使用网络的目的是，找到一堆参数...
2020-04-27 08:54:39
421
原创 神经网络基础——（GAN之一）
1. Basic idea of GAN1.1 基本思路在实际的code中，往往将Generator和Discriminator合起来当做一个巨大的network，input是vector，output就是一个value，固定D的参数，update G网络。1.2 具体算法我们的目标是希望V~\widetilde{V}V越大越好，D(xi)D(x^i)D(xi)是D 网络对真实数据...
2020-04-26 12:20:40
607
原创 强化学习 —— （5）Sparse Reward
1. Reward 问题通常情况下，agent每一步操作有一个reward对应，但是，当reward非常稀疏时怎么办，可能三四步甚至更多才能产生reward。1.2. reward shaping环境有一个固定的reward，为了引导agent，需要我们自己设计规则制定reward。在设计类游戏中，人为指定的规则为：1.2.1 增加好奇模块在Intrinsic Curiosity ...
2020-04-20 14:44:01
867
原创 强化学习 —— （4）A3C
1. Policy Gradient的不足在Policy Gradient中，提到，Policy Gradient 算法在计算Reward时需要对数据进行采样：在采样的过程中，有很大的随机性，不太稳定。那么，能不能直接通过估计GtnG_t^nGtn的期望值，使用期望值来代替sample的值，这样可以保证稳定性。2. 改进方法Actor-Critic 的 Actor 的前生是 Polic...
2020-04-20 13:30:14
316
原创 强化学习——（3）Q-Learning
1. Q-learning 介绍1.1 Criticcritic 本身并没有办法决定要采取哪一个action，其主要用来完成：衡量一个action到底好不好。只能基于当前的state，输出采取这个action，预期到整个游戏结束时候的累积得分。简单的说，critic并不能衡量一个state(记为sss)的好坏，只能衡量在give某个state，接下来使用action(记为π\piπ)的情况下...
2020-04-15 22:50:14
1136
原创 强化学习——（2）PPO
1. On-policy与Off-policyOn-policy：学习到的agent既是与环境互动的policy，也是我们需要学习的agent。Off-policy：学习到的agent和与环境互动的policy是两个不同的agent1.1 为什么会从On-policy到Off-policy？在这篇文章中提到的算法是On-policy的，其所学习的agent在每一轮游戏完成之后，因为参数改变...
2020-04-15 01:42:48
746
翻译 GNN模型系列（一）——Vanilla GNNs
1. Introduction图是一种由对象（节点）和关系（边）组成的数据结构。图结构可以作为社交网络、神经科学、物理系统、知识图谱以及其他领域。作为典型的非欧式空间中的数据，图结构模型可以归类为：节点分类、边的预测以及整体聚类三大类。节点层面的任务节点层面的任务主要包括分类任务和回归任务，这类任务虽然是对节点层面的性质进行预测，但是需要考虑节点的关系。应用场景：对论文引用网络的论文节点...
2020-04-10 15:53:09
6298
原创 图卷积神经网络（0）——发展历程
视频来源：图神经网络在线研讨会20201. GNN在干什么目前较火的CNN在欧式空间中已经表现出了强大的处理能力，其最大的特点在于平移不变性，这种特性能够很好的处理欧式空间的中的数据，但是， 图则是一类典型的非欧数据。如下图右侧所示。因为图没有一个固定的结构，因此，CNN的卷积特性（平移不变性）不能够直接用于图结构的数据。2. 卷积的原理卷积操作其实是两个函数的数值运算，即上图中的f...
2020-04-04 23:26:09
4719
原创 分级聚类方法
文章目录1. 算法思想2. 具体步骤3. 两个类之间的相似性度量4. 缺点1. 算法思想分级聚类方法（hierachical clustering）。聚类的结果可能是NNN类也可能是111类。因此，在归类的过程中可以从NNN类到111类逐级地进行类别划分，求得一系列类别数从多到少的一个分类方案，然后根据一定的指标选择中间某个适当的划分方案作为聚类的结果。2. 具体步骤初始化，每个样本自...
2020-03-30 10:22:09
2508
原创 XGBoost
1. 目标函数：假设有XGBoost模型中由kkk棵树组成，则可以预测值可以由K棵树的预测结果相加得出，第kkk棵树模型表示为fk(x)f_k(x)fk(x)：1.1 树的复杂度树模型的复杂度主要有以下三种：叶子结点个数树的深度叶节点的值（假设预测值为1000，每棵树的值预测值在100到200之间，此时只需要10棵树左右，如果降低叶子结点的值，则需要更多的树拟合目标值。因此树的复...
2020-03-27 22:28:45
346
原创 C均值聚类
文章目录1. 基本思路2. 样本在类间调整思路3. 具体步骤4. 初始化类的方法4.1 选择代表点4.2 初始类划分5. 参考文献1. 基本思路通过迭代寻找c个聚类的一种划分方案，使这c个聚类的代表点——各类样本的均值所得到的总体误差最小。假设第iii类样本集合τi\tau_iτi的数目为NiN_iNi，则该类样本均值向量为mi\boldsymbol{m_i}mi的计算公式为：mi=...
2020-03-27 20:03:40
4095
原创 概率图模型基础(1)——简介
概率图模型基础之一：简介1. 分布及其因子操作1.1 联合分布1.2 联合分布与条件分布(Condition Probability Distribution, CPD)的一些计算1.2.1 Reduction1.2.2 Renormalization1.2.3 Marginalization2. Factors2.1 Factor定义2.2 Factor的运算2.2.1 product2.2.2...
2020-03-27 16:13:37
453
原创 主成分分析
文章目录1. 背景2. PCA简介3. 具体原理3.1 二维的情况3.1.1 目的3.1.2 推导过程3.2 多维的情况1. 背景在统计分析中，数据之间的变量可能存在相关性，也就是说，数据集中某个样本的特征是一个mmm维的向量，x=[xd1,xd2,...,xdm]\boldsymbol{x}=[x_{d1}, x_{d2}, ..., x_{dm}]x=[xd1,xd2,...,xdm...
2020-03-27 15:32:01
352
原创 Attention专场——（2）Self-Attention 代码解析
原文地址1. 参考资料Attention Is All You Need - NIPS 2017: 5998-6008 - 论文链接transformer原理参考文章transformer中文讲解视频(简单)transformer中文讲解视频(进阶)哈佛大学的ptorch版transformer代码实现自注意力与位置编码2. 模型架构编码器将输入序列(x1,x2,...,xn...
2020-01-22 16:45:29
10612
4
原创 label smoothing
1. dirac函数狄拉克(dirac)函数是一个广义函数，在物理学中常用其表示质点、点电荷等理想模型的密度分布，该函数在除了零以外的点取值都等于零，而其在整个定义域上的积分等于1。————————————————原文链接：https://baike.baidu.com/item/%E7%8B%84%E6%8B%89%E5%85%8B%CE%B4%E5%87%BD%E6%95%B0/576...
2020-01-19 11:00:53
513
原创 Attention专场 ——（1） 简介
文章目录1. 基于注意力机制的编码器解码器1.1 整体流程1.1.1 基本概念计算 value先计算Query和key1.2 具体说明1.2.1 计算背景变量1.2.2 矢量化计算1.2.3 更新隐藏状态1.3 抽象成Query、Key、Value3. 通用的一些技巧3.1 regularization attention3.2 Mismatch test data1. 基于注意力机制的编码器解...
2020-01-15 21:58:11
469
原创 1 图的度量——cs224w
1. 怎么衡量一个网络有四个指标：1.1 Degree Distribution度的分布直方图：统计不同度的个数。将其归一化后，则反映了其分布1.2 path有向图和无向图之间距离的长度不同有了节点之间的度量方式，我们需要了解一对节点之间的最大/最小距离。1.3 cluster coefficient聚类系数起源于社交网络。在这里老师举了一个栗子：如果A和B是朋友，B和C是...
2020-01-04 15:49:19
1037
原创 0 图神经网络序言——cs224w
1. 简介1.1 世界中的图在真实世界中，每个人都不是独立的个体，人们通过交流和电话进行信息的沟通，这都都是图的一部分。我们想要知道他们都代表什么意思，就需要将这些关系进行编码，也就是图的表示。例如：在生物提供，各种分子的结构、细胞之间的协同工作方式，都是图的一种。科学文章之间的引用搜索引擎之间的关系1.2. 研究图的目的图建模的目标就是将自然界中的关系通过数学语言进行描述，...
2019-12-26 14:56:15
359
翻译 图神经网络（2）—— 图数据预处理
deep walkDeepWalk方法是第一个提出用node embedding的无监督算法。其训练过程与词向量方法有很大程度的相似度。原理是将图中节点的分布与文本中的单词分布一样，将具有相似特征数据映射到相近的坐标空间中。这个算法包含两个步骤：在图上进行随机游走，最后产生节点的序列。在节点度为1的情况下，以输入节点为中心节点，生成周边节点。每一次随机游走，我们都会根据之前的一个节...
2019-12-16 17:12:51
2976
原创 numpy快速one-hot编码
#设置类别的数量 num_classes = 10 #需要转换的整数 arr = [1,3,4,5,9] #将整数转为一个10位的one hot编码 print(np.eye(10)[arr])```
2019-12-15 10:15:07
357
reinforce learning.pdf
2020-05-07
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人