小小小草儿的博客哟

问题描述我们在跑深度学习程序的时候，经常会遇到CUDA out of memory，一些简单的方案比如缩小Batch Size及时的把不用的变量移动到CPU上执行empty_cache()避免GPU变量累积，例如涉及到GPU变量的跨轮次的加操作和append操作如果上述的方法依然没有解决问题，可以通过分析GPU上的变量来进行相关的调试：def debug_memory(): import collections, gc, resource, torch print('max

samba入门实践--测试可行1. 需求2. 实践3. 参考链接1. 需求有两台电脑，一个windows，一个ubuntu，在一个局域网中，常常需要进行文件的传输和共享，但是依赖U盘过于繁琐，于是开始部署一个samba服务。2. 实践这里有一个文档：https://ubuntu.com/tutorials/install-and-configure-samba#1-overview其中涉及到samba服务安装和一些常规操作，nano是一个类似于vim的软件，因此也可以使用vim或者gedit。

一：简介算法全名：Attention-based Graph Neural Network for Semi-supervised Learning论文链接：https://arxiv.org/abs/1803.03735如题目所说，本论文提出的模型是针对于半监督学习领域的一种算法，是一种基于注意力机制的图神经网络。该算法简称为AGNN，在提出AGNN之前，作者介绍了三个算法的大致思路，...

1.简介虽然Pytorch-Geometric提供了很多官方数据集，但是当需要构建自己的数据集的时候，就需要对如何使用dataset基类构造自己的数据集有所了解。库中提供了两个构建数据集的基类：torch_geometric.data.Dataset和torch_geometric.data.InMemoryDataset，其中torch_geometric.data.InMemoryDatas...

1.理论基础将普通的卷积过程推广到非规则数据领域一般是通过邻域聚合或者信息传递机制。xi(k−1)∈RFx^{(k-1)}_i∈R^Fxi(k−1)​∈RF表示在第k-1层节点i的节点特征，ej,i∈RDe_{j,i}∈R^Dej,i​∈RD表示从节点j到节点i的边的特征（可选参数），那么图神经网络中的信息传递机制就可以表示为：其中□ 表示一种可微的、置换不变的函数，比如求和、取均值或者最大...

【1】安装Anaconda3.7。【2】在用户环境变量中配置Anaconda的路径，但是在cmd中无法运行python；于是将其添加到系统环境变量的Path中，可以在cmd中运行。（总结：如果要在cmd上执行某脚本，要将其环境变量添加到系统环境变量的Path下面）【3】添加Anaconda环境变量一共需要三个，分别是Anaconda、Anaconda\Scripts和Anaconda\Lib...

【PyG学习入门】一：入门使用在上一篇的介绍中，主要讲了Pytorch-Geometric的五个基础用例，但是其中存在一些问题还没有解决，下面开始一一解决，本文的重点是如何手动加载PyG的数据集。1.关于创建Data实例时，维度异常的问题问题描述：在Data创建过程中，edge_index表示边的信息，x为节点的特征向量，y为目标值，如果y的维度（[num_nodes, *]）和节点总数的...

简介首先说一下这个东西，全名是PyTorch-Geometric，是一个PyTorch基础上的一个库，专门用于图形式的数据，可以加速图学习算法的计算过程，比如稀疏化的图等。在学习PyG的各个大的分支之前，先看一下官方文档给出的学习例子。参考链接：https://pytorch-geometric.readthedocs.io/en/latest/notes/introduction.html...

[注]括号内容为个人理解内容0.摘要现有的一些算法存在的缺点是没有对隐藏在用户(user)和样本(item)直接的交互信息进行学习编码，没有将其融入到嵌入向量的学习过程。文章中将这种交互信息称为collaborative signal（而这个东西可以理解为用户-样本交互图的拓扑结构，在GCN和GraphSAGE等算法中都是有所体现的）。本文的将用户-样本的交互信息加入到嵌入表达的学习过程中，...

0.前言昨天发了一篇关于GraphSAGE论文的大致讲解，今天对源码进行部分解析，源码链接。作者最原始的训练代码是Tensorflow版本的，这是一个PyTorch版本的，恰好最近学习PyTorch，同时也有一段时间不用Tensorflow了，所以就对PyTorch版本的进行解析（其实主要是PyTorch的源码简单还少）。代码可能一次性看不完，毕竟能力有限~~，本文只放置部分关键代码。分析链接为...

论文题目：Inductive Representation Learning on Large Graphs论文链接：https://arxiv.org/pdf/1706.02216.pdf论文发表在NIPS20170.摘要在一个大型图中，对节点的低纬度嵌入表示是十分有用的，之前的算法需要图中所有的节点信息且对未知数据的泛化能力一般，这种方法被称为transductive；而本文的方法...

电脑配置戴尔游匣G3pro笔记本（购买时间2020.3.10），显卡为RTX2060，CPU为i7九代处理器，144HZ刷新率，电脑自带Win10系统，硬盘为512SSD+1T机械。问题描述（1）用官方Ubuntu制作U盘启动盘，版本为Ubuntu16，插上U盘进入安装界面（或者是体验界面），出现屏幕闪烁问题（一道道光线，就和信号不好似的）。（2）用官方Ubuntu制作U盘启动盘，版本为U...

对于numpy中的array进行操作的时候，可以三种复制方式。1.浅拷贝2.视图方式(view)3.深拷贝(copy)1.浅拷贝直接进行赋值的方式，没有新对象的构造，两次创建的变量是指向相同的内存区域的。import numpy as npa = np.arange(50)b = aprint(id(a), id(b))利用id()验证之后，发现a和b是指向相同内存区域的，只...

为了精准的获取程序块的运行时间，使用sys/time.h进行时间测试。struct timeval start;struct timeval end;unsigned long Time = 0;gettimeofday(&start, NULL);...gettimeofday(&end, NULL);Time = 1000000 * (end.tv_sec -...

NCNN定义内存池分配器实现高效的内存管理。

对于NCNN，在网络层传递的过程中，进行数据流动的方式是通过自定义的blob实现的，对于blob通过生产者编号和消费者编号进行定义，producer表示输出该blob的网络层编号，consumers表示以该blob作为输入的网络层编号，前者只能是一个制造者，后者可以是多个使用者。class Blob{public: // empty Blob();public:#if ...

Layer类是所有其他网络层的一个基类，所有的网络层都会从Layer继承，实现互异的计算过程，所有网络层的相似之处在于输入输出的规范以及前向传播的过程。Option是属性类，lightmode表示轻量级模式在网络推理中会不断地进行垃圾回收，num_thread表示线程数量，并且定义两个内存分配器，一个是对基本数据结构blob的内存分配，另一个是对计算空间workspace的内存分配。class...

对于Neon程序的开发，大致上有两种方式1.直接在arm板子上写代码，但是一般容易导致板子严重发热。2.在PC端写完代码，然后直接放到arm上运行，但是如此复杂的指令很容易拼写错误。于是，我们需要对项目进行一次神奇的改动，就是单纯的在我们的工程下面引入arm_neon.h，很显然这样子是可以使用代码补全的，不过是无法实现编译过程的，流程如下：1.找到头文件arm_neon.h，大约是100...

对于NCNN而言，核心在于网络的前向推理过程（Inference），其主要数据类型为mat，该数据类型以类的形式定义在src/mat.h中，其中包含了mat的构造函数、析构函数、常见的运算过程。#if __ARM_NEON#include <arm_neon.h>#endif通过宏变量__ARM_NEON控制Neon的使用。 // empty Mat(); ...

从上半年开始，一直就比较关注NCNN的进展，在嵌入式平台上，NCNN可以说是非常好的一个选择了。后面的话，会不断地更新博客，对NCNN源码进行分析，如果理解不到位的地方，欢迎指正！...