A new way of Tree-All-Reduce （Mixed-Tree-All-Reduce） 1 Ring All Reduce详见：https://blog.csdn.net/gaofeipaopaotang/article/details/94028949 https://blog.csdn.net/dpppBR/article/details/80445569中的Ring-All-Reduce介绍2 Tree All Reduce详见...
[TensorRT] How to write code to using PluginV2 https://docs.nvidia.com/deeplearning/sdk/tensorrt-developer-guide/index.html#ipluginextIn the doc, it is written below:1. Create the Plugin and AddPlugin int the network.For example, to add a plugin layer to your network with plugin name set to plugi
查看MXNet模型结构 MXNet model file: (download in mxnet net) MXNet_Yolo3-symbol.jsonYou can see that it is different from print(net) of pyhton print the model.There are some "elemwise_add" layers.But there ar...
[TensorRT] 构建推理网络中（自定义层）Plugin Layer使用方法及数据处理格式 代码详见SampleCharRNN1 nvinfer.h中的定义1.1 处理数据维度的定义/** * \class Dims * \brief structure to define the dimensions of a tensor * * ote: currently the following formats are supported for layer inputs and...
[并行计算] Summary [并行计算] 1. 并行计算简介https://blog.csdn.net/magicbean2/article/details/75174859Tensorflow框架是如何支持分布式训练的？https://blog.csdn.net/dQCFKyQDXYm3F8rB0/article/details/88839206[深度学习] 分布式模式介绍（一）https://blog...
[Summarry] Synchronized BatchNorm MegDet 与 Synchronized BatchNormhttps://blog.csdn.net/yiran103/article/details/80820300[论文笔记]MegDet: A Large Mini-Batch Object Detectorhttps://blog.ddlee.cn/posts/e9b3289c/caffe：同步Batch Normali...
归一化/标准化 And 激活函数 归一化/标准化Batch Normalization详细解读https://blog.csdn.net/guo1988kui/article/details/83794343机器学习哪些算法需要归一化https://blog.csdn.net/qq_34872215/article/details/88363504机器学习数据归一化的的方法有哪些？适合于什么样的数据？...
[转载] PIP源使用国内镜像 提升下载速度 国内源：新版ubuntu要求使用https源，要注意。清华：https://pypi.tuna.tsinghua.edu.cn/simple阿里云：http://mirrors.aliyun.com/pypi/simple/中国科技大学 https://pypi.mirrors.ustc.edu.cn/simple/华中理工大学：http://pypi.hustunique.c...
[TensorRT Sample Code] How to Save Engine and Load Engine from file In the TensorRT Sample "TensorRT-7.0.0.11/samples/trtexec/trtexec.cpp"1Save Engine to filebool saveEngine(const ICudaEngine& engine, const std::string& fileName, std::ostream& err){...
[CUDA KERNEL] Some tips for write CUDA kernel function 1 CUDA device端 内建函数__exp(),__log(),__power(),...这些函数降低了精度，但是提高了运算速度2 线程同步 __syncthreads() 这个函数是“block线程内”的线程同步以前有一次发现使用到__syncthreads()的程序，发现经常运行的结果不一样，就是因为__syncthreads() 这个函数是“block线程内”的线程同...
[TensorRT] Write your plugin which support FP16 Total Steps 3:1. In the plugin, 3 Interface need support FP162. Use cuda_fp16.hto writeKernel Function3. Use FP16 in the Engine===========================================1. In the plugi...
AI学习资源的汇总 1 TensorRThttps://developer.nvidia.com/tensorrtdeveloper guide & sample codehttps://docs.nvidia.com/deeplearning/sdk/tensorrt-developer-guide/index.html2 Caffecode：http://caffe.berkeleyvision.org/...
关于卷积 卷积卷积核大小（Kernel Size）：定义了卷积操作的感受野。在二维卷积中，通常设置为3，即卷积核大小为3×3。步幅（Stride）：定义了卷积核遍历图像时的步幅大小。其默认值通常设置为1，也可将步幅设置为2后对图像进行下采样，这种方式与最大池化类似。边界扩充（Padding）：定义了网络层处理样本边界的方式。当卷积核大于1且不进行边界扩充，输出尺寸将相应缩小；当卷积核以标准方式进行边界扩充，...
关注
