qq_51682716的博客

其中，float16的组成分为了三个部分：最高位表示符号位，sign 位表示正负，有5位表示exponent位， exponent 位表示指数，有10位表示fraction位， fraction 位表示的是分数。为了解决梯度过小的问题，论文中对计算出来的loss值进行scale，由于链式法则的存在，loss上的scale会作用，同时也会作用在梯度上。-master_addr：master节点的ip地址，也就是0号主机的IP地址，该参数是为了让 其他节点 知道0号节点的位，来将自己训练的参数传送过去处理。

C++学习笔记

模型训练笔记 Loss，optimizer，lr_scheduler

知识蒸馏学习笔记

[Error]pytorch加载模型权重出现问题Unexpected key(s) in state_dict: “module.backbone.0.weight”,参考链接：https://zhuanlan.zhihu.com/p/402293541问题原因：训练好的模型权重，加载进行测试时报错，原因是权重中含有的网络模型的各个layer与block的名称与网络不对应，且前缀加了个module.原因分析：训练模型中使用到1 model = ResNet50()2 model = nn.Dat

参考链接：Introduction to Mutual Mean-Teaching (ICLR 2020), Structured Domain Adaptation, VisDA-2020 Solution (ECCVW 2020), Self-paced Contrastive Learning (NeurIPS 2020), OpenUnReID Codebase.领域自适应（Domain Adaptive）Common scenarios:City A > City BSyntheti

pytorch加载一张图片在训练好的模型上测试(test single image with pytorch)import argparseimport osimport shutilimport timeimport sysimport numpy as npimport torchimport torch.nn as nnimport torch.nn.parallelimport torch.backends.cudnn as cudnnimport torch.optimi

python 划分数据集文件(txt标签文件按比例随机切分)import osimport randomclass SplitFiles(): """按行分割文件""" def __init__(self, file_name): """初始化要分割的源文件名和分割后的文件行数""" self.file_name = file_name def get_random(self): """生成随机数组，随机划分 （0，1900

行人属性识别Loss计算代码class Weighted_BCELoss(object): """ Weighted_BCELoss was proposed in "Multi-attribute learning for pedestrian attribute recognition in surveillance scenarios". """ def __init__(self, experiment): super(Weighted_B

人工智能：神经网络与深度学习复习总结前馈网络（感知机为代表）单神经元感知机可将输入向量分成两类：权值矩阵与输入向量的内积大于等于-b，感知机的输出为1；否则，感知机的输出为-1。任务：选择适当的偏置值b和权值矩阵元素，使感知机可正确的二分类。竞争网络（Hamming网络为代表）前馈层：前馈层用于实现每个标准模式和输入模式之间的相关检测或求内积。为了使得前馈层能够完成其功能，可以用标准模式设置其权矩阵的行。递归层：Hamming网的递归层就是所谓的“竞争”层。该层的神经元用前馈层的输出进行初

Transformer比CNN好在哪？

运动目标跟踪综述运动目标跟踪技术是近几年来新兴的一个研究方向，它通过分析视频序列，在视频序列的每一帧中定位出目标，包括计算出目标的大小、位置等信息。其难点在于运动目标在视频图像跟踪过程中可能会发生的旋转、遮挡、尺度变化等比较复杂的变化，以及一些客观因素的影响，比如各类噪声、出现遮挡等等。它是视频监控技术应用的关键，也是计算机视觉研究领域的一个重要分支。1.运动目标跟踪方法和模型过去几十年，目标跟踪方法经历了从卡尔曼滤波等经典跟踪方法，到基于相关滤波方法，再到深度学习相关方法的演变历程。根据建模方式的不

解决Pycharm报错：进程已结束，退出代码为 -1073740791 (0xC0000409)起因：在python中设置读取txt文件内容时出现了这个问题，IDE用的是Pycharm但是Pycharm只有这个错误，却没有具体到错误位置经过：然后我用终端跑了一下程序有了详细的错误Traceback (most recent call last): File "UIdisplay.py", line 87, in timer_TimeOut self.ui.textBrowser.se

Linux screen使用方法screen [-AmRvx -ls -wipe][-d <作业名称>][-h <行数>][-r <作业名称>][-s <shell>][-S <作业名称>]screen -S session_name #创建作业并指定screen作业的名称screen -ls #显示已创建的screen终端，获得作业名称screen -r [作业名称] #恢复离线的screen作业kill掉一个screen作业

Python 冒泡排序，快速排序，插入排序和希尔排序算法参考：菜鸟教程1.冒泡排序冒泡排序（Bubble Sort）也是一种简单直观的排序算法。它重复地走访过要排序的数列，一次比较两个元素，如果他们的顺序错误就把他们交换过来。走访数列的工作是重复地进行直到没有再需要交换，也就是说该数列已经排序完成。这个算法的名字由来是因为越小的元素会经由交换慢慢"浮"到数列的顶端。# 随机生成import numpy as np#请把冒泡排序算法补充完整def bubble_sort(nums):

最近在学习一门深度学习与机器视觉的专业课，感觉自己的深度学习的基础很是不牢固，所以打算从最简单的神经网络整理一下知识神经网络学习笔记

ValueError: too many values to unpack (expected 2)起因最近在做一门专业课的作业，关于交通灯图像分类，我选择了把数据集按(9:1)分为了(训练集:验证集)，并生成了标签，标签格式路径 label，在每次训练完一个epoch后进行验证集的验证，输出准确率def test(): print('begin test') model.eval() total_correct = 0 val_iter = iter(val_data

conda安装pytorch很慢的解决办法我们在官网查找安装相应版本命令时

[Error]在Linux服务器：cannot connect to X server localhost:11.0首先试了但是失败了，好像和我的错误不一样后来在这篇文章明白了X server是Linux系统上提供图形用户界面的服务程序。当客户端主机Client访问服务器Server上的图形程序时，需要Server对该Client赋能访问图形程序的权限。所以原因是我在改opencv代码处理图片的时候，有一条cv2.imshow函数没有注释掉，这个函数在windows下可以直接调出窗口显示图片，在

Transformer学习笔记+Vision Transformer参考链接：详解Transformer （Attention Is All You Need）【唐宇迪】transformer算法解读及其在CV领域应用Transformer解读（论文 + PyTorch源码）Transfomer可以理解为将输入重新生成为集成了上下文所有相关信息的新的输出，即对输入的每一个向量做一个重构，使其不仅仅只代表自己，而是有一种全局的感觉。self-attention(自注意力机制)1.什么是self-