- 博客(46)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 关于大模型的见解
而没有对大模型进行研发，而有能力研发的，可能就华为，阿里这样的公司了，期待国内的大模型。解读：https://arxiv.org/pdf/2303.18223v10.pdf。2.很难复现，需要大量的计算资源2048个A100-80G GPU以上。影响模型性能的三大要素：模型大小，数据量大小，计算量大小。1.将带来新的应用生态，windows的copilot。先有了PLM，后来发现可以增加计算量，参数量。1.代码没有公开，细节没有公开，很难复现，数据量，来获得超级好的模型，所以LLM。
2023-07-19 23:21:12
203
原创 YOLOX训练自己的数据集
github代码论文准备环境conda create -n YOLOX python=3.8conda activate YOLOXpip install torch==1.8cd YOLOXpip install -r requirements.txt2、安装pycocotools下载地址cd pycocotools-2.0.2python setup.py build_ext install3、安装apex这个工具为什么要安装呢，提高你的显存能力，比如你的显存.
2021-09-02 15:18:28
1068
1
原创 pytorch 最全optimizer
SGDcodeimport torchoptimizer = torch.optim.SGD(params, lr=0.001, momentum=0, dampening=0, weight_decay=0, nesterov=False)Adamcodeimport torchoptimizer = torch.optim.Adam(params, lr=0.001, betas=(0.9, 0.999), eps=1e-08, weight_decay=0, amsgrad=False
2021-08-18 10:50:13
967
原创 pytorch scheduler汇总
ExpLR指数衰减学习率按照指数的形式衰减是比较常用的策略，我们首先需要确定需要针对哪个优化器执行学习率动态调整策略，其中参数gamma表示衰减的底数，选择不同的gamma值可以获得幅度不同的衰减曲线codeoptimizer_ExpLR = torch.optim.SGD(net.parameters(), lr=0.1)ExpLR = torch.optim.lr_scheduler.ExponentialLR(optimizer_ExpLR, gamma=0.98)StepLR
2021-08-17 10:08:04
8096
2
原创 DynamicReLU
论文该文是MSRA的研究员在DynamicConv之后，又一次在激活函数方面的改进。相比静态激活函数，动态激活函数可以将MobileNetV2的性能由72.0%提升到76.2%代价仅是增加额外的5%FLOPS。从这个角度来看，这个代价还是非常值得的。辅助函数：它用于计算激活函数的参数； 激活函数:它用于计算输入的激活输出，它的参数通过上述辅助函数生成。需要注意的是：辅助函数对输入进行上下文信息编码并用于辅助后续激活函数。这种数据依赖性使得所提DyReLU可以极大的提升模型的表达能能力，尤
2021-08-16 13:05:08
336
原创 PyTorch使用TensorboardX进行训练可视化
demo代码if __name__ == '__main__': out="/home/zengxh/workspace/zdata" summarywriter=run_tensorboard(out,port=6006) # port为0的话是生成不冲突的随机端口 # 记录模型 model = torchvision.models.shufflenet_v2_x0_5() dummy_input = torch.randn(1, 3, 224, 224)
2021-08-14 10:05:57
221
原创 SWA(Stochastic Weight Averaging)实验
原理论文地址：https://arxiv.org/pdf/2012.12645.pdfSGD倾向于收敛到loss的平稳区域 平稳区域的大部分都处于边界，由于权重空间的维度比较高，SGD通常只会走到这些平稳区域的边界；SWA通过平均多个SGD的权重参数，使其能够达到平稳区域的中心.有论文说swa能涨分，那么我来实验一下那么我将在cifar10数据集上进行实验大致的原理就是：找最后几个epoch的平均实验模型采用：shufflenet_v2_x0_5数据集.
2021-08-13 14:03:49
7234
1
原创 PyTorch: 训练分类CIFAR10
# !/usr/bin/env python# -- coding: utf-8 --# @Author zengxiaohui# Datatime:8/13/2021 11:20 AM# @File:train_cifar10import osimport torchimport torchvisionimport torchvision.transforms as transformsimport torch.optim as optimimport torch.nn as nn.
2021-08-13 13:12:35
226
原创 Swin-Transformer-Object-Detection训练自己的数据集
环境配置conda create -n SwinTransformerObjectDetection -y python=3.8conda activate SwinTransformerObjectDetectionconda install pytorch=1.8.0 torchvision cudatoolkit=10.2 -c pytorch -y# mmcv安装cd ~/software/rm -rf mmcvgit clone https://github.com/open-
2021-05-27 17:05:31
5768
14
原创 CenterNet2训练自己的数据集
centernet2训练自己的数据集环境配置1.下载https://github.com/xingyizhou/CenterNet22.安装环境conda create -n CenterNet2 python=3.8conda activate CenterNet2pip install torch==1.8python -m pip install 'git+https://github.com/facebookresearch/detectron2.git'pip insta
2021-05-12 16:18:01
10253
13
原创 Ubuntu创建用户
Ubuntu创建用户sudo useradd -m zengxhsudo useradd zengxhsudo passwd zengxh设置sudo权限vim /etc/sudoers## Allow root to run any commands anywhere root ALL=(ALL) ALLadmin ALL=(ALL) ALL创建家目录sudo mkdir /home/zengxhsudo chown -R zengxh
2021-05-11 09:01:56
160
原创 opencv decode加速
速度慢到快start = time.time() img = cv2.imdecode(np.fromstring(img, dtype=np.uint8),-1) print(time.time() - start) start = time.time() aa = cv2.imdecode(np.frombuffer(file_read, dtype=np.int8), cv2.IMREAD_UNCHANGED)
2021-04-16 16:17:31
1428
原创 pytorch to_categorical
y = pred.flatten() categorical = torch.zeros((65536, 10), dtype=torch.int) categorical[torch.arange(65536), y] = 1 categorical = torch.reshape(categorical, (256, 256, 10))
2021-04-16 11:19:41
2253
原创 window更加端口杀死进程
netstat -aon|findstr “1080”tasklist|findstr 11360taskkill /F /PID 11360
2021-04-12 11:06:50
207
原创 scp rsync备份数据
scp -r root@10.20.200.170:/home/chintAI/ext /home/deploy/zengxiaohui/chintAIdata-bak/qwe123.linux远程scp，但是不覆盖已经存在文件的方法rsync -avzu --progress root@10.20.200.170:/home/chintAI/ext /home/deploy/zengxiaohui/chintAIdata-bak/...
2021-04-12 11:04:47
105
原创 pycharm 远程连接docker
pycharm 远程连接docker查看配置文件位置：sudo systemctl status docker修改override.confExecStart=/usr/bin/dockerd -H tcp://0.0.0.0:2375 -H unix:///var/run/docker.sock -H fd:// --containerd=/run/containerd/containerd.sock2.重启虚拟机、重启dockersudo systemctl daemon-re
2021-03-16 18:04:13
333
原创 argmax的区别
numpy 的argmax和torch1.7.0 的argmax 的结果一样但是torch1.6.0的argmax的结果和上面2个都不一样
2021-03-12 09:23:20
205
原创 url中带&或者其他特殊符号导致没有用保存
url中带&或者其他特殊符号导致没有用保存jsons.url = decodeURI(window.location.href)
2021-03-10 16:53:09
215
原创 mysql 清楚表格内容
SET FOREIGN_KEY_CHECKS = 0;TRUNCATE pv_p_ai_result;SET FOREIGN_KEY_CHECKS = 1;
2021-02-23 14:17:04
109
原创 bat启动python虚拟环境
call C:\Users\zengxh\Documents\software-install\env\AI\Scripts\activate.batcd C:\Users\zengxh\Documents\workspace\jupyter-workspacejupyter-notebook@pause
2021-02-20 12:32:53
1553
原创 pytorch 不能导出yolov5的onnx
if opname == 'hardswish': relu=_registry[(domain, version)]["relu"] _registry[(domain, version)][opname] = relu
2021-02-18 09:57:28
565
原创 使用bat替换文件中的指定的内容
%@echo off 只显示当前脚本的打印%@echo off set filepath="xxxx.conf"%findstr命令查找/r是正则/n是输出行数 %set filenumcmd='findstr /r /n "^Server=[0-9]" %filepath%'% delims=表示使用冒号分割%for /F "delims=:" %%i in (%filenumcmd%) do ( set serverlineNum=%%i)echo serverlineNum=.
2020-09-26 15:36:53
5889
原创 python SMBClient 读取图片
import ioimport cv2from PIL import Imagefrom smb.SMBConnection import *import numpy as npclass SMBClient(object): """ smb连接客户端 """ prot = None status = False samba = None def __init__(self, user_name, passwd, ip, port=1...
2020-09-02 15:20:16
1534
原创 udp,ftp,smb,socket传输速度对比
udp: 传输速度最快，但是不保证传输质量ftp: 比smb，http要快，但是对于1M以下的图片 http要快smb: 大一些的图片比http要快socket:是一种连接协议，不负责传数据，需要用socket搭建成tcp才可以传ftp,sftp:都是用tcp实现的终极传输，史上最快：多线上传，压缩上传，压缩+多线上传上述传输的极限都是带宽大小，多线上传这个不知道...
2020-05-27 18:28:19
13626
1
原创 ubuntu关机开机后显卡挂了：报错NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver. M...
电脑重启后nvidia-smi启动不了whereis nvidiayum --enablerepo=epel install dkmssudo dkms install -m nvidia -v 410.129
2020-05-09 17:57:45
320
原创 网站检测工具
你用过 page speed insights吗 google监测网页的工具 https://developers.google.com/speed/pagespeed/insights/?hl=zh-cn&url=https%3A%2F%2Fpos.toproi.cn%2Fad%2Fpos%2Fb0296%2Fxx%2Fads%2F01%2F01.html&tab=mobi...
2019-07-02 22:58:46
1749
原创 用python画环形图
import osimport pandas as pdimport matplotlib.pyplot as pltimport randomimport numpy as np# 获取渐变色的listdef gradual(number): colors = [] h = 0.00001 gradual2 = random.uniform(0, 1)...
2019-01-22 08:47:53
8711
原创 json在javascript中的操作
<!DOCTYPE html><html lang="en"><head> <meta charset="UTF-8"> <title>Document</title></head><body> <sc
2018-08-21 14:45:10
295
原创 List，set，array 那些事
string[] 转 Set<String>Set<String> genetics = new HashSet<String>(Arrays.asList(geneticPredisposings));
2018-04-08 14:30:55
220
原创 使用Collections对list的内容进行排序
import java.awt.print.Book;import java.util.ArrayList;import java.util.Collections;import java.util.Comparator;import java.util.Date;import java.util.Iterator;import java.util.List;p
2017-10-31 11:26:56
620
原创 goacademic视频流播放技术
先将视频进行切割，然后改为ts格式，最后采用流的形式进行播放列子：http://www.goacademic.cn/
2017-10-23 11:22:15
1338
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人