qq_42001765的博客

原创 csdn要不要这么恶心，强制跳转gitcode，不让人上github是吧

原创 LLaMA-Factory添加adalora

和的帮助。

原创 关于lora的理解

Adapter Tuning是往大模型中额外的模块，会导致训练和推理的延迟。_create_new_module：创建新模块，如果是8bit训练新模块为Linear8bitLt，4bit训练新模块为Linear4bitLt，否则为Linear。/r：缩放比例，lora的作者发现数据在经过B但是还没有经过激活层时的数值的波动幅度与r有相关性，所以需要除以r来消除。r：秩，r越大代表当前的A和B矩阵参数越多，也就越接近全参数微调，但是带来的噪声也就越多。可以解释为大模型对新知识的侧重，越大就越重视。

原创 k230_canmv扩容

修改board/common/gen_image_script/gen_image_comm_func.sh的第237行，把80MB改成需要的大小，我直接改成10G了。然后重新运行make CONF=k230_canmv_defconfig生成镜像。默认生成的k230镜像空间只有80MB，稍微上传点东西都会占满，所以需要扩容。

原创 计算百川大模型的输出token

首先需要在modeling_baichuan.py的BaichuanForCausalLM类中添加get_outputs函数。然后运行下面的代码计算，注意，因为我显卡空间不够，所以是半精度运行。代码比较简单，记录一下免得以后要再copy一次。

原创 关于chatglm3 function calling的理解

ChatGLM3-6B开源了工具调用，好奇他是怎么实现的，所以写了这个文章记录。

原创 gradio显示和隐藏侧边栏

另外：试了很多方法，没想到最简单的实现方法就是直接返回gr.update。可以用于第一次访问页面时控制组件的隐藏和显示。记一下防止忘记怎么实现的。

原创 记录微调chatglm3

用于记录chatglm3的过程，防止忘记。

原创 嘉楠勘智k230开发板上手记录(五)--nncase部署yolov5s

虽然没有找到hhb的官方示例，但是我找到了nncase的，在src/big/nncase/examples中。

原创 嘉楠勘智k230开发板上手记录(四)--HHB神经网络模型部署工具

按照来。

原创 嘉楠勘智k230开发板上手记录(四)--K230_RVV实战

在k230_sdk目录下运行，Makefile里默认的toolchain路径是在/opt下的，需要拷贝过去。将编译完成的rvv_utest.elf拷贝到sharefs内运行。

原创 嘉楠勘智k230开发板上手记录(三)--K230_GPU应用实战

按照。

原创 嘉楠勘智k230开发板上手记录(二)--hello world

上次成功在k230上烧录sdk，这次准备实现hello world和ssh scp远程k230。

原创 嘉楠勘智k230开发板上手记录(一)--烧录sdk

因为是小白，对于硬件接触不多，有什么错误欢迎指出。环境：win11+wsl2的ubuntu22.04官方githubk230_docs/zh/01_software/board/K230_SDK_使用说明.md at main · kendryte/k230_docs (github.com)├── sysimage-sdcard.img # SD和emmc非安全启动镜像├── sysimage-sdcard.img.gz # SD和emmc的非安全启动镜像压缩包。

原创 使用rt-thread Studio下载固件时出现Unable to enter Isp mode

在rt-thread studio的sdk管理包中下载。我发现我缺了图中的文件夹。

原创 onnx截取子模型，并修改模型的输出

【代码】onnx截取子模型，并修改模型的输出。

原创 pip换阿里源

python -m pip config set global.index-url https://mirrors.aliyun.com/pypi/simple

原创 通过docker overlay2 目录名查找对应容器名

因为工作原因需要知道overlay2下目录对应的容器名，结果csdn上全是抄的同一篇文章，连运行的文件名都不改，真的是。后面在谷歌找到了方法。链接中还有其他几种方法，有兴趣可以尝试一下。我的docker版本是19.03.15。

原创 源码导入onnx-tensorrt作为onnx解析器

onnx_pb.h的50到46行改成#include "onnx/onnx-ml.pb.h"，删掉5到6行。的第五章第二节，因为我用的tensorrt版本是8.4.2跟老师的8.0不一样，记录一下。5. protoc生成需要的cpp文件。下载几个需要的文件放到common里。1. github上clone代码。下载几个需要的文件放到onnx里。在onnx里创建common，到。2. 删除不需要的文件。3. 创建onnx，到。

原创 torch自定义算子转onnx模型报错

【代码】torch自定义算子转onnx模型报错。

原创 docker容器安装deepstream6.0遇到的问题和解决方法

No module named gi。

原创 docker中安装jupyter lab失败

报错Building wheels for collected packages: cffi Running setup.py bdist_wheel for cffi ... error Complete output from command /usr/bin/python -u -c "import setuptools, tokenize;__file__='/tmp/pip-install-jpwh1_kc/cffi/setup.py';f=getattr(tokenize, 'open

原创 nvidia nano安装torchvision时出错

报错Traceback (most recent call last): File "setup.py", line 475, in <module> 'clean': clean, File "/usr/lib/python3/dist-packages/setuptools/__init__.py", line 129, in setup return distutils.core.setup(**attrs) File "/usr/lib/python3.

原创 用ElementTree查找带有自定义命名空间的x

原本以为用xpath语法可以轻松查找到子元素，没想到有问题。后面去看了ElementTree里find和findall的api文档和参考了通过’ElementTree’在Python中解析带有命名空间的XML | 码农家园# 得到xml的命名空间my_namespaces = dict([node for _, node in ET.iterparse(xml_path, events=['start-ns'])])element.find('mis:ShotInfo//mis:precis//

原创 pyinstaller 打包后运行报ImportError: DLL load failed: 找不到指定的模块

我的环境是:torch 1.6cuda 10.1scikit-image 0.18.1scikit-learn 0.24.1scipy 1.6.1pyinstaller 4.5.1报错信息Traceback (most recent call last): File "server.py", line 14, in <module&gt

原创 pycocotools的win10安装包

Links for pycocotools-windows

原创 安装配置jetson nano环境

安装配置jetson nano环境安装jetson nano系统安装PyTorch安装jupyter-lab参考链接安装jetson nano系统这个官方就有完整的教程我把镜像上传到网盘了链接：https://pan.baidu.com/s/19RGLHPsn7BGMbFedn7F31g提取码：671n安装PyTorch没错，还是官方教程pytorch-1.8和torch-0.9我上传都网盘了链接：https://pan.baidu.com/s/1aExNiJ9-fG5jl0jAZPK-K

原创 nvidia nano import torch时报OSError: libmpi_cxx.so.20: cannot open shared object file: No such file or

import torchTraceback (most recent call last):File “”, line 1, inFile “/home/*/.local/lib/python3.6/site-packages/torch/init.py”, line 188, in_load_global_deps()File “/home/*/.local/lib/python3.6/site-packages/torch/init.py”, line 141, in _load_globa.

原创 yolov5训练单一类别报错

Traceback (most recent call last): File "train.py", line 541, in <module> train(hyp, opt, device, tb_writer) File "train.py", line 195, in train assert mlc < nc, 'Label class %g exceeds nc=%g in %s. Possible class labels are 0-%g' % (.

原创 tx2在apt-get update时Could not connect to 10.127.19.71:8080 (10.127.19.71)

解决拉取github仓库报错“gnutls_handshake() failed”问题先创建git-openssl文件夹sudo apt-get install build-essential fakeroot dpkg-devmkdir ~/git-opensslcd ~/git-opensslsudo apt-get source git可能会报错，需要到 中把 取消注释sudo apt-get source gitsudo apt-get build-dep gitsudo apt-

原创 No module named ipykernel_launcher

pip install ipykernel我在jupyter notebook更换python内核时出现的问题百度的方法都是python3 -m ipykernel install --user，好几个全都是把别人的全文复制过来的…后面google才找到解决方法 https://github.com/udacity/aind2-dl/issues/9...

原创 各个版本torch torchvision下载地址

https://download.pytorch.org/whl/***/torch_stable.html按需要下载的cuda版本修改，cuda10就是https://download.pytorch.org/whl/cu100/torch_stable.html。cuda9就是https://download.pytorch.org/whl/cu90/torch_stable.html.cpu是https://download.pytorch.org/whl/cpu/torch_stable.h

原创 nanopi neo3网线直连笔记本

参考https://blog.csdn.net/dm180/article/details/90600585?utm_medium=distribute.pc_relevant_t0.none-task-blog-BlogCommendFromBaidu-1.not_use_machine_learn_pai&depth_1-utm_source=distribute.pc_relevant_t0.none-task-blog-BlogCommendFromBaidu-1.not_use_machi

原创 tensorflow2 实现resnet并训练保存加载模型

tensorflow2 实现resnet搭建模型BasicBlockResNetresnet18加载数据集训练保存评估模型搭建模型resnet18由4个基础的block组成，每个block有两层网络，block的结构如下。右边的箭头表示将x与f(x)相加，这样可以让经过一个block之后的效果至少不会比没有经过的差。这也是为什么resnet网络能够达到这么深的原因。BasicBlock1.每个block由两层网络组成，每层网络由卷积层、batchnormalization层和激活函数组成。2.当

原创 darknet运行测试命令代码详解

mian函数我们就按照代码运行的顺序来看，下面是我简化后的代码(原本的太多了，我只留下需要的)#include <time.h>#include <stdlib.h>#include <stdio.h>#include "parser.h"...

原创 Win10 + VS2017 + CPU + opencv3.2 + Darknet 训练VOC数据集

配置在这https://blog.csdn.net/qq_42001765/article/details/104234794darknet的git链接https://github.com/AlexeyAB/darknet官方给的训练步骤1.下载权重链接：https://pan.baidu.com/s/13jHT4qEoYM1An8Isj10c_g提取码：zoo7然后...

原创 win10上用VS2017以debug的形式运行darknet

1.用VS打开项目。VS的工程文件在darknet-master\build\darknet下，后缀是vcxproj。因为我是用CPU运行的，所以打开的是darknet_no_gpu.vcxproj。直接用VS打开darknet-master文件夹是不行的，debug时会出现没有配置可执行文件的错误。2.更改传入的命令行参数打开 项目->属性，更改命令行参数。按官方给的方式运行时...

原创 Win10 + VS2017 + CPU + opencv3.2 + Darknet 配置

一、安装1.在git上把darknet下载下来 地址2.下载安装VS2017链接：https://pan.baidu.com/s/18FlQ1APg4xOlB4FNuVd0gw提取码：srkl勾选这三个安装3.下载安装opencv3.2链接：https://pan.baidu.com/s/161AsRXzHYfejQuozi5nhnw提取码：h6my...

原创 python修改xml文件的值

#coding=utf-8 import os import os.path import xml.dom.minidom #储存xml文件的文件夹的路径path='Annotations'#得到文件夹下所有文件名称 xmls=os.listdir(path) i = 1for xml_name in xmls: #遍历文件夹 print('修改第' +...

原创 win10 可选功能添加失败

今天遇到这个问题没什么原因，就是手贱把win10已经安装的openSSH客户端卸载了，然后发现安装不回来。安装不了主要体现在点安装会刷新下面这个页面，但就是不给你安装，也不报错。后面在可选功能页面查看了可选功能历史记录结果是因为我把网络的属性的按流量计费开了，所以安装不了，把他关掉就可以安装了。...