ai
文章平均质量分 66
hkNaruto
这个作者很懒,什么都没留下…
展开
-
【AI】ubuntu 22.04 RTX4060TI 16G 本地部署通义千问 7B模型
下载模型中途下载报错,手动下载几个没有正常拉下来的模型文件移动过来。原创 2024-04-10 14:29:43 · 2030 阅读 · 0 评论 -
【AI】ubuntu 22.04 本地搭建Qwen-VL 支持图片识别的大语言模型 AI视觉 【3】Qwen-VL-Chat-Int4版本 + 4060ti 16G
接上篇下载Qwen-VL-Chat-Int4版本模型这个版本模型体积小不少2060 6G 仍然不能启动web尝试参考模型中的README.md编写使用量化的代码test.py启动报错这个脚本的依赖与requirements.txt有一定差异参考文档手动安装故障依旧AI分析然而,根据之前的错误信息,对象似乎缺乏方法,导致在尝试从预训练模型加载时抛出了异常。这可能意味着在您当前安装的版本中,对于如何与配合进行模型量化加载有所变更,或者。原创 2024-04-09 10:11:55 · 1746 阅读 · 0 评论 -
【AI】ubuntu 22.04 本地搭建Qwen-VL 支持图片识别的大语言模型 AI视觉 【2】 4060ti 16G 也顶不住
迁移到4060ti 16G 环境下,仍然报错,显存不足!原创 2024-04-08 08:44:22 · 625 阅读 · 0 评论 -
【AI】ubuntu 22.04 本地搭建Qwen-VL 支持图片识别的大语言模型 AI视觉
接收对象中: 100% (584/584), 26.69 MiB | 1.50 MiB/s, 完成.接收对象中: 100% (205/205), 15.59 MiB | 1.57 MiB/s, 完成.git拉取modescope.cn的镜像大小不正确,使用git lfs pull拉取大文件。处理 delta 中: 100% (334/334), 完成.正克隆到 'Qwen-VL-Chat'...在Qwen-VL-Chat目录下执行。正克隆到 'Qwen-VL'...检查python3版本。原创 2024-04-07 16:28:40 · 1428 阅读 · 0 评论 -
【AI】Ubuntu 22.04 安装 cuda 12.3.2 545.23.08 报错unrecognized command-line
解决:使用gcc-12。原创 2024-02-21 15:19:39 · 586 阅读 · 0 评论 -
【AI】aarch64 kylin llama.cpp CUDA 适配 Chinese-LLaMA-Alpaca-2 启用 Tesla P4 8G GPU支持【失败】
报错:gcc: 错误:unrecognized command-line option ‘-Wunreachable-code-break’;make: *** [Makefile:693:benchmark-matmult] 错误 1。make: *** [Makefile:704:q8dot] 错误 1。make: *** [Makefile:626:gguf] 错误 1。make: *** [Makefile:701:vdot] 错误 1。神奇,用的clang,报gcc错误。原创 2024-01-26 17:00:29 · 1150 阅读 · 1 评论 -
【AI】Chinese-LLaMA-Alpaca-2 7B llama.cpp 量化方法选择及推理速度测试 x86_64 RTX 2060 6G 显存太小了
操作系统CPU内存。原创 2024-01-25 15:19:39 · 1690 阅读 · 1 评论 -
【AI】S2500 64C*2 arm64 aarch64 kylin server 编译llama.cpp 使用chinese-alpaca-2-7b模型 CPU版本 更多的核心没有带来更好的性能
报错ggml-quants.c:436:27: 错误:implicit declaration of function ‘vld1q_s16_x2’;原创 2024-01-23 15:26:46 · 970 阅读 · 0 评论 -
【AI】D2000 arm64 aarch64 22.04.3 LTS (Jammy Jellyfish) 编译llama.cpp 使用chinese-alpaca-2-7b模型 CPU版本
下载模型到/home/yeqiang/Downloads/ai/chinese-alpaca-2-7b目录。原创 2024-01-23 14:29:41 · 1398 阅读 · 0 评论 -
【python】py-spy 实时显示python进程内的线程堆栈CPU消耗 python CPU消耗分析
py-spy是一个第三方命令行工具,它允许你在不修改代码的情况下分析Python程序的运行时行为,包括查看CPU使用、线程堆栈以及生成火焰图(Flame Graphs), 热力图可以通过其他工具基于其生成的数据来绘制。: Pyroscope是一个开源的持续性能分析工具,支持Python应用,它可以提供动态火焰图并且能实时监控CPU占用。针对分析python进程cpu消耗,有没有类似java中的arthas工具,可以查看到进程内的各线程CPU使用率,生成热力图,看到具体是哪个函数占用cpu?原创 2024-01-17 10:03:32 · 1290 阅读 · 0 评论 -
多卡运行分布式训练卡死 nccl_p2p_disable iommu=pt
多卡运行分布式训练卡死 - 知乎转载 2024-01-17 09:12:01 · 323 阅读 · 0 评论 -
【AI】RTX2060 6G Ubuntu 22.04.1 LTS (Jammy Jellyfish) 部署chatglm2-6b 开源中英双语对话模型
python进程cpu使用率100.3%持续了很长时间,没有启用多线程?创建虚拟环境安装依赖。原创 2024-01-16 16:39:01 · 589 阅读 · 0 评论 -
Ubuntu 22.04 LTS ffmpeg mp4 gif 添加图片水印
ffmpeg编译安装6.0.1,参考。原创 2023-11-16 11:15:20 · 433 阅读 · 0 评论 -
Ubuntu 20.04 LTS ffmpeg gif mp4 互转 许编译安装ffmpeg ;解决gif转mp4转换后无法播放问题
1. 升级ffmpeg 到 6.0.12. 设置比特率1M3. 对于小的gif,放大目标尺寸到宽度640。原创 2023-11-16 10:39:33 · 655 阅读 · 0 评论 -
M4Singer Ubuntu 4060ti16G 笔记【2】
Also please ensure that your antivirus or firewall is not blocking the binary file located at: /home/yeqiang/下载/ai/M4Singer/code/venv3712/lib/python3.7/site-packages/gradio/frpc_linux_amd64_v0.2。"AP你要相信AP相信我们会像童话故事里AP",启动一段时间后,有警告信息。原创 2023-10-09 15:20:46 · 441 阅读 · 0 评论 -
M4Singer Ubuntu 4060ti16G 笔记
test_input_dir: , test_num: 0, test_prefixes: ['Alto-2#岁月神偷', 'Alto-2#奇妙能力歌', 'Tenor-1#一千年以后', 'Tenor-1#童话', 'Tenor-2#消愁', 'Tenor-2#一荤一素', 'Soprano-1#念奴娇赤壁怀古', 'Soprano-1#问春'], test_set_name: test, timesteps: 1000,CPU 运行模式: 32-bit, 64-bit。原创 2023-10-09 13:45:46 · 340 阅读 · 0 评论 -
M4Singer ubuntu 22.04 4060ti16g ModuleNotFoundError: No module named ‘gradio‘
You should consider upgrading via the '/home/yeqiang/下载/ai/M4Singer/code/venv3712/bin/python3 -m pip install --upgrade pip' command.原创 2023-10-09 13:43:46 · 581 阅读 · 0 评论 -
M4Singer CUDA error: no kernel image is available for execution on the device
File "/home/yeqiang/下载/ai/M4Singer/code/venv3712/lib/python3.7/site-packages/torch/nn/modules/module.py", line 354, in _apply。File "/home/yeqiang/下载/ai/M4Singer/code/venv3712/lib/python3.7/site-packages/torch/nn/modules/rnn.py", line 161, in _apply。原创 2023-10-09 11:53:35 · 294 阅读 · 0 评论 -
ubuntu 22.04 M4Singer 安装部署
test_prefixes: ['Alto-2#岁月神偷', 'Alto-2#奇妙能力歌', 'Tenor-1#一千年以后', 'Tenor-1#童话', 'Tenor-2#消愁', 'Tenor-2#一荤一素', 'Soprano-1#念奴娇赤壁怀古', 'Soprano-1#问春'], test_set_name: test, timesteps: 100, train_set_name: train, use_denoise: False,释放预训练模型(不确定此描述是否严谨)原创 2023-09-27 19:12:06 · 1085 阅读 · 2 评论 -
aarch64 arm64 部署 stable diffusion webui 笔记 【3】
安装psutil-5.9.5.tar.gz前,需要先安装setuptools。pytorch得重新编译了。原创 2023-09-07 15:38:36 · 581 阅读 · 0 评论 -
aarch64 arm64 部署 stable diffusion webui 笔记 【2】继续安装其他依赖 gfpgan
问题:pip会自动依赖安装torch==2.0.1,这个版本是CPU版本,Ctrl+C中断,选择手动编译安装torchvision。故障,通过修改源码,添加打印发现强制验证了torch,torchvision。编辑requirements_versions.txt,注释掉torch。不从 skel 目录里向其中复制任何文件。useradd:警告:此主目录已经存在。网络故障处理(自己的环境问题,可不关注)启动webui.sh,开始自动安装,观察。离线安装(网络问题,可不关注)切换用户重新配置环境变量。原创 2023-09-06 13:44:56 · 693 阅读 · 1 评论 -
aarch64 arm64 部署 stable diffusion webui 笔记 【1】准备 venv 安装pytorch 验证cuda
aarch64 pytorch(没有aarch64对应版本,自行编译)原创 2023-09-05 16:18:54 · 853 阅读 · 0 评论 -
pytorch-v2.0.1 cuda arm64 aarch64 torch 2.0.1+cu118 源码编译笔记【2】验证cuda安装 成功
由于采用/usr/local/bin/gcc编译,先设置LD_LIBRARY_PATH,再启动python3。import torch成功,测试cuda是否可用。import torch报错。原创 2023-09-05 15:35:18 · 1821 阅读 · 0 评论 -
pytorch-v2.0.1 cuda arm64 aarch64 torch 2.0.1+cu118 源码编译笔记
已存在openssl库,但是版本有对不上,去掉openssl openssl-lib的安装指令。rsync把已经在x86编译成果的源代码同步到arm64服务器上。gcc: 错误:yaml/_yaml.c:没有那个文件或目录。gcc: 致命错误:没有输入文件。注意:有报错(目前看不影响)原创 2023-09-04 13:29:23 · 1923 阅读 · 1 评论 -
Ubuntu 22.04 x86_64 源码编译 pytorch-v2.0.1 笔记【2】编译成功
make[3]: *** [caffe2/CMakeFiles/torch_cpu.dir/build.make:17403:lib/libtorch_cpu.so] 错误 1。gmake[1]: *** [CMakeFiles/Makefile2:4511:caffe2/CMakeFiles/torch_cpu.dir/all] 错误 2。make[2]: *** [CMakeFiles/Makefile2:4511:caffe2/CMakeFiles/torch_cpu.dir/all] 错误 2。原创 2023-08-31 14:55:42 · 1542 阅读 · 0 评论 -
Kylin Linux Advanced Server V10 (Tercel) aarch64 安装nvidia-container-runtime docker nvidia-smi
成果识别到Tesla T4显卡。原创 2023-08-08 10:58:47 · 903 阅读 · 0 评论 -
Kylin Linux Advanced Server V10 (Tercel) aarch64安装NVIDIA-Linux-aarch64-520.61.05.run驱动Tesla T4 16G笔记
注:NVIDIA-Linux-aarch64-520.61.05.run可以在cuda_11.8.0_520.61.05_linux_sbsa.run运行阶段在/tmp目录下搜索到:find /tmp | grep NVIDIA。首次安装时,选择驱动一同安装,会自动生成文件/etc/modprobe.d/nvidia-installer-disable-nouveau.conf , 内容如下。原创 2023-08-04 16:11:34 · 1646 阅读 · 0 评论 -
Ubuntu 22.04 LTS 安装nvidia-docker NVIDIA Container Toolkit
安装nvidia-container-toolkit。原创 2023-08-01 08:59:32 · 6402 阅读 · 2 评论 -
Stable Diffusion WebUI rtx 2060 6G 高清修复 爆显存torch.cuda.OutOfMemoryError: CUDA out of memory.
零食解决办法,重启webui.sh进程,重新执行生成图片。原创 2023-07-10 08:58:49 · 1225 阅读 · 0 评论 -
Stable Diffusion WebUI 打开面部修复 报错 RuntimeError: unexpected EOF, expected 1727329 more bytes
可以到,自动下载了另外一个文件后,由于内存不足崩溃。删除掉该文件,使其重新自动下载。眼睛还是不正常,手指也不对。那么出问题的文件可能是。缩小图片尺寸,成功出图。原创 2023-07-10 08:32:44 · 1155 阅读 · 0 评论 -
Stable Diffusion WebUI 不同采样方法的效果、耗时对比记录
所有测试除了采样方法调整,其他均保持一致。主要参数信息如下。原创 2023-07-07 17:01:36 · 643 阅读 · 0 评论 -
Stable Diffusion WebUI 图生图 DeepBooru反推提示词 结果翻车了
图生图界面,上传图片,点击“DeepBooru反推提示词”参考上文,下载模型,添加上LoRA模型参数,名称参考如下。图形界面没有反应,终端日志。github网络不通导致。原创 2023-07-07 15:32:13 · 2417 阅读 · 0 评论 -
Stable Diffusion WebUI Ubuntu 22.04 LTS RTX2060 6G 极限显存出图
chilloutmix_Ni.safetensors,重启webui.sh进程。显卡还能剩余不到200M。原创 2023-07-07 13:53:29 · 1626 阅读 · 0 评论 -
Stable Diffusion WebUI 集成 sd-webui-segment-anything sd-webui-inpaint-anything Ubuntu22.04 rtx2060 6G
下载分割模型(segmentation models):显存只有6G,选择l版本。原创 2023-07-06 13:02:26 · 1528 阅读 · 0 评论 -
Stable Diffusion WebUI 汉化 Ubuntu 22.04平台
Localization中选择zh_CN,点击Apply settings 按钮,然后点击Reload UI。在Extensions中,查看状态,已经列出来汉化扩展。点击Settings->User interface。下载汉化扩展到extension目录。原创 2023-07-06 09:50:23 · 781 阅读 · 0 评论 -
Ubuntu 22.04.2 LTS LTS x86_64 安装 stable-diffusion-webui 【2】基本版本完结。
过程中遇到的阻碍1.网络!该问题最为严重,pip采用清华、阿里源会导致依赖安装版本不匹配报错!外网的资料又下载不过来2. cuda驱动安装,经历系统升级,黑屏。原创 2023-07-05 13:23:15 · 4309 阅读 · 0 评论 -
Ubuntu 20.04 LTS 安装 nvidia 驱动 + cuda 11.8 从开始到放弃!
升级,非常重要,否则安装到glibc 32位库时报错,系统死机!升级到一般,黑屏了!!!放弃这个版本!接着折腾硬件reset重启后,能进入系统先修复dpkg继续更新。原创 2023-07-04 15:05:23 · 1300 阅读 · 0 评论 -
Docker Ubuntu 20.04 apt install cuda-11-8 Unmet dependencies Invalid cross-device link
直接采用做好的cuda镜像。原创 2023-06-28 16:15:56 · 1050 阅读 · 0 评论 -
Deepin 20.8 linux convert 一寸照 调整图片尺寸413x579 300dpi
原图convert修改尺寸指令目标图尺寸已调整,dpi太低了。原创 2023-06-26 15:18:44 · 519 阅读 · 0 评论 -
Deepin 20.08 linux 升级nvidia驱动 黑屏 报错nvrm api mismatch
安装过程重启到字符界面后。原创 2023-06-26 10:58:28 · 859 阅读 · 0 评论