- 博客(13)
- 收藏
- 关注
RSS订阅原创 4060TI 跑 Qwen3.6-35B 跑出 70+ t/s
推理速度有时也会慢一点，加载完模型还剩下!运行Agent可能由于模型性能需要更多token来思考，推理速度约55t/s左右。太多的对话会超过上下文限制而导致崩溃。这份运行参数参考了 B 站网友的参数，具体出处忘记了，仅仅学习使用。不要图像模块可以让模型运行更稳定，否则长下文长一点就运行不下去。如果是在 Win10/11 平台下，使用。注意模型路径，文本编码器来自。
2026-06-03 12:00:51
251
原创 libstdc++.so.6 GLIBCXX_3.4.32 not found
原因是miniconda3中lib下的libstdc++.so.6与gcc编译器的不一致。sudo cp /usr/lib/x86_64-linux-gnu/libstdc++.so.6替换掉报错的libstdc++.so.6即可。输入 strings libstdc++.so.6|grep GLIBCXX_3.4.32 可以查看该库中是否存在GLIBCXX_3.4.32。缺少其它CXX使用类似方法。输入sudo find / -name “libstdc++.so.6*” 可以查找文件。
2024-11-27 22:13:22
1561
原创 win10/11安装glove_python
windows平台直接使用pip install glove_python会报错，应该下载源码，修改setup.py文件后安装。下载地址：https://github.com/maciejkula/glove-python。环境：Visual Studio生成工具2022安装c++桌面开发 + python3.11。在glove-python目录的地址栏上输入cmd打开终端。终端输入python setup.py install。修改setup.py。
2024-09-30 20:42:33
347
原创 量化CodeGeeX2报错AttributeError: ‘ChatGLMTokenizer‘ object has no attribute ‘tokenizer‘. Did you mean: ‘
git clone --recursive https://github.com/li-plus/chatglm.cpp.git 根据README.md中的指导完成环境搭建。从chatglm3-6b中把tokenization_chatglm.py拷贝到模型目录中替换掉原tokenization_chatglm.py。从https://hf-mirror.com/THUDM/codegeex2-6b上下载模型（国内可用），要下载所有文件。下载chatglm-cpp，用于模型量化，
2024-04-16 10:05:25
448
原创 江科大stm32项目的启动过程分析
stm32f103c8t6采用CM3实现，CM3的启动方式与ARM的启动方式略有不同，本文简单介绍了stm32f103c8t6的启动流程，并通过反汇编和仿真验证。
2024-03-08 19:48:39
1922
1
原创 ARM-GCC-LD脚本入门讲解
ARM嵌入式开发中，链接脚本.ld的编写和使用，通过整合多篇文章加上自己的见解而编写，尽可能地全面，方便对ARM嵌入式项目中的链接脚本地阅读查阅。
2024-03-08 18:43:35
3120
1
原创 CM3-ARM-GCC编程
使用arm gcc 工具链开发stm32f103的流程。根据《Cortex-M3权威指南》第19章的内容编写，新增stmcube自动生成代码教程。附gcc工具链百度云下载链接。
2024-03-08 18:34:16
903
1
pyopenjtalk-0.3.3
2024-05-03
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人