- 博客(36)
- 收藏
- 关注
原创 使用Milvus向量数据库构建具有长期记忆的对话机器人
由于在下文使用的时候需要用到Milvus的公网地址,而公网地址需要我们手动开启,参考下面这篇文章开启公网地址,以及将自己的ip地址放到白名单中。将CEC-corpus这个文件下载到项目中,然后配置访问milvus的参数,记得修改API Key和自己设置的密码。
2025-05-07 14:44:59
560
原创 Qwen2.5-VL本地部署流程
python3.12CUDA12.1二、下载模型 创建一个download.py文件 执行download文件下载模型我们进行测试的图片如下: 运行结果如下:可以看出Qwen2.5-VL成功的识别出了图像的内容 运行自带的webdemo.pyValueError: When localhost is not accessible, a shareable link must be created. Please set share=True or check your pr
2025-04-17 09:48:25
1168
原创 开源语音合成模型SparkTTS使用
如果想要改变声音的性别,音调,速度,可以在infer.sh中看到对于这些参数的说明,但是这几个参数要一起加才能用,否则会报错。从modelscope进行下载,pip install modelscope。prompt_speech_path 样本语音的保存路径。prompt_text 样本语音的文本信息。save_dir 克隆语音的保存路径。model_dir 大模型的保存路径。text 需要克隆语音所对应的文本。device 指定显卡编号。
2025-04-17 09:46:12
548
原创 2025亲测有用 yolov8 pt转onnx转ncnn 部署安卓
onnx转化为ncnn这条路径现在已经落后了,更多的是通过pnnx转化为ncnn。
2025-04-02 15:02:42
624
2
原创 运行yolov8以及yolov11的踩坑点以及细节
复制https://ultralytics.com/assets/Arial.ttf到浏览器可以手动下载字体文件,然后使用move指令。我建议yaml文件和dataset都放到yolov8\ultralytics\yolo文件夹下。这里的model和data都可以直接写名称,不用写路径,没有路径他会走默认路径。这样也不用一直修改default.yaml中的参数,直接在命令行中指定就可以了。将data.yaml和pt文件都放到ultralytics文件夹下,运行如下命令。再运行训练命令,可以正常训练。
2025-03-16 22:27:50
401
原创 如何将yolov8模型部署在rk3588上
使用修改后的ultralytics对pt模型进行模型转换,此处的format=rknn代表支持rknn后续的转换,而不是用onnx,一定要注意!进入rknn-toolkit2-2.1.0\rknn-toolkit2-2.1.0\rknn-toolkit2\packages文件夹下。不用官方的yolov8代码,而是用瑞芯微的yolov8代码。然后,我们的转rknn环境就配置完成了。FP16量化后不能再转rknn,会报错。拉取到代码之后,安装依赖。
2025-03-16 22:27:41
1169
原创 LangChain+InternLM2搭建知识库
或者到/usr/local/miniconda3/lib/python3.8/site-packages/posthog/client.py。直接在这之前RAG的环境基础上使用langchain,需要额外安装下面的依赖。python3.8的版本问题,升级到3.9可以解决。
2025-03-13 21:00:04
388
原创 运行ReferFormer一些踩坑点
要用3.4.0以上,否则会有AttributeError: 'dict' object has no attribute 'to' ReferFormer报错。bert版本问题,修改ReferFormer里的text forward,或者升高transformer版本。No module named 'MultiScaleDeformableAttention' 报错。目前的解决方法是把p.start()改成p.run(),灵感来自下面一篇博客。在进行推理的时候出现如下报错。创建一个新的虚拟环境。
2025-02-19 15:23:23
474
原创 2024山东大学软件学院创新项目实训(9)使用OpenCompass进行模型评估
下载好OpenCompassData-core-20231110.zip 之后,解压压缩包。
2024-06-22 20:08:54
334
原创 2024山东大学软件学院创新项目实训(6)使用恒源云和LMDeploy对大模型进行部署
2024山东大学软件学院创新项目实训(6)使用恒源云和LMDeploy对大模型进行部署
2024-04-09 15:34:51
607
原创 如何将yolov7以ncnn在Android Studio进行部署(踩坑经验)
如何将yolov7以ncnn在Android Studio进行部署
2024-04-07 17:05:38
1438
原创 2024山东大学软件学院创新项目实训(5)使用恒源云平台的云GPU进行微调实战
2024山东大学软件学院创新项目实训(5)使用恒源云平台的云GPU进行微调实战
2024-04-07 13:39:19
901
原创 2024山东大学软件学院创新项目实训(4)使用恒源云平台的云GPU创建实例和数据上传
2024山东大学软件学院创新项目实训(4)使用恒源云平台的云GPU创建实例和数据上传
2024-04-06 16:47:16
636
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人