brain1234的博客

ModelScope-Agent：构建基于开源大模型的可定制智能助手系统点击创空间搜索agent创建agent发布agent。

接下来, 将原模型中所有 *.py, *.cu, *.cpp 文件和 generation_config.json 文件复制到输出模型目录下。同时，使用官方对应版本的量化模型的 config.json 文件覆盖输出模型目录下的文件 (例如, 如果你微调了 Qwen-7B-Chat和–bits 4, 那么你可以从 Qwen-7B-Chat-Int4 仓库中找到对应的config.json )。fp16精度问题：True改为False。

此处烧录以出厂固件为例。

引脚意义尺寸连接命令词。

ngrok http 15110 # 这里选择你自己的端口。在其他设备浏览器输入此网址即可。

【代码】文字转语音输出（chatTTS）ubuntu部署。

ubuntu22.04安装语音小助手。

cuda 12.4显卡：RTX2080Tianaconda。