- 博客(5)
- 收藏
- 关注
RSS订阅
1原创 vLLM + Open WebUI 本地部署 QwQ-32B 模型
QwQ 是 Qwen 系列的推理模型。与传统的指令调优模型相比，能够思考和推理的 QwQ 可以在下游任务中实现显着增强的性能，尤其是难题。QwQ-32B 是中型推理模型，能够实现与最先进的推理模型（如 DeepSeek-R1、o1-mini）相比的竞争性能。
2025-03-12 08:27:20
1242
原创 Linux配置Ollama+Open-WebUI时，HuggingFace访问失败问题
执行 bash start.sh 命令时会遇到 HuggingFace 访问失败问题，运行以下代码将 HuggingFace 官网地址更换为镜像地址，再次执行 bash start.sh 命令可以解决此问题。
2024-10-24 17:01:10
935
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人