- 博客(1)
- 收藏
- 关注
原创 从ModelScope下载并本地部署Qwen大模型完整指南
摘要 本文提供了在MacBook Pro M5 Pro上部署Qwen3.5-27B-Claude大模型的完整指南。主要内容包括: 通过ModelScope CLI下载27B参数的GGUF Q5_K_M量化模型(约18GB) 使用Ollama进行本地部署,包含详细的Modelfile配置说明 性能测试显示在48GB内存的M5 Pro上达到10 tokens/s的生成速度 提供多种访问方式:命令行交互、HTTP API和Python SDK 解决常见问题如macOS的Python环境限制和Ollama服务启动问
2026-04-12 11:22:58
964
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅