自定义博客皮肤VIP专享

*博客头图：

格式为PNG、JPG，宽度*高度大于1920*100像素，不超过2MB，主视觉建议放在右侧，请参照线上博客头图

请上传大于1920*100像素的图片！

博客底图：

图片格式为PNG、JPG，不超过1MB，可上下左右平铺至整个背景

栏目图：

图片格式为PNG、JPG，图片宽度*高度为300*38像素，不超过0.5MB

主标题颜色：

RGB颜色，例如：#AFAFAF

Hover：

RGB颜色，例如：#AFAFAF

副标题颜色：

RGB颜色，例如：#AFAFAF

预览 取消 提交

自定义博客皮肤

-+
上一步保存

qq_39901244的博客

  • 博客(2)
  • 收藏
  • 关注
排序：
按最后发布时间
按访问量
RSS订阅

原创 vLLM部署Qwen3.5强制不思考

摘要：Qwen3.5默认采用思考模式运行，但可通过设置vLLM部署参数关闭该功能。

2026-03-04 11:16:13 843 1

原创 Qwen3.5-27B GPUSTACK后端vLLM部署指南

摘要：本文介绍了在GPUSTACK 上部署Qwen3.5-27B模型时遇到的Transformers版本过低问题及解决方法。通过添加适配的vLLM版本并详细配置vLLM后端参数，包括标准参数、工具调用、MTP等不同模式设置，成功解决了模型部署问题。文章提供了从版本查询到参数配置的完整操作流程图示。

2026-02-28 17:32:17 2429 2

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章？
取消 删除