vLLM-Ascend 模型在昇腾 NPU 上的开发、调试与性能优化 vLLM-Ascend 模型在昇腾 NPU 上的开发、调试与性能优化

阅读 6.8w

123赞

作者推荐
黛琳ghz
计算机软件专业博主,校专业第一,优秀毕业生,国家奖学金候选人,拥有二十余项校级奖项、多项省级奖项、软件著作权一项等等。从事软件开发行业,专注于软件开发学习,同时热爱人工智能、AIGC、数据库技术。获得有CSDN新星计划导师、CSDN实力新星、6月城市之星(广州)TOP 29、CSDN全栈领域新星创作者、CSDN前端领域优质创作者、2022年度博客之星前端领域TOP 8、2022年度博客之星TOP 95、CSDN第四届猿创征文优质博文奖(分数85第一)、以及多项优秀TOP博文、CSDN开源挑战赛优秀奖等等。同时还是腾讯云创作之星、华为云云享专家、阿里云社区专家博主,稀土掘金博主。
关注
zero13_小葵司
做个简单快乐,保持持续热情与学习的工程人员。
关注
VisionPowerful
机器视觉打工人,致力于提高生产力水平,让人类从简单重复低效的工作中解放出来,减少上班时间,提高生产效率,提高收入水平,让科技为人类服务,提升生活质量和幸福感
关注
allk55
钻研Android开发中~
关注
浅沫云归
A Java programmer, github repository:https://github.com/1321928757, Welcome to Star, VX(lsj1321928757)
关注
昇腾CANN
昇腾AI异构计算架构CANN,助力释放硬件澎湃算力!
关注
技术摆渡人
欢迎加入我的知识星球:https://t.zsxq.com/whKUD 技术宅男,匠心技术创造者。以最简单的形式讲复杂的原理,让你轻松学技术。
关注
徐安安ye
一位热爱编程的人哦
关注
景风~
坚持纯干货学习与分享
关注
紫菜紫薯紫甘蓝
梦想是成为咸鱼~
关注