- 博客(2)
- 收藏
- 关注
原创 2025.8 VLLM安装部署过程 CUDA11.8 Python3.12
当前CUDA驱动最高支持12.0版本的CUAD环境,故选择11.8版本的CUAD(最常用11.8与12.1)一、检查 NVIDIA 驱动,确定最高支持的CUDA版本,以选择安装的Torch版本。三、VLLM 把模型部署成 openai API server 形式。torch不用提前装,vllm安装时会一并装上。调用示例:Qwen2.5-7B。2.检查GPU状态与可用个数。
2025-08-17 18:50:24
1473
1
原创 贵州大学840计算机考研冲刺攻略
(说了这么多,还要在给自己实验室师姐团队出的模拟卷打打广告😎)卷子是师姐找的学院高分学长出的,信息真实,根据近五年出题风格、考察重点,结合2024、2025近两年博学课资料及授课信息而出,答案解析详细。对于代码题,如果时间允许,最好先在草稿纸上确定后再写到答题纸上,以避免阅卷老师因为书写不清而误判。格式要求:答题纸上没有严格的格式要求,类似于政治考试的答题纸,考生自己写题号。刷套题并整理错题:准备一个纸质的错题总结档案,按专项区分,特别是重点和易错点。代码练习:练习王道课后的代码题,确保常用代码熟练掌握。
2024-11-29 20:28:25
237
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅