- 博客(8)
- 资源 (5)
- 收藏
- 关注
原创 使用LMdeploy 运行书生模型
高效的推理:LMDeploy 开发了 Persistent Batch(即 Continuous Batch),Blocked K/V Cache,动态拆分和融合,张量并行,高效的计算 kernel等重要特性。可靠的量化:LMDeploy 支持权重量化和 k/v 量化。LMDeploy 由 MMDeploy 和 MMRazor 团队联合开发,是涵盖了 LLM 任务的全套轻量化、部署和服务解决方案。便捷的服务:通过请求分发服务,LMDeploy 支持多模型在多机、多卡上的推理服务。
2024-07-24 14:41:15 1116
原创 书生 task L0-Linux
1. vscode 连接 开发机2. 映射端口,并运行hello_world.py3. 可选任务 2 用vscode 创建 conda环境
2024-07-18 15:13:54 213
原创 入驻shopee都需要什么?
shopee入驻分为两种渠道,一种为官网注册,通常需要7-15天能接受到入驻的链接。另一种为招商经理链接,1-3天可收到入驻链接。我可以提供招商经理链接(以下所有都是免费的)个体工商户或企业营业执照0元费用一个注册过店铺的人辅导,比如我需要的具体资料:营业执照照片(正本或副本),必须是照片,不能扫描件法人身份证正反面一个干净的手机号和邮箱(以前入驻过会造成关联,然后所有的资料都废掉)人脸识别。20秒钟的一个真人视频,法人手持营业执照和北京时间,需要3天之内即可。开店成功。开店期
2021-11-24 21:40:44 467
(NEW)元宇宙.txt
2021-11-22
1300个常用单词,网易词典导出,5年日常积累
2018-11-08
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人