- 博客(8)
- 资源 (5)
- 收藏
- 关注
RSS订阅原创 使用LMdeploy 运行书生模型
高效的推理：LMDeploy 开发了 Persistent Batch(即 Continuous Batch)，Blocked K/V Cache，动态拆分和融合，张量并行，高效的计算 kernel等重要特性。可靠的量化：LMDeploy 支持权重量化和 k/v 量化。LMDeploy 由 MMDeploy 和 MMRazor 团队联合开发，是涵盖了 LLM 任务的全套轻量化、部署和服务解决方案。便捷的服务：通过请求分发服务，LMDeploy 支持多模型在多机、多卡上的推理服务。
2024-07-24 14:41:15
1108
原创 书生 task L0-Linux
1. vscode 连接 开发机2. 映射端口，并运行hello_world.py3. 可选任务 2 用vscode 创建 conda环境
2024-07-18 15:13:54
208
原创 入驻shopee都需要什么？
shopee入驻分为两种渠道，一种为官网注册，通常需要7-15天能接受到入驻的链接。另一种为招商经理链接，1-3天可收到入驻链接。我可以提供招商经理链接（以下所有都是免费的）个体工商户或企业营业执照0元费用一个注册过店铺的人辅导，比如我需要的具体资料：营业执照照片（正本或副本），必须是照片，不能扫描件法人身份证正反面一个干净的手机号和邮箱（以前入驻过会造成关联，然后所有的资料都废掉）人脸识别。20秒钟的一个真人视频，法人手持营业执照和北京时间，需要3天之内即可。开店成功。开店期
2021-11-24 21:40:44
464
(NEW)元宇宙.txt
2021-11-22
1300个常用单词,网易词典导出,5年日常积累
2018-11-08
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人