Qwen - 14B 怎么实现本地部署,权重参数大小:21GB

1384 篇文章 ¥199.90 ¥299.90
974 篇文章 ¥199.90 ¥299.90
782 篇文章 ¥199.90 ¥299.90

Qwen - 14B 权重参数大小:21GB

参数量与模型占用存储空间(GB)是不同概念。Qwen - 14B参数量约140亿 。其模型大小在不同精度下占用存储空间不同,如在一些资料中提到,Qwen - 14B在特定情况下占用空间约21GB 。实际存储大小会因存储格式、量化方式等因素有所变化。

Qwen - 14B 怎么实现本地部署

python 下载

from modelscope import snapshot_download
model_dir = snapshot_download(“qwen/Qwen2.5-0.5B”, cache_dir=“./models2.5”)
在这里插入图片描述

https://modelscope.cn/models/Qwen/Qwen2.5-14B-Instruct/files

图中 “model - 00001 - of - 00008.safetensors” 到 “model - 00005 - of - 00008.safetensors” 这种编号形式,是因为大模型文件体量庞大,为便于存储、传输和管理,常将其切分。这里的 “00001 - 00008” 等编号表示它

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

ZhangJiQun&MXP

等到80岁回首依旧年轻

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值