文章讲述了如何计算13亿和7亿个单精度参数所占用的存储空间，每个单精度参数占4个字节，分别计算出为48.3GB和26.1GB。
参数一般都是单精度的
13B的单精度参数量会占用多少字节？
130亿个的单精度参数量共有13000000000个，每个单精度占用4个字节，因此总共需要的字节数为：
13000000000 x 4 = 52000000000 字节
换算成GB，约为：
52000000000 字节 ÷ 1024 ÷ 1024 ÷ 1024 ≈ 48.3 GB
那7B的呢
70亿个的单精度参数量共有7,000,000,000个，每个单精度占用4个字节，因此总共需要的字节数为：
7,000,000,000 x 4 = 28,000,000,000 字节
换算成GB，约为：
28,000,000,000 字节 ÷ 1024 ÷ 1024 ÷ 1024 ≈ 26.1 GB
通过实验证明上述方法计算是正确的
280
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
