大模型商用格局雏形初现:Tokens用量决高下,火山引擎问鼎2024

明敏 发自 凹非寺
量子位 | 公众号 QbitAI

大模型应用落地元年,谁家业务更值得关注?

Tokens使用量,正在成为最关键的衡量指标。

量子位结合市场数据观察,2024下半年国内大模型商用落地日均Tokens消耗量翻了近10倍,从1000亿级规模到10000亿规模,只用了6个月,月复合增长率达到45%。其中,10-12月增长进一步提速。

其中,只有1家云厂商商用Tokens日均消耗量的月均复合增长率超过60%

它就是火山引擎

5月份,它还停留在日均百亿级Tokens水平,不及全行业1/5;8月初突破千亿Tokens大关,并在之后保持迅速增长,12月日均Tokens市场份额占比超50%,超过其他玩家份额总和。

70c62061657c73cc584ddc9ab5134437.png

(初期市场变化迅速,整体估算会偏小。各厂商数据不包含各家自研模型服务商的应用消耗,比如火山引擎——豆包APP)

什么概念?

这意味着平均每秒并发Token数约为750万。按照一个生成式AI模型单次响应平均需要处理1000个Tokens,每秒就要处理7500个用户请求。

突然拉开差距,背后核心影响因素还是AI原生应用爆发

根据对外披露数据,截至12月中旬,豆包大模型的日均Tokens使用量已超过4万亿,较七个月前首次发布时增长了33倍。

据AI产品榜应用榜数据,2024年1月至10月,中国AI原生应用(APP)累计下载量排名前5名的总下载量已经达到了1.8亿;11月全球总榜前10名中,国产AI应用占两席,豆包以5998万月活位居第二,并保持着10%以上的增速

这一趋势给To B层面也带来深刻影响,最新披露的商用落地日均Tokens规模就是最直接的证明。

透过这一数据,大模型产业落地情况,在此变得更加清晰了一些。

为什

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值