明敏 发自 凹非寺
量子位 | 公众号 QbitAI
大模型应用落地元年,谁家业务更值得关注?
Tokens使用量,正在成为最关键的衡量指标。
量子位结合市场数据观察,2024下半年国内大模型商用落地日均Tokens消耗量翻了近10倍,从1000亿级规模到10000亿规模,只用了6个月,月复合增长率达到45%。其中,10-12月增长进一步提速。
其中,只有1家云厂商商用Tokens日均消耗量的月均复合增长率超过60%。
它就是火山引擎。
5月份,它还停留在日均百亿级Tokens水平,不及全行业1/5;8月初突破千亿Tokens大关,并在之后保持迅速增长,12月日均Tokens市场份额占比超50%,超过其他玩家份额总和。
(初期市场变化迅速,整体估算会偏小。各厂商数据不包含各家自研模型服务商的应用消耗,比如火山引擎——豆包APP)
什么概念?
这意味着平均每秒并发Token数约为750万。按照一个生成式AI模型单次响应平均需要处理1000个Tokens,每秒就要处理7500个用户请求。
突然拉开差距,背后核心影响因素还是AI原生应用爆发。
根据对外披露数据,截至12月中旬,豆包大模型的日均Tokens使用量已超过4万亿,较七个月前首次发布时增长了33倍。
据AI产品榜应用榜数据,2024年1月至10月,中国AI原生应用(APP)累计下载量排名前5名的总下载量已经达到了1.8亿;11月全球总榜前10名中,国产AI应用占两席,豆包以5998万月活位居第二,并保持着10%以上的增速。
这一趋势给To B层面也带来深刻影响,最新披露的商用落地日均Tokens规模就是最直接的证明。
透过这一数据,大模型产业落地情况,在此变得更加清晰了一些。