大模型商用格局雏形初现：Tokens用量决高下，火山引擎问鼎2024

明敏 发自 凹非寺
量子位 | 公众号 QbitAI

大模型应用落地元年，谁家业务更值得关注？

Tokens使用量，正在成为最关键的衡量指标。

量子位结合市场数据观察，2024下半年国内大模型商用落地日均Tokens消耗量翻了近10倍，从1000亿级规模到10000亿规模，只用了6个月，月复合增长率达到45%。其中，10-12月增长进一步提速。

其中，只有1家云厂商商用Tokens日均消耗量的月均复合增长率超过60%。

它就是火山引擎。

5月份，它还停留在日均百亿级Tokens水平，不及全行业1/5；8月初突破千亿Tokens大关，并在之后保持迅速增长，12月日均Tokens市场份额占比超50%，超过其他玩家份额总和。

（初期市场变化迅速，整体估算会偏小。各厂商数据不包含各家自研模型服务商的应用消耗，比如火山引擎——豆包APP）

什么概念？

这意味着平均每秒并发Token数约为750万。按照一个生成式AI模型单次响应平均需要处理1000个Tokens，每秒就要处理7500个用户请求。

突然拉开差距，背后核心影响因素还是AI原生应用爆发。

根据对外披露数据，截至12月中旬，豆包大模型的日均Tokens使用量已超过4万亿，较七个月前首次发布时增长了33倍。

据AI产品榜应用榜数据，2024年1月至10月，中国AI原生应用（APP）累计下载量排名前5名的总下载量已经达到了1.8亿；11月全球总榜前10名中，国产AI应用占两席，豆包以5998万月活位居第二，并保持着10%以上的增速。

这一趋势给To B层面也带来深刻影响，最新披露的商用落地日均Tokens规模就是最直接的证明。

透过这一数据，大模型产业落地情况，在此变得更加清晰了一些。

为什