豆包大模型全网最低价?仔细算算账,还是文心更便宜

5月16日,火山引擎发布了旗下豆包大模型,宣称比行业价格便宜99.3%,直击全网最低价。紧接着,在技术社区看到,有开发者算了一笔账:

在这里插入图片描述

当我们使用大模型时,会向大模型提问。在大模型厂商眼里,我们可以把一次提问简单看成一个向大模型提出的请求(Request),一个请求会包含输入、输出两部分,也就是用户先向模型提问,模型在理解问题、分析结果之后给出答案。问题和答案中包含的文字量通常会用固定的计算方式换算成大模型能够理解的单元,也就是Token(1千个Token大约可以表示700多个汉字)。根据问答内容的特征、模型算力消耗等因素,大模型厂商一般会分别为输入、输出内容设定不同的价格。

火山引擎最新发布的大模型Doubao-pro-32k,表面上显示模型的推理输入价格仅为0.0008元/千Tokens,但是并没有在发布会上展示模型的输出价格0.002元/千tokens,在通过加权平均输入、输出价格后(按输入:输出=5:1来计算),实际的收费价格达到0.001元/千tokens。而这个价格只有在较低的业务并发(每分钟60次问答请求,即每秒1次)强限制条件下才能实现。

也就是说,豆包大模型的这个“超低价”只能用来体验和测试,无法真正用到生产环境中。

如果用户在真实的业务场景中高频调用豆包大模型,就需要采用预付费模式,这个“超低价”就更不存在了。

在大模型付费模式方面,主要分为预付费、后付费两种模式。预付费模式,要求用户在使用服务前预先支付一定的费用,通常按照预估的使用量或者服务套餐来计费,也就是大家日常生活中熟悉的“包年、包月”等模式。

后付费模式,允许用户先使用大模型服务,之后再根据实际使用量按月或其他周期结算费用,也就是按使用量收费(Pay As You Use)。一般来说,预付费模式“批发”式的打包买卖,要比后付费模式更便宜。

通常情况下,预付费模式会在每分钟处理内容量(TPM,Tokens per Minute)这个关键指标上限制服务能力。以Doubao-pro-32k为例,预付费的价格为一个TPM单元(10K Tokens per Minute)每个月12,000元。

假设用户能够消耗光所有的内容额度,需要支付费用0.028元/千tokens(预付费模式,一个月可以产生10K tokens/分钟 * 1440 分钟/天 * 30天 = 432,000个千tokens,12000元➗432,000=0.028元/千tokens),高出后付费费用(0.001元/千tokens)足足27倍!

此外,因为企业调用大模型有高峰低谷,很难100%消耗掉完整的TPM单元,按照70%的平均利用率来计算,Doubao-pro-32k每千tokens的价格将达到0.04元,相比后付费贵出39倍!

相比之下,百度的ERNIE-3.5-128K模型,一个TPM单元每个月的费用为17,000元,需支付费用为0.039元/千tokens,比Doubao-pro-128k便宜29%。

由此可见,企业要想真正在业务场景下使用大模型,预付费这种“批发”模式是最经济实惠的,如果后付费这种“零售”模式更便宜,大概率是加了诸多限制条件的“尝鲜价”。目前主流大模型中,最便宜、性价比最高的,可能还是百度的文心大模型。
在这里插入图片描述

综合来看,还是要理性看待大模型的价格战,表面上的低价并不代表实际使用的价格。
另外,企业在选择大模型时,不仅要考虑价格,更要关注模型的质量、性能、服务支持以及整体的解决方案。价格虽然是决策的一个重要因素,但绝非唯一因素。模型的质量直接影响到企业业务的准确性和效率。一个性能优越、准确性高的大模型,能够为企业带来更大的价值,提升用户体验,甚至推动业务创新。因此,在选择大模型时,企业需要对模型的性能进行充分的测试和评估,确保模型能够满足自身业务的需求。

其次,服务支持也是企业在选择大模型时需要考虑的重要因素。大模型的应用涉及到复杂的技术和数据处理流程,需要专业的技术支持和服务保障。一个好的大模型厂商应该能够提供全面的技术支持和解决方案,帮助企业解决在使用过程中遇到的问题,确保业务的稳定运行。

综上所述,企业在选择大模型时需要综合考虑价格、性能、服务支持以及整体的解决方案等多个因素。只有理性看待大模型的价格战,选择那些真正能够为企业带来价值的大模型,才能在激烈的市场竞争中取得成功。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI浩

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值