- 博客(2)
- 收藏
- 关注
原创 Geekbench AI 1.0 是一项全新基准,用于测试您的 PC 是否能处理复杂的 AI 任务
Geekbench AI 1.0 是一款尖端工具,可以让您评估设备处理 AI 任务的性能。这个基准测试软件专门设计用于测试设备的 CPU、GPU 和 NPU 在处理高要求的 AI 负载时的表现,给您一个清晰的答案,了解您的硬件是否能够跟上当今 AI 驱动的应用需求。
2024-08-20 17:27:39
451
原创 要想赚钱,AI模型该大该小?贾扬清:论AI模型经济学的技巧
此前也有人提出质疑,对大型模型服务商的运营成本和营运收益做了简单的计算,每天8张H100显卡运营节点的成本约为1000美元,每天可以提供2600万token的服务,但按Llama 405B每一百万token 3美元的价格,怎么算都是亏本的,无法盈利的大型模型不会被市场抛弃吗?同时他还指出,每秒大约30个token指的是输出token,大模型对于输入token的处理速度更快,这也增加了处理的总token数,大模型通常对输入和输出分别计费,也正是这个道理。你看好贾扬清这种AI Infra的创业路线吗?
2024-08-16 18:35:54
770
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人