- 博客(2)
- 收藏
- 关注
RSS订阅原创 Geekbench AI 1.0 是一项全新基准，用于测试您的 PC 是否能处理复杂的 AI 任务
Geekbench AI 1.0 是一款尖端工具，可以让您评估设备处理 AI 任务的性能。这个基准测试软件专门设计用于测试设备的 CPU、GPU 和 NPU 在处理高要求的 AI 负载时的表现，给您一个清晰的答案，了解您的硬件是否能够跟上当今 AI 驱动的应用需求。
2024-08-20 17:27:39
451
原创 要想赚钱，AI模型该大该小？贾扬清：论AI模型经济学的技巧
此前也有人提出质疑，对大型模型服务商的运营成本和营运收益做了简单的计算，每天8张H100显卡运营节点的成本约为1000美元，每天可以提供2600万token的服务，但按Llama 405B每一百万token 3美元的价格，怎么算都是亏本的，无法盈利的大型模型不会被市场抛弃吗？同时他还指出，每秒大约30个token指的是输出token，大模型对于输入token的处理速度更快，这也增加了处理的总token数，大模型通常对输入和输出分别计费，也正是这个道理。你看好贾扬清这种AI Infra的创业路线吗？
2024-08-16 18:35:54
770
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人