- 博客(3)
- 收藏
- 关注
RSS订阅原创 如何使用算想云？
算想云（llm.sxwl.ai）：Serverless 大模型训练云服务；以低于公有云 60% 的价格运行容器化的大模型训练任务，让更多团队用得上大模型。
2023-11-14 17:43:20
133
原创 【上线公告】算想云：大模型算力价格比公有云低 60%
算想未来是国产 GPU 厂商天然的战略盟友，算想未来与国产 GPU 厂商一起，作为独立的智算云服务提供者，构建中立的智算云服务，让企业用户能获得安全、私密的 AI 算力云服务，通过大模型及 AI 挖掘自有数据的商业价值！在技术上，如下图所示，算想未来锚定算力云服务，聚焦于云原生智算平台技术，以大模型算力云服务为起点，为中小企业提供最具性价比的 AI 算力。全体系厂商：代表为 NVIDIA、以及正在崛起中的华为，这类厂商有完整的智算产品生态：智算芯片设计、智算基础软件、智算云服务；
2023-11-14 17:38:26
80
翻译 每个大模型开发者都应该知道的数字
经过研究，出现了一些可以减少显存需求的方法，例如项目 llama.cpp 用 4 比特量化（8 比特也可行）实现在 6GB 的 GPU 上运行一个 130 亿参数的模型，但这是个例。一般来说， A10G更受欢迎，按照 AWS 按需价格，它的价格为每小时 1.50 至 2 美元，并且具有 24G GPU 显存，而 A100 按 AWS 按需价格，每台价格约为 5 美元。如果你私有化部署一个模型，那么为微调模型提供服务的成本与为基础模型提供服务的成本基本上是相同的，因为这些模型具有相同数量的参数。
2023-10-13 12:38:47
176
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人