开源模型人人可用,但搭建一套私有化的模型能力还是付出一些努力的,首当其中需要硬件支出,其次是模型搭建的学习摸索成本。
如果线上有一套成型可用的开源模型能力提供,并且价格也不贵的话,相当肯定会受到大家的青睐。这里推荐两家出色的模型中间商,模型全面,任你挑选。
Siliconflow
https://siliconflow.cn/zh-cn/,国内厂商
硅基流动多数成员来自一流科技(曾经被老王的光年之外收购),拥有驾驭万卡集群的技术能力,并推出了极具竞争力的AI Infra商业化方案,积累了多家海外头部AIGC付费客户,并与业内大模型企业和算力企业开展合作。此外,硅基流动还计划进一步加快产品创新,为开发者提供触手可及的AI云服务,促进AI应用层的繁荣,推动AGI技术普惠化。硅基流动算是原创始人的再次创业项目。
一众的免费模型调用,为广大的开发者所喜爱。
openrouter
https://openrouter.ai/,海外厂商。
出海的同学,可能更喜爱OpenRouter,模型全面,价格实惠。
OpenRouter 为使用者提供了部分开源模型的实现,可以通过API免费使用,主要聚焦在7B规模大小的模型,比如谷歌的 gemma-7b ,Mistral AI 的 mistral-7b-instruct,一定程度避免了自己去部署大模型的成本。通过 OpenRouter 可以调用超 100 种优秀的大模型,其中包括比较流行的 OpenAI 的 ChatGPT 系列(包括GPT4V),Anthropic 的 Claude 系列,谷歌的 PaLM 和 Gemini 系列等,而且更换模型仅需修改模型的名字即可,无需修改调用代码得逻辑。
居然支持Crypto支付,相当开放了。