硅基流动使用tips
硅基流动是一家国内的llm模型api代理商,当然它也有自己的模型,不过最好用的还是它代理的各种模型的api,利用这些api可以很方便的调用各种模型,而不需要自己搭建模型服务,同时因为是聚合平台,所以可以很方便的进行模型切换,不需要为了某个模型而重新引入对应的配置,直接替换api调用参数即可,非常方便
为什么要用llm模型api代理商
我个人理解,使用代理商主要有两个好处:
-
便宜!!!
代理商通过自部署模型或者是批量购买和优化api调用链路,可以提供比官方api更优惠的价格;
那deepseek举例子,官方api是1元/1M 输入tokens,2元/1M 输出tokens,硅基流动则是输入输出同价,1.33元/1M tokens;官方价格折算是1.5元/1M tokens。当然 官方提供的api的context更长,硅基流动是32k,但是也已经够用了 -
多模型整合
代理商提供了多种模型,可以很方便的进行模型切换,开发和维护成本低,而且便于付费和管理,不需要为了实现某些功能在多个平台开设账号,分别引入对应的api;在代理商上开通一个账号即可,非常方便
硅基流动使用tips
网页使用
硅基流动提供了chatbot,和其他大模型平台类似,可以直接进行对话,不需要自行搭建前端交互页面;
目前有文本生成,文生图,图生图,文生视频四种能力,最近很火的flux.1目前在测试阶段,可以免费白嫖,白嫖怪狂喜
api使用
网页使用场景还是受限的,用api才更灵活,context也更长。
现在注册会送2kw tokens,足够开发测试使用了
下面介绍我常用的api使用场景
和dify集成
dify支持搭建工作流,且提供了多种工作流模板,网上的使用教程也相当丰富,不过不开会员免费的llm调用次数是有限的,要么付费要么使用自己的api,这里介绍下如何使用硅基流动的api,官方也提供了相应的文档:https://docs.siliconflow.cn/docs/use-siliconcloud-in-dify
目前dify已经官方支持了硅基流动,在dify账户的设置弹窗Modal的模型Provider列表中可以看到siliconflow,选择即可,然后填写api key即可,非常方便
添加成功后,再在工作流的llm节点下拉选择模型,就可以看到新增了一大堆siliconflow的模型了,随用随切
和cursor集成
最近cursor大火,使用cursor开发可以快速提高开发效率,可惜的是只有14天免费试用,pro订阅年费是16$每月,价格还是有点昂贵的,不过好在cursor允许接入自己的api,坏消息是官方只支持openai anthropic azure和google几家大厂。好在deepseek提供了和openai api格式兼容的endpoint,选择deepseek的模型就好了,相应配置见下图。
需要注意,增加模型的时候模型名要和硅基流动提供的模型名保持一致(模型名是api调用时的一个参数,必须要正确无误),否则会报错;verify的时候关闭其他模型,否则可能校验不通过,校验通过之后再打开其他模型即可
总结
硅基流动提供的api非常方便,价格便宜,模型丰富,可以很方便的和dify cursor等开发工具集成,非常推荐使用
最近新注册用户送2kw tokens,足够开发测试使用了,有兴趣的可以注册试试,邀请链接:https://cloud.siliconflow.cn/i/EcgVVOOC