011-AutoCoder最佳实践之组合大模型API/Web订阅

前面一篇文章,我们介绍了如何在公司级别使用AutoCoder,架构是这样的:

32aaf64b7891c297ea4768e52cc0ef2d.jpeg



而作为研发同学,实际上相当于把 大模型 Server 也放在自己的笔记本上。但受限于笔记本的性能,
难以解决窗口(上下文)长度以及模型效果问题。

而如果使用 SaaS API的话,这个Token费用在短期内又受不了(在模型厂商没有大规模降价或者AutoCoder 没有提供专有流量的时候)。

那怎么真正把 AutoCoder 给利用起来呢?
笔者目前的最佳实践是,组合API和Web订阅两种方式,获得效果和成本的平衡。


1. Web 版本的优势是按月订阅,对于Token使用量巨大的同学而言,性价比很高,而且他的效果也往往很不错。AutoCoder Token消耗量最大的环节就是生成代码的环节。
2. API 版本对于 AutoCoder 主要应用于索引构建,HTML 正文抽取等小功能点,相对来说,Token消耗量小一些,但能让 AutoCoder自动化运转起来。

基本思路就是:

1. 给 AutoCoder 配置一个模型,用于索引构建,HTML 正文抽取等小功能点。
2. 开启 human_as_model模式,使用 Web 版本的大模型,用于生成代码。

具体用法,我们之前在 human as model 模式有详细的使用介绍。

此外,如果你好奇 AutoCoder 配置的模型主要都会被用在哪些地方,可以参考我们的之前的 番外篇
笔者本人的组合配置是:

1. qwen-max API (目前免费送 100w token)
2. Claude3 Opus Web 订阅

目前实测效果成本最佳。

  • 5
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
迎使用autoCode =================== 项目介绍 ------------------- > **autoCode介绍** > - autoCode是一个代码生成工具。基于velocity模板引擎,采用SpringMVC + mybatis + FDUI + mysql > - 此工具只负责生成代码文件,不会生成完整功能的应用程序. > **其特点主要有** > - 用户登陆 - 每个用户有他自己独立的数据库连接配置和模板配置; > - 数据源配置 - 可以配置多个数据源,多种数据库类型(目前支持Mysql,MSServer数据库,可以扩展); > - 模板配置 - 定义自己的模板,采用velocity模板语法.这样可以根据模板来生成不同的代码,如POJO,Dao,mybatis配置文件等; > - 操作简单 - 生成代码只需三步:1. 选择数据源;2. 选择表;3. 选择模板。 > - 提供简单的客户端操作,能将代码直接生成到本地 > **部署程序步骤:** > 1. Maven构建eclipse工程,运行Maven命令:mvn eclipse:eclipse,完成后导入到eclipse中 > 2. 导入数据库(MYSQL),SQL文件在项目根目录下,名为autoCode.sql,运行里面的内容即可 > 3. 修改数据库连接参数,配置文件在src/main/resources/config.properties > 4. 启动项目,运行Maven命令:mvn jetty:run > 5. 浏览器输入http://localhost:8088/autoCode 登录用户名密码均为admin 端口默认用了8088,如需修改,前往pom.xml,找到maven-jetty-plugin插件的port参数. jetty安装配置 ------------------- 从 http://download.eclipse.org/jetty/ 中下载jetty 文件,命令 unzip 解压zip文件 在eclipse help->install new software 中通过地址http://run-jetty-run.googlecode.com/svn/trunk/updatesite/ 安装jetty插件 安装好插件后,可以通过 点击项目 -》右键-> run configuration-->jetty webapp 项

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值