ChatDev机器人软件公司如何使用其他模型

项目:https://github.com/OpenBMB/ChatDev/

问题:
(1)无chatgpt的付费token

本地运行经验:
(1)创建虚拟环境python3.11
(2)修改支持opechat3.5

export OPENAI_API_KEY=<openchat 的apikey>
export BASE_URL=tp://localhost:18888/v1
  • 修改chatdev代码,
修改下面几个文件:
modified:   camel/model_backend.py
modified:   camel/typing.py
modified:   camel/utils.py
modified:   run.py

主要修改内容为,添加OPENCHAT_3_5的模型定义:
如:OPEN_CHAT_3_5 = "openchat_3.5"
然后修改模型相关的地方,大概就几处。运行的时候根据报错也可以逐个修改
  • 修改库文件代码
根据运行时报错来修改:
vi  ~/anaconda3/envs/ChatDev_conda_env2/lib/python3.11/site-packages/tiktoken/model.py
MODEL_TO_ENCODING定义后面追加:
"openchat_3_5": "gpt2",
"openchat_3.5": "gpt2",

(3)运行示例

python run.py --task "I want to develop a  timer tool" --name "timer_tool" --model "OPENCHAT_3_5"

(4) 生成完成后,在WareHouse目录下找到生成代码执行

python3 main.py

后续:

  • 同理可以改用ollama的api和其他商业支持openai格式的模型api
  • 应该可以修改代码,直接兼容openai系列的模型
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值