项目:https://github.com/OpenBMB/ChatDev/
问题:
(1)无chatgpt的付费token
本地运行经验:
(1)创建虚拟环境python3.11
(2)修改支持opechat3.5
- 启动openchat的大语言模型。注意设置api key 参考https://github.com/imoneoi/openchat
- 运行chatdev前设置env
export OPENAI_API_KEY=<openchat 的apikey>
export BASE_URL=tp://localhost:18888/v1
- 修改chatdev代码,
修改下面几个文件:
modified: camel/model_backend.py
modified: camel/typing.py
modified: camel/utils.py
modified: run.py
主要修改内容为,添加OPENCHAT_3_5的模型定义:
如:OPEN_CHAT_3_5 = "openchat_3.5"
然后修改模型相关的地方,大概就几处。运行的时候根据报错也可以逐个修改
- 修改库文件代码
根据运行时报错来修改:
vi ~/anaconda3/envs/ChatDev_conda_env2/lib/python3.11/site-packages/tiktoken/model.py
MODEL_TO_ENCODING定义后面追加:
"openchat_3_5": "gpt2",
"openchat_3.5": "gpt2",
(3)运行示例
python run.py --task "I want to develop a timer tool" --name "timer_tool" --model "OPENCHAT_3_5"
(4) 生成完成后,在WareHouse目录下找到生成代码执行
python3 main.py
后续:
- 同理可以改用ollama的api和其他商业支持openai格式的模型api
- 应该可以修改代码,直接兼容openai系列的模型