基于LMDeploy将开源的InternLM2-chat-1_8b模型部署为OpenAI格式的通用接口。
布置链接Tutorial/docs/L1/Prompt/readme.md at camp3 · InternLM/Tutorial (github.com)
本地
近期相关研究发现,LLM在对比浮点数字时表现不佳,经验证,internlm2-chat-1.8b (internlm2-chat-7b)也存在这一问题,例如认为13.8<13.11
。
利用LangGPT优化提示词,使LLM输出正确结果。