算力环境配置参考:
步骤一:下载InternLM2模型
cd /workspace/
git clone https://github.moeyy.xyz/ git clone https://github.com/QwenLM/Qwen
步骤二:下载依赖
cd InternLM
pip install -r requirements.txt
pip install -r requirements_web_demo.txt
步骤三:下载模型库
mkdir internlm
cd internlm
git clone https://www.modelscope.cn/Shanghai_AI_Laboratory/internlm2-chat-7b.git
步骤四:启动大模型
streamlit run ./chat/web_demo.py
依靠 streamlit 运行命令,会在本地启动一个 web 服务,把控制台给出的地址放入浏览器即可访问。网页 demo 工具是为 Chat 场景设计,因此不支持使用该工具调用 Base 模型。
步骤五:打开网页并应用
欧派云设置8501端口可用
参考