创建开发机:
激活环境:
一、部署 InternLM2-Chat-1.8B 模型
编写cli_demo.py 调用大模型
python cli_demo.py
测试调用大模型:
二、Streamlit Web Demo 部署 InternLM2-Chat-1.8B 模型
启动一个 Streamlit 服务
在本地的 PowerShell 中输入以下命令,将端口映射到本地
打开本地浏览器:http://127.0.0.1:6006
创建开发机:
激活环境:
编写cli_demo.py 调用大模型
python cli_demo.py
测试调用大模型:
二、Streamlit Web Demo 部署 InternLM2-Chat-1.8B 模型
启动一个 Streamlit 服务
在本地的 PowerShell 中输入以下命令,将端口映射到本地
打开本地浏览器:http://127.0.0.1:6006