首先运行自己的本地大模型
swift app-ui --model_type qwen1half-0_5b-chat --model_id_or_path /LLms/Qwen1.5-0.5B-Chat
上述代码运行成功会出现一个本地的地址
我的是7860
下载cpolar内网穿透工具
cpolar官网地址: https://www.cpolar.com
本地地址一栏填刚才部署大模型出现的地址,我的是7860
创建成功之后就可以在左侧在线隧道列表中查看 。
复制公网地址一栏的网址就可实现在公网上使用自己本地的大模型。