本地部署生成式AI如何远程访问?贝锐花生壳仅需3步,无需公网IP

在人工智能的领域,除了广受欢迎的在线工具如 ChatGPT、Midjourney等,还有许多开源且支持本地部署的 AI 工具也值得关注,在满足定制化需求和数据安全方面具有独特优势。结合贝锐花生壳的内网穿透,用户可以轻松实现远程访问这些AI工具,无需复杂的网络配置,这对于需要大量算力的模型尤为实用。

比如,马斯克的xAI也开源了Grok-1,这是一个拥有314B参数的大型语言模型,如运行Grok-1可能需要超过300G显存的GPU。

c668f7040c4eacc6fdeb8766e835f796.jpeg

显然Grok-1需要本地高性能服务器/工作站部署,用户远程通过浏览器Web界面访问,或是App、应用程序通过调用API等形式进行使用。

然而,对于许多希望利用AI工具的用户来说,远程访问这些工具往往面临着公网IP获取困难、端口映射繁琐、路由和网关设置复杂等问题。

以开源、支持本地部署的图像生成模型Stable Diffusion为例,通过Stable Diffusion web UI本地部署后,搭配花生壳内网穿透,简单3步就能实现远程浏览器进行访问、使用。

84c7d964a8983f80010eab7f038e5975.jpeg

一、客户端安装与登录:用户访问贝锐官网并下载花生壳客户端。安装完成后,注册一个贝锐账号,并登录花生壳客户端。

4775396716d52934205781cce5a9dda8.jpeg

内网穿透设置:登录客户端后,进入花生壳云端管理平台。点击“内网穿透”选项——选择“添加映射”——选择“网站应用”

be15e2eb2a27645b7e6a827224e09745.jpeg

对于常见的网站应用,目前花生壳提供HTTP和HTTPS两种类型可用。

贝锐花生壳HTTP映射:可用于搭建HTTP协议的站点映射,属于非加密访问,建议搭配访问控制提升网站安全性;

贝锐花生壳HTTPS映射:用于创建访问安全加密的站点映射,同时花生壳可自动云端部署证书,本地无需额外申请、设置,非常方便。

三、访问地址生成与使用:根据系统提示,用户需要正确填写相关信息,如 AI 工具的内网地址和端口等。完成设置并保存后,系统会自动生成一个外网访问地址。

d005f52e53b93bd6822017b64c4dbf1b.jpeg

用户只需复制这个地址,在远程主机上打开浏览器并输入该地址,即可访问并使用本地部署的AI工具,如 Stable Diffusion web UI,进行 AI 绘画创作。

bd64e1a4b62af87941ddc02d95ac8d8e.jpeg

总结

总之,贝锐花生壳以其独特的内网穿透技术和用户友好的操作界面,为 AI 工具的远程访问提供了一种全新的解决方案。无论是企业用户还是个人开发者,都可以利用贝锐花生壳轻松实现 AI 工具的远程使用,推动 AI 技术的创新和应用。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值