LM Studio:在 Mac 上轻松运行本地 AI 大模型
文章目录
LM Studio:在 Mac 上轻松运行本地 AI 大模型
1. 下载与安装 LM Studio
步骤 1:访问官网并下载
步骤 2:安装 LM Studio
步骤 3:为 LM Studio 更换镜像源(全局替换)
使用第2种办法:全局替换
步骤 4:设置中文(可选)
步骤 5:设置模型目录(可选)
2. 使用聊天界面
功能亮点
3. 利用 API 服务器
步骤 1:启动 API 服务器
步骤 2:发送 API 请求
4. 常见问题与解决方案
问题 1:无法下载模型
问题 2:模型加载缓慢
结语
1. 下载与安装 LM Studio
步骤 1:访问官网并下载
打开浏览器,访问 LM Studio 官网。
选择适用于 Mac 的版本并下载安装包。
步骤 2:安装 LM Studio
将下载的 .dmg 文件拖拽到 Applications 文件夹中。
打开 Applications 文件夹,双击 LM Studio 图标启动程序。
根据提示完成安全设置(如允许从“未知来源”安装)。
步骤 3:为 LM Studio 更换镜像源(全局替换)
原因:安装开始搜索模型时,列表可以看到,但无法下载模型。这是因为 https://huggingface.co/ 在国内无法访问。即便有科学上网,设置了全局代理也无法生效,无法下载模型。
详细拆解:
科学上网的作用:
科学上网工具(如 VPN 或代理)通常会将你的网络流量通过境外服务器转发,从而绕过国内的网络限制。
LM Studio 的特殊性:
对于大多数软件(如浏览器),科学上网工具可以正常工作,因为它们会遵循系统的代理设置或环境变量(如 HTTP_PROXY)。
但是 LM Studio 不支持通过 HTTP_PROXY 设置代理,因此即使你有科学上网工具,LM Studio 也不会使用你配置的代理工具,而是通过 HTTPS 直接尝试连接 Hugging Face。
解决办法:
在 huggingface.co 或国内镜像站 hf-mirror.com 的项目介绍页面下载模型后,拖入 LM Studio 的模型文件夹。这样无法利用 LM Studio 本身的搜索功能。
使用国内镜像站 hf-mirror.com 替换 huggingface.co。
使用第2种办法:全局替换
在 macOS 上使用 VSCode 为 LM Studio 设置国内模型源(将 huggingface.co 替换为 hf-mirror.com)的操作步骤如下:
准备工作:检查VSCode 的 code 命令有没有正确安装或配置到系统的环境变量中
安装 VSCode 的 code 命令
打开 VSCode。
按下 Cmd+Shift+P,打开命令面板。
输入 Shell Command: Install 'code' command in PATH,然后选择并运行该命令。
完成后,关闭并重新打开终端。
验证 code 命令是否可用
在终端中输入以下命令:
code --version
1
如果显示 VSCode 的版本号,说明 code 命令已成功安装。
确认 LM Studio 的安装路径
通常位于 /Applications/LM Studio.app/Contents/
定位 LM Studio 的配置文件
打开 终端(Terminal)。
输入以下命令,进入 LM Studio 的 .webpack 目录:
cd /Applications/LM\ Studio.app/Contents/Resources/app/.webpack
1
使用以下命令在 VSCode 中打开该目录:
code .
1
全局替换域名
在 VSCode 中,按下 Ctrl+Shift+H(或点击菜单栏的 Search > Replace in Files),打开全局替换功能。