使用LM Studio在本地运行LLM完整教程

最新推荐文章于 2025-03-15 08:30:00 发布

deephub

最新推荐文章于 2025-03-15 08:30:00 发布

阅读量1.2w

点赞数

文章标签：机器学习深度学习大语言模型人工智能

本文链接：https://blog.csdn.net/deephub/article/details/135041760

版权

GPT-4被普遍认为是最好的生成式AI聊天机器人，但开源模型一直在变得越来越好，并且通过微调在某些特定领域是可以超过GPT4的。在开源类别中出于以下的原因，你可能会考虑过在本地计算机上本地运行LLM ：

脱机:不需要互联网连接。
模型访问:在本地运行模型，可以尝试开源模型(Llama 2、Vicuna、Mistral、OpenOrca等等)。
隐私:当在本地运行模型时，没有信息被传输到云。尽管在使用GPT-4、Bard和claude 2等基于云的模型时，隐私问题可能被夸大了，但在本地运行模型可以避免任何问题。
实验:如果你看到了生成人工智能的价值，可以通过测试了解模型的细节并知道还有什么可用。
成本:开源模型是免费的，其中一些可以不受限制地用于商业。

对许多人来说，运行本地LLM需要一点计算机知识，因为它通常需要在命令提示符中运行它们，或者使用更复杂的web工具，如Oobabooga。

LM Studio是一个免费的桌面软件工具，它使得安装和使用开源LLM模型非常容易。

但是请记住，LM Studio并不开源，只是免费使用

但是LM Studio是我目前见到最好用，也是最简单的本地测试工具，所以如果是本机测试使用的话还是推荐试一试他。

首先进入“lmstudio.ai”，下载并安装适合操作系统的版本:

LM Studio，选择要安装的LLM。

可以通过选择主窗口中列出的社区建议模型之一来实现进行，也可以使用HuggingFace上可用的任何模型的搜索栏查找关键字。

模型搜索列表中可以看到安装/下载文件的大小。请确保下载的大小没有问题。（国内需要魔法）

在屏幕左上角的发布日期栏，是“compatibility guess”。LM Studio已经检查了本地系统，并展示它认为可以在计算机上运行的那些模型。要查看所有模型，点击“compatibility guess”(#1)。点击左边的一个模型，右边就会显示可用的版本，并显示那些根据你的电脑规格应该可以工作的模型(#2)。见下图:

根据计算机的能力/速度，较大的模型将更准确，但速度较慢。并且这个鞋模型中的大多数都是量化的，包含了GGML和GGUF等格式。（具体这些格式可以参考我们以前的文章）

模型下载完成后，(1)在窗口顶部的下拉菜单中选择模型;(2)选择左侧栏中的聊天气泡;(3)打开右侧的“Context Overflow Policy”和“Chat Appearance”。

确保在“Context Overflow Policy”下选择“Maintain a rolling window and truncate past messages”，并在“Chat Appearance”下选择“Plaintext”。

打开“Model Configuration”，然后打开“Prompt Format”，向下滚动到“Pre-prompt / System prompt”，选择“>”符号打开。可以在这里输入系统“role”。也就是说可以设定希望机器人如何行动，以及在它的回答中应该提供什么“技能”或其他特定的品质。这与ChatGPT Plus帐户的“Custom instructions”相同。

继续向下滚动，找到“Hardware Settings”。默认设置是计算机的CPU完成所有工作，但如果安装了GPU，将在这里看到它。如果GPU显存不够，可以将GPU想要处理多少层(从10-20开始)这会将一部分层使用GPU处理，这与llama.cpp的参数是一样的。还可以选择增加LLM使用的CPU线程数。默认值是4。这个也是需要根据本地计算机进行设置。