探索SideLlama：浏览器中的本地大型语言模型

在这个数字化时代，浏览器扩展程序已经成为我们日常网络体验中不可或缺的一部分。它们不仅为我们提供了便利，还为我们的浏览体验增添了更多的功能和乐趣。今天，我要介绍的是一个全新的Chrome浏览器扩展程序——SideLlama，它能够让你在浏览器中运行开源的本地大型语言模型作为聊天客户端。这无疑是一个非常创新的工具，尤其适合那些对科技充满兴趣的普通用户。

什么是Side Lama？

Side Lama是一个小巧的Chrome浏览器扩展程序，它允许你在浏览器中运行开源的本地大型语言模型。通过Side Lama，你可以在不离开浏览器的情况下，与这些语言模型进行互动，进行各种有趣的对话。这一切都可以通过简单的安装步骤来实现，下面我将详细介绍如何在你的Chrome浏览器中安装和使用Side Lama。

准备工作

首先，确保你已经安装了Chrome浏览器。然后，前往Side Lama的GitHub仓库。在仓库页面上，你会找到一个“Releases”页面，点击进入。在这个页面上，你会看到一些资源文件，下载整个ZIP文件并将其保存到你的本地系统中。

安装扩展程序

1. 打开Chrome浏览器，点击右上角的“扩展程序”选项。

2. 进入“扩展程序”页面后，切换到开发者模式。你会在页面右上角看到一个“开发者模式”的开关，将其打开。

3. 接着，你会看到一个“加载已解压的扩展程序”按钮。点击它，然后选择你刚刚下载并解压的文件夹。选择包含下载的文件夹，通常是名为v_0_0_1的文件夹。

4. 一旦选择了正确的文件夹，扩展程序就会加载到你的Chrome浏览器中。

配置和运行

1. 打开你的终端，确保你已经安装了Node.js和npm。

2. 克隆Side Lama的GitHub仓库，命令如下：

   git clone Sidellama仓库地址>

3. 进入克隆的仓库目录，运行以下命令来安装依赖并启动项目：

   npm i && npm start

4. 等待项目初始化完成后，你可以忽略一些警告信息，这些都是因为项目还在早期开发阶段。

使用Side Lama

现在，回到Chrome浏览器，点击右上角的扩展程序图标，找到Side Lama并点击它。这时，你会看到一个美观的界面。点击“设置”按钮，你可以选择连接你的本地模型或使用其他选项。

连接本地模型

如果你已经在本地运行了Ollama（一个快速运行大型语言模型的工具），你可以直接连接到它。以下是步骤：

1. 确保Ollama正在本地运行。

2. 在Side Lama的设置页面中，选择Ollama作为连接选项。

3. 点击“连接”按钮，你会看到一个打勾的标志，表示连接成功。

与网页互动

一旦连接成功，你可以在任意网页上与Side Lama进行互动。例如，你可以点击“关于页面聊天”按钮，让Side Lama总结当前网页的内容，或者直接与它进行对话。你还可以让它进行网页搜索，或使用DuckDuckGo进行搜索。

总结网页内容

在某个网页上，点击“关于页面聊天”按钮，让Side Lama总结当前页面的内容。它能够快速地提取出页面的关键信息，并生成简洁的摘要。

未来展望

Side Lama作为一个新兴的项目，正在快速发展。它不仅提供了一个与本地大型语言模型互动的便捷途径，还展示了开源社区在推动技术创新方面的力量。随着项目的进一步发展，我们可以期待更多功能的加入，如更强大的搜索功能、更多的个性化选项等。

总的来说，Side Lama是一个非常有前途的工具，适合所有对科技感兴趣的用户。它不仅简单易用，而且功能强大，为我们的浏览体验增添了更多可能性。如果你对这个项目感兴趣，不妨亲自尝试一下，并分享你的使用体验。

关注我，每周二、四、六直播开发AI应用。

如果你对AI应用开发也有兴趣，可以加入我的粉丝群，大家一起交流。