第三十二篇-Ollama+Lobe-Chat基本集成配置

已于 2024-08-15 13:41:52 修改
阅读量351 收藏
点赞数 1
分类专栏： AI-LLM-实战 文章标签： 人工智能 llama chatgpt 开源 oneapi
于 2024-06-17 23:50:22 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hai4321/article/details/139757346
版权

安装lobe-chat

docker run -d -p 3210:3210 \
  -e OPENAI_API_KEY=sk-\
  -e ACCESS_CODE=lobe \
  --name lobe-chat \
  lobehub/lobe-chat

访问

注意端口放开访问

  http://127.0.0.1:3210/

配置

左上角图像
    应用设置
      语言模型
        选择Ollama
          http://127.0.0.1:11434
          模型列表 -> 获取模型列表，手动输入，我的有问题，选择获取模型列表可以使用
木卫二号Coding
关注
专栏目录
ollama与open-webui、lobe-chat简单使用案例
weixin_42357472的博客
04-11 1149
参考：ollama最为大模型后端服务open-webui前端聊天页面ollama直接下载客服端安装win cpu安装推理；open-webui使用docker安装。
大模型web服务部署—lobe-chat 部署
2401_84052244的博客
09-01 164
lobe-chat 的强大之处在于提供了视觉，语音对话，图像识别的功能，而且有手机端、网页端、电脑端使用起来很方便，生态完善。
Ollama：本地部署大模型 + LobeChat：聊天界面 = 自己的ChatGPT
2401_85328934的博客
06-17 3397
本篇文章介绍了本地大模型的部署和 LobeChat 界面的部署，成功在本地部署属于自己的ChatGPT。上面也只是关键步骤的说明，遇到问题多看下官方的安装文档。本文起到抛砖引玉作用。
手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！
2401_86435672的博客
09-20 2915
本地运行大模型耗资源，需要选择较小的模型作为基础模型。在终端中运行时可能会出现 CUDA 错误，表示显存不足，导致提供的端口失效。中文支持不够完善。\3. 文中提到的技术软件工具有：Ollama、Chatbox、Open WebUI、向量数据库、嵌入模型、本地模型 Gemma、AnythingLLM。
LobeChat与Ollama快速搭建ChatBot 大模型私有化部署二
LZS1009的博客
10-14 768
在Linux系统上部署LobeChat,并且集成Ollama
免费打造个人专属的高颜值本地大模型AI助手，无限量使用 Ollama+LobeChat开源工具，在本地运行AI大模型，安全的和AI对话。
tigerhhzz的博客
04-16 4595
Lobe Chat：现代化设计的开源 ChatGPT/LLMs 聊天应用与开发框架，支持语音合成、多模态、可扩展的（function call）插件系统，一键免费拥有你自己的 ChatGPT/Gemini/Claude/Ollama 应用。如果是跑4b，7b等小模型，普通电脑就可以了，如果要跑32b比较大的，最好是有GPU，还要显存比较大。硬盘没啥要求，比如4b的模型，才2.3GB而已，30b的也就30GB左右，完全不用担心磁盘.70b模型:64GB内存，32也能跑，太卡。13b模型: 32GB内存。
【大模型入门】ollama + lobechat打造个人专属大模型助手
xiangxueerfei的博客
06-11 1043
这是一系列教小白怎么使用大模型的文章，不讲原理和公式，就讲小白都听得懂的怎么安装使用。01简介昨天介绍了在本地运行大模型的工具LM studio，他上手简单，但想要远程调用或者在手机上使用就不是很方便，今天介绍一下ollama，他可以提供一个服务，然后就可以远程使用了。当然ollama还可以提供AIP让我们的程序去调用，这样大模型就可以赋能我们正在开发的应用了，例如可以通过构建智能体来实现自动漏洞复现，自动写POC。02安装ollamaollama的安装很简单，先上官网下载安装包。
使用LobeChat+Ollama快速搭建本地大模型，离线可用
猫敷雪
07-16 844
Ollama 是一个轻量级、可扩展的框架，旨在在本地计算机上构建和运行大型语言模型（LLM）。它支持多种模型架构，如 Llama 3、Phi 3、Mistral 和 Gemma 2，并提供了简洁的 API 以创建、运行和管理这些模型。Ollama 可以在 macOS、Linux 和 Windows 上运行，适合于需要在本地运行大模型的应用场景​ (Ollama)​​ (GitHub)​。易用性：API设计简洁，用户可以轻松上手，即使是没有经验的用户也能快速使用​ (腾讯云 - 产业智变 云启未来)​。
lobe-chat-chatgpt
最新发布
11-04
ChatGPT/LLMs chatgpt chatgpt chatgpt chatgpt chatgpt
聊天机器人:lobe-chat
03-03
主要语言：TypeScript 项目分类：[ChatGPT] [AI] 项目标签：[聊天机器人] [AI聊天] [机器人] 推荐理由： 一个高性能的聊天机器人框架，支持语音合成、多模态和可扩展的函数调用插件系统。用户可以一键免费部署私人的...
使用LobeChat打造属于自己的聊天机器人界面——可本地运行部署
人工智能研究所的博客
04-03 425
当然我们可以使用cmd终端窗口里面跟llama2大模型进行沟通交流，但是其界面只有一个黑色的框，并不美观。本期我们就介绍一下Lobe Chat，一个漂亮的UI可视化界面。
阿里云Linux服务器安装Ollama后，IP无法访问
拥有必珍惜
07-18 1963
我们使用了阿里云Linux服务器安装完Ollama，无法直接通过域名或者IP访问，但是本机可以直接通过 http://127.0.0.1:11434访问，以下是解决办法。以上是部署Ollama后，无法直接通过IP访问对应的解决方案。“笑对人生，智慧同行！博客新文出炉，微信订阅号更新更实时，等你笑纳~”
在本地部署LobeChat
BBM的博客
04-16 2764
LobeChat是一个开源的、现代设计的 ChatGPT/LLM UI/框架。支持语音合成、多模态和可扩展（函数调用）插件系统。一键免费部署您的私人 OpenAI ChatGPT/Claude/Gemini/Groq/Ollama 聊天应用程序。
在LobeChat中私有化部署Llama3
BBM的博客
04-22 3973
通过这几天的试用，Llama3确实相当优秀，这里推荐给大家Llama3的私有部署，然后使用LobeChat搭建自己的知识库问答系统。大家可能以为部署Llama3需要什么样的硬件，先介绍硬件的配置，我使用Llama3 70b的硬件列表：
对本地的LLM模型设置api_key
WaKuWuku的博客
06-26 1323
再我们使用开源模型的时候会设置一些openai风格的api供给前端或者后端调用很多开发者会使用本地的开源模型对自己的保密数据集进行训练和微调，因此在抛出api的时候希望自己设置api_key，防止其他人调用LLM导致数据泄露。此文章以Fastchat为例演示如何对openai风格的api设置api_key，并成功调用。
使用OneAPI创建LLM访问API Key
BBM的博客
05-03 3270
OneAPI 是一个能替代 springdoc-openapi/Swagger 的 API 生产工具，既不需要修改后端代码，也不需要启动应用。 也支持导出 OpenAPI 3.0 协议数据，方便在其他工具中消费。
通过API方式访问llama3
AngelCryToo的专栏
09-03 502
API方式访问llama3 结果如下：
Lobe-chat Web版实现对话功能的开源项目资源
知识点二：Lobe-chat Lobe-chat是一种基于web的聊天应用程序，它可以通过网络实现用户之间的实时通讯。在本项目中，Lobe-chat被改造成了一个单纯的web版本，支持所有对话功能，这表明开发者具有将复杂系统简化的能力...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值