开发个人Ollama-Chat--1 项目介绍

已于 2024-07-15 15:43:25 修改
阅读量589 收藏 6
点赞数 6
分类专栏： gpts ollama 文章标签： AIGC llama docker 云原生 golang
于 2024-07-01 18:04:33 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_36652517/article/details/140106897
版权
gpts 同时被 2 个专栏收录
11 篇文章 0 订阅
订阅专栏
ollama
11 篇文章 0 订阅
订阅专栏

开发个人Ollama-Chat--1 项目介绍

开发个人Ollama-Chat–1 项目介绍

Ollama-Chat

本文将以一个使用Ollama部署的ChatGPT为背景，主要还是介绍和学习使用 go-zero 框架，开发个人Ollama-Chat的服务器后端，使用Docker部署网站到公网，体验和了解微服务架构，发布微服务到网站的具体流程。

知识点大纲

  • Docker本地开发环境搭建

  • go-zero api rpc服务，鉴权，验证的使用

  • github.com/tmc/langchaingo/llms``Ollamaapi调用

  • cloudflare部署个人网站（白嫖）

  • fps内网穿透

  • 阿里云绑定域名，备案

文章目录

  • 开发个人Ollama-Chat–1 项目介绍

  • 开发个人Ollama-Chat–2 环境搭建

  • 开发个人Ollama-Chat–3 服务拆分

  • 开发个人Ollama-Chat–4 用户管理

  • 开发个人Ollama-Chat–5 模型管理

  • 开发个人Ollama-Chat–6 OpenUI

  • 开发个人Ollama-Chat–7 服务部署

  • 开发个人Ollama-Chat–8 网站部署

  • 开发个人Ollama-Chat–9 Frp穿透

  • 开发个人Ollama-Chat–10 绑定域名

项目地址

openui-frontend

openui-backend-go

cloud_ether
关注
  • 6
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
LLM大模型部署实战指南：Ollama简化流程，OpenLLM灵活部署，LocalAI本地优化，Dify赋能应用开发
丨汀、的博客
08-13 315
LLM大模型部署实战指南：Ollama简化流程，OpenLLM灵活部署，LocalAI本地优化，Dify赋能应用开发
【AI学习指南】轻量级模型-用 Ollama 轻松玩转本地大模型
瑶山的博客
07-28 351
根据 ChatGPT 的使用经验，系统提示词是很重要的。好的系统提示词能有效地将大模型定制成自己需要的状态。在 Ollama 中，有多种方法可以自定义系统提示词。首先，不少 Ollama 前端已提供系统提示词的配置入口，推荐直接利用其功能。role为system的消息即为系统提示词。"content": "以同学的口吻简单作答。},"content": "你会游泳吗？],}'现在AI领域的进展日新月异，进步就像是从刀耕火种步入现代社会：就像是我上个月写了这篇文章，现在AI又踏上了新的征程。
打造个性化聊天机器人：用Ollama和Open WebUI搭建你的私有ChatGPT！
跟着大数据和AI去旅行
04-10 2937
用Ollama和Open WebUI搭建你的私有ChatGPT！
【AI】Ollama+OpenWebUI+llama3本地部署保姆级教程，没有连接互联网一样可以使用AI大模型！！！
热门推荐
weixin_43012017的博客
04-27 3万+
在没有互联网的环境下部署，可以将下载好的Ollama安装包复制到此环境安装，然后将下载好的模型复制到相应路径就可以在无互联网的环境下使用。默认安装后的目录：C:\Users\username\AppData\Local\Programs\Ollama。8B模型一般16GB内存就可以跑的很流畅，70B模型则至少需要64GB内存，有CPU就可以跑，当然有GPU更好。由于llama3对中文的支持并不是很好，需要中文的可以使用GitHub上开源的这个llama3中文微调模型。提问题，发现该模型给了很好的回复。
openWebUI+ollama&windows+不用docker+webLite本地安装
m0_46499080的博客
04-26 5863
两个web框架都可以，先说简单的 ollama-webui-lite() 轻量级，只使用nodejs先装 https://ollama.com/download新建文件夹 E:\Proj\olloamaModsSav ，cmd进入该目录 ollama run llama3，那么就会直接下载该模型到该目录下，在blobs目录里面会出现这种文件完了之后就会在cmd里可以进行问答，使用。
开发个人Ollama-Chat--3 服务拆分
qq_36652517的博客
07-04 752
个人OpenUI项目可拆分用户服务（user），AI模型服务（AiModel），…每个服务都可以再分为api服务和rpc服务。api服务对外，可提供给app调用。rpc服务是对内的，可提供给内部api服务或者其他rpc服务调用。
超火AI LobeHub-Chat手动搭建教程
weixin_43101805的博客
05-02 1048
Lobe Chat 是一个开源的、现代设计的基于LLMs/AI的聊天框架，支持多个AI提供商（如OpenAI、Claude 3、Gemini、Ollama、Bedrock、Azure）。它的目的是提供一个丰富的UI，支持加载扩展，例如Web搜索、TTS等，使得构。
Llama3-8B-Chinese-Chat 第一个使用ORPO微调的中文Llama3模型
2401_84052244的博客
05-02 840
我们最新提供了GGUF版本的Llama3-8B-Chinese-Chat模型，共有FP16和8bit量化两个版本可选，模型下载链接如下：FP16版本：8bit量化版本：如题目所示，我们开源了Llama3-8B-Chinese-Chat模型（基于Llama3-8B-Instruct[微调，模型下载请详见下面的huggingface链接），这是。
利用 Gemma-2b-it、FAISS VectorDB 和 Streamlit 利用 RAG 进行聊天机器人开发(教程含源码)
iCloudEnd的博客
08-06 394
大型语言模型 (LLM) 通过增强 NLP、革命性内容生成和 AI 民主化等多种方式对 AI 领域产生了重大影响。虽然 LLM 提供了令人印象深刻的功能，但它们并非没有局限性。他们的知识库仅限于最近的训练迭代。这意味着他们可能会错过最近的发展。此外，对于需要特定领域专业知识的任务，LLM 可能会诉诸“幻觉”——本质上是编造听起来合理但实际上并不准确的信息。虽然重新学习法学硕士可以解决这些问题，但巨大的成本和时间使得它不切实际。我们需要一个更有效的解决方案。那么，让我们来谈谈解决方案吧！
【AI学习笔记】AIGC，AI绘画 ComfyUI+ComfyUI Manager安装
最新发布
bailichen800的博客
09-01 810
最近在面向BOSS直聘学习ComfyUI的使用，但是不出意外，因为学习者们迥异的电脑配置以及杂乱的AI软件工具包互相纠缠，跟人工智能相关的环境安装多少都会遇到点教程预料不到的BUG。
【论文速读】|RO-SVD：一种用于 AIGC 应用的可重构硬件版权保护框架
m0_73736695的博客
08-29 738
本文提出了一个基于区块链的环形振荡器-奇异值分解（RO-SVD）框架，首次在硬件层面实现了AI生成内容（AIGC）的版权追溯。3. 引入奇异值分解（SVD）：研究者首次将SVD作为一种强大的计算组件，引入到FPGA生成的矩阵基础原语中，作为物理不可克隆函数（PUF）和真随机数生成器（TRNG）的协同设计，用于大规模内容管理和标记。本文提出了一个基于区块链的版权追溯框架，称为环形振荡器-奇异值分解（RO-SVD），该框架利用硬件熵源生成的低秩矩阵，在设备层面实现AI生成内容（AIGC）的版权追溯。
AIGC辅助办公
332295505的博客
08-26 980
早期内容生成方式为专业(人士)生成内容(Professional Generated Content，PGC)。如：音乐专业人士的创作、设计师的平面设计创作缺点是，作品质量参差不齐，一部分甚至有粗制滥造。优点是，激发了广大用户(非专业人士)的创造力，产生了绝对数量远超PGC的内容，内容形态更加丰富多元。大数据遴选推荐算法会将优质产品筛选出来，用户的行为构成了庞大的表决机制。
AIGC自动行为采集的文本分类任务——结和上下文情景自动编码（含数据清洗以及提示词和代码）——批量处理
东方
08-28 411
检测python同一目录下的所有文件的‘’标注‘’列，遍历读取这一列每行数据，删除所有数据中不包含。把标注列的数据替换成对应的数字。学生举手/提问/建议替换为3。家长批评/惩罚学生替换为6。学生举手/提问/建议。学生回答问题替换为1。家长辅导学生替换为4。家长鼓励学生替换为5。
从短视频到AIGC，快手字节重开一局
DJXYS0309的博客
08-27 1082
别着急，比赛才刚刚开始。
AIGC提示词（2）：塑造未来内容创作的核心力量
wx740851326的博客
08-30 1001
🤔 AIGC提示词在AI内容生成中扮演着不可或缺的角色。它们不仅确保了内容的质量和相关性，还增强了用户与AI之间的互动。随着AI技术的不断发展，我们可以预见AIGC提示词将变得更加智能和高效。🎯 那么，你认为AIGC提示词在未来会有怎样的发展？你如何看待AIGC提示词在个性化内容创作中的作用？
掌握AIGC的魔法：编写高质量提示词的艺术与科学
wx740851326的博客
08-31 542
嘿，技术达人们，🚀 今天我们来聊聊AIGC界的超级明星——提示词（Prompt）。在AI生成内容的奇妙世界里，提示词就是那个点石成金的魔法棒。想要AI小伙伴听你的指挥，创造出令人惊叹的内容吗？那就跟着我，一起探索编写高质量提示词的奥秘吧！
从跟跑到领跑：AIGC时代国产游戏的崛起与展望
loveting99的博客
08-31 794
在AIGC（人工智能生成内容）时代，国产游戏行业正经历前所未有的变革。从技术深度挖掘到行业影响深度剖析，再到未来趋势与跨界合作，我们可以清晰地看到，人工智能不仅为游戏开发带来了新的可能性，还为行业发展注入了强劲的动力。5.1 技术革新驱动游戏行业变革人工智能技术的进步，尤其是生成对抗网络（GAN）、自然语言处理（NLP）和强化学习等，正在推动游戏行业的技术革新。AI技术不仅在游戏内容生成方面展现了巨大的潜力，如生成游戏角色图像和剧情文本，而且在游戏设计和开发过程中，AI的应用也极大地提升了效率和创造力。
vue-min-chat
09-08
vue-min-chat是一个基于Vue.js的最小化聊天组件。它提供了一种简单且易于使用的方式来构建聊天界面。...无论是为个人用户还是企业用户，使用vue-min-chat都能轻松地构建出一个高效和美观的聊天界面。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值