- 博客(83)
- 收藏
- 关注
原创 RAG-GPT实践过程中遇到的挑战
Indexing(索引):将文档分割成chunk,编码成向量,并存储在向量数据库中。Retrieval(检索):根据用户输入query和向量数据库中chunks语义相似度检索与问题最相关的前k个chunk,形成本次问答的上下文。Generation(生成):将原始问题和检索到的chunks整合形成合适的prompt一起输入到LLM中,让LLM输出与上下文有关的回答。用户发起query结合Bot实际应用场景,评估是否对query进行rewrite。
2024-05-27 21:52:29 816
原创 RAG-GPT实践过程中遇到的挑战
大型语言模型(LLM)的新进展,包括ChatGPT,为AI应用提供了新的能力,使其能够构建新的人机交互解决方案、完成复杂任务、总结文档、回答文献中的问题并生成新内容。然而,LLM在获取最新知识或企业内部知识库中的领域特定知识时仍存在局限性。这两个选项在数据隐私/安全性、可扩展性、成本、所需技能等方面各有优缺点。中采用的是RAG系统。在本文中,我们重点讨论RAG选项。通过结合检索机制和LLM的生成能力,RAG系统可以生成上下文相关、准确且最新的信息。RAG系统结合了信息检索能力和LLM的生成能力。
2024-05-27 18:59:07 776
原创 【无标题】
Indexing(索引):将文档分割成chunk,编码成向量,并存储在向量数据库中。Retrieval(检索):根据用户输入query和向量数据库中chunks语义相似度检索与问题最相关的前k个chunk,形成本次问答的上下文。Generation(生成):将原始问题和检索到的chunks整合形成合适的prompt一起输入到LLM中,让LLM输出与上下文有关的回答。用户发起query结合Bot实际应用场景,评估是否对query进行rewrite。
2024-05-27 18:17:19 641
原创 通过重新排序改进检索增强生成 (RAG)
引言在生成式人工智能(GenAI)的世界里,您经常会遇到RAG(Retrieval Augmented Generation)这个术语。基本上,RAG是关于为大语言模型(LLM)提供额外的相关信息(上下文)以帮助它们生成更好和更相关的响应。设置一个基本的RAG系统并不复杂,但它通常在提供高度准确的响应方面表现欠佳。主要原因之一是这种设置并不总是为LLM提供最精确的上下文。在下面的架构图中,只有来自向量搜索的top_k响应被作为上下文传递给LLM。
2024-05-19 18:38:43 906
原创 #强大的开源项目RAG-GPT:5分钟实现LLM大模型应用到你的网站!
以上是对RAG技术的基本介绍,如果想深入了解技术细节可以参考这篇文章:[RAG技术全解析:打造下一代智能问答系统](https://github.com/AI-Inception/RAG-In-Action/blob/main/doc/rag_overview.md),技术细节很深入。首先要登录到管理后台,浏览器输入:http://127.0.0.1:7000/open-kf-admin/#/login账号为:**`admin`** 密码 :**`open_kf_AIGC@2024`**
2024-05-19 18:06:55 983
原创 稳扎稳打 部署丝滑 开源即时通讯(IM)项目OpenIM源码部署流程(linux windows mac)
背景OpenIM包含多个关键组件,每个都是系统功能必不可少的一部分。具体来说,MongoDB 用于持久化存储;Redis 用作缓存;Kafka 用于消息队列;Zookeeper 用于服务发现;Minio 用于对象存储。这些组件的众多可能会增加部署的复杂性。此外,系统包含多个微服务模块,这要求有效管理进程的启动、停止和监控。为了简化这一过程,我们放弃了传统脚本,转而采用了 mage 这一跨平台方案,兼容所有主流平台和 CPU 架构。本文将详细介绍整个源码部署过程。OpenIM整体架构。
2024-04-29 19:18:04 2328
原创 总结反思 持续进步-开源即时通讯(IM)项目OpenIM 新版本release-v3.7发布
在如今数据和隐私安全日益受到重视的背景下,私有部署的IM需求正在逐步增加,这一趋势与国内软件产业的兴起密切相关。OpenIM主要由OpenIM SDK和OpenIM Server两部分组成,它们为开发者提供了一套工具和服务,使得开发者能够在自己的应用程序中轻松集成即时通讯功能,包括发送和接收消息、用户管理、群组管理等。总的来说,OpenIM专为开发者而设计,提供了必要的工具和框架,帮助他们在各自的应用中实施高效的即时通讯解决方案,而不是作为一个面向普通用户的独立聊天应用。序号 更新内容 描述。
2024-04-26 21:09:07 595
原创 基于OpenIM 实现聊天机器人功能
发送文本消息或图片消息给聊天机器人后,机器人会返回相同的消息。开发者可以替换此逻辑,在LangChain框架上调用LLM接口(包括gpt3.5或其他开源本地模型),以实现智能客服功能。在用户管理中创建聊天机器人账号,并记录该账号的 userID。提示:将例子中的 robotics 替换为第 2 步中获取的 userID。欲了解更多信息或进行贡献,开发者文档可在 https://docs.openim.io/ 查看,GitHub 仓库位于 https://github.com/OpenIMSDK。
2024-01-28 16:27:56 760 1
原创 # OpenIM (Open-Source Instant Messaging) Mac Deployment Guide
【代码】# OpenIM (Open-Source Instant Messaging) Mac Deployment Guide。
2024-01-28 16:24:55 1191
原创 OpenIM Open Source Instant Messaging Project Docker Compose Deployment Guide
【代码】OpenIM Open Source Instant Messaging Project Docker Compose Deployment Guide。
2024-01-24 18:04:07 1255
原创 Open Source Instant Messaging (IM) Project OpenIM Source Code
make buildmake initmake buildOpen PortsIM PortsChat PortsIMChat。
2024-01-24 17:12:04 1267
原创 开源即时通讯(IM)项目OpenIM源码部署流程
由于OpenIM依赖的组件较多,开发者需求不一,导致OpenIM部署一直被人诟病,经过几次迭代优化,包括依赖的组件compose的一键部署,环境变量设置一次,全局生效,以及脚本重构,目前OpenIM部署比较丝滑,特写文章分享给大家。OpenIM是什么OpenIM不是一个独立的聊天产品,它不像telegram、Signal、rocket.chat那样是一个完全独立、可以直接安装使用的聊天应用程序。而是一个开源的即时通讯解决方案,为开发者提供了一系列的工具和服务,以便于他们在自己的应用程序中集成即时通讯功能。
2023-09-12 12:34:57 4185
原创 即时通讯(IM)开源项目OpenIM对WebAssembly支持,提升web端体验
2019 年 12 月,W3C 标准批准了第四种官方语言:WebAssembly (Wasm)。这种语言在结构、使用和功能方面与以前的语言有很大不同。WebAssembly 是一种新的编码方式,可以在现代的Web浏览器中运行 - 它是一种低级的类汇编语言,具有紧凑的二进制格式,可以接近原生的性能运行,并为诸如 C / C ++等语言提供一个编译目标,以便它们可以在 Web 上运行。它也被设计为可以与 JavaScript 共存,允许两者一起工作。
2023-05-22 20:54:28 2311
原创 时不我待,拥抱趋势,开源IM项目OpenIM技术简介
同时,它还提供了完整的管理后台,帮助管理员监控和管理用户、群组、消息、通知等内容。OpenIM支持iOS和Android原生开发,并且也提供了Flutter、uniapp、React Native等跨平台开发框架的SDK,开发者可以根据自己的需求选择不同的开发方式。作为一款开源的IM项目,OpenIM提供了丰富的功能和完善的技术支持,吸引了众多开发者的关注和使用。对于iOS和Android原生开发,OpenIM提供了针对各个平台的SDK和相应的开发文档,开发者可以根据文档指引完成相应的集成和开发工作。
2023-03-23 20:11:37 5591 1
原创 紧跟潮流,抓住趋势,跟上全民AI的节奏,开源IM项目OpenIM产品介绍,为AIGC贡献力量
高度自主、安全可控、开放自由,私有化部署,一切皆可控透明度和可信度:开源软件的源代码是公开的,任何人都可以查看和检查代码,从而增强了软件的透明度和可信度。用户可以了解软件的内部结构和运作方式,发现和修复潜在的安全漏洞和错误。自由度和可定制性:开源软件允许用户自由地使用、复制、分发和修改软件代码。用户可以根据自己的需求和要求对软件进行自定义和定制,满足不同的业务需求。开放创新和协作:开源软件的源代码公开,鼓励开发者和用户之间的交流、合作和创新。
2023-03-23 20:10:58 1791
原创 【无标题】好消息 突破:IM开源项目OpenIM采用wasm技术实现jssdk
好消息 突破:IM开源项目OpenIM采用wasm技术实现jssdk
2022-11-26 12:58:39 1268
原创 # 靠谱:开源IM项目OpenIM压测程序介绍-自己动手压测性能和稳定性
# 靠谱:开源IM项目OpenIM压测程序介绍-自己动手压测性能和稳定性
2022-09-01 18:39:26 1549
原创 OpenIM重大升级-群聊读扩散模型发布 群管理功能升级
新功能介绍(1)群公告展示编辑者信息和发布时间;(2)展示群成员进群方式(搜索进群,二维码进群,邀请进群);(3)群增加权限控制,群成员禁止/允许添加好友,禁止/允许查看群成员资料;(4)当个人昵称修改时,实时更新群昵称;(5)好友备注可删除,并多端同步;(6)群聊支持读扩散,特性:新进群成员可以看到历史消息;群聊消息服务端只存一份;(7)群主管理员可撤回群内消息,不受时间限制;做技术的朋友对于读扩散写扩散应该不陌生,无论是信息流、论坛、信箱,还是私聊、群聊、通知,都能用到读写扩散。本文不讲解技术细节
2022-07-23 13:53:19 452
原创 # 重要-即时通讯IM开源项目OpenIM关于版本管理及v2.3.0发布计划
# 重要-即时通讯IM开源项目OpenIM关于版本管理及v2.3.0发布计划
2022-07-14 17:50:40 972
原创 # 补齐短板-开源IM项目OpenIM关于初始化/登录/好友接口文档介绍
OpenIM文档方面的建设一直远远落后于开发, 也经常被开发者诟病,在接下来一周的时间里,我们重点补齐文档,让开发者更轻松接入。由于app sdk底层都是go来实现,所以本文先写一个模板和框架,在接下来的时间里,会有iOS、Android、Flutter、Uniapp、jssdk同事补充具体的细节,并更新到官网初始化及登录初始化并登录成功回调,是正常使用OpenIM 服务的前提SDK描述[Login]登录,如果登录成功,必须退出登录才能再次执行登录操作[Logout]退
2022-06-26 14:29:57 1585
原创 # 稳了github star突破9k即时通讯IM开源项目OpenIM版本发布-生产环境重点关注
项目简介Android体验地址:https://www.pgyer.com/OpenIM注册后自动加入组织群聊页面工作台业务可以通过jssdk自由扩展自身业务工作圈增加办公动态组织架构业务系统打通组织架构最近一个月,OpenIM团队主要精力集中在线上bug修复、性能优化、新特性开发:重大bug修复| bug描述 | 描述 | 原因
2022-06-18 20:04:49 989
原创 继续前行github star突破8k即时通讯IM开源项目OpenIM版本发布计划
项目简介OpenIM继续领跑开源IM领域,在广大开发者的支持下,目前github star突破8k。在数据泄露、信息外泄、隐私滥用的时代,IM私有化部署需求旺盛。其中,政企协同办公对IM需求猛增,随着信息化技术的迭代升级以及信创产业加速落地和实践,协同办公软件的发展潜力将进一步被释放。“安全可控“逐步成为第一要素。对于社区交友领域,暴露出的隐私安全问题越来越多,私有化部署确保用户数据不泄露。IM作为互联网最复杂的系统之一,需求本身就繁多和复杂,包括超大群,群管理,组织架构等。而背景各异的开发者对Op
2022-05-29 14:53:32 606
原创 开源IM项目OpenIM每周迭代版本发布-群管理 阅后即焚等-v2.0.6
以办公场景为例,比如员工入职通知,放假通知等业务通知,由oa系统处理具体的业务逻辑,再调用消息推送api,触达到目标用户。效果示例以协同办公为例,员工收到系统推送的工作通知,有新任务需要处理。员工点击工作通知,可以查看具体详情,每条通知有不同的发送者昵称和头像。这种通知类型是一种新的会话类型,全部聚合在同一个会话。OpenIM简介OpenIM:从服务端到客户端SDK开源即时通讯整体解决方案。开发者可以轻松替代第三方IM云服务,打造具备聊天、社交功能的app,也可以在自身应用中集成SDK,以提供
2022-04-03 16:09:01 1299
原创 # github突破7k star 即时通讯(IM)开源项目OpenIM每周迭代版本发布
介绍OpenIM每周五发布新版,包括新特性发布,bug修复,同时合并PRv2.0已经重构完毕,架构更清晰,代码更规范,邀请各位参与OpenIM社区建设有兴趣的同学可以加我私聊。目前侧正在业务开发,已提供更多功能,包括群管理,阅后即焚,朋友圈,标签下发等。web端体验:https://open-im-online.rentsoft.cn/安卓端体验:https://www.pgyer.com/OpenIM项目成果服务端超过7K star,OpenIM作为开源IM的领跑者,离不开大家的支持,消息
2022-03-26 19:59:42 1234
原创 即时通讯(IM)开源项目OpenIM每周迭代版本发布-音视频实时通话-v2.0.4
介绍OpenIM每周五发布新版,包括新特性发布,bug修复,同时合并PR由于2.0版本重构完毕,架构更清晰,代码更规范,先邀请各位参与OpenIM社区建设,包括技术开发,技术分享等,特性开发,性能优化,bug修复等,有兴趣的同学可以加我私聊。可以多人音视频聊天,以及多端同步呼叫。web端体验:https://open-im-online.rentsoft.cn/安卓端体验:https://www.pgyer.com/OpenIMiOS端体验:https://testflight.apple.c
2022-03-19 14:21:54 2445 3
原创 开源IM项目OpenIM 客户端SDK架构剖析-确保消息的有序性,以及消息百分百可达
开源IM项目OpenIM第二版对于客户端架构进行了局部重构,解决了消息触发时序等bug,也梳理了内部模块。目前已经接近尾声,本文重点讲解SDK架构,以便大家深入了解OpenIM,并希望大家能深度参与开发。很多开发者有个误区,认为IM的挑战主要在服务端,当然服务端有其挑战,包括性能、压力、时延等,但优秀的IM架构需要服务端和客户端完美配合,比如消息对齐机制,本地缓存和后台数据同步,app多端如何实时同步。github 6.5K star 具体地址:OpenIM Corporationgithub.co
2022-03-18 11:20:27 1716
原创 # 再次推荐github 6.7k star开源IM项目OpenIM性能测试及消息可靠性测试报告
本报告主要分为两部分,性能测试和消息可靠性测试。前者主要关注吞吐,延时,同时在线用户等,即通常所说的性能指标。后者主要模拟真实环境(比如离线,在线,弱网)消息通道的可靠性。先说结论,对于容量和性能:性能及容量总结服务器资源: 8核16G内存, 6个机械磁盘,每个磁盘100G, 用于mongo分片,10MB带宽。容量:用户容量10万以上,消息条数10亿条。性能评估:同时在线用户10万,每秒钟发送消息900条,消息延时1秒(从发送者发出消息到接收到消息)可靠性总结启动sdk,模拟50个用户在线、离
2022-03-08 18:25:00 1228
原创 即时通讯(IM)开源项目OpenIM重构版本发布- v2.0.0
介绍OpenIM开发团队花费了2个月时间,加班加点对代码进行了局部重构,优化代码结构,规范代码开发流程,为社区未来深度参与开发打好基础。由于改动较大,涉及大量的测试工作,并且还有打包 发布 等一些琐碎的事情,导致发布延期了十天,在此略表歉意。后续会建立相对完整的开发和发布计划,也邀请各位社区同学参与OpenIM的建设工作。有志于参与OpenIM建设的同学,可以与我私聊,介绍系统架构,并探讨社区开发流程和规范。由于涉及到数据库字段变化,下载前要先删除app把历史数据全部清理干净web端体验地址:htt
2022-03-04 09:43:37 2440
原创 强烈推荐github 6.6k star前微信技术专家基于go开源IM项目OpenIM
OpenIM使命从公司成立之初就将“开源”作为核心战略来推进,开源充分体现了自由、平等、分享的互联网精神。全球范围频繁发生的数据泄露、勒索病毒、隐私滥用等安全事件一次次给企业敲响警钟,企业管理者对数据资产的价值、数据安全的重要性有了更清晰的认识,数据安全成就企业核心价值。IM作为核心业务数据,安全的重要性毋庸置疑,OpenIM开源以及私有化部署让企业能更放心使用。如今IM云服务商收费高企,如何让企业低成本、安全、可靠接入IM服务,是OpenIM的历史使命,也是我们前进的方向。有劳开发者点一下
2022-02-27 22:25:25 880
原创 即时通讯(IM)开源项目OpenIM本周版本发布- v1.0.7-web端一键部署
介绍OpenIM:由前微信技术专家打造的基于 Go 实现的即时通讯(IM)开源项目,包括IM服务端和客户端SDK。开发者私有化部署,基于SDK二次开发,可以轻松替代第三方IM云服务,打造具备聊天、社交功能的app。无论是开发同城交友、企业办公亦或是当今最热门的元宇宙,还是在应用中集成IM功能,都非常便捷。OpenIM代码100%开源,开源协议Apache-2.0 License任何企业和个人都可以免费使用(包括商用)。请各位看官多多支持,转发和宣传,助力OpenIM成为开源IM的No1web端体验地址
2021-12-10 17:31:33 5612 2
原创 即时通讯(IM)开源项目OpenIM本周版本发布-v1.0.6
OpenIM介绍OpenIM是由前微信技术专家打造的开源的即时通讯组件。OpenIM包括IM服务端和客户端SDK,实现了高性能、轻量级、易扩展等重要特性。开发者通过集成OpenIM组件,并私有化部署服务端,可以将即时通讯、实时网络能力快速集成到自身应用中,并确保业务数据的安全性和私密性。代码100%开源,开源协议Apache-2.0 License任何企业和个人都可以免费使用(包括商用)。开发者可以选择自行安装私有化部署,基于SDK二次开发。项目成果官方文档:https://doc.rentso
2021-12-06 15:46:34 1716
原创 分享一套golang实现的 IM 系统,一键部署服务端,客户端SDK全平台支持,可以替代IM云服务
开篇自互联网诞生以来,即时通讯平台就一直存在。从世界范围来看,WhatsApp、Facebook、 微信、Telegram是领先的消息平台,用户主要使用这些平台与家人和朋友保持联系。随着互联网的发展,人与人之间的沟通是刚需,无处不在,几乎所有的APP都集成IM功能,从社交、游戏、到生活中的方方面面,打车、找房等。可以说IM作为一种通讯能力,已经成为互联网上的基础设施,成为许多APP不可或缺的功能。现在绝大多数APP使用IM云服务商的SDK,方便接入的同时,也带来了几个深层次的问题:(1)成本问题:企业每年
2021-10-08 18:04:47 2023
原创 「IM开源推荐」前微信技术专家打造,golang实现,一键部署,客户端SDK全平台支持,轻松替代IM云服务
背景OpenIM成立之初就将“开源”作为核心战略来推进,开源充分体现了自由、平等、分享的互联网精神。全球范围频繁发生的数据泄露、勒索病毒、隐私滥用等安全事件一次次给企业敲响警钟,企业管理者对数据资产的价值、数据安全的重要性有了更清晰的认识,数据安全成就企业核心价值。IM作为核心业务数据,安全的重要性毋庸置疑,OpenIM开源以及私有化部署让企业能更放心使用。如今IM云服务商收费高企,如何让企业低成本、安全、可靠接入IM服务,是OpenIM的历史使命,也是我们前进的方向。优势OpenIM:由前微信
2021-10-08 14:10:41 1556
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人