AI
文章平均质量分 86
AI 训练、微调、使用、应用开发相关指南
markvivv
这个作者很懒,什么都没留下…
展开
-
检索增强生成 (RAG):揭开这一术语的神秘面纱并解释其带来的价值
我认为重要的是展示 RAG 在业务中的重要性以及它提供的竞争优势,同时节省搜索正确信息的时间,并从所有可以存储信息的孤岛中创建一个结构。从管理海量文档的大型企业到渴望开辟自己利基市场的敏捷初创公司,RAG 提供了一条在信息时代不仅能生存而且能茁壮成长的道路。如果你想自己尝试这些工具,我推荐你使用百度甄知或通义千问进行个人测试,但如果你需要更多功能和低成本私有化部署,以及使用生成式人工智能为你的员工和团队提供支持的额外工具,可以考虑给我发消息,了解我们能提供的产品和服务。原创 2024-06-28 21:57:56 · 1130 阅读 · 0 评论 -
【译】微调与人工引导: 语言模型调整中的 SFT 和 RLHF
本文主要对监督微调(SFT, Supervised Fine Tuning )和人类反馈强化学习(RLHF, Reinforcement Learning from Human Feedback)进行简要比较。原创 2024-04-15 13:46:26 · 2257 阅读 · 0 评论 -
【译】矢量数据库 101 - 什么是矢量数据库?
大家好——欢迎回到Milvus 教程。在上一教程中,我们快速浏览了每天产生的日益增长的数据量。然后,我们介绍了如何将这些数据分成结构化/半结构化数据和非结构化数据,它们之间的区别,以及现代机器学习如何通过嵌入来理解非结构化数据。最后,我们简要介绍了通过 ANN 搜索处理非结构化数据的方法。通过所有这些信息,我们现在可以清楚地看到,非结构化数据量的不断增加需要一种模式的转变和一种新的数据库管理系统——向量数据库。在本教程中,我们快速浏览了矢量数据库。具体来说,我们了解了:1)成熟的矢量数据库具有哪些功能;原创 2024-03-19 09:35:25 · 1161 阅读 · 1 评论 -
【译】矢量数据库 101 - 非结构化数据简介
欢迎阅读Milvus 教程。这是第一篇教程,主要以文字形式介绍非结构化数据。我知道,这听起来并不是一个非常性感的话题,但在你按下浏览器选项卡上的小 x 按钮之前,请听我们把话说完。新数据每天都在产生,无疑是全球一体化和全球经济的关键驱动力。从佩戴在手腕上的心率监测器到车队的 GPS 定位,再到上传到社交媒体上的视频,数据的生成速度正呈指数级增长。这些日益增长的数据量的重要性不容低估;原创 2024-03-19 08:59:31 · 981 阅读 · 0 评论 -
大型语言模型(LLM, Large Language Models)基模和 Chat 模型之间的区别
最近看大模型相关的知识,有看到大模型都有基础模型(base)和对话模型(chat),不太清楚什么时候用到基础模型,什么时候用到对话模型,故有此文。通过了解,最简单的概述就是基于基础模型会训练出一个对话(Chat)模型,对话模型主要用于对话场景,基础模型主要做文本生成,没有上下文对话的能力。原创 2024-02-20 08:59:50 · 4312 阅读 · 0 评论 -
什么是 RAG?
检索增强生成(RAG, Retrieval-Augmented Generation)是指对大型语言模型输出进行优化,使其能够在生成响应之前引用训练数据来源之外的权威知识库。大型语言模型(LLM)用海量数据进行训练,使用数十亿个参数为回答问题、翻译语言和完成句子等任务生成原始输出。在 LLM 本就强大的功能基础上,RAG 将其扩展为能访问特定领域或组织的内部知识库,所有这些都无需重新训练模型。这是一种经济高效地改进 LLM 输出的方法,让它在各种情境下都能保持相关性、准确性和实用性。转载 2024-02-07 10:41:18 · 283 阅读 · 0 评论 -
MacBook Pro (15 英寸,2018) 运行 ChatGLM3-6B 大模型
接上篇 在 Mac 上加速 PyTorch 训练,准备完 MPS 环境之后,开始在本地体验 ChatGLM3-6B 模型。二、然后使用 pip 安装依赖:三、进入 base_demo,准备启动 streamlit 示例程序本人笔记本带独立显卡,4G 显存,16G 内存,默认参数可以启动示例程序,但是对大模型提任何问题都会提示如下错误:按 Ctrl + C 结束正在运行的模型,冒着机器可能突然崩溃的风险,按照提示信息执行命令取消内存限制内存限制错误提示信息如下:正常启动后,会自动使用浏览器打开原创 2024-02-03 20:38:03 · 1036 阅读 · 0 评论 -
【译】在 Mac 上加速 PyTorch 训练
MPS 后端扩展了 PyTorch 框架,提供了在 Mac 上设置和运行操作的脚本和功能。新的 MPS 设备将机器学习计算图形和基元映射到 MPS Graph 框架和 MPS 提供的调整内核上。PyTorch 的预览版(夜间版)将为您的设备提供最新的 MPS 支持。请注意,使用 Apple 芯片的 Mac 和使用 Intel x86 的 Mac 的环境设置会有所不同。你可以使用 macOS 预装的 pip3。下载最新的公开 Xcode 版本,或从 Mac App Store 下载最新的测试版,或从。原创 2024-01-30 16:42:15 · 2164 阅读 · 0 评论