- 博客(6)
- 收藏
- 关注
RSS订阅原创 六、词向量及向量知识库
在机器学习和自然语言处理（NLP）中，词向量（Embeddings）是一种将非结构化数据，如单词、句子或者整个文档，转化为实数向量的技术。这些实数向量可以被计算机更好地理解和处理。嵌入背后的主要想法是，相似或相关的对象在嵌入空间中的距离应该很近。举个例子，使用词嵌入（word embeddings）来表示文本数据。在词嵌入中，每个单词被转换为一个向量，这个向量捕获了这个单词的语义信息。例如，“king” 和 “queen” 这两个单词在嵌入空间中的位置将会非常接近，因为它们的含义相似。
2024-04-23 12:39:25
612
原创 五、Prompt、Temperature和System Prompt
Prompt 最初是 NLP（自然语言处理）研究者为下游任务设计出来的一种任务专属的输入模板，类似于一种任务（例如：分类，聚类等）会对应一种 Prompt。在 ChatGPT 推出并获得大量应用之后，Prompt 开始被推广为给大模型的所有输入。即，每一次访问大模型的输入为一个 Prompt，而大模型返回的结果则被称为 Completion。
2024-04-23 12:06:33
747
原创 四、LLM开发的整体流程
LLM开发的概念：开发以大语言模型为功能核心、通过大语言模型的、结合特殊的数据或业务逻辑来提供独特功能的应用。LLM开发的特点：一般，而是将大模型作为一个，通过 Prompt Engineering、数据工程、业务逻辑分解等手段来充分发挥大模型能力，适配应用任务。
2024-04-16 14:53:14
631
原创 三、LangChain简介
具体来说，LangChain 框架可以实现数据感知和环境互动，也就是说，它能够让语言模型与其他数据来源连接，并且允许语言模型与其所处的环境进行互动。利用 LangChain 框架，可以轻松地构建如下所示的 RAG 应用。每个代表了，例如数据收集模块或预处理模块。每个代表了一个，例如原始数据或预处理后的数据。箭头表示数据流的方向，从一个模块流向另一个模块。在每一步中，LangChain 都可以提供对应的解决方案，帮助我们处理各种任务。
2024-04-16 14:07:07
852
原创 二、检索增强生成 RAG 简介
一、什么RAG大型语言模型（LLM）相较于传统的语言模型具有更强大的能力，然而在某些情况下，它们仍可能无法提供准确的答案。检索增强生成（RAG, Retrieval-Augmented Generation）：整合了从庞大知识库中检索到的相关信息，并以此为基础，指导大型语言模型生成更为精准的答案，从而显著提升了回答的准确性与深度。目前 LLM 面临的主要问题有：信息偏差/幻觉： LLM 有时会产生与客观事实不符的信息，导致用户接收到的信息不准确。RAG 通过检索数据源，辅助模型生成过程，确保输出内
2024-04-16 13:16:42
476
原创 一、LLM简介
LLM通常指的是百亿级别参数的语言模型，它们在海量的文本数据上进行训练，从而获得对语言深层次的理解。目前，国外的知名 LLM 有 GPT-3.5、GPT-4、PaLM、Claude 和 LLaMA 等，国内的有文心一言、讯飞星火、通义千问、ChatGLM、百川等。
2024-04-16 12:51:28
538
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人