xqdd的专栏

Langchain-Chatchat win10本地部署问题集

Langchain-Chatchat v0.2.10 版本更新，此版本为 v0.2.x系列最后一个版本

利用 Huggingface 的 NLU 模型（如 BERT）或使用 Keras、Tensorflow 等库/框架来设置复杂的对话流水线，OpenAI GPT 作为备用方案。它是一个Rasa和Telegram这种利用像Langchain这样的LMM库进行索引、检索和上下文注入的样板及参考实现。使用你自己的定制模式的pgvector，而不是使用Langchain高度偏见的PGVector类。在Rasa和你自己的后端/应用程序之间添加多租户（Rasa本身不支持此功能）、会话和元数据。RasaGpt开箱即用。

ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的新一代对话预训练模型。ChatGLM3-6B 是 ChatGLM3 系列中的开源模型，在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上，ChatGLM3-6B 引入了如下特性：更强大的基础模型： ChatGLM3-6B 的基础模型 ChatGLM3-6B-Base 采用了更多样的训练数据、更充分的训练步数和更合理的训练策略。

介绍ChatGLM-6B 是开源中英双语对话模型的第二代版本，在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上，ChatGLM：基于 ChatGLM 初代模型的开发经验，我们全面升级了 ChatGLM2-6B 的基座模型。ChatGLM2-6B 使用了的混合目标函数，经过了 1.4T 中英标识符的预训练与人类偏好对齐训练，

大语言模型是一种人工智能模型，通常使用深度学习技术，比如神经网络，来理解和生成人类语言。这些模型的“大”在于它们的参数数量非常多，可以达到数十亿甚至更多，这使得它们能够理解和生成高度复杂的语言模式。你可以将大语言模型想象成一个巨大的预测机器，其训练过程主要基于“猜词”：给定一段文本的开头，它的任务就是预测下一个词是什么。模型会根据大量的训练数据（例如在互联网上爬取的文本），试图理解词语和词组在语言中的用法和含义，以及它们如何组合形成意义。它会通过不断地学习和调整参数，使得自己的预测越来越准确。

最近因工作需要，需要做一下ChatGLM的技术验证，主要是基于langchain进行学习，以此系列记录一下实战过程。

在国际上，美国电子工业协会标准 EIA/IS632定义系统工程是一个综合全部技术工作的跨学科方法。INCOSE 定义系统工程是成功研制系统的一种跨学科的方法（approach）和手段（means）。美国国家航空航天局（NASA）的系统工程手册认为系统工程是设计实现一个系统并对其进行技术管理、运行和退役处置的严格方法（approach）。欧洲空间局（ESA）的航天标准化组织（ECSS）将系统工程定义为一个跨学科的方法（approach），综合协调将需求转化为实际系统的全部技术工作。

Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM 等语言模型的本地知识库问答 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM) QA app with langchain。

作为一种专为开发基于语言模型的应用而设计的框架，通过 LangChain，我们不仅可以通过 API 调用如 ChatGPT、GPT-4、Llama 2 等大型语言模型，还可以实现更高级的功能。包含无数组件的接口和集成、将这些组件组合成链和代理的基本运行时，以及链和代理的现成实现。LangChain 框架的设计目标，是使这种 AI 类型的应用成为可能，并帮助我们最大限度地释放大语言模型的潜能。具有代理性：能够让语言模型与其环境进行交互，使得模型能够对其环境有更深入的理解，并能够进行有效的响应。