heardlover的博客

前往 Node.js 官方下载页面获取 Windows 安装程序，安装时勾选同意协议，安装位置可默认，后续一路点击 next，最后点击 install 完成安装，结束后点 finish 即可。v24.11.1hl=zh-cn到 Git 官方下载页面按电脑架构选对应安装包，安装时位置可默认，全程点 next，最后点击 install，完成后取消勾选 view release notes，点 finish 结束安装。

修改文件：CosyVoice/.gitmodules。

还有许多可调节的参数用于控制生成文本的风格、质量和行为。大模型生成文本时，会对下一个可能出现的 token 计算概率分布（例如，生成 “天气” 后，下一个词可能是 “晴朗”“寒冷”“预报” 等，每个词有不同的概率）。输入 “首都北京的”，temperature=0 时，模型大概率会输出 “首都北京的面积约 16410 平方公里”（选择概率最高的常识性内容）。同样输入 “首都北京的”，temperature=1 时，可能输出 “首都北京的秋天格外宜人”“首都北京的胡同藏着老北京的记忆” 等不同结果。

conda create -n fine_tuning python=3.10conda activate fine_tuningconda activate llama-factorypip install pandas torch transformers scikit-learn tqdm matplotlibpython fine_tuning.py

docker info：查看容器信息内部的详细信息，包括容器、镜像统计、存储、网络、日志、内存、CPU等信息。docker port 说明：列出指定的容器的端口映射，或查找将PRIVATE_PORT NAT到公众的端口。docker -v：查看docker 版本号 包含容器、镜像统计信息。docker version： 显示 docker 的版本信。docker --help 帮助命令。1、Docker环境信息命令。4、容器生命周期管理命令。3、本地镜像管理命令。5、容器操作相关命令。

常见的概率分布可分为离散型和连续型两大类.常见的概率分布有八大类： 离散型4类：伯努利分布（0-1分布）、二项分布、泊松分布、几何分布 连续型4类：正态分布、指数分布（Exponential Distribution）均匀分布、伽马分布三、其他重要分布

npm -v10.9.3node -vv22.19.03、聊天助手。

一个 epoch 是指训练过程中，训练集中每个样本都被使用过一次来更新模型的权重。

摘要：LangChain社区模块（0.3.27版本）通过动态导入机制集成了50+国内外主流大模型接口，包括OpenAI、Anthropic、阿里通义、百度千帆等。采用三层类结构（BaseLanguageModel→BaseChatModel→具体模型类）统一管理，支持通过__getattr__实现按需加载。该设计既保持IDE类型提示功能，又避免全量加载的性能损耗，为开发者提供标准化访问多厂商AI服务的统一入口。（149字）

LangChain提供了多种智能体（Agent）类型，适用于不同应用场景。包括零样本推理的ZERO_SHOT_REACT_DESCRIPTION、文档查询的REACT_DOCSTORE、问题分解的SELF_ASK_WITH_SEARCH，以及专为对话优化的CHAT_CONVERSATIONAL_REACT_DESCRIPTION等类型。针对函数调用场景，还提供了OPENAI_FUNCTIONS和OPENAI_MULTI_FUNCTIONS智能体。这些智能体类型将在LangChain 1.0中被移除，官方推荐

摘要：AlAgents是基于大语言模型(LLM)的智能体系统，通过整合记忆、工具和规划能力，能够自主处理多步骤复杂任务。其工作流程包含四个核心环节：规划(分解任务并反思执行过程)、记忆(短期上下文记忆与长期知识库存储)、工具使用(调用API与物理世界交互)以及执行环节。该系统克服了传统LLM的局限性，特别适用于需要外部数据支持或分步完成的复杂任务场景，实现了从单纯语言处理到实际任务解决的智能化跨越。(149字)

目前，多个开源大模型迎来重要升级，包括LLama3、GLM-4、Qwen2和Deepseek-v2等。这些模型在性能、推理能力和应用范围上均有显著提升，支持更复杂的任务处理。开源生态持续壮大，为研究和开发提供了更多选择。各模型专注不同方向，如多模态、代码生成等，推动AI技术民主化进程。

【数学运算】==> 减法 subtract_arr = np.subtract(np.array([[4, 3, 6], [1, 5, 2]]), np.array([[7, 10, 12], [8, 9, 22]]))【数学运算】==> 乘法 multiply_arr = np.multiply(np.array([[4, 3, 6], [1, 5, 2]]), np.array([[7, 10, 12], [8, 9, 22]]))

在 Python 中，NumPy 数组和二维列表在性能方面存在诸多不同，下面从存储方式、内存占用、操作速度、缓存局部性这几个角度详细分析。

定义：自然语言处理（Natural Language Processing，NLP）是计算机科学与人工智能领域的一个重要分支，旨在让计算机理解、处理和生成人类自然语言，实现人与计算机之间用自然语言进行有效通信。特点交叉性：涉及计算机科学、语言学、数学、心理学等多学科知识。复杂性：自然语言具有模糊性、歧义性和多样性等特点，增加了处理难度。实用性：应用广泛，如机器翻译、智能客服、信息检索等，对人们生活和工作影响大。具体工作语言理解：包括词法分析、句法分析、语义分析等，让计算机理解文本的含义。

以数据为中心的人工智能（DCAI）是一种将数据作为 AI 开发核心的理念与方法论，通过优化数据全生命周期管理，提升 AI 系统的性能与泛化能力。其本质在于打破传统 “以模型为中心” 的局限性，强调数据质量、多样性与管理效率对 AI 系统的决定性作用。定义：以数据为中心的人工智能（DCAI）是一种将数据置于人工智能开发核心位置的理念和方法，强调通过对数据的有效管理、处理和利用来提升 AI 系统的性能和效果。不变。

人工智能（Artificial Intelligence，简称 AI）是指计算机系统能够执行通常需要人类智能才能完成的任务，如学习、推理、解决问题、理解自然语言、识别图像和声音等。它通过模拟人类的智能行为，运用算法和数据让计算机实现对信息的处理和决策，以达到类似人类智能的效果。

深度学习在人工神经网络的基础上，引入了大量先进的技术和方法，如优化算法方面，除了传统的随机梯度下降（SGD）算法外，还发展出了 Adagrad、Adadelta、Adam 等自适应学习率算法，能够更高效地更新网络参数，加快模型收敛速度；相比之下，传统人工神经网络在处理大规模数据时往往面临计算资源和模型容量的限制，而深度学习借助强大的计算能力和先进的架构设计，能够充分挖掘大规模数据中的价值，从而在图像识别、语音识别、自然语言处理等诸多领域取得了突破性的成果。从原始输入数据中提取有意义的特征。

图像数据：卷积神经网络（CNN）和Transformer架构（如ViT）。语音数据：循环神经网络（RNN）及其变体（LSTM、GRU）和Transformer架构（如Wav2Vec 2.0）。文本数据：Transformer架构（如BERT、GPT）和循环神经网络（RNN）及其变体。情感分析：Transformer架构（如BERT）、循环神经网络（RNN）及其变体和卷积神经网络（TextCNN）。视频数据：3D卷积神经网络（3D CNN）、CNN+RNN和Transformer架构（如ViViT）。

预训练、微调和分布式训练是现代AI开发中的核心技术。预训练为模型提供了通用知识，微调使其适应特定任务，而分布式训练则加速了整个训练过程。这三者结合，使得开发者能够高效地开发高性能的AI模型，适用于各种复杂任务和场景。

RAG的发展历程体现了从早期简单的问答系统到现代复杂AI架构的演进。其核心在于通过检索增强生成模型的能力，解决传统语言模型在知识更新、上下文理解和准确性方面的局限。随着技术的不断进步，RAG正在成为AI领域中不可或缺的一部分，推动自然语言处理技术向更智能、更高效的方向发展。

大模型在AI架构中的位置经历了从无到有、从单一任务到通用平台的演变。其崛起不仅改变了AI的技术路径，还推动了AI在自然语言处理、多模态融合等领域的广泛应用。随着技术的进一步发展，大模型将继续深化其在AI架构中的核心地位，推动AI技术向更智能、更通用的方向发展。

数据标注和数据预处理是数据处理过程中的两个重要环节，它们既相互区别又相互联系，共同为机器学习和其他数据驱动的任务提供高质量的数据支持，以下是具体说明：

这些学术流派从不同角度探索人工智能的实现方式，各自具有独特的理论基础和应用场景。它们在人工智能的多个领域中发挥着重要作用，推动了技术的进步和发展。

AIGC 是一个更为广泛的概念，指的是利用人工智能技术来生成各种形式的内容，如文本、图像、音频、视频等。AIGC 涵盖了多种技术和方法，旨在让计算机能够自动创造出具有一定价值和质量的内容，其核心是通过机器学习、深度学习等人工智能技术，让模型学习和理解大量的已有数据，从而生成新的、类似但又不完全相同的内容。常见的 AIGC 应用包括文本生成、图像生成、语音合成等多个领域。

随后，BERT、T5、GPT-2、GPT-3等大型预训练语言模型相继问世，为自然语言处理领域带来了革命性的变革。从早期的神经网络模型、符号操作，到近年来的深度学习和大型预训练模型，AI领域不断涌现出新的技术和方法。在这段时间里，人工智能的发展经历了多次波折和挫折，但始终保持着不断前进的步伐。然而，这一时期也催生了一些新的思想，如连接主义，即通过模拟神经网络来理解智能。的研究取得了重大突破。例如，1986年，Rumelhart和Hinton等人提出了反向传播算法，为神经网络的训练提供了有效方法。

AI为AIGC提供了技术基础，包括机器学习、深度学习、自然语言处理（NLP）和计算机视觉等技术。AIGC是AI（人工智能）的一个重要应用领域，专注于利用人工智能技术生成各种内容，如文本、图像、音频和视频等。AIGC的实现依赖于大模型的强大能力，例如大语言模型（LLM）在文本生成、对话系统等场景中的应用。线性回归、逻辑回归、聚类、分类、KNN、决策树、支持向量机（SVM）、随机森林等。大模型通过海量数据训练，能够生成更高质量、更具创意的内容，从而提高AIGC的效率和效果。参数规模达到数十亿甚至数千亿。

知识图谱以图结构（实体、关系、属性）的形式表示知识，为AI系统提供了清晰、可理解的知识框架。知识图谱通过实体和关系的语义连接，帮助AI更好地理解自然语言和复杂概念。例如，在医疗诊断中，知识图谱可以结合症状和疾病的关系，辅助AI进行推理。AI技术（如自然语言处理、机器学习）可用于从海量文本中自动抽取实体、关系和属性，加速知识图谱的构建。通过深度学习和强化学习，AI可以检测和修正知识图谱中的错误，提升知识的准确性和完整性。AI可以帮助解决知识图谱中的数据冲突、冗余问题，并实时更新知识图谱，使其保持最新。

RAG 简介：RAG 是一种创新性的 AI 框架，它巧妙地融合了检索与生成技术。通过搭建大型语言模型（LLM）与外部知识库之间的桥梁，极大地提升了生成内容的精准度和相关性。其核心运作机制在于，把用户输入的信息与从外部知识库检索到的相关文档进行有机结合，随后将这一组合信息输入到生成模型中，进而产出更为可靠、紧跟最新信息的输出内容。起源与背景提出团队与时间：2020 年，Facebook AI Research（FAIR）团队率先提出了 RAG 技术，为解决大语言模型在实际应用中的难题开辟了新路径。

大模型是基于深度学习构建的机器学习模型，具有海量参数与复杂计算结构。通过海量数据训练，能捕捉复杂模式与关系，展现强大泛化能力与涌现性。海量参数赋予模型强大表示能力，可学习复杂数据特征；复杂计算结构（如 Transformer 架构中的多头注意力机制）助力处理复杂任务。

授权管理（基于角色的访问控制 RBAC、基于属性的访问控制 ABAC）数据仓库（Snowflake、Redshift、BigQuery）关系型数据库（MySQL、Oracle、PostgreSQL）数据集成工具（Talend、Informatica）分布式存储（Ceph、GlusterFS）数据生命周期管理（创建、使用、归档、删除）数据湖（Hadoop HDFS、云存储）特征提取（文本特征提取、图像特征提取）非对称加密（RSA、ECC）元数据定义（技术元数据、业务元数据）非结构化（文本、图像、音频、视频）

使用管理员身份运行Anaconda prompt。通过如下命令可以看出是Anaconda 环境。

根据这些结果，协方差 Cov(X,Y) 的计算结果为-4.440892098500626e-16)这个值非常接近于0，说明在独立性假设下，X和Y几乎没有线性相关性。实际上，这个极小的负值可以被视为计算中的舍入误差，可以忽略不计。因此，我们可以认为在独立性假设下，X和Y的协方差为0。

Jupyter Markdown是一种在Jupyter笔记本中使用的标记语言，它允许你将文本、公式、代码和图像等元素结合起来，创建出富文本内容。

计算关于某个变量的偏导数时，将其他变量看作常数。

NumPy(Numerical Python)是Python的一种开源的数值计算扩展。提供多维数组对象，各种派生对象(如掩码数组和矩阵)，这种工具可用来存储和处理大型矩阵，比Python自身的嵌套列表 (nestedist structure)结构要高效的多 (该结构也可以用来表示矩阵 (matrix) )，支持大量的维度数组与矩阵运算，此外也针对数组运算提供大量的数学函数库，包括数学、逻辑、形状操作、排序、选择、输入输出、离散傅立叶变换、基本线性代数，基本统计运算和随机模拟等等。。

8.选择点击Customize installation(自定义安装)，如下图，14.桌面没有python的快捷键，需在Win输入python，如图，Pip ：安装Python包管理器，可下载安装Python包。Python test suite ：安装标准库和测试套件。在电脑自带的应用商店下载或者去python官网下载，3.点击Download,出现如图，9.上图框所有勾选，其中选框中文为，4.往下滑，找到Files点击下载，5.找个自己找的到的位置放，12.最后，就安装完成了，7.勾选下面两个框，

成本函数的简化

3、线性回归 不等于线性函数，线性函数只是线性回归的一种，还有单变量线性（如抛物线、椭圆函数、曲线函数）回归；还有多变量线性回归（如多维等）2、输出变量 output/target：y-hat，y的假设或预测，不是y本身。Data used to train the model/用于训练的数据集合。1、hypothesis/function 假设/函数。1、输入变量/特征 input/feature。2、输出变量 output/target。3、第i个训练实例的表示方法。

Supervised learning：Learn from data labeled with the “right answers”Unsupervised learning：Find something interesting in unlabeled data.is a type of unsupervised learning Algorithm