技术与健康
这个作者很懒,什么都没留下…
展开
-
神经网络微调技术全解(05)-- Learnable Prompts vs Prefix Tuning
是一种更为通用的概念,允许在输入文本前后插入可训练提示,并且在模型输入层进行优化。它的应用范围较广,但影响主要局限于输入表示。原创 2024-08-28 06:57:35 · 759 阅读 · 0 评论 -
神经网络微调技术全解(04)-- Prompt Tuning-可训练提示(Learnable Prompts)
可训练提示”(Learnable Prompts)是Prompt Tuning中的一个关键概念。与手动设计的固定文本提示不同,可训练提示指的是一种自动化的、基于学习的提示优化方法。这种提示不再是简单的静态文本,而是通过训练模型来学习的一组向量表示,用以引导模型在特定任务上的输出。可训练提示是Prompt Tuning中的一种关键技术,通过将提示作为可训练的向量而非静态文本,来引导预训练模型更好地完成任务。它的自动化学习过程减少了对人工设计提示的依赖,并且在参数效率和适应性方面表现优异。原创 2024-08-28 06:56:25 · 483 阅读 · 0 评论 -
神经网络微调技术全解(03)-Prompt Tuning全面解析
Prompt Tuning是一种轻量、高效的微调方法,主要通过优化输入提示文本来引导预训练模型完成特定任务。它在计算资源有限的情况下,特别适合少样本学习和多任务处理场景。然而,提示的设计和优化过程可能存在一定挑战,并且在处理复杂任务时可能需要结合其他微调技术。原创 2024-08-27 06:49:17 · 1085 阅读 · 0 评论 -
神经网络微调技术全解(02)-针对每种微调技术的具体实施示例(含代码)
这些示例展示了如何实施各种微调技术,每种技术都针对特定问题或任务进行优化,并且都包含一些代码片段帮助理解实际操作。请注意,实际应用中通常需要更复杂的训练循环、数据加载和参数调整。原创 2024-08-26 07:52:29 · 279 阅读 · 0 评论 -
神经网络微调技术全解(01)-不同的微调方法如PEFT、SFT、LoRa、QLoRa等,旨在解决不同的问题和挑战
PEFT:关注减少全面微调的计算和存储需求,通过部分参数的微调实现高效适应性。SFT:专注于将无监督预训练模型转换为能够执行特定监督任务的模型。LoRa:通过低秩矩阵分解减少微调参数的数量,从而降低计算和存储成本。QLoRa:在LoRa的基础上引入量化,进一步减少存储需求,适用于资源有限的场景。Adapter: 用于多任务学习,通过添加可训练模块进行适应。: 通过优化输入提示来引导大语言模型的任务表现。: 通过训练前缀向量来影响模型输出,适合大模型。BitFit: 仅微调偏置项,极大减少参数量。原创 2024-08-25 08:53:00 · 673 阅读 · 0 评论 -
从简单到复杂,训练神经网络的秘诀
据称,开始训练神经网络非常简单。许多库和框架都以展示 30 行神奇的代码片段来解决问题而自豪,给人一种这些东西是即插即用的(错误)印象。常见的情况如下:#conquer world here这些库和示例激活了我们大脑中熟悉标准软件的部分 - 通常可以获得干净的 API 和抽象。请求库演示:不幸的是,神经网络并非如此。当您稍微偏离训练 ImageNet 分类器时,它们就不是“现成的”技术。当您破坏或错误配置代码时,通常会遇到某种异常。您插入了一个整数,而某个函数需要字符串。该函数只需要 3 个参数。此导原创 2024-08-16 08:18:03 · 968 阅读 · 0 评论 -
机器学习系统(ML)中隐藏的技术债务(2)
这是很危险的,因为即使是对输入信号的 "改进",也可 能对消耗系统产生任意的有害影响,而诊断和处理这些影响的成本是很高的。由于一个成熟的系统最终可能只有(最多)5% 的 机器学习代码和(至少)95% 的胶水代码,因此创建一个简洁的本地解决方案可能比重复 使用通用软件包的成本更低。没有任何输入是真正独立的。作为科学家,我们必须能够重新进行实验并获得相似的结果,但由于随机 算法、并行学习中固有的非确定性、对初始条件的依赖以及与外部世界的相互作用,设计 现实世界中的系统以实现严格的可重复性变得十分困难。原创 2024-08-17 07:26:39 · 684 阅读 · 0 评论 -
机器学习系统(ML)中隐藏的技术债务
ML 系统具有产生技术债务的特殊能力,因为它们具有传统代码的所有维护问题,外加一系列额外的 ML 特有问题。ML 系统中的数据依赖关系也会造成类似的债务,但可能更难发原创 2024-08-15 08:28:52 · 479 阅读 · 0 评论