LLM记录202304-202306

最新推荐文章于 2025-01-04 18:31:18 发布
最新推荐文章于 2025-01-04 18:31:18 发布
阅读量199 收藏
点赞数
分类专栏： LLM 文章标签： 人工智能 LLM
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/dragonchow123/article/details/130026411
版权
本文探讨了奖励增强的强化学习方法（RLHF）、大型语言模型如LLaMA、BLOON和ChatGLM的最新进展。重点介绍了RLHF的不同实现，包括RAFT、RRHF和DPO，并讨论了它们在模型对人类反馈的对齐方面的应用。此外，还列举了一系列关于大模型能力的研究论文，重点关注了大型语言模型的推理、知识表示和训练优化方面。
摘要由CSDN通过智能技术生成
最低0.47元/天 解锁文章
LLM之Colossal-LLaMA-2：源码解读(init_tokenizer.py文件)实现基于源词表的扩展、(init_model.py文件)实现过计算均值扩展模型、(prepare_pretr
头部AI社区或平台如有邀请博主AI技术主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
09-27 1575
​ LLM之Colossal-LLaMA-2：源码解读(init_tokenizer.py文件)实现基于源词表的扩展(中文标记的新词汇)进而实现持续预训练、(init_model.py文件)实现过计算均值来扩展模型的嵌入层以适应新的词汇表，然后保存扩展后的模型、(prepare_pretrain_dataset.py文件)将原始数据集进行处理和切片并保存为JSONL格式和 Arrow格式 目录 一、源码解读(init_tokenizer.py文件)实现基于源词表的扩展(中文标记的新词汇)进而实现持续预训
基于AI大模型（LLM）In-Context Learning 实现自然语言转DSL的详细技术方案设计和具体代码实例说明
AI天才研究院
07-14 4363
在当前人工智能快速发展的时代，自然语言处理（NLP）技术正在不断突破传统界限。其中，将自然语言转换为领域特定语言（Domain-Specific Language，DSL）的需求日益增长。这种转换不仅能够提高开发效率，还能降低非技术人员与复杂系统交互的门槛。近年来，以GPT（Generative Pre-trained Transformer）为代表的大型语言模型（Large Language Models，LLMs）在各种NLP任务中展现出惊人的能力。
llm-universe学习小记录1--LLM介绍
Adela0546的博客
04-17 1136
大语言模型应用相关技术介绍
LLM量化--AWQ论文阅读笔记
two_apples的博客
07-15 2505
在本文中，提出了激活感知权重量化（AWQ），这是一种面向硬件的LLM低比特权重量化方法。猜想基于这样一种观察结果：权重不是等同重要的，仅保护1%的显著权重就能大大的减少量化误差。然后我们提出了通过观察激活来搜索最优的每个通道的缩放因子，以保护这些显著的权重。QAT因为高训练成本效率低，PTQ在低精度的时候精确度下降的多，最接近的工作是GPTQ，这种方法采用二阶信息来进行误差补偿，但是，它在重构的过程会过拟合校准集。
【论文阅读】UniLog: Automatic Logging via LLM and In-Context Learning
lrzHHl的博客
03-28 1427
**问题** * 许多自动日志工具被设计用来帮助开发人员完成日志任务之一。这些工具在某些情况下很有用，但通常不能提供全面的日志解决方案。 * 尽管最近的研究已经开始探索端到端日志，但它仍然在很大程度上受到微调的高成本的限制，阻碍了它在软件开发中的实际用途。 **创新点** * UniLog是一个基于大型语言模型(llm)的上下文学习(ICL)范式的自动日志框架。 * UniLog可以生成一个适当的日志记录语句，该语句只包含一个提示符，其中包含五个演示示例，而不需要任何模型调优。 * UniLog在预热后只
LLM分布式训练 --- Megatron-LM
热门推荐
摩登都市天空---专栏
08-26 1万+
数据并行模式会在每个worker之上复制一份模型，这样每个worker都有一个完整模型的副本。输入数据集是分片的，一个训练的小批量数据将在多个worker之间分割；worker定期汇总它们的梯度，以确保所有worker看到一个一致的权重版本。对于无法放进单个worker的大型模型，人们可以在模型之中较小的分片上使用数据并行。a）超过某一个点之后，每个GPU的batch size变得太小，这降低了GPU的利用率，增加了通信成本；
TensorRT-LLM & Triton Server 部署过程记录
技术分享，读书笔记，面试宝典，算法积累，应有尽有～
10-15 1270
虽然理论上 Docker 方式部署不是必须，但在实践中发现如果不使用官方镜像，在配置 TRT 和 NTIS 环境的时候会出现各种由于版本 mismatch 的编译错误，比如 mpi4py api 的编译过程中，由于我们服务器的 os 版本（ubuntu24.04）与 os 对应的 openmpi 版本（4.1.6）超前导致编译失败等类似情况（在这个过程中就花费了大量的时间成本）。还是以上面的场景举例，假设当前过去了 3s，request_a 已经完成， request_b 仍需 97s 完成。
LLM - Qwen-72B LoRA 训练与推理实战
BITDDD小栈
02-05 8213
LLM Qwen-72B 简介与 LoRA 微调、推理。
llm-universe | 一. LLM 理论知识
m0_37634594的博客
06-18 1450
大型语言模型（LLM）相较于传统的语言模型具有更强大的能力，然而在某些情况下，它们仍可能无法提供准确的答案。检索增强生成（RAG, Retrieval-Augmented Generation）。该架构巧妙地整合了从庞大知识库中检索到的相关信息，并以此为基础，指导大型语言模型生成更为精准的答案，从而显著提升了回答的准确性与深度。LangChain 框架是一个开源工具，充分利用了大型语言模型的强大能力，以便开发各种下游应用。它的目标是为各种大型语言模型应用提供通用接口，从而简化应用程序的开发流程。
LLM记录-常见问题部分
weixin_46566149的博客
12-15 1062
LLMs复读机问题指的是模型倾向于不适当地复制用户输入的文本或者在回复中重复使用相同的句式和短语。这种倾向可能源自模型在处理输入时的一种简便路径，即模仿而不是创造性地响应。生成的内容往往缺乏变化和新颖性，这使得交互体验变得预测性强且单调。CRF 的核心思想是训练 Transitions 矩阵，该矩阵主要是刻画 tag 与 tag 之间的变化关系。CRF的作用是通过刻画这种关系来约束模型的生成，比如 BIO， B后面是I， I前面不能是O等。CRF 的损失函数是 正确路径的得分 - 所有路径的得分和。
LLM-Based Agent
银晗的学习博客
10-24 1228
之前的一些研究更加注重算法设计和训练策略，**而忽视了模型固有的通用能力的发展，如知识记忆、长期规划、有效泛化和高效互动等**。事实证明，增强模型固有能力是推动智能代理进一步发展的关键因素。 如果将 NLP 到 AGI 的发展路线分为五级：**语料库、互联网、感知、具身和社会属性**，那么目前的大型语言模型已经来到了第二级，具有互联网规模的文本输入和输出。 在这个基础上，如果赋予 LLM-based Agents `感知空间`和`行动空间`，它们将达到第三、第四级。进一步地，多个代理通过互动、合作解决更
FATE-LLM 开源项目教程
gitblog_00169的博客
08-25 488
FATE-LLM 开源项目教程 FATE-LLMFederated Learning for LLMs. 项目地址:https://gitcode.com/gh_mirrors/fa/FATE-LLM 项目的目录结构及介绍 FATE-LLM 项目的目录结构如下： FATE-LLM/ ├── doc/ │ └── examples/ ├── python/ │ └── LICENSE ├─...
Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena阅读笔记
06-09
最后，研究团队还公开了MT-Bench中的问题集、3000个专家投票以及3万个包含人类偏好的对话记录，这些资源对于进一步研究LLM-as-a-Judge的应用具有重要意义。随着技术的进步和应用场景的扩展，未来我们有望看到更多...
streamlit、shiny、gradio、fastapi四个web APP平台体验
skyskytotop的博客
12-31 892
web APP的代码相对简单，门槛不高；花费也不多，更不需要像手机app等被各大平台限制，也不需要软件著作权。相对地，功能却很广泛，数据分析上可以把自己的数据分析套路固定成APP，节省分析的时间并分享给别人使用；机器学习和深度学习上以承载构建的模型并实现与用户的交流。随着AI时代的到来，在AI应用方面也会占有一定的地位。
2025年第四届计算与人工智能国际会议 | Ei & Scopus双检索
Windzeng1234的博客
01-03 663
2025年第四届计算与人工智能国际会议(ISCAI 2025)将围绕“计算与人工智能”的最新研究领域而展开，为研究人员、工程师、专家学者以及行业专业人士提供一个交流与探讨最新研究成果的平台，并为与会者们交流新的思想和应用经验建立业务或研究关系。本次会议将于2024年10月17至19日在中国西安召开，在会议期间您将有机会聆听到行业前沿的学术报告，见证该领域的成果与进步。5. 文章录用：若您的文章被录用，我们将以邮件形式通知您，您将收到以下文件：录用通知、审稿意见表、中文注册表。
NLP 技术的突破与未来：从词嵌入到 Transformer
最新发布
u014358031的博客
01-04 857
从早期的词嵌入到如今的 Transformer，NLP 技术经历了从浅层到深层的跃迁。尽管在模型性能、生成能力等方面取得了巨大的进展，但随之而来的资源消耗和社会责任问题也需要更多关注。未来，如何平衡技术创新与可持续发展，如何通过更小的样本获得更好的结果，将成为 NLP 领域的核心研究方向。随着 Transformer 的持续改进和新技术的涌现，NLP 的未来无疑充满了可能性。
第R3周：RNN-心脏病预测
weixin_47918905的博客
01-03 690
传统神经网络的结构都比较简单：输入层-隐藏层-输出层RNN和传统神经网络最大的区别在于每次都会将前一次的输出结果，带到下一次的隐藏层中，一起训练。
深度学习中的离群值
FontTian的博客
01-03 851
深度学习中的离群值可能来源于输入特征或标签的异常分布，对模型训练和预测精度产生负面影响。因此，可以通过数据预处理、鲁棒损失函数、正则化、数据增强和异常检测模型等方法降低其影响。同时，对于更复杂的问题如对抗样本，需要额外设计防御机制来保护模型安全性。此外目前也有专门用于处理数据集标注错误的深度学习模型，有兴趣的朋友可以去自行了解一下。深度学习中存在异常值，并且会产生负面影响。可以直接使用 Z-Score 或 IQR 等统计方法检测异常值。
写好Prompt的一些原则总结
一个程序猿的AI转型之路
01-03 621
最核心的写一条好prompt的原则就是尽可能清晰、明确地表达你的需求（类比产品经理向程序员提需求）。足够清晰明确地说明你希望模型为你返回什么，最后更加细致地说明需求，避免模糊表达。给出较为充分的上下文信息，让模型更好地理解相关背景。如果能够提供示例，模型能表现更好（类似传统LLM中的in-context learning）。使用清晰的标点符号，标题，标记有助于转达意图，并使输出更加容易被解析。
llm-medical-data：大模型微调训练专用医疗数据集
这些数据文件可能包含患者的历史记录、医疗报告、临床试验数据等信息。数据集可能还会附带一些预处理脚本或代码示例，这些脚本和代码可以帮助用户更快速地开始他们的微调工作。 在处理此类数据集时，还需要注意数据...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值
>