大模型LLM相关综述（持续更新）

最新推荐文章于 2024-07-27 12:20:46 发布
最新推荐文章于 2024-07-27 12:20:46 发布
阅读量70 收藏 2
点赞数 1
分类专栏： 深度学习 文章标签： python pytorch 自然语言处理 深度学习 机器翻译 语言模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wow_i_like_you/article/details/134373405
版权

30+综述带你了解大模型的研究脉络

30+相关综述

大模型的幻觉问题调研: LLM Hallucination Survey

定义：当模型生成的文本不遵循原文（Faithfulness）或者不符合事实（Factualness），我们就可以认为模型出现了幻觉的问题。
大模型的幻觉问题调研

预训练｜有监督微调SFT

大模型基础｜预训练｜有监督微调SFT
Instruct Tuning（SFT）开源数据
NLP预训练模型 | 按时间线整理10种常见的预训练模型

大模型LLMs基础论文

大模型LLMs入门（论文篇）

圣亦是光
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
LLM大模型测试训练语料数据
03-15
在预训练阶段，LLM 从大量未标记的文本数据中学习广泛的知识，然后将其存储在其模型参数中。它使 LLM 具有一定程度的语言理解和生成能力。预训练语料库可以包含各种类型的文本数据，如网页、学术资料、书籍，同时也...
2023年最新LLM大语言模型综述文章
08-05
2023年最新LLM大语言模型综述文章 大语言模型(LLM)是近年来人工智能领域的热门话题，它们可以处理大量数据，学习到丰富的语言知识，并生成高质量的文本。然而，随着LLM的广泛应用，安全风险也随之增加。本报告将对...
LLM入门--大语言模型的综述
weixin_42112760的博客
01-05 1319
学习Bilibili课程(https://www.bilibili.com/video/BV1Rc411b7ns/)并记录听课笔记和项目认识过程。
论文干货 | 首篇大模型压缩论文综述
qq_45832461的博客
10-22 539
来自中国科学院和人民大学的研究者们深入探讨了基于LLM的模型压缩研究进展并发表了该领域的首篇综述《A Survey on Model Compression for Large Language Models》。
大语言模型(LLM)综述(六)：大型语言模型的基准和评估
qq_51957239的博客
11-07 3381
为了检验LLM的有效性和优越性，已经提出了大量任务和基准，用于进行经验能力评估和分析。在本节中，我们首先介绍了LLM在语言生成和理解方面的三种基本能力评估类型，然后介绍了几种具有更复杂设置或目标的LLM的高级能力评估，最后讨论了现有的基准、评估方法和经验分析。
LLM大模型安全概述
AAI666666的博客
07-04 986
大模型安全重要性不言而喻，大模型能力愈强，风险愈大. 大模型安全不再如传统安全一般，只是计算机应用的伴生物，而是需要优先构筑的核心底座. 没有这个安全底座，应用就容易变成在风险中飘摇的无本之木，变成极易坍塌的空中楼阁，大模型自身就难以实现可持续的发展.
大语言模型(LLM)综述(三)：大语言模型预训练的进展
qq_51957239的博客
10-24 1808
随着人工智能和机器学习领域的迅速发展，语言模型已经从简单的词袋模型（Bag-of-Words）和N-gram模型演变为更为复杂和强大的神经网络模型。在这一进程中，大型语言模型（LLM）尤为引人注目，它们不仅在自然语言处理（NLP）任务中表现出色，而且在各种跨领域应用中也展示了惊人的潜力。从生成文本和对话系统到更为复杂的任务，如文本摘要、机器翻译和情感分析，LLM正在逐渐改变我们与数字世界的互动方式。然而，随着模型规模的增加，也出现了一系列挑战和问题，包括但不限于计算复杂性、数据偏见以及模型可解释性。
【LLM】大模型之RLHF和替代方法（DPO、RAILF、ReST等）
发现问题，并解决问题，批判性思维
12-11 5624
SFT使用交叉熵损失函数，目标是调整参数使模型输出与标准答案一致，不能从整体把控output质量，RLHF（分为奖励模型训练、近端策略优化两个步骤）则是将output作为一个整体考虑，优化目标是使模型生成高质量回复。 启发1：像可以用6b、66b依次得到差一点、好一点的target构造排序数据集，进行DPO直接偏好学习或者其他RLHF替代方法（RAILF、ReST等），比直接RLHF更方便训练 启发2：为了减少幻觉（如拒绝回答），可以构造排序数据集（如good response为拒绝话术，bad respo
大语言模型(LLM)综述(四)：如何适应预训练后的大语言模型
qq_51957239的博客
10-27 1255
随着人工智能和机器学习领域的迅速发展，语言模型已经从简单的词袋模型（Bag-of-Words）和N-gram模型演变为更为复杂和强大的神经网络模型。在这一进程中，大型语言模型（LLM）尤为引人注目，它们不仅在自然语言处理（NLP）任务中表现出色，而且在各种跨领域应用中也展示了惊人的潜力。从生成文本和对话系统到更为复杂的任务，如文本摘要、机器翻译和情感分析，LLM正在逐渐改变我们与数字世界的互动方式。然而，随着模型规模的增加，也出现了一系列挑战和问题，包括但不限于计算复杂性、数据偏见以及模型可解释性。
大语言模型（LLM）评估综述
wshzd的博客
07-18 877
在这一部分，总结了LLMs在不同任务中的成功和失败案例。6.1 LLMs能够在哪些方面表现出色？LLMs在生成文本方面展现出熟练度，能够产生流畅且准确的语言表达。LLMs在语言理解方面表现出色，能够进行情感分析和文本分类等任务。LLMs具备强大的语境理解能力，能够生成与输入一致的连贯回答LLMs在多个自然语言处理任务中表现出令人称赞的性能，包括机器翻译、文本生成和问答任务。6.2 LLMs在什么情况下可能会失败？LLMs在生成过程中可能会表现出偏差和不准确性，导致产生有偏差的输出。
【LLM多模态】综述Visual Instruction Tuning towards General-Purpose Multimodal Model
发现问题，并解决问题，批判性思维
05-26 853
新加坡-南洋理工大学发的paper，2023年12月 我们还是从十大问题分析这篇论文，但由于是综述，可能没有实验环节详细的部分。 # 1. 论文试图解决什么问题 - 一篇关于Visual Instruction Tuning 视觉指令微调任务的综述，Visual Instruction Tuning是为了让多模态LLM拥有指令遵循能力 - 文章介绍传统CV局限性（需要针对不同任务训练不同模型，缺乏交互能力），如下图左侧。- 文章从三方面介绍Visual Instruction Tuning的发展过程：单语言
金融财报问答大模型LLM.zip
03-14
《金融财报问答大模型LLM：开启智能分析新时代》 在当今信息爆炸的时代，金融行业的数据分析变得愈发重要。尤其在财报解析与问答方面，企业、投资者以及分析师都需要快速准确地理解复杂的财务数据，以做出明智的...
大语言模型LLM面试题及答案
07-23
适合人群：对大语言模型感兴趣的AI研究人员、工程师以及相关领域的学生。 能学到什么：①大语言模型的基本概念、架构和训练方法；②LangChain框架的使用和核心概念；③分布式训练技术如数据并行、张量并行等；④推理...
最全的开源 LLM （大语言模型）整理.zip
09-04
本资源包“最全的开源 LLM （大语言模型）整理.zip”是关于开源大语言模型的一个综合集合，涵盖了多个知名的项目，帮助开发者和研究人员更好地了解和利用这些先进的技术。 【描述】: 这个压缩包包含了一个名为...
快醒醒，别睡了!...讲《数据分析pandas库》了—/—＜4＞
最新发布
qq_64603703的博客
07-27 567
详细解说数据分析pandas库中的常用方法
全网最详细Gradio教程系列5——Gradio Client: python
shao918516的博客
07-26 748
程序部署完成后，如何将Gradio App作为API访问使用呢，这就用到Gradio Client。本章讲解Gradio Client的三种使用方式：python、javascript和curl，受字数限制，所以分三篇博客发布。 使用Gradio Python Client非常易于将Gradio应用程序作为API使用，本节讲述gradio_client安装、如何连接Gradio应用程序、查看可用API及其使用方式、job及session等用法。 通过Gradio Python Cli
随机数种子的作用
帆的博客
07-23 1273
设置随机数种子（random seed）的目的是为了确保随机数生成器在每次运行时产生相同的随机数序列，从而保证实验结果的一致性。随机数种子通过初始化随机数生成器的内部状态，使得在相同的种子值下，随机数生成器每次调用时生成的序列是相同的。
全面解析 SnowNLP：中文文本处理、情感分析
有勇气的牛排博客
07-24 456
SnowNLP 是一个专门用于处理中文文本的 Python库。分词情感分析关键词提取文本分类拼音转换繁体转简体词相似度计算等测试环境：Python3.10.9尚未测出该功能text = "有勇气的牛排写的文章通俗易懂，爱了爱了"文本分类使用的是 SnowNLP 的情感分析模型。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值