论文笔记--GPT-4 Technical Report

已于 2023-06-11 17:26:40 修改
阅读量3.7k 收藏 3
点赞数 2
分类专栏： 论文阅读 文章标签： 论文阅读 GPT-4 GPT-3.5 语言模型 OpenAI
于 2023-06-11 17:25:28 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_38124427/article/details/131154319
版权
GPT-4是OpenAI发布的多模态大模型，展示出在文本和图像理解上的强大能力，特别是在考试和代码生成任务上的优秀表现。然而，模型也存在知识更新滞后、推理错误和易受误导等问题。通过RLHF和RBRMs提高对人类意图的对齐，增强了安全性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

论文笔记--GPT-4 Technical Report

1. 报告简介

  • 标题：GPT-4 Technical Report
  • 作者：OpenAI
  • 日期：2023
  • 期刊：arxiv preprint

2. 报告概括

  本文是OpenAI发布的GPT-4的技术报告，主要针对GPT-4的能力、局限和风险性等方面进行测评。GPT-4是个多模态模型，支持文本和图像格式的输入。但OpenAI并没有公布GPT-4实现的技术细节，仅在一些场景给出了推理时的prompt，可供用户参考。

3 报告重点内容

3.1 Predictable Scaling

  首先，文章对GPT-4的整体损失进行了分析。根据最近的研究成果，模型的损失和模型的计算量（compute）满足幂律关系。为了判断GPT-4是否满足该关系，文章首先用和GPT-4相同的训练方法（未交代具体方法）训练参数/计算量更小的模型，得到一组compute VS loss的数据对（如下图中的实心黑点），再用这些数据拟合一个幂律模型: L = a C b + c L=aC^b + c L=aCb+c（下图中的虚线）。可以看到GPT-4（绿色原点）恰好在该幂律模型上，说明GPT-4的loss是可以被精准预测的。
  PS：查了很多资料，才明白x轴的单位分别是

  • 1 p = 1 p i c o = 1 0 − 12 1p=1pico = 10^{-12} 1p=1pico=10−12
  • 1
最低0.47元/天 解锁文章
关于GPT-4：GPT-4 Technical Report
强化学习曾小健
06-23 513
3月14日，OpenAI发布了GPT-4，向科技界再次扔下了一枚“核弹”。根据OpenAI的演示，我们知道了GPT-4拥有着比GPT-3.5更强大的力量：总结文章、写代码、报税、写诗等等。但如果我们深入OpenAI所发布的技术报告，我们或许还能发现有关GPT-4更多的特点……以及一些OpenAI没有点名和宣扬的，可能会令人背后一凉的细节。
GPT-4 Technical Report
c_cpp_csharp的专栏
11-22 208
我们报告了GPT-4的开发，这是一个大规模的多模态模型，可以接受图像和文本输入并产生文本输出。尽管GPT-4在许多现实世界场景中的能力不如人类，但它在各种专业和学术基准上表现出了人类水平的表现，包括通过模拟律师考试，成绩在考生的前10%左右。GPT-4是一个基于Transformer的模型，经过预训练可以预测文档中的下一个token。训练后的对齐过程提高了真实性和对期望行为的遵守程度。该项目的一个核心组成部分是开发在广泛范围内可预测的基础设施和优化方法。
GPT-4技术报告.pdf
06-04
GPT-4技术报告
LiteratureReading:[2023] GPT-4: Technical Report
有朋自远方来，不亦乐乎。
03-21 1264
OpenAI 是一个致力于发展通用人工智能（AGI）的非营利性研究组织，它由Elon Musk、Sam Altman、Greg Brockman、Ilya Sutskever等人于2015年共同创立。OpenAI 的目标是确保人工智能技术的发展能够惠及全人类，并且以安全和负责任的方式推进。OpenAI 开发了一系列重要的人工智能模型和工具，包括但不限于GPT（生成预训练转换器）系列模型，这些模型在自然语言处理领域取得了显著的成就。
详解GPT-4论文《GPT-4 Technical Report》
日常学习与专研的记录
04-16 3203
详解GPT-4论文《GPT-4 Technical Report》。
GPT-4原论文详细解读（GPT-4 Technical Report）
大模型天花板
03-28 8845
GPT-4是一个多模态的大模型。它的基础结构仍然是Transformer+预测下一个词的目标函数。GPT-4在摘要中的说法是给出了一个预测模型性能的方法，使得只需要0.1%的训练计算资源，就可以预测模型的性能了。不需要训练到最后才得到模型性能，这有助于早期就调整好模型，减少不必要的训练成本。GPT-4这篇工作目的是增强理解生成文本的能力，尤其在复杂且存在细微差异的场景。GPT-4使用了很多人类的考试（例如，律师资格考试）和传统的NLP任务作为测试案例。
GPT-4论文阅读
weixin_52185313的博客
09-11 1985
本篇虽然是GPT-4的技术报告，但其中没有提到GPT-4的具体模型架构与训练过程，主要就是讲他的结果。GPT-4是一个多模态的模型，能够接受文本或者是图片的输入，最后输出纯文本GPT-4基本能够达到类人的表现，在事实性、可控性和安全性上有了很大的进步GPT-4在真实世界中与人还是存在差距，但是在很多具有专业性或者学术性的数据集或者任务上面上，GPT-4有时候能够达到甚至超过人类的水平。
论文笔记--Llama3 report
weixin_38124427的博客
04-22 3372
Meta最新开源模型Llama3-8B, Llama3-70B
国产模型能否挑战 GPT-4？一文拆解 DeepSeek-V3 架构与实战应用
最新发布
在信息的熵增中，记录结构、重建秩序。 技术思想者的笔记，系统构建者的注释。
03-23 1109
DeepSeek-V3 是当前开源领域最接近 GPT-4 的中文大模型，采用稀疏激活的 MoE 架构，实现了“性能强大、成本可控”的理想平衡。它支持 128K 超长上下文、具备出色的中文理解与生成能力，并全面开源可商用，适合私有部署与行业落地。本文将系统解析 DeepSeek-V3 的架构原理、训练策略、部署方法与应用实战，涵盖从 ChatGPT 式助手到企业知识问答系统的完整路径，帮助你用好这个真正能“落地”的强大国产大模型。
啃论文啦！！InternLM2 Technical Report 阅读笔记/精华提炼(一）
m0_67935007的博客
03-31 1393
下面是分条内容梗概，对某一块内容感兴趣的朋友可以直接点击目录跳转。1.LLM的进步：像CHATGPT和GPT-4这样的LLM的发展引发了关于通用人工智能（AgI）的讨论。然而，在开源模型中复制这些进步是具有挑战性的。2.InternLM2简介：本文介绍了InternLM2，它是一个开源的法学硕士，在各种评估中都优于其前身。3.性能指标：InternLM2已在6个维度和30个基准上进行了评估，包括长期环境建模和开放式主观评估。
【通义千问】大模型Qwen GitHub开源工程学习笔记（1）-- 使用指南、依赖库和软件
weixin_46481662的博客
09-26 4153
9月25日，阿里云开源通义千问140亿参数模型Qwen-14B及其对话模型Qwen-14B-Chat,免费可商用。官方的技术资料也下载了，看这里==>立马就到了GitHub去fork。
GPT-4技术报告
qq_45745941的博客
03-15 657
GPT-4 在 RLHF 训练期间加入了一个额外的安全奖励信号，通过训练模型拒绝对此类内容的请求来减少有害输出（如我们的使用指南所定义）。为了防止模型拒绝有效请求，我们从各种来源（例如，标记的生产数据、人类红队、模型生成的提示）收集了多样化的数据集，并在两者上应用安全奖励信号（具有正值或负值）允许和不允许的类别。与 GPT-3.5 相比，我们已将模型响应不允许内容请求的倾向降低了 82%，并且 GPT-4 根据我们的政策响应敏感请求（例如，医疗建议和自我伤害）的频率提高了 29% .
GPT-4 Technical Report译文
wshzd的博客
03-16 4761
我们创建了 GPT-4，这是 OpenAI 努力扩展深度学习的最新里程碑。GPT-4 是一个大型多模态模型（接受图像和文本输入，发出文本输出），虽然在许多现实世界场景中的能力不如人类，但在各种专业和学术基准上表现出人类水平的表现。例如，它通过模拟律师考试，分数在应试者的前 10% 左右；相比之下，GPT-3.5 的得分在倒数 10% 左右。我们花了 6 个月的时间使用我们的对抗性测试程序和 ChatGPT 的经验教训迭代对齐GPT-4，从而在真实性、可操纵性和拒绝超出安全方面取得了有史以来最好的结果（尽
GPT4技术报告介绍
扬起你的笑脸~把影子藏在身后
02-08 1103
我们的目标是让我们构建的 AI 系统具有合理的默认行为，以反映广泛的用户价值观，允许这些系统在广泛的范围内进行定制，并就这些范围应该是什么获得公众意见。获得访问权限后，您可以向 gpt-4 模型发出纯文本请求（图像输入仍处于有限的 alpha 阶段），随着时间的推移，我们会在制作新版本时自动将其更新为我们推荐的稳定模型（您可以固定当前版本通过调用 gpt-4-0314，我们将支持到 6 月 14 日）。主要原因是，对于像 GPT-4 这样的非常大的训练运行，进行广泛的特定于模型的调整是不可行的。
论文精读--GPT4
m0_73202283的博客
03-29 1518
效果好；从去年8月以来做了很多安全性测试。
GPT-4论文精读
zzz_qing的博客
04-02 1167
OpenAI发布的GPT4技术报告重点介绍了GPT4的能力有多么强大，以及安全方面的考虑，但是对训练和提升方法只字未提。Pytorch Lightning框架的创始人William Falcon说GPT-4的technical report其实就告诉大家We use python。GPT-4和之前所有的模型都不一样的地方，是它可以接受图片作为输入，GPT-4可以允许用户去定义任何一个视觉或语言的任务。
最近火出圈的GPT-4 技术Report出来了，快进来看看逐文对照翻译！
大数据之眸
03-30 3434
近期OpenAI发布的GPT-4的效果好得让人惊艳！碾压了之前火到出圈的ChatGPT，通过同步发布的GPT-4 Technical Report一同看看到底发生了什么！No.0摘要We report the development of GPT-4, a large-scale, multimodal model which can accept image and text inputs an...
GPT-4 Technical Report论文阅读笔记
weixin_45920982的博客
08-04 419
性能非常好律师资格考试前10%，gpt3.5是后10%在基础的banchmark上的分数也很高这里主要提到的banchmark是MMLU讨论了一个核心挑战，如何去预估大模型的能力也有局限性：容易产生幻觉、context window有限制，不能学习。GPT-4 的能力和局限性带来了重大而新颖的安全挑战，鉴于其潜在的社会影响，我们认为仔细研究这些挑战是一个重要的研究领域。主要介绍的是能力和局限性以及安全性。
GPT4论文翻译 by GPT4 and Human
hehedadaq的博客
03-15 3323
这篇报告内容太多了！！手动复制粘贴和校准折腾了三个小时！求！整体感受如下，gpt4的全域能力，相比gpt3.5尤其是在专业能力上有着全面提升。提供了一些技术思路，但不多。和之前的HFRL相比，又多了一个基于规则的奖励模型，来重新约束模型的有害输出。还有两个需要关注的点就是，视觉输入，正文讲解的不多，大家可以在其他地方仔细查看另外一个是长文本输入，32K的token，结合长文本，一度让我心灰意冷。但这二者的技术细节，目前我翻译的这部分内容，没有细讲。
阿里巴巴版GPT模型：能否挑战GPT-3.5并承受GPT-4的测试？
资源摘要信息:"本文主要探讨了阿里巴巴推出的AI大模型通义千问，并将其与GPT-4进行了比较。文中首先介绍了阿里在人工智能领域的深厚积累，包括平头哥的AI芯片、阿里云的AI云服务以及达摩院的AI算法，并提到了阿里...
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值