ChatGPT成功做对了这4步丨爱丁堡大学符尧

于 2023-02-15 16:29:01 发布
阅读量2.1k 收藏 2
点赞数 1
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/BAAIBeijing/article/details/129053545
版权
爱丁堡大学博士生符尧在研讨会上分享了ChatGPT成功的秘密，归结为四个步骤：预训练、指令微调、对齐和专门化。预训练构建强基础模型，指令微调提升模型能力，对齐确保模型与人类价值观一致，专门化则让模型从通用走向专业。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

随着ChatGPT出现，语言大模型的进步与对话交互方式相结合，正在搅动科研、产业，以及普通人的想象力。在上周举办的青源Workshop（第20期）｜LLM and Chatbot: Endgame, Worse is Better, How to Win Big 研讨会上，智源社区与青源会邀请十余位相关领域专家，围绕以上话题展开热烈研讨。其中引导报告环节，爱丁堡大学博士生符尧总结了ChatGPT背后成功的原因，即大规模语言模型（LLM）的构建，分为四步，分别是「预训练」、「指令微调」、「对齐」、「专门化」。

103a57eba86d344d1ae6c07293e8dd1e.png

‍91fdc60e0eafd1d3b19456576cef18cb.png‍

符尧

符尧是爱丁堡大学的博士生，也是艾伦人工智能研究所的学生研究员。他在北京大学完成了本科学位，在哥伦比亚大学完成了硕士学位。他的研究方向是人类语言的大规模生成模型。他的研究领域包括了大语言模型、复杂推理、涌现能力。

观察模型能力的动态视角

最低0.47元/天 解锁文章
智源社区
关注
博客
明日直播｜DeepSeek-通用领域奖励模型的推理时可扩展性研究
04-21 21
基于此，本文致力于突破现有奖励建模方法的局限，重点探索通用奖励模型在推理时扩展性（Inference-Time Scalability），即在推理时投入更多计算资源以带来更优奖励信号，从而进一步提升大语言模型在各类任务中的整体性能。本文提出了一种可有效提升通用奖励模型推理时扩展性的方法SPCT，并构建了通用奖励模型系列DeepSeek-GRM，其在多个基准测试中均超越现有主流奖励模型，性能在推理阶段表现出更强的可扩展性。其中，奖励建模作为强化学习的核心组件，旨在为模型提供准确的奖励信号。
博客
智源数据新基建系列 Workshop（第1期）来了！从大模型到具身智能
04-21 16
本期分享主题聚焦具身大脑大模型 RoboBrain 构建，跨本体具身大小脑协作框架 RoboOS 技术，语音技术未来十年走向分析，松灵机器人、睿尔曼智能技术分享、OpenSeek项目分享。欢迎扫码报名，相约北京智源人工智能研究院，与顶尖专家共同探讨从大模型到具身智能的数据新基建工作。4月24日（周四）14:00，智源数据新基建系列 Workshop（第1期）开启。
博客
报名丨第七届智源大会，6月6-7日北京见
04-17 875
而最根本的问题是：面对技术飞速演进，我们的安全法规与制度，准备好了吗？这场位于中国北京的“AI春晚”将延续以往的硬核学术基因，汇聚图灵奖得主、海内外顶尖机构学者与产业领袖，在思辨与实证的交织中，为 AI 的未来绘制导航图。面对这场认知与技术的双重跃迁，我们不禁要问：我们是否窥见了技术奇点的前夜。，第七届智源大会将以“线上+线下”联动的形式盛大开幕，落地北京。在这里，技术不是冷冰冰的代码，而是连接学术与产业、思辨与现实、现在与未来的桥梁。重磅学者，共同把舵，汇聚学术、产业与前沿创新的多元视角。
博客
报名｜智源Workshop：欧洲“蓝脑计划”创始人Henry Markram、神经科学家Sean Hill讲座
04-09 53
通过实现数据集的共享和优化再利用，FAIR² 数据管理显著提高了研究效率和研究结果的可重复性，从而加速在全球卫生（global health）、地球可持续性（planetary sustainability）及科学创新领域的突破与进展。研究所设立了虚拟实验室（Virtual Labs），提供计算建模服务以及全面的数字化大脑模型资源库，从而使用户能够开展真实可靠的大脑模拟实验，验证科研假设，并深入探索神经回路的复杂性。推动开放协作，加速神经科学研究进程，并实现研究的普及化与大众化。
博客
七问具身智能：谁是下一代 AI 范式的关键变量 | 未来人工智能先锋论坛圆桌
04-03 542
因此，未来“大脑”和“小脑”都会发展，但关键在于如何高效融合团队，这既是技术问题，也是行业挑战。关于世界模型与具身智能，大家看法不一。具身智能作为AGI探索中的关键方向，逐渐显现出技术路线上的分歧与融合：有人强调其对动态感知与物理交互的依赖，有人提出“99%合成+1%真实”的训练策略，有人认为世界模型尚未触及本体物理，有人则支持其未来的预判能力。从数据和学习效率两个维度看，当前大模型主要依赖互联网上的文字和图像数据，但这远不能覆盖人类婴儿成长过程中所接触的真实、多模态感知信息，例如触觉、运动和环境互动等。
博客
活动报名｜LeCun学生分享，Transformer无需归一化也能高效稳定训练
04-01 49
然而，本文提出了一种新的方法，表明即使在不使用归一化层的情况下，Transformer 依然能够实现相同或更优的性能。DyT 在保持模型稳定性和加速收敛的同时，实验结果显示，采用 DyT 的 Transformer 在视觉识别、语言建模和自监督学习等多项任务中的表现与传统归一化方法相当，挑战了深度学习中“归一化层不可或缺”的固有观念。他的研究目标是通过创新的自监督学习方法和神经网络架构，推动人工智能在视觉理解的发展。他的研究兴趣主要包括视觉表示学习、视觉语言模型、自监督学习以及神经网络架构的优化。
博客
奇点降临，Manus 诞生背后丨青源Workshop观点集锦
04-01 829
如果 Agent 的功能被使用，它需要获得等价的报酬来维持自身在社会中的存在。如果 Agent 能发展到这个阶段，它的进化将不再需要人类通过算法驱动，而是像有生命体一样，能够自主生存并融入社会，甚至形成自己的社区。或许可以像林老师说的那样，构建一个更加贴近人类真实社会的体系，把虚拟的 token 转化成 Web 3 里面的 token，这可能是一个更好的选择。Agent 的理解存在差异，工业界多采用RAG加workflow的方式，而真正相对自由的 Agent 具有自主性，当前的 Agent 自主性较弱。
博客
PyTorch Day 首次登陆 2025 智源大会！论文征集开启
03-29 243
展示等环节，主题涵盖 AI 应用和用例、核心 PyTorch 框架、深度学习编译器和核编写、边缘 AI 和设备端、AI伦理治理和监管、基于PyTorch 的生成式 AI 和大语言模型、开源协作、教育和社区建设、训练和推理优化、加速器硬件上的 PyTorch、PyTorch 生态系统和工具、PyTorch 在研究和学术界的应用、性能评估和基准测试、扩展训练和推理等方面。现诚挚邀请全球开发者与研究者，共同参与这场聚焦PyTorch生态的技术盛会，探索开源 AI 和机器学习的最新进展。PyTorch Day将。
博客
95后博导张林峰专访：6年前提出自蒸馏算法，高效AI助推大模型时代丨独家
03-25 80
具体来说，以往的模型压缩工作主要关注减小模型的参数量，而我针对数据集压缩的工作则是关注在固定模型参数量的前提下，减少模型处理的数据量，降低token的规模。从这个角度来看，数据集压缩和我目前从事的模型压缩的最终目的是相同的，是降低AI模型计算成本的两个互补的角度。作为该领域的知名学者，张林峰的研究收到了越来越多的关注。在效率方面，模型整体的推理速度的提升还完全赶不上计算需求的增加，特别是随着Manus这种Agent系统的出现，模型解决问题的成本还会进一步爆发，针对这些新的问题，我们还要设计新的压缩方法。
博客
直播报名｜开启机器人操作新纪元，大规模高质量机器人学习数据集GO-1，AgiBot World
03-24 43
基于此，我们开发了Genie Operator-1（GO-1），一种新型通用操作策略模型，通过隐式动作表征最大化数据利用率，具有良好的可扩展性。为此，我们推出AgiBot World，这是全球首个大规模高质量机器人学习数据集，包含超过百万条原子动作轨迹，涵盖五大领域的100余种真实场景，涉及精细操作、工具使用和多机协作等复杂任务。此外，他是IEEE车载技术学会（Vehicular Technology Society）标准工作组主席，并担任IEEE高级会员（Senior Member）。
博客
迈向Super Agent，从Manus谈起
03-18 320
2023年起Agent框架开始收敛，多智能体系统（MAS）应用尝试加速，AI Agent领域迎来了飞速发展。但同时从Agent到Super Agent的推进仍面临诸多挑战：复现难度低、任务执行成本高、交付成果不理想等技术及应用中存在的问题仍需要进一步讨论，成为“得力助手”依然任重道远。3月20日（本周四）晚7点，智源社区组织「迈向Super Agent，从Manus谈起」线上workshop，邀请多位Agent专家与研究者，共同探讨Agent未来之路。时间：3月20日（本周四）晚7点（北京时间）
博客
迈向Super Agent，从Manus谈起丨研讨
03-18 252
2023年起Agent框架开始收敛，多智能体系统（MAS）应用尝试加速，AI Agent领域迎来了飞速发展。但同时从Agent到Super Agent的推进仍面临诸多挑战：复现难度低、任务执行成本高、交付成果不理想等技术及应用中存在的问题仍需要进一步讨论，成为“得力助手”依然任重道远。3月20日（本周四）晚7点，智源社区组织「迈向Super Agent，从Manus谈起」线上workshop，邀请多位Agent专家与研究者，共同探讨Agent未来之路。时间：3月20日（本周四）晚7点（北京时间）
博客
直播｜阿里通义千问Qwen2.5-VL解析，一作分享如何让大模型更好地看世界
03-17 85
Qwen2.5-VL是Qwen视觉语言系列的最新旗舰模型，包括从3B到72B的多个尺度的模型，以满足从边缘AI到高性能计算的各种应用场景。Qwen2.5-VL除了在基础的视觉识别出色、也具备更通用的目标定位能力、以及强大的文档解析和长视频理解方面能力，从而可以更好地理解世界并与世界互动。为了处理复杂输入，Qwen2.5-VL引入了动态分辨率处理和绝对时间编码，使其能够处理不同大小的图像和长达一小时的视频，并实现秒级事件的定位。负责打造QwenVL系列模型，不断推进多模态大模型更好地理解世界，保持开源开放。
博客
直播｜给定一段文本，能否准确预测其来源模型？揭秘大语言模型独特性
03-17 59
大型语言模型（LLMs）在生成文本时会展现出独特的风格和模式，即“特异性特征”（idiosyncrasies），这些特征可以用来区分不同的模型。在本次报告中，我们研究了这些特性，并提出了一个简单但具有深远影响的问题：给定一段文本，我们能否准确预测其来源模型。我们的研究表明，通过在LLM生成的文本上微调现有的文本嵌入模型，可以实现极高的分类准确率。例如，在包含ChatGPT、Claude、Grok、Gemini和DeepSeek五种模型的分类任务中，我们的模型在验证集上达到了97.1%的准确率。
博客
直播｜自动驾驶场景下的世界模型，可控驾驶场景视频生成方法研究
03-17 58
王啸峰，中国科学院自动化研究所五年级博士生，主要研究领域为计算机视觉，研究方向为GenAI和世界模型。在CVPR、ICCV、ECCV、ICLR、AAAI等国际顶级会议上发表相关论文14篇，谷歌学术引用600余次。基于生成模型的3D驾驶场景表示方法研究，其为实现安全、高效的自动驾驶闭环仿真提供了重要的技术支持。随着OpenAI Sora模型的发布，视频生成技术发展迈上了新的高度。如何将视频生成应用于物理世界，构建物理世界仿真器是当下的研究热点。月20日（本周四）10:30-11:30。
博客
OpenSeek：一场属于青年人的AI探索远征，邀你共赴星辰大海！
03-10 96
你是否曾对人工智能的无限可能心潮澎湃？你是否渴望在颠覆性技术诞生的第一线留下自己的印记？你是否期待与全球顶尖学者并肩探索未知的科学疆域？属于青年人的AI远征计划已正式启航——OpenSeek项目，等你加入！为什么是OpenSeek？OpenSeek是由北京智源人工智能研究院（BAAI）发起的开源共创项目，旨在联合全球开源社区，推动算法、数据和系统的协同创新，开发出超越DeepSeek的下一代模型。...
博客
中关村论坛-未来人工智能先锋论坛报名开启
03-10 707
‍‍3月27日-31日，以“新质生产力与全球科技合作”为主题的2025中关村论坛年会将在在北京举行。“其中，3月29日14:30-18:00，中关村论坛-未来人工智能先锋论坛作为“人工智能主题日”系列活动的核心论坛之一，即将在中关村国际创新中心畅春厅进行。本次先锋论坛是由科学技术部、北京市人民政府联合主办，科学技术部一司、北京市科学技术委员会、中关村科技园区管理委员会、北京市海淀区人民政府、北京智...
博客
OpenSeek开源共创，招募全球贡献者
03-07 129
一、引领大模型技术新纪元OpenSeek是由北京智源人工智能研究院（BAAI）发起的开源共创项目，旨在联合全球开源社区，推动算法、数据和系统的协同创新，开发出超越DeepSeek的下一代模型。该项目从Bigscience和OPT等大模型共创模式中汲取灵感，致力于构建一个开源自主的算法创新体系。自DeepSeek模型开源以来，学术界和工业界涌现出众多算法改进和突破，但这些创新往往面临以下挑战：缺乏完...
博客
强化学习之父Richard Sutton荣获图灵奖，智源大会上他分享了四个阶段通向真正AI发展之路...
03-06 90
3月5日，被誉为“强化学习之父”的加拿大计算机科学家Richard Sutton荣获2025年度图灵奖，以表彰他在人工智能领域，尤其是强化学习方面的开创性贡献。Richard Sutton是强化学习领域的奠基人之一，其研究成果为现代人工智能的发展奠定了重要理论基础，深刻影响了自动驾驶、游戏AI、机器人控制等领域的技术进步。Richard Sutton曾受邀出席2022北京智源大会，并在大会上发表题...
博客
活动报名｜CMU，海量实验解密大模型长链推理
03-03 67
报告主题：海量实验解密大模型长链推理报告日期：03月12日（下周四）10:30-11:30报告要点:扩展推理计算资源可以增强大型语言模型（LLMs）的推理能力，通过长思维链（CoTs）实现诸如回溯和错误纠正等策略。强化学习（RL）已成为发展这些能力的关键方法，但长思维链出现的条件仍不清楚，并且 RL 训练需要仔细的设计选择。在这项研究中，我们系统地研究了长思维链推理的机制，确定了使模型能够生成长思...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值