全栈深度学习第7期: 研究方向这么多，哪些是有有趣又潜力的呢？

原创 于 2021-03-23 17:30:00 发布 · 478 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#神经网络 #人工智能 #项目管理 #编程语言 #敏捷开发

Berkeley全栈深度学习追剧计划由夕小瑶的卖萌屋发起，旨在提供一个学习交流平台。第7期内容聚焦在深度学习的研究方向，探讨了MetaLearning、Few-shot Learning、Reinforcement Learning等热门领域，并讨论了研究与现实世界的差距及跟踪前沿的方法。参与方式：公众号后台回复相应口令入群。

一起追剧鸭

简介

Berkeley全栈深度学习追剧计划是由夕小瑶的卖萌屋发起的优质公开课打卡项目，通过微信群为同期追剧的小伙伴提供交流平台。关于该计划的详请见这里。

  1. Berkeley深度学习追剧群
    目前已有1000+小伙伴加入，公众号后台回复口令 深度学习追剧 入群。

  2. 课程主页
    https://course.fullstackdeeplearning.com

第7期内容

本期是FSDL课程推送的最后一期啦！一路追完的小伙伴们，棒棒的啊！第7期是research direction，主要讲了哪些研究方向是大佬们所看好的：

  1. 研究方向这么多，哪些是有有趣又潜力的呢？是Meta Learning吗？是Few-shot Learning吗？还是Reinforcement Learning呢？....

  2. 研究的主题都有哪些？

  3. 研究和现实世界的gap都有哪些？有什么方法可以应对这些gap呢？

  4. 如何让自己跟踪前沿呢？（怎样读论文，读什么论文？）

追剧链接：

注：【夕小瑶的卖萌屋】后台回复 DL7获取本期PPT

往期内容回顾

全栈深度学习第1期：如何启动一个机器学习项目？
全栈深度学习第2期: 开发套件与工具篇
全栈深度学习第3期: 怎样科学管理实验数据？
全栈深度学习第4期: 机器学习岗位区别与团队管理
全栈深度学习第5期: 神经网络调试技巧
全栈深度学习第6期: 模型测试和部署

后台回复关键词【入群】

加入卖萌屋NLP/IR/Rec与求职讨论群

后台回复关键词【顶会】

获取ACL、CIKM等各大顶会论文集！

夕小瑶
关注
博客
120万奖金，提供硬件！AI端侧新赛场，2025骁龙人工智能创新应用大赛报名开启
10-28 514
在 AI“云转端”的关键节点，一场属于 AI 开发者的终极挑战正式开启！AI 不再只是存在于服务器与大模型之中，而是正在深度融入我们的日常设备。这场科技革命的浪潮中，蕴藏着无数尚未被发掘的创新可能。，正是一次聚焦“AI 端侧落地”的全面探索。诚邀开发者、团队、企业，基于骁龙平台，共创高效、实用、突破想象力的 AI 应用！
博客
Dexmal 原力灵机开源 Dexbotic：具身智能的“Transformers“库来了
10-22 1181
现在 AI 能写代码、能画画，但你有没有想过，让 AI 去拧个瓶盖，为什么就这么难?因为拧瓶盖这件事，需要三个能力同时在线：眼睛-视觉（ision）: 它得先看懂——哪个是瓶子？哪里是盖子？盖子纹理是什么样？大脑-语言（anguage）：它得理解人类的指令——“拧开瓶盖”是什么意思？是顺时针还是逆时针？用多大力？身体-动作(ction)：它得精确地执行——手指要以多大角度抓住瓶盖？施加多大扭矩？这三个能力，缺一不可，还得实时协同。连接这三个能力的技术，就是也是当下具身智能领域最核心的能力。
博客
别再花50万买机器人了，现在“云养”就能做具身智能研究，还免费
10-16 1139
你可能云养过猫、云吸过狗，但你想过“云养机器人”吗？不是看看视频那种云养，是真的能远程操控——你在北京敲代码，机器人在深圳的实验室里帮你擦桌子、叠衣服。做完了还能打分，告诉你算法哪里需要改进。这不是科幻，是一个中国团队不久前刚推出的真实“服务”。为什么要做这个？GPT-4 能写代码、画图、跟你聊哲学，但它能去叠个被子、擦个桌子吗？它先得有个手，有个身体，才能干活儿。这就是具身智能（Embodied AI）和传统大模型的区别——要在真实物理世界里干活。
博客
云栖大会：AGI只是起点，阿里要造「超越人类」的ASI
09-26 936
未来衡量一个玩家实力的，不再仅仅是某个模型的参数量，而是你能调动多大规模的“电力”（Token），以及你是否拥有从“发电厂”（自研芯片）到“电网”（AI 云），再到“电器”（开发者生态）的全产业链能力。吴泳铭是 23 年 9 月执掌阿里，到现在正好 700 多天，也就这短短 700 多天，阿里焕然一新，All in AI 从设想蓝图变成了坚定、可信、值的憧憬的落地实践，云栖大会是全球技术的风向标，每年都会给我一些新的思考，但今年，阿里巴巴的新帅吴泳铭，带来的不只是思考，准确点说，是一份 AI 未来预告。
博客
企业级Agent怎么搭建，腾讯云给出了标准答案
09-23 1215
前两天，我被邀请参加了腾讯云 AI Agent 产业应用峰会，虽然已经有预期，大会上大家讨论最多的肯定是 Agent，但在现场和大家交流下来，我发现不再是“Agent 是什么”的问题，而是“你在用 Agent 解决什么问题”、“现在 Agent 已经解决到什么程度了”。腾讯云副总裁、腾讯云智能解决方案负责人王麒表示，腾讯云智能体开发平台的核心目标是希望将大模型和智能体技术变得真正可用、易用、好用，让企业能低门槛地构建、集成并运营属于自己的 AI 智能体。一个好的智能体开发平台，要稳定、易用、好用。
博客
音乐AI要进入“中国时刻“了
09-15 1223
昨天半夜刷到 MiniMax 又搞事情了，这次轮到音乐大模型升级。说实话，看到这个消息我第一反应不是“哇好厉害”，而是想到一个问题：中国在声音这个赛道上，要翻身了。前段时间 MiniMax 的 Speech-02 刚把 OpenAI 的 TTS 干趴下，登顶双榜，现在又来搞音乐。这节奏，明显是想从「AI 配音」一路杀到「AI 作曲」啊。再仔细想一下，人家 Speech-02 能搞定 32 种语言，龚琳娜的声音都能克隆到她妈都听不出来。
博客
杀死工作的不是AI，而是搞封闭
09-07 1284
有些人连画都不画了，纯做“图风复刻+参数调整”的工作室，量不小，利润也稳定。，Dario在接受 CNN 和 Axios 连线时信誓旦旦地说：5 年内，AI 会让 50% 的白领入门岗位彻底消失，全球就业率将大幅下跌，尤其是新兴市场、外包公司、标注工人将首当其冲。也就是说，真正能保障 AI 安全的，应该是数以千计的开发者、研究者、产业链上下游，在公开的空间里不断使用、测试、改进、纠错。是的，AI的确会让一些岗位消失，但历史早就告诉我们，每一次技术革命带走旧岗位的同时，也会带来新的产业工种。
博客
AI唱中文歌，终于不怪了！
08-15 1809
就在刚刚，昆仑万维发布了 Mureka V7.5，一个专门为中文升级的音乐大模型。老实说，这两年AI做音乐已经卷出了天际——Suno、Udio、Riffusion，一个比一个能唱，特别是英文歌，人声真假难辨，节奏旋律也都挑不出太大毛病。所以当我看到 Mureka 这个更新的时候，原本也没太在意。直到我注意到一件事：和很多模型强调“多语言支持”“风格多样化”不同，Mureka 这次反而把重点放在了「中文音乐表现」这件事上。这一下我就来了兴趣。
博客
阿里AI三连发刷屏，那个最强的Qwen又回来了!
07-26 1753
最左侧的红色条状是最新版本 2507 的成绩，比上一版本 Qwen3 强了一大截，而且和闭源的 Gemini-2.5 pro、o4-mini 比，在很多硬核能力上，比如 AIME25、LiveCodeBench、Arena-Hard 上，已经开始反超 Gemini-2.5 pro、o4-min 这些顶级闭源模型。但这波三连发真正厉害的地方，不只在于性能登顶，更在于它展现的格局：当一些海外巨头忙着建造“围墙花园”，把技术越锁越紧时，Qwen 还是坚持反其道而行之，选择把最顶尖的成果直接开源给全世界。
博客
ICML 2025 | 何恺明的“残差连接”被魔改，新架构给Transformer建了个“动态立交”，28亿参数打平69亿
06-28 2045
这次 MUDDFormer 与研究团队之前的 DCFormer 工作一脉相承，DCFormer 侧重点在于序列长度的信息传递效率问题，而 MUDDFormer 则专注于优化模型深度方向的信息交互效率。看似基础、底层的架构创新，在当前这个时候依旧有效。优秀的模型架构是撬动 AI 能力和效率的关键杠杆。PS：MUDDFormer 工作的的所有代码、预训练模型和详细的实验设置完全开源，不仅是一个即插即用的新工具，也是一种值得学习的创新思路。
博客
开源界长推理天花板：MiniMax-M1 上下文一次性撑到 1 M
06-19 1927
我们常说，Agent 是未来的大模型方向。但现实是，大家口中的 Agent 真正落地的少之又少。不是没人试过，而是绝大多数模型一旦进入真实多步任务链，就原形毕露。而 MiniMax-M1，某种意义上是我们第一次看到一个够格的底座雏形。为什么这么说？长、快、开源、可训。这四个能力加起来，构成的就是一个面向 Agent 系统的底座雏形。把真工具接给模型，让它能直接操作世界。给它足够长的思考空间，让它把复杂问题一次想透。
博客
扔给它一个PDF，反手给我上了一课
06-11 2083
你们有没有那种感觉——大模型日新月异，有太多信息让人眼花缭乱，每天都得学习新知识。前几天攒下来的文献还没来得及看，过几天就又有了一堆新资料。这不，Mutarjim 语言模型文章还没啃完，阿里又在 6 月 5 日发布了 Qwen3-Embedding 和 Qwen3-Reranker 系列大模型技术报告。足足 14 页，信息密度比较高，看得我脑壳隐隐作痛。正好前几天，看到有朋友在群里分享了秘塔 AI 新做的产品“今天学点啥”，说是可以直接把文献内容讲给我听。
博客
终于找到一个全网最便宜的4090资源，秒级扩缩容，量大管饱 ！
06-08 1755
特别感同身受的是，身为公司的1号位角色，对外看着是光鲜亮丽，但实际上每天眼睛一睁，就是铺天盖地的和各个线条对接，什么都得操心，还得在无数个不确定性中做出最关键的决策，错了可能就万劫不复。第二种， 从阿里云、腾讯云这些云厂商那儿按月或按年租带GPU的虚拟机，虽然不用买硬件了，但是服务器的管理、应用部署还得自己来，想租到又便宜、又稳定、又能弹性扩缩的卡几乎不可能。这种属于土豪玩家，有钱又有团队。Serverless，你可以把它想象成用“共享充电宝”，需要时扫码借一个，用完插回去，用多少，付多少。
博客
Qwen3 终于来了！全面超越 DeepSeek R1，原生支持 MCP
05-16 2305
综合来看，Qwen3 的发布不仅是一次榜单突破，我觉得更是国产 AI 大模型从“对话”走向“执行”的一次关键跃迁。无论是全面超越 DeepSeek R1 的硬核性能，还是原生支持 MCP 协议的 Agent 能力，亦或是混合推理机制和超低部署成本，Qwen3 都展现了一次恰到好处的升级迭代。未来，随着 Agent 时代的加速到来，Qwen3 或许将成为推动 AI 应用落地的核心引擎。我们拭目以待。
博客
倒计时两周！百度“文心杯”创业大赛亿元奖金池等你来冲
05-06 1964
两年前，我们启动了“文心杯”创业大赛，就是希望推动大模型生态繁荣，帮助创业者、开发者开发各种 AI 应用。获奖团队可优先加入百度生态，基于百度文心大模型及百度智能云千帆大模型平台，降低技术创新的门槛，获得顶尖技术支持、融入创新生态并获得资本助力！4 月 25 日，百度正式宣布启动第三届“文心杯”创业大赛，自启动以来，已收到众多国内外优质创业团队申请。作为中国大模型领域规格极高、资源投入最重磅的创投赛事，本届大赛将提供总规模近亿元的“现金 + 资源”组合投资，全面赋能大模型技术创新与应用落地。
博客
谷歌大型推理模型曝光！击败Claude-3.7-Thinking
03-24 2386
对人类而言，孔→重力→漏水→零储存是瞬间完成的因果链，但模型需要从碎片化文本中重组逻辑：既要解析"密封另一端"是否指顶部（影响水流路径），又要过滤训练数据中可能存在的矛盾案例（如文学作品中"用破桶打水"的比喻）。就在最近，用户在Gemini悬浮窗中还意外发现“与Live共享屏幕”按钮，“误打误撞”发现了谷歌为Gemini Live推出的全新AI实时视频功能！我有一个 7 升的金属桶，底部有一个孔，另一端有一块金属板，用于密封。目前根据网友们的挖掘，这个模型确实很值得期待哎！例如"底部有孔的桶能储水吗？
博客
开源11B视频生成模型，表现媲美主流闭源模型！权重+代码全流程公开
03-15 4055
潞晨科技正式推出 Open-Sora 2.0—— 一款全新开源的 SOTA 视频生成模型，仅 20 万美元（224 张 GPU）成功训练商业级 11B 参数视频生成大模型。开发高性能的视频生成模型通常耗资高昂：Meta 的视频模型训练需要 6000 多张 GPU 卡片，投入数百万美元~~。在多项关键指标上，它与动辄百万美元训练成本的模型分庭抗礼，全面提升视频生成的可及性与可拓展性。今天，视频生成领域迎来开源革命！Open-Sora 2.0——全新开源的视频生成模型正式发布，仅用。
博客
百万年轻人“抽象“创作，AI二次元社区「狸谱」凭啥火出圈
03-12 4838
最近刷小红书、B 站总是能看到一些奇奇怪怪又可爱到炸的东西。有人把猫咪变成挂件，有人把偶像挂在包上，一切都能变成可爱挂件，就像这样——从心爱的爱豆到动漫里的纸片人，都被“封印”进了可爱的挂件里。这股风潮，在小红书上刮得相当猛烈，话题浏览量直逼 800 万。我翻了一下，原来大家都在玩儿的 APP 来自我的老朋友——狸谱。那我就不奇怪了。之前，就是对任意一个物件都能提取它的二次元灵魂，也是非常火爆，直接让我半只脚踏进二次元圈了。
博客
原来在千帆上玩儿DeepSeek这么野，我终于把DeepSeek捏成我想要的样子
02-27 4936
最近我在研究怎么让 AI 更"懂我"。不是说它不够好，DeepSeek 的能力确实很强。但每次问它问题，总觉得少了点默契。比如我想让它帮我写文案，要反复强调"用轻松的语气"、“别太正式”；让它帮我整理资料，又得不断提醒"重点关注这个领域"、“用行业术语”。更要命的是，很多写作任务的前置环节是资料查找，而市面上搜索能力强的 ChatBot 产品实在不多。想要跟 DeepSeek-R1 捏在一起，就更难找了。每次对话都要重新设定上下文，说实话挺累的。
博客
秘塔AI上线「新研究模式」！DeepSeek-R1加持还免费，我爱了
02-20 4810
它不仅压缩了信息处理的时间，更重要的是跳脱出已知内容的限制，通过推理思维框架，注入了更多维度的认知可能性（说不定我们就能从AI的思考中，碰撞出更多的创新点~）对于这类专业问题，此前很多回答都只是泛泛而谈，想要深入，要么花钱，要么花时间（没个一两天都下不来，效果还不一定好）。虽说现在的答案是否定的，但看着这样详细的步骤，让人不禁对未来有了更多的期待和向往~这样一来，既能保障推理的深度，又能一定程度兼顾到搜索速度，算是一个不错的解法。好在，如今我们能够有更多的选择，为思考和研究提供强有力的帮助。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值