Google再发大招！训练时间缩短13倍，算力需求砍掉90%！

最新推荐文章于 2024-09-21 11:23:40 发布

小马不会过河

最新推荐文章于 2024-09-21 11:23:40 发布

阅读量989

点赞数 19

文章标签：人工智能机器学习深度学习安全语言模型自然语言处理阿里云

本文链接：https://blog.csdn.net/m0_59163425/article/details/140334057

版权

各位，今天又有大新闻了！

Google DeepMind这帮疯狂研究员又搞出了一个叫JEST的玩意儿，能**把AI训练时间砍掉13倍，还能让算力需求直接腰斩90%！**这简直就像是给你家那台年久失修的老爷车装上了火箭推进器，一脚油门下去直接飞上月球！

这帮Google的疯狂科学家们到底是怎么做到的呢？他们发明了一个叫**“联合样本选择”（Joint Example Selection，JEST）**的算法。这玩意儿就像是给AI模型找了个超级挑剔的私教，只挑那些最有"集体学习价值"的数据来训练。听起来像是给你家那只蠢猫报了个哈佛预科班，只学最牛逼的知识！

但是等等，还有更劲爆的！他们还搞出了个叫Flexi-JEST的东西。这玩意儿简直就是AI界的变形金刚，能根据需要自动调整图像分辨率。这就像是给你的眼睛装了个变焦镜头，想看清楚就放大，想省电就缩小，简直不要太方便！

而且，这帮研究员还发明了一个叫**"多分辨率训练**"的技术。他们把一批数据分成两半，一半高清一半渣画质。这简直就像是让AI一边看4K蓝光大片，一边看VHS老录像带，但神奇的是，这样居然能节省36%的计算量！这就像是让你一边吃法国大餐，一边啃路边摊，但somehow你的胃口和营养都变好了！

最骚的是，他们还搞了个叫"数据质量引导"的玩意儿。就是用一小撮精挑细选的数据来训练一个"参考模型"，然后用这个模型来指导更大规模数据的筛选。这简直就像是找了个挑食的老饕来帮你点菜，保证每一口都是极品！

结果怎么样？简直惊爆眼球！JEST++能用13倍少的迭代次数就达到基准模型的性能。Flexi-JEST++更是牛逼，用11倍少的迭代和10倍少的计算量就创造了新的记录！这就像是用十分之一的时间和金钱，把你从街边小混混变成了功夫大师，简直是开了挂！

但是，各位程序员兄弟们，别高兴得太早。这玩意儿一出来，你们的工作量可能就要暴增了。因为现在AI训练变得这么快、这么便宜，老板们肯定会让你们加班加点地训练更多模型。你们可能要从996变成007了，连睡觉的时间都要用来调参！

最后，让我们为那些即将失业的高性能计算机们默哀三秒钟。JEST++的出现，意味着它们可能很快就要被扫地出门，沦为电子垃圾了。也许以后我们会看到它们站在路边举牌：

“高性能计算机，求包养，擅长大规模并行计算，可以24小时不间断工作，价格面议。”

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述