层出不穷的机器学习框架到底在“卷”什么?

如今,机器学习在图像识别、多媒体创作、自然语言处理、搜索广告推荐等领域都有着广泛的应用和不俗的表现。面对日益繁杂的应用场景,机器学习框架有助于节省编写大量底层代码的精力,也能省去部署和适配环境的烦恼,更聚焦业务场景和模型设计本身,因而被越来越多的行业接受。

全世界最为流行的深度学习框架有Tensorflow、PyTorch、Caffe、Theano、MXNet、Torch、PaddlePaddle等,这些开源框架均表现出色,各有各的优势和特色。随着深度学习技术的普及,各家框架的成熟化,深度学习技术的门槛会越来越低。

但对于像小红书这样业务发展迅速的产品而言,双列场景和以UGC内容分发为主的特点,对系统的高时效性和稀疏内容表达提出了更高的要求,数据的处理挑战与日俱增。因此,开发符合自身业务需求的机器学习框架往往是更好的选择。

与此同时,在机器学习框架的实际应用中也诞生了许多共性的问题:

  • 掌握一个深度学习框架,开发者需要做哪些准备?

  • 深度学习框架能“包治百病”吗?是否适用于所有应用场景需求?

  • 如何充分利用CPU、GPU的硬件能力提升机器学习效果?

  • 工业界的深度学习框架会有什么不同?

就在10月19日19:00,小红书技术REDtech邀请到了国内的深度学习框架初创公司One Flow的创始人袁进辉,与小红书智能分发部负责人瑞格带来新一期【REDtech 来了】技术直播。他们将围绕机器学习框架在工业界实际应用的挑战与前景展开精彩分享。

袁进辉,2008年于清华大学计算机系获得工学博士学位(优秀博士学位论文奖),2008~2011年在清华大学计算机系从事计算神经科学方面的博士后研究,原微软亚洲研究院主管研究员。于2017年创立北京一流科技有限公司,致力于打造新一代深度学习框架OneFlow。目前,他还兼任之江实验室天枢开源开放平台架构师,北京智源人工智能研究院大模型技术委员会委员。

瑞格,小红书智能分发部负责人,在小红书搭建了支持超大规模参数的在线学习训练框架,支持搜广推个性化模型学习,通过前沿算法的不断探索显著提升了分发效果。曾在百度凤巢从事超大规模分布式训练算法研究,实践了如万亿特征LR、GBDT、大规模稀疏离散DNN等模型工业界应用,并在工业界广泛应用。在百度研发了适用于搜索广告相关性问题的半监督学习算法,显著提升了广告相关性。

详细日程

直播收看攻略:

时间:2022 年 10 月 19 日(周三)19:00-21:00

直播平台:关注【小红书技术 REDtech 】视频号,预约直播,不见不散。(直播也将在抖音与B站同步进行,搜索“小红书技术 REDtech ”)

扫描下方二维码进入直播交流群,将第一时间获取直播链接及开播提醒。

我们将在微信群内发布嘉宾演讲精华和抽奖活动, 参与互动提问还有机会被嘉宾pick解答哦。

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
学习大模型需要一定的基础知识和实践经验。以下是一个从零开始学习大模型的步骤: 1. 学习基础知识:首先,你需要了解机器学习深度学习的基本概念和原理。学习线性代数、概率论和统计学等数学基础知识也是必要的。 2. 学习编程和数据处理:掌握至少一种编程语言(如Python)和相关的机器学习框架(如TensorFlow、PyTorch)。了解数据处理和数据清洗的方法,以及如何准备数据集。 3. 学习神经网络:深入学习神经网络的结构和工作原理,包括积神经网络(CNN)、循环神经网络(RNN)和注意力机制等。了解不同类型的神经网络适用于不同的任务。 4. 学习大模型训练技巧:了解大模型训练的挑战和技巧,如批量归一化、正则化、优化算法等。学习如何调整超参数和优化模型性能。 5. 实践项目:通过实践项目来巩固所学知识。可以选择一些经典的深度学习项目,如图像分类、目标检测、语音识别等。逐步增加模型的复杂度和规模,从小规模模型开始,逐渐迁移到大模型。 6. 学习迁移学习和预训练模型:了解迁移学习的概念和方法,学习如何使用预训练模型来加速大模型的训练。掌握常用的预训练模型,如BERT、GPT等。 7. 持续学习和实践:深度学习领域发展迅速,新的模型和技术层出不穷。要保持持续学习的态度,关注最新的研究成果和开源项目,参与相关的竞赛和论坛。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小红书技术REDtech

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值