AMiner论文推荐

AMiner学术搜索和科技情报挖掘

于 2021-09-27 15:21:36 发布

阅读量101

点赞数

分类专栏： AMiner AMiner论文推荐文章标签：深度学习机器学习自然语言处理

本文链接：https://blog.csdn.net/AI_Conf/article/details/120509548

版权

AMiner 同时被 2 个专栏收录

729 篇文章 46 订阅

订阅专栏

AMiner论文推荐

515 篇文章 52 订阅

订阅专栏

随着深度学习在NLP等领域的应用，其高昂的训练和运行成本引发关注。DeepMind和OpenAI的项目展示了训练成本的巨大开销，导致一些企业如欧洲连锁超市因成本放弃深度学习系统。面对经济和环境压力，研究者需要寻找兼顾性能提升与计算效率的方法，以推动深度学习的可持续发展。

摘要由CSDN通过智能技术生成

论文名称：Energy and Policy Considerations for Deep Learning in NLP.
论文链接：https://www.aminer.cn/pub/5d04e906da56295d08dd88ce?f=cs
此前，DeepMind也曾披露，在训练下围棋的深度学习系统时花了大约 3500 万美元。Open AI 在训练 GPT-3时，也耗资超过400万美元。后来，DeepMind在设计一个系统来玩星际争霸 2 时，就特地避免尝试多种方法来构建一个重要的组建，因为训练成本实在太高了。除了科技企业，其他机构也开始将深度学习的计算费用考虑在内。一家大型的欧洲连锁超市最近便放弃了一个基于深度学习的系统。该系统能显着提高超市预测要购买哪些产品的能力，但公司高管放弃了这一尝试，因为他们认为训练和运行系统的成本太高。面对不断上升的经济和环境成本，深度学习的研究者需要找到一个完美的方法，既能提高性能，又不会导致计算需求激增。否则，深度学习的发展很可能就此止步。
AMiner,让AI帮你理解科学！https://www.aminer.cn
在这里插入图片描述