【AI4Code最终章】AlphaCode：《Competition-Level Code Generation with AlphaCode》（DeepMind）

最新推荐文章于 2024-05-09 09:45:12 发布

chad_lee

最新推荐文章于 2024-05-09 09:45:12 发布

阅读量583

点赞数

分类专栏：论文解读代码智能机器学习文章标签：人工智能深度学习机器学习

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/yanguang1470/article/details/125862296

版权

AlphaCode——宏观上的推荐（DeepMind）

在这里插入图片描述

14位共同一作，74页论文。

认为CodeX只是做了一个简单的自然语言-程序语言的翻译任务，AlphaCode要做一个更难的。输入输出为：

方法

流程

在这里插入图片描述

模型训练分为预训练和微调，然后预测阶段先大规模采样（召回）得到一百万，然后聚类和过滤得到1000个（粗排），然后选出10个提交（精排）。

数据集

在这里插入图片描述

先在Github收集开源代码，经过预处理和清洗后715GB，作为预训练数据集；然后用CodeContests 数据集微调，格式如上图。

模型结构

最低0.47元/天解锁文章

关注

0
点赞
踩
2

收藏

觉得还不错? 一键收藏
0
评论
【AI4Code最终章】AlphaCode：《Competition-Level Code Generation with AlphaCode》（DeepMind）

不同于CodeX的GPT，只用Transformer的decoder，这里用的是完整的Transformer，既有encoder也有decoder。encoder输入是题目的描述（也包括题目的tags、solution使用的语言、题目中的样例），decoder的输出对应的ground-truth是一个solution，可以是对的，也可以是错的。在10次程序竞赛的成绩。模型训练分为预训练和微调，然后预测阶段先大规模采样（召回）得到一百万，然后聚类和过滤得到1000个（粗排），然后选出10个提交（精排）。...
复制链接

扫一扫

专栏目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。