![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
论文解读
文章平均质量分 95
无敌过桥米线
这个作者很懒,什么都没留下…
展开
-
关于《Symbolic Discovery of Optimization Algorithms》的解读
文章提出一种为程序搜索(program search)的算法,将其应用在发现深度神经网络训练的优化算法。我们利用高效的搜索技术来探索无限且稀疏的程序空间。为了弥合代理任务和目标任务之间巨大的泛化差距,我们还引入了程序选择和简化策略。我们的方法发现了一种简单有效的优化算法 Lion(EvoLved Sign Momentum)。它比 Adam 更节省内存,因为它只跟踪动量。与自适应优化器不同,它的更新对于通过符号运算计算的每个参数具有相同的幅度。原创 2024-06-07 17:41:49 · 782 阅读 · 0 评论 -
CIKM 2021:《Differentially Private Federated Knowledge Graphs Embedding》
CIKM 2021:《Differentially Private Federated Knowledge Graphs Embedding》原创 2023-06-25 20:13:04 · 166 阅读 · 0 评论