小火龙的博客

摘要我们引入了一种新的神经架构来学习输出序列的条件概率，其中元素是与输入序列中的位置相对应的离散标记。此类问题无法通过现有方法（例如序列到序列 [1] 和神经图灵机 [2]）轻松解决，因为输出的每一步中目标类别的数量取决于输入的长度，而输入的长度是可变的.诸如对可变大小序列进行排序以及各种组合优化问题等问题都属于这一类。我们的模型使用最近提出的神经注意力机制解决了可变大小输出字典的问题。它与之前的注意力尝试的不同之处在于，它不是在每个解码器步骤使用注意力将编码器的隐藏单元混合到上下文向量中，而...

论文翻译|强化学习的神经组合优化摘要本文提出了一个使用神经网络和强化学习来解决组合优化问题的框架。我们专注于旅行商问题 (TSP) 并训练一个循环神经网络，该网络在给定一组城市坐标的情况下，预测不同城市排列的分布。使用负旅行长度作为奖励信号，我们使用策略梯度方法优化循环神经网络的参数。我们将在一组训练图上学习网络参数与在单个测试图上学习它们进行比较。尽管计算成本很高，但无需太多工程和启发式设计，神经组合优化在具有多达 100 个节点的 2D 欧几里得图上实现了接近最佳的结果。应用于 KnapSack，