用约束规划+概率图模型（信念传播）+神经网络端到端求解组合优化问题

最新推荐文章于 2023-01-07 15:29:52 发布

Monte0539

最新推荐文章于 2023-01-07 15:29:52 发布

阅读量653

点赞数

分类专栏：深度学习文章标签：神经网络

本文链接：https://blog.csdn.net/caoyunbo0417/article/details/116061243

版权

深度学习专栏收录该内容

11 篇文章 0 订阅

订阅专栏

主要技术点：

用约束规划+概率图模型（信念传播）+神经网络端到端求解问题，生成一个关于变量的N*M矩阵，N是变量个数，M是变量取值集合的大小，矩阵元素代表某变量取某元素的信念，根据这个矩阵可自然读出解（如果不满足约束的情况实在太严重，就进一步加primal-dual unrolled optimization、启发式搜索、分支定界等后处理机制）：

《Belief Propagation Neural Networks》（BPNN）设计了一个模块化的信念传播神经网络框架，它已经可以进行一些推理，求解NP完全问题了，只不过我对它们在复杂约束问题中的表现有所怀疑，想嵌入约束传播机制。由于文章的模块化做的很好，我只需将BPNN中因子-变量图消息传递模块修改成约束规划中约束归并与约束-变量图消息传递模块。正好今年新出一篇文章让上述修改变得比较容易——《From Support Propagation to Belief Propagation in Constraint Programming》。

修改后只是简单嵌入了约束传播机制，这是我们的基本框架。之后，再根据下面第三点中的文章，做进一步的大规模约束的缩减/聚合并考虑加入比较好的后处理机制。样本利用效率、在线机器学习等做为最后的考虑点……

网络框架基于2020年《Belief Propagation Neural Networks》 https://arxiv.org/pdf/2007.00295.pdf（概率图模型+图神经网络）
约束传播技术主要基于IJCAI 2020 《From Support Propagation to Belief Propagation in Constraint Programming》，把它网络化参考《Neural Probabilistic Logic Programming in DeepProbLog》、《Policy Message Passing: A New Algorithm for Probabilistic Graph Inference》
进一步优化则参考《Practical Message-passing Framework for Large-scale Combinatorial Optimization》（初始化、并行、后处理机制的各种技巧）、《Augmentative Message Passing for Traveling Salesman Problem and Graph Partitioning》（专门处理约束很多的COP）、《Computational Challenges in Material Discovery:Bridging Constraint Reasoning and Machine Learning》（约束聚类）、《Deep Reasoning Networks:Thinking Fast and Slow》、《Exact-K Recommendation via Maximal Clique Optimization》（更有效地利用样本）