Neural Combinatorial Optimization (NCO) has emerged as a promising learning-based paradigm for addressing Vehicle Routing Problems (VRPs) by minimizing the need for extensive manual engineering. While existing NCO methods, trained on small-scale instances (e.g., 100 nodes), have demonstrated considerable success on problems of similar scale, their performance significantly degrades when applied to large-scale scenarios. This degradation arises from the distributional shift between training and testing data, rendering policies learned on small instances ineffective for larger problems. To overcome this limitation, we introduce a novel learning framework driven by Large Language Models (LLMs). This framework learns a projection between the training and testing distributions, which is then deployed to enhance the scalability of the NCO model. Notably, unlike prevailing techniques that necessitate joint training with the neural network, our approach operates exclusively during the inference phase, obviating the need for model retraining. Extensive experiments demonstrate that our method enables a backbone model (trained on 100-node instances) to achieve superior performance on large-scale Traveling Salesman Problem (TSP) and Capacitated Vehicle Routing Problem (CVRP) of up to 100K nodes from diverse distributions.


翻译:神经组合优化(NCO)作为一种基于学习的方法,通过减少对大量人工工程的需求,已成为解决车辆路径问题(VRP)的有前景的范式。尽管现有的NCO方法在小规模实例(例如100个节点)上训练,并在类似规模的问题上表现出显著成功,但在应用于大规模场景时,其性能显著下降。这种下降源于训练数据与测试数据之间的分布偏移,导致在小实例上学习到的策略对于更大规模问题无效。为克服这一限制,我们引入了一种由大型语言模型(LLMs)驱动的新型学习框架。该框架学习训练分布与测试分布之间的投影,随后将其部署以增强NCO模型的可扩展性。值得注意的是,与现有技术需要与神经网络联合训练不同,我们的方法仅在推理阶段运行,无需模型重新训练。大量实验表明,我们的方法使得一个主干模型(在100节点实例上训练)能够在来自不同分布的大规模旅行商问题(TSP)和容量受限车辆路径问题(CVRP)上(节点数高达100K)实现卓越性能。

0
下载
关闭预览

相关内容

【NeurIPS 2023】基于时间注意力的多任务强化学习对比模块
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
Top
微信扫码咨询专知VIP会员