项目名称: 求解可分凸规划的并行分裂算法研究

项目编号: No.11301280

项目类型: 青年科学基金项目

立项/批准年度: 2014

项目学科: 数理科学和化学

项目作者: 陶敏

作者单位: 南京大学

项目金额: 22万元

中文摘要: 大量实际问题,如压缩感知,数据挖掘中的主成份分析,分布式网络问题,最终都归结为一类具有等式约束的可分凸规划问题。由于目标函数含有多个算子(指多于两个),这给经典的分裂算法的直接应用带来困难。又因为这些问题来源实际,问题的规模庞大,数据集结构复杂,因而设计行之有效的一阶算法已经迫在眉睫。我们将利用算法分裂的思想和松弛的技巧,在充分考虑这类问题的特殊结构的基础上,设计适合大规模问题的一阶算法。通过降维和松弛的思想,并行计算等手段,将此类可分凸规划问题转化为一系列易于求解的低维子问题。当这些低维子问题不具有显式解时,我们采用适度松弛的方法,非精确求解它,使得松弛后的子问题具有显式解。同时,我们也会根据各类实际问题的需要,设计适用于问题需要的并行分裂算法。最后,我们从理论上分析算法的全局收敛性和收敛速率,进一步考虑加速策略。从而解决了求解大规模凸规划问题尚无成熟有效的并行算法的难题。

中文关键词: 可分凸规划;分裂算法;并行算法;;

英文摘要: A large number of practical problems, such as compressive sensing, principal component analysis in data mining, distributed network problems, can be captured by the task of solving separable convex programming problems. Because the objective function is expressed as the sum of multi-operators, the classical splitting algorithm, such as forward-backward algorithm, Douglas-Rachford algorithm, can not directly handle it whenever the number of individual operators is greater than two. The difficulty of high dimensionality excludes direct applications of some state-of-the-art yet generally-purposed solvers such as SeDuMi, SDPT3. The purpose of the proposal is to design efficientive parallel splitting algorithm to solve the large scale separable convex problem. By exploring the special structure and parital ralaxed technique, we can alleviate the hardness brought by high dimensionality. Study on different splitting techniques, and establish the global convergence property. Moreover, we will study the convergence rate to perspective the opportunity of achieving accelerated speed. Finally, we will develop some generally- purposed practical software by applying our splitting algorithms.

英文关键词: separable convex programming;splitting algorithm;parallel algorithm;;

成为VIP会员查看完整内容
0

相关内容

NeurIPS 2021 | 用简单的梯度下降算法逃离鞍点
专知会员服务
23+阅读 · 2021年12月6日
【博士论文】吉布斯分布的局部、动态与快速采样算法
专知会员服务
28+阅读 · 2021年11月26日
专知会员服务
21+阅读 · 2021年7月31日
【开放书】《矩阵流形优化算法》,241页pdf
专知会员服务
93+阅读 · 2021年7月3日
专知会员服务
21+阅读 · 2021年6月26日
专知会员服务
94+阅读 · 2021年5月25日
「数据数学:从理论到计算」EPFL硬核课程
专知会员服务
42+阅读 · 2021年1月31日
专知会员服务
71+阅读 · 2020年12月7日
专知会员服务
18+阅读 · 2020年9月2日
专知会员服务
41+阅读 · 2020年7月29日
PyTorch | 优化神经网络训练的17种方法
极市平台
3+阅读 · 2021年12月30日
【博士论文】基于冲量的加速优化算法
专知
7+阅读 · 2021年11月29日
正则化方法小结
极市平台
2+阅读 · 2021年11月24日
约束进化算法及其应用研究综述
专知
0+阅读 · 2021年4月12日
【PHM算法】PHM算法 | 故障诊断建模方法
产业智能官
63+阅读 · 2020年3月16日
求解稀疏优化问题——半光滑牛顿方法
极市平台
41+阅读 · 2019年11月30日
研究SLAM,对编程的要求有多高?
计算机视觉life
24+阅读 · 2019年2月18日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Model Reduction via Dynamic Mode Decomposition
Arxiv
0+阅读 · 2022年4月20日
Arxiv
11+阅读 · 2018年4月25日
小贴士
相关主题
相关VIP内容
NeurIPS 2021 | 用简单的梯度下降算法逃离鞍点
专知会员服务
23+阅读 · 2021年12月6日
【博士论文】吉布斯分布的局部、动态与快速采样算法
专知会员服务
28+阅读 · 2021年11月26日
专知会员服务
21+阅读 · 2021年7月31日
【开放书】《矩阵流形优化算法》,241页pdf
专知会员服务
93+阅读 · 2021年7月3日
专知会员服务
21+阅读 · 2021年6月26日
专知会员服务
94+阅读 · 2021年5月25日
「数据数学:从理论到计算」EPFL硬核课程
专知会员服务
42+阅读 · 2021年1月31日
专知会员服务
71+阅读 · 2020年12月7日
专知会员服务
18+阅读 · 2020年9月2日
专知会员服务
41+阅读 · 2020年7月29日
相关资讯
PyTorch | 优化神经网络训练的17种方法
极市平台
3+阅读 · 2021年12月30日
【博士论文】基于冲量的加速优化算法
专知
7+阅读 · 2021年11月29日
正则化方法小结
极市平台
2+阅读 · 2021年11月24日
约束进化算法及其应用研究综述
专知
0+阅读 · 2021年4月12日
【PHM算法】PHM算法 | 故障诊断建模方法
产业智能官
63+阅读 · 2020年3月16日
求解稀疏优化问题——半光滑牛顿方法
极市平台
41+阅读 · 2019年11月30日
研究SLAM,对编程的要求有多高?
计算机视觉life
24+阅读 · 2019年2月18日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
微信扫码咨询专知VIP会员