黑洞成像背后的算法:图像处理与反问题

2019 年 4 月 13 日 CVer

点击上方“CVer”,选择加"星标"或“置顶”

重磅干货,第一时间送达

作者:2prime

https://zhuanlan.zhihu.com/p/62026270

本文已授权,未经允许,不得二次转载

今天,人类第一张黑洞图像被拍出来了。我也来回顾下黑洞背后的成像原理

本文很多资料来自我老板的课程:图像处理中的数学方法 和ted talk:https://www.ted.com/talks/katie_bouman_what_does_a_black_hole_look_like?language=en

[演讲者是mit csail phd今年开始在caltech任教]

图像处理经常被处理成反问题,什么是反问题

考虑正问题  ,  是观测噪声,反问题就是在有了观测  的条件下怎么获得真实图片u

如果A是一个恒同算子,反问题就是去燥

如果A是一个模糊,反问题就是去模糊

如果A是一个CT,反问题就是CT恢复

在将算法之前说一下这个问题意义,打个比方你要做核磁共振,你要绑在床上听着快一个小时噪声,那么你就希望  这个算法进行sample 次数变少,那么如果我算法更厉害,你mri时间会越少。

有人说,这个问题简单  就好了,那么如果A不可逆呢?

你说这个也简单,最小二乘啊  ,那么你就是没有考虑到 --观测噪声

考虑一个去模糊问题,如果有噪声,直接求逆结果会是怎么样的呢?

噪声在求逆的时候无数倍的被放大了,产生了棋盘一样的artifact

那么怎么解决问题呢?加入正则项!

这里的R的作用时

- 如果u不是“图片”,那么R值大一点

- 如果u像一张图片,R的值小一点

数学家就花了很久来构造R,第一个成功的是total variation,定义为 

发明这个算法的stan osher教授也获得了应用数学最高奖 gauss 奖 math.ucla.edu/news/prof

当年这个算法也帮助LA破获了一起杀人案

那么我来介绍这次的算法

对于simulate数据

用了total variation的效果是


参考 project page:VLBI Reconstruction Dataset

为什么呢,为了达到这个分辨尺度,根据测不准原理,他们需要整个地球半径的天文望远镜。但是事实上我们造不出来这么大的望远镜,只能用九个观测站点的数据来做。这是一个高度不适定的反问题,那么需要更好的正则项。

设计正则项他们用到的想法是 学习

From Learning Models of Natural Image Patches to Whole Image Restoration

https://people.csail.mit.edu/danielzoran/EPLLICCVCameraReady.pdf

他们用高斯混合模型对图片patch进行建模,学习出图片patch的distribution作为上面问题的正则项。

ted talk里面还将到他们用了多个数据集去学习,用日常图片,宇宙照片,望远镜数据。学习出来了很多个正则项,发现恢复出来的图片都是这样的图片。

===

更加深刻一点

其实这种做法和传统的sparse coding有很大的类似

G. Yu, G. Sapiro, and S. Mallat, Solving inverse problems with piecewise linear estimators:

From Gaussian mixture models to structured sparsity, IEEE Transactions on Image Processing,

21 (2012), pp. 2481–2499. https://ieeexplore.ieee.org/document/6104390/

好处可能是1.可以用到外部干净数据

2。非凸优化的局部最小值更少

Wipf David, Rao B D, Nagarajan S. Latent variable Bayesian models for promoting sparsity[J]. IEEE Transactions on Information Theory, 2011, 57(9): 6236-6255.

但是上面的分析都是单个gaussian的建模

据我所知用高斯混合模型来建模的理论分析到现在都很难。

=======

顺便 这个小姐姐的研究都很有意思

最有名的可能是这个根据墙后的照相机判断墙后有没有人

http://people.csail.mit.edu/klbouman/cornercameras.html

CVer学术交流群


扫码添加CVer助手,可申请加入CVer-目标检测交流群、图像分割、目标跟踪、人脸检测&识别、OCR、超分辨率、SLAM、医疗影像、Re-ID和GAN等群。一定要备注:研究方向+地点+学校/公司+昵称(如目标检测+上海+上交+卡卡)

▲长按加群


这么硬的开源分享,麻烦给我一个在在看


▲长按关注我们

麻烦给我一个在看

登录查看更多
0

相关内容

图像处理(image processing),用计算机对图像进行分析,以达到所需结果的技术。又称影像处理。图像处理一般指数字图像处理。数字图像是指用工业相机、摄像机、扫描仪等设备经过拍摄得到的一个大的二维数组,该数组的元素称为像素,其值称为灰度值。
Yoshua Bengio最新《深度学习》MLSS2020教程,附104页PPT及视频
专知会员服务
128+阅读 · 2020年7月10日
MIT公开课-Vivienne Sze教授《深度学习硬件加速器》,86页ppt
MIT-深度学习Deep Learning State of the Art in 2020,87页ppt
专知会员服务
61+阅读 · 2020年2月17日
【经典书】Python计算机视觉编程,中文版,363页pdf
专知会员服务
139+阅读 · 2020年2月16日
机器学习在材料科学中的应用综述,21页pdf
专知会员服务
48+阅读 · 2019年9月24日
图像/视频去噪算法资源集锦
专知
18+阅读 · 2019年12月14日
深度学习在图像处理的应用一览
极市平台
17+阅读 · 2019年11月21日
图像处理:从 bilateral filter 到 HDRnet
极市平台
30+阅读 · 2019年8月7日
传统图像算法+深度学习方法结合会有什么样的火花?
计算机视觉战队
4+阅读 · 2019年6月27日
分析 | 抖音背后的计算机视觉技术
计算机视觉life
9+阅读 · 2019年5月31日
CVPR 2019 | 神奇的超分辨率算法DPSR:应对图像模糊降质
计算机视觉life
16+阅读 · 2019年4月25日
实战 | 用Python做图像处理(三)
七月在线实验室
15+阅读 · 2018年5月29日
实战 | 用Python做图像处理(二)
七月在线实验室
17+阅读 · 2018年5月25日
SAR成像原理及图像鉴赏
无人机
21+阅读 · 2017年8月14日
图像识别 | 道路识别的自动驾驶算法基本原理
沈浩老师
6+阅读 · 2017年5月12日
Deep learning for cardiac image segmentation: A review
Arxiv
21+阅读 · 2019年11月9日
Few Shot Learning with Simplex
Arxiv
5+阅读 · 2018年7月27日
Arxiv
4+阅读 · 2018年6月1日
VIP会员
相关资讯
图像/视频去噪算法资源集锦
专知
18+阅读 · 2019年12月14日
深度学习在图像处理的应用一览
极市平台
17+阅读 · 2019年11月21日
图像处理:从 bilateral filter 到 HDRnet
极市平台
30+阅读 · 2019年8月7日
传统图像算法+深度学习方法结合会有什么样的火花?
计算机视觉战队
4+阅读 · 2019年6月27日
分析 | 抖音背后的计算机视觉技术
计算机视觉life
9+阅读 · 2019年5月31日
CVPR 2019 | 神奇的超分辨率算法DPSR:应对图像模糊降质
计算机视觉life
16+阅读 · 2019年4月25日
实战 | 用Python做图像处理(三)
七月在线实验室
15+阅读 · 2018年5月29日
实战 | 用Python做图像处理(二)
七月在线实验室
17+阅读 · 2018年5月25日
SAR成像原理及图像鉴赏
无人机
21+阅读 · 2017年8月14日
图像识别 | 道路识别的自动驾驶算法基本原理
沈浩老师
6+阅读 · 2017年5月12日
Top
微信扫码咨询专知VIP会员