Neural networks are increasingly used to estimate parameters in quantitative MRI, in particular in magnetic resonance fingerprinting. Their advantages over the gold standard non-linear least square fitting are their superior speed and their immunity to the non-convexity of many fitting problems. We find, however, that in heterogeneous parameter spaces, i.e. in spaces in which the variance of the estimated parameters varies considerably, good performance is hard to achieve and requires arduous tweaking of the loss function, hyper parameters, and the distribution of the training data in parameter space. Here, we address these issues with a theoretically well-founded loss function: the Cram\'er-Rao bound (CRB) provides a theoretical lower bound for the variance of an unbiased estimator and we propose to normalize the squared error with respective CRB. With this normalization, we balance the contributions of hard-to-estimate and not-so-hard-to-estimate parameters and areas in parameter space, and avoid a dominance of the former in the overall training loss. Further, the CRB-based loss function equals one for a maximally-efficient unbiased estimator, which we consider the ideal estimator. Hence, the proposed CRB-based loss function provides an absolute evaluation metric. We compare a network trained with the CRB-based loss with a network trained with the commonly used means squared error loss and demonstrate the advantages of the former in numerical, phantom, and in vivo experiments.


翻译:神经网络越来越多地被用来估计定量磁共振成像仪的参数,特别是磁共振指纹。它们对金标准非线性最差的适配的优势在于其超速和豁免于许多不相容问题的不相容性。然而,我们发现,在不同的参数空间,即估计参数差异大不相同的空间,良好的性能很难实现,并且需要在参数空间内对损失功能、超强参数和培训数据的分布进行艰苦的调整。在这里,我们用理论上有充分依据的损失函数来处理这些问题:Cram\'er-Rao绑定(CRB)为公正的天平选者的差异提供了一个较低的理论约束,我们提议与各自的CRB平方错误正常化。随着这种正常化,我们平衡了难以估计和不难估计参数和参数空间内区域的贡献,避免了前者在总体培训损失中的主导地位。此外,基于Cram\'er-Rao绑定(Cram_er-Rao)的亏损功能在理论上比低偏差的理论约束,我们建议将先前的网络与经过培训的平局的平局的平局的平局性计算模型的计算结果,我们认为,我们认为,我们所使用的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局性平局的平局的平局的平局的平局的平局的平局的平局的计算功能提供了一种理想的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局性功能,我们认为,我们的理想的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局的平局

0
下载
关闭预览

相关内容

专知会员服务
50+阅读 · 2020年12月14日
【清华大学】图随机神经网络,Graph Random Neural Networks
专知会员服务
152+阅读 · 2020年5月26日
神经网络的拓扑结构,TOPOLOGY OF DEEP NEURAL NETWORKS
专知会员服务
30+阅读 · 2020年4月15日
Transferring Knowledge across Learning Processes
CreateAMind
26+阅读 · 2019年5月18日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
Disentangled的假设的探讨
CreateAMind
9+阅读 · 2018年12月10日
vae 相关论文 表示学习 2
CreateAMind
6+阅读 · 2018年9月9日
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
条件GAN重大改进!cGANs with Projection Discriminator
CreateAMind
8+阅读 · 2018年2月7日
计算机视觉近一年进展综述
机器学习研究会
8+阅读 · 2017年11月25日
【推荐】卷积神经网络类间不平衡问题系统研究
机器学习研究会
6+阅读 · 2017年10月18日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
强化学习 cartpole_a3c
CreateAMind
9+阅读 · 2017年7月21日
Arxiv
0+阅读 · 2021年11月14日
Arxiv
6+阅读 · 2018年11月29日
Arxiv
10+阅读 · 2018年3月23日
VIP会员
相关VIP内容
专知会员服务
50+阅读 · 2020年12月14日
【清华大学】图随机神经网络,Graph Random Neural Networks
专知会员服务
152+阅读 · 2020年5月26日
神经网络的拓扑结构,TOPOLOGY OF DEEP NEURAL NETWORKS
专知会员服务
30+阅读 · 2020年4月15日
相关资讯
Transferring Knowledge across Learning Processes
CreateAMind
26+阅读 · 2019年5月18日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
Disentangled的假设的探讨
CreateAMind
9+阅读 · 2018年12月10日
vae 相关论文 表示学习 2
CreateAMind
6+阅读 · 2018年9月9日
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
条件GAN重大改进!cGANs with Projection Discriminator
CreateAMind
8+阅读 · 2018年2月7日
计算机视觉近一年进展综述
机器学习研究会
8+阅读 · 2017年11月25日
【推荐】卷积神经网络类间不平衡问题系统研究
机器学习研究会
6+阅读 · 2017年10月18日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
强化学习 cartpole_a3c
CreateAMind
9+阅读 · 2017年7月21日
Top
微信扫码咨询专知VIP会员