【CVPR2022】提示分布学习

我们提出了提示分布学习，以有效地适应一个预训练的视觉语言模型，以解决下游的识别任务。我们的方法不仅从一些样本中学习低偏差提示，而且还捕获不同提示的分布，以处理不同的视觉表示。这样，我们提供了高质量的任务相关内容，便于识别。这种快速分布学习是通过一种学习提示的输出嵌入而不是输入嵌入的有效方法实现的。因此，我们可以使用高斯分布来有效地建模，并导出有效训练的替代损失。在12个数据集上的大量实验表明，我们的方法始终和显著地优于现有的方法。例如，与人工制作的提示相比，每个类别有一个样本，它的平均结果相对提高了9.1%。

https://www.zhuanzhi.ai/paper/0c6359fedd7bfc3067c0c0ddaf8a29f4