我理解正确的话，题主可能是想问未经过训练的神经网络。
其实只要神经网络的参数满足一定的概率分布，是可以近似重生核空间的特征映射的，因此可以达到很好的效果。安利一篇我们最新的研究 ： ）
Low-rank Random Tensor for Bilinear Pooling
