我正在阅读有关深度学习的论文。其中大多数指的是无监督学习。
他们还说神经元是使用无监督 RBM 网络进行预训练的。随后使用反向传播算法(监督)对它们进行微调。
那么我们可以使用深度学习来解决监督学习问题吗？
我正在尝试了解深度学习是否可以应用于文档分类问题。 我知道有相当好的分类器可用。但我的目标是弄清楚我们是否可以使用深度学习来实现此目的。
最佳答案
简而言之 - 是的，它可以，并且经常以监督方式使用。正如 Ben J 所描述的那样 - 架构的“深度”以无监督的方式使用，以便创建数据的非常抽象的表示，稍后可以将其用作预处理层(无需微调)或用作初始化对于神经网络(带有微调，类似 Hinton)。特别是，您可以对文本使用这种方法。
Hinton 最近发表了一篇关于使用 DBM 对文本文档进行建模的有趣论文:http://www.cs.toronto.edu/~rsalakhu/papers/uai13.pdf
网上有很多资源，特别是pylearn库实现了此类方法，包括“经典”DBN(深度信念网络)http://deeplearning.net/tutorial/DBN.html
此外，也可以仅使用堆叠的 RBM 进行实际分类，该模型称为“分类 RBM”。更多详细信息可以在这里获取:http://machinelearning.org/archive/icml2008/papers/601.pdf
关于machine-learning - 使用深度学习技术的监督学习(文档分类)，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/19646123/