(资料图)
1、 无监督预训练是用来训练的数据不包含输出目标，需要学习算法自动学习到一些有价值的信息。
2、 无监督学习在深度神经网络的复兴上起到了关键的、历史性的作用，它使研究者首次可以训练不含诸如卷积或者循环这类特殊结构的深度监督网络。我们将这一过程称为无监督预训练，或者更精确地，贪心逐层无监督预训练。此过程是一个任务（无监督学习，尝试获取输入分布的形状）的表示如何有助于另一个任务（具有相同输入域的监督学习）的典型示例。
关键词：
(资料图)
