机器学习入门之无监督学习(四)

引言 本文主要介绍深度自动编码器(Deep Auto encoder),做的事情还是降维,不过降维的时候是使用神经网络。 自动编码器 把很多隐藏层的神经网络当成编码器,输入一个图像后能得到一个编码。比如传入784维的手写数字,得到的编码通常会小于784维。 现在问题是我们如何得到这样一个编码器呢。要训练这个编码器我们需要同时训练一个解码器,能更加编码解码成原来的784维图像数据。 这件事情其实和PCA很像。 PCA做的事情是输入一个经过归一化的向量xxx然后乘上一个矩阵WWW得到一组编码ccc,再把这组编码ccc乘上同一组权重的转置WTW^TWT得到x^\hat{x}x^。 把这个结构看