为什么稀疏编码器自编码器很少见到多层的

首先要了解神经网络的有关知识可以参考前一篇博文:

下图是一个自编码神经网络的示意图:

目标是输入和输出保持一致,来训练神经网络用前一篇博客中的公式。丅面再总结一下:

能够得到各层的值和输出值

对于中间层,加一个抑制参数:

下面这个网址里有Sparse Autoencoder的练习题熟悉一下上面的公式:

我只貼一下练习中需要自己写的代码:

算出来的两个误差的值非常小:

程序运行完总共用时不到20分钟,下面是程序运行结果:

我要回帖

更多关于 稀疏自编码器 的文章

 

随机推荐