首先要了解神经网络的有关知识可以参考前一篇博文:
下图是一个自编码神经网络的示意图:
目标是输入和输出保持一致,来训练神经网络用前一篇博客中的公式。丅面再总结一下:
能够得到各层的值和输出值
对于中间层,加一个抑制参数:
下面这个网址里有Sparse Autoencoder的练习题熟悉一下上面的公式:
我只貼一下练习中需要自己写的代码:
算出来的两个误差的值非常小:
程序运行完总共用时不到20分钟,下面是程序运行结果: