有没有知道卷积公式和深度卷积公式的啊

 反向传输过程是CNN最复杂的地方雖然从宏观上来看基本思想跟BP一样,都是通过最小化残差来调整权重和偏置但CNN的网络结构并不像BP那样单一,对不同的结构处理方式不一樣而且因为权重共享,使得计算残差变得很困难很多论文[1][5]和文章[4]都进行了详细的讲述,但我发现还是有一些细节没有讲明白特别是采样层的残差计算,我会在这里详细讲述

  和BP一样,CNN的输出层的残差与中间层的残差计算方式不同输出层的残差是输出值与类标值嘚误差值,而中间各层的残差来源于下一层的残差的加权和输出层的残差计算如下:

  这个公式不做解释,可以查看公式来源看斯坦福的深度学习教程的解释。

  下一层为采样层(subsampling)的卷积公式层的残差

  当一个卷积公式层L的下一层(L+1)为采样层并假设我们已经计算得到了采样层的残差,现在计算该卷积公式层的残差从最上面的网络结构图我们知道,采样层(L+1)的map大小是卷积公式层L的1/(scale*scale)ToolBox里面,scale取2但这两层的map个数是一样的,卷积公式层L的某个map中的4个单元与L+1层对应map的一个单元关联可以对采样层的残差与一个scale*scale的全1矩阵进行进行擴充,使得采样层的残差的维度与上一层的输出map的维度一致Toolbox的代码如下,其中d表示残差a表示输出值:

本店资源来源于互联网版权为原作者所有,请下载试用者二十四小时后删除. 试用后请购买正版的资源若侵犯到您的版权, 请提出指正, 我们将立即删除。谢谢!!

专业文档是百度文库认证用户/机構上传的专业性文档文库VIP用户或购买专业文档下载特权礼包的其他会员用户可用专业文档下载特权免费下载专业文档。只要带有以下“專业文档”标识的文档便是该类文档

VIP免费文档是特定的一类共享文档,会员用户可以免费随意获取非会员用户需要消耗下载券/积分获取。只要带有以下“VIP免费文档”标识的文档便是该类文档

VIP专享8折文档是特定的一类付费文档,会员用户可以通过设定价的8折获取非会員用户需要原价获取。只要带有以下“VIP专享8折优惠”标识的文档便是该类文档

付费文档是百度文库认证用户/机构上传的专业性文档,需偠文库用户支付人民币获取具体价格由上传人自由设定。只要带有以下“付费文档”标识的文档便是该类文档

共享文档是百度文库用戶免费上传的可与其他用户免费共享的文档,具体共享方式由上传人自由设定只要带有以下“共享文档”标识的文档便是该类文档。

我要回帖

更多关于 卷积 的文章

 

随机推荐