高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • 盆腔积液理疗能治好吗(理疗治疗盆腔积液有效果吗)

    生理性的盆腔积液多数无症状,可自然消失,不必进行治疗。盆腔积液日常护理注意事项1、卫生注意女性在经期、产后等应特别注意个人卫生,预防感染。

  • 怎样才能写好读后感(写好读后感方法简述)

    下面希望有你要的答案,我们一起来看看吧!读后感通常有三种写法:一种是缩写内容提纲,一种是写阅读后的体会感想,一种是摘录好的句子和段落,读后感的基本格式。题目可以用《×××读后感》,也可以用《读×××有感》。要选择自己感受最深的东西去写,这是写好读后感的关键。要密切联系实际,这是读后感的重要内容。要处理好“读”与“感”的关系,做到议论,叙述,抒情三结合。

  • 怎样对付孩子不愿上学(对付孩子不愿上学的方法)

    怎样对付孩子不愿上学其实小孩不爱上学又称为学校恐怖症,主要是因为存在适应困难和恐惧情绪所导致,而适应困难多数是孩子与父母有依恋障碍,当入校后因为与父母的分离而产生过度的焦虑,从而产生排斥上学的现象。孩子讨厌学习,是有原因的,孩子喜爱学习,也是有原因的。

  • 稳住别浪歌曲原唱(最后一段歌词是什么)

    下面内容希望能帮助到你,我们来一起看看吧!稳住别浪歌曲原唱《稳住别浪》是由Angelababy、陈赫、林志玲、贾玲演合唱的一首歌曲。稳住别浪,你说稳住别浪,稳住别浪,我说稳住别浪,稳住别浪,心情起伏跌宕,稳住别浪,还是肆意去浪吧,然后就开始撤退,看队友塔下跪,永远走不出去,这黄金的段位。

  • 天猫延迟发货是自动赔付的吗(天猫物流新规明日实施)

    据天猫官网消息,为持续提升消费者在天猫购物的物流全链路体验,鼓励商家在支付后24小时内上传物流单号,如果48小时仍未发货,消费者可自动获赔付红包。新规将于8月25日起实施,部分条款9月生效。通知显示,遇到延迟发货消费者无需主动投诉,由系统自动判定。值得一提的是,从9月17日开始,天猫的赔付红包面额,将从商品实际成交金额的“30%”调整为“5%”,单笔金额最低5元,最高不超过50元。更多内容请下载21财经APP责编:李悟

  • 新颖的名字(新颖的名字精选)

    诗灵、亦卉、雪冬、天绿曼绿、寄云、丹冬、从云,今天小编就来聊一聊关于新颖的名字?接下来我们就一起去研究一下吧!新颖的名字诗灵、亦卉、雪冬、天绿曼绿、寄云、丹冬、从云笑玉、怜海、曼玉、静丝静南、雪云、易卉、静蝶靖阳、映巧、觅灵、恨筠春山、寻波、从丝、尔芙千容、梦芹、晓菱、雁梅尔凡、思丹、元之、之烟晓露、雨丹、又蓉、曼雁晓萱、幼烟、芷巧、觅绿巧容、夏风、香容、忆桃

  • 什么是油电混动和插电混动(汽车的油电混动和插电混动有何区别)

    现在混动车型越来越多,但这其中还有油电混动和插电混动之分,那么,这二者到底有何区别呢?最关键的一点,油电混动车型不需要解决充电问题,毕竟国内的充电桩还远远没有普及。而且在高速行驶时不存在无法行驶的情况,毕竟不是纯电动车型,所以不用担心中途充电的问题,直接加油就好。不过,油电混动的车型目前在市场上越来越少了,很多车企也不再研发了。

  • 纹理烫要怎么做(纹理烫的做法)

    纹理烫要怎么做就是让发束呈现自然圆弧状的烫发技术,就象用滚梳吹的效果。要想使烫后的头发有如用滚梳吹出来简洁的圆弧状时,必须离开发根7-8公分的位置开始涂抹药水,再将发片至少垂直头皮的角度拉取,卷到发根为止相反,要想表现出膨胀感时,或年龄较大的顾客希望头顶部位烫出膨胀感时,将在离发根2-3公分的位置涂抹药水,再将发片至少垂直头皮的角度提拉,卷到发根为止。

  • 春季上火吃什么蔬菜好(春季上火吃什么菜)

    春季上火吃西兰花西兰花营养丰富且全面,主要包括蛋白质、碳水化合物、脂肪、矿物质、维生素C和胡萝卜素等。维生素C能够促进消化吸收,改善脂肪和类脂特别是胆固醇的代谢,降低血脂。而且同样富含胡萝卜素,辛味成分能刺激血液循环,加速新陈代谢。能快速清除毒素,避免体内毒素的堆积。丰富的维生素C,能增强免疫力,并预防心血管疾病,加上特殊的生理活性蛋白质,能帮助皮肤新生和伤口愈合,具有护肤美容的效果呢!

  • 孩子在家的表现怎么写(记住不再担心不会写)

    生活方面,能够孝敬父母,不与父母顶嘴吵架。尊老爱幼,有良好的品德,非常有爱心。自立的能力较强,基本上能自己照顾自己的生活,吃苦耐劳,可以做力所能及的家务。虽然处于叛逆期,但还是能够理解父母的良苦用心,关心父母。德育方面,身体素质较好,能够参加各项体育锻炼,积极参加集体活动。待人很有礼貌,遵守社会公共秩序,注意环保。总体来说,孩子的行为习惯还是比较优秀的。