高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • 太阁立志传5DX32处名胜位置 太阁立志传5山城

    很多玩家还不清楚32处名胜具体的位置,下面一起来看一下太阁立志传5DX32处名胜位置,希望可以帮助各位玩家。

  • 联想摩托罗拉最新消息(联想终结摩托罗拉品牌)

    2015年,联想通过资产重组和品牌整合,重新确立了摩托罗拉手机定位全球高端产品线的地位。而本次联想表示将逐步放弃“摩托罗拉”这一品牌名称,定然也会让很多老牌粉丝感到失望。这样做的目的是希望摩托罗拉更好的联想企业品牌形成融合,形成统一的品牌形象。

  • 如何挑选莲藕简单(如何简单挑选莲藕)

    如何挑选莲藕简单首先看莲藕节的粗细和长短,藕节粗且短的是比较老的,吃起来很粉,适合煲汤。而藕节细长的比较嫩,是脆的,更适合炒。再看莲藕的外形,挑选时要选饱满的,千万别选凹凸不平的。因为没有泥的不耐存放。选购时,认真看看,莲藕是否有伤,有伤的莲藕孔会沾上泥巴,不易清洗。最后看看莲藕的颜色,莲藕的外皮要光滑且呈黄褐色的,因为过白的,可能是经柠檬酸浸泡了的,而发黑或者有异味的,更不应该购买。

  • 电子烟可以戒烟吗 电子烟可以戒烟吗答案

    产生危害物质电子烟在吸食的时候会有一个极其短暂的高温加热过程,在这个过程中丙二醇会产生一种较丙烯醇的物质,这种物质是一种剧毒物质,吸食后会损伤呼吸道,出现咽喉炎、支气管炎、肺气肿、休克等病症。电子烟中含有尼古丁的含量为10%,产家是为了给用户吸食时有吸烟的快感和满足烟瘾才添加的,吸食电子烟吸入的尼古丁含量是大幅度降低了,有一定的戒烟效果。能帮助度过烟瘾。

  • 雨伞防水性变差(卖价上万的雨伞居然不防水)

    也就是说如果要防水的话要花费3千元的价格不过从2017年到2022年关于奢侈品的销售额即使是在疫情期间也是呈现上升的趋势,因为疫情很多实体店虽然关闭了,但是要客研究院预测2022年奢侈品牌线上销售额将突破2200亿人民币,销售渠道占比将超过30%,贡献超过一半的市场增长并且有望在未来几年撑起奢侈品零售的半壁江山,彻底改变奢侈品牌零售以线下为主的局面。

  • 王者荣耀里面的芳华币有什么用(芳华币商店开启)

    需要注意的是个人提交礼盒还能得到芳华币,例如小编提交了100个礼盒拿到了100芳华币,二者是1:1关系,提交越多得到越多芳华币,除了个人提交领取外,全服占领地块后,玩家还可领取额外的芳华币!另外兑换商店还有日常兑换奖励,包含了积分夺宝券、机关派对回城宝箱、荣誉之战击败宝箱等奖励,不过相信大家不会将芳华币浪费在这些局内表现上。

  • 人参果发黑可以吃吗 人参果发黑可以吃吗怎么吃

    人参果性温、味甘,含有维生素、蛋白质、粗纤维及钙、铁、锌、硒等矿物元素,有较高的营养价值。如果不适症状持续加重,建议立即就医检查,以免耽误病情治疗。人参果含有多种营养物质,富含蛋白质、维生素、矿物质等,是营养丰富、全面的一种水果,其味道清爽多汁,深受大家喜爱,但也不能过量食用,若吃多了可能会导致消化不良、肠胃不适等,一般来说,一天吃1~2个即可。

  • 投名状的经典故事(历史上真实的投名状)

    指的是张文祥刺杀两江总督马新贻的事件。时任两江总督的马新贻,结束了当日的军事检阅,打道回府。马新贻当场倒地,第二天一命呜呼。堂堂的封疆大吏遇刺身亡,震动朝野。凶手供出了三点作案动机。其一,妻子和财产被人霸占,找到马新贻喊冤,但马新贻没受理。马新贻劝说张文祥投靠朝廷。因看上曹二虎美貌的妻子,设计将曹二虎杀死。最终轰动一时的刺马案随着主犯张文祥被凌迟而草草了案。

  • 苏联时期乌克兰属于俄罗斯吗(苏联15个加盟共和国)

    1991年12月25日,苏总统戈尔巴乔夫宣布辞职,苏联最高苏维埃于次日通过决议宣布苏联停止存在,叶利钦领导的俄罗斯联邦继承苏联主要的综合国力和国际地位,苏联解体,苏共被迫解散,国际共产主义运动遭受重大挫折。1999年12月31日晚,叶利钦突然宣布辞职,普京根据俄罗斯宪法规定出任代理总统。

  • 电饼铛如何做塌煎饼(怎样用电饼铛塌煎饼)

    跟着小编一起来看一看吧!电饼铛如何做塌煎饼土豆洗净切丝,菠菜焯水切段,绿豆芽洗净控水备用。将上述菜放锅中炒熟。加入适量孜然和花椒粉调拌均匀。电饼铛预热后刷入适量花生油,打入鸡蛋摊匀。将煎饼铺在鸡蛋液上面按匀等十几秒钟。从一边卷起,煎饼两面刷上点油再煎一会,煎的两面上黄色即可出锅食用。