高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • 比较新潮的男孩名字(比较新潮的男孩名字有什么)

    瑜姿、秉昱、皓才林熹、洪力、杰耿,我来为大家讲解一下关于比较新潮的男孩名字?跟着小编一起来看一看吧!比较新潮的男孩名字瑜姿、秉昱、皓才林熹、洪力、杰耿富行、金凡、沂浩祺君、钦炜、鼎宸芮其、悦昀、济天之奇、思汉、雨珅培海、东契、百祖烁皓、申华、家度长龙、志达、东力米博、纹华、博宇穆宁、亦毅、丰宇山帅、继安、俊仪诺成、宗雨、欣华昕云、雨清、璇旋绍征、新凯、肖淋

  • me胶原蛋白(ME胶原蛋白科普13种不同的色斑)

    有些不良的厂商会将汞加在美白霜里面,短时间漂白效果会很明显,然而若长期使用,汞元素会沉淀在皮肤里,会反黑而且更黑,也就是俗称的「汞斑」。

  • 泡酸辣怎么做好吃(做泡酸辣萝卜的方法)

    把萝卜削去须根洗净,切成长条,将辣椒去蒂籽洗净切成丝;,今天小编就来聊一聊关于泡酸辣怎么做好吃?接下来我们就一起去研究一下吧!泡酸辣怎么做好吃把萝卜削去须根洗净,切成长条,将辣椒去蒂籽洗净切成丝;把缸用净干布擦净,将萝卜条、辣椒丝拌匀,放入缸内,加入对好的盐水,比例为清水加(50克)盐;盐水加过萝卜条再撒一花椒粒,加醋;将缸放在温暖处,约10天左右即可。

  • 2022年13升燃气热水器选购(13升强排式燃气热水器如何选)

    2022年13升燃气热水器选购立冬过后,全国各地的气温普遍进入寒冷模式,因此选购一台燃气热水器也是很好家庭的当务之急。双11促销期,重点品牌零冷水均价持续下行,16L产品低到2000元以下,同系列13L产品价格下调200元。其中零售量最高的单品是美的的JSQ25-G2型号,零售均价1058元,销量占比1.7%。5000元价格段:零售量排行榜第一位:AO史密斯JSQ26-VJSX型号,零售均价6363元。

  • 幸存者危城礼包激活码大全(Unkilled疯狂屠戮僵尸末日)

    但今天小编为大家推荐的这款游戏不可不玩,他就是近日全球同步上线的《Unkilled》。准星对准目标自动射击。游戏中可以通过内购以及游戏中的货币来购买新的武器。武器除了一般的枪械外还有斧头等近战道具。

  • 白酒放了20年还能喝吗?(可以喝保存20年的白酒吗)

    以下内容希望对你有帮助!因为白酒属于极端辛辣性的饮品,所以根本不存在任何细菌或者霉变的状态,并且,因为白酒没有保质期,所以白酒放了20年也还是可以喝。对于白酒的存放环境应该十分注意,正常情况下应该一直保存在阴凉干燥通风的地方。

  • 我吃西红柿书籍排行榜(我吃西红柿2本10年前旧作再登榜单)

    《吞噬星空》《星辰变》写出了宇宙的奇妙和浩瀚,也让番茄的人生发生了翻天覆地的变化。虽然这本小说是番茄笔下仅有的武侠,也并没有在细节上彰显卓越。当然了,《吞噬星空》才是番茄人生辉煌再度翻番的代表。相对番茄的旧作,他的新书《宇宙职业选手》却有点反应平平了。应该说,番茄的这本新书更能让他的体系设定优势发挥出来,也可以借助竞技活动将爽文的观感发酵到更高。从这一点来说,这本新书也算是番茄的精心之作了。

  • 人生朋友哲理句子(经典哲理语录集锦)

    交友对年轻人来说,朋友是提醒他们不犯错误的谋士;对老年人来说,朋友是补充他们衰竭的体力、照顾他们生活困难的助手;对成年人来说,朋友是辅佐他们完成宏伟事业的臂膀。——西塞罗在不幸中,有用的朋友更为必要;在幸运中,高尚的朋友更为必要。——亚里士多德夏日里燕子随处可见,可一到寒冬,它们便远远离去。……——卡耐基选择朋友应当像选择阅读的书籍一样,一要谨慎,二要控制数量。

  • 小根菜怎么做好吃(小根菜如何做好吃)

    摊黄菜:小根菜切段、打蛋4个、加食用盐适量,搅拌均匀,锅中加食用油适量,食用油热后,将蛋液倒入锅中,不要搅动,一面煎好,翻面,煎另一面,待两面呈金黄色,取出装盘,美味可口的摊黄菜就完成了。

  • 亡羊补牢歇后语(大家一起来看看吧)

    下面更多详细答案一起来看看吧!亡羊补牢歇后语亡羊补牢歇后语:亡羊补牢——为期不晚。比喻出了问题以后想办法补救,可以防止继续受损失,因此民间结合亡羊补牢的词意,发明了“亡羊补牢-为期不晚”这样的歇后语。