高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • 2022杭州宋韵奇妙夜什么时候举行

    2022杭州宋韵奇妙夜什么时候举行?2022年6月15日-19日,每天15:00-21:00,杭州奇妙夜主会场活动将在西湖景区钱王祠-涌金公园-西湖博物馆总馆沿线举行,主办方特意挑选了杭州宋韵文化最浓厚、历史积淀最厚重的西湖作为主会场,让宋韵展示与天然环境相得益彰。活动包括主会场、分会场、奇妙夜嘉年华及宋“潮”奇妙云市集四大板块内容,将持续至今年11月。

  • 90后黑女老大事件(重庆最牛女黑老大)

    起初有很多妇女反抗,王家姐妹为了加强控制便想到了一个办法。他们会在隐蔽处装一个报警器,然后指定专人定期进行逃避警方检查的训练,只要报警器一响,所有人都要按照预定的方案逃跑,有时候,王紫绮会安排人穿上警服冒充警察,抓住几个服务妇女,如果在审讯过程中泄露了茶楼的秘密,或者是承认自己在服务,那么等待她们的就是被毒打的命运。

  • 涝秋葵的做法(怎么做水涝秋葵)

    接下来我们就一起去了解一下吧!涝秋葵的做法食材:秋葵适量,捞汁适量。秋葵洗净,去掉蒂。锅中烧开水,放入几滴食用油,这样焯出来的秋葵颜色很绿。水开放入秋葵,炒2分钟左右捞出,放入凉水中过凉。将秋葵沥干水分,切成小段。倒入适量捞汁,搅拌均匀就可以食用了。

  • 跳远有啥技巧没(跳远的技巧是什么)

    下面希望有你要的答案,我们一起来看看吧!跳远有啥技巧没助跑的速度不要太快,以有利于起跳。在空中眼要向远看,不要低头看地,大腿高抬,双臂前伸。落地是腿要伸开,脚要向前伸,双臂向后摆,维持身体的平衡。注意第一跳尽量不要犯规。准备活动先慢跑微出汗就可以;做压腿、压腰、转体、抻肩等活动,将相关的关节、韧带、肌肉都活动开。在跳远之前做几次原地的纵跳,提高一下兴奋。

  • 手机的使用技巧和注意事项(手机使用五大误区)

    有人对这些传言经过测试,发现都不属实。手机里藏有隐形电池如果手机电量不足,可以按“*3370#”,手机会重新启动,电量也会增加50%。但被证实输入*3370#键,手机无任何反应,然后点送发射键,手机显示“UsSd代码运行中”。没有SIM卡也能打电话由于不少手机都设有紧急呼叫功能,很多人认为,即使没有SIM卡、没有信号,用手机拨打全球共同的紧急救援号码112。在有信号无卡的情况下,在一些国家可以拨打,但在国内大多数情况下没有实际用处。

  • 狗狗生完宝宝要注意什么(狗狗生完宝宝要注意事项)

    接下来我们就一起去了解一下吧!在狗狗生产完毕后,可以给母狗吃一些罐头或者是葡萄糖,快速补充体力。在狗狗生完宝宝后也要注意母狗的恶露排出情况,如果恶露长时间未排出或持续排出的时间非常久,建议使用促进恶露排出的药物进行治疗。

  • 中华礼仪用语100条(最全中华礼仪用语)

    今天就让国学君带领大家走进礼仪的世界,感受中华礼仪用语的妙处。等待客人用恭候,迎接表歉用失迎。也可单独用“愚”谦称自己。家,古人称自己一方的亲属朋友常用谦词。贫,僧道、尼姑自谦之称:贫僧、贫道、贫尼。中华文化博大精深,分享出去,让更多的人熟悉礼仪用语吧。

  • 绿码是什么 绿码是什么样的图片

    黄码判定规则:入境人员集中隔离或居家隔离期满转居家健康监测的人员,防控区域涉及的重点人员中未做核酸检测的人员,外省健康码黄码人员等三种情形人员的粤康码判定为黄码。检测结果阴性即转为“绿码”。

  • 豆子炒肉的做法(豆子炒肉的做法介绍)

    我们一起去了解并探讨一下这个问题吧!豆子炒肉的做法食材:豆子1斤、肉1小块、姜蒜末1勺、盐适量、味精少量、醋1勺。将买回的豆子洗干净,沥干水分,将肉切好备用。锅内倒油,烧热后,倒入蒜末炒香。放肉炒到七成熟的样子盛盘备用。等汤汁收干后,加入一勺醋,适量盐和味精炒匀就可以起锅了。

  • 差速器都在哪起作用(你知道差速器是什么吗)

    由于非驱动轮左右两侧的轮子是相互独立的,互不干涉。但是差速器的锁死装置在分离和接合时会影响汽车行驶的稳定性。四轮驱动,顾名思义就是采用四个车轮作为驱动轮,简称四驱。如在公路上行驶,可切换至两驱模式,避免转向时车辆转向时发生干涉现象,减低油耗等。相对来说,适时四驱车的主动安全性不如全时驱动车高。因为是时时四驱,没有了两驱和四驱之间切换的响应时间,主动安全性更好,不过相对于适时四驱来说,油耗较高。