高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • uu加速器会员活动(UU加速器携手Bungie送福利)

    注意事项守护者们需要注意的是,活动二礼包奖品不限量,活动有效期内所有玩家均可领取。不过每个Bungie账户、UU帐户和微信帐户,仅可领取一次《命运2》异域礼包。此次UU加速器联合Bungie的礼包限时领取活动,奖品丰厚,参加简单。

  • 角角鱼怎么做好吃(红烧黄辣丁鱼的做法视频)

    1、食材:角角鱼5条、嫩豆腐2块、盐适量、油适量、料酒适量、姜3片、葱适量。2、将角角鱼去除内脏,洗净沥干水待用。3、嫩豆腐切成小块待用。4、起油锅,倒入菜籽油,放入姜片煸香,再把角角鱼放入锅里,煎至金黄色。5、待角角两

  • 路由器网络连接类型如何选择?(路由器联网类型怎么选)

    这种情况下就应该选择动态IP。所以,最好还是手动选择上网方式,以免此种方式导致信号不稳引起不便。

  • 暗黑2白装打孔公式(白色武器打孔公式)

    统治者大盾白色/灰色品质装备公式打孔对底材有一定要求,必须为非超强,有形或无形都可以。不同部位使用特定的符文和宝石可为其打孔,不过孔数随机1到最大孔,打出孔之后也无法再次打孔!由于重制版已修复老版本的无形防具BUG打孔,那么只需要了解对应公式即可。亮金头环3.其余品质装备任务打孔为1孔,例如2孔的亮金品质装备只能装备天生自带。那么你的第一件精神盾底材是怎么获得的?

  • 夏天开空调房间放一盆水有用吗 夏天在空调房里放一盆水有用吗

    夏季房间内开空调制冷时,室内空气中的水蒸气在换热器表面会逐渐遇冷凝结成水,顺着冷凝水排水管排出到室外,导致房间湿度下降、空气干燥。此外,多吃水分多、润肺滋润的食物也是十分能缓解口干不适状态的,常见的银耳、百合、雪梨、枇杷等食物是有一定改善作用的。

  • 动物耳朵的特点和作用(各种动物耳朵的特点和作用)

    动物耳朵的特点和作用兔子耳朵的特点和作用:兔子耳朵的作用主要就是用来调节体温以及增强自己的听力范围。长长的耳朵可以帮助他们听到更远处的声音,从而可以很好的躲避天敌,保护自己。当炎热的天气时,长长的耳朵也会散发更多的热量以防中暑。羊耳朵的特点和作用:羊耳朵尖而长,形状类似于椭圆形。使羊具有听力,在觅食和躲避敌人等方面具有极其重要的作用。

  • 夏秋季适合喝什么茶(夏秋季适合喝的茶有哪些)

    夏秋季适合喝什么茶乌龙茶乌龙茶茶性平和,不热不寒,最适宜秋季。尤其是老白茶,它茶性比新茶相对温和,茶气足,可以帮助身体以排汗的`方式将湿气排出体外,因此饮老白茶时,一定要是热饮。老白茶茶汤的水分在体内运化,可以帮助身体带走夏季积聚体内的阳火,性质温和的老白茶,刚好适合夏秋换季饮用。黑茶黑茶可以降血脂、降血糖,而且还可以降血压。平时常喝黑茶能够杀菌消炎,治疗肠胃疾病,同时黑茶还能延缓衰老。

  • 齐市最好小学的排名(你的小学上榜了吗)

    以下内容希望对你有帮助!齐市最好小学的排名龙沙小学。学校位于齐齐哈尔市龙沙区,分为北区、南区、南苑区,三个校区。

  • 拐怎么读(拐生字读音是啥)

    接下来我们就一起去研究一下吧!自力分开之口是另之范式。手、另两范式叠加。

  • 目前肠镜需要全麻吗(做肠镜需要多少时间)

    肠镜是属于现在比较常见的一种医疗检查,做肠镜的人数多的数不胜数,但是也有的人平时没有接触过肠镜,所以并不是非常的了解。做肠镜一般来说是选择全部麻醉,但是也有的人由于神经相对脆弱,此时选择部分麻醉其实也是可以的。而且这项手术需要花费的时间也相对较短,所以自己完全不用担心其他的任何事项。但肠镜这项检查也并不是适合每一个人的,应该要根据医生的要求来进行检查,只有遵照医嘱才是最合适的选择。