高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • 怎样合理安排打坐和站桩的时间(怎样合理安排打坐和站桩的时间)

    怎样合理安排打坐和站桩的时间最近,有不少粉丝,和爱好养生的朋友们。根据粉丝和朋友们的提问,我就以我的经验和大家分享一下这个问题。站桩是,通过特殊的姿势和要求,也就是按要求地桩架先做到位,因为桩架和姿势正确与否,会直接影响功力的进步和效果。与站桩不同的是,打坐必须要求入静、和守意念,这就对环境的要求更高一些,因为打坐是通过意守单田,培养真元之气。以上是简单,明了地说明了、站桩、和打坐、的基本区别。

  • 炖燕窝的正确做法(教你炖燕窝的正确做法)

    首先是把干的燕窝要用纯净水或者凉白开进行泡发泡发时间通常冬季要长一些,5~6个小时,夏季3~4个小时,我来为大家科普一下关于炖燕窝的正确做法?炖燕窝的正确做法首先是把干的燕窝要用纯净水或者凉白开进行泡发。泡发好的燕窝,非常容易就可以顺着它的纹理把它撕成条状。真正的好燕窝应该是呈透明状的,用滤网把燕窝滤水。蒸好的燕窝可以加少许的冰糖,桂花食用,也可以配合牛奶,或者果干红枣食用。

  • 嘴唇痒痒的还肿了怎么回事 嘴唇痒然后肿了

    口唇是人体皮肤和粘膜的交界部位,地方虽然不大,可发生的疾病缺不简单。唇炎是最为常见的口唇疾病,是一种以口唇干燥、皲裂、脱皮、红肿、瘙痒等症状表现的黏膜病。初起局部皮肤发痒、灼热或刺痛,进而充血、红晕,后出现针头或米粒大小簇集水疱群,短期内水泡自行溃破后可干燥结痂,脱痂时口唇周围还可出现脱屑症状。要避免可能引起过敏反应的各种因素。多吃新鲜蔬菜水果和富含蛋白质的食物。

  • 形容舞蹈美的四字词语有哪些(形容舞蹈美的四字词语总结)

    跟着小编一起来看一看吧!形容舞蹈美的四字词语有哪些翩翩起舞形容轻快地跳起舞来。两手舞动,两只脚也跳了起来。形容高兴到了极点。也手乱舞、脚乱跳的狂态。妙舞清歌美妙的舞蹈,清越的歌声。载歌载舞边唱歌,边跳舞。舞姿优美形容跳舞的姿势十分优美。婀娜多姿形容姿态柔和而美好。轻盈优美形容人或物动作、姿态轻柔优美漂亮。

  • 裸子植物有是什么(裸子植物介绍)

    裸子植物有是什么裸子植物是指其种子会裸露在外面的一种植物,那裸子植物有哪些呢,一般来说裸子植物可以分为苏铁纲、红豆杉纲、银杏纲、买麻藤纲和松柏纲这五大种,但常见的则主要是银杏、松树、柏树等植株。银杏、松树和柏树作为裸子植物,除了其种子裸露以外,还都具有很好的观赏价值,十分的漂亮好看。此外它们还都能够结果,其果实中含有丰富的营养元素,食用后有益于健康。

  • 笔记本开机是黑屏怎么办(笔记本开机是黑屏处理方法)

    下面更多详细答案一起来看看吧!笔记本开机是黑屏怎么办笔记本开机是黑屏处理方法如下。电脑黑屏可能是电脑处于休眠状态,点击任意键即可。在空白处点击右键,点击个性化,点击屏幕保护程序设置,更改计算机睡眠时间修改睡眠时间,点击保存修改。CTRL+SHIFT+ESC,打开任务管理器,打开上方文件,点击运行,回到我的电脑。

  • 糯米纸怎么做(如何制作糯米纸)

    以下内容大家不妨参考一二希望能帮到您!糯米纸怎么做用番薯、玉米或小麦粉等淀粉调成稀浆,然后滤去杂质,用热水冲调成淀粉糊,再将淀粉糊均匀地喷涂在干燥机上,经过烘烤后就制得一张张薄而透明的糯米纸了。透明,无味,厚度0.02~0.025mm,入口即化。由淀粉、明胶和少量卵磷脂混合,流延成膜,烘干而成。主要用于糖果、糕点或药品等的内层包装,以防其与外包装纸相粘,也可防潮。

  • 破局片段剪辑(突围在尬聊的路上一去不回头)

    破局片段剪辑由闫妮、靳东、陈晓、秦岚主演的电视剧《突围》一播出就立刻引起网友关注,剧情、演员、演技都成了人们讨论的热点。这部剧汇集了国内许多知名演员,演技方面自然不用多说。饭后,齐本安和石红杏同坐一辆车回家。车里,齐本安还和媳妇范家慧通过电话开起了玩笑。据了解这部剧总共拍了62集,后来因为各种原因删减了17集,变成45集。按照现在剧情的拖沓程度来看,45集都显得多,前七集完全就可以再浓缩成一到两集。

  • 哪个牌子的家用发电机比较好(发电机哪个牌子质量好)

    哪个牌子的家用发电机比较好?下面希望有你要的答案,我们一起来看看吧!发动机在整个发电机组中价值最大,通俗来讲,就是最值钱的一部分。发电机常用的有汽油发电机组、柴油发电机组、风力发电机组。我们以汽油发电机组为例,汽油发电机组一般由汽油发动机、交流同步发电机(发电机)。这些部件只是结合功率等配套而成,所以都是不同的品牌,至于汽油国内较为知名的就有一流雅马哈、本田、国产的友华、嘉陵等

  • 淋雨后怎样去湿气(淋雨后去湿气的方法)

    淋雨后很容易沾上湿气,如果想要排出体内湿气的话,可以适当的进行运动锻炼,锻炼能够加快机体代谢,促进体内垃圾毒素的排出,能够帮助排汗从而达到祛湿的目的。淋雨后体表的温度会有所降低,此时的机体很容易受寒湿侵袭,所以建议此时可以喝一点热水,这样能够帮助排出体内的湿寒之气。另外淋雨后很容易受凉,还可以使得喝一点姜茶来驱逐体内寒气。另外最好可以洗一个热水澡,这样还能够帮助洗去淋雨时多沾到的细菌灰尘。