高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • 郁庭川宋倾城什么小说(郁庭川宋倾城小说的介绍)

    以下内容大家不妨参考一二希望能帮到您!郁庭川宋倾城什么小说宋倾城郁庭川是小说《商界大佬的甜妻日常》中的角色。《商界大佬的甜妻日常》作者是酒当家,文笔清新优美。《商界大佬的甜妻日常》是一篇豪门题材的言情小说。情节跌宕起伏、扣人心弦。小说是以刻画人物形象为中心,通过完整的故事情节和环境描写来反映社会生活的文学体裁。

  • 袖钩能钓多大鱼(下文介绍)

    接下来我们就一起去了解一下吧!袖钩能钓多大鱼1号袖钩。几两之内的鱼都能钩上,只要抬竿及时,并不是只能钩小小鱼。2号袖钩一般用作钓三两以下的鲫鱼.5号袖钩。1斤左右的都行,还要看鱼吃钩的位置,嘴上容易破,多放行会再拉,用网兜捞保险。

  • 毛衣缩水了怎么修复小妙招(毛衣缩水了怎么处理)

    熨烫法可以用蒸汽熨斗在距离毛衣1cm左右的高度进行熨烫;紧接着用吹风机将水分快速吹干,使毛衣定型,这样就可以避免毛衣缩水了。蒸煮法把毛衣折叠成一个正方形,放入一个棉布袋子里。再将棉布袋子放入锅中蒸15分钟左右!小贴士毛衣不适合机洗。晾衣服时最好平铺晾晒,不要悬挂晾干。@兰州驾驶人,今起可以申领电子驾驶证啦!来成县看看兰州:市民非必要不离兰,关闭所有旅游景区景点,地铁公交等限流

  • 女生最喜欢的男生十大职业(最受女生欢迎的十大男生职业)

    1、房地产老板2、公务员3、医生4、警察5、金融行业6、IT男7、律师8、教师9、摄影师10、厨师单身光棍们还不努力起来

  • 比恐龙厉害的动物(比恐龙更可怕9种动物)

    经过对恐象化石的研究,发现恐象高达4.5m,体重不会超过15吨,是一种比恐龙更可怕13种动物之一。No.3恐鳄恐鳄,生存与白垩纪晚期的北美洲区域,是历史上体型最大的鳄鱼之一。即使是恐龙中的顶级杀手霸王龙,恐怕也没有如此惊人的咬合力。这头海怪在1600万至200万年前称霸海洋。据了解,巨牙鲨的重量估计达至60吨。平均咬合力28吨,最大36吨。所以,剑齿虎在冰河时期可以说是霸王,勇猛无惧,基本没有天敌。

  • 运动员是如何做兴奋剂检查(兴奋剂是怎么提高运动员成绩的)

    国家游泳队女选手邱钰涵因氢氯噻嗪阳性遭到禁赛9个月的处罚。麻醉镇静类药物可导致服用者呼吸困难和药物依赖,常用可成瘾,因此引发严重的生理及社会问题。运动员在比赛前使用利尿剂既可快速减轻体重;在兴奋剂检查时尽快排尿可以降低尿液中其他兴奋剂的浓度。服用利尿剂易造成人体严重脱水,严重者可发生肾衰竭。

  • 鲁滨逊在小岛上的四个阶段(庄加逊为什么是马勒)

    2010至2011年,古典乐圈接连迎来马勒的一百五十周年生辰纪念及百年冥诞,一场马拉松式的马勒音乐庆典就此拉开帷幕。正是在这个节骨眼上,当今最受欢迎也最具争议的音乐评论家诺曼·莱布雷希特推出了《为什么是马勒》。纵使收获恶评无数,《为什么是马勒》依然在广大乐迷中享有好口碑,成为二十一世纪最畅销的音乐传记读本。马勒从无人问津到一跃成为最具影响力的作曲家正是源于六十年代声势浩大的马勒复兴。

  • 便携式音响突然没声音了怎么回事 便携式音响突然没声音了怎么回事啊

    箱故障最常见的就是喇叭问题,一套音响系统中最容易发生的故障其实就是烧坏喇叭,这个有人为因素,但大部分还是音箱本身质量问题。

  • 糖醋里脊零失败教程(糖醋里脊不要去饭店吃了)

    糖醋里脊是经典传统名菜之一,以猪肉里脊为主料,配以面粉,淀粉,醋等佐料,酸甜开胃,在浙菜,鲁菜,川菜,淮扬菜,粤菜里均有此菜。②碗中放面粉,玉米淀粉和水,比例是1∶1∶2,再加一小勺泡打粉搅拌均匀,搅拌好的面糊具有流动性。⑤三勺番茄酱,两勺白糖,一勺白醋,少许玉米淀粉和适量的水搅拌均匀调成糖醋汁。②炸好的里脊肉需要再复炸,复炸后的里脊肉更加酥脆不油腻。