高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • 滑铁卢什么意思(滑铁卢解释)

    滑铁卢战役是战争史上的著名战役,最终决定了拿破仑及其帝国的命运,对欧洲有着深远的影响。对拿破仑在滑铁卢战役的失败原因,历来众说纷纭。现在“滑铁卢”是形容在决定关头时失败,形容由鼎盛时期走向衰败的转折点,或者诱发导致衰败的关键性事件。滑铁卢镇距比利时首都布鲁塞尔以南大约二十公里。与欧洲其他国家的许许多多小镇一样,滑铁卢镇古朴而宁静,并无多少特色,但它的名字却是响彻世界。

  • oppo手机有快捷打开健康码吗(OPPO手机就能一秒打开健康码)

    相信不少小伙伴展示健康码的过程都是打开微信,点开后进入相关小程序,提示登录后,才能成功展示,总觉得好一番折腾。作为OPPO手机的用户,这里我就来谈谈在OPPO手机上如何快速展示您的健康码吧。

  • excel输入什么下拉是日期(6excel下拉菜单设置excel表格符号位置)

    第一步打开excel,选中列或需要设置的单元格,切换到数据选项栏,选择数据验证,单击数据验证。第三步输入完成后,点击确定,然后即可在设置好的单元格右边看到一个下拉菜单,就会出现刚才设置好的项目供给我们选择。第一步打开excel,选中单元格,按Ctrl;键,表格即可快速出现当天日期;第二步然后按ShiftCtrl;键,表格就快速出现当天的时间。

  • 江山如此多娇潘学斌扮演者(江山如此多娇简介)

    江山如此多娇潘学斌扮演者潘学斌的扮演者是房子斌。2015年,边城县石溪镇副镇长,会说苗语、土家话的优秀青年干部濮泉生的到来逐步改变了碗米溪村的状况。在党的领导下,濮泉生用好“精准扶贫”政策,从精准识别处理“优亲厚友”的村干部入手,一手抓“扶贫先扶志”,一手抓“输血变造血”,惩治懒汉的同时又激发碗米溪村群众“为尊严而战”的脱贫内生动力。

  • 饰品不亮了怎么清洗(清洗方法介绍)

    接下来我们就一起去了解一下吧!饰品不亮了怎么清洗饰品不亮了清洗方法如下。清洗步骤:①将金首饰直接放入倒有皂液的水中,浸泡10分钟。②用软毛牙刷轻轻刷洗。③取出,冲洗干净即可。③最后用湿软布擦拭即可。②再将玉石放入75℃的热水中,浸泡10分钟即可。

  • 释迦果怎么催熟 玫瑰释迦果怎么催熟

    因为释迦果自身是可以释放出乙烯的,用报纸包裹好可以减少乙烯的流失,以促进释迦果的成熟。摸手感没成熟的释迦果用手捏起来很坚硬,拿起来分量会比较重,如果释迦果捏起来果皮比较软,有手指按压有弹性,多表示已经成熟。释迦果没熟切开了怎么办操作步骤:1、将切开的释迦果合到一起。

  • 诗经(采薇原文(出自哪里)

    诗经采薇采薇,薇亦作止。曰归曰归,岁亦莫止。靡室靡家,玁狁之故。曰归曰归,心亦忧止。我戍未定,靡使归聘!王事靡盬,不遑启用。戎车既驾,四牡业业。君子所依,小人所腓。四牡翼翼,象弭鱼服。行道迟迟,载渴载饥。《采薇》是出自《诗经·小雅·鹿鸣之什》,为先秦时代的汉族诗歌。全诗六章,每章八句。是一首戎卒返乡诗。诗歌表现了将征之人的思家忍苦之情,并将这种感情放在对景物的描写及对军旅生活的述说中表现。

  • 三星手机最新款8月份上市入手体验(三星手机官网排行榜)

    《星星》的热播让众多都换上了NOTE3,但盖世5的来袭,想必又引起热潮。想做漂亮女人推荐请关注我三星手机官网排行榜盖世5与NOTE3位列第一二位自三星盖世系列的开始,让众多网友们都非常期待这一旗舰系列的降临。此外,机身厚度和重量均有所降低,背部材质也换成了仿皮,这样不害怕痕迹的入侵,减少了美观的损坏。不过重点在于USB3.0及指纹识别功能,支持IP67防尘防水,都是令人震惊。

  • 《黑暗之魂3》转送,洗点,法术等系统改动一览

    下面小编带来《黑暗之魂3》转送,洗点,法术等系统改动一览,一起来看看吧。宫崎希望在不影响游戏(地图)设计的限度下给玩家提供最大的便利。宫崎虽然不能保证“灵魂容器”这一洗点道具的回归,但可以确认玩家不用创建新角色就可以重新分配点数。宫崎认为玩家在挥击或者射箭时偶然触发了隐藏墙壁这种设定,可以让探索的过程充满各种小惊喜。更多相关资讯请关注:黑暗之魂3专题

  • 经典遗传学上的三大定律(登上NatureScienceAI)

    登上NatureScienceAIAI人脸识别技术已被广泛用于手机解锁、移动支付,甚至「看面相」近日,来自美国数字医疗公司FDNA的研究人员提出了一种深度学习应用Face2Gene,可以帮助医生识别罕见基因疾病他们的研究登上了医学期刊。