高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • 家常菜剧情(家常菜主要演员)

    虽然遭到了刘洪昌的母亲和哥哥百般阻拦,但刘洪昌仍然和文惠结婚了。而文惠的弟弟文涛和妹妹文远对这个姐夫也充满敌意。文惠第二次怀孕之后,家里陡生灾变。十七岁的文远因为和刘洪昌赌气离家,被其街面上的小混混大黄猫糟蹋了。为了给姐姐复仇,十六岁的文涛刺杀了大黄猫。文惠受到这个强烈的刺激出血死在了医院。多年过去,文达考上了大学;而于秋花却在一次意外的车祸中丧生。

  • 电脑太卡怎么办最有效(电脑卡怎么办)

    接下来我们就一起去了解一下吧!电脑太卡怎么办最有效鼠标双击此电脑,进入页面,右键单击任意磁盘,选择属性,弹出窗口。选择磁盘清理,稍等一会,弹出新窗口,勾选想要删除的选项,确定,删除文件就可以了。打开浏览器,单击右上角的三横图标,选择工具,点击Internet选项,弹出窗口。在常规选项栏中,点击删除,勾选需要删除的选项,选择删除即可。打开电脑管家,切换到垃圾清理选项,单击扫描垃圾,待扫描完成后,点击立即清理即可。

  • 扬州普通高中学业水平合格性考试试卷结构

    非选择题包括语法填空、写作,共11题,共计30分。日语、俄语、德语、法语、西班牙语等5个语种均采用闭卷、笔试形式。其中选择题均为单项选择题,包括语言知识运用、阅读理解,共55题,共计75分。试题分为选择题和非选择题两大类。思想政治科目采用闭卷、笔试形式。考试时长为75分钟,卷面满分100分。非选择题共3题,共计28分。信息技术科目采用上机测试形式。其中选择题均为单项选择题,共25题,每题2分,共计50分。

  • 文笔优秀的后宫流小说(让你值得挑灯夜看的小说)

    每完成一次电影世界的任务,就可以进行一次大抽奖。抽奖种类是刚刚经历过的电影世界中的一件物品、一种能力、若干现金,以及该世界的人物。偶然获得了一个APP,林小易的生活变得不同了,遇到了许多惊奇、温暖、有趣的人和故事。范进的平凡生活内容简介:穿入儒林外史世界,成为年轻时代的范进噫,我中了!

  • 湖南长沙古玩城在哪里(长沙古玩城很冷清)

    8月5日,长沙市天心阁古玩城,市场内很冷清。入口处附近,仅有4家商铺在营业,其余100多户已搬走,显得空荡荡的。天心阁古玩城由于当天正在举办地摊文化节,逛的人多,买的人却很少。“目前来看,在做优、做专上还亟待提高。”据了解,长沙目前的古玩城文化特色不强,大多没有经营经验。一种是会回升,一种是不容乐观,本人更倾向于后一种。目前长沙古玩市场已超过10个。

  • 唐才子传书评(唐才子传连载卷一)

    唐才子传书评卷一魏帝著《论》,称"文章经国之大业,不朽之盛事,年寿有时而尽,未若文章之无穷"。至若触事兴怀,随附篇末。六帝夫云汉昭回,仰弥高于宸极;洪钟希叩,发至响于咸池。贞观初,以疾罢归。绩爱其真,遂相近结庐,日与对酌。"投卷于水中,引舟而去。未及冠,授朝散郎。勃至入谒,帅知其才,因请为之。酒酣辞别,帅赠百缣,即举帆去,至炎方,舟入洋海溺死,时年二十九。

  • 印第安跟哈雷的恩怨(为什么印第安瞧不起哈雷)

    印第安摩托历史更悠久;2.印第安是全面均衡发展的三好学生。印第安摩托历史更悠久,始创于1901年,被车迷们尊称为最“美国”的纲领摩托;哈雷摩托,始创于1903年。印第安的社会形象更正面,多为社会地位较高的中产阶级;哈雷有相当长一段时间,是臭名昭著的街头黑帮,成群结队的暴力摩托党形象。史上最快的1000CC摩托车的极速记录是印第安创造的,至今无人能打破。

  • 递延所得税例子(一文读懂递延所得税)

    递延所得税的概念无论是递延所得税资产还是负债,都是由于会计和税法计算上的时间差异导致的。其中最常见的是发生在折旧的过程中,无论是固定资产还是投资性房地产,会计自定折旧期,税务法定折旧期,这往往导致当期会计利润多而税务核算利润少,因而产生递延所得税负债。无形资产摊销和长期费用摊销也是同理。此外还有应收利息以及其他费用等科目也会产生递延所得税负债,但一般数额较小。

  • 走过场的意思(词语走过场的意思)

    以下内容大家不妨参考一二希望能帮到您!走过场的意思解释:形容办事只在形式上过一下,却不实干。只是表面上做做样子,不具有实际行动的意义。出处:《红旗》1984年第7期:“把领导干部要带头的问题突出地加以强调,对于防止对照检查走过场,是十分必要的。”

  • 围城读后感800字左右(关于围城读后感的作文)

    围城读后感800字左右围城这本书,我已读过多遍了。作者以围城为名,叙述了主人公方鸿渐的人生遭遇----毕业、回国、恋爱、失恋、求职、任教、结婚、婚姻失败。方鸿渐经历恋爱又失恋,求职又降职,最终与孙柔嘉走进婚姻殿堂,然而结婚后两人都发现对方有双方婚前未发现的缺点,再加上生活琐事,工作不顺心,经济尴尬等原因,婚姻陷入破裂,最终分道扬镳,阐发结婚就如深陷围城的道理。