高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • 副驾驶不系安全带扣几分(驾驶机动车副驾驶不系安全带扣几分)

    交警权威解读“扣分”谣言1:副驾不系安全带,记1分、罚50元真相:乘员不系安全带确实需要交警现场纠正,但绝对不会给驾驶员记录违法扣分。所以蜀黍提醒,未满14周岁的小孩坐副驾驶座非常危险,应配备儿童安全座椅,坐后排并加以固定,最好有大人陪同。副驾驶必须佩戴安全带的规定早在旧交规中已经有明确规定副驾驶不系安全带怎么处罚,凡是在副驾驶上不佩戴安全带的,执勤交警均可以对乘坐人处以罚款20元的处罚。

  • 广东非遗文化做大戏(惠州妹殷忞在省博物馆办荔枝文化展)

    为期45天的展览,观众7万多人次。除了文物精品外,殷忞还精心挑选了一批现代非遗大师作品进行展示,如广绣、广彩等,让观众进一步了解荔枝艺术从古至今的传承与发展。从六月开展,到七月底结束,展览期间,正好是岭南的荔枝红遍山野的时节。荔枝果醋由惠州一家饮品公司赞助。唐代“一骑红尘妃子笑,无人知是荔枝来”,让世人知道,荔枝是大自然赐予岭南地区最珍贵的礼物之一。当然,她的名字和荔枝没有关系。

  • 厕所怎么冲水(厕所怎么冲水好呢)

    轻按大按钮,适合量比较少的大便,现在小编就来说说关于厕所怎么冲水?下面内容希望能帮助到你,我们来一起看看吧!重按小按钮,适合冲刷量比较多的小便。同时按两个按钮,冲水力最大、水最充足。

  • 沈阳共享宝马是谁弄得(沈阳街头出现1500台共享宝马车)

    小编打听了一下,沈阳准备第一批在全市投放1500辆新车,市民们直接扫码然后通过一些信用的绑定就可以直接开走了,非常的方便。路边的市民看到之后纷纷拿起手机在拍照,左边的这边大姐估计拍照之后回去和老公说自己家里以后不用买车的,直接出门就有宝马车可以使用。这个大哥更加搞笑,汽车摩拜的共享自行车,然后盯着共享汽车宝马1系里面的内饰,估计想看看这些共享汽车的内饰做工怎么样。

  • 缀化的养殖方法和注意事项(缀化的养殖方法和注意事项分别是什么呢)

    跟着小编一起来看一看吧!缀化的养殖方法和注意事项充足光照:缀化多肉要养殖在光照条件好的阳台上或者室外。

  • 江畔独步寻花的意思诗意(江畔独步寻花是一首什么诗)

    江畔独步寻花的意思:黄四娘家周围小路开满鲜花,万千花朵压弯枝条离地低又低嬉闹的彩蝶恋恋不舍地盘旋飞舞,自由自在的小黄莺叫声悦耳动人,下面我们就来聊聊关于江畔独步寻花的意思诗意?嬉闹的彩蝶恋恋不舍地盘旋飞舞,自由自在的小黄莺叫声悦耳动人。小路上花团锦簇,长满花朵的枝条被压得低垂下来,花瓣之上是流连忘返的彩蝶,它们围绕着花枝翩翩起舞。

  • 宝宝起名字大全霸气侧漏(宝宝起名起个字形协调)

    宝宝起名字大全霸气侧漏白纸一张似云烟,落笔成文步青云。王凝玉王与玉,相差一毫,十分神似,所以,表面意思,便是王似玉,王与玉相似。正是两重意思的叠加,使得王似玉拥有了可行性。故而,徐士行,即士缓慢而行。郑观邪郑观邪,此名的话,字形统一。且,此谐音并生出了阴阳相对之意。功为功勋之意,一般来说,功勋都是比较大的功劳,对于平常人来说并不现实。南燕喃南燕喃,此名的话,是出于字形和气候的考虑。

  • 国学经典古典名著(10本名著忠厚传家远)

    10本名著忠厚传家远今天是六一儿童节,祝大小朋友们节日快乐!忠厚传家远,诗书继世长,父母带头读书是最好的家庭教育好书值得珍藏一生,小编分享10本名著,大小朋友一起读吧!1.《老子今注今译》参考百余种古今著书,注释详尽且通。

  • 牧羊曲歌词完整版(关于牧羊曲歌词完整版)

    牧羊曲歌词完整版?王立平最开始创作了一首以河南豫剧元素为主的歌曲。虽然歌曲创作后得到了导演的认可,但是王立平并没有交差了事,而是反复琢磨,认为该电影主要在香港播放,香港人或许并不了解河南豫剧,因此也就很难谈得上喜欢,于是放弃了原作,重新创作出该曲。

  • 2022北京静之湖滑雪场情人元宵双节活动一览

    情人节与元宵节奇妙联动的爱意也在弥漫,如果没有机会奔赴现场摇旗呐喊,不如带着爱人来静之湖,体验一场高甜满满的双节之旅吧!