高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • 仙鹤草有什么功效(仙鹤草有哪些功效)

    仙鹤草的功效为收敛止血、截疟、止痢、解毒属止血药下属分类的收敛止血药,现在小编就来说说关于仙鹤草有什么功效?仙鹤草有什么功效仙鹤草的功效为收敛止血、截疟、止痢、解毒。该药具有抗凝血和抗血栓形成作用;有抗肿瘤作用及对阴道滴虫有良好杀灭作用。

  • 核桃青皮功效与作用(又苦又涩的核桃青皮)

    所以,在我的印象中,青核桃皮是最没用的东西之一。学了医才知道,它居然有一个牛X闪闪的尊称——青龙衣,还是一味中药。核桃仁是很常见的,入肝、肾、肺经,可以补肾、填精,温肺、定喘,润肠,通便。核桃青皮苦涩,有止痛、止泻、杀虫、解毒的功效。水煎青龙衣洗患处治疗痈肿疮毒。夏秋季节蚊虫多,取青龙衣浸泡在白酒中,静置数日,外擦蚊虫叮咬处,可消肿止痛。

  • mos管型号含义(MOS管的每一个参数含义)

    设定该额定电压的主要目的是防止电压过高导致的栅氧化层损伤。因此,在典型栅极驱动电压下,需要将额定IDM设定在区域之下。单纯满足脉冲电流不超出IDM上限并不能保证结温不超过最大允许值。设定这样的温度范围是为了满足器件最短工作寿命的要求。如果确保器件工作在这个温度区间内,将极大地延长其工作寿命。电感上产生的电压超过MOSFET击穿电压后,将导致雪崩击穿。正常情况下,所有的MOS栅极器件的阈值电压都会有所不同。

  • 全新奥迪a5轿跑家族再掀风暴(轿跑车身很运动)

    近日,情报君从相关渠道获悉,新款奥迪A5Sportback上市。同时,这台车的轮辋设计也比较个性,结合车窗部分的银色饰条,整车的运动感非常明显。当然,尾部的溜背造型也是这台车的一大看点。最后要说的是动力部分,结合官方的信息来看,新款奥迪A5Sportback继续搭载2.0T发动机,且针对车型配置不同,提供高低功率两种版本,对于这台车,大家觉得体验如何?

  • u盘插电脑有声音不读取(怎么解决)

    我们一起去了解并探讨一下这个问题吧!u盘插电脑有声音不读取将U盘插入电脑中,有的电脑可能会有U盘插入的提示音。但是圈圈的位置没有U盘的图标。在设备那一栏里会发现一个圈圈的图标在圈圈的图标上右击然后选择删除设备,然后将U盘拔出重新插入会发现U盘出现在“我的电脑”中。

  • 美国海滩发现神秘鱼(美国海滩上出现罕见)

    美国海滩上出现罕见据美国福克斯新闻网报道,美国得克萨斯州的海滩上近日出现了罕见的“蓝龙”,当地海洋科学研究所的专家提醒民众这种生物有毒报道称,这种长相奇异的生物学名叫大西洋海神海蛞蝓,有着翼状的鳍和蓝色的斑纹,它以有毒。

  • 八宝粥怎么煮才很烂(八宝粥怎么煮不烂)

    八宝粥怎么煮不烂1、时间不够的原因。八宝粥中的主要原材料是以粗粮为主,相对于其他的粥类要更难煮熟,所花的时间会更长,因此如果八宝粥没有煮烂的话,首先可以考虑是时间不够的原因,建议可以再多煮一会儿看看情况。八宝粥若是很难煮烂,还考虑是由于提前加了糖的原因,若是在煮的时候就把糖加进去了,那么其中的糖分就会进入到食材中,降低食材对水的吸收能力,从而就导致八宝粥很难煮烂。

  • 建设开放包容美与共的世界(促进全球平衡协调)

    新冠肺炎疫情不仅造成一些发展中国家返贫、生乱,也导致发达国家很多人陷入生活困境。全球低通胀环境发生明显变化,复合型通胀风险正在显现。中国提出全球发展倡议,得到联合国等国际组织和近百个国家响应和支持。联合国秘书长古特雷斯发出警告,乌克兰危机对发展中国家造成无声打击,可能令全球17亿人口陷入贫困和饥饿。

  • 感叹孩子长大的一句话(怎么写出孩子长大的感觉)

    感叹孩子长大的一句话孩子一天天长大,眼角纹一天天变多变深,头发父母一天天的变老!这些都是岁月留下的印迹。气温一天天降低,宝贝一天天长大,这大概就是所谓的身体冷着但心底确实暖和无比的。孩子的成长无时无刻地输送给父母欢乐,温暖和幸福,此时此刻,我们都好。虽然一个人带孩子感觉很累,但是幸福感是无法比拟的,真希望永远这样幸福下去!永远陪伴着你~可是终究你会长大,珍惜现在在你身边的每一天。

  • 饭怎么好吃(饭好吃的技巧)

    以下内容希望对你有帮助!饭怎么好吃淘米:淘米一般淘一两遍就可以了,因为米粒表面有很多营养。淘米水可以用来洗脸或者浇花,效果都很好。泡米:淘好的大米将水分淋干,淋干后的大米和水以1:1.5的比例倒入盆中,浸泡半个小时左右。加水:米和水的比例,最好为1:1.2。加点油只要在米里面稍微加一点油,蒸出来的米饭也会清香四溢。