高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • 打完火锅怎么去除衣服上的味道(怎么去除吃完火锅衣服上的味道)

    在保鲜袋底部一角,剪5公分左右的口子,为了方便空气流通。接着将吹风机调到暖风档,风筒口塞进保鲜袋,握住袋口吹5分钟。几分钟后,再拿出衣服闻一闻,浓郁的火锅味基本上全没了!除了清洁作用,柠檬汁还有强大的去味功能,在喷壶里装上200ML的水,再将柠檬切两半,挤6滴柠檬汁到喷壶中,摇晃均匀。之后把柠檬喷在沾上味道的外套上,喷完后挂起来拿到通风处晾1个小时,自然风干后就好啦!

  • 植物生长调节剂的定义 植物生长调节剂的定义及特点

    有些植物生长调节剂本身就是植物激素。

  • 中学留学新西兰的申请条件(新西兰留学须知签证篇)

    新西兰最佳旅游的时间是夏季,这个时间段同时也是留学生开学之际。如有需要新西兰移民局会与您联系。通常办理新西兰签证的时间是31个工作日。除了这四方面外,新西兰针对留学生还有五方面要求:语言要求、健康要求、品行要求、学历要求和资金要求。

  • 毛人凤为戴笠复仇真相(毛人凤逃离大陆前)

    三大战役后,中国人民解放军节节胜利,国民党反动政权行将就木。但在抗战以后,杨杰立场发生转变,由亲蒋转向反蒋。然而,杨杰此时却得到云南省政府主席卢汉的庇护,堂而皇之逮捕已不可能,只得让军统特务行暗杀之事。杨杰沈醉原本对于军统最后时刻疯狂杀人的行为并不上心,此时的卢汉早已看破时局,迷途知返,逐渐向共产党和人民靠拢。毛人凤特派保密局西南特区区长徐远举从重庆赶来,带上几十名特务配合沈醉行动。

  • 序幕的意思(是怎么解释的)

    以下内容大家不妨参考一二希望能帮到您!序幕的意思文学作品情节的组成部分之一。原指某些多幕剧第一幕之前的一场戏,一般是介绍剧中人物和剧情,或预示全剧的主题。后也用来指小说、叙事诗等文学作品在矛盾冲突尚未展开之前,对人物所处的时代背景和社会环境及主要人物之间的关系所作的交代或提示。喻指重大事情的开端。

  • 卡多希直播一体机设置绿幕(开机即开播卡多希)

    截至2021上半年,新注册的直播电商相关企业逾3.4万家,已超过2020全年的2.2万家。设备方面,目前市场上主流的解决方案无外乎两种,一是使用手机直播,二是采用“相机电脑”。人力方面,以直播带货为例,一般需要三人及以上规模的团队,其中的人力成本不言而喻。2020年成立于深圳的「卡多希」,或为直播行业提供了全新选择。未来,「卡多希」将推出配套SaaS,来进行主播、绩效、流量投放等管理。

  • 大众凌渡什么价格(凌渡车型简介)

    座位材质为仿皮,座椅上有GTS的标志,头枕也有GTE刺绣。全新凌渡280TSI豪华版在主动和被动安全均有了显著提高,这些功能可以大大降低驾驶强度,使人们用车更加轻松、安全。在车内安全指数方面,凌渡在A、B、C柱等大块头车内乘员防护项目中,均表现出色,能够为车内成员提供全方位的保护。同样,车身刚性和底盘悬架都是凌渡的一大卖点。目前的汽车保养方面,凌渡并没有单独的机油机滤,但是单次的保养费用会降低一些。

  • outing什么意思(outing意思是什么)

    跟着小编一起来看一看吧!outing什么意思outing,英语单词,名词、形容词、动词,作名词时意为“远足;短途旅游;体育比赛”。作形容词时意为“远足适用的”。

  • 酸菜牛排的做法技巧(酸菜牛排如何做)

    等泡菜的同时,将牛排用纸巾擦乾,两面沾上盐和适量的韩国辣椒酱。在平底锅中放入两大匙橄榄油,用中火热锅,再放入牛排,两面各煎两到三分钟。等饭煮好后,用煎牛排的锅子,加入剩下的醋、姜、葱花以及盐和胡椒。一边搅拌一边用中火煮约一分钟后,再加入煮好的饭、番茄酱和一半的九层塔(切碎)。最后取出牛排,铝箔纸中的汁可以拌入饭中,再用剩下的九层塔装饰就完成了。

  • 俗话说初一的娘娘十五的官(解读民间俗语初一的娘娘)

    而“十五”,也是农历十五,这一天月圆之时。比如在正月十五,是元宵节,还有七月十五,被称为鬼节。因此十五这天出生的孩子,人们都会寄予希望。而十五之时阳气最重,也正是满月之时。男属阳,女属阴,因此十五出生的男孩阳气重,出生初一的女子阴气重,但有当贵妇人的命。从上面三个说法来看,“初一的娘娘,十五的官”并没有具体的出处与年代,是千百年来老百姓口口相传的说法。