高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • 正宗蒜苗炒肉的家常做法(蒜苗炒肉最好吃的做法)

    蒜苗炒肉最好吃的做法唯美食不可辜负的小编准时上线了,又到了为朋友科普和美味的时间了非常感谢各位朋友们在百忙之中,关注小编的美食号我不知道你是否喜欢吃蔬菜和荤菜?这道菜可能味道很浓,也被很多人喜欢一般来说,这两道菜的搭配可。

  • 赵孟頫野竹图帖释文(现场寻踪元代江南)

    澎湃新闻在现场看到,此次特展汇集苏州博物馆、故宫博物院、中国国家图书馆、南京博物院、上海博物馆、天津博物馆、辽宁省博物馆、浙江省博物馆、安徽博物院等22家境内外博物馆的108件元代藏品及23件明清藏品,并以6件数字藏品再现孤品珍藏。而处在宋、明之间的元代,无论书画、文物,则对中国文人艺术的审美术影响深远。元代赵孟《饮马图卷》展出现场此次展览第一部分“江南印象”,聚焦元代江南书画及其影响。

  • 一什么窑洞填量词(窑洞对的第二个答案)

    但中国共产党主动选择在自我革命中淬炼锻造,成长为先进的马克思主义政党。勇于自我革命是中国共产党区别于其他政党的显著标志。办好中国的事情,关键在党、关键在全面从严治党。亿万人民见证了中国共产党人“敢于刀刃向内,敢于刮骨疗伤,敢于壮士断腕”的铿锵承诺。人民立场是中国共产党的根本政治立场,以人民为中心是中国共产党事业发展的出发点和落脚处。

  • 虾皮冬瓜汤做法天津(冬瓜虾皮汤的做法)

    主料冬瓜1段虾皮1把辅料盐1勺玉米油20毫升清水1碗姜片2-3片冬瓜虾皮汤的做法1.冬瓜削皮,去籽,清洗干净,切薄片。冬瓜虾皮汤成品图烹饪技巧1、很清淡的汤哈,给我家小朋友补钙的。汤头其实还不错。

  • 怎么在家煮好吃的懒人面条(宅在家里饿不着)

    以积极乐观的态度,迎接每一天。做法:1.五花肉清洗干净后,切成3厘米长宽的小块,放入锅内,焯水后控干水分。最后浇上热油,激发出葱香和蒜香味,加入适量的辣椒油,搅拌均匀即可。

  • 夜读人生高度决定深度(夜读学会做减法)

    2我发现,我的直属上司章工对待工作就很有一套。我们公司是做车载产品的,章工经常在公司各部门串门闲聊,聊得最多的就是哪家公司又出新车,哪款车车感更好,或者同行有什么新闻。公司偶尔也会购置一两款车回来做测试,章工常常开公司的新车出去逛一逛,感受一下车的性能。我按以往的工作流程粗略估算了一下时间,心里暗暗着急,章工却很淡定。章工的这份敏捷让我暗自佩服。主动出击,做到要事第一,才能提高自己对生活的掌控力。

  • iphonexs 2022年还值得入手吗(2022年用一台iPhoneXs是什么感觉)

    终于,终于媳妇换手机了,没错,我就是那个只能用媳妇儿手机的人,还好不是小舅子的,今年我终于用上了iphoneXs.你们没有听错。此外,现在某网上iPhoneXs目前二手大概在1500~2500的价位,因版本内存成色而异,综合上述体验,Xs可以说是极具性价比,该有的她都有,实际体验也不会太落后于新品iPhone,.在同价位竞品中也比较亮眼。iPhoneXs拍摄综上所述,18年发布的iPhoneXs在21年仍未过时。

  • 雷欧奥特曼是最帅的么(大神重新绘制的五个奥特兄弟)

    大神重新绘制的五个奥特兄弟,雷欧和艾斯奥特曼很帅气1、泰罗奥特曼泰罗奥特曼是奥特之父和奥特之母的亲生儿子,同时他也是奥特兄弟的老六,现在是宇宙警备队的首席教官,还有一个儿子泰伽奥特曼,曾经的幼稚热血泰罗已经成大成熟。

  • 红枣黑糖的功效与作用 黑糖的功效与作用

    适宜人群贫血人群、体质虚弱者、食欲不振者、经期女性。食用方法红枣黑糖水:锅里加入水,放入红枣煮开,放入黑糖拌匀即可。

  • 唇膏的正确打开方式(唇膏护发又美肤你知道吗)

    嘴唇干燥、破裂时也能用。涂抹一点护唇膏,比普通的乳液有效。除了鼻子,身体其他部位太干燥也可以用护唇膏。可以在鞋子磨脚的地方涂抹护唇膏,也在脚上涂一点,这样能够降低不适感。下次戴耳环时可以在耳洞上涂抹一点护唇膏,这样不会痛。