高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • excel函数公式大全讲解筛选(Excel中做常用的分类汇总函数SUBTOTAL)

    SUBTOTAL函数是日常中我们经常用到的一个分类汇总函数,他可以忽略隐藏值进行分类汇总,下面让我们一起来了解他把SUBTOTAL函数以及参数SUBTOTAL:返回一个数据列表或者数据库的分类汇总第一参数:我来看个动态图先l1AVERAGE(算术平均值)l2COUNT(数值个数)l3COUNTA(非空单元格数量)l4MAX(最大值)l5MIN(最小值)l6PRODUCT(括号内所有数据的乘积)l7

  • 孔雀蓝上衣搭配什么颜色裙子(孔雀蓝上衣搭配什么颜色的裙子)

    推荐搭配白色的短袖雪纺衫,清纯可爱。长裙子搭配灰色的修身体恤效果也是不错的。

  • exo吴世勋经常说的话(高智商天才却情商欠费)

    忙内主演的电视剧《亲爱的阿基米德》正在热拍,网上时不时就有妹子说看到了现场的拍摄状况。身穿合身西装,坐在大马路上,和剧组人员讨论剧本。(非剧照)电视剧《亲爱的阿基米德》改编自玖月晞“亲爱的”系列同名小说,由EXO成员吴世勋、许龄月领衔出演,呈现了智商极高的逻辑学家言溯,和智商极高的生物学家甄爱。(从世勋以往的照片看得出来,黄色、金色等发色世勋是完美消化了。

  • 目标跟踪都有哪些算法(有哪些比较好的目标跟踪算法)

    雷锋网已获得转载授权。一切要从2013年的那个数据库说起。。速度排第二的是经典算法CT。当然,引用量也与时间有关,建议分每年来看。tracking方向的最新论文,可以跟进三大会议和arXiv。

  • 森雅R9维修保养 森雅r9保养手册

    森雅R9维修保养众所周知,汽车使用一段时间后应该进行保养。以上是边肖带来的森雅R9维修的一些注意事项。森雅R9全系共有8款车型,均搭载1.2T涡轮增压发动机,动力还算不错,但油耗如何?森雅R9搭载1.2T发动机,油耗不是很高,其实际平均油耗在每百公里7L左右。现在,你知道了森雅R9油耗多少,这款车在油耗等方面的表现还是相当亮眼的。

  • 银泰新零售生活美学(901个单品年销售过百万)

    昨天,《商业评论》将首期「零售现场」沙龙开到了杭州武林银泰百货。银泰百货成立于1998年,2007年在香港上市,被称为“内地百货第一股”。2018年,银泰百货诞生了21个“全国第一柜”,尤其是化妆品专柜,在全国销量遥遥领先。今年3月份,修丽可武林银泰店开业之初几乎尝试了喵街的所有玩法,仅3天就刷新了品牌单月单柜销售纪录。21个“全国第一柜”均在此层,其中,兰蔻和雅诗兰黛的年销量超过1亿元。

  • 普通木料如何做防腐处理(这三种方法最常用)

    以便改进解决实际效果,在浸泡液中可设定超音波、加热装置,及其加上表活剂,改善木料的透水性。视侵泡時间的长度,侵泡法可分一瞬间预浸、短期内侵泡和长期性侵泡。适用双板和补救性防腐蚀解决,及其暂时性的木料。依据分子扩散基本原理,凭借木料中的水份做为药物外扩散的媒介,药物由浓度较高的向较低浓度的外扩散,外扩散到木料的深层次。通用性于小批量生产的木料防腐蚀解决。

  • 羊肉怎么炖才能不腥不膻(羊肉不管怎么做)

    羊肉滋补,但关键是羊肉有一种独特的羊膻味,好多网友表示,自己做羊肉,不管怎么做,羊膻腥味都非常浓郁,而且做出来的肉质口感也特别柴,甚至有时候自己熬羊肉汤都是发黑的。一是可以有效的去除肉质中的血水。

  • 年夜饭吃什么菜吉利(年夜饭有哪些寓意好的菜)

    年夜饭吃什么菜吉利饺子:招财进宝在中华民俗中的,除夕守岁吃“饺子”,是任何山珍海味所无法替代的重头大宴。吃饺子取“更岁交子”之意,“子”为“子时”,交与“饺”谐音,有“喜庆团圆”和“吉祥如意”的意思。此外,饺子因为形似元宝,过年时吃饺子,也带有“招财进宝”的吉祥含义。冬季典型的白菜肉馅即百财之意。而在除夕夜吃长年菜表示有剩余留到第二年,代表了劳动人民对美好生活的向往,和对新年生活的期待。

  • 花生根的功效与作用(花生根的功效与作用禁忌)

    2、调节情绪花生根中含有丰富的色氨酸,它被人体吸收以后,能直接作用于人类的神经,对人类情绪有明显调节作用,特别是那些经常焦虑烦躁的人在食用花生根后,还能让情绪尽快好转,能有效降低抑郁症的发病率。