高考考试网
当前位置: 首页 高考资讯

bp神经网络建立的步骤(BP神经网络分类问题正向传播和反向传播)

时间:2023-08-23 作者: 小编 阅读量: 5 栏目名: 高考资讯

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。y是groundtruth,即真实值。这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

BP神经网络可以用于解决回归问题也可以用于解决分类问题。

本文将详细讲解BP网络用于解决分类问题的过程。其中包含了BP分类网络的基本结构和其正向传播和反向传播。

1.分类问题的模型

用于解决分类问题的BP网络通常像如下图中的结构:

其中i是输入层,h是隐含层,o是输出层,s是softmax层。y是ground truth,即真实值。

这里给网络中的参数赋予一些初始值,方便进行计算演示:

2、正向传播

首先看正向传播,首先看输入层向隐含层的传递。

隐含层的计算如下图所示。

以隐含层h1计算

隐含层h2计算

接着看隐含层向输出层的传递。

输出层的计算如下图所示:

输出层o1计算

输出层o2计算

最后看输出层向softmax层的传递,

softmax的计算如下图所示

3.反向传播

反向传播中,分类问题与回归问题不同的是,增加了softmax层的反向传播。

那么问题来了,Softmax层如何求导?这是分类问题中的难点。

这里首先看一个通例,有m个输入元素z,然后通过softmax计算,形成了m个softmax元素s,s的计算公式如下图所示:

最后可以得到一个结论,即:

最后将这个公式带入到损失函数中,可以得到如下的结果:

这样就可以得到Loss函数对w5的偏导数。

这里只推导了对Loss函数对w5的偏导数,实际上对w6,w7,w8的偏导数的计算是很类似的。这里不算赘述。

除此以外,对w1,w2,w3,w4的偏导数和回归问题并没有太大区别,这里不再赘述。

    推荐阅读
  • 孕期胎宝宝发育标准是多少(孕期想了解宝宝长什么样子)

    所以一般提倡于怀孕早期通过做B超明确是否是正常妊娠或双胎、葡萄胎等。同时B超可以根据胎儿的头径、骨骼的测量估计胎儿的体重,明确胎儿的胎位,来预测孕妇是否能够自然分娩。

  • 柠檬树下你和我是什么意思(树上柠檬果树下你和我什么意思)

    大家都知道柠檬是一种非常酸的水果,在碰到一些让你酸溜溜的事情,都可以说“我柠檬了”。

  • 羊肉金针菇的制作方法(羊肉金针菇的烹饪方法)

    接下来我们就一起去研究一下吧!羊肉金针菇的制作方法材料:羊肉片半斤、金针菇两把、红椒一个、干红椒两个、大葱一段、香菜适量。金针菇放入开水中煮熟,捞出备用;锅中倒入油,爆香大葱和红椒,炒出香味;加入羊肉片,翻炒均匀;依次加入料酒,蚝油,糖(一点点),盐,孜然粉;最后加入金针菇,翻炒均匀,最后出锅时撒上香菜即可。

  • 手机耳机可以用在笔记本上吗(手机耳机也能在电脑上用)

    搜索方式也很简单,搜音频一分2转接头,并且同时看到电脑和手机这两个词语的出现,就没错了。具体特征是一边有一个3.5mm耳机接口,另一边是两个接头,一个是红色,一个是绿色,红色接头是麦克风,绿色接口是音响。另外可能很多人都遇到过耳机或者音响插到电脑上却没有声音,这大概有两种可能,一种是选错了类型,另一种是需要切换音频输出通道。

  • 支付宝怎么加好友(支付宝怎么加好友手机号)

    手机型号:华为荣耀9软件版本:10.1.99支付宝可以通过互加好友,实现快速转账或发送消息,具体应该如何操作呢?

  • 骑马与砍杀2是单机游戏吗(游戏有什么特点)

    骑马与砍杀2是单机游戏吗?属于单机游戏,《骑马与砍杀2》虽然继承了一代的高自由度,玩家可以在中世纪的世界里自由的遨游,但是游戏本身也是有主线任务的,今天小编就来聊一聊关于骑马与砍杀2是单机游戏吗?接下来我们就一起去研究一下吧!在完成拼凑龙旗任务后,男人会给一个建立非帝国阵营任务,其中一个要求就是有定居点,这就等于告诉玩家想自立最好是先加入某个阵营获得领地。建议加入帝国阵营获取领地,方便后续任务。

  • 推荐类似倾冷月的小说(推荐云拿月的破镜重圆向现言小说似瘾)

    沈晏清本应无所谓,却有些说不清自己的心情。没想过程隐会走,没想到她会离开。沈晏清停了有半晌。程隐唇瓣微张,原本就嫣红,唇齿舌尖席卷过,更是微微红肿。程隐睫毛颤了颤,凝着他的眼睛,不太相信的样子。他气息乱了,手沿着腰上移动,被程隐抬手抵住。她的手掌挡在沈晏清胸前,阻了他接下去的动作。

  • 朋友过生日可以陪他一起过吗(为给朋友过生日)

    由于魏某醉驾,被依法追究刑事责任,吊销驾驶证且五年内不得重考。斗门交警大队吴警官见奔驰小车远远就减速,便示意徐某进入岗点接受调查。随后徐某被遵医五院进行抽血,结果为74.5mg/100mL,酒驾。到次日凌晨,徐某又提议转场回井岸的酒吧继续喝。徐某因酒驾被处以罚款2000元、暂扣驾驶证6个月的处罚,记12分。以上从饮酒前中后三个环节预防酒驾。

  • 报考注册会计师条件有哪些(注册会计师考试资格条件是什么)

    注册会计师考试资格条件是什么虽然注册会计师证书含金量较高,但是其考试难度非常大,需要考生付出大量的时间和精力去备考,才能增加通过考试的几率那注册会计师考试资格条件是什么呢?不清楚的同学请随高顿CPA小编一起阅读下文!一、注册会计。

  • arma3怎么用无人机终端(arma3无人机)

    3、通过方向键或者鼠标移动,控制无人机移动的方向。