神经网络(三)

单层前向神经网络

概述:BP 网络是一种前馈网络,即误差反向传播神经网络。 一般的前馈网络包括一个输入层和一个输出层,若干隐单元。隐单元可以分 层也可以不分层,若分层,则称为多层前馈网络。网络的输入、输出神经元其激 活函数一般取为线性函数,而隐单元则为非线性函数。

Q&A

Q: \(z=w_0*x_0 + w_1*x_1 + ... + w_n*x_n + b\) 中 b 作用?有它没它有何不同?

A:训练一条线二分类,有b就等同y=kx+b, 无b就等同 正比例函数y=kx (k=w)

无b:

有b:

加上偏置b后,导致更加精确(正确的偏置)

逻辑触发图:

某些情况,无偏置b,就分不开

下图,无b,就会成这样

因为对于任何一个类,已把错误降到最小

加上b后:

PS : 仅为此例题,卷积、拟合、GAN 中有各自作用

此问由 [@萌萌哒小喵君](https://space.bilibili.com/11593275/) 解答,笔者整理,感谢小喵君!

参考

感谢帮助!