Deeplab,deeplab( 六 )


深度学习源于人工神经网络的研究,先来回顾一下人工神经网络 。一个神经元如下图所示[6]:这个神经元接受三个输入x1,x2,x3,神经元输出为其中W1, W2, W3和b为神经元的参数,f(z)称为激活函数,一种典型的激活函数为Sigmoid函数,即其图像为神经网络则是多个神经元组成的网络,一个简单的神经网络如下图所示使用圆圈来表示神经网络的输入,标上“ 1”的圆圈称为偏置节点,也就是截距项 。
【Deeplab,deeplab】神经网络最左边的一层叫做输入层(本例中,有3个输入单元,偏置单元不计);最右的一层叫做输出层(本例中,输出层有2个节点);中间的节点叫做隐藏层(本例中,有2个隐藏层,分别包含3个和2个神经元,偏置单元同样不计),因为不能在训练样本集中观测到它们的值 。神经元网络中的每一条连线对应一个连接参数,连线个数对应网络的参数个数(本例共有4

推荐阅读