自适应学习能力。3能够把识别和若干预处理融为一体进行。4采用并行工作方式。5对信息采用分布式记忆,信息不易丢失。33人工神经网络模型的分类1、按照网络的结构区分,则有前向网络和反馈网络。2、按照学习方式区分,则有教师学习和无教师学习网络。3、按照网络性能区分,则有连续型和离散性网络随机型和确定型网络。4、按照突触性质区分,则有一阶线性关联网络和高阶非线性关联网络。5、按对生物神经系统的层次模拟区分,则有神经元层次模型,组合式模型,网络层次模型,神经系统层次模型和智能型模型。通常人们较多地考虑神经网络的互连结构。神经网络有分层网络、层内连接的分层网络、反馈连接的分层网络、互连网络等4种互连结构。34BP算法思路BP算法的目标函数是神经网络在所有训练样本上的预测输出与期望输出的均方程差,采用梯度下降发法通过调整各层的权值求目标函数最小化。其基本做法是在训练开始之前,随机的赋予各权值一定的初值。训练过程中,轮流对网络施加各个训练样本。当某个训练样本作用于神经网络输入端后,利用当前权值计算神经网络的输出,这是一个信号从输入到隐层再到输出的过程,称作前向过程。考查所得到的输出与训练样本的已知正确输出之间的误差,根据误差对输出层权值的偏导数修正输出层的权值;把误差反向传递到倒数第二层的各节点上,根据误差对这些节点权值的偏导数修正这些权值,依次类推,直到把各层的权值都修正一次。然后,从训练集中抽出另外一个样本进行同样的训练过程。如此不断的进行下去,直到在一轮训练中总的误差水平达到预先设定的阈值,或者训练时间达到预定的上限。35传统的BP算法
BP算法是一种有监督式的学习算法,其主要思想是:输入学习样本,使用反向传播算法对网络的权值和偏差进行反复的调整训练,使输出的向量与期望向量尽可能地接近,当网络
输出层的误差平方和小于指定的误差时训练完成,保存网络的权值和偏差。具体步骤如下:
BP算法具体步骤:
(1)初始化,随机给定各连接权wv及阀值θi,rt。
f(2)由给定的输入输出模式对计算隐层、输出层各单元输出bjf(■wijaiθj)ctf(■vjtbj-rt)
式中:bj为隐层第j个神经元实际输出;ct为输出层第t个神经元的实际输出;wij为输入层至隐层的连接权;vjt为隐层至输出层的连接权。
dtk(ytk-ct)ct(1-ct)ejk■dtvjtbj(1-bj)(3)选取下一个输入模r