输出层仅起线性加权作用。
222、数学模型
其中连接权为联系单元与隐层单元的连接权矩阵，为输入单元与隐层单
元的连接权矩阵，为隐层单元与输出单元的连接权矩阵，
和
分
别表示联系单元1和隐层单元的输出，
表示输出单元的输出，
为自连接反馈增益因子。多取为sigmoid函数，
223学习算法
设第k步系统的实际输出为可表示为：
，则Elma
网络的目标函数即误差函数
根据梯度下降法，分别计算Ek对权值的偏导数并使其为0，可得到Elma
网络的学习算法：
9
fElma
神经网络学习算法流程图
初始化各层权值输入样本值
计算承接层输出
计算输入层输出计算隐含层输出计算输出层输出
计算误差函数
图26
更新权值
23、无反馈神经网络
时延神经网络是一种典型的无反馈网络，这种网络模型是在多层前向神经网络模型的基础上引入时间延迟器得到的该网络自隐层至输出层的所有节点与上一层每个节点的输出之间存在一组并行延迟单元。图27为延时器连接结构图28为l层节点i到l1层节点j之间的延时器内部结构节点j时输入为上
一层节点i在
时刻输出的加权和为层延时器的延迟单元数
目延迟单元的引入使神经元不但了解当前时刻输入的信息还了解过去时刻输入的信息有利于序列数据的识别。
10
f图27
图28
3、DNN实际应用
动态神经网络具有很强的学习能力和逼近任意非线性函数的特点自20世纪80年代末以来将动态神经网络作为一种新的方法引入复杂非线性系统建模中引起了工程控制领域许多学者的关注。动态神经网络现在已经广泛地用于模式识别、语音识别、图象处理、信号处理、系统控制、AUV自适应航向和机器人控制、故障检测、变形预报、最优化决策及求解非线性代数问题等方面8。
31、故障检测
估计方法在故障检测中应用广泛，如发动机的故障检测。用故障参数估计实现发动机故障检测由于构建的发动机数学模型的不精确性，影响了检测性能。静态反推神经网络可以实现系统的动态辨识过程但反推神经网络的学习算法存在局部极小问题在线学习收敛速度比较慢不易满足工程上实时性要求。动态神经网络直接用李雅诺夫方法推出神经网络的权值修改公式得到稳定的学习规则并且学习收敛到全局最优因此可以考虑用动态神经网络来辨识发动机的动态响应过程估计发动机传感器测量信号。基于发动机测量信号与动态神经网络辨识信号得到的残差信号然后将残差信号的某一特定范数输入检测逻辑得到发动机故障检测结果实现动态神经网络的故障检测策略9。
32r