络
连续Hopfield网络简称CHNN的拓扑结构和DHNN的结构相似这种拓扑结构和生物的神经系统中大量存在的神经反馈回路是相一致的。在CHNN中和DHNN一样其稳定条件也要求WijWji。CHNN和DHNN不同的地方在于其函数g不是阶跃函数而是S形的连续函数一般取gu11eu
CHNN在时间上是连续的所以网络中各神经元是处于同步方式工作的。
2121网络结构
考虑对于一个神经细胞即神经元i其内部膜电位状态用uj表示生物神经元的动态微分系统由运算放大器来模拟其中微分电路中细胞膜输入电容为Ci细胞膜的传递电阻为Ri输出电压为Vi外部输入电流用Ii表示神经元的状态满足如下动力学方程
C
i
dUitdt
U
itRi
WjiVjtIi
j1
VitgiUit
i12
模仿生物神经元及其网络的主要特性,连续型Hopfield网络利用模拟电路构造了反馈人工神经网络的电路模型,图24为其网络结构:电路中
微分系统的暂态过程的时间常数通过电容Ci和电阻Ri并联实现跨导Tij模拟神经元之间互连的突触特性运算放大器模拟神经元的非线性特性Hopfield用模拟电路设计了一个CHNN的电路模型,如图23所示:
图23
6
f图24
2122基本算法
dui
dt
1RiCi
ui
j1
1RijCi
V
j
IiCi
Vifui
取参数
1Ri
1Ri
Nj1
1Rij
得:
dui
dt
ui
wijvj
j1
i
vifiui
i1234N
过程:先设定初态(ui),运行至稳定,得到稳定状态。
7
f对应输出:
vi
12
1
ta
uiu0
由于Hopfleld网络是全反馈网络因此当网络中神经元节点数目比较多时网络的结构就过于复杂并且Hopfleld网络中没有隐含层使得网络的非线性性能比较差因此在一定程度上限制了它的应用。
22、Elma
神经网络
Elma
网络是部分反馈网络的突出代表。Elma
网络是JeffreyLElma
于1990年首先针对语音处理问题而提出来的Elma
神经网络是一种动态的反馈网络,它除了具有输入层、隐层、输出层单元外,还有一个特殊的联系单元(关于该网络的更详细内容可参考文献6)。联系单元是用来记忆隐层单元以前时刻的输出值,可认为是一时延算子,它使该网络具有动态记忆的功能。
221、网络结构
Elma
网络结构如图25所示7。
图25Elma
网络结构示意图
Elma
网络由4层组成:输入层信号传输作用隐含层承接层也称上下文单元或状态层承接层从隐含层接收反馈信号,用来记忆隐含层神经元前一时刻的输出值,承接层神经元的输出经延迟与存储,再输入到隐
8
f含层。这样就使其对历史数据具有敏感性,增加了网络自身处理动态信息的能力。r