死记学习。即依据领域经验或推理结果,将权重预先赋值且固定不变。该策略也被称为无导师学习。
3学习律。其用已有的实例样本对网络进行训练,亦即对权重进行有导师学习。其算法如下:设(弋,为输人/输出实例,其中7 = 1,2,…,?
I、6分别为厂维和方维向量,即岑二 ( ,?,…,丁,匕二(力,”,…,?。(父丨’广,…’沁)7为初始权重和输入情况下的网络输出,则某一?11 (记为夺)到[的连接权重 的改变量为:匕?二哝义,3厂厂([-广)。其中,7?为学习步长,亦称学习律或学习因子,为误差,匕为第9个?II的输出,厂〈0 —般为线性函数。
自组织学习与941 0学习律。该策略取两个?!1之间的连接权重正比于它们的活动值,即― ,其中 、V;第〖和第;’个?II的输出。
(句竞争学习。网络中某一组?II相互竞争对外界刺激模式响应的权力,在竞争中获胜的?11其连接权重会向着对这一刺激模式竞争更为有利的方向发展,亦即竞争获胜的?11抑制了竞争失败的?11对刺激模式的响应。为防止学习过程中的信息丢失,一般会同时允许多个获胜者出现。
(丘)相似学习。设第)和第;个?II的连接权重为~ V】为第)个?11的输出,则 (巧- )。通过学习, 与巧的值将非常接近。
经过数十年的快速发展,目前模型至少有几十种。当前应用广泛、比较成熟的有1985年美国加州大学的&!'I和1 11311(1提出的误差反向传播〈61X01 丨011,只?)网络和加州工学院1982年提出的联想记忆网络。其中,8?网络通过网络各层将输入模式向输出层传播(正向〕,在输出层上确定误差,尔后将误差从输出层向输人层回传并引导权重修正,直至系统总误差最小。8?网络通过近20年的不断完善与改进(如改进误差函数、改进?II变换函数、改进网络结构、采用卡尔曼滤波、模拟退火与遗传算法等〉,基本解决了收敛速度慢、网络麻痹和陷人局部极小等问题,能够以任意精度逼近任意连续函数。对于事物间联系难以描述为明晰函数形式的隐性知识,8?网络可以较好实现对知识的获取、表示与存储。网络是一种具有相互连接的反馈型网络,根据变换函数的不同,可分为离散型和连续型两种,前者的变换函数为符号函数,后者为祝⑶旧函数。该网络通过向量外积(灿打静态联想记忆方法确定连接权重,权重确定后不再变化,此时一旦输人某个样本,网络就不断演化,直至系统达到状态空间的稳定状态,此即网络的输出状态,亦即输人模式的联想输出。仏化网络是一种反馈动力学系统,具有较强的计算能力和稳定性〈回忆)。
与传统知识表示方法、知识处理系统不同,… 具有以下特征。
(未完待续) 声明:部分资料来自合作媒体及网络,不代表本站观点。关键字:权重,网络,学习,输出,函数