高级人工智能课件4

人工智能ArtificialIntelligence第四章计算智能4.1概述4.2神经计算4.3模糊计算4.4粗糙集理论4.5遗传算法4.6进化策略4.7进化编程4.8人工生命4.9粒群优化4.10蚂群算法4.11自然计算4.12免疫算法2019/8/2安徽大学计算机科学与技术学院34.1概述信息科学与生命科学的相互交叉、相互渗透和相互促进是现代科学技术发展的一个显著特点。计算智能涉及神经网络、模糊逻辑、进化计算和人工生命等领域，它的研究和发展正反映了当代科学技术多学科交叉与集成的重要发展趋势。2019/8/2安徽大学计算机科学与技术学院4什么是计算智能把神经网络（NN）归类于传统人工智能（AI）可能不大合适，而归类于计算智能（CI）更能说明问题实质。进化计算、人工生命和模糊逻辑系统的某些课题，也都归类于计算智能。计算智能取决于制造者（manufacturers）提供的数值数据，不依赖于知识；另一方面，传统人工智能应用知识精品（knowledgetidbits）。人工神经网络应当称为计算神经网络。2019/8/2安徽大学计算机科学与技术学院5计算智能与人工智能的区别和关系A－Artificial，表示人工的（非生物的）；B－Biological，表示物理的＋化学的＋（？）＝生物的；C－Computational，表示数学＋计算机计算智能是一种智力方式的低层认知，它与传统人工智能的区别只是认知层次从中层下降至低层而已。中层系统含有知识（精品），低层系统则没有。2019/8/2安徽大学计算机科学与技术学院6计算智能与人工智能的区别和关系输入人类知识(＋)传感输入知识(＋)传感数据计算(＋)传感器C－数值的A－符号的B－生物的层次复杂性复杂性BNNBPRBIANNAPRAICNNCPRCI2019/8/2安徽大学计算机科学与技术学院7当一个系统只涉及数值（低层）数据，含有模式识别部分，不应用人工智能意义上的知识，而且能够呈现出：（1）计算适应性；（2）计算容错性；（3）接近人的速度；（4）误差率与人相近，则该系统就是计算智能系统。当一个智能计算系统以非数值方式加上知识（精品）值，即成为人工智能系统。2019/8/2安徽大学计算机科学与技术学院81960年威德罗和霍夫率先把神经网络用于自动控制研究。60年代末期至80年代中期，神经网络控制与整个神经网络研究一样，处于低潮。80年代后期以来，随着人工神经网络研究的复苏和发展，对神经网络控制的研究也十分活跃。这方面的研究进展主要在神经网络自适应控制和模糊神经网络控制及其在机器人控制中的应用上。4.2神经计算4.2.1人工神经网络研究的进展2019/8/2安徽大学计算机科学与技术学院9人工神经网络的特性并行分布处理非线性映射通过训练进行学习适应与集成硬件实现2019/8/2安徽大学计算机科学与技术学院104.2.2人工神经网络的结构-1Wj1X1X2Wj2XnWjn···Σ()Yi图4.2神经元模型2019/8/2安徽大学计算机科学与技术学院11图4.2中的神经元单元由多个输入xi，i=1,2,...,n和一个输出y组成。中间状态由输入信号的权和表示，而输出为（4.1）式中，j为神经元单元的偏置，wji为连接权系数。n为输入信号数目，yj为神经元输出，t为时间，f()为输出变换函数，如图4.3。nijijijxwfty1)()(2019/8/2安徽大学计算机科学与技术学院12(a)xf(x)1x00图4.3神经元中的某些变换（激发）函数(a)二值函数(b)S形函数(c)双曲正切函数(c)xf(x)1-1(b)f(x)x102019/8/2安徽大学计算机科学与技术学院13人工神经网络的基本特性和结构人工神经网络是具有下列特性的有向图：对于每个节点i存在一个状态变量xi；从节点j至节点i，存在一个连接权系统数wij；对于每个节点i，存在一个阈值i；对于每个节点i，定义一个变换函数fi；对于最一般的情况，此函数取形式。)(jijijixwf2019/8/2安徽大学计算机科学与技术学院14递归（反馈）网络:在递归网络中，多个神经元互连以组织一个互连神经网络，如图4.4。图4.4反馈网络x1x2xnV1V2Vn输入输出x1’x2’xn’2019/8/2安徽大学计算机科学与技术学院15前馈网络:前馈网络具有递阶分层结构，由同层神经元间不存在互连的层级组成，如图4.5。x1x2输入层输出层隐层y1ynw11w1m图4.5前馈网络反向传播2019/8/2安徽大学计算机科学与技术学院16人工神经网络的主要学习算法有师学习算法：能够根据期望的和实际的网络输出（对应于给定输入）间的差来调整神经元间连接的强度或权。无师学习算法：不需要知道期望输出。强化学习算法：采用一个“评论员”来评价与给定输入相对应的神经网络输出的优度（质量因数）。强化学习算法的一个例子是遗传算法（GA）。2019/8/2安徽大学计算机科学与技术学院17表4.2人工神经网络的典型模型模型名称有师或无师学习规则正向或反向传播应用领域AG无Hebb律反向数据分类SG无Hebb律反向信息处理ART-I无竞争律反向模式分类DH无Hebb律反向语音处理CH无Hebb/竞争律反向组合优化BAM无Hebb/竞争律反向图象处理AM无Hebb律反向模式存储ABAM无Hebb律反向信号处理CABAM无Hebb律反向组合优化FCM无Hebb律反向组合优化LM有Hebb律正向过程监控DR有Hebb律正向过程预测，控制LAM有Hebb律正向系统控制人工神经网络的典型模型2019/8/2安徽大学计算机科学与技术学院18续前表：OLAM有Hebb律正向信号处理FAM有Hebb律正向知识处理BSB有误差修正正向实时分类Perceptron有误差修正正向线性分类，预测Adaline/Madaline有误差修正反向分类，噪声抑制BP有误差修正反向分类AVQ有误差修正反向数据自组织CPN有Hebb律反向自组织映射BM有Hebb/模拟退火反向组合优化CM有Hebb/模拟退火反向组合优化AHC有误差修正反向控制ARP有随机增大反向模式匹配，控制SNMF有Hebb律反向语音/图象处理2019/8/2安徽大学计算机科学与技术学院194.2.5基于神经网络的知识表示与推理基于神经网络的知识表示在这里，知识并不像在产生式系统中那样独立地表示为每一条规则，而是将某一问题的若干知识在同一网络中表示。例如，在有些神经网络系统中，知识是用神经网络所对应的有向权图的邻接矩阵及阈值向量表示的。2019/8/2安徽大学计算机科学与技术学院20基于神经网络的推理基于神经网络的推理是通过网络计算实现的。把用户提供的初始证据用作网络的输入，通过网络计算最终得到输出结果。一般来说，正向网络推理的步骤如下：把已知数据输入网络输入层的各个节点。利用特性函数分别计算网络中各层的输出。用阈值函数对输出层的输出进行判定，从而得到输出结果。2019/8/2安徽大学计算机科学与技术学院21定义4.1模糊集合(FuzzySets)论域U到[0,1]区间的任一映射，即，都确定U的一个模糊子集F；称为F的隶属函数或隶属度。在论域U中，可把模糊子集表示为元素u与其隶属函数的序偶集合，记为：(4.12)F]1,0[:UF)(uF}|))(,{(UuuuFF4.3模糊计算4.3.1模糊集合、模糊逻辑及其运算F2019/8/2安徽大学计算机科学与技术学院22定义4.2模糊集的截集、支集和核若模糊集是论域U中所有满足μF(u)≥λ的元素u构成的集合，则称该集合为模糊集F的截集。若模糊集是论域U中所有满足μF(u)0的元素u构成的集合，则称该集合为模糊集F的支集。当u满足μF(u)=1，称为核。也就是λ=1的截集。1λ核支集λ截集2019/8/2安徽大学计算机科学与技术学院23定义4.3模糊集的运算设A和B为论域U中的两个模糊集，其隶属函数分别为μA和μB，则对于所有uU，存在下列运算：A与B的并（逻辑或）记为A∪B，其隶属函数定义为：μA∪B(u)=μA(u)μB(u)=max{μA(u),μB(u)}(4.15)A与B的交（逻辑与）记为A∩B，其隶属函数定义为：μA∩B(u)=μA(u)μB(u)=min{μA(u),μB(u)}(4.16)A的补（逻辑非）记为Ã，其传递函数定义为：μÃ(u)=1-μA(u)(4.17)2019/8/2安徽大学计算机科学与技术学院24定义4.4直积（笛卡儿乘积，代数积）若A1,A2,…,An分别为论域U1,U2,…,Un中的模糊集合，则这些集合的直积是乘积空间U1,U2,…,Un中一个模糊集合，其隶属函数为：)(,),(min),,,(12111nAAnAAuuuuunn)()()(2121nAAAuuun定义4.5模糊关系若U，V是两个非空模糊集合，则其直积U×V中的模糊子集R称为从U到V的模糊关系，表示为：(4.19)VvUuvuvuVUR,|)),(),,(((4.18)2019/8/2安徽大学计算机科学与技术学院254.3.2模糊逻辑推理模糊逻辑推理是建立在模糊逻辑基础上的不确定性推理方法，是在二值逻辑三段论基础上发展起来的。这种推理方法以模糊判断为前提，动用模糊语言规则，推导出一个近似的模糊判断结论。广义取式(肯定前提)假言推理法(GMP)推理规则可表示为：前提1：x为A’前提2：若x为A，则y为B结论：y为B’2019/8/2安徽大学计算机科学与技术学院26广义拒式(否定结论)假言推理法(GMT,GeneralizedModusTollens)的推理规则可表示为：前提1：y为B前提2：若x为A，则y为B结论：x为A’模糊变量的隐含函数基本上可分为三类，即模糊合取、模糊析取和模糊蕴涵。2019/8/2安徽大学计算机科学与技术学院27)(iNx4.3.3模糊判决方法在推理得到的模糊集合中取一个相对最能代表这个模糊集合的单值的过程就称作解模糊或模糊判决（Defuzzification）。模糊判决可以采用不同的方法：重心法、最大隶属度方法、加权平均法、隶属度限幅元素平均法。下面介绍各种模糊判决方法，并以“水温适中”为例，说明不同方法的计算过程。这里假设“水温适中”的隶属函数为：={X:0.0/0+0.0/10+0.33/20+0.67/30+1.0/40+1.0/50+0.75/60+0.5/70+0.25/80+0.0/90+0.0/100}2019/8/2安徽大学计算机科学与技术学院28重心法就是取模糊隶属函数曲线与横坐标轴围成面积的重心作为代表点。理论上应该计算输出范围内一系列连续点的重心，即(4.40)但实际上是计算输出范围内整个采样点的重心，用足够小的取样间隔来提供所需要的精度，即：xNxNdxxdxxxu)()(=48.2)()(iNiNixxxu1.重心法2019/8/2安徽大学计算机科学与技术学院29这种方法最简单，只要在推理结论的模糊集合中取隶属度最大的那个元素作为输出量即可。要求这种情况下其隶属函数曲线一定是正规凸模糊集合（即其曲线只能是单峰曲线）。例如，对于“水温适中”，按最大隶属度原则，有两个元素40和50具有最大隶属度1.0，那就对所有取最大隶属度的元素40和50求平均值，执行量应取：452/)5040(maxu2.最大隶属度法2019/8/2安徽大学计算机科学与技术学院303.系数加权平均法系数加权平均法的输出执行量由下式决定：(4.41)式中，系数的选择要根据实际情况而定，不同的系统就决定系统有不同的响应特性。ki=μN(xi)就是重心法。iiikxku/2019/8/2安徽大学计算机科学与技术学院314.4粗糙集理论粗糙集理论(RoughSettheory)是1982年由波兰数学家Z.Pawlak提出的，当时没有引起国际计算机