数学建模(方红)教学课件22.人工神经网络.ppt
《数学建模(方红)教学课件22.人工神经网络.ppt》由会员分享,可在线阅读,更多相关《数学建模(方红)教学课件22.人工神经网络.ppt(47页珍藏版)》请在三一办公上搜索。
1、人工神经网络,华中农业大学数学建模基地系列课件,内容提要,神经网络基本原理和思想介绍实际应用与Matlab相应的语法介绍参数的选取原则,神经网络基本原理和思想介绍,引 言,利用机器模仿人类的智能是长期以来人们认识自然、改造自然和认识自身的理想。研究ANN目的:(1)探索和模拟人的感觉、思维和行为的规律,设计具有人类智能的计算机系统。(2)探讨人脑的智能活动,用物化了的智能来考察和研究人脑智能的物质过程及其规律。,ANN的研究内容,神经网络基本原理和思想介绍,理论研究:ANN模型及其学习算法,试图从数学上描述ANN的动力学过程,建立相应的ANN模型,在该模型的基础上,对于给定的学习样本,找出一种
2、能以较快的速度和较高的精度调整神经元间互连权值,使系统达到稳定状态,满足学习要求的算法。实现技术的研究:探讨利用电子、光学、生物等技术实现神经计算机的途径。应用的研究:探讨如何应用ANN解决实际问题,如模式识别、故障检测、智能机器人等。,神经网络基本原理和思想介绍,研究ANN方法,生理结构的模拟:用仿生学观点,探索人脑的生理结构,把对人脑的微观结构及其智能行为的研究结合起来即人工神经网络(Artificial Neural Netwroks,简称ANN)方法。宏观功能的模拟:从人的思维活动和智能行为的心理学特性出发,利用计算机系统来对人脑智能进行宏观功能的模拟,即符号处理方法。,神经网络基本原
3、理和思想介绍,ANN研究的目的和意义,通过揭示物理平面与认知平面之间的映射,了解它们相互联系和相互作用的机理,从而揭示思维的本质,探索智能的本源。争取构造出尽可能与人脑具有相似功能的计算机,即ANN计算机。研究仿照脑神经系统的人工神经网络,将在模式识别、组合优化和决策判断等方面取得传统计算机所难以达到的效果。,神经网络基本原理和思想介绍,神经网络研究的发展,第一次热潮(40-60年代末)1943年,美国心理学家W.McCulloch和数学家W.Pitts在提出了一个简单的神经元模型,即MP模型。1958年,F.Rosenblatt等研制出了感知机(Perceptron)。低潮(70-80年代初
4、)第二次热潮 1982年,美国物理学家提出Hopfield模型,它是一个互联的非线性动力学网络.他解决问题的方法是一种反复运算的动态过程,这是符号逻辑处理方法所不具备的性质.1987年首届国际ANN大会在圣地亚哥召开,国际ANN联合会成立,创办了多种ANN国际刊物。1990年12月,北京召开首届学术会议。,神经网络基本原理和思想介绍,人工神经网络研究的局限性,(1)ANN研究受到脑科学研究成果的限制。(2)ANN缺少一个完整、成熟的理论体系。(3)ANN研究带有浓厚的策略和经验色彩。(4)ANN与传统技术的接口不成熟。,人工神经网络概述,什么是人工神经网络?T.Koholen的定义:“人工神经
5、网络是由 具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。”,神经网络基本原理和思想介绍,神经网络基本原理和思想介绍,神经元与神经网络,大脑可视作为1000多亿神经元组成的神经网络,图1 神经元的解剖图,神经网络基本原理和思想介绍,神经元的信息传递和处理是一种电化学活动树突由于电化学作用接受外界的刺激;通过胞体内的活动体现为轴突电位,当轴突电位达到一定的值则形成神经脉冲或动作电位;再通过轴突末梢传递给其它的神经元从控制论的观点来看;这一过程可以看作一个多输入单输出非线性系统的动态过程,神经元工作原理,神经网络研究的两个方面从生理上、解剖
6、学上进行研究从工程技术上、算法上进行研究,神经网络基本原理和思想介绍,脑神经信息活动的特征,巨量并行性;信息处理和存储单元结合在一起;自组织自学习功能。,神经网络基本原理和思想介绍,神经网络基本模型,图2 神经网络的基本模型,神经网络基本原理和思想介绍,神经元的数学模型,图3 神经元的数学模型,神经网络基本原理和思想介绍,x(x1,xm)T 输入向量,y为输出,wi是权系数;输入与输出具有如下关系:,注:其中为阈值,f(X)是激发函数;它可以是线性函数,也可以是非线性函数,神经元的数学模型,神经网络基本原理和思想介绍,几种常用的作用函数,阀值型(硬限制型)线性型S型函数(Sigmoid)辐射基
7、函数,阀值型一(硬限制型),神经网络基本原理和思想介绍,神经网络基本原理和思想介绍,阀值型二(硬限制型),线性型,全线性,神经网络基本原理和思想介绍,正线性,神经网络基本原理和思想介绍,神经网络基本原理和思想介绍,S型函数(Sigmoid),对数正切 y=1/(e-n+1),双曲正切 y=tanh(n),神经网络基本原理和思想介绍,神经网络基本原理和思想介绍,辐射基函数,高斯函数,神经网络基本原理和思想介绍,三角波函数,神经网络基本原理和思想介绍,神经网络的数学模型,众多神经元之间组合形成神经网络,例如下图的含有中间层(隐层)的B-P网络,图4 B-P神经网络示意图,神经网络基本原理和思想介绍
8、,神经网络基本模型,图5 神经网络基本模型示意图,神经网络基本原理和思想介绍,该算法的学习过程由正向传播和反向传播组成。在正向传播过程中,输入信息从输入层经隐含层逐层处理,并传向输出层。每一层神经元的状态只影响下一层神经元的状态。如果输出层得不到期望的输出,则转入反向传播,将误差信号沿原来的连接通道返回,通过修改各层神经元的权值,使得误差信号最小。,BP神经网络基本思想,神经网络基本原理和思想介绍,Matlab形式,描述输出与加权系数的关系,神经网络基本原理和思想介绍,I/O 关系,I-H a 1=tansig(IW 1,1 p 1+b 1)tansig(x)=tanh(x)=(ex-e-x)
9、/(ex+e-x)H-O a 2=purelin(LW 2,1 a 1+b 2)输入层神经元个数n隐含层神经元个数s1输出层神经元个数s2,神经网络基本原理和思想介绍,学习(训练),输入q组样本p1,p2,.,pq piRn期望输出 T1,T2,.,Tq,T Rs2网络输出a1,a2,.,aq aRs2,均方误差,向量情况,神经网络基本原理和思想介绍,优化目标:误差最小实质为一个优化问题解决思路1:梯度法(gradient)找出误差与加权系数的关系 得到加权系数改变的规律,神经网络基本原理和思想介绍,神经网络的主要用途,函数逼近:用输入矢量和相应的输出矢量训练网络逼近某个函数;模式识别:用一个
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 数学 建模 教学 课件 22. 人工 神经网络
![提示](https://www.31ppt.com/images/bang_tan.gif)
链接地址:https://www.31ppt.com/p-5985093.html