机械优化设计概述课件.ppt

机械优化设计概述,1,个人简介,2,教育经历2010/9-2014/3，同济大学，机械制造及其自动化，博士2006/9-2008/6，上海海事大学，机械电子工程，硕士2002/9-2006/6，上海海事大学，工业工程，学士科学研究研究方向：运筹学与智能优化、物流系统工程科研项目：主持国家自然科学基金、上海市晨光计划、扬帆计划、国家863项目子课题，上海市教委科研创新项目 等科研项目6项。参与国家级、省部级、企事业单位重大项目等50余项论文发表：SCI检索11篇、EI论文20余篇专利：申请或获得各种专利和软件著作权29项，其中授权发明专利3项,何军良 副教授、博士，上海市晨光学者、扬帆学者上海海事大学 中国(上海)自贸区供应链研究院上海海事大学 教育部集装箱供应链技术工程研究中心,课程安排,3,绪论+概述（2学时）优化设计的数学基础（6学时）一维搜索方法（2学时）无约束优化方法（6学时）线性规划（6学时）约束优化方法（8学时）多目标优化与离散优化（4学时）关于机械优化设计中的几个问题（2学时）考查：平时出勤+平时作业+期末考试（开卷）,绪 论,何谓最优化设计,01,机械的设计方法,INTRODUCTION,优化设计的发展,课程的主要任务和目的,02,03,04,绪论,5,绪论,6,-是用数学的方法寻求最优结果的方法和过程（在多个可行的设计方案中选择最好的一个）。,1 何谓最优化设计,机械优化设计主要包括以下两方面的内容：1.建立优化设计的数学模型2.模型求解,绪论,7,1.机械的传统设计方法-基于手工劳动或简易计算工具。,2 机械的设计方法,2.机械的现代优化设计方法-基于计算机的应用，以人机配合或自动搜索方式进行，能从“所有的”可行方案中找出“最优的”设计方案。,绪论,8,2 机械的设计方法,从传统设计到优化设计,传统设计 可行解,优化设计 最优解,绪论,9,2 机械的设计方法,例1：求圆木做成矩形截面梁，使抗弯截面系数最大时的高宽比。,解：梁的抗弯截面系数,设计过程:,（1）从实际问题中抽象出数学模型；,（2）选择合适的优化方法求解数学模型。,绪论,10,2 机械的设计方法,与传统机械设计相比，机械优化设计的优点有：,使传统机械设计中，求解可行解上升为求解最优解成为可能；使传统机械设计中，性能指标的校核可以不再进行；使机械设计的部分评价，由定性改定量成为可能；使零缺陷（废品）设计成为可能；大大提高了产品的设计质量，从而提高了产品的质量；大大提高了生产效率，降低了产品开发周期。,绪论,11,2 机械的设计方法,实际案例：,1、利用一化工优化系统，对一化工厂进行设计。根据给定数据，在16小时内，进行16000个可行性设计的选择，从中选择一成本最低、产量最大的方案，并给出必须的精确数据。以前：一组工程师，1年时间，仅仅3个方案，且并非最优。,2、美国BELL公司利用优化方法解决450个设计变量的大型结构优化问题。一个机翼质量减轻了35%。,3、波音公司在747的机身设计中收到了减轻质量、缩短生产周期、降低成本的效果。,4、武汉钢铁公司从德国引进的1700薄板轧机，经该公司自主优化之后，就多盈利几百万马克。,绪论,12,3 优化设计的发展,第一阶段人类智能优化：与人类史同步，直接凭借人类的直觉或逻辑思维，如黄金分割法、穷举法和瞎子爬山法等。,第四阶段现代优化方法：如遗传算法、模拟退火算法、蚁群算法、神经网络算法等，并采用专家系统技术实现寻优策略的自动选择和优化过程的自动控制，智能寻优策略迅速发展。,第三阶段工程优化：近二十余年来，计算机技术的发展给解决复杂工程优化问题提供了新的可能，非数学领域专家开发了一些工程优化方法，能解决不少传统数学规划方法不能胜任的工程优化问题。在处理多目标工程优化问题中，基于经验和直觉的方法得到了更多的应用。优化过程和方法学研究，尤其是建模策略研究引起重视，开辟了提高工程优化效率的新的途径。,第二阶段数学规划方法优化：从三百多年前牛顿发明微积分算起，电子计算机的出现推动数学规划方法在近五十年来得到迅速发展。,绪论,13,4 课程的主要目的和任务,学习本课程主要目的和任务：,1、了解和基本掌握机械优化设计的基本知识；,2、扩大视野，并初步具有应用机械优化设计的基本理论和基本方法解决简单工程实际问题的素质。,第一章 优化设计概述,最优化问题示例,01,优化设计问题的数学模型,优化问题的基本解法,最优化问题分类,02,03,04,机械优化主要步骤,05,15,1.1 最优化问题示例,第一章 优化设计概述,例1-1 人字架的优化设计,例1-2 机床主轴的优化问题,例1-3 平面连杆机构的优化,16,第一章 优化设计概述,例1-1 人字架的优化设计,已知顶点受力,，人字架跨度,，钢管壁厚,，钢管弹性模量,材料密度,，许用压应力,求：在钢管压应力,不超过,和失稳临界应力,条件下，,使质量m最小的高度h和直径D？,1.1 最优化问题示例,第一章 优化设计概述,例1-1 人字架的优化设计,解：（1）钢管满足的强度与稳定条件,钢管所受压力,压杆临界失稳的临界力,钢管所受的压应力,钢管的临界应力,钢管截面惯性矩：,17,1.1 最优化问题示例,18,第一章 优化设计概述,例1-1 人字架的优化设计,强度约束条件：,稳定约束条件：,问题的数学表达式是：,s.t.,1.1 最优化问题示例,第一章 优化设计概述,例1-1 人字架的优化设计,（2）解析法求解,19,假使刚好满足强度条件,将D代入目标函数m(D,h)，得,极值必要条件,求得：,1.1 最优化问题示例,第一章 优化设计概述,例1-1 人字架的优化设计,（3）图解法,20,（4）讨论,对于具有不等式约束条件的优化问题，判断哪些约束是起作用的，哪些约束条件是不起作用的，这对求解优化问题很关键。,1.1 最优化问题示例,21,第一章 优化设计概述,例1-2 机床主轴的优化设计,图示为一简化的机床主轴，已知主轴端部所受外力F，许用挠度y0。,求：最轻的主轴重量。,1.1 最优化问题示例,22,第一章 优化设计概述,例1-2 机床主轴的优化设计,解：当主轴材料选定时，设计方案由四个变量决定，即孔径d，外径D，跨距l，外伸端长度a。由于内孔通常用于通过加工棒料，不属于设计变量，故设计变量是：,机床优化设计的目标函数：,1.1 最优化问题示例,23,第一章 优化设计概述,例1-2 机床主轴的优化设计,约束条件：,1刚度,其中：,2自变量取值范围,不用考虑两个边界约束：，因为从优化设计看，都要求这两个变量往小处变化。,1.1 最优化问题示例,24,第一章 优化设计概述,例1-2 机床主轴的优化设计,因此，问题的数学表达式如下：,当给定已知条件，采用随机方向法可以求得最优解。,1.1 最优化问题示例,25,第一章 优化设计概述,例1-3 平面连杆机构的优化,设计曲柄摇杆机构，要求曲柄l1从 转到 时，摇杆l3的转角，是极位角。传动的允许角为45135，l1=1，l4=5。,1.1 最优化问题示例,26,第一章 优化设计概述,例1-3 平面连杆机构的优化,解：（1）目标函数的建立,其中：,1.1 最优化问题示例,27,1.1 最优化问题示例,第一章 优化设计概述,例1-3 平面连杆机构的优化,解：（2）约束条件,采用后面介绍的外点惩罚函数法，得到最优方案：l2*=4.1286l3*=2.3325f*=0.0156。,28,1.2 优化设计问题的数学模型,第一章 优化设计概述,优化设计的数学模型是描述实际优化问题的设计内容、变量关系、有关设计条件和意图的数学表达式，它反映了物理现象各主要因素的内在联系，是进行优化设计的基础。,1.2.1 设计变量,设计变量：在设计中需进行优选的独立的待求参数；,设计常量：在优化设计过程中保持不变或预先确定 数值；,几何参数：例，尺寸、形状、位置运动学参数：例，位移、速度、加速度动力学参数：例，力、力矩、应力物理量：例，质量、转动惯量、频率、挠度非物理量：例，效率、寿命、成本,可以是：,29,1.2 优化设计问题的数学模型,第一章 优化设计概述,设计方案：由设计常量和设计变量组成。维 数：设计变量的个数n。,1.抓主要，舍次要；2.注意连续变量与离散变量之分；3.变量的独立性；4.不要漏掉必要的设计变量；5.设计变量越多，优化问题越复杂。,确定设计变量时要注意以下问题：,通常，设计自由度越多，越能获得理想的结果，但求解难度也越大。,1.2 优化设计问题的数学模型,第一章 优化设计概述,1.2.2 设计点与设计空间Rn,（1）设计点与设计向量每组设计变量值对应于以n个设计变量为坐标轴的n维空间上的一个点，该点称设计点。原点到该点的向量称设计向量。,*设计点有连续与不连续之分，可用一个列向量表示：,（2）设计空间设计点的集合（n维实欧氏空间）。,*当设计点连续时：R1为直线，R2为平面，R3为立体空间，Rn为超越空间.,欧氏空间：由于工程设计中的设计变量都是实数，所以称这种设计空间为欧氏空间。,30,1.2 优化设计问题的数学模型,第一章 优化设计概述,1.2.3 约束条件,设计空间是所有设计方案的集合，但这些设计方案有些是工程上所不能接受的。如一个设计满足所有对它提出的要求，就称为可行设计。一个可行设计必须满足某些设计限制条件，这些限制条件称作约束条件，简称约束。,31,（1）按约束的数学形式分不等式约束等式约束,（2）按约束的作用分边界约束性能约束,-对某个设计变量直接给出取值范围，如：,-由需满足的某种性能条件而导出的约束(如强度条件、刚度条件、曲柄存在条件等）,1.2 优化设计问题的数学模型,第一章 优化设计概述,1.2.3 约束条件,32,可行设计区域,-满足所有约束函数的设计点的集合D,举例：2个设计变量问题。约束条件：,可行域D为ABCDA所围成的区域，包含边界。,1.2 优化设计问题的数学模型,第一章 优化设计概述,1.2.3 约束条件,33,在建立约束函数应注意以下问题:,1.不能有矛盾的约束；2.避免等价约束(多余约束),使模型变坏,难以求解；3.不能遗漏必要的约束,防止最优解无实用价值,甚至出现荒唐的结果；4.尽可能提出边界约束；5.谨慎对待等式约束。,等式约束极大的缩小可行域,增加求解难度.可以通过引进裕度参数，使等式约束h(X)=0放宽为h(X)-0及h(X)+0两个不等式约束。,1.2 优化设计问题的数学模型,第一章 优化设计概述,1.2.4 目标函数,为了对设计进行定量评价，必须构造包含设计变量的评价函数，它是优化的目标，称为目标函数，以F(X)表示。,34,（1）常用指标,（2）单目标和多目标,（3）常处理为极小化形式,-对极大化问题可取原函数的负值,在优化过程中，通过设计变量的不断向F(X)值改善的方向自动调整，最后求得F(X)值最好或最满意的X值。在构造目标函数时，应注意目标函数必须包含全部设计变量，所有的设计变量必须包含在约束函数中。,-最好的性能；最小的重量；最紧凑的外形；最小的生产成本；最大的经济效益等。,1.2 优化设计问题的数学模型,第一章 优化设计概述,1.2.4 目标函数,35,目标函数的几何表示：,1个设计变量的目标函数：二维平面的设计曲线；2个设计变量的目标函数：三维空间中的曲面；n个设计变量的目标函数：n+1维空间的超曲面。,1.2 优化设计问题的数学模型,第一章 优化设计概述,1.2.4 目标函数,36,目标函数的等值线或等值面：,定义：连接具有相等目标函数值的点所形成的线或面。,含有2个设计变量的等值线：,含有3个设计变量的设计问题，等值“线”是一个面；含有n个设计变量的设计问题，等值“线”是一个等值超越曲面。,1.2 优化设计问题的数学模型,第一章 优化设计概述,1.2.4 目标函数,37,等值线和等值面的用途：,优化，就是从空间某一点开始，按照某种方法，寻找“椭圆”的中心。,1.等值线聚集成一点的地方，就是目标函数取极值的地方；2.对于二维问题而言，在目标函数取极值的附近，等值线群一般是一组大小不等的同心椭圆。椭圆族的中心，就是目标函数取极值的地方；3.当相邻等值线所代表的目标函数值的差为常数时，等值线稀疏的地方，目标函数值变化慢；等值线密集的地方，目标函数值变化快。,1.2 优化设计问题的数学模型,第一章 优化设计概述,1.2.5 优化问题的数学模型,38,综上所述，最优化问题数学模型一般表示如下：,（1）对于无约束最优化问题：,式中，Rn表示n维实欧氏空间。,（2）对于约束最优化问题：,式中D表示由p个不等约束条件和q个等约束条件所规定的可行域。,1.2 优化设计问题的数学模型,第一章 优化设计概述,1.2.6 模型的求解,39,设有设计点X*=x*1,x*2,.,x*n T满足：,F(X*)=min F(X)且 XD,s.t gu(X*)0,u=1,2,.,p hv(X*)=0,v=1,2,.,q,则称X*为优化设计模型的最优点，F(X*)称为最优值,局部最优解:设X*1 D，存在X*1点的邻域N(X*1)=X|X-X*1,0的全部设计点X都满足F(X*1)F(X)，则称X*1为局部最优点。,全域最优解:设X*D，当 XD时，总有F(X*)F(X)成立，则称X*为全域最优解。,1.2 优化设计问题的数学模型,第一章 优化设计概述,1.2.7 优化问题的几何解释,40,二维问题,41,1.3 优化问题的基本解法,第一章 优化设计概述,1.3.1 最优化问题的图解法,图解法的步骤：,1.确定设计空间；2.画出有约束边界围成的约束可行域；3.做出1-2条目标函数等值线，并判断目标函数的下降方向；4.判断并确定最优点。,42,1.3 优化问题的基本解法,第一章 优化设计概述,1.3.1 最优化问题的图解法,例1-4：求解二维问题,s.t.,（1）无约束最优解,（2）约束最优解,（3）加入等式约束的最优解,43,1.3 优化问题的基本解法,第一章 优化设计概述,1.3.1 最优化问题的图解法,例1-5：求下列问题最优解,最优解：,44,1.3 优化问题的基本解法,第一章 优化设计概述,1.3.1 最优化问题的下降迭代解法,为了适应电子计算机的工作特点，要求最优化方法具有下列性质：,1.数值计算，而不是解析方法；2.具有简单的逻辑结构，并能进行反复的运算过程；3.不要求获得精确解，而只要求有足够精度的近似解。,满足上述要求的计算过程或计算方法就是所谓的数值迭代过程或数值迭代方法。,45,1.3 优化问题的基本解法,第一章 优化设计概述,1.3.1 最优化问题的下降迭代解法,（1）数值迭代的原则,2.从新点X1出发，用相同的方法求解X2点，使F(X2)F(X1)。反复进行计算,可以求出第k个迭代点Xk；,3.当计算迭代时间足够长时,便有limXkX*。,迭代公式：,核心：1.建立搜索方向 2.计算最佳步长,例：,46,1.3 优化问题的基本解法,第一章 优化设计概述,1.3.1 最优化问题的下降迭代解法,（2）终止迭代条件,收敛性指某种迭代程序产生的序列,收敛于,1.点距准则,（为预先给定的足够小的正数）,即：,例：,47,1.3 优化问题的基本解法,第一章 优化设计概述,1.3.1 最优化问题的下降迭代解法,（2）终止迭代条件,2.目标函数下降量准则,相对下降量准则,绝对下降量准则,（适用于|f(Xk+1)|1）,（适用于|f(Xk+1)|1）,48,1.3 优化问题的基本解法,第一章 优化设计概述,1.3.1 最优化问题的下降迭代解法,（2）终止迭代条件,3.梯度准则,上述三个收敛准则都在一定程度上反映了达到极值点的特点，但都不能保证所取得的设计点Xk+1 是全局最优点，它很可能是一个局部最优点，因此有必要进一步考查它是否为全局最优点。,判断全局最优点常采用的方法是：取若干个相距甚远的两点作为初始点，考查它们最后迭代的最优解是否趋于同一解。,49,1.4 最优化问题分类,第一章 优化设计概述,线性优化(LP),二次规化(QP),非线性优化(NLP),多目标优化,F(X)，gi(X)，hi(X)都是关于X的线性函数。,gi(X)，hi(X)都是关于X的线性函数，而F(X)是X的二次函数。,F(X)，gi(X)，hi(X)至少有一个是X的非线性函数。,目标函数F(X)=f1(X),f2(X),.,fp(X)T，p2。,50,1.5 机械优化主要步骤,第一章 优化设计概述,1.确定所研究问题的范围；2.建立反映实际情况的数学模型；3.选用适当的优化方法；4.编写计算机程序并进行计算；5.分析计算结果。,51,习题：,第一章 优化设计概述,1.一块长50cm宽40cm的钢板，四个角减去相等的小正方形后，做成无盖长方铁盒，要求剪去小正方形的边长为多少，使铁盒容积最大。,2.已知Xk=3,4T，dk=2,3T，=0.6。计算，并作图说明从Xk修改成Xk+1的过程。,3.用作图法求x1、x2，使目标函数 最大和最小，并满足约束条件：,第二章 优化设计的数学基础,矩阵运算,01,多元函数的方向导数与梯度,多元函数的泰勒展开,凸集、凸函数与凸规划,02,03,04,最优化问题的极值存在条件,05,53,2.1 矩阵,2.1.1 矩阵的概念,第二章 优化设计的数学基础,设一线性方程组：,如果把上面式子中的系数按原来的顺序排列起来，记作下面的形式：,它就被称为矩阵，简记为:,54,2.1 矩阵,2.1.1 矩阵的概念,第二章 优化设计的数学基础,由方阵A的全部元素构成的行列式，称为矩阵A的行列式，记为|A|。,应用MATLAB求解A=1,2,3;4,5,6;7,8,9;%生成矩阵Adet(A)%求A的行列式,当方阵A的行列式|A|=0,称A为奇异方阵；当|A|0,则称A为非奇异方阵。,55,2.1 矩阵,2.1.1 矩阵的概念,第二章 优化设计的数学基础,单位方阵：在n阶方阵中，当主对角均为1，其余各元素都为零，则称作单位矩阵，并用特定符号E表示，即：,在矩阵代数中，单位矩阵相当于一般代数中纯1的概念。,MATLAB中，单位矩阵的命令是：eye(n),56,2.1 矩阵,2.1.2 矩阵的转置,第二章 优化设计的数学基础,若将原矩阵A的行与列对换成列与行来写，就得到A的转置矩阵，用AT表示，即：,同样，行矩阵的转置为列矩阵，列矩阵的转置为行矩阵，如：,应用MATLAB求解：A=1,2,3;4,5,6;7,8,9;%生成矩阵AA%求A转置,57,2.1 矩阵,2.1.3 对称方阵,第二章 优化设计的数学基础,当方阵具有A=AT，也即各元素满足aij=aji的性质时，称A为对称方阵。其全部元素沿主对角线呈对称分布，例如：,58,2.1 矩阵,2.1.4 矩阵的运算,第二章 优化设计的数学基础,（1）矩阵相等,两个同阶数的矩阵A与B，它们的阶数相同，并且各对应元素完全相等，即aij=bij，则该两矩阵称为相等，记作A=B。,（2）矩阵的加减,两个同阶数的矩阵A与B可以进行加减运算，其和或差C亦同阶矩阵。矩阵C中各元素为矩阵A、B中各对应元素之和或差。即：,则必有相对于元素的对应关系,矩阵加法还满足交换律和结合律，设有同阶矩阵A、B、C，则有：,59,2.1 矩阵,2.1.4 矩阵的运算,第二章 优化设计的数学基础,（3）矩阵的乘法,若以数乘矩阵，得同阶矩阵C,记C=A，规定C中各元素就是A中各元素乘以，即cij=aij。表达如下：,60,2.1 矩阵,2.1.4 矩阵的运算,第二章 优化设计的数学基础,（3）矩阵的乘法,若以两个矩阵A与相乘，则必须A的列数等于B的行数时才可以进行这种运算，它的乘积仍是一个矩阵C，C的行数同A，C的列数同B，C的第 i 行 j 列的元素cij等于A中第 i 行各元素ai1,ai2,aip与B中第 j 列各元素a1j,a2j,apj逐对相乘之积的总和，即：,61,2.1 矩阵,2.1.4 矩阵的运算,第二章 优化设计的数学基础,（3）矩阵的乘法,例如：,62,2.1 矩阵,2.1.4 矩阵的运算,第二章 优化设计的数学基础,（3）矩阵的乘法,关于矩阵乘积的某些性质：,（1）当两矩阵之积为0时，并不意味着其中之一必为零矩阵。（2）当存在AB=AC的关系时，B=C的关系不一定成立。（3）当矩阵A与单位方阵相乘时，其积仍为A，即EA=A或AE=A。（4）乘积的转置(AB)T=BTAT。,63,2.1 矩阵,2.1.4 矩阵的运算,第二章 优化设计的数学基础,（4）逆矩阵,对于一个n阶方阵A（非奇异方阵），如果另有一个n阶方阵B，能满足两者之积等于单位方阵，即AB=E时，则B叫做A的逆矩阵，记作B=A-1。一个矩阵如果有逆矩阵，就叫它为可逆矩阵。逆矩阵是唯一的，由此推知：,由此看，A也是A-1的逆矩阵。,应用MATLAB求解A=1,2,3;4,5,6;7,8,9;%生成矩阵Ainv(A)%求A的逆,64,2.1 矩阵,2.1.4 矩阵的运算,第二章 优化设计的数学基础,（4）逆矩阵,把数学方程组写成矩阵的形式,若矩阵A是非奇异的（即|A|0），则A-1以左乘上式等号两端，所以：,因有，则,这里，只要求出系数矩阵的逆阵A-1，再求出乘积A-1B，即可求出未知量X。,65,2.1 矩阵,2.1.4 矩阵的运算,第二章 优化设计的数学基础,（4）逆矩阵,在线性代数中将二次齐次函数称作二次型。其矩阵形式为：,式中，G是对称矩阵。如果对任何X0的的向量都有f(x)0，则称 f 为正定二次型，并称对称矩阵G正定。对称矩阵G为正定的充要条件是G的各阶主子式都为正。,66,2.2 多元函数的方向导数与梯度,2.2.1 方向导数,第二章 优化设计的数学基础,一个二元函数f(x1,x2)在点 X0(x10,x20)处的偏导数定义是:,定义：函数沿指定方向d的平均变化率的极限。,二元函数 f(x1,x2)在 X0(x10,x20)沿d方向导数:,方向导数,67,2.2 多元函数的方向导数与梯度,2.2.2 方向余弦,第二章 优化设计的数学基础,即:,68,2.2 多元函数的方向导数与梯度,2.2.3 方向导数与偏导数的关系,第二章 优化设计的数学基础,式中，1 和2 为d与x1和x2的夹角。,当1=0或1=/2时，方向导数分别为：,或,即为方向导数,69,2.2 多元函数的方向导数与梯度,2.2.3 方向导数与偏导数的关系,第二章 优化设计的数学基础,对n元函数，仿此可得,式中，为函数对各个坐标轴的偏导数；,为d对各坐标轴方向余弦。,方向导数表明函数沿某方向的变化率，它是一个标量。当其值为正时，函数值增加；当其值为负时，函数值减小。,三元函数f(x1,x2,x3)在点 X0(x10,x20,x30)沿d方向导数:,三维空间中的方向,70,2.2 多元函数的方向导数与梯度,2.2.4 梯度,第二章 优化设计的数学基础,定义：方向导数变化最大的方向。,以二元函数为例，其方向导数为：,写成矩阵形式,式中，为d方向的单位向量。也是一个向量，称为f(X),记作,在X0的梯度，它与方向d无关。,71,2.2 多元函数的方向导数与梯度,2.2.4 梯度,第二章 优化设计的数学基础,式中，,因此，可将方向导数改写为,梯度的模为,如何推广到n维函数的梯度？,梯度的模为,梯度的意义：当 与d同向时，方向导数 为最大，沿此方向函数值增加最快。反向时，函数值下降最快。垂直时，方向导数为零，沿此方向，函数值不变。,和,分别为向量 和d的模。,为两向量的夹角。,72,2.2 多元函数的方向导数与梯度,2.2.4 梯度,第二章 优化设计的数学基础,可得出如下结论：,1.方向导数是梯度在指定方向上的投影；2.最速下降方向为等值线（面）的法线方向；3.梯度的模是最大的方向导数,负梯度方向是函数的最速下降方向；4.在与梯度垂直的方向（等值线的切线方向）上，函数的变化率为零。5.与梯度方向成锐角的方向，函数值增加；成钝角的方向，函数值减小。,73,2.2 多元函数的方向导数与梯度,2.2.4 梯度,第二章 优化设计的数学基础,例2-1 求函数f(X)=x12+x22-4x1+4在点X1=3 2T和点X2=2 0T处的梯度。,解：函数的等值线如图由梯度定义可知：,在点X1=3 2T处梯度为：,该点梯度与x1的夹角为：,梯度是该点函数等值线的法线方向。,在点X2=2 0T处的梯度为：,梯度的分量都等于零，使得该点处的函数沿任何方向的方向导数也等于零。表明该点处函数值具有稳定性，此处的函数值就是极值，该点就是极值点。,74,2.2 多元函数的方向导数与梯度,2.2.4 梯度,第二章 优化设计的数学基础,例2-1 求函数f(X)=x12+x12-4x1+4在点X1=3 2T和点X2=2 0T处的梯度。,用MATLBA求解,syms x1 x2%将x1，x2设置为符号变量f=x12+x22-4*x1+4;%写出函数表达式fx1=diff(f,x1);%对x1求偏导数;fx2=diff(f,x2);%对x2求偏导数;x1=3;x2=2;%对x1,x2求偏导数赋值;g=fx1 fx2;%梯度;g=subs(g)%把符号变量转为数值,75,2.2 多元函数的方向导数与梯度,2.2.4 梯度,第二章 优化设计的数学基础,例2-2 求函数f(X)=x12+x12-4x1-2x2+5在点X0=0 0T和处函数变化率最大的方向和数值。,解：,76,2.2 多元函数的方向导数与梯度,2.2.4 梯度,第二章 优化设计的数学基础,例2-3 一般二元二次函数的矩阵式为其中 c为常数，求梯度,解：将二元二次函数的矩阵式展开,于是梯度,即,77,2.2 多元函数的方向导数与梯度,2.2.4 梯度,第二章 优化设计的数学基础,例2-3续,对于n元二次函数,其中,梯度,推广：,78,2.3 多元函数的泰勒展开,2.3.1 一元函数的Taylor 展开式,第二章 优化设计的数学基础,研究函数的极值问题，主要研究函数在极值点附近的变化形态。在实际计算中，常取前三项(二次函数)来近似原函数：,式中：,79,2.3 多元函数的泰勒展开,2.3.2 二元函数的Taylor 展开式,第二章 优化设计的数学基础,G(X0)函数f(x1,x2)在X0处的海赛（Hessian）矩阵,80,2.3 多元函数的泰勒展开,第二章 优化设计的数学基础,例2-4 求二元函数f(x1,x2)=x12+x22-4x1-2x2+5在 点处的二阶泰勒展开。,解：,2.3.2 二元函数的Taylor 展开式,81,2.3 多元函数的泰勒展开,第二章 优化设计的数学基础,利用MATLAB绘制该曲面：x1=-5:5;x2=-5:5;%取值范围设定x1,x2=meshgrid(x1,x2);%三维曲面的分格线坐标f1=x1.2+x2.2-4.*x1-2.*x2+5;surfc(x1,x2,f1)%绘制曲面(带等高线),此函数的图像是以 X0点为顶点的旋转抛物面,例2-4续,82,2.3 多元函数的泰勒展开,2.3.3 多元函数的Taylor 展开式,第二章 优化设计的数学基础,83,2.3 多元函数的泰勒展开,2.3.3 多元函数的Taylor 展开式,第二章 优化设计的数学基础,函数f(X0)在X0处的梯度,海赛(Hessian)矩阵,84,2.3 多元函数的泰勒展开,2.3.3 多元函数的Taylor 展开式,第二章 优化设计的数学基础,若将函数的泰勒展开式只取到线性项，即取：,当将函数的泰勒展开式取到二次项时,则得到二次函数形式。在线性代数中将二次齐次函数称作二次型。,矩阵形式,当对任何非零向量x使,则二次型函数正定，G为正定矩阵。,则Z(x)是过点x0和函数f(x)所代表的超曲面相切的切平面。,85,2.3 多元函数的泰勒展开,2.3.3 多元函数的Taylor 展开式,第二章 优化设计的数学基础,Hessian 矩阵与正定,Hessian 矩阵的特性：是实对称矩阵。,矩阵正定的充要条件：矩阵G的各阶主子式都是正的，即矩阵的主子式det(ait)0。,矩阵负定的充要条件：矩阵G的奇数阶主子式det(ait)0，且偶数阶主子式det(ait)0,Hessian 矩阵的正定性：,G(x*)正定，是 x*为全局极小值点的充分条件；G(x*)负定，是 x*为全局极大值点的充分条件。,86,2.3 多元函数的泰勒展开,第二章 优化设计的数学基础,例2-5 判定矩阵G=是否正定,解：对称矩阵G的三个主子式依次为：,因此知矩阵G是正定的。,利用MATLAB求解G=6-3 1;-3 2 0;1 0 4a=det(G(1,1)%求G(1,1)行列式b=det(G(1:2,1:2)%求G(1:2,1:2)行列式c=det(G)%求G行列式,87,2.4 凸集、凸函数与凸规划,2.4.1 凸集,第二章 优化设计的数学基础,若任意两点X1,X2R，对于任意(0 10)，恒有:,*若Y是X1和X2连线上的点，则有,整理后即得,凸集,非凸集,则 R 为凸集。,88,2.4 凸集、凸函数与凸规划,2.4.2 凸函数,第二章 优化设计的数学基础,设f(x)为定义在Rn内一个凸集D上的函数，若对于，对于任意(0 10)及D上的任意两点x1,x2，恒有:,则 f(x)为定义在D的凸函数。,（1）定义,89,2.4 凸集、凸函数与凸规划,2.4.2 凸函数,第二章 优化设计的数学基础,（2）凸函数的基本性质,1.设F(x)为定义在凸集R上的凸函数，为任意正实数,则 F(x)也是定义在R上的凸函数。,证：由定义,两边乘上,2.设F1(x)，F2(x)均为定义在凸集R上的凸函数，则F1(x)+F2(x)也是定义在R上的凸函数。,证：由定义,两式相加后整理可得证,90,2.4 凸集、凸函数与凸规划,2.4.2 凸函数,第二章 优化设计的数学基础,（2）凸函数的基本性质,3.设F1(x)，F2(x)均为定义在凸集R上的凸函数，1，2为任意正实数，则1 F1(x)+2 F2(x)也是定义在R上的凸函数。,91,2.4 凸集、凸函数与凸规划,2.4.3 凸规划,第二章 优化设计的数学基础,（2）凸函数的基本性质,对于约束优化问题,若其中f(x)和gi(x)均为凸函数，则这样的规划问题称为凸规划。,性质：,1.若给定一点X0，则集合R=X|f(X)f(X0)为凸集。此性质表明，当f(X)为二元函数时，其等值线呈现大圈套小圈形式；2.可行域R=X|gj(X)j=1,2,m为凸集；3.凸规划的局部极小点一定是全局极小点。,92,2.5 最优化问题存在的极值条件,2.5.1 无约束问题的极值存在条件,第二章 优化设计的数学基础,1.必要条件,即,（1）一元函数具有极小值的充要条件,（2）二元函数具有极小值的充要条件,93,2.5 最优化问题存在的极值条件,2.5.1 无约束问题的极值存在条件,第二章 优化设计的数学基础,1.充分条件,设,则,若X0是极小点，因此需满足：,即要求,或要求,也就是海赛矩阵G(X0)的各阶主子式大于0，即海赛矩阵正定。,94,2.5 最优化问题存在的极值条件,2.5.1 无约束问题的极值存在条件,第二章 优化设计的数学基础,（3）多元函数具有极小值的充要条件,梯度为零向量,海赛矩阵正定,