数学模型及基本概念.ppt

第二章 优化设计的数学模型和基本概念,2.1 优化设计的数学模型2.2 优化设计的三大要素 2.3 优化设计的分类 2.4 优化设计的数学基础 2.5 优化设计的最优解及获得最优解的条件 2.6 优化设计问题的数值迭代法及其收敛条件,2.1 优化设计的数学模型,一.机械优化设计方法解决实际问题的步骤 1.分析实际问题，建立优化设计的数学模型；,分析：设计的要求（目标、准则）；设计的限制（约束）条件；设计的参数，确定设计变量。,建立：机械优化设计方法相应的数学模型。,2.分析数学模型的类型，选择合适的求解方法（优化算法）。,3.求数学模型的最优解，并对计算的结果进行评价分析,最终确定是否选用此次计算的解。,2.1 优化设计的数学模型,举例1：圆形等截面销轴的优化设计的数学模型 已知：轴的一端作用载荷 P=1000N，扭矩 M=100Nm；轴长不得小于8cm；材料的许用弯曲应力 w=120MPa，许用扭剪应力=80MPa，许用挠度 f=0.01cm；密度=7.8t/m，弹性模量E=2105MPa。,分析：设计目标是轴的质量最轻 Q=1/4 d2 l min.；,要求：设计销轴，在满足上述条件的同时，轴的质量应为最轻。,设计限制条件有5个：弯曲强度：max w 扭转强度：刚度：f f 结构尺寸：l 8,d 0,设计参数中的未定变量：d、l,2.1 优化设计的数学模型,具体化：目标函数 Q=1/4 d2 l min.约束函数 max=Pl/(0.1d3)w=M/(0.2d3)f=Pl3/(3EJ)f l 8 d 0,代入数据整理得数学模型：设：X=x1,x2 T=d,l T min.f(x)=x12x2 XR2 s.t.g1(x)=8.33 x2-x13 0 g2(x)=6.25-x13 0 g3(x)=0.34 x23-x14 0 g4(x)=8-x2 0 g5(x)=-x1 0,二.举例1（续）,2.1 优化设计的数学模型,举例2：包装箱尺寸参数设计 已知：一个体积为5m3的薄板包装箱，其中一边长度不小于4m。,分析：传统设计方法：首先固定包装箱一边长度 a=4m,满足包装箱体积为5m3的设计要求，则有很多设计方案。,要求：使薄板耗材最少，确定包装箱的尺寸参数：长a、宽b和高h。,优化设计方法：在满足包装箱的体积abh=5，长度a4,宽度b0 和高度h0的限制条件下，确定设计参数a、b、h的值，使包装箱的表面积s达到最小。,选择合适的优化方法对该优化设计问题进行求解，得到的优化结果是：,2.1 优化设计的数学模型,机械优化设计数学模型的一般形式：设 X=x1,x2,xnT min.f(x)=f(x1,x2,xn)XRn s.t.gu(x)0 u=1,2,m hv(x)=0 v=1,2,p n,设计变量 目标函数 约束函数,（性能约束）,约束函数（性能约束）约束函数（性能约束）约束函数（几何约束）约束函数（几何约束）,（不等式约束）（等式约束）,属于2维欧氏空间,根据例子中的数学模型：设：X=x1,x2 T=d,l T min.f(x)=x12x2 XR2 s.t.g1(x)=8.33 x2-x13 0 g2(x)=6.25-x13 0 g3(x)=0.34 x23-x14 0 g4(x)=8-x2 0 g5(x)=-x1 0,三.优化设计的数学模型,2.2 优化设计的三大要素,一.设计变量：,设计变量：在优化设计过程中是变化的，需要优选确定的量。设计参数：在优化设计过程中保持不变或预先确定数值。,可以是几何参数：例，尺寸、形状、位置 运动学参数：例，位移、速度、加速度 动力学参数：例，力、力矩、应力 其它物理量：例，质量、转动惯量、频率、挠度 非物理量：例，效率、寿命、成本,设计变量：优化设计问题有 n 个设计变量 x1,x2,xn，用 xi(i=1,2,n)表示，是设计向量 X 的 n个分量。设计向量：用 X=x1,x2,x nT 表示，是定义在 n 维欧氏空间中的一个向量。,2.2 优化设计的三大要素,设计点:X(k)（x1(k),x2(k),x n(k)）：是设计向量X(k)的端点，代表设计空间中的一个点，也代表第 k 个设计方案。可能是可行方案、也可能不是可行方案。,设计空间 Rn：以x1,x2,xn 为坐标轴，构成 n 维欧氏实空间Rn。它包含了所有可能的设计点，即所有设计方案。,例：右图三维空间中第1设计点：X(1)=x1(1),x2(1),x3(1)T第2设计点：X(2)=x1(2),x2(2),x3(2)T 其中：X(2)=X(1)+X(1)增量：X(1)=x1(1),x2(1),x3(1)T 即 x1(2)=x1(1)+x1(1)x2(2)=x2(1)+x2(1)x3(2)=x3(1)+x3(1),一.设计变量（续1）,2.2 优化设计的三大要素,设计变量的选取原则:尽量减少设计变量的个数，就是说尽可能将那些不很活跃的参数，根据过去设计经验或者考虑工艺、结构布置等方面的因素，可以预先取定，作为设计参数来处理。将设计指标影响较大的设计参数作为设计变量来处理。,一.设计变量（续2）,设计变量的向量形式:,=,=,xi是n维向量X的第i个分量，T是转置符，即表示把列向量转置为行向量。,2.2 优化设计的三大要素,设计约束：设计变量值(设计点)的选择不仅要使目标函数达到最优值，同时还会受一定的条件限制，这些制约条件称设计约束。,约束函数：设计约束是设计变量的函数，称为约束函数。,不等式约束函数：gu(x)0 u=1,2,m 等式约束数：hv(x)=0 v=1,2,pn,问题：是否每个设计约束中都必须包含 n个设计变量？m+p个约束呢？不等式约束能否表达成 gu(x)0？p 为什么必须小于 n?,例：有三个不等式约束 g1(x)=-x1 0 g2(x)=-x2 0 g3(x)=x12+x22-1 0,再加一个等式约束 h(x)=x1-x2=0,D,二.约束函数,2.2 优化设计的三大要素,约束（曲）面：对于某一个不等式约束 gu(x)0 中，满足 gu(x)=0的 x 点的集合构成一个曲面，称为约束（曲）面。,它将设计空间分成两部分：满足约束条件 gu(x)0 的部分和不满足约束条件 gu(x)0 的部分。,设计可行域（简称为可行域）对于一个优化问题，所有不等式约束的约束面将组成一个复合的约束曲面，包围了设计空间中满足所有不等式约束的区域，称为设计可行域。,记作 D=,g u(x)0 u=1,2,mh v(x)=0 v=1,2,p,问题：等式约束与约束曲面是什么关系？,D,二.约束函数（续1）,2.2 优化设计的三大要素,可行设计点（内点）：在可行域内任意一点称为可行设计点，代表一个可行方案。,极限设计点（边界点）：在约束面上的点称为极限设计点。,若讨论的设计点 x(k)点使得 gu(x(k)=0，则 gu(x(k)0 称为 适时约束或起作用约束。,非可行设计点（外点）：在可行域外的点称为非可行设计点，代表不可采用的设计方案。,二.约束函数（续2）,问题：极限设计点是否代表可行设计方案？什么约束一定是适时约束？可行域是否一定封闭？,二维设计平面可行域中的内点、外点和边界点,2.2 优化设计的三大要素,等式约束的特殊性：等式约束条件是对设计变量的一种特殊组合，从理论上讲，有一个等式约束条件就存在一个从最优化设计中消去某个设计变量的机会，即降低最优化设计问题维数的一次机会。等式约束条件数p必须小于优化设计问题的维数n，若np，则由n个等式约束函数方程限制了设计方案只能有唯一的解，没有最优化的余地。可行域的边界一般是等式约束，在二维设计空间中，等式约束表现为一条曲线，在三维设计空间中，等式约束一般表现为一张曲面。,二.约束函数（续3）,2.2 优化设计的三大要素,目标函数：优化设计的过程是从可行设计解中，找出一组最优解的过程。需要一个准则来评价当前设计点（解）的最优性。这个准则包含各个设计变量，作为评价函数，一般称为目标函数，也称为评价函数、准则函数、价值函数。,多目标函数：由于评价准则的非唯一性，目标函数可以是一个单目标函数，也可以是多个称为多目标函数。,单目标函数的表达式为：f(x)=f(x1,x2,xn)多目标函数的表达式为：f(x)=1f1(x)+2f2(x)+qfq(x)=,其中：f1(x)，f2(x)，fq(x)代表 q 个分设计目标；1，2，q 代表 q 个加权系数。,三.目标函数,2.2 优化设计的三大要素,说明：f(x)必须是x的函数，应随设计点的变化f(x)的值上升、下降；f(x)应该是实函数，是可计算的。但不一定通过数学公式，还可以用其它数值计算方法计算。f(x)可以是有物理意义，有单位的，也可以没有物理意义。例如，销轴的质量：Q=1/4d2l，1/4是常数，目标函数可简化为 f(x)=d2 l=x12x2,问题：f(x)是否一定应包含所有的设计变量？f(x)若是越大越好，则应如何处理？分目标函数f1(x)，f2(x)，fq(x)中，有些是越小越好，有些是越大越好，则又应如何处理？,三.目标函数(续）,2.2 优化设计的三大要素,通常根据设计准则建立：在机构优化设计中，这种准则可以是运动学和动力学的性质，如运动误差，主动力和约束反力的最大值，振动特性等 在零件和部件设计中，设计准则可以用重量、体积、效率、可靠 性、承载能力表示 对于产品设计，可以将成本、价格、寿命等作为所追求的目标。在一般情况下，这些设计指标与设计变量之间都有明显的的函数关系。,三.目标函数(续2）,2.3 优化设计的分类,一.按模型性质分：,确定型优化问题：静态优化问题（与时间无关或忽略时间因素）动态优化问题（随时间变化，系统响应变化）不确定型优化问题（随机优化问题）,二.按设计变量性质分,连续变量、离散变量、随机变量,三.按约束情况分,1.按有无约束分：无约束优化问题 约束优化问题,2.按约束性质分：区域约束（几何约束、边界约束）性能约束（功能约束、性态约束）,2.3 优化设计的分类（续）,四.按目标函数和约束函数的特性分：,线性规划问题 非线性规划问题 几何规划问题 二次规划问题,五.按目标函数的个数分：,单目标优化问题 双目标优化问题 多目标优化问题,2.4 优化设计的数学基础,一.等值（线）面：,对于可计算的函数 f(x)，给定一个设计点 X(k)(x1(k),x2(k),xn(k)，f(x)总有一个定值c 与之对应；而当f(x)取定值 c 时，则有无限多个设计点X(i)(x1(i),x2(i),xn(i)（i=1,2,）与之对应，这些点集构成一个曲面，称为等值面。,当 c 取c1,c2,等值时，就获得一族曲面族，称为等值面族。,当f(x)是二维时，获得一族等值线族；当f(x)是三维时，获得一族等值面族；当f(x)大于三维时，获得一族超等值面族。,2.4 优化设计的数学基础,等值线的“心”（以二维为例）,一个“心”：是单峰函数的极（小）值点，是全局极（小）值点。没有“心”：例，线性函数的等值线是平行的，无“心”，认为极值点在无穷远处。,多个“心”：不是单峰函数，每个极（小）值点只是局部极（小）值点，必须通过比较各个极值点和“鞍点”（须正确判别）的值，才能确定极（小）值点。,一.等值（线）面：,2.4 优化设计的数学基础,无约束最优解和约束最优解,对于无约束最优化问题，最优解就是目标函数的极值点，实际上就是目标函数等值线的中心。对于约束最优化问题，最优点往往是目标函数等值超曲面与约束超曲面的一个切点，而且可能在两个以上约束超曲面的交集上,一.等值（线）面：,局部最优解和全局最优解,2.4 优化设计的数学基础,等值线的形状：同心圆族、椭圆族，近似椭圆族；,等值线的疏密：沿等值线密的方向，函数值变化快；沿等值线疏的方向，函数值变化慢。等值线的疏密定性反应函数值变化率。,严重非线性函数病态函数的等值线族是严重偏心和扭曲、分布疏密严重不一的曲线族。,一.等值（线）面：,2.4 优化设计的数学基础,等值线的分布规律与目标函数变化规律之间的关系：对于求目标函数极小化问题来说，愈靠近极值点的等值线（面）所代表的目标函数值愈小。在极值点附近的等值线呈现椭圆形状，其中心就是极值点。,等值线举例（二维优化设计问题）：,一.等值（线）面：,令目标函数值等于一系列常数值：,则在设计平面上得到以点(2，0)为圆心，以 为半径的一族同心圆,曲线族中某一条曲线上的各点都具有相同的目标函数值。,2.4 优化设计的数学基础,二维优化问题的几何描述：例：对二维优化问题,一.等值（线）面：,进行几何描述,约束线、可行域、目标函数等值线、约束极值点,设，是设计空间 中的任意两个向量，则有：(1)xi=yi(i=1,2,n)时，称x与y相等;(2)x与y的和、差定义：(3)向量与实数 的乘积定义为：(4)当 时，称x为零向量。,2.4 优化设计的数学基础,二.向量与矩阵：,向量：,(1)向量的模：(2)向量x与y之间的距离：(3)向量x与y的内积：(4)非零向量x与y的之间的夹角：(5)在实空间 中，称 为欧氏空间，记作。,2.4 优化设计的数学基础,二.向量与矩阵：,欧式空间：,(1).设 为 中的m个向量(mn)，若有不全为零 的m个数，i=1,2,，m，使 成立，称向量组 是线性相关的。(2).若 中一组向量 线性相关，中任一向量x都 可表示为 则称 为 的一组基。,2.4 优化设计的数学基础,二.向量与矩阵：,向量的线性相关与基：,设，则有：,设，为实数，则有：,矩阵：,当m=n时，A称为n阶方阵，aii,i=1n,称为方阵的主对角元素。|称为方阵的行列式，且有：,在n阶方阵A中，当主对角元素均为，其余各元素都为零，则称为单位方阵E。,2.4 优化设计的数学基础,二.向量与矩阵：,方阵：,对于n阶方阵A,B，如果AB=E，则称B为A的逆矩阵，记为，而且可推得：,当n阶方阵各元素aii=aji，i,j=1n,称A为对称方阵。,二次型：含有n个变量x1,x2,xn的二次齐次函数,上式也可表达为：,对于任意的非零向量，恒有，则称f(X)为正二次型，A为正定矩阵。,2.4 优化设计的数学基础,二.向量与矩阵：,二次型与正定矩阵：,函数的偏导数：,偏导数是指在某坐标轴方向函数值的变化率，连续可微的n维函数，在点 的一阶偏导数表示为：，,方向导数：二维问题中，f(x1,x2)在 X(0)点沿方向 s的方向导数为：,其中：,是 X(0)点的梯度。,S 为s方向的单位向量，。,为 S 的方向角,方向导数,为方向余弦。,为梯度,在方向 s 上的投影。,三.梯度,2.4 优化设计的数学基础,2.4 优化设计的数学基础,梯度的性质：,梯度是 X(0)点处最大的方向导数；梯度的方向是过点的等值线的法线方向；梯度是X(0)点处的局部性质；梯度指向函数变化率最大的方向；正梯度方向是函数值最速上升的方向，负梯度方向是函数值最速下降的方向。,对于 n 维问题的梯度,三.梯度,例2-1 求二元函数 在 处的梯度和梯度的模,解：由梯度的定义可得：,将 代入上式得到：,的模为：,梯度的单位向量为：,2.4 优化设计的数学基础,n 维函数 f(x)在 x(k)点的台劳展开式:,二阶近似式：,其中：增量,X(k)=x1(k),x2(k),xn(k)T,梯度,Hesse 矩阵,四.Hesse 矩阵与正定,2.4 优化设计的数学基础,Hesse 矩阵的特性：是实对称矩阵。,矩阵正定的充要条件：,主子式 det(ait)0,当主子式 det(ait)0 时，矩阵半正定 det(ait)0时，矩阵负定 det(ait)0时，矩阵半负定,Hesse 矩阵的正定性：,H(x*)正定，是 x*为全局极小值点的充分条件；H(x*)半正定,是 x*为局部极小值点的充分条件；H(x*)负定，是 x*为全局极大值点的充分条件；H(x*)半负定,是 x*为局部极大值点的充分条件。,正定的二次函数：曲面为椭圆抛物面；等值线族为椭圆曲线族，椭圆中心为极小值点。,四.Hesse 矩阵与正定,2.4 优化设计的数学基础,凸集：设 D为欧氏空间Rn 中X的集合，即 DRn,XD，若D域内任意两个点x(1)，x(2)的连线上的各点都属于 D域，则的集合 D称为 Rn 内的一个凸集。否则，为非凸集。,凸函数：,f(x)是定义在 n 维欧氏空间中，凸集上的函数，同时x(1)D，x(2)D，0,1，当下式成立时，,则称f(x)为定义在凸集D上的凸函数。,f x(1)+(1-)x(2)f(x(1)+(1-)f(x(2),当上式中的为时，f(x)是严格凸函数。,五.函数的凸性,2.4 优化设计的数学基础,判别函数为凸函数的凸性条件：,按梯度判断凸性：设f(x)是定义在凸集 D上具有连续一阶导数的函数，则f(x)在D上为凸函数的充要条件是：对于任意的 x(1),x(2)D 都有 成立。,按二阶偏导数判断凸性：设f(x)是定义在凸集D上具有连续二阶导数的函数，则f(x)在D上为凸函数的充要条件是：f(x)的Hesse矩阵处处半正定。若Hesse矩阵处处正定，则f(x)为严格凸函数。,凸函数的基本性质：,若f(x)是定义在凸集D上的严格凸函数，则f(x)在D上的一个极小点，也就是全局最小点。凸函数的线性组合仍然为凸函数。f1(x)f2(x)设x(1),x(2)为凸函数 f(x)上的两个最小点，则其连线上的任意点也都是最小点。,五.函数的凸性,2.5 优化设计的最优解及获得最优解的条件,一.优化设计最优解,无约束优化设计问题最优解：,约束优化设计问题最优解：,不受约束条件限制，使目标函数达到最小值的一组设计变量，即最优点 x*=x1*,x2*,x n*和最优值 f(x*)构成无约束问题最优解。,满足约束条件，使目标函数达到最小值的一组设计变量，即最优点 x*=x1*,x2*,x n*和最优值 f(x*)构成约束问题最优解。,2.5 优化设计的最优解及获得最优解的条件,二.无约束问题的极值条件,必要条件：,充分条件：,在点 的一阶偏导数为零（即梯度向量为零向量）,如果它的二阶偏导数矩阵（即Hesse矩阵）是负定的，则为极大点；如果它的二阶偏导数矩阵是正定的，则为极小点。,例2-2 求三维函数的极值点,解：根据三维函数存在极值的必要条件，令梯度为零,2.5 优化设计的最优解及获得最优解的条件,二.无约束问题的极值条件,联解得到：,海赛矩阵行列式各阶主子式,计算点 处的Hesse矩阵,Hesse矩阵是正定的，是极小点，对应的目标函数值,2.5 优化设计的最优解及获得最优解的条件,三.有约束问题最优点的几种情况,2.有适时约束 目标函数是凸函数,可行域是凸集，则目标函数等值线与适时约束曲面的切点为最优点，而且是全局最优点。,1.无适时约束 目标函数是凸函数，可行域是凸集，则最优点是内点。相当于无约束问题的最优点。,x(k)为最优点x*的条件：必要条件：充分条件：Hesse矩阵 H(x(k)是正定矩阵,X*,f(x),x*,2.5 优化设计的最优解及获得最优解的条件,有适时约束 目标函数是非凸函数（图 a），或可行域是非凸集（图 b）：,则目标函数等值线与适时约束曲面可能存在多个切点，是局部极值点，其中只有一个点是全局最优点。,三.有约束问题最优点的几种情况,p,Q,Q,p,2.5 优化设计的最优解及获得最优解的条件,四.K-T(Kuhn-Tucker 库恩-塔克)条件 有适时约束时获得最优解的条件,1.有一个适时约束时：,与x(k)点目标函数的负梯度方向成锐角，即沿 S 方向目标函数值下降；与x(k)点约束函数的梯度方向成钝角，即保证 S方向上各点在可行域内。此时，获得最优解 x(k)为最优点 x*，f(x(k)为最优值 f(x*)。,从数学上定义，当从 x(k)点出发不存在一个 S 方向能同时满足：;，即，则获得最优解：x(k)为最优点 x*，f(x(k)为最优值 f(x*)。,从几何上看，当从 x(k)点出发不存在一个 S 方向能同时满足：,2.5 优化设计的最优解及获得最优解的条件,相反，当从x(k)点出发，存在一个S方向能同时满足：和时，则x(k)不是最优点。,从几何上看，当从x(k)点出发存在一个 S 方向能同时满足：与x(k)点目标函数的负梯度方向成锐角，即沿 S 方向目标函数值下降；与x(k)点约束函数的梯度方向成钝角，即保证 S方向上各点在可行域内。此时，x(k)不是最优点 x*。,四.K-T(Kuhn-Tucker 库恩-塔克)条件 有适时约束时获得最优解的条件,1.有一个适时约束时：,2.5 优化设计的最优解及获得最优解的条件,2.有二个适时约束时：,x(k)成为约束最优点 x*的必要条件为:,。,几何上 位于和 所张的扇形子空间内。,即不存在一个 S 方向能同时满足：,四.K-T(Kuhn-Tucker 库恩-塔克)条件 有适时约束时获得最优解的条件,2.5 优化设计的最优解及获得最优解的条件,相反，不符合以上条件：,几何上 不位于 和 所张的扇形子空间内。则 x(k)点不是最优点。,不能表达成 和 的线性组合。,即存在一个 S 方向能同时满足：,四.K-T(Kuhn-Tucker 库恩-塔克)条件 有适时约束时获得最优解的条件,2.有二个适时约束时：,2.5 优化设计的最优解及获得最优解的条件,3.K-T 条件（扩展至 m 个适时约束）：,设某个设计点 x(k)，其适时约束集为，,几何上，x(k)成为约束最优点（极小点）x*时，目标函数的负梯度向量位于 m 适时约束梯度向量所张成的子空间内。,且 为线性独立，则 x(k)成为约束最优点的必要条件是目标函数的负梯度向量可表示为适时约束梯度向量的线性组合，即。,其中，。,四.K-T(Kuhn-Tucker 库恩-塔克)条件 有适时约束时获得最优解的条件,2.5 优化设计的最优解及获得最优解的条件,K-T条件的作用：判别边界设计点 x(k)为最优点的依据，见参考书（第三版）52页例3-6、53页例3-7（要求会判断）；作为约束优化的收敛条件。,问题：K-T条件是否为充分必要条件？若是，说明理由；若不是，则说明什么情况下，可成为充要条件？有等式约束时，K-T条件是否还能适用？,四.K-T(Kuhn-Tucker 库恩-塔克)条件 有适时约束时获得最优解的条件,2.6 优化设计问题的数值迭代法及其收敛条件,一.数值迭代法：,基本思想：从设计点 x(k)出发，根据函数在该点的某些（局部）性质，确定本次搜索的方向 S(k)和步长因子(k)，从而达到一个新点 x(k+1),逐步调优，最终达到或逼近目标函数的最优点。,迭代公式：x(k+1)=x(k)+(k)S(k),迭代条件：保证得到的新点 在可行域内；目标函数值步步下降。,2.6 优化设计问题的数值迭代法及其收敛条件,迭代步骤：选择合适的初始点；寻找可行的搜索方向；确定步长因子；获得新点后，判断其是否在可行域内、目标函数值是否下降；检验是否收敛。,一.数值迭代法：,迭代法本质：迭代法实质上是一种逐次逼近的方法。这种方法用某个固定格式反复计算和校正所求问题的近似解（如方程的根、函数的极值点等），使之逐次精确化，最后得到满足精度要求的结果。,例2-3 求一维方程 在 附近的一个根,解：可将方程改写成下列形式：,用所给的初始值 代入上式的右端得到第一个近似解：,由于 和 有较大偏差，再将 作为初始值，重复上面的计算步骤，继续下去。这种逐步逼近的过程称作迭代过程。,该例求解该一维方程迭代格式：随着迭代次数逐渐增大，直至相邻两次迭代点的偏差小于预先给定的精度值为止。,总结：对于一般形式的一维方程：f(x)=0 先设法将它化为如下形式：x=g(x)从给定的初始值 出发，计算得到一个近似解的数列：如果此数列有极限，则称迭代是收敛的，数列的极限：就是一维方程f(x)=0的根。,2.6 优化设计问题的数值迭代法及其收敛条件,一.数值迭代法：,一维迭代的几何解释：,搜索算法是一种迭代算法，搜索方向和步长因子构成了每一次迭代的修正量，是决定算法好坏的重要因素。在搜索方向上，使目标函数取得极小值的步长因子，称为该方向上最优步长因子。目前已有很多优化方法，各种方法的区别就在于确定搜索方向和步长因子的方法不同。,2.6 优化设计问题的数值迭代法及其收敛条件,二.数值迭代法的分类：,1.直接搜索法 只需要进行函数值的计算与比较来确定优化的方向和步长。例如一维搜索中的黄金分割法、二次插值法等。2.间接搜索法 利用函数的一阶或二阶偏导数矩阵来确定优化方向和步长，例如梯度法以负梯度矢量方向为搜索方向，就需要计算函数的一阶偏导数矩阵。,2.6 优化设计问题的数值迭代法及其收敛条件,三.无约束优化问题收敛条件（终止准则）,当 时，（梯度准则）。依据：判断无约束优化问题最优点的必要条件：局限性：可能迭代终止在鞍点上。,当 时，或当 时（点距准则）。依据：柯西准则序列极限存在的判别法；局限性：遇到陡坡，迭代过早结束。,当 时，（下降量准则）。局限性：目标函数值变化过缓时，过早结束；当 f(x(k-1)0 时不可用。,