??最优化方法最优化方法??课程设计课程设计题目:共轭梯度法算法分析与实现院系:数学与计算科学学院专业:数学与应用数学姓名:梁婷艳学号:0800730103指导教师:丰兵日期:2015年12月30日---本文来源于网络,仅供参考,勿照抄,如有侵权请联系删除---摘要在各种优化算法中,共轭梯度法是非常重要的一种。本文主要介绍的共轭梯度法是介于最速下降法与牛顿法之间的一种无约束优化算法,它具有超线性收敛速度,而且算法构造简单,容易编程实现。在本次实验中,我们首先分析共轭方向法、对该算法进展分析,运用基于共轭方向的一种算法—共轭梯度法进展无约束优化问题的求解。无约束最优化方法的核心问题是选择搜索方向。共轭梯度法的根本思想是把共轭性与最速下降方法相结合,利用点处的梯度构造一组共轭方向,并沿这组方向进展搜索,求出目标函数的极小点。根据共轭方向的根本性质,这种方法具有二次终止性。再结合该算法编写matlab程序,求解无约束优化问题,再结合牛顿算法的理论知识,编写matlab程序,求解一样的无约束优化问题,进展比拟分析,得出共轭梯度法和牛顿法的不同之处以及共轭梯度法的优缺点。共轭梯度法仅需利用一阶导数信息,防止了牛顿法需要存储和计算Hesse矩阵并求逆的缺点,共轭梯度法不仅是解决大型线性方程组最有用的方法之一,也是解大型非线性最优化最有效的算法之一。共轭梯度法是一个典型的共轭方向法,它的每一个搜索方向是互相共轭的,而这些搜索方向仅仅是负梯度方向与上一次迭代的搜索方向的组合,因此,存储量少,计算方便。关键词:共轭梯度法;超线性收敛;牛顿法;无约束优化---本文来源于网络,仅供参考,勿照抄,如有侵权请联系删除---AbstractInavarietyofoptimizationalgorithms,conjugategradientmethodisaveryimportantone.Inthispaper,theconjugategradientmethodisbetweenthesteepestdescentmethodandNewtonmethodforunconstrainedoptimizationbetweenamethod,ithassuperlinearconvergencerate,andthealgorithmissimpleandeasyprogramming.Inthisexperiment,wefirstanalyzetheconjugatedirectionmethod,thealgorithmanalysis,theuseofaconjugatedirection-basedalgorithm-conjugategradientmethodforunconstrainedoptimizationproblems.Unconstrainedoptimizationmethodistoselectthecoreissueofthesearchdirection.Conjugategradientmethodisthebasicideaoftheconjugatedescentmethodwiththemostbinedpointsinthegradientusingtheknownstructureofasetofconjugatedirections,andsearchalongthedirectionofthisgroup,findtheminimumpointofobjectivefunction.Accordingtothebasicnatureoftheconjugatedirection,thismethodhasthequadratictermination.binedwiththepreparationofthisalgorithmmatlabprogramforsolvingunconstrainedoptimizationproblems,binedwithNewton’stheoryofknowledge,writingmatlabprogramtosolvethesameproblemofunconstrainedoptimization,parisonanalysis,theconjugategradientmethodandNewtonmethoddifferentOfficeandtheadvantagesanddisadvantagesoftheconjugategradientmethod.Conjugategradientmethodusingonlyfirstderivativeinformation,toavoidtheNewtonmethodrequiresstorageandputingtheinverseHessematrixandshortings,isnotonlytheconjugategradientmethodtosolvelargelinearsystemsoneofthemostuseful,butalsolarge-scalesolutionnonlinearoptimizationalgorithmisoneofthemosteffective.Conjugategradientmethodisatypicalconjugatedirectionmethod,eachofitssearchdirectionisconjugatetoeachother,andthesearchdirectiondisjustthenegativegradientdirectionwiththelastiterationofthesearchdirectionoftheportfolio,therefore,storagelessputationalplexity.Keywords:Conjugategradientmethod;Superlinearconvergence;NewtonmethodUnconstrainedoptimization---本文来源于网络,仅供参考,勿照抄,如有侵权请联系删除---目录1、引言12、共轭梯...