12第3卷第1期计算机工程0520年6月,30'11Xo12muegneigC0PtrEniernUe05Jn20•博士论文•文章0_42520_10_2(0101__3编号：o_380)--0_0文献标识码：A1图号：P8卬分类T1基于平衡策略的SMO改进算法韩冰，冯博琴,傅向华，马兆丰(109西安交通大学计算机科学与技术系，西安704)VVI攘要：支持向量机是一种非常优秀的机器学习技术，求解大规模二次规划问题是训练SI的关键。该文提出了一种改进方法，保持计算代价与优化步长Z间的平衡，从而加速收敛，缩短训练时问。实验结果表明，在大数据集的情况下，该方法是十分有效的。关健词：支持向量机;平衡策略；序列最小优化；机器学习mrvdSA1oihmsd0ae—ftaeyAnIp0eM0grt0BaenTrd-fSrtgBigFENGqnFUahu,AIIANn,Boi♦L,oegXingaMZhafnDprmetCoueineadTcn1gXii00gUiestXi14oS(eatnfmptrcecnehooy,'nJatnnvr•1,1709)aya10AsatSpoetc••11aeeetcianth•1en1ner1gartrgamirtomesnX1[btcIuprvcrahnc1nmaheericnudovghereudaiporinnQP0tztnnIngeqasitVyaqcmiog()p■1a■1rbeiheiigSVM••1arpossamp>reehdbsdohrdeofewent0ptt0aotadteserP01msteky0ftannThspperpoen•1ovdmtoaenteta——fbtehecmuain1csnht:Pi,zihsedh0Vrecneueh•1ftiigSmrse・whcpestecnegneadrdcstete0annVM.heiit0hxeinssotateirvdmehd•1sTers1fteeprmethwhthmpoetosaiuayeetre1rigtktrvb1eaprc11fc•1etraganns■ywrsuprvc0hnTaeore:eunamntai；ci1rnKtimae1e0diSp0etrci：rd一fstySqet1ii1PiztnMahnaigatgimaomi0eenVQarit训练sM分类器的关键是求解二次规划(udac相应的的分类规则函数为rgmnQPag但P0rmi,)问题,由于计算机内存容量是有限的,推广能力，1=1标函j1erit减少了计算量，缩短了训练时间1。但是，Keh在采取额数改为外步骤减少计算量的同时却忽略了优化步长对收敛速度的1,彩响，从而在训练过程中的某些时间里，优化步长变得非常)n・+((,==()cX)Z=Ii小，收敛速度也因此变得很慢。其中C>0为一常数，它控制对错分样本的惩罚程度，实现1支持向量机在错分样本的比例与算法复朵度之间的折中。VSM方法是从线性可分情况下的最优分类面提出的，对于非线性的分类问题，通过引入核函数，烯空间的以两类线性可分情况为例，设线性可分样本集为数据通过非线性变换映射到一髙维特征空间，在这一空间求xy,1,)…，xdi,ye{11为类别标号,可以被一个超一(ii=,nWR,+,}解最优或广义最优分类面。较为常用的核函数为：多项式核x=0V平面・+b分开，SM寻求的是这样—个分割平面，xx：【+i函数K(,)•)，径向基RF)核函数(B使得训练数据集中的点距离这一分类面尽量得远，即在满足下面的约朿条件f:op—(，)(堂)二。终结求二规问：止等最归为解次化题(•+】，，•「，[)b>1:1-71)()=厶，({+=z,妻“iKx,『n：『yx)+的情况下，最小化泛函：=)(4()这个优化问题的解可通过求解拉格朗口泛函的鞍点得s..t00,成为MO算法做了进一步改进，(•+b-+,的选择方法，通过改变了KT)】1专>0i,,K条件的判定形式并简化工作集则综合考虑了最小错分样木数和最优