文章塢号:1000-5463(2009)03-0022-03空间中变分不等式问题解的存在性与例外簇谭露琳(华南师范大学数学科学学院，广东广州510631)摘要:给出了Hilbert空何中变分不等式问题的一种新的例外簇定义，由此给出变分不等式的解的存在性定理.关键词：变分不等式问题；例外簇；存在性定理中图分类号：0224文献标识码:A设H为Hilbert空间,K为//中的一个非空闭凸集合.令〈・，・〉和11・II分别表示空间H中的内积和由此定义的范数.对于映射我们考虑与之相关的变分不等式问题，记作”(F,K)：在集合K中找寻一个向量工•，使得<F(x*),x-x*)^0(VYK)・(1)变分不等式问题在不同领域都有着很多重要的应用，比如数学规划、经济学以及运输等问题.正是基于这些方面的应用价值，变分不等式问题也成为运筹学研究领域的一个热门的前沿课题，许多学者对此问题给予了不同方面的研究〔一"，其中一个研究的重点被放在了研究问题(1)的解的存在性上.对于H为有限维空间的特殊情况，其中一种有效的手段是通过SMITH⑻、ISAC等人〔2】和ZHAO等人”"6］提出的例外簇来给出问题(1)的解的存在性定理.为了研究H为Hilbert空间的更一般情况，ISAC和ZHAO⑶对例外簇的概念进行了推广.2004年.ZHOU和BAI⑺又提出了新的一类例外簇的概念，从而推广了文献［3］的相关结论•本文将提出应用更为广泛的a-例外簇的概念，并由此给岀变分不等式问题新的解的存在性定理.1a-例外簇本节将给出a-例外簇的概念，其中a€R.令*GK,集合K在点x处的正则锥定义也9・财如下：：=-x><0,(2)定义1令且若序列|xr|r>0满足条件：1)II||(=r)-*+oo(r—>oo);2)存在数列{叮使得0—如€K且-［心)+03-£)€］W-如)(耳詁/(1“,))，(3)则称匕'},为W(F,K)关于f的一个a-例外簇.注释1我们很容易看出文献［7］研究的VI(F,K)的例外簇只是定义1中的0-例外簇.2解的存在性定理众所周知，当集合K有界时，刃(F,K)—定有解，因此，在本文中我们不妨假设集合K是无界的.对于空间H中的有界开集D,我们分别用3D和。表示集合D的边界和闭包.定义如下："(X)=X-/7K(X-F(X)).(4)下面是关于”(F,K)的1个著名结论：引理1工•是VI(FtK)的解当且仅当0(工•)=().若映射F：H—H满足：1)连续，2)对于〃中的任何有界集B,F(B)为相对紧集，则称它为全连续的;若F“-T,其中T：—H为一个全连续映射,则称F为全连续域.下面给岀关于Leray-Schauder度(记作deg(/,6刃)的2个相关结论〔切・引理2(Poincare-Bohl)假设D为H中的1个有界开集，为一个全连续映射,且人(x)=x-G(xj).如果y^h"D),那么对于0WCWl,degg,Dj)恒为常数.引理3(Kronecker)假设D为H中的一个有界开集而且/：DC//->//是一个连续的映射.如果deg(/,")工0,那么方程/(x)*在D中至少有一个解.对于f€K,a€R,我们分别定义R—H和九://如下：Ge(xj)二atf+久(-(1i)F(x)+£(x-x)+x-a^e)(止[0,1]),(5)h；(x)=X-G°(X3)・(6)引理4令f€K,a€R且如式(5)所定义•假设T=/-F为H到H上的全连续映射，那么也一定为全连续映射.证明假设(匚心)-(工0“。)・由于T为全连续的,我们可以得到||T(xJ-T(x0)||->0(m-+oo)・由式(5),可得Ca(x,t)=0^+77^((1-t)T(x)+tf-aif).故IC(—)-Q(%,ro)||w|a(—f)I・ll^ll+ll(l-^)T(xw)-(l-r0)r(x0)||+丨(1勺)(八7。)|・||f||W收稿日期：2009・04-09基金项目：国家自然科学基金资助项目(10801137)lulin_9@hotmail.com.(IaI+I1-a|)I-£0|•||f||+I17.I•II『(*■)-T(x°)||+II*IIT(x0)||^0(/HT+8),同时由于T的全连续性，根据式(5),显然Ga满足全连续映射定义中的条件2)，因此Ga也是全连续的.定理1令K为H中的一个闭凸子集，fGK.假设T=/-F为//到H的一个全连续映射，且使得如果VI(F,K)无解，那么一定存在一个VI(F.K)关于f的a-例外簇，其中a=1飞・证明假设VI(F,K)无解令Dr^\xEH：llxll<r|(r>0).我们将得到这样一个结论:对于任意2Hill,存在xr€dDr和f,€[o,l],使得fc：(xr)=0.否则，存在r0>||f||使得oei/l：(x)：xeaDfo,te[o,i]|.(7)由式(5)和式(6)且gf€K,我们可以得到h；C)=x-Ca(xti)=由“度”的定义、引理4和引理2,有Ideg((/r,Dro,O)|=丨deg(局,D，o，°)I=|deg(A；,%0)|=1.根据引理3,0=0在0。中至少有一个解，这个解就是VI(F,K)的解,这就和我们的假设...