基于语义的新闻文本分类赵一超，郭军**（北京邮电大学信息与通信工程学院，北京100876）510152025摘要：文本分类，是自然语言处理中的一个重要领域，经过长时间发展已经形成例如朴素贝叶斯、最大熵、SVM（支持向量机）等技术。语义作为词汇的重要属性，对文本主题的特征贡献很大，因此基于语义的分类也逐渐发展成为对文本进行分类的一种方法。由于语义和主题具有相当大的紧密性，新闻文本对于语义有较强的支持性，本文就通过概率主题模型对文本的主题抽样进行研究，采用基于LDA模型的Gibbs抽样算法完成主题的提取，并通过SVM分类器进行主题分类，最终完成对新闻文本的分类这一任务。关键词：文本分类；语义；概率主题模型；Gibbs抽样；SVM中图分类号：TP391.4TheNewsTextClassificationBasedonSemanticsZHAOYichao,GUOJun(SchoolofInformationandCommunicationEngineering,BeijingUniversityofPostsandTelecommunications,Beijing100876)Abstract:TextClassificationisanimportantareaintheprocessingofnaturallanguage.Afteralongperiod,ithasdevelopedmanymaturetextclassificationtechniques,suchasNaiveBayes,MaximumEntropyModels,SVM(supportvectormachine).Semantics,astheonepropertyofword,provideagreatcontributiontothefeatureoftexttopics.Sotheclassificationbasedonsemanticsdevelopsintoamethodoftextclassification.Duringtheresearchwefindthatthesemanticshasaconsiderabletightnesswithtopics,andnewstextshavestrongsupportingforsemanticattribute.Inthepaper,itdoestheresearchonthetexttopicsamplingbyprobabilistictopicmodel.ItextractsthetopicswiththeGibbssamplingalgorithmbasedonLDA(LatentDirichletAllocation)model,anditclassifiesthetopicswithSVM(supportvectormachine)classifier.Finallyitcompletesthetextclassificationbasedonsemantics.Keywords:textclassification;semantics;probabilistictopicmodel;Gibbssampling;SVM（supportvectormachine）300引言20世纪九十年代以来，数据信息呈指数级暴涨，海量的数据带来庞大的信息查询的不便操作。文本分类的产生即是旨在通过文本的分门别类使得人们在资料找寻的过程中能更快捷、高效。新闻文本主题较统一，语义性体现良好，在语义条件下的文本分类更具操作性。3540所谓分类，就是把来自于同一总体的对象划分成两个或更多的类别的概念。文本分类系统的任务可简单的定义为：给定分类体系后，根据文本内容自动确定文本关联的类别。[1]从原始的人工分类到基于统计方法和机器学习的自动文本分类，文本分类技术发展出较成熟的分类法，如英文中的最近邻分类、贝叶斯分类(朴素贝叶斯和链式贝叶斯分类)、决策树方法以及基于支持向量机(SVM)、向量空间模型(VSM)、回归模型和神经网络等方法。中文文本分类技术发展时间较短，其研究尚处在初级阶段，目前中文文本分类技术主要在英文文本分类技术基础之上发展而来，主要集中在朴素贝叶斯、向量空间模型和支持向量机等技术上。[2]本文的研究课题主要在于通过文本词语的语义属性，改善文本分类过程中的信息扩展效作者简介：赵一超，（1988-），女，无，WEB文本分类。通信联系人：郭军，（1959-），男，教授，主要研究方向：模式识别，中文信息处理，网络管理与控制。guojun@bupt.edu.cn-1-率，从而使得分类的准确率和召回率都有所提高。文中以LDA(LatentDirichletAllocation)4550概率主题模型为侧重语义的文本主题发现的方式，再以支持向量机(SVM)方法将处理后的文本进行分类。对比其他未经主题模式处理的分类结果，发现经过语义发现后的文本分类正确率和召回率有一定的提高。本文第一节回顾了相关的研究工作，就传统的文本分类技术进行介绍并分析其改进方法；第二节介绍LDA主题概率模型的相关研究；第三节论述分类系统的相关实验及分析，并于第四节进行文章总结。1分本分类研究的相关工作1.1文本技术的发展文本分类的目的是把文档按照他们的主题或者主旨划分类别。文本分类是为了简化人们的认知过程、分门别类的整理重点发展而来的一门技术，在我们未曾涉及...