子空间高斯混合模型在中文语音识别系统中的实现肖云鹏，朱维彬**510152025（北京交通大学计算机学院信息科学研究所，北京100044）摘要：当前，语音识别系统主要采用隐马尔可夫模型作为声学建模以及声学解码的基本模型。但是在考虑上下文以后，细化模型的数量以及参数规模急剧增长。在训练数据有限的情况下,会带来参数训练不充分的问题。本文引入一种新型的子空间高斯混合模型框架。区别于传统的HMM框架每个状态均关联若干个均值方差参数来计算输出概率，子空间高斯混合模型的每个状态只关联一个低维的映射向量，其均值和方差通过所有状态共享的映射矩阵计算，这使得模型的参数表示变得十分紧凑。实验结果表明，子空间高斯混合模型框架在训练数据有限的情况下使得中文语音识别系统的词错误率相对下降约28%；同时现有的优化算法，如模型细化、特征优化、区分性训练等，在该框架下依然有效。关键词：语音识别；隐马尔可夫模型；子空间高斯混合模型：TP391.42SubspaceGaussianMixtureModelsforChineseSpeechRecognitionXIAOYunpeng,ZHUWeibin(InstituteofInformationScience,Bei激ng激aotongUniversity,Bei激ng100044)Abstract:HiddenMarkovModelcurrentlyservesasthebasicacousticmodelofspeechrecognitionsystem.However,thenumberofparametershaveadramaticincreaseaftertakingaccountofcontext.Duetothelimitationoftrainingspeech,theparametersofclassicHiddenMarkovModelmaynotbefullytrained.ThispaperintroduceanewframeworknamedSubspaceGaussianMixtureModel,inwhichallHMMstatethesameGaussianMixtureModel.Themodelisdefinedbyvectorsassociatedwitheachstatewithalessdimensionof,say50,togetherwithaglobalmappingfromthisvectorspacetothespaceofparametersofGMM.Theresultshowsthatthisframeworkdecreasestheworderrorrateby7%basedonthelimitedtrainingspeech.Keywords:SpeechRecognition;HiddenMarkovModel;SubspaceGaussianMixtureModel300引言对于隐马尔可夫模型（HiddenMarkovModel，HMM）来说，在实际应用中为了考虑协同发音的影响，一般采用与上下文相关的三音子声学模型来进行建模。在单音子的声学模型扩展成三音子的声学模型以后，同一个当前时间的发音由于搭配了不同的上下文便需要使用3540不同的模型来刻画，这可能使得模型的数量膨胀到原先模型数量的三次方，即使能够基于决策树进行状态捆绑，一般来说还是会有至少上千个状态。对于在训练数据量有限的情况下，每个状态并不能保证被充分训练。在2009年，约翰霍普金斯大学的夏季研讨会上，以DanielPovey为首的研究人员提出了一种新的子空间高斯混合模型[1][2]（SubspaceGaussianMixtureModel，SGMM）。它的每一个状态依然对应一个混合高斯函数（GMM），只是该混合高斯函数的均值，方差，权重通过一个向量分别和均值，方差，权重的映射矩阵计算得到，该向量与当前状态相关，而参作者简介：肖云鹏，（1988-），男，硕士研究生，主要研究方向：语音识别。通信联系人：朱维彬，（1966-），男，博士，北京交通大学信息科学研究所副教授，主要研究方向：语音声学建模，韵律分析以及言语情感计算.wbzhu@bjtu.edu-1-p(x|j)∑w激N(x;激i)expwijv∑expwvj数的映射矩阵则为所有状态共享。这样使得原先每个状态的相关参数从多维的均值，方差，权重减少到了只有一个与特征维数相近的状态向量。由于该框架中的主要参数是所有状态共享的，这些参数能够通过所有的训练数据进行更新。这使得在有限的训练数据下，模型参数4550能够得到更充分的训练。本文将子空间高斯混合模型结构引入到中文语音识别系统中，并结合现有的常规模型优化手段对该模型结构的识别率进行了测试。在第一章中将会给出模型相关的原理和公式。接着第二章描述中文子空间高斯混合模型的构建与测试，最后一章对测试结果进行了分析与总结。1子空间高斯混合模型1.1基本形式传统隐马尔可夫模型一个模型内有若干个状态，每个状态对应一个输出概率，状态之间的转移概率由状态跳转矩阵来刻画，而状态产生一个观察矢量的概率由一个混合高斯分布来刻画[3]...