..面向HBase的半结构化时空数据存储与查询处理研究(封孝生,张翀,陈晓莹,唐九阳,葛斌(国防科学技术大学信息系统工程重点实验室,湖南长沙410073)摘要:随着遥感、定位等技术的不断发展,时空数据大量的产生需要科学化的管理,从而发挥其价值。研究现状中,大量的工作关注于如何利用HBase有效存储和快速查询结构化的时空数据,然而实际中,有些时空数据存在于半结构文档中,如描述遥感产品的元数据,对于这类数据,往往进行如XPath的半结构化+时空查询,这个问题在前序工作中较少讨论。本文针对在HBase中如何进行有效的半结构化时空数据存储和查询问题展开研究,首先对该问题进行形式化描述,并利用半结构化处理方法TwigStack提出了HSSST存储模型,在此基础上开展了半结构化的时空范围查询和kNN查询。在真实数据集中进行实验,与需要硬件配置较高的MongoDB进行了对比,结果表明在普通配置的机器上,本文所提出的半结构化时空查询算法与MongoDB性能相近,在实际中具有优势。关键词:时空数据;半结构化;HBase;时空范围查询;kNN查询中图分类号:TP391文献标志码:A文章编号:StorageandQueryProcessingforSemi-StructuredSpatio-TemporalDatainHBaseFENGXiaosheng,ZHANGChong,CHENXiaoying,TANGJiuyang,GEBin(ScienceandTechnologyonInformationSystemsEngineeringLaboratory,NationalUniversityofDefenseTechnology,Changsha410073,China)Abstract:Withthedevelopmentofremotesensing,positioningandothertechnology,alargeamountofspatio-temporaldatarequirescientificmanagement,andthusplayitsvalue.Inthecurrentresearchstatus,alotofworkhasfocusedonhowtoeffectivelyuseHBasetostoreandquicklyfindstructuredspatio-temporaldata.Butinpractice,sometemporaldataexistsinthesemi-structureddocuments,suchasmetadatathatdescribestheremotesensingproducts,forsuchdata,thegeneralmethodissemi-structureusedXPath+spatio-temporalquery,whichisignoredinthepreviouswork.Inthispaper,wefocusonhowtoeffectivelyachievesemi-structuredspatio-temporaldatastorageandqueryinHBase.Firstly,theformaldescriptionoftheproblemisissued.Secondly,weproposedHSSSTstoragemodelusingasemi-structuredapproachTwigStack.Onthisbasis,semi-structuredspatio-temporalrangequeryandkNNqueriesarecarriedout.Focusonrealexperimentaldata,comparingwithMongoDBwhichneedhigherhardwareconfiguration,theresultsshowthatinthegeneralconfigurationofthemachine,theperformanceofsemi-structuredspatio-temporalqueryalgorithmissimilartoMongoDB,sothatithastheadvantageinthepracticalapplication.(收稿日期:2016-XX-XX基金项目:国家自然科学基金资助项目(61303062,71331008)作者简介:封孝生(通信作者)(1971-),男,湖北蕲春人,副教授,硕士生导师,E-mail:xsfeng@nudt.edu.cn张翀(1982-),男,吉林吉林人,讲师,博士陈晓莹(1991-),女,广东汕头人,硕士研究生..Keywords:spatio-temporaldata;semi-structured;HBase;spatio-temporalrangequery;kNNquery;随着遥感、通信等技术不断深入发展与应用,遥感数据规模呈几何级增长,如何针对海量遥感数据进行高效的面向时空属性的检索,这对数据库时空查询处理技术提出了挑战。前序工作中大部分都是考虑如何索引和检索时空属性,而包含了检索关键字的工作又仅仅是考虑结构化的情况,然而对于检索遥感数据,问题背景发生了变化。通常,遥感数据本身并不是文字直接表现的数据,如卫星遥感图像、气象云图等等,因此检索遥感数据实际上是对描述遥感数据的元数据(也称编目)进行检索,而元数据是用半结构化树形结构(如XML文件)进行描述,那么问题背景变成了如何针对海量的半结构化数据进行时空+半结构化查询语言(如XPath)的检索。表1显示了一份遥感元数据样例,用户可以通过声明查询地理范围与时间范围以及半结构化查询条件来查询遥感数据,举例来说,查询区域R(以点c为圆心,r为半径)内,时间为2周以内,且...