面向HBase的半结构化时空数据存储与查询处理研究

..面向HBase的半结构化时空数据存储与查询处理研究(封孝生,张翀,陈晓莹,唐九阳,葛斌(国防科学技术大学信息系统工程重点实验室,湖南长沙410073)摘要:随着遥感、定位等技术的不断发展,时空数据大量的产生需要科学化的管理,从而发挥其价值。研究现状中,大量的工作关注于如何利用HBase有效存储和快速查询结构化的时空数据,然而实际中,有些时空数据存在于半结构文档中,如描述遥感产品的元数据,对于这类数据,往往进行如XPath的半结构化+时空查询,这个问题在前序工作中较少讨论。本文针对在HBase中如何进行有效的半结构化时空数据存储和查询问题展开研究,首先对该问题进行形式化描述,并利用半结构化处理方法TwigStack提出了HSSST存储模型,在此基础上开展了半结构化的时空范围查询和kNN查询。在真实数据集中进行实验,与需要硬件配置较高的MongoDB进行了对比,结果表明在普通配置的机器上,本文所提出的半结构化时空查询算法与MongoDB性能相近,在实际中具有优势。关键词:时空数据;半结构化;HBase;时空范围查询;kNN查询中图分类号:TP391文献标志码:A文章编号:StorageandQueryProcessingforSemi-StructuredSpatio-TemporalDatainHBaseFENGXiaosheng,ZHANGChong,CHENXiaoying,TANGJiuyang,GEBin(ScienceandTechnologyonInformationSystemsEngineeringLaboratory,NationalUniversityofDefenseTechnology,Changsha410073,China)Abstract:Withthedevelopmentofremotesensing,positioningandothertechnology,alargeamountofspatio-temporaldatarequirescientificmanagement,andthusplayitsvalue.Inthecurrentresearchstatus,alotofworkhasfocusedonhowtoeffectivelyuseHBasetostoreandquicklyfindstructuredspatio-temporaldata.Butinpractice,sometemporaldataexistsinthesemi-structureddocuments,suchasmetadatathatdescribestheremotesensingproducts,forsuchdata,thegeneralmethodissemi-structureusedXPath+spatio-temporalquery,whichisignoredinthepreviouswork.Inthispaper,wefocusonhowtoeffectivelyachievesemi-structuredspatio-temporaldatastorageandqueryinHBase.Firstly,theformaldescriptionoftheproblemisissued.Secondly,weproposedHSSSTstoragemodelusingasemi-structuredapproachTwigStack.Onthisbasis,semi-structuredspatio-temporalrangequeryandkNNqueriesarecarriedout.Focusonrealexperimentaldata,comparingwithMongoDBwhichneedhigherhardwareconfiguration,theresultsshowthatinthegeneralconfigurationofthemachine,theperformanceofsemi-structuredspatio-temporalqueryalgorithmissimilartoMongoDB,sothatithastheadvantageinthepracticalapplication.(收稿日期:2016-XX-XX基金项目:国家自然科学基金资助项目(61303062,71331008)作者简介:封孝生(通信作者)(1971-),男,湖北蕲春人,副教授,硕士生导师,E-mail:xsfeng@nudt.edu.cn张翀(1982-),男,吉林吉林人,讲师,博士陈晓莹(1991-),女,广东汕头人,硕士研究生..Keywords:spatio-temporaldata;semi-structured;HBase;spatio-temporalrangequery;kNNquery;随着遥感、通信等技术不断深入发展与应用,遥感数据规模呈几何级增长,如何针对海量遥感数据进行高效的面向时空属性的检索,这对数据库时空查询处理技术提出了挑战。前序工作中大部分都是考虑如何索引和检索时空属性,而包含了检索关键字的工作又仅仅是考虑结构化的情况,然而对于检索遥感数据,问题背景发生了变化。通常,遥感数据本身并不是文字直接表现的数据,如卫星遥感图像、气象云图等等,因此检索遥感数据实际上是对描述遥感数据的元数据(也称编目)进行检索,而元数据是用半结构化树形结构(如XML文件)进行描述,那么问题背景变成了如何针对海量的半结构化数据进行时空+半结构化查询语言(如XPath)的检索。表1显示了一份遥感元数据样例,用户可以通过声明查询地理范围与时间范围以及半结构化查询条件来查询遥感数据,举例来说,查询区域R(以点c为圆心,r为半径)内,时间为2周以内,且...

1、当您付费下载文档后,您只拥有了使用权限,并不意味着购买了版权,文档只能用于自身使用,不得用于其他商业用途(如 [转卖]进行直接盈利或[编辑后售卖]进行间接盈利)。
2、本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供参考,付费前请自行鉴别。
3、如文档内容存在侵犯商业秘密、侵犯著作权等,请点击“举报”。

常见问题具体如下:

1、问:已经付过费的文档可以多次下载吗?

      答:可以。登陆您已经付过费的账号,付过费的文档可以免费进行多次下载。

2、问:已经付过费的文档不知下载到什么地方去了?

     答:电脑端-浏览器下载列表里可以找到;手机端-文件管理或下载里可以找到。

            如以上两种方式都没有找到,请提供您的交易单号或截图及接收文档的邮箱等有效信息,发送到客服邮箱,客服经核实后,会将您已经付过费的文档即时发到您邮箱。

注:微信交易号是以“420000”开头的28位数字;

       支付宝交易号是以“2024XXXX”交易日期开头的28位数字。

客服邮箱:

biganzikefu@outlook.com

所有的文档都被视为“模板”,用于写作参考,下载前须认真查看,确认无误后再购买;

文档大部份都是可以预览的,笔杆子文库无法对文档的真实性、完整性、准确性以及专业性等问题提供审核和保证,请慎重购买;

文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为依据;

如果您还有什么不清楚的或需要我们协助,可以联系客服邮箱:

biganzikefu@outlook.com

常见问题具体如下:

1、问:已经付过费的文档可以多次下载吗?

      答:可以。登陆您已经付过费的账号,付过费的文档可以免费进行多次下载。

2、问:已经付过费的文档不知下载到什么地方去了?

     答:电脑端-浏览器下载列表里可以找到;手机端-文件管理或下载里可以找到。

            如以上两种方式都没有找到,请提供您的交易单号或截图及接收文档的邮箱等有效信息,发送到客服邮箱,客服经核实后,会将您已经付过费的文档即时发到您邮箱。

注:微信交易号是以“420000”开头的28位数字;

       支付宝交易号是以“2024XXXX”交易日期开头的28位数字。

文秘专家
机构认证
内容提供者

1

确认删除?