浮点数不能判等研究

浮点数不能判等研究摘要:在软件开发过程中,浮点数的表示和运算一直是重点也是难点。基于日前计算机界广泛使用的TEEE754浮点标准,针对C/C++语言中“浮点数为什么不能判等”这个典型问题进行了分析和研究,力求给软件开发及测试人员一个清晰的阐述,研究中得出了两个有趣的结论。关键词:软件;编程准则;浮点数;IEEE754:TP301文献标识码:A:1672-7800(2014)003-0046-030引言国军标5369中,明确提出“禁止对实数类型的量做是否相等的比较”。至于为什么不能进行浮点数判等,很少有软件设计人员真正明白其深层原因。工程实践中,往往有许多软件开发者会不小心忘记这条强制性编码准则,在编制程序时出现错误,从而导致了意想不到的严重后果。1典型案例描述某软件中有如下违背该准则的代码:经调试发现,程序并未执行软件编码人员意想之中的flag=l的分支,而是执行了flag二2的分支。2浮点不能判等原因分析为什么浮点数不能直接判等?这与浮点数的表示方法、范围和精度、舍入方式有关,而这些随计算机所遵循的浮点运算标准的不同而不同。---本文来源于网络,仅供参考,勿照抄,如有侵权请联系删除---2.1IEEE754标准任何数据在计算机内存中都以二进制形式顺序存储,每一个1或0被称为1位,一个字节是8位。比如一个16位的shortint型变量的值是3000,那么它的二进制表达式为0000101110111000c而对于浮点数,同样的数值可以有多种表达方式,比如213.14可以表达为21.314X10K2.1314X102或者0.21314X103,小数点的浮动使得数值的表示不能惟一,从而给数据处理带来困难。为便于软件移植,浮点数的表示格式应该冇统一标准。1985年IEEE(InstituteofElectricalandElectronicsEngineers)提出了TEEE754标准。目前绝大部分C/C++编译器都遵照该标准进行浮点运算。2.2浮点数表示IEEE754标准采用科学计数法,用符号位、阶码和尾数来表示一个浮点数,它规定底数为2,即把浮点数表示成尾数乘以2的阶码次方再添上符号位,阶码采用移码表示,尾数采用原码表示。标准中几种典型的浮点数格式如表1所示。前两种数据类型正好对应C/C++语言中的float和double精度类型,或者FORTRAN语言中的real和double精度类型。限于篇幅,本文仅对单精度和双精度这两种常用的浮点格式进行介绍。下面讨论浮点代码与其真值的关系。浮点类型数据在内存中的存储格式如图1所示。对于单精度数,最高位(bit31)是符号位S,其后8位(bit30-bil23)是阶码E,其余23位(bit22-bit0)是尾数M。对于双---本文来源于网络,仅供参考,勿照抄,如有侵权请联系删除---精度数,最高位(bit63)是符号位S,其后11位(bit62-bit52)是阶码E,其余52位(bit51-bit0)是尾数M。英中,E为浮点代码中的阶码,M为尾数,bias为阶码的偏置值。阶码为移码形式,因而阶码的真值为:阶码-阶码偏置。对于单精度数,阶码偏置为127(2(8-1)-1),阶码1〜254分别对应的阶码真值是-126-+127。对于双精度数,阶码偏置为1023(2(11-1)-1),阶码1〜2046分别对应的阶码真值是-1022〜+1023。在IEEE754标准中,阶码全为0以及全为1被保留用作特殊处理,本文不讨论标准中定义的这些特殊值。文中介绍的浮点数,其阶码为正常值,因而均属于规格化浮点数。尾数为原码形式,根据原码的规格化方法,最高数字位总是1,TEEE754标准采用隐含尾数最高数位1的方法,将这个1缺省存储,使得尾数表示范围比实际存储多一位。应注意尾数隐含的1是一位整数(即位权为20),浮点格式表示出来的尾数是纯小数并为原码形式,因而尾数的真值为:1+尾数。接下来通过两个例了进一步阐述浮点数表示。文中的(data)10代表I•进制数data,(data)b代表二进制数data0例1:若采用IEEE短实数格式,试求出32位浮点数代码0xCC968000的真值。解:将十六进制码转换成二进制浮点代码形式:b10011001,00101101000000000000000由于符号位S是1,所以该数为负数。阶码真值二(10011001)b-(127)10=(153)10-(127)10二(26)10尾数真值=1+(0.00101101)b二1+(2-3+2-5+2-6+2-8)10=1+(0.17578125)10=(1.17578125)10故该浮点数的真值为-226X1.17578125例2:将_(0・1011101)b用IEEE短实数浮点数格式表示出来。解:-(0.1011101...

1、当您付费下载文档后,您只拥有了使用权限,并不意味着购买了版权,文档只能用于自身使用,不得用于其他商业用途(如 [转卖]进行直接盈利或[编辑后售卖]进行间接盈利)。
2、本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供参考,付费前请自行鉴别。
3、如文档内容存在侵犯商业秘密、侵犯著作权等,请点击“举报”。

常见问题具体如下:

1、问:已经付过费的文档可以多次下载吗?

      答:可以。登陆您已经付过费的账号,付过费的文档可以免费进行多次下载。

2、问:已经付过费的文档不知下载到什么地方去了?

     答:电脑端-浏览器下载列表里可以找到;手机端-文件管理或下载里可以找到。

            如以上两种方式都没有找到,请提供您的交易单号或截图及接收文档的邮箱等有效信息,发送到客服邮箱,客服经核实后,会将您已经付过费的文档即时发到您邮箱。

注:微信交易号是以“420000”开头的28位数字;

       支付宝交易号是以“2024XXXX”交易日期开头的28位数字。

客服邮箱:

biganzikefu@outlook.com

所有的文档都被视为“模板”,用于写作参考,下载前须认真查看,确认无误后再购买;

文档大部份都是可以预览的,笔杆子文库无法对文档的真实性、完整性、准确性以及专业性等问题提供审核和保证,请慎重购买;

文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为依据;

如果您还有什么不清楚的或需要我们协助,可以联系客服邮箱:

biganzikefu@outlook.com

常见问题具体如下:

1、问:已经付过费的文档可以多次下载吗?

      答:可以。登陆您已经付过费的账号,付过费的文档可以免费进行多次下载。

2、问:已经付过费的文档不知下载到什么地方去了?

     答:电脑端-浏览器下载列表里可以找到;手机端-文件管理或下载里可以找到。

            如以上两种方式都没有找到,请提供您的交易单号或截图及接收文档的邮箱等有效信息,发送到客服邮箱,客服经核实后,会将您已经付过费的文档即时发到您邮箱。

注:微信交易号是以“420000”开头的28位数字;

       支付宝交易号是以“2024XXXX”交易日期开头的28位数字。

笔杆子文秘
机构认证
内容提供者

为您提供优质文档,供您参考!

确认删除?