阅读背景:

浮点型数据精度偏差与异常

来源:互联网 

工作中时常会用到浮点型数据,而对其进行运算和四舍五入之后经常会发现精度错乱的问题。

例如double a,b,c;c=a+b,然而加之前a,b都是做过四舍五入处理的,a=0.17,b=0.25 ,最后c竟然是:0.42000000000000004例如d




你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到: