工作中时常会用到浮点型数据,而对其进行运算和四舍五入之后经常会发现精度错乱的问题。
例如double a,b,c;c=a+b,然而加之前a,b都是做过四舍五入处理的,a=0.17,b=0.25 ,最后c竟然是:0.42000000000000004例如d
工作中时常会用到浮点型数据,而对其进行运算和四舍五入之后经常会发现精度错乱的问题。
例如double a,b,c;c=a+b,然而加之前a,b都是做过四舍五入处理的,a=0.17,b=0.25 ,最后c竟然是:0.42000000000000004例如d