阅读背景:

计算机二级考试公共基础第一页上的例子的疑问:为什么对于单精度数A、B、C,A+B+C不等于A+B+C?

来源:互联网 
此书第一页的例子上说:
算法在执行过程中往往受到计算工具的限制,使结果产生偏差:
如某计算工具具有7位有效数字,(如程序设计语言中的单精度运算),对于求A=10^12   B=1    C=-10^12三个数的和时,如采用不同的顺序,得到不同的结果: 如某



你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到: