计算机中浮点数运算的问题

  

,,,,首先我们来看一下下面一段代码:

 # include  & lt; stdio.h>
  
  命令行参数个数,int 主要(int  char  * argv [])
  {
  ,,,int 我;
  ,,,float  sum =, 0;
  ,,,,
  ,,,for (小姐:=,0;,小姐:& lt;, 100;,我+ +){
  ,,,,,,,sum  +=, 0.1;
  ,,,},
  ,,,,
  ,,,printf ("=sum  % f  \ n”,,金额);
  ,,,,
  ,,,return  0;
  }

,,在32位ubuntu16.10上的执行结果为:

 sum =, 

10.000002,,0.1累加100次,结果应该是10。这里却多出了0.000002,为什么呢? ?这主要是与计算机中浮点数计算方式有关。

,,大家知道计算机是只认识0和1的,也就是所有的运算数值要转化位二进制后进行运算的,而浮点数转换成二进制的小数上就会出现问题。首先介绍下十进制小数转化成二进制小数的方法:

,,将十进制的整数转化为二进制时,使用的方法是连续除2,将余数从下向上读,就可以得到二进制数;相反将十进制的小数转化为二进制小数时,将小数部分乘2,直到小数部分全为0,如将十进制0.125转化为二进制为0.001:

,,,, 0,0.125 * 2=0.25,(取0.25的整数部分)

,,,, 0,,0.25 * 2=0.5,(取0.5的整数部分),

,,,1,0.5 * 2=1.0,(取1.0的整数部分),

,,然而并不是所有的十进制小数都能转化为二进制小数,如十进制的0.1:

,,,,

,,,00.2 * 2=0.4

,,,, 0,0.4 * 2=0.8

,,,10.8 * 2=1.6

,,,, 1,0.6 * 2=1.2

,,,

,,,,。

,,,,。

,,,,。

,,可以看出将十进制的0.1转化为二进制是0.0001100011……是个无限循环的小数,所以当我们进行浮点数进行计算机运算的时候可能出现错误。

,,常见的解决办法是:

,,,, 1)对于一些精度要求不高的运算可以选择忽略

,,,, 2)对于一些要求较高的科学运算,可以先将十进制的小数转化为整数再进行运算,因为计算机对整数的运算的是准确的。




计算机中浮点数运算的问题