计算机中浮点数运算的问题

发布时间:2020-08-19 22:35:02 作者:菏泽小朱
来源:网络 阅读:689

    首先我们来看一下下面一段代码:

#include <stdio.h>

int main(int argc, char *argv[])
{
    int i;
    float sum = 0;
    
    for (i = 0; i < 100; i++){
        sum += 0.1;
    } 
    
    printf("sum = %f \n", sum);
    
    return 0;
}

    在32位ubuntu16.10上的执行结果为:

sum = 10.000002

    0.1累加100次,结果应该是10.这里却多出了0.000002,为什么呢??这主要是与计算机中浮点数计算方式有关。

    大家知道计算机是只认识0和1的,也就是所有的运算数值要转化位二进制后进行运算的,而浮点数转换成二进制的小数上就会出现问题。首先介绍下十进制小数转化成二进制小数的方法:

    将十进制的整数转化为二进制时,使用的方法是连续除2,将余数从下向上读,就可以得到二进制数;相反将十进制的小数转化为二进制小数时,将小数部分乘2,直到小数部分全为0,如将十进制0.125转化为二进制为0.001:

    0   0.125 * 2 = 0.25  (取0.25的整数部分)

    0   0.25 *2  = 0.5   (取0.5的整数部分)  

     1   0.5 *2  = 1.0   (取1.0的整数部分)  

   然而并不是所有的十进制小数都能转化为二进制小数,如十进制的0.1:

    0   0.1 * 2 = 0.2

     0   0.2 * 2 = 0.4

    0   0.4 * 2 = 0.8

     1   0.8 * 2 = 1.6

    1   0.6 * 2 = 1.2

     0   0.2 * 2 = 0.4

    .

    .

    .

   可以看出将十进制的0.1转化为二进制是0.0001100011...是个无限循环的小数,所以当我们进行浮点数进行计算机运算的时候可能出现错误。

   常见的解决办法是:

    1)对于一些精度要求不高的运算可以选择忽略

    2)对于一些要求较高的科学运算,可以先将十进制的小数转化为整数再进行运算,因为计算机对整数的运算的是准确的。




推荐阅读:
  1. JS浮点数运算结果不精确的Bug解决
  2. 详解JavaScript 浮点数运算的精度问题

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

计算机 i 二进制

上一篇:python NumPy ndarray二维数组 按照行列求平均实例

下一篇:java正则表达式判断 ip 地址是否正确解析

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》