浮点数的存储

发布时间:2020-07-14 20:51:59 作者:程红玲OOO
来源:网络 阅读:799

读了陈皓老师的魔数一文,对浮点数的存储有了比较清晰的理解

float的存储是32位的,而double的存储方式是64位

存储格式如下图
浮点数的存储

以64位双精度来说

S是符号位,0为正数,1为负数
E是指数部分,11位可以表示的范围是0~2047,为了能表示负数,这11位表示的数范围是-1023~1023

每个浮点数都可以表示为2^n < 浮点数 < 2^(n+1)的形式
这里的n+1023就是指数E,以3.14为例子,2^1 < 3.14 < 2^2,E=1024
52bit可以表示的数是0~2^52-1,即2^52个数,我们可以把2^n~2^(n+1)分成2^52等份,看浮点占了多少比例,以3.14为例子,(3.14-2)/(4-2)=0.57,则0.57*2^52=2567051787601182.72,四舍五入M=2567051787601183

所以3.14在计算机中的存储为
0 10000000000 1001000111101011100001010001111010111000010100011111

浮点数的计算方式:
(-1)^S (1 + (M / 2^23)) (2 ^ E-127)
64位的就类似下面这个式子了
(-1)^S (1 + (M / 2^52)) (2 ^ E-1023)

(-1)^0 (1 + 0.57000000000000006217248937900877) (2 ^ 1) = 3.1400000000000001243449787580175
有一定的误差

《完》

推荐阅读:
  1. Go语言浮点数的存储方式
  2. python浮点数陷阱

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

浮点数 存储

上一篇:OPEN RESETLOGS ,报ORA-00392 ORA-00312 in Oracle12c

下一篇:【超详细】反向代理Squid 缓存服务器+ ACL 访问控制 + 日志分析

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》