浮点型转字符型有效位数问题

发布时间:2020-07-05 12:45:45 作者:38734603
来源:网络 阅读:349

float是单精度型占4个字节(32位),只能提供7位有效数字,小数点后最多保留6位。
double是双精度型占4个字节(64位),只能提供16位有效数字,小数点后最多保留6位。



遇到的问题: 83427.746 在float类型下转成NSstring 类型 变成83427.742188产生巨大偏差,导致四舍五入,在Double类型下正常,经测试发现大于65536之后,三位小数都会失真


推荐阅读:
  1. 如何将php字符串转为浮点型
  2. PHP怎么处理浮点型的数据

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

double 小数点

上一篇:ImageMagic图像处理软件及扩展模块,如何在php配置中添加扩展的模块

下一篇:Ansible批量安装Zabbix-agnet客户端;

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》