网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索
c语言吧 关注：799,012贴子：4,355,019
  • 9回复贴，共1页

求大佬帮助，关于浮点数





输入22.345为什么我出的是22.345000他的目标会出22.344999


广告
立即查看
用float代替double试试。


精度缺失，可以去c语言网看看float和double的区别


因为float精度不够，0.345转换成二进制表示只能是一个近似值，float尾数长度23，double尾数长度52


第一个红线是通过乘基取整计算的二进制小数，可以看到这是一个二进制循环小数；
第二个红线是float 22.345 实际存储的二进制小数；
第三个红线是double 22.345 实际存储的二进制小数；
可以看到float和double类型存储的数据其实都不是精确值，只是近似值，只是float精度较低，舍入后的结果只有22.344999


最后一个字节由于地址写错了，所以打印的十六进制和二进制不对应，以二进制为准


谢谢各位大佬了。


扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频！
  • 9回复贴，共1页
分享到: