大家好,欢迎来到IT知识分享网。
本来印象中float只是小数精度不够,最近项目中遇到一些问题,发现float能表示的整数范围也很小。于是重新学习了下float的存储问题,记录如下。
项目中遇到的问题:
有一个float类型的变量,需要不断地+1。在加到一个八位数的数字后,该变量+1后与执行+1前输出的结果相同。
即整数部分出现了精度不够。
代码说明:
#include<iostream>
#include<iomanip>
using namespace std;
int main() {
float float_i = ;
float_i++;
cout << fixed << setprecision(0) << float_i << endl;
return 0;
}
输出结果仍是
float存储模型
以32位的float为例,它的存储模型为:
符号位(1位) 指数位(8位) 尾数位(23位)
也可把指数位理解成:小数点方向位(1位)+指数位(7位)
内存中数据与实际表达值的转换
一个浮点数转化为内存中的存储方法如下:
1、决定符号位。若数为正,符号位取0,反之取1。
2、整数部分和小数部分分别转化为二进制。
3、转化后的二进制拼接在一起。如整数位二进制为100,小数位为01,则拼接为1001。
4、将拼接后的数字转化为科学计数法,即 1.0001 ∗ 1 0 2 1.0001*10^21.0001∗102
5、指数位为2。存储时存实际值+127的值,即指数位为。
6、尾数位表示科学计数法中的底数。由于科学计数法第一位必为1,故统一省略,尾数位只需表示0001。
7、尾数位后面补0。
8、得到结果0 00000000000
对指数位的另一种理解
另一种理解是小数点方向位(1位)+指数位(7位)
如上例中拼接后的100.01,变成 1.0001 ∗ 1 0 2 1.0001*10^21.0001∗10
2
,小数点左移,对应小数方向位为1。
再如0.001,变成 1 ∗ 1 0 − 3 1*10^{-3}1∗10−3
,小数点右移,对应小数方向位为0。
在此模型下,指数位为实际数字-1,如上例中的指数位为2,在该模型下对应的指数位为0000001。
其他计算方法不变,故上例中的数字在这种理解下为0 1 0000001 00000000000。最后表示出来的结果是一样的,只是理解不同。
float能表示的不丢失精度的最大整数范围
由上述模型可知,float只有24位是表示具体数值的(23位尾数位+1位默认为1而省略掉的科学计数法的头部)。故当float的范围超出 2 24 2^{24}2
24
时,float类型的++操作将因为精度不够,而在整数位出现丢失精度的情况。
代码验证如下:
#include<iostream>
#include<iomanip>
using namespace std;
int main() {
float float_i = 1;
int int_j = 1;
while (float_i == int_j) {
float_i++;
int_j++;
}
cout << fixed << setprecision(0) << float_i << endl;
cout << int_j << endl;
cout << float_i + 10 << endl;
for (int i = 0; i < 10; ++i) { ++float_i; }
cout << int_j – float_i << endl;
return 0;
}
输出结果为:
2
分析:
就是2 24 2^{24}2
24
的值。当float达到这个值之后,对它进行++操作,内存中记录不下这个操作,故它会一直停留在这个值。
第三、四行的输出表示,一次性加10,改变了内存中的数据,显示出来的数会变化。但分10次++,因为每次++内存中都无法记录下该操作,故10次++后内存中的值没变,还是原来的那个味道。
免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。 本文来自网络,若有侵权,请联系删除,如若转载,请注明出处:https://yundeesoft.com/87044.html