关于浮点数的问题无解。。。

solo · 发表于 2015-7-7 10:23:58

最近用着浮点型数，发现竟然一点都不会用，表示很无语。
话说在网上看到的资料上说float型有6~7位有效精度（是不是说有效数字是6~7位啊，整数位+小数位？）。
在vc6.0上测出的问题如下：

为什么第一张图会是这样？？？

tim4146 · 发表于 2015-7-7 10:23:59

我也不理解，为什么是1110...这精度好低啊
下面是百度的结果
1. 范围
  float和double的范围是由指数的位数来决定的。
  float的指数位有8位，而double的指数位有11位，分布如下：
  float：
  1bit（符号位） 8bits（指数位） 23bits（尾数位）
  double：
  1bit（符号位） 11bits（指数位） 52bits（尾数位）
  于是，float的指数范围为-127~+128，而double的指数范围为-1023~+1024，并且指数位是按补码的形式来划分的。
  其中负指数决定了浮点数所能表达的绝对值最小的非零数；而正指数决定了浮点数所能表达的绝对值最大的数，也即决定了浮点数的取值范围。
  float的范围为-2^128 ~ +2^128，也即-3.40E+38 ~ +3.40E+38；double的范围为-2^1024 ~ +2^1024，也即-1.79E+308 ~ +1.79E+308。

2.  精度
  float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的，其整数部分始终是一个隐含着的“1”，由于它是不变的，故不能对精度造成影响。
  float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，但绝对能保证的为6位，也即float的精度为6~7位有效数字；
  double：2^52 = 4503599627370496，一共16位，同理，double的精度为15~16位。

solo · 发表于 2015-7-7 10:23:59

总结一下：
1、范围
float类型，4字节：-3.40E+38~3.40E+38
double类型：8字节：-1.79E+308~+1.79E+308

2、精度
float类型：有效位数是6~7位，绝对有效位数是6位。例如：123.456 = 1.23456E+2，有效数字6位。
double类型：有效位数是15~16位，绝对有效位数是15位。
注：1、当开始超过有效位数时从右边开始出现误差；2、浮点数在传递存储过程中也会出现误差，误差可能只有0.000001，但也是致命的

在计算的过程中，乘除可能并不在意一些细微的误差，但是有时加减精确度需要很高的时候：建议先根据需要的精度确定小数点的位数，转换为整形数据进行计算（如果需要1位小数位，把数据放大十倍+0.5四舍五入很重要），最后再还原为浮点型数据。
举例：
float a = 1.1234;
int b = 0;
if(a>0) b = a*10000+0.5;//float—>int转换在运算，注：必须要在高一位精度上四舍五入，防止float精度损失产生的影响
else b = a*10000-0.5;
b++;
a = (float)b/10000;

结果：a = 1.1235;

如上，是我对浮点数的理解，如有错误敬请指出。