一个关于浮点数运算的问题

jian0052 · 发表于 2025-1-22 14:04:03

本帖最后由 jian0052 于 2025-1-22 14:12 编辑

如图所示，CO2_Value的值应该是0.02，为什么出现图中的0.0199999996呢，求解

Cindre鞡 · 发表于 2025-1-22 14:04:04

本帖最后由 Cindre鞡于 2025-1-22 14:35 编辑

可以了解下浮点数的储存格式，然后你就会知道在二进制里，描述浮点数除了0.5,0.25,0.125....这样的小数组合，其他的都是逼近运算而不是精确运算

LcwSwust · 发表于 2025-1-22 14:29:53

虽然我也不懂，但是如果保留前几位小数并作四舍五入处理，它的值也就是0.02。
似乎也曾听说两个浮点数作比较时可能会出问题。
所以建议尽量避免浮点数，比如用整数123来表示小数1.23，只里在显示时加个小数点。

jian0052 · 发表于 2025-1-22 16:55:40

谢谢各位解答，我明白了，以后直接用整形去处理数据了

帐号		自动登录	找回密码
密码			立即注册

原子哥极力推荐 /2