STM32F4 FPU计算浮点型单精度问题

15737317730 · 发表于 2020-5-15 17:40:16

STM32F4 FreeRTOS Kernel V10.2.1计算单精度float型数据时结果错误例如：6631/100.0f = 66.3099998之类的数据

cjt999 · 发表于 2020-5-15 17:40:18

路过留痕，帮顶。

ISO14882 · 发表于 2020-5-17 15:21:24

这个是浮点数类型自身就有的性质，根据IEEE754标准，有些看似常见的浮点数是无法在这种格式下表示的，如果需要高精度数学运算，请使用高精度数学库

CC82702817 · 发表于 2020-5-18 13:30:57

正常，不能说是错误，只是误差而已。

帐号		自动登录	找回密码
密码			立即注册

原子哥极力推荐 /2