关于double转整数的问题

haysen · 发表于 2016-8-12 11:44:48

现在用 STM32F746NG，遇到一个奇怪的问题，double转 unsigned char 或者 int的时候，有部分数会比原来的数小一，比如原来的double是59.0，转为unsigned int 的时候会变成58,60.0会变成59……依次类推，不是所有的数都这样，是部分数，很奇怪，谁遇到过

haysen · 发表于 2016-8-12 13:54:53

这个貌似是浮点数精度问题，看到有两个方法，第一种是先转成字符串然后再转成整数，第二种是经过复杂的精度四舍五入计算

正点原子 · 发表于 2016-8-12 20:43:32

不至于小1吧。。。。

帐号		自动登录	找回密码
密码			立即注册

关于double转整数的问题

原子哥极力推荐 /2