正点原子全套STM32/Linux/FPGA开发资料，上千讲STM32视频教程免费下载...

OpenEdv-开源电子网»首页 › 单片机/嵌入式 › STM32-F3/F4/F7/H7专区 › stm32f4浮点数运算问题

正点原子STM32

正点原子Linux开发板

正点原子FPGA开发板

正点原子微信公众号

正点原子QQ群

正点原子逻辑分析仪上市

发新帖

查看: 10499|回复: 3

stm32f4浮点数运算问题

2 主题	10 帖子	0 精华

积分: 38
金钱: 38
注册时间: 2013-11-9
在线时间: 0 小时

发消息

发表于 2015-3-9 08:58:39 | 显示全部楼层 |阅读模式

正点原子逻辑分析仪DL16热卖中，最多16通道，采样率最高可达1GHz，存储深度可达3.5Gbit

5金钱

使用正点原子的程序，串口打印的数据（部分）：
float_num的值为: 0.800000
float_num的值为: 0.810000
float_num的值为: 0.820000
float_num的值为: 0.830000
float_num的值为: 0.839999
float_num的值为: 0.849999
float_num的值为: 0.859999
float_num的值为: 0.869999
问题是：为什么是+0.01的，从0.830000到0.839999的？

最佳答案

查看完整内容[请看2#楼]

这个是精度丢失而已，内置浮点单元的CPU都会遇到的，0.839999不就约等于0.84了吗？不可能绝对相等的。

正点原子逻辑分析仪DL16劲爆上市

回复

使用道具举报

88 主题	7377 帖子	5 精华

Rank: 8 Rank: 8

积分: 14980
金钱: 14980
注册时间: 2013-11-13
在线时间: 1823 小时

发消息

发表于 2015-3-9 08:58:40 | 显示全部楼层

正点原子ESP32 AI开发套件上市，python

这个是精度丢失而已，内置浮点单元的CPU都会遇到的，0.839999不就约等于0.84了吗？不可能绝对相等的。

开往春天的手扶拖拉机

回复

使用道具举报

2 主题	10 帖子	0 精华

积分: 38
金钱: 38
注册时间: 2013-11-9
在线时间: 0 小时

发消息

楼主| 发表于 2015-3-9 10:43:12 | 显示全部楼层

上面是移植UCOS-II的，移植UCOS-III时也会出现精度问题

回复

使用道具举报

2 主题	10 帖子	0 精华

积分: 38
金钱: 38
注册时间: 2013-11-9
在线时间: 0 小时

发消息

楼主| 发表于 2015-3-9 14:52:49 | 显示全部楼层

回复【3楼】zuozhongkai:
---------------------------------
那行，谢谢了

回复

使用道具举报

发新帖

原子哥极力推荐 /2

正点原子公众号

|手机版|OpenEdv-开源电子网 ( 粤ICP备12000418号-1 )

GMT+8, 2025-4-19 12:44

Powered by OpenEdv-开源电子网

© 2001-2030 OpenEdv-开源电子网

快速回复 返回顶部 返回列表