OpenEdv-开源电子网

 找回密码
 立即注册
正点原子全套STM32/Linux/FPGA开发资料,上千讲STM32视频教程免费下载...
查看: 2744|回复: 1

浮点运算

[复制链接]

28

主题

61

帖子

0

精华

初级会员

Rank: 2

积分
153
金钱
153
注册时间
2014-9-8
在线时间
23 小时
发表于 2016-8-9 20:58:18 | 显示全部楼层 |阅读模式
10金钱
写了一个浮点型运算算法,发现k*(nuiResVal/1000)+b结果应该是带小数的,但是  temperature打印出来却是不带小数,单步仿真运行,手动自己计算k*(nuiResVal/1000)+b  结果是带小数  结果 temperature又变成了不带小数    用printf打印出来看到 temperature偶尔会带小数  程序如下     求解? float CalcTemp(uint nuiResVal)
{
                                float temperature;                               
                                float k,b;
             
              CheckTem(nuiResVal);
#ifdef DEBUG
                printf("Tmin:%d\r\n",nuiTempMin);
          printf("Tmax:%d\r\n",nuiTempMax);
#endif
                                k = nuiTempTab[nuiTempMin] - nuiTempTab[nuiTempMax];
                                k /= (nuiTempMax- nuiTempMin);
              k=k/1000;
              b=nuiTempMax-k*(nuiTempTab[nuiTempMax]/1000);
              temperature=k*(nuiResVal/1000)+b;
#ifdef DEBUG
                printf("Tmin:%.1f\r\n",temperature);
#endif
                                return temperature;
}

最佳答案

查看完整内容[请看2#楼]

k*((float)nuiResVal/1000)+b
正点原子逻辑分析仪DL16劲爆上市
回复

使用道具 举报

530

主题

11万

帖子

34

精华

管理员

Rank: 12Rank: 12Rank: 12

积分
165524
金钱
165524
注册时间
2010-12-1
在线时间
2116 小时
发表于 2016-8-9 20:58:19 | 显示全部楼层
k*((float)nuiResVal/1000)+b
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则



关闭

原子哥极力推荐上一条 /2 下一条

正点原子公众号

QQ|手机版|OpenEdv-开源电子网 ( 粤ICP备12000418号-1 )

GMT+8, 2025-6-8 04:32

Powered by OpenEdv-开源电子网

© 2001-2030 OpenEdv-开源电子网

快速回复 返回顶部 返回列表