2496|4

2

帖子

0

TA的资源

一粒金砂(初级)

楼主
 

做浮点数的乘法加减,结果怎么都不对,求好心人来帮忙分析下原因? [复制链接]

板子的芯片型号是MSP430F2618,
之前计算采集数据一直出现问题,后来发现是浮点数数据处理这里
为了测试方便,我简化了代码,大概就是下面这个样子:
float A = 800.0;
float tempfloat ;
float coefficient = 0.2733;//系数
tempfloat = A*coefficient;

就这个简单的一个操作,按理说tempfloat应该等于218.xxx,但是结果却变成了2.18xx,
在VC环境下试过是可以的,以前在MTK上做过,这样写也没问题
现在换成430,居然一个浮点数乘法都搞不定?
小弟不才,求高手指点,多多批评。

最新回复

IAR么?哪个版本?  详情 回复 发表于 2013-6-5 19:05
 
点赞 关注

回复
举报

116

帖子

0

TA的资源

一粒金砂(高级)

沙发
 
应该不会吧,你看看那个2.18是不是用科学计数法表示的
 
 

回复

8

帖子

0

TA的资源

一粒金砂(中级)

板凳
 
0.2733·········小数点后面是不是多了点儿?
 
 
 

回复

1059

帖子

0

TA的资源

纯净的硅(高级)

4
 
IAR么?哪个版本?
 
 
 

回复

2

帖子

0

TA的资源

一粒金砂(初级)

5
 
谢谢大家的答复
确实是科学计数了。
 
 
 

回复
您需要登录后才可以回帖 登录 | 注册

随便看看
查找数据手册?

EEWorld Datasheet 技术支持

相关文章 更多>>
关闭
站长推荐上一条 1/10 下一条

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 国产芯 安防电子 汽车电子 手机便携 工业控制 家用电子 医疗电子 测试测量 网络通信 物联网

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编:100190

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved
快速回复 返回顶部 返回列表