社区首页
★ 社区积分制度 ★ 新手必读 ★ 申请版主★
 

论坛

切换旧版
返回列表 发新帖 回复
阅 2902|回 2
hyf8

4

帖子

0

TA的资源

一粒金砂（初级）
楼主
发表于2016-6-13 06:19 只看该作者
 

请教 有关PIC18 浮点误差 [复制链接]

请教 有关PIC18 浮点误差最近用PICC 9.66 ，
  设为  long  double  xx
         u32   yy;
           xx=0.12345678;
          xx*=100000000;
         yy=(u32) xx;

   然后 显示yy  ，发现等于  12345732  ，与原来的数有 百万分之 3的误差，请问 这是为何呢？  编译中 已用32bit的浮点

PIC

最新回复

vzvxvcvv
浮点转换成整形有精度损失吧  详情 回复 发表于 2016-6-13 13:28
点赞 关注
 
回复
举报
huo_hu

4005

帖子

0

TA的资源

版主
沙发
发表于2016-6-13 13:06 只看该作者
 
本帖最后由 huo_hu 于 2016-6-13 13:08 编辑

32位浮点数的尾数是23位，精度就是0.000001，不可能更精确
 
 
 
回复
举报
vzvxvcvv

85

帖子

0

TA的资源

一粒金砂（中级）
板凳
发表于2016-6-13 13:28 来自手机 只看该作者
 
浮点转换成整形有精度损失吧
 
 
 
回复
举报
返回列表 发新帖 回复
您需要登录后才可以回帖 登录 | 注册

活动 更多>>
开源项目 更多>>
随便看看
查找数据手册?
搜索

EEWorld Datasheet 技术支持

热门标签
相关文章 更多>>
新帖速递
关闭
站长推荐上一条 1/10 下一条

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关： 国产芯 安防电子 汽车电子 手机便携 工业控制 家用电子 医疗电子 测试测量 网络通信 物联网

用户热搜：

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编：100190

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved
快速回复 返回顶部 返回列表