3151|5

72

帖子

0

TA的资源

一粒金砂(初级)

楼主
 

2812 计算出错问题 [复制链接]

在应用2812计算乘法时,尤其是计算250以上的乘法时出错。如:250×260=  ,其结果莫名其妙。望高手指点!

最新回复

有符号整型的最大值是32767 ,默认256, 255 都是有符号整型 所以乘积超出32767就会出错 可以写成255u(不超出无符号整型范围内运算)或者255l(有符号长整型范围内)  详情 回复 发表于 2009-5-15 03:43
 
点赞 关注

回复
举报

68

帖子

0

TA的资源

一粒金砂(初级)

沙发
 
整数相乘会出错?
是不是定义有问题
 
 

回复

73

帖子

0

TA的资源

一粒金砂(初级)

板凳
 
不会!
long temp;
temp = 255*256;
调试结果temp为4096或其他不确定的数。请指点。
 
 
 

回复

61

帖子

0

TA的资源

一粒金砂(初级)

4
 
有连上开发板运行吗?可以发你的整个项目程序上来
 
 
 

回复

89

帖子

0

TA的资源

一粒金砂(初级)

5
 

应该这么写

long temp;
temp = 256L *256;
呵呵,这是C语言的问题,默认情况下,256是个int型,int×int还是int ,然后将int赋值给long
 
 
 

回复

18

帖子

0

TA的资源

一粒金砂(初级)

6
 
有符号整型的最大值是32767 ,默认256, 255 都是有符号整型
所以乘积超出32767就会出错
可以写成255u(不超出无符号整型范围内运算)或者255l(有符号长整型范围内)
 
 
 

回复
您需要登录后才可以回帖 登录 | 注册

随便看看
查找数据手册?

EEWorld Datasheet 技术支持

相关文章 更多>>
关闭
站长推荐上一条 1/9 下一条

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 国产芯 安防电子 汽车电子 手机便携 工业控制 家用电子 医疗电子 测试测量 网络通信 物联网

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编:100190

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2025 EEWORLD.com.cn, Inc. All rights reserved
快速回复 返回顶部 返回列表