关于数据处理

qingrong668

关于数据处理 [复制链接]

X=(i*2.048/(32768*10)-0.71)/51.44
i的范围是0~327680
X要精确到小数点后三位
就是这个问题


这个X怎么算出来啊?

milanmaldini

写一个小程序，把0~327680的赋值给i，即可求出对应的X

jt4117

不行的,定义成FLOAT的话,好象不太好,还会出现溢出的错误....

yuanshao001

X=(i*2.048/(32768*10)-0.71)/51.44

这个式子这么写效率不高，可以改成：

#define A 2.048/(32768*10)/51.44
#define B -0.71/51.44

然后用X ＝ (float)i * A + B，比较好，呵呵

nmylx

当然会溢出了，16位有符号整型的最大值为32768，32768*10就溢出了，可将32768强制类型转换为long如:
X=(i*2.048/((long)32768*10)-0.71)/51.44

mdice1986

引用:

X=(i*2.048/(32768*10)-0.71)/51.44 这个式子这么写效率不高，可以改成： #define A 2.048/(32768*10)/51.44 #define B -0.71/51.44 然后用X ＝ (float)i * A + B，比较好，呵呵

对的,因为一般的MCU对于浮点数处理效率不高,而且占用的RAM也较大,建议用上述的办法.提高效率,节省资源.

ykyyky

不错

likyo

呵呵，其实思想很简单，就是――
能由编译器（计算机）完成的运算，尽可能在编译阶段完成（计算机在处理#define语句时，会把那个式子算完），以减少重复的运算。