关于小数点后位数问题？

cscl

关于小数点后位数问题？ [复制链接]

我做了一个小程序，搜索小数数组中每一个小数，然后对每一个小数求出小数点后的位数，最后输出最大小数点后的位数，做到最后一步卡住了，不知道怎样才能输出最大的小数点位数，这是很急的问题，请求各位大侠的帮帮忙，不胜感激！请看 小数位数.vi
while循环的作用是计算出小数位数，我想分别计算出那七个小数(名字为：LowerLimit，AT,.......GT)的小数位数，然后再取出这七个小数位数的最大值。上面的程序只做了一部分，显示控件(小数位)只是把GT的小数位数显示出来了。也不知道这样解释你能明白吗？我是很急的，帮帮忙啦大侠。

[ 本帖最后由 cscl 于 2009-9-30 15:12 编辑 ]

A_P

没有明白你到底想要的结果是什么？

gaoxiao

从数据存取的角度来看，小数的位数是浮动的，有台阶。尾符之类的，直接比较那个就可以可以知道的。不明白你说的小树数组是什么意思。、
如果要比计较小数的位数的话，直接笔比较精度就行了。。。。。
比如说2.5和3.3337   你用程序一次来做减法。就可以了。最后为0.0000000的就是小数位数最多的。。。。
算法如下2.5-2-0.5  （循环了两次。）
3.3337-3-0.3-0.03-0.003-0.0007 （循环了五次）所以后面的小数位数多。。。
原理就是机器的最小误差是0.00000001
有个if 语句判断。