cpubbs论坛's Archiver
论坛
›
LabVIEW虚拟仪器论坛讨论区
› 发现一个问题 ,大家请进来看
天山飞骆驼
发表于 2009-11-6 15:47:59
发现一个问题 ,大家请进来看
这个地方本来是这么设计的:数据波形显示这里显示的是传感器的电压值,这个电压值举个例子为750,根据标定的关系,这个电压值乘0.7为误差值,但是我发现,当整数乘0.7的时候会出现数据强制转换出错问题,有的时候乘下来的数值会很大,大到几十万,有人说是不是进来的电压值这里的数据变大了?我试验过了,在乘0.7之前和之后 分别用了波形图看了,之前数据很好,就是750附近,乘之后就不一定了,大家能解释一下吗?
babycu
发表于 2009-11-7 00:27:47
上传程序试验才好判断
页:
[1]
查看完整版本:
发现一个问题 ,大家请进来看