cpubbs论坛's Archiver
论坛
›
LabVIEW虚拟仪器论坛讨论区
› 请教,双精度数的比较 DBL
xuglei
发表于 2007-4-28 16:00:14
请教,双精度数的比较 DBL
现在我有一个小程序,需要用移位寄存器实现数据的循环,同时把输出值和输入值进行比较,得到控制循环的条件
但是因为需要使用双精度数,发现在到达输入值之后,会在步长的上下范围内,不断地变化,发现2.09和2.09不相等!
请教各位大侠有何良策?
站立的鱼
发表于 2007-4-29 13:40:20
程序发上来看看·~我以前遇到过移位寄存器的值有改变的情况·~
xuglei
发表于 2007-5-8 12:05:47
加了一个小值判断,实现了比较
谢谢楼上的
页:
[1]
查看完整版本:
请教,双精度数的比较 DBL