两个40位的十进制数如何比较大小?
images/ad/360mcubook01.gif在比较数据时,发现当数据大到一定程度后,如20位十进制数,LabVIEW就无法判断大小了,查了一下帮助,如下链接所示
http://zone.ni.com/reference/en-XX/help/371361F-01/lvhowto/numeric_data_types_table/
。似乎EXT的也就是15到20位,这个还要看计算机的是什么系统的(varies from 15 to 20 by platform)。请问一下,这样的问题该怎么解决呢。此外附上我的测试程序。
此外,在此链接中的表头Bits of Storage on Disk/Approximate Number of Decimal Digits/Approximate Range该怎么理解呢
我现在关心的不是小数点后面多少位,而是在小数点前面的位数。也就是说,如何比较两个40位(小数点前面)数据的大小。比如,可以比较9999999999999999999999999999999999999999和9999999999999999999999999999999999999998的大小吗?在LabVIEW中,什么样的数据类型可以比较的位数(小数点前边)最多,可以比较多少位?
谢谢
我先问个问题,如此大位数的数据你如何输入给labview?换言之,你如何表达如此大的数据,表达出来的,操作就不是问题。一般来说用数组来进行的 我看说明上,显示的位数可以比实际可运算的位数大。
现在显示的是用科学计数法,不过后面的位数都是0了
想上传个附件,结果总不成功 发贴的时候在发贴框的上面,有一个图片,以及附件,可以从上面点击,它就弹出上传框,可以单幅或批量上传的!在回复框那里上传的话,要点击高级回复才能进入! 这么大的数据是从哪里来的?刚试过了labview里面U32和DOUBLE 型都输不进这么大的数据的!
页:
[1]