lgh269 发表于 2006-9-19 01:35:00

关于LV中的数据类型问题

图中两个I32相除后,怎么变成DBL了, 相乘不会呢 <img src="attachments/dvbbs/2006-9/200691817332343344.jpg" border="0" onload="if(this.width>screen.width*0.7) {this.resized=true; this.width=screen.width*0.7; this.alt=\'Click here to open new window\nCTRL+Mouse wheel to zoom in/out\';}" onmouseover="if(this.width>screen.width*0.7) {this.resized=true; this.width=screen.width*0.7; this.style.cursor=\'hand\'; this.alt=\'Click here to open new window\nCTRL+Mouse wheel to zoom in/out\';}" onclick="if(!this.resized) {return true;} else {window.open(\'attachments/dvbbs/2006-9/200691817332343344.jpg\');}" onmousewheel="return imgzoom(this);" alt="" />

lgh269 发表于 2006-9-19 16:50:31

谢谢

szb 发表于 2006-9-19 06:59:52

<p>LV中数值的数据类型不同时，为提高运算精度会先转换类型再处理。divide节点定义中明确规定了两整数相除，结果为浮点类型，另值得注意的是相乘时结果可能溢出。在LV中同其它程序一样要特别注意数据类型，其中有专门数值类型转换节点，不同数据类型的数值运算时，建议先转换在运算。</p>
页: [1]
查看完整版本: 关于LV中的数据类型问题