找回密码
 注册
LabVIEW+单片机学习套件全套教程资料下载[免费]LabVIEW论坛精华列表贴USB0816数据采集卡《LabVIEW宝典》
LabWindows/CVI论坛精华贴NET0816以太网数据采集卡RC0210远程设备授权系统 关闭关停锁定打开设备 户外分布式数据采集
NET1624低速高精度以太网数据采集卡WIFI0824SD无线WIFI网络数据采集卡脱机运行 SD存储 小尺寸微型 串口采集远程采集 安卓 手持移动采集 纪录仪
查看: 555|回复: 1

求助:0.00006的平方程序如何正确编写(存在数据溢出问题)

[复制链接]
发表于 2009-5-9 23:33:37 | 显示全部楼层 |阅读模式
求助:(1)。0.00006的平方程序如何正确编写?(存在数据溢出问题)。
          (2)。 0.00006是两个数组中对应的元素(0.85687和0.85678)经过减法的正确结果,但在显示时却是一个错误的结果(8.5454)。请各位高手指点如何能正确显示
发表于 2009-5-10 22:10:14 | 显示全部楼层
应该是显示精度的问题吧兄弟?在显示的时候右击相应的控件,改变它的显示方法以及精度!
回复 顶

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|cpubbs论坛. ( 粤ICP备09171248号 )

GMT+8, 2026-9-29 14:54 , Processed in 0.025691 second(s), 7 queries , Gzip On, File On.

Powered by Discuz! X5.0

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表