lmybuct 发表于 2009-5-9 23:33:37

求助：0.00006的平方程序如何正确编写（存在数据溢出问题）

求助：（1）。0.00006的平方程序如何正确编写？（存在数据溢出问题）。
          (2)。 0.00006是两个数组中对应的元素（0.85687和0.85678）经过减法的正确结果，但在显示时却是一个错误的结果（8.5454）。请各位高手指点如何能正确显示

cpubbs 发表于 2009-5-10 22:10:14

应该是显示精度的问题吧兄弟？在显示的时候右击相应的控件，改变它的显示方法以及精度！
页: [1]
查看完整版本: 求助：0.00006的平方程序如何正确编写（存在数据溢出问题）