labview15014079 发表于 2010-11-29 17:36:19

16位浮点数如何计算

一般浮点数是用32位表示的,但如果是16位表示又如果计算呢。
32位表示的我能算,16位表示的不知怎么算,能否给一个例子,谢谢。

labview15014079 发表于 2010-12-2 09:48:51

这个问题怎么没人回答啊,自己顶一下。allqq-mogudiandian-44all

wdyjz 发表于 2010-12-3 14:10:05

将type cast上方的数据类型设置为I16;或者U16.

wdyjz 发表于 2010-12-3 14:14:39

41EA FA00 ---》29.3721。(除了楼主的转换过程,另外一个方法, string to byte array--》type cast( SGL)

16位的话,前面的输入数据也得变化,并设置目标转换类型。

labview15014079 发表于 2010-12-3 17:59:50

回复 wdyjz 的帖子

是这样的,16位FA00怎么转换为25.0
16位表示的浮点数还真不会算


wdyjz 发表于 2010-12-3 19:35:54

不知道转换规则

labview15014079 发表于 2010-12-6 16:39:50

回复 wdyjz 的帖子

请问一下,定点数如何计算,例如FA00 为25.0是怎么算出来的。
页: [1]
查看完整版本: 16位浮点数如何计算