考研数字电子技术小数转换精度为0.1%。
整数部分可以精确转换,但是小数0.7不能精确转换成二进制。
按照IEEE754标准的转换,100.7最接近的十六进制表达式是0x42C96666,相当于十进制的100.419,转换精度大概是-0.03ppm,没有你说的0.1%那么差。
你的题目根本没有重复清楚。
按照IEEE754标准的转换,100.7最接近的十六进制表达式是0x42C96666,相当于十进制的100.419,转换精度大概是-0.03ppm,没有你说的0.1%那么差。
你的题目根本没有重复清楚。