1、主要决定于基本字长。

2、基本字长影响计算精度、指令功能。

3、基本字长越长,计算精度越高。


(资料图片)

4、比如,基本字长是8位,那么它可以表示最小的正数是0.0000001;而如果基本字长是16位,则可以表示0.000000000000001。

5、显然,后者的精度更高。

6、扩展资料: 数值计算具有以下5个重要特征:数值计算的结果是离散的,并且一定有误差,这是数值计算方法区别与解析法的主要特征。

7、2、注重计算的稳定性。

8、控制误差的增长势头,保证计算过程稳定是数值计算方法的核心任务之一。

9、3、注重快捷的计算速度和高计算精度是数值计算的重要特征。

10、4、注重构造性证明。

11、5、数值计算主要是运用有限逼近的的思想来进行误差运算。

本文就为大家分享到这里,希望小伙伴们会喜欢。

推荐内容