1.23浮点型 1.浮点型的创建和转换方法、取值范围、运算和精度问题 作者:freexyn 2.认识函数 双精度double 单精度single 判断浮点型isfloat 取值范围realmax/realmin 精度eps 3.说明 浮点型分为单精度浮点型和双精度浮点型 IEEE浮点数算术标准(IEEE 754)是IEEE二进位浮点数算术标准(IEEE Standard for Floating-Point Arithmetic)的标准编号,等同于国际标准ISO/IEC/IEEE 60559。 4.浮点型的精度问题 matlab中几乎所有的运算默认都是以符合IEEE 754标准的双精度算法执行的,由于计算机只能以有限的精度表示数字(双精度要求52个尾数位),所以,如果浮点算术运算的结果不如预期的那样精确,甚至有时会产生数学上非直觉的结果,则很可能是由于计算机硬件的限制造成的,硬件可能没有足够的位来表示结果的完全准确性,因此截断了结果值的部分精度 但这并不是matlab中的错误,运用IEEE 754标准所执行的所有计算都受到影响,其中包括用C或FORTRAN等