浮点数精度(怎么解决浮点数精度问题)

浮点数精度(怎么解决浮点数精度问题)

首页维修大全综合更新时间:2024-08-06 20:58:45

浮点数精度

浮点数的精度指的是小数点后的有效数字位数,是由尾数的位数来决定的,对于单精度(float),它的尾数为23位,而2^23=8388608,共7位,也就是说最多能有7位有效数字,但至少能保证6位,因此32位浮点数的小数点后有效位为6~7位。C语言中浮点型一般分为float单精度型、double双精度型、long double长精度型,单精度浮点型小数点后面有效数字为6~7位和双精度浮点型小数点后面有效数字为15~16位。单精度为32位,双精度为64位,8位为一个字节。

大家还看了
也许喜欢
更多栏目

© 2021 3dmxku.com,All Rights Reserved.