此帖出自嵌入式系统论坛
最新回复
其他语言的单双精度的浮点数有效数字,也如此:一个浮点数由三部分组成:符号位 S(表示正负符号)、指数部分 E(阶码,表示次方数)以及尾数部分 M(表示精确度)。
其中,单精度浮点数(float)总共用 32 位来表示浮点数(S:1+E:8+M:23),其中尾数用 23 位存储,加上小数点前有一位隐藏的1(IEEE754 规约数表示法),也就是2的23+1次方,等于16777216,大于10的七次方,但是小于10的八次方。所以他的有效位是7位。换算为十进制时候,会考虑四舍五入的情况,只取六位。
双精度浮点数(double)总共用 64 位来表示浮点数(S:1+E:11+M:52),其中,尾数用 52 位存储,是2的52+1次方,大于10的15次方,但是小于10的16次方。有效位数是 16 位,同样四舍五入时最少 15 位。
详情
回复
发表于 2024-5-20 10:12
| ||||||||||
|
||||||||||
|
|
此帖出自嵌入式系统论坛
| ||
|
||
|
|
此帖出自嵌入式系统论坛
| ||
|
||
|
|
此帖出自嵌入式系统论坛
| ||
|
||
此帖出自嵌入式系统论坛
点评 | ||
|
||
此帖出自嵌入式系统论坛
| ||
|
||
此帖出自嵌入式系统论坛
点评 | ||
|
||
此帖出自嵌入式系统论坛
| ||
|
||
此帖出自嵌入式系统论坛
点评 | ||
|
||
此帖出自嵌入式系统论坛
| ||
|
||
EEWorld Datasheet 技术支持