c#浮点类型的精度与范围等问题

显示全部楼层 · 发表于 2015-3-12 19:31:06

c#浮点类型的精度与范围等问题

初学c#，很多不懂。
如图。
1.第一张图的精度是指有效数字是7还是保留7位小数或是其他的什么？大致范围是怎么计算出来的？
2.第二张图的三种类型M.E各占多少位，为什么？e值到底是什么？e的最小值最大值怎么出来的?近似的最小值最大值怎么出来的？另外为什么float的最小值与第一张图的最小值不一样？

显示全部楼层 · 发表于 2015-3-12 21:22:48

浮点数在内存中是按科学计数法来存储的
C#中float的取值范围和精度

显示全部楼层 · 发表于 2015-3-13 16:13:39

thelord 发表于 2015-3-12 21:22
浮点数在内存中是按科学计数法来存储的
C#中float的取值范围和精度

那么第2张图的e值是什么呢？

显示全部楼层 · 发表于 2015-3-13 16:30:05

hentaiczx 发表于 2015-3-13 16:13
那么第2张图的e值是什么呢？

浮点数二进制表示
二进制浮点数的科学计数法
float = (-1)^S * M * 2^E
M 表示有效数字，范围 [1，2)
E表示指数位

显示全部楼层 · 发表于 2015-3-13 16:33:34

thelord 发表于 2015-3-13 16:30
浮点数二进制表示
二进制浮点数的科学计数法
float = (-1)^S * M * 2^E

我之前也这么想，但是指数位不应该是-127~+128吗？

显示全部楼层 · 发表于 2015-3-13 17:28:31

hentaiczx 发表于 2015-3-13 16:33
我之前也这么想，但是指数位不应该是-127~+128吗？

估计是 .NET 的龟腚

[其他] c#浮点类型的精度与范围等问题

本帖子中包含更多资源