关于C#：单精度浮点数在零附近时的近似分辨率是多少
What is the approximate resolution of a single precision floating point number when its around zero
我将许多经度和纬度存储为 doubles，我想知道是否可以将它们存储为 floats。
要回答这个问题，我需要知道当存储的值为经度/纬度(-180到180)时单精度浮点数的近似分辨率。
相关讨论
- 经度从 -180 到 180，纬度从 -90 到 90。
您的问题可能有多种解释。
如果它只是用于angular和存储在磁盘或设备上，我建议您使用完全不同的技术存储您的值：存储为 32 位整数。
|
1
|
int encodedAngle = (int)(value * (0x7FFFFFFF / 180.0));
|
要恢复它，请执行相反的操作。
|
1
|
double angle = (encodedAngle / (0x7FFFFFFF / 180.0));
|
通过这种方式，180 度的全 31 位分辨率和符号的 1 位分辨率。
您也可以使用这种方式将您的值保存在 ram 中，与直接使用双打相比，这种覆盖的成本更高，但如果您想保持低内存但高分辨率，这可以很好地工作。
成本并没有那么高，只是从整数到 double 的转换和乘法，现代处理器会在很短的时间内完成，而且由于访问的内存较少，如果列表包含很多值，您的代码将对处理器缓存更加友好。
你的分辨率将是 180 / ((2^31) - 1) = 8.38190318 ?— 10^-8 度，还不错:)
相关讨论
- 他不能使用无符号整数，因为他必须表示从 -360 到 360 的值。很好的答案。
- 对于纬度/经度，-360 肯定是一个虚假的要求......无论如何，这个答案是正确的，使用浮点绝对是错误的，除非你想要伦敦附近的高精度和太平洋地区的可怕量化......
- @SalvatorePreviti 感谢您的回答，它有助于将我的二进制大小从 21mb 减少到 17mb。现在可以通过无线方式下载它！
- 纬度实际上是从 -90 到 90。因此，对于纬度，您可以在上述编码/解码等式中将 90 替换为 180。
单精度浮点数的分辨率约为 360 / (2 ^ 23) 或 4 * 10 ^ -5。
更准确地说，严格低于360.(可以精确表示)的最大单精度浮点数大约是359.999969。对于整个范围 -360. .. 360，您将能够表示至少与这两个数字之间的差异一样小的差异。
相关讨论
- 太棒了，根据我的计算，经度/纬度的最大距离约为 5 米，这对我来说是不可接受的。谢谢你的帮助！
- @Robert 当您需要统一的分辨率时，浮点格式有点浪费(尽管我承认它们非常方便)。对于单精度浮点数，当您可以有 2 ^ 32 个均匀间隔的值时，分辨率会受到 23 位尾数的限制。对于双精度，分辨率受 52 位尾数限制，您可以使用所有 64 位来表示均匀间隔的值。
取决于，但不是。
32 位浮点数存储 7 个有效数字。这通常对于存储经度/纬度的正确分辨率来说太少了。例如，openstreetmap.org 使用小数点后六位，因此最少八位，最多十位。
简而言之，使用float64。
通常浮点数是 4 个字节(32 位)，而双精度数是它的两倍。但是，如果您要进行计算，确切的精度是特定于实现(和硬件)的。在某些系统上，所有浮点数都将存储为双精度值，这只是为了增加混乱。