C＃双现实

我试图转换双帕斯卡真实，但是当我转换0.23现实我得到0.23999999真正的我如何可以截断所有9999至0000C＃双现实

public static byte[] Double2Real48(double d) 
{ 
    byte[] r48 = new byte[6]; 
    byte[] da = BitConverter.GetBytes(d); 

    for (int i = 0; i < r48.Length; i++) 
     r48[i] = 0; 

    //Copy the negative flag 
    r48[5] |= (byte)(da[7] & 0x80); 

    //Get the expoent 
    byte b1 = (byte)(da[7] & 0x7f); 
    ushort n = (ushort)(b1 << 4); 
    byte b2 = (byte)(da[6] & 0xf0); 
    b2 >>= 4; 
    n |= b2; 

    if (n == 0) 
     return r48; 

    byte ex = (byte)(n - 1023); 
    r48[0] = (byte)(ex + 129); 

    //Copy the Mantissa 
    r48[5] |= (byte)((da[6] & 0x0f) << 3);//Get the last four bits 
    r48[5] |= (byte)((da[5] & 0xe0) >> 5);//Get the first three bits 

    r48[4] = (byte)((da[5] & 0x1f) << 3);//Get the last 5 bits 
    r48[4] |= (byte)((da[4] & 0xe0) >> 5);//Get the first three bits 

    r48[3] = (byte)((da[4] & 0x1f) << 3);//Get the last 5 bits 
    r48[3] |= (byte)((da[3] & 0xe0) >> 5);//Get the first three bits 

    r48[2] = (byte)((da[3] & 0x1f) << 3);//Get the last 5 bits 
    r48[2] |= (byte)((da[2] & 0xe0) >> 5);//Get the first three bits 

    r48[1] = (byte)((da[2] & 0x1f) << 3);//Get the last 5 bits 
    r48[1] |= (byte)((da[1] & 0xe0) >> 5);//Get the first three bits 

    return r48; 

}

来源

2011-02-05 user571874

这是正常的舍入误差并且是预期的。并非所有浮点数都可以用二进制精确表示。如果你想更精确的使用'decimal'，但是这个问题**仍然会发生。 – ChrisF 2011-02-05 18:28:17

其实在这种情况下这可能不是问题 - 我刚刚重读了你的问题，并注意到这些数字并不是我认为的那些。 – ChrisF 2011-02-05 18:34:49

这里是我的转换例程。请注意，在这里我没有特别关注处理IEEE无穷大或NaN值的问题。

static byte[] DoubleToReal48(double d) 
{ 
    byte[] r = new byte[6]; 

    long bits = BitConverter.DoubleToInt64Bits(d); 
    bool negative = ((bits >> 63) & 1) != 0; 
    long exponent = ((bits >> 52) & 0x7FF) - 1023; 
    long mantissa = bits & 0xFFFFFFFFFFFFFL; 

    long raw = (negative ? 1 : 0); 
    raw = (raw << 39) | (mantissa >> 13); 
    raw = (raw << 8) | ((exponent + 129) & 0xFF); 

    for (int k = 0; k < 6; k++) 
    { 
     r[k] = (byte)(raw & 0xFF); 
     raw >>= 8; 
    } 
    return r; 
} 

static double Real48ToDouble(byte[] r) 
{ 
    long raw = 0; 
    for (int k = 5; k >= 0; k--) 
    { 
     raw = (raw << 8) | r[k]; 
    } 

    long mantissa = (raw << 5) & 0xFFFFFFFFFD000L; 
    long exponent = (((raw & 0xFF) - 129 + 1023) & 0x7FF) << 52; 
    long sign = (((raw & ~0x7FFFFFFFFFFFL) != 0) ? 1 : 0) << 63; 

    return BitConverter.Int64BitsToDouble(sign | exponent | mantissa); 
}

往返转换有一些精度损失，但结果基本正确。 [Real48ToDouble（DoubleToReal48（0.23））返回0.229999999999563]

来源

2011-02-05 19:59:08

回答

相关问题