簡體   English   中英

Linux 和 Windows 上的相同計算 --> 不同的結果

[英]Same calculation on Linux and Windows --> different results

我編寫了以下算法以將十進制值轉換為二進制/十六進制等。

string toFormatFromDecimal(long long t, Format format) {
    int digitCount = ceil(log(t) / log((int) format));
    string hex = "";
    for (int i = 0; i < digitCount; i++) {
        long double cur = (long double)t / (long double)(format);
        long long ganzzahl = (long long) cur;
        long double kommazahl = cur - ganzzahl;
        hex += digits[(long long) (kommazahl * format)];
        t = ganzzahl;
    }
    return string(hex.rbegin(), hex.rend());
}

我在 linux 中使用 GCC,在 Windows 上使用 Visual Studio c++ 編譯器似乎我在這里的“整數”部門得到了不同的值:

long long ganzzahl = (long long) cur;

任何想法怎么會發生? Linux 和 Windows 上有不同的精度嗎?

謝謝弗洛里安

- 解決方案 -

string toFormatFromDecimal(long long t, Format format) {
    int digitCount = ceil(log(t) / log((int) format));
    string hex = "";
    for (int i = 0; i < digitCount; i++) {
        hex += digits[(int) (t%format)];
        t = t/format;
    }
    return string(hex.rbegin(), hex.rend());
}

是的,GCC 和 Visual Studio C++ 有不同long double類型。 在 GCC 為 x86 生成代碼時, long double是 80 位雙擴展 IEEE 754 格式 (*),而 Visual Studio C++ 將long double視為 64 位雙精度 IEEE 754 格式 (**)。

所以(long double)t在兩個平台上不必是相同的數字,並且除法也不相同。 盡管您已將問題標記為“整數除法”,但它是不同浮點類型之間的浮點除法。

(*) 幾乎:它的行為非常類似於具有 15 個指數位和 63 個有效位的 79 位IEEE 754類型,但它具有稍寬的指數范圍,因為它使用顯式位作為有效位的前導 1。

(**) 幾乎:因為編譯器在將 x87 配置為 53 位有效位后生成使用歷史 x87 指令的指令,所以非正規結果可能會被雙舍入(參考)。

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM