堆棧內存溢出
cost 424 ms
c#雙乘獲得額外的精度

[英]c# double multiply gets additional precision

乘以 2 double 后，它獲得了如此多的額外精度。 然后它會導致舍入（到小數點后 2 位）問題。 我假設得到 37.34，但它給出了 37.33。 （在調試模式下查看） 額外的精度 http://s8.postimg.org/9nn2bbiab/precision.jpg 知道為什么嗎？ ...

如果您使用double將一種貨幣值轉換為另一種貨幣並折回，您可能會失去的最高精度是多少？

[英]What's the most precision you might lose if you use double to convert a currency value to another currency and back?

我知道由於基數2而導致的雙打問題： 我知道應該使用BigDecimal進行貨幣相關的計算，但在我的情況下，可以接受一點精度損失，請執行所有我需要做的貨幣計算，將貨幣C1轉換為貨幣C2，再轉換回貨幣C1。 唯一的事情是，當我以5位小數精度向客戶顯示結果時，此轉換后C1的兩個值應該匹配。 ...

混合精度分配

[英]Mixed precision assignment

我正在使用將XLF編譯器用於Power7的大型Fortran代碼，它使用以下標志將精度設置為64位： -qrealsize=8 -qintsize=8 但是，最近導入的一段代碼具有類似於以下內容的代碼行： 我想知道XLF如何處理文字1e6嗎？ 主要關注的是； 這是參考版本和修改 ...

為什么浮點數的精度問題會根據值而變化？

[英]Why precision problems in a floating point number varies according to values?

我想知道為什么浮點數的精度問題在值不同的情況下會有所不同： 該程序的輸出為： 1個 0.10000000000000000555 如果兩個數字都是double類型（通常存在精度問題），那么為什么編譯器沒有發現值1.0的任何問題，卻發現值0.1的問題。 我還不清 ...

Java中的Double循環

[英]For-loop with double in Java

問題。 我有一個雙精度字符串“ 0.4 0.3 2.1 etc”。 我需要循環訪問此列表，並計算每個數字的出現次數。 我用了 StringTokenizer stokens = new StringTokenizer(values); while(stokens.hasMoreTok ...

浮動有時好於兩倍嗎？

[英]Is float better than double sometimes?

我正在spoj http://www.spoj.com/problems/ATOMS/上解決此問題。 我必須給出log（m / n）/ log（k）的整數部分作為輸出。 我把m，n，k取了很長的時間。 當我使用長雙精度計算時，我得到了錯誤的答案，但是當我使用浮點數時，它就被接受了。 ...

了解DBL_MAX

[英]Understanding DBL_MAX

我剛剛閱讀了IEEE 754標准，以了解如何實現單精度和雙精度浮點。 所以我寫了這個來檢查我的理解： 輸出： 我不明白的是，我期望輸出的最后一行是：（2 ^ 53-1）* 2 ^（1024-52），但是最后一行上的數字大約對應於2 ^（2 ^ 10）。 我想念什么？ 如 ...

關於FORTRAN種類的困惑

[英]Confusion about kinds in FORTRAN

我已經在編寫FORTRAN代碼用於應用物理問題的數值模擬兩年多了，我試圖遵循Fortran Best Practices中描述的約定。 更具體地說，我將參數定義為 然后在我的代碼中將它用於所有雙打。 但是，我發現（在這個論壇上）如果使用其他編譯器編譯代碼，使用KIND參數不一 ...

如何在MatLAB中獲得Fortran精度

[英]How to obtain Fortran precision in MatLAB

我有一段用Fortran和Matlab編寫的代碼。 他們進行完全相同的計算，即 構造一個tanh並找到其拉普拉斯算子 將一些術語相乘 該相乘的結果產生一個矩陣，將其第（4,4）個和第（6,6）個I相減。 在Fortran中，它們的差值為〜1e-20 ...

DISLIN雙精度庫

[英]DISLIN double-precision libraries

我正在嘗試編譯用FORTRAN編寫的程序，該程序使用DISLIN庫繪制圖形，但是所有數據都是雙精度的。 我不會失去這種精度，因此將所有內容都傳遞給簡單精度是不可行的。 當我嘗試鏈接到雙精度庫（_d）時，如果我鏈接到簡單精度庫，仍然會遇到以下錯誤： 我在所有繪圖語句中也遇到其他此類錯誤 ...

使用Dislin的雙精度錯誤

[英]Double-precision error using Dislin

嘗試編譯時出現以下錯誤： 一切似乎都是雙精度的，所以我不禁認為這是一個Dislin錯誤，特別是考慮到它出現在參考Dislin聲明中。 我究竟做錯了什么？ 我的代碼如下： ...

有什么方法可以找到包含特定實數值的數組元素？

[英]What methods are there for finding the element of an array containing a specific real value?

在Fortran代碼中，我有一個數組a ，其值的范圍從0.0到1.2均勻，我在尋找最接近1.0的值的索引。 在Fortran中似乎沒有任何內在函數可以執行此操作，因此我對MINLOC進行了巧妙的解決：（請注意temp與a形狀相同） 這似乎可以解決問題。 我對實現此目標的其他方 ...

如何獲得10的冪的雙數的尾數和指數？

[英]How to get the mantissa and exponent of a double in a power of 10?

我看到了函數double frexp (double x, int* exp); ，將雙精度數分成尾數（m）和指數（e），冪為2（ 1.m * 2^e ）。 是否有類似的函數以10的冪返回該值？ 像m * 10^e這樣的東西將是完美的。 ...

將數字轉換為規范化的科學計數法

[英]Converting a number to normalized scientific notation

我正在嘗試創建一種將數字轉換為歸一化的科學計數法的方法，這是我用來計算尾數和指數的代碼： 我面臨的問題是，這段代碼為某些數字給出了錯誤的指數值，例如1000、10E + 6、10E + 9、10E + 12、10E + 13等...對於1000來說，確切地應該是1e3，但不是10e2。 ...

蜂房數據類型：雙精度和小數位數

[英]Hive Data Type : Double Precision & Scale

我正在使用CDH 5.3.0和Hive 0.12。 我有一個Hive表，其列定義為double。 我正在將數據從HDFS序列文件中的小數點后的精度以2的小數位數加載到這些雙列中。 例如，在我的HDFS序列文件中，我的數據就像-100.23或345.00。 我需要選擇double，因為 ...


排序:
質量:
 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM