標簽[inexact-arithmetic] - 堆棧內存溢出

[英]Floating point less-than-equal comparisons after addition and substraction

在一系列浮點算術運算之后，是否有與浮點數進行小於等於比較的“最佳實踐”？我在 R 中有以下示例（盡管該問題適用於使用浮點的任何語言）。我有一個雙x = 1 ，我在上面應用了一系列的加法和減法。最后x應該正好是 1 但不是由於浮點算術（從我收集到的）。這是示例：一個（天真的？）解決方案 ...

[英]Comparing floats in a pandas column

我有以下數據框：我需要添加一列，指示實際信用 >= min_required_credit 的位置。結果將是：我正在做以下事情：然而，第三行（0.4 和 0.4）不斷導致 False。在多個地方研究了這個問題之后，包括：在 Python 中比較浮點數以實現幾乎相等的最佳 ...

[英]exact/inexact results like sqrt and integer roots

R6RS 3.4實施要求閱讀 ...如果將sqrt等潛在不精確的運算應用於精確參數，則應在可能的情況下產生精確答案（例如，精確4的平方根應為精確2）。（1）這是否意味着(* 0 2.2)必須產生0.0但決不能產生0 ？但是，這不是必需的。 ... （2） ...

[英]How to convert any number to a clojure.lang.Ratio type in Clojure?

在Scheme中我可以做到：在Clojure中我可以做類似的事情：但在Scheme中我可以這樣做：在Clojure中是不可能的：如何將Double（或實際上任何類型的數字）轉換為clojure.lang.Ratio？在Scheme中我們也有inex ...

[英]how can I obtain exact values of sin and cos in matlab for angles like pi/4?

如果我用matlab寫我得到以下表格：當我希望得到它的實際值（2）^（1/2）/ 2來更清楚地編寫公式時。有什么辦法可以做到我的要求嗎？ ...

[英]DBL_MAX loses significant part of its precision after being re-parsed from string

我在我的iPhone上運行此代碼： ...並獲得此輸出：為什么printf() / atof()序列會失去精度（我假設stringWithFormat內部是printf ）？它不僅發生在DBL_MAX上，而且發生在每個非常大的數字上（例如，對於10000它按預期工作，對於D ...

[英]SQL Server casting result of arithmetic

我只是在匯總的報告中查看了一些很小的差異，對於SQL Server進行轉換的最佳做法是什么，以及是否有人可以指出正確的方向來解釋我的觀點，我感到困惑我在看在某些情況下，使用與示例表@data中所示相似的數據，當前計算會產生1p的很小誤差。有人可以指出我正確的方向，還是至少告訴我我 ...

[英]Is the double 0.0 always represented exactly in portable C?

是否可以在具有符合ANSI標准的C編譯器的所有環境中使用以下代碼？那么C ++呢？ ...

[英]How does the Scheme function inexact->exact operate?

inexact->exact描述的方案程序inexact->exact如何運行？ ...

[英]Generate “fuzzy” difference of two files in Python, with approximate comparison of floats

我有比較兩個文件的問題。基本上，我想要做的是兩個文件之間類似於UNIX的差異，例如： $ diff -u左文件右文件但是我的兩個文件包含浮點數; 並且因為這些文件是在不同的體系結構上生成的（但是計算相同的東西），浮動值並不完全相同（它們可能因1e-10而不同）。但我通過' ...