計算這個“簡單”浮點數 function 的精確倒數

[英]Compute the exact inverse of this "simple" floating-point function

我有以下 function：float int_to_qty(unsigned x) { const float MAX = 8.5f; const float MIN = .001f; return ((MAX-MIN) / (float)(1<<24)) * ...

使用定點算法以高精度和大數歸一化向量

[英]Normalizing a vector with great accuracy and big numbers using fixed-point arithmetic

為什么我需要這個？ 我正在創造一個關於太空的游戲。 要使太空游戲發揮作用，它需要大而准確的數字。 浮點數對於這樣的應用來說並不是很好，因為如果你離世界很遠，精度會更差，所以物理就不一樣了，等等。 有什么問題在太空中通常傾向於 pl.nets。 所以要創建一個我必須生成球體 (pl.nets) 網格。 ...

為什么python中不同浮點數的差可以為0？

[英]Why can the difference of different floating numbers be 0 in python?

為什么在 python3 中下面代碼的結果是 0？ ...

為什么有人會像這樣寫一個包含浮點數的 if 條件？

[英]Why would someone write an if condition containing a float like this?

我正在查看我公司的一位高級開發人員以前編寫的一些代碼，我很好奇他們編寫的看起來有些復雜的 if 語句背后的推理（如果可能，我會直接問他們）。 該代碼旨在檢查傳感器的溫度讀數是否有效。 我相信負讀數在當時是有效的，這解釋了使用std::abs()並將其與 0.000001 進行比較而不是僅僅使用te ...

浮點相等性出乎意料地工作

[英]Floating-point equality unexpectedly working

我們經常被告知，不應該比較浮點數是否完全相等。 然而，下面的 function 在傳遞任何正數時返回黃金比例，實際上確實比較雙精度數是否相等，令我驚訝的是它似乎總是有效： 我認為它可能適用於某些輸入 arguments 但不適用於其他輸入。 但即使我使用 JQwik 的屬性測試，它仍然有效！ 誰能告 ...

指數方程 integer 解的數值精度

[英]Numerical accuracy of an integer solution to an exponential equation

我有一個算法依賴於 integer 輸入x ， y和s 。 對於輸入檢查和引發無效 arguments 的異常，我必須確保有一個自然數n以便x*s^n=y 或者換句話說：我必須多久將x與s相乘一次，直到得到y 。 更重要的是：我准確地到達了y嗎？ 這個問題可以通過除以x進一步抽象： x*s^n=y ...

計算 Matlab 中的 sin(pi/2-A) 和 cos(A) 是否存在數值精度差異？

[英]Is there any numerical-accurracy difference on calculating sin(pi/2-A) and cos(A) in Matlab?

我正在讀一個 matlab function 來計算我的高級同事寫的大圓距離。 地球表面兩點之間的距離應使用以下公式計算： 然而，腳本有這樣的代碼： 為什么用sin(pi/2-A)和cos(pi/2-A)來代替cos(A)和sin(A) ？ 使用常量pi不是引入了更多的誤差源嗎？ 由於lat1 ， ...

將 2D Array 轉換為 RGB 或 GrayScale 圖像以獲得精度差異的正確方法

[英]A proper way to convert 2D Array into RGB or GrayScale image for precision difference

我有一個 2D CNN model，我在其中執行分類任務。 我的圖像都來自轉換后的傳感器數據。 所以，通常，我的方法是使用以下方法將它們轉換為圖像 這是我得到的： 然而，它們的精度有點重要。 例如，一些數值如下： 117.79348187327987 或 117.76568758022673。 ...

正在讀取不帶小數位的浮點值

[英]Float values are being read without decimal places

這些是 excel 文件中的值： 7257.5679 6942.0949714286 5780.0125476250005 這是我的 read_excel： Pandas output： 7258 6942 5780 在數據庫中： 7257.5679 6942.0949714286 ...

如何獲取 Python 中兩次調用之間的時間（以毫秒為單位）

[英]How to get the time in ms between two calls in Python

如何正確獲取兩次連續調用之間的毫秒數？ 有很多不同的方法來獲取或分析時間，但它們似乎都有問題： time.clock()已棄用 time.time()基於系統的時鍾來確定自紀元以來的秒數並且具有不可靠的閏秒處理 time.process_time( time.process_time()和tim ...

toStringAsFixed() 返回 Dart 中給定數字的向上舍入值

[英]toStringAsFixed() returns a round-up value of a given number in Dart

我想在Dart中得到一個double精度的小數點后一位。 我使用toStringAsFixed()方法來獲取它，但它返回一個舍入值。 如果沒有舍入值，我怎么能得到它？ 也像1.1對應1.151 。 提前致謝。 ...

是否只允許在一個表達式中使用浮點數縮寫？

[英]Are floating point contractions only allowed within one expression?

這個 C/C++ 簡化測試用例：int x = ~~~; const double s = 1.0 / x; const double r = 1.0 - x * s; assert(r >= 0); // fail 在數值上不穩定，並命中斷言。 原因是最后的計算可以用FMA完成，將r帶 ...

Java 浮點乘法給出錯誤的結果

[英]Java Float multiplication giving wrong result

使用 FLOAT 的乘法給出了明顯的差異。 public static void main(String[] args) { // using string and parsing instead of actual data type is part of use case, that i ...

歸一化后均值不為 0（Torchvision）

[英]mean is not 0 after Normalize (Torchvision)

我試圖從Trochvision.transforms了解Normalize() 。 使用后， mean應為0且std()應為1 。 至少教程是這么說的。 但它不起作用！ 我試過這段代碼：tensor = torch.Tensor([[[1, 2, 3], [4, 5, 6]], [[1, 2, 3 ...

為什么 Keras Precision 指標適用於 One-Hot-Vectors 但其 Accuracy 指標卻不起作用？

[英]Why does Keras Precision metric work on One-Hot-Vectors but their Accuracy metric does not?

這對我來說似乎沒有意義。 當我使用keras.metrics.Precision指標時，它在我的多類模型上運行良好（即在單熱向量輸出上），但是當我使用keras.metrics.Accuracy時它不起作用（0.0 精度），我需要為單熱向量輸出使用它的特定變體： keras.metrics.Cat ...

The.round(precission) Ruby 方法不起作用

[英]The .round(precission) Ruby method is not working

問題詳情： 我的例程是一組簡單的方程式，結果必須以 4 位小數精度的浮點元素數組形式產生結果。 問題是 .round(4) 方法不起作用。 我嘗試了什么： 二手.round(4) 用於.to_f(4) 我的代碼如下： ` ` 注意：例程接受以下形狀的數組 [p1,p2,p3]，其中 p1 到 p ...

什么是測量顫振准確時間的最佳工具

[英]what is the best tool to measure accurate time in flutter

在我們的代碼中，我們希望在精確的毫秒數后激活功能。 在當前代碼中我們使用了Timer，但是我們想知道如何確保Timer是准確的，或者flutter中是否有其他工具可以給我們最准確的執行時間。 ...

Bash，比較值

[英]Bash, compare values

試圖讓這個比較在 bash 中工作...... 例如，我希望通過設置 foo=31.26 使第二個“比較”為真。如果 $foo 中的值小於或等於 33.75或大於或等於 11.25，則“做某事”。 如果選項為“true”，則不管怎樣，這都行不通。 我究竟做錯了什么？ ...

awk 和 gawk decimal integer 比較失敗了一段時間

[英]awk and gawk decimal integer comparison fails some time

我已經編寫了一個 AWK 腳本來掃描支票圖像日志文件（ASCII 字符發送到激光或點陣打印機以打印在預打印的支票表格上）與 tee /tmp/$$.print 一起保存用於每次支票運行。 目標是將支票標簽發票/折扣值相加，並與印在支票主體上的美元和美分以及支票金額進行比較。 該腳本按預期工作但意外失 ...

如何在不使用 toFixed() 的情況下在 JavaScript 中舍入數字

[英]How to round a number in JavaScript without using toFixed()

我試圖將數字四舍五入到某個小數位，預期的 API 將是這樣的： 要么 但這些 API 似乎並不存在。 我有這個似乎按原樣工作： 這行得通，但我們必須先使用 toFixed() 將數字轉換為字符串。 有沒有辦法直接將數字四舍五入而不轉換為字符串？ ...