堆棧內存溢出
cost 210 ms
實現半精度浮點運算的 ARM 條指令列表

[英]List of ARM instructions implementing half-precision floating-point arithmetic

Arm A-profile架構的架構參考手冊（強調已添加）： FPHP，位 [27:24] 0b0011 與 0b0010 一樣，增加了對半精度浮點運算的支持。 一個簡單的問題：在哪里可以找到實現半精度浮點運算的 ARM 條指令的列表？ 更新。 根據 Clang 的 Arm (armclang ...

為什么在 `DBL_MAX` 和無窮大附近出現加法錯誤？

[英]Why addition error near `DBL_MAX` and infinity?

在試驗舍入模式時， FE_DOWNWARD （和FE_TOWARDZERO ）顯然無法形成預期的無窮大和，而是在添加DBL_MAX和 1 ULP的DBL_MAX時形成DBL_MAX 。 以下是演示意外總和的測試代碼。 在不同的回合模式下，它增加了接近 0.5 ULP 和 1.0 ULP 的DBL_ ...

python 3 中的浮點格式

[英]floating point formatting in python 3

我一直在研究，但我找不到一個簡單的解決方案來執行以下行為。 我想將浮點數舍入到特定位置並將結果作為字符串（最好是原始字符串）。 具體來說，我想要四舍五入的數字可能會從小數點開始，在這種情況下我希望結果不包括小數點。 例子 我知道 會在某些示例中起作用，但不適用於負 prec。 先感謝您。 ...

python 中的浮點數近似

[英]floating point approximation in python

我是 python 的新手，我正在嘗試了解浮點數近似值以及浮點數在 Python 中的表示方式。 例如： 我理解這兩種情況，但是這些具體情況呢？ 是否巧合只是因為 .1+.1+.1+.1 和 .1+.1 的值分別等於 .4 和 .2 即使這些數字在 Python 中沒有正確表示？ 還有其他類似的情況 ...

為什么除以 np.timedelta(...) 會根據兩個日期時間對象之間的差異提供浮點答案？

[英]Why does dividing by np.timedelta(...) provide a float answer from the difference between two datetime objects?

假設我有兩個日期時間（或時間戳）變量，我試圖找出它們之間的區別。 我可以： 這會導致 timedelta object（或 dtype=timedelta64 數組，如果您使用兩個系列的日期時間）。 然后，如果我想要天數中 diff 的浮點值，我可以執行： 如前所述，這會產生一個浮點值，然后您可以 ...

為什么在打印浮點數時需要將相同的值 +4 壓入？

[英]Why do I need to push the same value +4 when printing a float?

很長一段時間以來，我一直試圖在 FASM 中打印一個浮點值，直到我終於找到了一個解決方案，它起作用了，但是，為什么會這樣呢？ 在一個 C 程序上，我讓 x64dbg 生成的匯編代碼是這樣的： 我認為事實fld將浮點值加載到 st(0) 中，而fstp將 st(0) 值加載到一個地址上，基本上，非常 ...

是否可以提高 C 中諧波級數的浮點和的精度超過 10^-8？

[英]Is it possible to increase the precision of a floating point sum of a harmonic series in C past 10^-8?

給定諧波級數 1 - 1/2 + 1/3 - 1/4... = ln(2)，是否可以僅使用浮點值並僅使用基本運算 (+,-,* ,/). 是否有任何算法可以提高此計算的精度而不會使 n 值過高（當前合理限制為 1e^10） 我目前擁有的： this.nets me 8 correct digits ...

如何通過 I2C 將浮點數從 Raspberry Pi 發送到 STM32F205？

[英]How to send floats from Raspberry Pi to STM32F205 via I2C?

我想將 Raspberry Pi3 用作主設備，並通過 I2C 將 ID、電壓、電流、電壓相位、電流相位、頻率作為浮點數發送到我的 STM32。 我不知道如何在 python 在 Raspberry Pi 上做到這一點。 直到現在我用 Arduino Nano 做到了這一點，我工作得很好。 代碼如 ...

printf 不打印變量浮點答案

[英]printf doesn't print variable float answer

嘗試在添加稅款和小費后計算賬單總額，然后將其分攤給 2 個人； 代碼編譯但不打印最終值。 這是 cs50 課程的一部分 - 附帶說明，我發現它在運行代碼時非常困難，但通常它是不正確的，在我搜索它之前我看不到解決方案。 即便如此，理解它本身仍然是一項壯舉； 像這里為什么我要使用返回？ 我知道它是必需的 ...

如何查看當前編譯器下是否指定了std::frexp的結果？

[英]How to check if the result of std::frexp is specified under the current compiler?

std::frexp是一個 function ，它從浮點變量中刪除指數並將其放入int類型的變量exp中。 無論指數真正需要多少位，它都使用int並根據鏈接頁面： 如果要存儲在*exp中的值超出了int的范圍，則行為未指定。 那么，如何檢查“ *exp是否在int的范圍之外”？ 我正在考慮在我的 ...

Python除以numpy arrays時如何保持小數

[英]How to maintain decimals when dividing with numpy arrays in Python

因此，我正在努力在 Python 中實現我自己的同質性統計測試版本，用戶將提交列表列表，函數將計算相應的 chi 值。 我發現的一個問題是我的 function 在執行除法時刪除了小數點，導致小樣本量的 chi 值有些不准確。 這是代碼： 打印結果時，我看到b[x][y]值為[[33 29 23] ...

Kotlin如何制作123.456格式

[英]Kotlin how to make 123.456 format

我有秤應用程序。 我想顯示即 123.456g 我有代表 123 的 uint8（刻度范圍是 0 - 150g） 我還有代表 456 的 uint16（刻度范圍.0 -.999g） 我的代碼： 生成 51323.457 而不是 123.456 有什么問題？ ...

返回浮點參數 f 的表達式 -f 的位級等價物

[英]Return the bit-level equivalent of expression -f for floating point argument f

作為我編碼 class 的第一個大型編碼項目的一部分，介紹了 C，提出了以下問題，請注意限制： 到目前為止，這是我的代碼： 當我通過檢查軟件運行這段代碼時，我得到了這個錯誤： 此作業的目的是學習浮點和位操作。 因此，如果您能解釋我哪里出了問題，以及我該如何解決，我將不勝感激。 另外，是的，我知道，在 ...

為什么有人會像這樣寫一個包含浮點數的 if 條件？

[英]Why would someone write an if condition containing a float like this?

我正在查看我公司的一位高級開發人員以前編寫的一些代碼，我很好奇他們編寫的看起來有些復雜的 if 語句背后的推理（如果可能，我會直接問他們）。 該代碼旨在檢查傳感器的溫度讀數是否有效。 我相信負讀數在當時是有效的，這解釋了使用std::abs()並將其與 0.000001 進行比較而不是僅僅使用te ...

`strtof()` 轉換錯誤超過 0.5 ULP

[英]`strtof()` conversion error by more than 0.5 ULP

為什么strtof() "3.40282356779733 650000 e38" 意外地轉換為無窮大，即使它在FLT_MAX的 0.5 ULP 以內？ FLT_MAX ( float32 ) 是 0x1.fffffep+127 或大約 3.4028234663852885981170e+38。 ...

高效精確的浮點二進制搜索

[英]Efficient and Exact Floating-Point Binary Search

考慮以下二進制搜索大於lo但小於或等於hi的值：find(lo: number, hi: number, isTooLow: (testVal: number) => boolean) { for(;;) { const testVal = between(lo, hi ...


排序:
質量:
 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM