簡體 English 中英

計算器應用浮點運算的解決方案

[英]Solution to floating point arithmetic for calculator app

原文 2017-05-20 22:50:59 1 1 javascript/ math

我正在React中制作一個計算器應用程序，想要一種浮點運算的解決方案，而不必四舍五入到固定數量的小數位或截斷。

基本上，我怎么能得到我的計算器應用程序來計算0.3 - 0.1 ，返回0.2 ，而不是0.19999999999999998 ？

1 個解決方案

您可以使用任意精度的Decimal like類型進行計算。 像這樣一個： https : //github.com/MikeMcl/decimal.js

JavaScript中的精確浮點運算

[英]Accurate floating point arithmetic in JavaScript

在Python中執行Javascript浮點運算

[英]Performing Javascript floating point arithmetic in Python

浮點數——沒有算術運算和精度錯誤

[英]Floating point numbers - no arithmetic operations and precision errors

是否有javascript浮點錯誤的確定解決方案？

[英]Is there a definitive solution to javascript floating-point errors?

c＃和javascript中的IEEE 754浮點運算舍入誤差

[英]IEEE 754 floating point arithmetic rounding error in c# and javascript

Tensorflow vs Tensorflow JS 浮點算術計算的不同結果

[英]Tensorflow vs Tensorflow JS different results for floating point arithmetic computations

浮點表示似乎正確地進行整數運算 - 為什么？

[英]Floating point representations seem to do integer arithmetic correctly - why?

JavaScript浮點運算中的跨瀏覽器一致性

[英]Cross-browser consistency in JavaScript floating point arithmetic

使用 ParseObject.increment() function 時如何處理浮點運算

[英]How do you handling floating point arithmetic when using the ParseObject.increment() function

Python vs Javascript浮點算法給出了非常不同的答案。我究竟做錯了什么？

[英]Python vs Javascript floating point arithmetic giving very different answers. What am I doing wrong?

暫無

暫無

聲明:本站的技術帖子網頁，遵循CC BY-SA 4.0協議，如果您需要轉載，請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

相關問題 JavaScript中的精確浮點運算在Python中執行Javascript浮點運算浮點數——沒有算術運算和精度錯誤是否有javascript浮點錯誤的確定解決方案？ c＃和javascript中的IEEE 754浮點運算舍入誤差 Tensorflow vs Tensorflow JS 浮點算術計算的不同結果浮點表示似乎正確地進行整數運算 - 為什么？ JavaScript浮點運算中的跨瀏覽器一致性使用 ParseObject.increment() function 時如何處理浮點運算 Python vs Javascript浮點算法給出了非常不同的答案。我究竟做錯了什么？

相關標簽

粵ICP備18138465號 © 2020-2024 STACKOOM.COM