[英]issue with floating point precision js
我在JS中遇到以下錯誤。
(1.001 * Math.pow(10, 3))
而不是返回1001
這將返回1000.99999999
。 我試圖消除這個錯誤,並一直在尋找使用這個big.js庫。
我不確定如何解決這個問題。
我嘗試了以下但它似乎不起作用。
var x = new Big(10);
(1.001 * x.pow(3));
這會產生與沒有庫相同的錯誤。
你必須以這種方式使用Big.js,我認為你必須忘記使用傳統的運算符:
console.log(Big(1.001).times(Big(10).pow(3)))
<script src="https://cdnjs.cloudflare.com/ajax/libs/big.js/3.2.0/big.min.js"></script>
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.