[英]issue with floating point precision js
我在JS中遇到以下错误。
(1.001 * Math.pow(10, 3))
而不是返回1001
这将返回1000.99999999
。 我试图消除这个错误,并一直在寻找使用这个big.js库。
我不确定如何解决这个问题。
我尝试了以下但它似乎不起作用。
var x = new Big(10);
(1.001 * x.pow(3));
这会产生与没有库相同的错误。
你必须以这种方式使用Big.js,我认为你必须忘记使用传统的运算符:
console.log(Big(1.001).times(Big(10).pow(3)))
<script src="https://cdnjs.cloudflare.com/ajax/libs/big.js/3.2.0/big.min.js"></script>
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.