繁体   English   中英

从定点到浮点

[英]From fixed point to floating point

作为算法输入,我得到的整数值将按比例缩放10。因此,如果我得到10,它实际上是1,如果我得到1,则实际上是0.1。 我需要将其转换为分数表示形式进行计算,然后再转换回输出。 我想如果将数字转换为两倍,则可能会在转换期间失去一些准确性。 解决此问题的正确方法是什么。

十进制类型为10个基数的计算提供了更高的精度(比浮点数高),这就是我要使用的精度。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM