繁体   English   中英

精度与精度Java浮点数

[英]precision vs accuracy java floating point number

根据以下站点:精度与精度。 精度=规格密封性。 准确性=正确性。 不要将精度与精度混淆。 http://introcs.cs.princeton.edu/java/91float/

有人可以定义然后解释与Java浮点数有关的精度和准确性之间的区别吗

如果您浏览IEEE 754的文档,它将描述单精度和双精度类型。 它说: “几乎所有的硬件和编程语言都使用相同二进制格式的浮点数”。

普通格式的总长度为32或64位:

格式:单精度

总位数: 32

有效位: 23 +1个符号

指数位: 8

最小数字: 1.2⋅10(战俘)-38

最大数字: 3.4⋅10(战俘)38


格式:双精度

总位数: 64

有效位: 52 +1个符号

指数位: 11

最小数字: 5.0⋅10(战俘)-324

最大数字: 5.0⋅10(战俘)-324

Java遵循关键字支持的单精度和双精度类型。

float f = 0.1f; // 32 bit float, note f suffix

double d = 0.1d; // 64 bit float, suffix optional

如果在类,接口,方法上使用strictfp关键字,它将强制所有中间结果遵循IEEE 754值,并保证所有平台上的结果(准确性)相同。 如果没有strictfp关键字,实现可以在可用的地方使用扩展的指数范围,从而获得更精确的结果并在许多常见CPU上更快地执行。

因此,作为用户/程序员,可以指定精度(舍入值)。

例:

String.format("%.2f", 3.2399) // returns "3.24"
String.format("%.3f", 3.2399) // returns "3.240"

准确性是定义计算或规格符合正确值或标准的程度的东西。

有关更多详细信息,请查看Java SE规范。

精度是您指定的位数,而精度则指定与真实结果的差。

举个例子:

3.14不如3.149精确,但如果将其视为pi的值,则更精确。

Java float的精度约为6-7个十进制数字。 这取决于输入的精度和算法的数值稳定性,您将如何获得准确的结果。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM