[英]precision vs accuracy java floating point number
根据以下站点:精度与精度。 精度=规格密封性。 准确性=正确性。 不要将精度与精度混淆。 http://introcs.cs.princeton.edu/java/91float/
有人可以定义然后解释与Java浮点数有关的精度和准确性之间的区别吗
如果您浏览IEEE 754的文档,它将描述单精度和双精度类型。 它说: “几乎所有的硬件和编程语言都使用相同二进制格式的浮点数”。
普通格式的总长度为32或64位:
格式:单精度
总位数: 32
有效位: 23 +1个符号
指数位: 8
最小数字: 1.2⋅10(战俘)-38
最大数字: 3.4⋅10(战俘)38
格式:双精度
总位数: 64
有效位: 52 +1个符号
指数位: 11
最小数字: 5.0⋅10(战俘)-324
最大数字: 5.0⋅10(战俘)-324
Java遵循关键字支持的单精度和双精度类型。
float f = 0.1f; // 32 bit float, note f suffix
double d = 0.1d; // 64 bit float, suffix optional
如果在类,接口,方法上使用strictfp
关键字,它将强制所有中间结果遵循IEEE 754值,并保证所有平台上的结果(准确性)相同。 如果没有strictfp
关键字,实现可以在可用的地方使用扩展的指数范围,从而获得更精确的结果并在许多常见CPU上更快地执行。
因此,作为用户/程序员,可以指定精度(舍入值)。
例:
String.format("%.2f", 3.2399) // returns "3.24"
String.format("%.3f", 3.2399) // returns "3.240"
准确性是定义计算或规格符合正确值或标准的程度的东西。
有关更多详细信息,请查看Java SE规范。
精度是您指定的位数,而精度则指定与真实结果的差。
举个例子:
3.14不如3.149精确,但如果将其视为pi的值,则更精确。
Java float
的精度约为6-7个十进制数字。 这取决于输入的精度和算法的数值稳定性,您将如何获得准确的结果。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.