[英]SQL str() vs round() function
在使用str()函数时,我发现在某些情况下,round()舍入错误,而round()函数按预期工作。 请看一下这个例子:
declare @v decimal(18,2) = 29.95
select str(@v, 18, 1)
--29.9
select round(@v, 1)
--30.00
set @v = 39.95
select str(@v, 18, 1)
--40.00
select round(@v, 1)
--40.00
谁能解释为什么会这样?
EDIT1 :我使用以下基本代码测试了不同的变通方法:
declare @v decimal(18,2) = 9.95
declare @r varchar(100)
declare @c int = 1000000
declare @ms int
declare @dt datetime2
set @dt = sysdatetime()
while @c > 0
begin
set @r = --different roundings
set @c = @c - 1
end
set @ms = DATEDIFF(ms, @dt, sysdatetime())
select @ms, @r
选项1(原始的,在某些情况下错误地轮回):
str(@v, 18, 1)
选项2(略有修改但正确舍入):
str(round(@v, 1), 18, 1)
选项3(双转换和舍入):
convert(varchar(20), convert(decimal(18,1), round(@v, 1)))
选项4(仅双转换):
convert(varchar(20), convert(decimal(18,1), @v))
结果 :选项1和2大约比最后两个慢2倍,但结果是右对齐的。 选项4最快。
str()的参数是一个浮点数,因此您的十进制值会隐式转换为float(53),然后转换为字符串。 所以你看到一个浮点舍入错误。
对您的查询稍作修改,您就可以看到实际执行计划中发生了什么。
declare @v decimal(18,2) = 29.95
select top(1) str(@v, 18, 1)
<ScalarOperator ScalarString="str(CONVERT_IMPLICIT(float(53),[@v],0),(18),(1))">
STR()的语法; STR(float_expression [,length [,decimal]])清楚地表明该数字是一个float_expression。 因此,无论您给出的数字是多少,都将首先转换为FLOAT(n),其中默认值n = 53。
所以
SELECT STR(4.65,5,1),SELECT STR(3.65,5,1)
等于:
SELECT STR(CAST(4.65 AS FLOAT(53)),5,1),STR(CAST(3.65 AS FLOAT(53)),5,1)
如果指定n,比如n = 4,它将给出你期望的答案(即4.7和3.7)
SELECT STR(CAST(4.65 AS FLOAT(4)),5,1),STR(CAST(3.65 AS FLOAT(4)),5,1) - 4.7,7.7
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.