繁体   English   中英

SQL str()vs round()函数

[英]SQL str() vs round() function

在使用str()函数时,我发现在某些情况下,round()舍入错误,而round()函数按预期工作。 请看一下这个例子:

declare @v decimal(18,2) = 29.95
select str(@v, 18, 1)
--29.9
select round(@v, 1)
--30.00

set @v = 39.95
select str(@v, 18, 1)
--40.00
select round(@v, 1)
--40.00

谁能解释为什么会这样?

EDIT1 :我使用以下基本代码测试了不同的变通方法:

declare @v decimal(18,2) = 9.95
declare @r varchar(100)
declare @c int = 1000000
declare @ms int
declare @dt datetime2

set @dt = sysdatetime()

while @c > 0
begin
    set @r = --different roundings
    set @c = @c - 1
end

set @ms = DATEDIFF(ms, @dt, sysdatetime())
select @ms, @r

选项1(原始的,在某些情况下错误地轮回):

str(@v, 18, 1)

选项2(略有修改但正确舍入):

str(round(@v, 1), 18, 1)

选项3(双转换和舍入):

convert(varchar(20), convert(decimal(18,1), round(@v, 1)))

选项4(仅双转换):

convert(varchar(20), convert(decimal(18,1), @v))

结果 :选项1和2大约比最后两个慢2倍,但结果是右对齐的。 选项4最快。

str()的参数是一个浮点数,因此您的十进制值会隐式转换为float(53),然后转换为字符串。 所以你看到一个浮点舍入错误。

对您的查询稍作修改,您就可以看到实际执行计划中发生了什么。

declare @v decimal(18,2) = 29.95
select top(1) str(@v, 18, 1)
<ScalarOperator ScalarString="str(CONVERT_IMPLICIT(float(53),[@v],0),(18),(1))">

STR()的语法; STR(float_expression [,length [,decimal]])清楚地表明该数字是一个float_expression。 因此,无论您给出的数字是多少,都将首先转换为FLOAT(n),其中默认值n = 53。

所以

SELECT STR(4.65,5,1),SELECT STR(3.65,5,1)

等于:

SELECT STR(CAST(4.65 AS FLOAT(53)),5,1),STR(CAST(3.65 AS FLOAT(53)),5,1)

如果指定n,比如n = 4,它将给出你期望的答案(即4.7和3.7)

SELECT STR(CAST(4.65 AS FLOAT(4)),5,1),STR(CAST(3.65 AS FLOAT(4)),5,1) - 4.7,7.7

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM