我在sql服务器中有一个视图,如下所示：
select 6.71/3.41 as NewNumber
结果是1.967741(注意小数点后6位) – >小数(38,6)
我在计算器中尝试相同的操作,但结果是1.967741935483871xxxx
我想强制sql Server返回更准确的结果,如十进制(38,16)
我已经尝试过像铸造这样的显而易见的东西,但是sql Server没有改进输出我只是在结尾处得到一些尾随的零,如1.9677410000
有没有办法强制sql Server不截断结果或提供更准确的结果？
解决方法
如果你想要像十进制(38,16)这样的东西,你需要在截断已经发生之后转换输入而不是输出！
SELECT CAST(6.71 AS DECIMAL(38,18))/3.41 AS NewNumber
返回
1.9677419354838709
检查数据类型
SELECT sql_VARIANT_PROPERTY(CAST(6.71 AS DECIMAL(38,18))/3.41,'BaseType'),sql_VARIANT_PROPERTY(CAST(6.71 AS DECIMAL(38,'Precision'),'Scale')
返回
numeric 38 16
编辑
这只是添加一个额外的链接作为评论的后续内容.十进制到十进制转换的规则are described in BOL.该链接包括以下短语
*The result precision and scale have an absolute maximum of 38. When a
result precision is greater than 38,
the corresponding scale is reduced to
prevent the integral part of a result
from being truncated.
但是没有详细说明如何进行这种截断. This is documented here.
