我有一个字段,我使用LEN()
来计算字符串长度,然后我将它与AVG(CONVERT(FLOAT,LEN(some_field)))
生成的值进行比较。在SSRS中比较Float和Int
比较的点是做THIS如果第一值小于所述第二和THAT当该值大于。
我的问题是:当比较上述数据类型的2个值时,系统停止使用更多小数位作为浮点值,然后决定舍入它?
作为示例,比较结果为10
与9.5
相比较。所以它会选择其中一个选项(哪个不重要)。但那么10
与9.99999999999999999
相比呢?系统会判定9.99999999999999999
实际上是10
,从而破坏了比较的重点?