2012-06-13 29 views
6
property name="poiLat" length="60" ormtype="big_decimal" persistent=true precision="16" scale="14" default="0" hint=""; 

我不明白精确度或比例尺是否正确。使用上面的属性为什么'1'会给出错误,'2'会被接受?我应该怎么改变它接受 '1'了解物业的精度和规模

1)-118.27 =错误

2)-18.27 = OK

回答

7

规模是指数字的小数点右边数。如果你有精度16和标度14,你只能有2个位数的留下的小数位的,所以

18.123456789= ok 
118.27 = error 

尝试:

precision="16" scale="13" 

这将使118.1234567890123,但这是很多小数位。你真的需要多少?

precision="16" scale="4" 

将允许123456789012.1234

+0

谢谢你,我现在明白了 – Prometheus