decimal

    122热度

    14回答

    如何转换C＃中十六进制和十进制数字之间的数字？

    如何在C＃中的十六进制数和十进制数之间进行转换？
    c# hex type-conversion decimal 2008-09-16

    7热度

    7回答

    如何检查double是否至多有n位小数？

    目前，我有这个方法： static boolean checkDecimalPlaces(double d, int decimalPlaces){ if (d==0) return true; double multiplier = Math.pow(10, decimalPlaces); double check = d * multiplier; c
    java floating-point decimal 2008-11-05

    543热度

    13回答

    将不透明度应用于表单时，我们应该使用小数还是双精度值？

    我想使用轨迹栏来更改窗体的不透明度。 这是我的代码： decimal trans = trackBar1.Value/5000; this.Opacity = trans; 当我构建应用程序，它提供了以下错误： Cannot implicitly convert type 'decimal' to 'double' . 我尝试使用trans和double但随后的控制不起作用。此代码在过去的V
    c# winforms type-conversion decimal opacity 2008-07-31

    2热度

    8回答

    小数位浮点数和小数点的位置问题。小数点

    我似乎失去了很多使用浮点数的精度。 例如我需要解决一个矩阵： 4.0x -2.0y 1.0z =11.0 1.0x +5.0y -3.0z =-6.0 2.0x +2.0y +5.0z =7.0 这是我使用从文本文件导入矩阵的代码： f = open('gauss.dat') lines = f.readlines() f.close() j=0 for line in line
    python floating-point decimal floating-accuracy 2008-11-13

    9热度

    9回答

    ASP/VBScript“Gotchas”

    我支持/增强用传统ASP/VBScript编写的Web应用程序。自从我使用日常的能力已经有大约10年了。我只是遇到了一个我认为是“疑难杂症”的问题，并且想知道其他人是否有类似的事情，我应该学会注意。我不得不将SQL表中的Column从float转换为decimal。事实证明，十进制不是在vbscript中真正支持（或很好地支持）的类型。所以下面的代码： Dim var1, var2 var1
    asp-classic vbscript decimal 2008-11-13

    1热度

    2回答

    t-sql十进制赋值更改值

    为什么下面的select语句返回两个不同的值？ declare @tempDec decimal set @tempDec = 1.0/(1.0 + 1.0) select @tempDec, 1.0/(1.0 + 1.0)
    tsql decimal 2008-11-13

    5热度

    6回答

    十进制模块中的重要数字

    因此，我决定尝试通过编写一些python脚本来解决我的物理作业，以解决我的问题。我遇到的一个问题是，重要人物似乎并不总能正确出现。例如，这妥善处理显著数字： from decimal import Decimal >>> Decimal('1.0') + Decimal('2.0') Decimal("3.0") 但这并不： >>> Decimal('1.00')/Decimal('3.0
    python floating-point decimal physics significance 2008-09-27
最新问题