decimal

57热度

7回答

在C＃中这些线 decimal a = 2m; decimal b = 2.0m; decimal c = 2.00000000m; decimal d = 2.000000000000000000000000000m; Console.WriteLine(a); Console.WriteLine(b); Console.WriteLine(c); Console.WriteLi

12热度

7回答

用javascript切割未使用的小数点

我有一个货币输入，只需要返回有效数字。输入总有两位小数，所以： 4.00 -> 4 4.10 -> 4.1 4.01 -> 4.01 这里是我当前如何做： // chop off unnecessary decimals if (val.charAt(val.length-1) == '0') { // xx.00 val = val.substr(0, val.length-

1热度

4回答

SQL Server插入十进制，但选择Int

我有一个表有两个十进制（18,0）字段。我在这张表中插入两个十进制值。例如，1.11 当我从表中（不带管型）选择，我得到1 我失去了所有的Percision，我不知道为什么。插入到测试值（153， '测试'， '测试'，1，1，1.11，1.11）选择从TEST *和它们是1和1，而不是1.11,1.11 有任何想法吗？

13热度

3回答

蟒蛇小数比较

蟒蛇小数比较 >>> from decimal import Decimal >>> Decimal('1.0') > 2.0 True 我期待它正确地转换2.0，但读通PEP 327我知道有一些理由不implictly转换浮到小数点后，但不应该在情况下，应该提高类型错误，因为在这种情况下确实 >>> Decimal('1.0') + 2.0 Traceback (most recent

17热度

2回答

PHP/MySQL：最佳货币操作/存储操作？

因此，我打算制作一个处理大量金钱的应用程序（PHP/MySQL），我正在考虑如何存储和操作这些钱，指的是PHP浮点数据类型和MySQL小数。我想到了两种选择。其中之一是以整数美分格式（$ dollars * 100）操作和存储货币，以便不处理浮点数并将其作为整数存储在数据库中。另一个是以小数点存储在数据库中，并使用PHP数学公式计算。所以我整夜搜索了一下，找出哪个是最好的选择，没有找到明确的答

13热度

9回答

C/C++计算小数位数？

可以说来自用户的输入是一个十进制数，例如。 5. （有4位十进制数字）。它可以自由存储（int，double）等。是否有任何聪明（或非常简单）的方式来找出多少小数的数字？（有点像这个问题，你怎么通过掩盖最后一点发现一个数字是偶数或奇数）。

59热度

4回答

为什么我不能将int作为小数来取代？

我有一个IDataRecord reader我正在检索小数从如下：“指定的转换无效” decimal d = (decimal)reader[0]; 出于某种原因，这将引发一个无效的转换异常说，当我做reader[0].GetType()它告诉我，它是一个Int32。据我所知，这应该不是一个问题.... 我已经测试了这一点，这段代码工作得很好。 int i = 3750; decimal

41热度

7回答

将字符串转换为Python中的十进制整数

我在Python中有一个格式为'nn.nnnnn'的字符串，我想将它转换为整数。直接转换失败： >>> s = '23.45678' >>> i = int(s) Traceback (most recent call last): File "<stdin>", line 1, in <module> ValueError: invalid literal for int()

2热度

3回答

dotNet十进制类型容易出现二进制比较错误吗？

一个错误我偶然发现每隔数月是这一个： double x = 19.08; double y = 2.01; double result = 21.09; if (x + y == result) { MessageBox.Show("x equals y"); } else { Me

7热度

3回答

有什么办法可以在Python中得到一个小数部分的重复小数部分？

我正在使用Python的十进制模块使用分数，我想只得到某个分数的重复部分。例如：如果我有1/3我想得到3，如果我有1/7我想得到142857.是否有任何标准函数来做到这一点？