decimal

1热度

5回答

如何将Java中的小数转换为二进制？

我需要将基数10中的0.5转换为基数2（0.1）。我一直在使用 Double.doubleToRawLongBits(0.5) 尝试，并返回4602678819172646912我的猜测是十六进制，但它并没有道理给我。

25热度

7回答

十进制数的正则表达式

我需要验证textbox输入并且只能允许十进制输入，如：X,XXX（小数点前一位数字，精度为3）。我正在使用C＃并试试这个^[0-9]+(\.[0-9]{1,2})?$？

1热度

1回答

sql server udf，返回与输入表达式相同的类型

udf是否可能返回与其参数相同的数据类型？我想我的udf接受任何精度的小数点和刻度并返回相同的类型。

0热度

2回答

小数和C++中的Pow功能

最有可能的一个非常简单的问题，请保留任何的答案很容易理解我仍然很新的这一点：我正在做一个小应用程序，我需要使用权力进行一些计算。经过一番研究，我发现了cmath的pow函数，并且已经发挥了作用。最后，我想出了这个剪切，它的工作原理： #include <iostream> #include <cmath> using namespace std; int main() { f

7热度

2回答

双字符串转换和区域设置

一个常见的国际问题是在字符串中表示的双值转换。这些东西在很多地方都有。与要么叫 comma separated 或 character separated 因为有时它们存储像 1.2,3.4 5.6,6.4 在英语地区或 CSV文件启动例如德国地区的。在这个背景下，需要知道大部分std ::方法都依赖于语言环境。所以在德国，他们将1.2读为1.2，并将其写回为“1,2”，但使

228热度

12回答

什么时候应该使用double而不是小数？

我可以命名三个好处使用double（或float）代替decimal：使用更少的内存。更快，因为浮点数学运算原生支持的处理器。可以代表更大范围的数字。但是，这些优点似乎只适用于计算密集型操作，如建模软件中的那些操作。当然，如果需要精确度，例如财务计算，则不应使用双打。那么在“正常”应用程序中是否有任何实际的理由选择double（或float）而不是decimal？编辑补充：感谢所有的好

0热度

2回答

XSD - xs：nonNegativeInteger和以.00结尾的值

我意识到0.00的值不是一个有效的nonNegativeInteger，也不是一个整数。不幸的是，数据是以这种格式出现的。如果它以.0结尾，我不想将其丢弃，但是，我也不想将该类型更改为Decimal，并且可能以.1结尾的值作为有效值。有没有一种方法我的XSD可以验证数字，使他们只是正整数，所以0.00，0,1,1.0,20000000等等的值都被接受，但-1,1.1,2.2,3.33333都是无

213热度

7回答

如何在SQL Server中存储小数值？

我想弄清楚SQL Server中列的十进制数据类型。我需要能够存储像15.5,26.9,24.7,9.8等值我将decimal(18, 0)分配给列数据类型，但这不允许我存储这些值。这样做的正确方法是什么？

1热度

3回答

如何在使用each_char时跟踪迭代次数？

我在学Ruby，想到制作Binary-> Decimal转换器。它得到一个二进制字符串并转换为十进制等值。有没有办法跟踪ruby中的当前迭代步骤，以便可以删除变量“x”？ def convert(binary_string) decimal_equivalent = 0 x=0 binary_string.reverse.each_char do |binary|

0热度

1回答

为什么Spreadsheet :: XLSX :: Utility2007的xls2csv四舍五入到小数点后两位？

我正在写一个Perl/Tk脚本，它使用Spreadsheet :: Read模块中的ss2tk示例脚本显示Excel工作表。它不会舍入小数点后两位，但Spreadsheet::XLSX::Utility2007中的函数会舍入到小数点后两位。为什么？我试图将第二个函数用作我的程序的一个功能，以将显示的工作表转换为CSV文件。