rounding

0热度

1回答

我有以下MATLAB函数： function in_out = in_or_out(x) sum = 0; for i = 1 : length(x) sum = sum + (x(i) - 1/2).^2; end if sum <= 1/4 in_out = 1; else in_out = 0;

0热度

3回答

的Java回合十进制 - 特殊情况下的第二个小数点零个

鉴于此号码： 150.00 150.26 我要圆这样的：如果第二个值的小数部分为零（0），那么新值应为150.0 如果t他小数部分的第二个值不是零（0），那么新值保留两个小数。例如：150.26 是否有舍入方法可以做到这一点？谢谢。我的代码在这里： String monto = "150.10";//150.26 String nuevoMonto = ""; String[] valo

-1热度

1回答

在NSDecimalNumber的索引处查找数字

是否可以在NSDecimalNumber的索引处找到数字？例如是这样的可能吗？ var a: NSDecimalNumber = 10.0 var indexOfa = a(index: 6) //indexOfa = 6 (6th position from the left) 基本上，我试图让这轮下来x.xx5和x.xx6围捕自定义舍入函数。例如： 67.5558被四舍五入为67.5

0热度

1回答

舍入到小数点后第二位，除非数字是整数C++

我试图在num中打印2个小数点的Cpp平均值。 avg是float，sum是float,count是int。目前如果我有10/1例如输出10.00。我想输出只是10.如果avg得到值3.1467665例如，它应该显示为3.14。 avg = sum/count; std::cout << std::fixed << std::setprecision(2) << avg; 舍入应该只是输出

3热度

2回答

JS中的舍入：不一致和意外的行为

我正在处理相对较小且简单的数字。我第一次试图做出四舍五入（数字后2个符号）与臭名昭着的toFixed。这是一个已知的问题：有时它不正确。但让我印象深刻的是，它也可以不一致： (0.395).toFixed(2); // "0.40" (0.295).toFixed(2); // "0.29" 这些数字都非常相似，数字后3个迹象，但不同的行为。所以，我决定切换到使用Math.round。不久

0热度

2回答

如何围捕（没有上限）在C＃：N.5达（+）无限

如问题，如何围捕中C#与n.5值（n为整数）： 1.5 -> 2 2.5 -> 3 -1.5 -> -1 -2.5 -> -2 1.4 -> 1 1.6 -> 2 -1.4 -> -1 -1.6 -> -2 我搜索但在C#,Math.Round只支持MidpointRounding.AwayFromZero和MidpointRounding.ToEven。也许程序员应该做把戏在

0热度

1回答

四舍五入加上两位小数usind SQL

我想要一个像3.5212这样的数字，变成3.53。但是，使用： select Ceiling(3.5212) 返回4. 我可以使其始终围捕保留两位小数？

0热度

1回答

BigDecimal与智能精度（尺度）

根据小数圆度为数字 BigDecimal num = new BigDecimal(25) BigDecimal result = num.divide(new BigDecimal(13), 7, RoundingMode.HALF_EVEN) // 1.9230769 但 BigDecimal result = num.divide(new BigDecimal(10), 7, Ro

0热度

1回答

极限matlab计算的精确性

在我的数值分析课程中，我们有时需要使用t数舍入算法进行计算，即每个计算（每计算，不是每个变量赋值）四舍五入t意义全数字。我正在使用matlab进行计算，我需要一种方法来限制matlab在t数字四舍五入算法中对其计算进行所有的计算。如果不存在这样的方式，我想找到一种方法来将特定数字四舍五入为全意数字。谢谢！ p.s.我尝试使用digits(t)，但它似乎只影响matlab显示数字的方式（我可能会

-2热度

2回答

索引小数位的舍入

我创建了一个“信任政治”指数 - 聚合5个变量，所有这些变量都测量了从1-10开始的某种形式的信任。 attach(ess_variablen) aggr_trst <- (1/5)*(trst_prl+trst_leg+trst_part+trst_politic+trst_polit) 然而，结果现在包含1个小数，而我想圆的数量，以免在索引号的任何小数。我一直无法找到解决方法，以便对由