precision

    1热度

    1回答

    我目前正试图建立一个多类预测模型来预测26个英文字母中的字母。目前我使用ANN,SVM,Ensemble和nB构建了一些模型。但我坚持评估这些模型的准确性。尽管混淆矩阵显示了按字母顺序的正确和错误预测,但我只能得到每个模型的总体准确性。有没有一种方法可以评估模型的准确性,类似于二项分类的ROC和AUC值。 注意:我目前使用H2o软件包运行模型,因为它为我节省了更多时间。

    0热度

    1回答

    我正在使用24位ADC并试图计算可读的最小电压。 ADC的24位有符号,因此只有23位有效位。 ADC满量程读数为5v,所以我按如下方式计算LSB。 双LSBval24 = 5.0 /(POW(2,23)-1); 现在有趣的部分。对于运行Debian 32bit操作系统的Raspberry pi,与Windows 10 64位上的计算器相比,计算结果略有不同。 的PI输出被VI下面的代码获得 炭L

    0热度

    1回答

    我想在我的函数GGG中获得更精确(最多6位小数位)的x[1]和x[2]。 使用optim,我得到了一些精度高达3位小数,但我想知道如何提高至少6位小数的精度? 可以使用optimize和nlm达到这个目标吗? GGG = function(Low, High, p1, p2) { f <- function(x) { y <- c(Low, High) - qcauchy(c(p1, p

    2热度

    1回答

    跨越我在那里工作是有一个php.ini文件服务器上的情况最近传来: precision = 16 默认为14,这似乎不足为害。不幸的是,导致这种: // ini_set('precision', 16); echo round((20.12/36.79),4); 结果:0.5469000000000001 咦? round()不应该在这里处理浮点精度问题吗?

    0热度

    1回答

    我有任意的大,小值的熊猫数据框(其大小是未知先验),说: >>> import pandas as pd >>> df = pd.DataFrame({'a' : [0.0000001, 2, 3], 'b' : [4, 5000000, 0.6]}) 默认显示将转换某些号码以工程格式 >>> df a b 0 1.000000e-07 4.0 1 2.000000

    1热度

    1回答

    我已经争取了两天,在一个gfortran大气输送模式代码MPI_REDUCE调用,具有良好的输入参数,但返回在主人的recvbuf非常不合理的结果。我已经能够复制一个简单的例子问题,具体如下: PROGRAM TEST USE mpi IMPLICIT NONE INTEGER my_rank, size, ierror INTEGER, PARAME

    0热度

    1回答

    我在执行矩阵乘法时似乎遇到了精度损失,并且想知道如何防止这种情况。例如,假设壮举和β是适当的尺寸, Y = feat*beta.rows(0,N); 我一起工作的数字是相当小的值,多数数字是小于1E-3所以有可能是什么我想实现是不可能的。我还应该注意到这是一个调用C++函数的MATLAB函数,因此涉及到MEX编译器。当他们到达时,我确实检查了mex函数中的数字,他们是正确的,只有在上面的这一行

    0热度

    1回答

    我一直在将IDL代码翻译成Python,并注意到最终产品的差异。差异也不可忽略(例如通过IDL获得19.03,而Python获得19.16)。我确认这两个脚本产生相同的值(它们通常在小数点后四位,五位或六位不同),直到我开始执行多个数组操作。我怀疑精度可能是原因(Python和IDL数组都是type=FLOAT)。我做了一个简单的实验,我也看到了显着的差异。 IDL a = 0.01 b = 0

    0热度

    3回答

    比方说,使用java,我输入 double number; 如果我需要使用非常大或非常小的值,它们可能有多精确? 我试图读取双打和浮动工作,但我真的不明白。 对于我在编程介绍中的术语项目,我可能需要使用具有大范围值(许多数量级)的不同数字。 比方说,我创建了一个while循环, while (number[i-1] - number[i] > ERROR) { //does stuff

    0热度

    1回答

    我与C.一些内置的功能的问题,基本上我试图创建是我自己的Colpitts振荡器计算器这需要以下面的输入作为参数:电感值,电容值,第二电容值。 输入可以以F或H结尾,也可以使用前缀p,m,n和u来表示pico,milli,nano和micro。如果数字太大并且后缀将被附加到输出,输出也将被格式化。 插入调试printf语句后,我的程序出现问题,数字转换不正确。 我已经使用的测试参数,如下面这个命令: