ieee-754

    0热度

    1回答

    为什么正好0.09f - 0.01f == 0.0800000057f？

    我知道浮点变量以符号指数分数格式存储数字（正如它在IEEE 754中所陈述的那样），它从来都不是精确的，我可能永远不会比较两个浮点数而不指定精度。 但是为什么0.09f - 0.01f为您提供0.0800000057f的值？当我做这个减法时，在.NET虚拟机的底层和内存中究竟发生了什么？
    c# floating-point ieee-754 2015-11-04

    1热度

    2回答

    浮点到字符串往返测试

    我相信，小数点后17位应该足以正确表示一个8字节的浮点数，以便它是往返安全的（转换为字符串，并且没有任何丢失）。 但是在这个测试中，数字可以高达23，如果增加迭代次数可能会更高。 这是一个有缺陷的测试，为什么？ 你如何确保在Python中float的往返完整性？ def TestLoop(): sFormat = '' success = True ff = [1.0
    python floating-point rounding precision ieee-754 2015-09-20

    2热度

    1回答

    以下汇编代码是做什么的？

    我正在关注这个编译的代码（我不知道编译器也没有源代码）。 Sub1: mov edx,[esp+04h] and edx,00000300h or edx,0000007Fh mov [esp+06h],dx fldcw word ptr [esp+06h] retn 我的理解： Sub1(4byte param1) edx=param1&0x00000300|0x0000007
    assembly floating-point x86 ieee-754 disassembly 2015-08-08

    1热度

    1回答

    用十进制数表示的二进制浮点数

    并非所有的十进制数都可以用二进制浮点数精确表示。 http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html 有两个原因，一个真正的数字可能不完全 表示为一个浮点数。最常见的情况是用十进制数字0.1表示的 。尽管它具有有限的 十进制表示，但在二进制中它具有无限重复 表示形式。 另一种方式呢？如果足够的数字被使用，每个单独的浮点数都可
    binary floating-point numbers decimal ieee-754 2015-10-04

    0热度

    1回答

    除了+ 0/-0之外，是否存在非规格化的花车，评估值相同？

    散列浮点数 我想感受浮点数（单打，双打等）到散列函数。 我希望哈希函数能够为真正相同的东西生成相同的哈希值，但它们具有不同的二进制表示形式。 因此+ 0/-0应归一化。 许多NaN应该合并成一个表示。 同为+ Inf文件（其是由不同-Inf）等 问题从 除了+ 0/-0，是否有非规格化浮筒，其中真正转化到相同的离散值，或者可以我只是散乱他们的二进制表示，不用担心为相同的值生成不同的哈希值？ 奖金问
    hash floating-point 64bit ieee-754 floating-point-conversion 2015-06-27

    -11热度

    1回答

    什么是IEEE-754？

    MDN放isNaN（）函数，简而言之： “？是该值，当强制转换为数字值，一个IEEE-754‘不是一个 数’值” 什么是IEEE-754？ P.S.我已经阅读并研究了大量关于isNaN，并且已经看到THIS，也是线程。我只是不知道IEEE-754应该是什么意思。 谢谢。
    javascript ieee-754 2015-10-09

    1热度

    1回答

    IEEE 754到C语言的十进制数

    我正在寻找将浮点数转换为C语言的十进制表示法的最佳方法。我将尝试给出一个例子：用户在IEEE754中引入一个数字（1 1111111 10101 ...），程序必须返回十进制表示（例如25.6） 我尝试过使用掩码和按位运算，但是我没有得到任何逻辑结果。
    c bit-manipulation decimal transform ieee-754 2015-10-13

    3热度

    2回答

    R字节矢量到iee 754浮点数

    在R中，如何将字节向量转换为IEEE-754浮点数（例如[0,108,4,71]到33900.0）？ 在Ruby中，我会做 [1191472128].pack("L").unpack("f") ==> 33900.0 我已经试过包库：unpack("f", pack("V", 1191472128))，但它返回32795.06。
    r ieee-754 2015-10-20

    1热度

    1回答

    IEEE 754是否能够保证精确表示操作符合尾数的整数？

    从我可以收集，可以适合在浮点数的尾数全数字精确表示： Can a IEEE 754 real number "cover" all integers within its range? 我的问题是： 鉴于2浮点整完全表示的数字 对2个数字执行操作（+， - ，/，*）总是会生成精确表示的浮点数 只要结果是在完全可表示的范围内？ 换句话说，浮点数2.0 * 3.0！= 6是否曾经有过？
    floating-point ieee-754 2015-10-23

    -1热度

    2回答

    为浮点乘法

    假设严格不等式一个，X，和ÿ是正IEEE浮点数与 X < ÿ。证明一个 × X < 一个 × ý其中× 表示浮点乘法舍入到最接近的。 天真，你可能认为对于一些一个和X接近Ÿ， 你会得到一个 × X = 一个 × ÿ。事实证明，这个 不可能发生（只要非规格化的数字，infinities和NaN排除在 之外）。 我对一个优雅的证明感兴趣，如果可能的话，还有一本书或纸 这里给出。 TAKE 2：正如Pa
    floating-point floating-accuracy ieee-754 2015-07-22
最新问题