标签：floating-point

  • C#NotFiniteNumberException不起作用 - c#

    时间：2020-9-4

    我希望程序在某个浮点变量达到无穷大时抛出异常，或者是Nan NotFiniteNumberException，它看起来像是一种解决方案，但是存在问题。这个 try { Single x = 5; x = x / 0; x = x + 1; } catch (NotFiniteNumberException ex) { //bla bla bla } 不会扔任 […]

    标签：, ,

  • PHP浮动模数不起作用 - php

    时间：2020-8-28

    我编写了一个函数，如有必要，可以在数字上添加逗号和零，但是我一直陷在模数函数中。根据我的PHP： float(877.5) % 1 == 0 //true 877.5 % 1 == 0.5不应该吗？ 参考方案 它提醒您该部门需要的是fmod， fmod —返回参数除法的浮点余数（模） echo fmod(877.5, 1); // 0.5

    标签：, ,

  • 将字节转换为浮点数？ - python

    时间：2020-8-17

    我有一个必须解析的二进制文件，并且正在使用Python。有没有办法占用4个字节并将其转换为单个精度浮点数？ 参考方案 >>> import struct >>> struct.pack('f', 3.141592654) b'\xdb\x0fI@' >>> stru […]

    标签：,

  • 将float转换为str时如何检查默认的十进制精度？ - python

    时间：2020-8-17

    将float转换为str时，我可以指定要显示的小数位数 '%.6f' % 0.1 > '0.100000' '%.6f' % .12345678901234567890 > '0.123457' 但是当在python 2.7中简单地在str上调用float时，它似乎默 […]

    标签：, ,

  • Python 3浮点小数点/精度 - python

    时间：2020-8-15

    我正在读取一个带有浮点数的文本文件，这些数字都带有1或2个小数点。我正在使用float()将行转换为浮点数，并在失败的情况下引发ValueError。我将所有花车存储在列表中。打印时，我想将其打印为2个小数位的浮点数。 假设我有一个文本文件，其编号为-3,65,9,17,1。我阅读了每个文件，然后将它们转换为float并将它们附加到列表中。现在在Python […]

    标签：, ,

  • 如何检查浮点列表加起来是否为整数？ - python

    时间：2020-8-11

    我想找到一个浮点数列表的总和，并检查它是否为整数： l = [0.85, 0.85, 0.15, 0.15] l的总和显然是2.0。但是由于floating point limitations，Python并不同意： > sum(l) 1.9999999999999998 因此，我选择的方法sum(l).is_integer()将返回False。 评估 […]

    标签：, , , ,

  • 为什么浮点对双精度不精确，而浮点对不高精度？ - java

    时间：2020-8-9

    我知道浮点变量在投放时会失去精度。但是我不明白的是，为什么从较小的原语转换为较大的原语是不精确的，反之亦然呢？我会理解它是否是从双精度浮点数到浮动浮点数，但是反之亦然。为什么会这样呢？ 查看以下两个测试的结果： @Test public void castTwoPrimitiveDecimalsUnpreciseToPrecise() { float var […]

    标签：, , ,

  • 为什么在PHP中0.1 + 0.2-0.3 = 5.5511151231258E-17 - php

    时间：2020-8-5

    This question already has an answer here: Closed 8 years ago. Possible Duplicate: The accuracy of PHP float calculate 当我在eclipse中执行以下代码时，结果不是0，而是5.5511151231258E-17 $a = 0.1+0.2-0. […]

    标签：, ,

  • 如何处理接近1的数字乘法 - java

    时间：2020-8-1

    我有一堆浮点数（Java双精度数），其中大多数都非常接近1，作为较大计算的一部分，我需要将它们相乘。我需要做很多事情。 问题是，虽然Java double不会对像这样的数字造成问题： 0.0000000000000000000000000000000001 (1.0E-34) 它们不能代表以下内容： 1.000000000000000000000000000 […]

    标签：, , , ,

  • 为什么地球上的PHP会将(int)((0.1 + 0.7)* 10)的结果转换为7，而不是8？ - php

    时间：2020-7-29

    为什么地球上的PHP会将(int) ((0.1+0.7)*10)的结果转换为7，而不是8？我知道转换为(float) 8时的结果将是(int)，结果将是7？为什么会这样呢？ 参考方案 关于float的全部。参见PHP: Floating point numbers： 警告-浮点精度 浮点数的精度有限。尽管它取决于系统，但是PHP通常使用IEEE 754双精度 […]

    标签：, ,