标签：precision
-
机器Epsilon - java
我正在寻找一种在Java中近似Machine Epsilon的简单方法: float machEps = 1.0f; do machEps /= 2.0f; while ((float) (1.0 + (machEps / 2.0)) != 1.0); System.out.println( machEps); 返回: 1.1920929E-7 但是，当我在 […]
-
为什么在PHP中0.1 + 0.2-0.3 = 5.5511151231258E-17 - php
This question already has an answer here: Closed 8 years ago. Possible Duplicate: The accuracy of PHP float calculate 当我在eclipse中执行以下代码时，结果不是0，而是5.5511151231258E-17 $a = 0.1+0.2-0. […]
-
在具有NaN值的熊猫数据框上操作时精度下降 - python
我有一个熊猫数据框，我想减去两个列值： df = pd.DataFrame({"Label":["NoPrecisionLoss"], "FirstNsae":[1577434369549916003], "SecondNsae":[1577434369549938679]}) […]
-
C＃无法将类型为“ System.Double”的对象转换为类型为“ System.Single” - c#
在判断此问题已得到回答之前，请阅读说明。我在下面有这个简单的代码： Dictionary<string, object> d = new Dictionary<string, object>(); d.Add("key" , 30d); System.Diagnostics.Debug.WriteLine($� […]
-
从字符串转换为int导致精度损失时，如何抛出异常？ - php
有没有一种方法可以真正检查从字符串转换为int之前或之后是否存在精度损失并引发异常？ $id = "21321312412435453453453454" $numId = (int) $id; 参考方案 这应该为您工作： （只需使用php predefined constants进行比较） $id = "21321312412 […]
-
如何避免math.sin(math.pi * 2 * VERY LARGE NUMBER)的错误裕度比math.sin(math.pi * 2)大得多？ - python
我在其他问题中读到，例如sin（2π）由于浮点表示而不是零，但非常接近。这个很小的错误在我的代码中是没有问题的，例如，我可以四舍五入小数。 但是，当将2π与非常大的数字相乘时，误差会放大很多。答案应该为零（或接近），但距离很远。 我的想法根本上是做错了吗？如果不是，如何避免周期为（2 * PI * X）→∞的π浮点数的误差容限被“放大”？ 请注意，最后3个结 […]