floating-accuracy 第1页

首页 ❯

floating-accuracy

更多 »

javascript floating-point double floating-accuracy numerical-methods
在 Javascript 中处理浮点精度大.js （47 回答） 8年前关闭。我在javascript中有大量的数值。我想通过将它们向下舍入到最接近的倍数来对它们进行分组，并将结果转换为字符串。如
javascript floating-point floating-accuracy
截断（非舍入）javascript 中的十进制数我正在尝试将十进制数截断到小数位。像这样：做了正确的事情，但它会四舍五入价值。我不需要四舍五入的值。希望这在javascript中是可能的。
php floating-point precision floating-accuracy
PHP - 浮点数精度（31 回答） 4年前关闭。结果在 0.009999999999998 这是怎么回事？我想知道为什么我的程序不断报告奇怪的结果。为什么 PHP 不返回预期的 0.01？
php currency floating-point floating-accuracy money-format
如果在浮存金中处理金钱是不好的，那么为什么money_format（）这样做呢？我一直在纠结于如何处理PHP中的货币显示和数学，并且长期以来一直在使用该类型将其存储在MySQL中，并用于格式化它以在网页上显示。但是，今天我看了一下实际的原型：
php floating-point truncate floating-accuracy
使用 PHP 截断浮点数当浮点数需要被截断到浮点后的某个数字时，事实证明这并不容易做到。例如，如果截断必须对点后的第二位数字进行截断，则数字应为
php currency decimal mysql floating-accuracy
PHP/MySQL：最好的货币操作/存储实践？因此，我计划制作一个处理大量资金的应用程序（PHP / MySQL），并且我正在考虑如何使用资金进行存储和操作，指的是PHP浮点数据类型和MySQL十进制。我在想两个选择。其中之一是以整数美分格�
equality java floating-accuracy
在 Java 中使用 == 来比较浮点数有什么问题？根据是Java中浮点数的相等比较运算符。
java floating-accuracy sum
如何在Java中避免浮点数或双精度的浮点精度错误？我有一个非常烦人的问题，在Java中有大量的浮点数或双精度。基本上，这个想法是，如果我执行：我知道存在累积的浮动精度误差，但是，如何摆脱这一点？我尝试使用双精度到一半的错误�
string rounding precision java floating-accuracy
如何以可变精度Java String.format？我想改变我根据用户输入设置格式的字符串中双重表示的精度。现在我正在尝试这样的事情：但我仍然对这种操作的本机支持感兴趣。
memory java floating-accuracy
舍入错误？在我的课程中，我被告知：连续值近似地表示在内存中，因此使用浮点数进行计算涉及舍入误差。这些是位模式的微小差异;因此，如果和是浮子，则该测试是不安全的。