mysql - SQL 不准确的数字

Question

我有一个位掩码的总和，它是 (2^63)-1。但这样做的结果是不准确的。最后 3 个数字始终为 0 或替换为 e18 样式。

简单的 SQL 示例:

SELECT
    POW(2,63), /* 9.223372036854776e18 */
    CAST(POW(2,63) AS DECIMAL(65)), /* 9223372036854776000 */
    (POW(2,63) - 1), /* 9.223372036854776e18 */
    CAST((POW(2,63) - 1) AS DECIMAL(65)) /* 9223372036854776000 */

Answer 1

POW() 返回一个“ double ” float ，它只有一个 53 位尾数。您期望精确到 64 位。参见 http://dev.mysql.com/doc/refman/5.7/en/floating-point-types.html