MySQL错误？ (三角函数)

Question

当我偶然发现这个时，我正在通过为表中的字段预先计算一些三角函数来优化查询:

SELECT 6371 * acos( 0.793521289617132 * 0.793521289617132 + 0.608542490648241 * 0.608542490648241 * cos( 0.235244203230056 - 0.235244203230056 ) ) 

返回空值

具有非预先计算值的查询:

SELECT 6371 * acos( sin( radians( 52.51581 ) ) * sin( radians( 52.51581 ) ) + cos( radians( 52.51581 ) ) * cos( radians( g.lat ) ) * cos( radians( 13.4785 ) - radians( 13.4785 ) ) )

返回 0(这是正确的结果)

这是一个错误吗？还是预期的？

Answer 1

您的查询中存在一些舍入错误，这些错误是由浮点运算引起的。

如果你尝试这个查询

SELECT -1 + ( 0.793521289617132 * 0.793521289617132 + 0.608542490648241 * 0.608542490648241 * cos( 0.235244203230056 - 0.235244203230056 ) )

你会得到 6.66133814775094e-016。所以你要做的是

SELECT 6371 * acos( 1 + 6.66133814775094e-016 ) 

这显然行不通，因为 acos 仅在 [-1,1] 域上定义。

我不知道你到底想完成什么，但你必须重新计算，例如检查 acos 的参数是否越界，然后相应地设置值，可能是这样的:

ACOS( IF(val BETWEEN -1 AND 1, val, SIGN(val))