calculator - TI 基本数字标准

Question

数字变量是否遵循 TI 计算器上的记录标准？
我真的很惊讶地注意到我的 TI 83 Premium CE 测试实际上返回了 true(即 1):

0.1 -> X

0.1 -> Y

0.01 -> Z

X*Y=Z

我预计这会失败，假设我的计算器会使用 IEEE 754 标准之类的东西来表示浮点数。
另一方面，计算 2^50+3-2^50 返回 0，表明大整数似乎使用这样的标准:我们在这里看到大数的尾数有限。

Answer 1

TI-BASIC =是宽容的比较
试试 1+10^-12=1在你的计算器上。这些数字的表示并不相等( 1+10^-12-1 给出 1E-12 )，但您会注意到比较返回 true:那是因为 =有一定的容忍度。 AFAICT 在我的计算器上测试，如果四舍五入到十位有效数字时数字相等，=将返回真。
其次，
TI-BASIC 使用专有的 BCD 浮点格式
TI 浮点数是一种 BCD 格式，长度为 9 个字节，其中一个字节用于符号和辅助信息以及 14 位(7 个字节)的精度。第 9 个字节用于提高精度，因此可以正确舍入数字。
查看@doynax here 链接的来源想要查询更多的信息。