计算机的错误计算(一百三十)
摘要 用手持式计算器计算 则输出为0 .
计算机的错误计算(四十)探讨了计算器的计算精度问题。为了回应一位计算器收藏家来信中的疑问,既(四十)后再续若干节,以便更为广泛地讨论计算器的上述问题。
例1. 使用手持式计算器计算
不妨用两种计算器计算,则结果均为0 .
除此之外,还有其他案例吗?不妨将1234换成12345,或23换成24,或10换成11或11.2,仍然是0 .
这是形式比较特殊的一种算式,还有更为一般的算式吗?请看后续。
摘要 用手持式计算器计算 则输出为0 .
计算机的错误计算(四十)探讨了计算器的计算精度问题。为了回应一位计算器收藏家来信中的疑问,既(四十)后再续若干节,以便更为广泛地讨论计算器的上述问题。
例1. 使用手持式计算器计算
不妨用两种计算器计算,则结果均为0 .
除此之外,还有其他案例吗?不妨将1234换成12345,或23换成24,或10换成11或11.2,仍然是0 .
这是形式比较特殊的一种算式,还有更为一般的算式吗?请看后续。