计算机的错误计算(一百四十二)
摘要 本节探讨 MATLAB中 附近数的正弦函数的计算精度问题。
例1. 已知
计算 与
直接贴图吧:
另外, 16位的正确值分别为 -0.3077518861551721e-8 与 0.4106402475009074e-3(ISRealsoft 提供)。
容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB的输出中分别有9位、6位错误数字。有效数字的错误率分别为 9/16 = 56.25% , 6/16 = 37.5% .
注:可参考计算机的错误计算(六十四)。