当前位置: 首页 > news >正文

计算机的错误计算(一百五十)

摘要  探讨 MATLAB 中 \textup{cospi}(x)=\cos(\pi\times x) 的计算精度问题。当 x 为含有小数的大数或 k+0.5 (k\in \mathbb{Z})附近数时,输出会有错误数字。

例1.  已知 

x_1=123456.789\,, \\x_2=0.987555555555445\,\textup{e}10\,, \\x_3=0.500004\,, \\x_4=56789.4999999992\,.

计算 \textup{cospi}(x_1)\,,  \textup{cospi}(x_2)\,,  \textup{cospi}(x_3)\,,  \textup{cospi}(x_4)\,.

       直接贴图吧:

       另外,16位的正确值分别为 -0.7882256119904400e0、0.1702266977524110e0、-0.1256637061402844e-4 与 -0.2513274122871835e-8(ISRealsoft 提供)。

       容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB的输出中分别有5位、11位、4位及13位错误数字;有效数字的错误率分别为 5/16 = 31.25% , 11/16 = 68.75% , 4/16 = 25% , 13/16 = 81.25% .

       注:可参考计算机的错误计算(五十八)、(六十五)、(一百四十一)及(一百四十三)。


http://www.mrgr.cn/news/70087.html

相关文章:

  • 【LeetCode】【算法】279. 完全平方数
  • 第3篇 滑动开关控制LED__ARM汇编语言工程<一>
  • 网络技术-OpenFlow协议介绍和OVS之间的关系
  • vue中调用全屏方法、 elementUI弹框在全屏模式下不出现问题、多级嵌套弹框蒙层遮挡问题等处理与实现方案
  • Kafka面试题解答(二)
  • React融合css
  • 【基于轻量型架构的WEB开发】课程 作业4 AOP
  • CentOS网络配置
  • 第四十一章 Vue之初识VueX
  • 集群架构中Lua脚本的限制以及出现的报错
  • 【王木头】最大似然估计、最大后验估计
  • 23年广大新生赛
  • 由于 C*DN 的不做为,将暂停 C*DN 文章的发表
  • 安全见闻六:通讯协议安全问题剖析
  • DNS域名解析
  • mysql 配置文件 my.cnf 增加 lower_case_table_names = 1 服务启动不了
  • JDBC-Util工具类
  • sql专题 之 三大范式
  • JAVA-顺序表ArrayList(实现ArrayList)
  • 控制台中,为什么会打印出烫烫烫?--那些中文乱码问题【more cpp-8】
  • 编程范式(Programming paradigm)
  • 多线程的创建方式以及及Thread类详解
  • 2024下半年系统架构师考试【回忆版】
  • 大数据程序猿不可不看的资料大全
  • 【模型】EfficientvitSAM
  • PGMP-串串01概述