当前位置: 首页 > news >正文

计算机的错误计算(一百四十二)

摘要  本节探讨 MATLAB中 k\pi(k\neq 0) 附近数的正弦函数的计算精度问题。

例1.  已知

x_1=0.3769911184\textup{e}2\approx 12\,\pi\,, \\x_2=0.166504\textup{e}3\approx 53\,\pi\,. 

计算 \sin(x_1) 与 \sin(x_2)\,.

       直接贴图吧:

       另外, 16位的正确值分别为 -0.3077518861551721e-8 与 0.4106402475009074e-3(ISRealsoft 提供)。

       容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB的输出中分别有9位、6位错误数字。有效数字的错误率分别为 9/16 = 56.25% , 6/16 = 37.5% .

       注:可参考计算机的错误计算(六十四)。


http://www.mrgr.cn/news/64467.html

相关文章:

  • 论文 | Legal Prompt Engineering for Multilingual Legal Judgement Prediction
  • gRPC-拦截器
  • java脚手架系列13-IoT
  • 托福学科单词:气候类型与植物分布
  • 小菜家教平台:基于SpringBoot+Vue打造一站式学习管理系统
  • Java环境下配置环境(jar包)并连接mysql数据库
  • 万字长文详解Hive聚合函数 grouping sets、cube、rollup原理、语法、案例和优化
  • 使用 C++ 进行高效序列化和反序列化的实现(优化版本)
  • 数据丢失不用愁!10款必备的数据恢复软件全介绍
  • 线性排序:如何根据年龄给 100 万用户数据排序?
  • 在使用 AMD GPU 的 PyTorch 中实现自动混合精度
  • 【大模型LLM面试合集】大语言模型架构_tokenize分词
  • 软件测试基础四(服务端知识)
  • AUTOSAR从入门到精通-BswM模块(二)
  • mqtt.fx激活方法
  • 项目的风险
  • 在排序数组中查找元素的第一个和最后一个位置
  • Python酷库之旅-第三方库Pandas(190)
  • 纯前端生成PDF(jsPDF)并下载保存或上传到OSS
  • CSS中的 BFC,是啥呀?
  • 无源元器件-磁珠选型参数总结
  • 32单片机HAL库的引脚初始化
  • C语言第11节:指针(1)
  • 05 Django 框架模型介绍(一)
  • 虚拟机安装Ubuntu系统
  • 网络请求优化:理论与实践