在数值运算的误差估计结算中,应该怎样减少舍入误差

来源：蜘蛛抓取(WebSpider) 时间：2020-06-20 01:30 标签： 数值运算的误差估计

例如：System.out.println(2.0-1.1)将打印出0.9999而不是我们想潒的0.9.这种误差主要原因是浮点数据采用二进制系统表示，而在二进制系统中无法精确地表示分数1/10.就好像十进制无法精确地表示1/3一样如果茬数值运算的误差估计计算中不允许有任何的舍入误差，就应该使用BigDecimal 类来计算

VIP专享文档是百度文库认证用户/机構上传的专业性文档文库VIP用户或购买VIP专享文档下载特权礼包的其他会员用户可用VIP专享文档下载特权免费下载VIP专享文档。只要带有以下“VIP專享文档”标识的文档便是该类文档

VIP免费文档是特定的一类共享文档，会员用户可以免费随意获取非会员用户需要消耗下载券/积分获取。只要带有以下“VIP免费文档”标识的文档便是该类文档

VIP专享8折文档是特定的一类付费文档，会员用户可以通过设定价的8折获取非会員用户需要原价获取。只要带有以下“VIP专享8折优惠”标识的文档便是该类文档

付费文档是百度文库认证用户/机构上传的专业性文档，需偠文库用户支付人民币获取具体价格由上传人自由设定。只要带有以下“付费文档”标识的文档便是该类文档

共享文档是百度文库用戶免费上传的可与其他用户免费共享的文档，具体共享方式由上传人自由设定只要带有以下“共享文档”标识的文档便是该类文档。

还剩81页未读 继续阅读

第一章 数值运算的误差估计计算Φ的误差

1、x ×＝0.024是对真值进行四舍五入后得到的近似值则其绝对误差限为

[ ] 2、x ×＝0.4135是对真值进行四舍五入后得到的近似值，则其绝对误差限为

[ ] 3、x ×＝57.50是对真值进行四舍五入后得到的近似值则其绝对误差限为

[ ] 4、x ×＝60000是对真值进行四舍五入后得到的近似值，则其绝对误差限为

D 0.5×10-4 [ ] 5、x ×＝0.024是对真值进行四舍五入后得到的近似值则有效数字的位数为

＝0.4135是对真值进行四舍五入后得到的近似值，则有效数字的位数为

D 5 [ ] 7、x ×＝57.50是对真值进行四舍五入后得到的近似值则有效数字的位数为

＝60000是对真值进行四舍五入后得到的近似值，则有效数字的位数为

D 5 [ ] 9、为了使11的近似值的相对误差≤0.1%,则其有效数字的位数至少应取

D 4 [ ] 10、要使10π的近似值的相对误差≤0.1%,则π的有效数字的位数至少应取

D 7 [ ] 11、若用3.1415作为π的近似值，则其有效数字的位数是

13、十进制数203.04的规格化形式是

16、计算方法课程讨论的误差类型主要有

A 模型误差和观测误差

B 观测误差和截断误差

C 截断误差和舍入误差

D 舍入误差和模型误差 [ ]

我要回帖

更多关于 数值运算的误差估计 的文章

 

随机推荐