1、高精度基础计算

 

一、课程目标

1.高精度计算背景
2.高精度计算原型模拟
3.掌握高精度基础计算

二、目标详解

1. 高精度计算背景

计算机的基础数据类型都有长度限制,在C++中,以整数为例,最大长度是long long即8个Byte,64位,转成整数范围是[-2^63,2^63)。如果数字超过这个范围,就会因为数字的溢出,无法输出你想要的结果。这时需要抛弃简单的基础数据类型的运算,需要使用高精度计算。

2. 高精度计算原型模拟

在小学数学里,我们还记得“竖式”运算,比如两个数相加,4236+6745,竖式是这样的

  千位百位十位个位
  4236
 +6745
未进位 109711
进位后10981

在这个竖式运算过程中有几个关键的模拟,这里先做个描述
首先,我们使用数组来模拟我们要进行操作的数,数组1对应个位数,2对应到十位数,依次往数组高位扩展,比如上面的两个数a={0,6,3,2,4},b={0,5,4,7,6},数组的0位我们预留放数组的实际长度。
然后,在运算的过程中,如果有必要,我们可以再模拟一个数组来存进位,再模拟一个数组来存输出结果。
最后,我们根据进位、借位调整输出结果的数据长度并输出结果。

3.掌握高精度基础计算

  • 高精度加法
  • 高精度减法
  • 高精度剩法
  • 高精度除法
  • 高精度阶剩

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值