数值修约规则与极限数值的表示和判定讲义

数值修约规则与极限数值的表示和判定讲义

主讲人：刘世华

一、术语和定义

1、数值修约:通过省略原数值的最后若干位数字, 调整所保留的末位数字, 使最后所得到的值最接近原数值的过程。经数值修约后的数值称为原数值的修约值。

2、有效数字: 若测量结果经修约后的数值，其修约误差绝对值≤0.5（末位），则该数值称为有效数字，即从左起第一个非零的数字到最末一位数字止的所有数字都是有效数字。(有效数字中只应保留一位欠准数字，因此在记录测量数据时，只有最后一位有效数字是欠准数字。

3、有效位数:

对没有小数位且以若干个0结尾的数值，从非0数字最左一位向右数得到的位数减去无效0（即仅为定位用的0）；

对其他十进位数，从非0数字最左一位向右数而得到的位数，就是有效位数。

例1：35000，若有两个无效0，则为三位有效位数，应写为350×102；若有三个无效0，则为二位有效位数，应写为35×103。

例2： 0.0025---2位有效位数；

1.001000---7位有效位数；

2.8×107---2位有效位数；

（对于a ×10n 表示的数值，其有效数字的位数由a 中的有效位数决定）

4、修约间隔：修约值的最小数值单位。

注：修约间隔的数值一经确定，修约值即为该数值的整数倍。

例1、如指定修约间隔为0.1，修约值应在0.1的整数倍中选取，相当于将数值修约到1位小数。

例2、如指定修约间隔为100，修约值应在100的整数倍中选取，相当于将数值修约到“百”数位。

5、极限数值：标准（或技术规范）中规定考核的以数量形式给出且符合该标准（或技术规范）要求的指标数值范围的界限值。

二、数值修约规则

1、确定修约间隔

指定将数值修约成n 位有数位数。

指定修约间隔为10-n (n为正整数) ，或指明将数值修约到n 位小数。

指定修约间隔为1，或指明将数值修约到“个”数位。

指定修约间隔为10n (n为正整数) ，或指明将数值修约到10n 数位，或指明将数值修约到“十”、 “百”、 “千” „.. 数位。

“1”间隔修约

“0.5”单位修约

指修约间隔为指定数位的0.5单位，即修约到指定数位的0.5单位。

“0.2”单位修约

指修约间隔为指定数位的0.2单位, 即修约到指定数位的0.2单位。

2、进舍规则

2.1拟舍去的最左一位数字小于5时，则舍去，保留的各位数字不变； 例1：将12.1498修约成2位有效位数，得12；

将2：将12.1498修约到小数点后一位，得12.1；

2.2. 拟舍去数字的最左一位数字大于5时，或是5，而其后跟有并非全部为0的数字时，则进1，即保留的末位数字加1；

例1：将1268修约到“百”位数，得13×102（特定时可写成1300）；

特定时—指修约间隔或有数位数明确时

例2：将1268修约成3位有效位数，得127×10 ；

例3：将10.502修约到个位数，得11。

2.3. 拟舍去数字的最左一位数字为5，而右面无数字或均为0时，若所保留的末位数字为奇数（1，3，5，7，9）则进一，为偶数（2，4，6，8，0）则舍去。

例1：修约间隔为0.1（或10-1）时

拟修约值 修约值

1.050 1.0

1.350 1.4

例2：修约间隔为1000（或103）

拟修约值 修约值

2500 2× 103（特定时可写为2000）

3500 4× 103（特定时可 写为4000）

例3:将下列数字修约成两位有效位数

拟修约值 修约值

0.0325 0.032

32500 32×103 （特定时可写为32000）

2.4. 负数修约时, 先将它的绝对值按前述的规定进行修约, 然后在所得值前面加上负号. 例3:将下列数字修约到十数位

拟修约值 修约值

-355 -36 ×10（特定时可写为-360）

3. 不得连续修约：拟修约的数字在确定修约位数后一次修约获得结果，不得多次连续修约。

例1: 修约15.4546，修约间隔1，结果为15。

错误：15.4546 → 15.455 15.46 → 15.5 → 16

例2: 将213.499修约成3位有效数时，结果应为213。

错误：213.499 → 213.50 → 214

4.1、“0.2”单位修约规则

“0.2” 单位修约是指按指定修约间隔对拟修约的数值0.2单位进行的修约。

修约方法：将拟修约数值X 乘以5，按修约间隔“1”对5X 依规定修约，所得数值再除以5。

例：将下列数字修约到个数位的0.2单位（或修约间隔为0.2)

例1： 60.36

60.36×5=301.8按1间隔修约为302/5=60.4

例2： 60.29

60.29×5=301.45按1间隔修约为301/5=60.2

例3: 60.30

60.30×5=301.5按1间隔修约为302/5=60.4

例：将下列数字修约到“百”数位的0.2单位（或修约间隔为20）

例1：830

830×5=4150 按100间隔修约为4200/5为840

例2：842

842×5=4210 按100间隔修约为4200/5为840

例3：-930

-930×5=-4650,按100间隔修约为-4600/5=-920

4.2、“0.5”单位修约规则

“0.5” 单位修约是指按指定修约间隔对拟修约的数值0.5单位进行的修约。

修约方法：将拟修约数值X 乘以2，按修约间隔“1”对2X 依规定修约，所得数值再除以2。

例：将下列数字修约到个数位位的0.5单位修约。

例1：60.25

60.25×2=120.50 →120 → 120/2=60.0

例2：60.38

60.38×2=120.76 →121 → 120/2=60.5

例：将下列数字修约到“百”数位的0.5单位（或修约间隔为50)

例：930

930×2=1860,按100间隔修约为1900/2=950

三、近似数运算

又称数字运算，如对测量结果进行加、减、乘、除、开方、乘方、三角函数运算等。 运算时必须注意有效数字。

1、近似数的加减运算：

近拟数的加减，以小数点后位数最少的为准，其余各数均修约成比该数多一位，计算结果的小数位数与最少的位数相同。

例：28.1+14.54+3.0007

≈28.1+14.54+3.00

(比“28.1”的位数多一位进行修约）

=45.64 （计算结果）

≈45.6（修约成与“28.1”的相同位数）

2、近似数的乘除运算

近似数的乘除运算，以有效位数最少的为准，其余各数修约成比该数多一个有效数字，计算结果的有效数字位数与有效位数最少的数相同，而与小数点位置无关。

例1：2.3847×0.76÷41678

≈2.38×0.76 ÷4.17 ×104

=4.33764988×10-5

≈4.3×10-5

例2：已知圆半径R=3.145，求周长C 。

C=2 ×3.1416 ×3.145

=19.760664

≈19.76

综合运算

例：2.0×104+15000×2.5

解：[分析]先乘除后加减

2.0×104+15000×2.5

=2.0×104+150×102×2.5

=2.0×104+375×102

=2.0×104+3.75×104

=5.75×104

≈5.8×104

四、极限数值的表示和判定

1、书写极限数值的一般原则

标准（或其他技术规范）中规定考核的以数量形式给出的指标或参数等，应当规定极限数值。极限数值表示符合该标准要求的数值范围的界限值，它通过给出最小极限值和（或）最大极限值，或给出基本数值与极限偏差值等方式表达。

标准中极限数值的表示形式及书写位数应适当，其有效数字应全部写出。书写位数表示的精确程度，应能保证产品或其他标准化对象应有的性能和质量。

2、测定值或其计算值与标准规定的极限数值比较方法

2.1修约值比较法:

将测定值或其计算值进行修约，修约数位应与规定的极限数值数位一致。

将修约后的数值与规定的极限数值进行比较，只要超出极限数值规定的范围（不论超出程度大小）都判定为不符合要求。

2.2 全数值比较法：

将测试所得测定值或计算值不经修约处理（或虽经修约处理，但应标明它是经舍、进或未进未舍而得），用该数值与规定的极限数值作比较，只要超出极限数值规定的范围（不论超出程度大小），都判定为不符合要求。

这两种方法的结论有时不同, 例：