修約方法及數(shù)值運算規(guī)則
1、 數(shù)值修約規(guī)則(GB8170—87)
本標準適用于科學技術與生產(chǎn)活動中試驗測定和計算得出的各種數(shù)值.需要修約時,除另有規(guī)定者外,應按本標準給出的規(guī)則進行。
1 術 語
1.1修約間隔
系確定修約保留位數(shù)的一種方式.修約間隔的數(shù)值一經(jīng)確定,修約值即應為該數(shù)值的整數(shù)倍 。
例1:如指定修約間隔為0.1,修約值即應在0.1的整數(shù)倍中選取,相當于將數(shù)值修約到一位小數(shù)。
例2:如指定修約間隔為100,修約值即應在100的整數(shù)倍中選取,相當于將數(shù)值修約到 “ 百 ” 數(shù)位。
1.2 有效位數(shù)
對沒有小數(shù)位且以若干個零結尾的數(shù)值,從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無效零(即僅為定位用的零)的個數(shù);對其他十進位數(shù),從非零數(shù)字最左一位向右數(shù)而得到的位數(shù),就是有效位數(shù)。
例1:35000,若有兩個無效零,則為三位有效位數(shù),應寫為350×10 2 ;若有三個無效零,則為兩位有效位數(shù),應寫為35×10 3 。
例2:3.2,0.32,0.032,0.0032均為兩位有效位數(shù);0.0320為三位有效位數(shù)。
例3:12.490為五位有效位數(shù);10.00為四位有效位數(shù)。
1.3 0.5單位修約(半個單位修約)
指修約間隔為指定數(shù)位的0.5單位,即修約到指定數(shù)位的0.5單位。
例如,將60.28修約到個數(shù)位的0.5單位,得60.5(修約方法見本規(guī)則5.1)
1.4 0.2單位修約
指修約間隔為指定數(shù)位的0.2單位,即修約到指定數(shù)位的0.2單位。
例如,將832修約到 “ 百 ” 數(shù)位的0.2單位,得840(修約方法見本規(guī)則5.2)
2 確定修約位數(shù)的表達方式
2.1 指定數(shù)位
a. 指定修約間隔為10 n (n為正整數(shù)),或指明將數(shù)值修約到n位小數(shù);
b. 指定修約間隔為1,或指明將數(shù)值修約到個數(shù)位;
c. 指定修約間隔為10 n ,或指明將數(shù)值修約到10 n 數(shù)位(n為正整數(shù)),或指明將數(shù)值修約到 “ 十 ” , “ 百 ” , “ 千 ” ……數(shù)位。
2.2 指定將數(shù)值修約成n位有效位數(shù)
3 進舍規(guī)則
3.1 擬舍棄數(shù)字的最左一位數(shù)字小于5時,則舍去,即保留的各位數(shù)字不變。
例1:將12.1498修約到一位小數(shù),得12.1。
例2:將12.1498修約成兩位有效位數(shù),得12。
3.2 擬舍棄數(shù)字的最左一位數(shù)字大于5;或者是5,而其后跟有并非全部為0的數(shù)字時,則進一,即保留的末位數(shù)字加1。
例1:將1268修約到 “ 百 ” 數(shù)位,得13×10 2 (特定時可寫為1300)。
例2:將1268修約成三位有效位數(shù),得127×10(特定時可寫為1270)。
例3:將10.502修約到個數(shù)位,得11。
注:本標準示例中, “ 特定時 ” 的涵義系指修約間隔或有效位數(shù)明確時。
3.3 擬舍棄數(shù)字的最左一位數(shù)字為5,而右面無數(shù)字或皆為0時,若所保留的末位數(shù)字為奇數(shù)(1,3,5,7,9)則進一,為偶數(shù)(2,4,6,8,0)則舍棄。
例1:修約間隔為0.1(或10 -1 )
擬修約數(shù)值 修約值
1.050 1.0
0.350 0.4
例2:修約間隔為1000(或10 3 )
擬修約數(shù)值 修約值
2500 2×10 3 (特定時可寫為2000)
3500 4×10 3 (特定時可寫為4000)
例3:將下列數(shù)字修約成兩位有效位數(shù)
擬修約數(shù)值 修約值
0.0325 0.032
32500 32×10 3 (特定時可寫為32000)
3.4 負數(shù)修約時,先將它的絕對值按上述3.1~3.3規(guī)定進行修約,然后在修約值前面加上負號。
例1:將下列數(shù)字修約到 “ 十 ” 數(shù)位
擬修約數(shù)值 修約值
-355 -36×10(特定時可寫為-360)
-325 -32×10(特定時可寫為-320)
例2:將下列數(shù)字修約成兩位有效位數(shù)
擬修約數(shù)值 修約值
-365 -36×10(特定時可寫為-360)
-0.0365 -0.036
4 不許連續(xù)修約
4.1 擬修約數(shù)字應在確定修約位數(shù)后一次修約獲得結果,而不得多次按第3章規(guī)則連續(xù)修約。
例如:修約15.4546,修約間隔為1
正確的做法:
15.4546→15
不正確的做法:
15.4546→15.455→15.46→15.5→16
4.2 在具體實施中,有時測試與計算部門先將獲得數(shù)值按指定的修約位數(shù)多一位或幾位報出,而后由其他部門判定。為避免產(chǎn)生連續(xù)修約的錯誤,應按下述步驟進行。
4.2.1報出數(shù)值最右的非零數(shù)字為5時,應在數(shù)值后面加 “ (+) ” 或 “ (-) ” 或不加符號,以分別表明已進行過舍、進或未舍未進。
如:16.50(+)表示實際值大于16.50,經(jīng)修約舍棄成為16.50;16.50(-)表示實際值小于16.50,經(jīng)修約進一成為16.50。
4.2.2 如果判定報出值需要進行修約,當擬舍棄數(shù)字的最左一位數(shù)字為5而后面無數(shù)字或皆為零時,數(shù)值后面有(+)號者進一,數(shù)值后面有(-)號者舍去,其他仍按第3章規(guī)則進行。
例如:將下列數(shù)字修約到個數(shù)位后進行判定(報出值多留一位到一位小數(shù))。
實測值 報出值 修約值
15.4546 15.5(一) 15
16.5203 16.5(+) 17
17.5000 17.5 18
-15.4546 -(15.5(一))-15
5 0.5單位修約與0.2單位修約
必要時,可采用0.5單位修約和0.2單位修約。
5.1 0.5單位修約
將擬修約數(shù)值乘以2,按指定數(shù)位依第3章規(guī)則修約,所得數(shù)值再除以2。
如:將下列數(shù)字修約到個數(shù)位的0.5單位(或修約間隔為0.5)
擬修約數(shù)值 乘2 2A修約值 A修約值
(A) (2A) (修約間隔為1) (修約間隔為0.5)
60.25 120.50 120 60.0
60.38 120.76 121 60.5
-60.75 -121.50 -122 -61.0
5.2 0.2單位修約
將擬修約數(shù)值乘以5,按指定數(shù)位依第3章規(guī)則修約,所得數(shù)值再除以5。
例如:將下列數(shù)字修約到 “ 百 ” 數(shù)位的0.2單位(或修約間隔為20)
擬修約數(shù)值 乘5 5A修約值 A修約值
(A) (5A) (修約間隔為100) (修約間隔為20)
830 4150 4200 840
842 4210 4200 840
-930 -4650 -4600 -920
2、 數(shù)值運算規(guī)則
⑴. 加減運算
應以各數(shù)中有效數(shù)字末位數(shù)的數(shù)位最高者為準(小數(shù)即以小數(shù)部分位數(shù)最少者為準),其他數(shù)均比該數(shù)向右多保留一位有效數(shù)字。
例:41.3X+3.012X+0.322X+0.0578X→41.3+3.01+0.32+0.06=44.69
⑵. 乘除運算
應以各數(shù)中有效數(shù)字最少者為準,其余數(shù)均多取一位有效數(shù)字,所得積或商也多取一位有效數(shù)字。
例:0.0122×26.52×1.06892中,因第一個數(shù)0.0122的有效數(shù)字位數(shù)最少(3位),因此,第二、第三個數(shù)的有效數(shù)字位數(shù)取4位,所得積也取4個有效數(shù)字,由此得:
0.0122×26.52×1.069=0.3459
⑶. 平方或開方運算
其結果可比原數(shù)多保留一位有效數(shù)字。
⑷. 對數(shù)運算
所取對數(shù)位數(shù)應與真數(shù)有效數(shù)字位數(shù)相等。
⑸. 查角度的三角函數(shù)
所用函數(shù)值的位數(shù)通常隨角度誤差的減少而增多,一般三角函數(shù)表選擇如下
角度誤差 表的位數(shù)
10″ 5
1″ 6
0.1″ 7
0.01″ 8
⑹.在所有計算式中,常數(shù)π、e的數(shù)值和因子√2 等有效數(shù)字位數(shù),可認為無限制,需要幾位就幾位。
⑺.表示精度時,如量測某一試件面積,得其有效面積A=0.0501502m2,而其量測的極限誤差δmin=0.000005m2。所以量測結果應當表示為A=(0.050150±0.000005)m2。誤差的有效數(shù)字為一位,即5,所以表示精度一般取一位有效數(shù)字已足夠,最多取兩位有效數(shù)字。
編輯推薦:
(責任編輯:gx)