食品伙伴網(wǎng)服務(wù)號(hào)

內(nèi)卷不能輸,有效數(shù)字運(yùn)算規(guī)則知多少!

放大字體  縮小字體 發(fā)布日期:2022-12-29
核心提示:在實(shí)驗(yàn)數(shù)據(jù)的運(yùn)算中,有效數(shù)字的保留和運(yùn)算規(guī)則必不可少。本期給大家梳理并舉例說(shuō)明實(shí)驗(yàn)數(shù)值加減、乘除、乘方、開方等運(yùn)算后有效
在實(shí)驗(yàn)數(shù)據(jù)的運(yùn)算中,有效數(shù)字的保留和運(yùn)算規(guī)則必不可少。本期給大家梳理并舉例說(shuō)明實(shí)驗(yàn)數(shù)值加減、乘除、乘方、開方等運(yùn)算后有效數(shù)字的修約規(guī)則,希望對(duì)大家有所幫助!

1. 有效數(shù)字
(1)有效數(shù)字是指在分析和測(cè)量中所能得到的有實(shí)際意義的數(shù)字。測(cè)量結(jié)果是由有效數(shù)字組成的(前后定位用的“0”除外)。

(2)有效數(shù)字的前幾位都是準(zhǔn)確數(shù)字,只有最后一位是可疑數(shù)字。

例如:

測(cè)量結(jié)果1.1080g,前幾位數(shù)字1、1、0、8都是稱量讀到的準(zhǔn)確數(shù)字,而最后一位數(shù)字0則是在沒(méi)有刻度的情況下估讀出來(lái)的,是不準(zhǔn)確的或者說(shuō)可疑的。

(3)有效數(shù)字是處于表示測(cè)量結(jié)果的數(shù)值的不同數(shù)位上。所有有效數(shù)字所占有的數(shù)位個(gè)數(shù)稱為有效數(shù)字位數(shù)。

例如:

① 數(shù)值3.5,有兩個(gè)有效數(shù)字,占有個(gè)位、十分位兩個(gè)數(shù)位,因而有效數(shù)字位數(shù)為兩位;

② 3.501有四個(gè)有效數(shù)字,占有個(gè)位、十分位、百分位、千分位四個(gè)數(shù)位,因而是四位有效數(shù)字。

(4)測(cè)量結(jié)果的數(shù)字,其有效位數(shù)反映了測(cè)量結(jié)果的精確度,它直接與測(cè)量的精密度有關(guān)。這也是有效數(shù)字實(shí)際意義的體現(xiàn)。

例如:

前述例子中,若測(cè)量結(jié)果為1.1080g,則表示測(cè)量值的誤差在10-4量級(jí)上,天平的精度為萬(wàn)分之一;若測(cè)量結(jié)果為1.108g,則表示測(cè)量值的誤差在10-3量級(jí)上,天平的精度為千分之一。

2. 修約規(guī)則
3. 數(shù)值運(yùn)算規(guī)則

(1)加減運(yùn)算

幾個(gè)數(shù)相加減的結(jié)果,經(jīng)修約后保留有效數(shù)字的位數(shù),取決于絕對(duì)誤差最大的數(shù)值,計(jì)算結(jié)果應(yīng)以絕對(duì)誤差最大(即小數(shù)點(diǎn)后位數(shù)最少)的數(shù)據(jù)為基準(zhǔn),來(lái)決定計(jì)算結(jié)果數(shù)據(jù)的位數(shù)。

在實(shí)際運(yùn)算過(guò)程中,各數(shù)值保留的位數(shù)比各數(shù)值中小數(shù)點(diǎn)后位數(shù)最少者多保留一位小數(shù),而計(jì)算結(jié)果有效數(shù)字的位數(shù)應(yīng)與效數(shù)最少的一數(shù)相同。

例如:29.2+36.582-3.0281≈62.8

(2) 乘除運(yùn)算
幾個(gè)數(shù)據(jù)的乘除運(yùn)算以相對(duì)誤差最大(即有效數(shù)字位數(shù)最少)的數(shù)值為基準(zhǔn)來(lái)決定結(jié)果數(shù)據(jù)的位數(shù)。

在實(shí)際運(yùn)算中,先將各數(shù)值修約至比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字運(yùn)算,計(jì)算結(jié)果的有效數(shù)字的位數(shù)與有效數(shù)字位數(shù)最少的數(shù)值相同。(與小數(shù)點(diǎn)位置無(wú)關(guān))

例如:

0.235438×28.6×61.8911

≈0.2354×28.6×61.89

=414.6707116

三個(gè)參與運(yùn)算的數(shù)值的有效數(shù)字位數(shù)分別為六位、三位、六位,所以最終計(jì)算結(jié)果用三位有效數(shù)字表示,為415或4.15×102。

(3) 乘方和開方
乘方或開方時(shí),原數(shù)值有幾位有效數(shù)字,計(jì)算結(jié)果就可以保留幾位有效數(shù)字。若計(jì)算結(jié)果還要參與運(yùn)算,則乘方或開方所得結(jié)果可比原數(shù)值多保留一位有效數(shù)字。

例如:

3.582=12.8614,運(yùn)算結(jié)果保留三位有效數(shù)字,為12.9。

(4) 平均值

計(jì)算幾個(gè)數(shù)值的平均值時(shí),先將計(jì)算結(jié)果修約至比要求的位數(shù)多一位,再按數(shù)值修約規(guī)則處理。

(5) 方差和標(biāo)準(zhǔn)偏差

方差和標(biāo)準(zhǔn)偏差在運(yùn)算過(guò)程中對(duì)中間結(jié)果不做修約,只將最后結(jié)果修約至要求的位數(shù)。

注意:

① 在所有計(jì)算式中,常數(shù)(π、e等)以及非檢測(cè)所得的計(jì)算因子(倍數(shù)或分?jǐn)?shù)等)的有效數(shù)字位數(shù),可視為無(wú)限,需要幾位就取幾位。

② 使用計(jì)算器(或電腦)進(jìn)行計(jì)算時(shí),一般不對(duì)中間每一步驟的計(jì)算結(jié)果進(jìn)行修約,僅對(duì)最后的結(jié)果進(jìn)行修約,使其符合事先所確定的位數(shù)。

(6)自然數(shù)

在一些分析化學(xué)運(yùn)算中,有時(shí)會(huì)遇到一些倍數(shù)或分?jǐn)?shù)的關(guān)系。例如:水(H2O)的相對(duì)分子質(zhì)量=2×1.008+16.00=18.02

其中 “2”不能看做1位有效數(shù)字。因?yàn)樗鼈兪欠菧y(cè)量所得到的數(shù),是自然數(shù),其有效數(shù)字位數(shù),可視為無(wú)限的。

另外,常數(shù)π、圖片等的有效數(shù)字,可認(rèn)為是無(wú)限制,即在計(jì)算中可根據(jù)需要取適當(dāng)?shù)臄?shù)位。


文章(文字)來(lái)源:實(shí)驗(yàn)室GB檢測(cè)技術(shù) 
編輯:songjiajie2010

 
分享:
 

 
 
推薦圖文
推薦檢驗(yàn)技術(shù)
點(diǎn)擊排行
檢驗(yàn)技術(shù)
 
 
Processed in 0.020 second(s), 14 queries, Memory 0.92 M