Chapter 3
Experimental Error
3-1 Significant Figures
The number of significant figures is the minimum number of digits needed to write
a given value in scientific notation without loss of precision
9.25 × 104
9.250 × 104
9.2500 × 104
 3 significant
figures
 3 significant figures
 3 significant figures
3-2 Significant Figures in Arithmetic
We now consider how many digits to retain in the answer
After you have performed arithmetic operations with your data
- Addition and Subtraction
1.362 × 10 -4
+ 3.111 × 10 -4
4.473 × 10 -4
5.345
+ 6.728
12.073
7.26 × 10 14
-6.69 × 10 14
0.57 × 10 14
18.9984032 (F)
+ 18.9984032 (F)
+ 83.789
(Kr)
121.794 8064
1.632 × 105
+4.107 × 103
+0.984 × 106
1.632 ×
+0.04107 ×
+9.84
×
11.51 ×
105
105
105
105
- Multiplication and Division
In multiplication and division, we are normally limited to the
Number of digits contained in the number with the fewest significant figures:
3.26 × 10 -5
×
1.78
5.80 × 10-5
4.3179 × 1012
× 3.6
× 10-19
1.6
× 10-6
34.60
÷2.46287
14.05
- Logarithms and antilogarithms
IF n = 10a, than we say that a is the base logarithm of n :
A logarithm is composed of a characteristic and a mantissa.
The characteristic is the integer part and the mantissa is the decimal part
log 339=2.530
log 3.39×10-5= -4.470
Characteristic Mantissa
=2
=0.530
Characteristic Mantissa
=-4
=0.470
10 2.531 =340(339.6)
10 2.530 =339(338.8)
10 2.529 =338(338.1)
antilog (-3.42) = 10-3.42 = 3.8 × 10 -4
log0.001237= -2.9076
Log1.237= 3.0924
Log3.2=0.51
antilog4.37=2.3 × 10 4
10 4.37=2.3 × 10 4
10-2.600=2.51 × 10 -3
3-3 Types of Error
SYSTEMATIC ERROR
Systematic error , also called determinate error arises from a flaw
In equipment or the design of experiment.
Random error
Random error, also called indeterminate error arises from uncontrolled
(and maybe uncontrollable)
Precision and accuracy
Precision describes the reproducibility of a result, if you measure
A quantity several time and the values agree closely with on another
your measurement is precise.
Accrue describes how close a measured value is to the “true” value
If a known stands is available , accuracy hoe close your value is to the known value
Absolute and relative uncertainty
Absolute uncertainty expresses the margin of uncertainty associated
With a measurement.
Relative uncertainty compares the size of the absolute uncertainty
With the size of its associated measuremen
3-4 Propagation of Uncertainty from Random Error2
We can usually estimate or measure the random error associated with measurement,
Such as the length of an object or the temperature of a solution
- Addition and Subtraction
1.76 (± 0.03)
+ 1.89 (±0.02)
-0.59(±0.02)
3.06(±e4)
e1
e2
e3
Percent relative uncertainty=0.041
×100=1.3%
3.06
- Multiplication and Division
Uncertainty in molecular mass
3. Accuracy (정확도)
⇒ 측정값과 참값과의 근접성(측정값과 참값과의 일치 여부)
⇒ 참값은 알 수 없으며, 따라서 인정된 값(accepted value)를 사용
⇒ absolute error(절대오차) 또는 relative error(상대오차) 로 표시
규칙1. 실험에서 얻은 숫자 → 의심스런 자리 하나만 남긴다.
규칙2. 필요 이상의 불확실한 자리 수를 버릴 때는 반올림한다.
앞자리가 짝수가 되도록 한다.
규칙3. 가감에서 결과는 그 중 가장 정밀도가 낮은 수보다
더 정밀할 수 없다.
규칙4. 승제 에서 결과는 가장 낮은 상대적 정밀도 수보다
상대적 정밀도가 클 수 없다.
규칙5. 대수 표를 사용한 승계는 대수표의 자리의 이상의
수효의 숫자는 다룰 수 없다.
◉ Significant Figure Convention
convention → (the digits known with centainty) + (the first uncertain one)
ex) 61.60, 61.46, 61.55, 61.61의 평균 61.555
󰠐 61.555(±0.069)
61.6 ±
0.1
󰠐󰠐> 소수 2째자리 수 → 불확실 하므로
61.55⑤ → 반올림
5일 경우 가장 가까운 자리수가 짝수가 되도록 한다.
즉, 61.56 → 61.56(±0.07)
Errors in Chemical Analyses
▶오차의 종류와 오차의 검출방법
측정 (Measurement)
⇒ error 와 uncertainty 포함됨
⇒ 잘못된 검정/표준화, 불규칙한 변화,
결과의 불확실성 등이 오차의 주요인
⇒ 적절한 과정을 통하여 오차를 줄일 수 있음
⇒ 오차와 불확실성이 전혀 없는 결과를 얻는 것은 불가능
▶오차를 허용된 수준에서 유지
▶오차의 크기를 허용된 정확도내로 평가
Fe(III) 용액
Fe(III) 농도 측정
(6개 동일시료, 부피)
측정값 (xi) = 19.4, 19.5, 19.6, 19.8,
20.1, 20.3 ppm
참값(알려진 농도, xt) = 20.0 0 ppm
평균
값
⇒ 측정에 대한 허용오차의 크기
⇒ 측정값의 오차의 크기 계산
⇒ 측정결과의 신뢰도 평가(정확도)
⇒ 표준물 사용, 기기검정, 데이터의
통계적 처리
▶ 분석방법 및 시간 결정
▶측정 결과의 정확도 판정
Some important units terms
• 2∼5 개(번)의 반복시료 (replicates)측정
⇒ 반복시료의 중간값은 단일 측정값보다
신뢰성 있음
⇒ 반복 측정값으로부터 불확정도 평가
1.The mean and median
• mean (arithmetic mean, average ( ) ) (평균)
⇒얻어진 결과값을 set의 결과수로 나눈 것
x
• median (중앙값)
⇒ 크기 순으로 나열했을 때 중간에 있는 값
⇒ 측정값이 짝수개 일 경우, 중앙에 있는 두 값의 평균
2. Precision (정밀도)
⇒ 측정의 재현성(reproducibility of measurements)
⇒ 정확히 똑같은 방법을 이용하여 얻은 측정값들 사이의 일치성
⇒ 반복시료를 사용하여 반복적인 측정을 함
• Three terms to describe the precision
- Standard deviation (표준편차)
- Variance (분산)
- Coefficient of variance (분산계수)
부호 없음
⇒ 위 세가지는 deviation from the mean (di)의
함수임.
■ absolute error, E
* xt : accepted value
xi : observed value
⇒ 부호 (+/-) 있음: 측정값이 작으면 “ – “
측정값이 크면 “ + “
E 계산
ex) 그림 5-1, xt = 20.00 ppm
19.80 ppm의 absolute error = -0.2 ppm
20.10 ppm의 absolute error = +0.1 ppm
■ relative absolute error, Er
1000ppt
⇒ ppt 단위로도 표시
Er 계산
ex) 그림 5-1, 평균에 대한 상대오차
5A-4 Types of errors in experimental data
⇒ Precision : 동일 조건에서 반복실험으로 쉽게
얻어짐.
⇒ Accuracy : 얻기 힘듬, 참값을 알고 있어야 함.
•정밀한 것이 반드시 정확하다고 할 수 없음
•정확한 것이 반드시 정밀하다고 할 수 없음
⇒ 정밀성과 정확성을 동시에 확보
Absolute errors in the micro-Kjeldahl determination
(질소 함량 결정)
Analyst 1 : relatively high precision
relatively high accuracy
Analyst 3 : precision is excellent
significant error exists
Analyst 2 : poor precision
good accuracy
Analyst 4 : poor precision
poor accuracy
▶ Types of errors
1) Random (indeterminate) errors: 우연오차(불가측오차)
2) Systematic (determinate) errors: 계통오차(가측오차)
3) Gross errors
1) Random errors
⇒ 데이터를 평균 주위에 대칭적으로 분포되도록 함
⇒ 그림 5-3 의 analyst 1과 3이 analyst 2과 4 보다 random error 가 작음
⇒ 측정의 정밀도에 영향을 줌 (6장에서 자세한 설명)
2) Systematic errors
⇒ 데이터의 평균(mean)이 수용 가능한 값(accepted value)에서 벗어나게 함
⇒ 그림 5-3 의 analyst 1과 2는 analyst 3과 4 보다 systematic error 가 작음
⇒ 측정의 정확도에 영향을 줌
⇒ 결과값을 크게 또는 작게 함
3) Gross errors
⇒ 반복 측정 시 나머지 측정값과 상당히 차이가 나는 값 (outlier)
⇒ 가끔(우연히), 크거나 또는 작은 형태로 발생
⇒ 주로 사람의 실수에 의해 발생
⇒ 통계 검정을 통하여 선택여부 판단
예) • 침전의 무게 측정 전 침전 일부 손실
• 빈병 무게 측정 후 손으로 만짐
Systematic errors
⇒ definite value, assignable cause
⇒ 같은 방법으로 측정한 모든 결과에 같은 크기의 영향을
미침
⇒ 측정결과에 bias를 발생시킴
⇒ bias는 모든 결과에 같은 크기의 영향을 미치며, 부호를
가짐
Sources of systematic errors
Three types of systematic errors
1) instrumental errors
2) method errors
3) personal errors
■ Instrumental errors
⇒ measuring device에 의한 error
예) ① 피펫, 뷰렛, 용량플라스크 부피 측정시 눈금과 실제 부피의 차이
이유: 검정온도와 상당히 다른 온도에서 유리 용기 사용
가열 건조시 용기의 뒤틀림
용기 내부표면의 오염
② Electronic instrument에 의한 error
이유: 배터리 전원 사용시 시간이 지남에 따라 전압오차 발생
기기에 대한 검정오류 및 미검정
온도 변화에 의해 전자부품의 변동성 유발
교류전압으로 인한 잡음
③ 오차가 큰 조건에서 실험자가 기기를 사용
이유: 강 산성조건에서 pH mater 사용시 acid error 발생
⇒ vibration → detectable, correctable
■ Method errors
⇒ 반응들과 시약들의 비이상적인 화학적 또는 물리적 거동에 의해 발생
⇒ 느린 반응속도, 반응의 불완결성, 화학종의 불안정성, 시약의 비선택성, 부반응 등
⇒ 3가지 계통오차 중 확인 및 교정이 가장 어렵다.
Ex)
• 지시약 변색 시 과량의 시약이 첨가 될 때
• 그림 5-3의 analyst 3, 4 모두 negative bias를 나타냄
- 대상시료인 nicotinic acid의 화학적 특성 때문임
- 뜨거운 진한 H2SO4 을 이용하여 유기물을 분해하는 과정이 필요함
- pyridine ring을 가지고 있는 nicotinic
acid는 H2SO4 에 의해 분해가 완전히 일어나지 않음
- Potassium sulfate를 가하여 끓는 온도를 높여주면 분해가 완전히 일어남
■ Personal errors
⇒ 많은 측정은 개인적인 판단이 요구됨
⇒ error가 한쪽 방향으로만 일어나기 쉬움
예) • 두 눈금 사이에 있는 pointer 의 위치 정할 때
• 적정의 종말점에서 용액의 색을 구별할 때
• 액체의 눈금을 뷰렛 또는 피펫에 맞출 때
• 색에 민감하지 못할 때
⇒ 개인적인 편견 또는 선입관에 의해 발생
예) • 정밀도를 증가시키는 방향으로 눈금을 읽을 때
• 측정의 참값을 미리 마음 속으로 정해 놓을 때
• 숫자에 대한 편견이 있을 때
- 눈금 위의 바늘의 위치를 읽을 때 숫자 0과 5를 선호,
- 큰 수보다 작은 수, - 홀수보다 짝수 선호
The effect of the systematic error on analytical results
⇒ Systematic errors는 constant(일정) 하거나 proportional (비례) 적임
⇒ constant errors (일정오차)의 크기는
• 측정되는 양의 크기에 따라 달라지지 않음
• 절대오차는 시료크기에 대하여 일정
• 상대오차는 시료의 크기에 따라 변함
⇒ proportional errors (비례오차)의 크기는
• 분석에 사용된 시료의 크기에 따라 증가 또는 감소
• 절대오차는 시료크기에 따라 변함
• 상대오차는 시료의 크기에 대하여 일정
■ Constant errors
⇒ 측정되는 시료량이 감소하면 constant error는 심각해짐
⇒ 예제 5-2에 무게분석 결과에서 solubility loss가 미치는 영향 설명
⇒ 적정시 지시약 변색에 필요한 시약이 과량으로 적정 되는 경우
• 보통 과량의 시약은 전체 적정부피와 상관없이 일정
• 전체 적정부피가 감소하면 심각해짐
⇒ constant error를 줄이는 한 가지 방법은 가능한 한 시료의
크기를 크게 함
■ Proportional errors
⇒ 일반적으로 시료에 interfering contaminants가 있을경우 발생
⇒ 시료의 크기에 따라 비례적으로 증가/감소
⇒ Cu(II) 정량시 Fe(III)이 방해물질로 존재할 경우
ex) Ca(Ⅱ) + 2ICI → I2
↥ Fe(Ⅲ) 방해
Sample량 2배 → error 2배
사용전 성분량에 비례하는 오차
Detection of systematic instrumental & personal errors
⇒ Instrumental error
• can be founded and corrected by calibration
• 주기적 검정이 필요
• 분석물의 반응에 영향을 주는 interference 가 시료에 존재하여
기기오차가 발생하는 경우
→ 단순한 검정으로 영향제거 불가능
→ 8C-1 에서 제거방법 설명
⇒ Personal error
• 주의, 훈련에 의해 최소화 할 수 있음
• Check instrument reading, notebook entries & calculations
• 실험자의 한계로 인한 error는 분석방법을 잘 선택하여 피함
Detection of systematic method errors
⇒ 분석법에서 bias는 특히 검출하기 어렵다.
⇒ 하나 또는 그 이상의 단계를 적용하여 적으로 적절한
방법을 선택하여 오차의 크기를 알아내고 조정
⇒ 다음의 5가지 방법을 일반적으로 사용
■ Analysis of standard samples
⇒ The best way of estimating the bias of analytical method is by
the analysis of standard reference materials(SRMs)
⇒ SRMs : 정확하게 잘 알려진 농도를 가지고 있는 analytes를 하나
또는 그 이상 포함한 물질
⇒ 합성하여 사용
• 순수한 성분들을 조심스럽게 취하고 혼합하여 조성을 알 수 있는
균일시료 제조
• 합성 표준물질의 조성은 분석시료의 조성과 거의 같아야 함
• 표준시료의 합성이 불가능하거나, 쉽지 않고 시간이 많이 걸리는
경우 가 있음 → 실제적이지 못할 수 있음
⇒ 정부기관 또는 관련회사에서 구입하여 사용
• 미국 정부기관인 NIST(National Institute od Standards & Technology)에서
1300 종 이상의 SRMs 공급
• 몇몇 시판 공급회사에서도 공급
http://www.nist.gov/
http://ts.nist.gov/measurementservices/referencematerials/index.cfm
105.4 Toxic Substances in Urine (powder form)
SRMs 2670a, 2671a and 2672a are for determining toxic substances in human urine.
They consist of freeze-dried urine and are provided in sets of four 30 mL bottles -- two each at low and elevated levels.
NOTE:The values listed for these SRMs apply only to reconstituted urine.
■ Independent analysis
⇒ 표준시료를 사용할 수 없을 경우
⇒ 같은 시료를 또 다른 독립적이고 신뢰성 있는 분석법으로
분석 (parallel analysis)
⇒ 두 방법은 가능한 한 많이 달라야 함 → 두 방법에 모두 영향을
줄 수 있는 공통요인을 최소화 하기 위함
⇒ 두 방법간의 차이가 random error 또는 방법에서 오는 bias
때문인지를 평가하기 위해 반드시 통계적 test를 실시 (7B-2)
■ Blank determinations
⇒ blank
• analyte를 제외한 시약들과 용매들을 포함
• analyte environment (sample matrix)와 유사한 조건을 만들기 위해
sample constituent 들을 첨가하기도 함
⇒ blank determination
• 시약과 용기에서 들어오는 방해오염물 영향 제거
• blank material에 대해 분석의 모든 단계 에서 반드시 분석을 실시하여야 함
• 결과를 이용하여 반드시 sample 측정결과를 수정
• 사용되는 시약과 용기의 방해오염물질에서 발생하는 error를 알려 줌
• 부피적정 시 종말점에서 지시약의 변색에 필요한 시약의 부피로 부터 적정
data 수정
■ Variation in sample size
⇒ 예제 5-2: 시료의 크기 증가 → constant error 크기 감소
⇒ constant error: 시료크기를 변화시키면 검출 가능
- Absolute and Relative Uncertainty
6C-1 Standard Deviation of a Sum or Difference
Absolute standard deviation
The variance of y
(sy2)
The standard deviation of the
result (sy)
∴
6C-2 Standard Deviation of a Product or Quotient
Relative standard deviation
Absolute standard deviation
∴
0.0104 (±0.0003)
6C Standard Deviation of Calculated Results
6D Reporting Computed Data
⇒ Data의 quality를 알 수 없는 결과는 가치가 없음
⇒ 항상 data의 신뢰도를 나타내어야 함
⇒ 신뢰도를 나타내는 가장 좋은 방법중의 하나는 90% 또는 95%
confidence level 에서 confidence interval을 제시
⇒ 또 다른 방법으로 data의 absolute standard deviation 또는
coefficient of variation을 보고 → data의 수도 같이 표기
⇒ 덜 만족스럽지만 data quality를 나타내는 좀더 일반적인 것은
significant figure convention 임
6D-1 Significant Figure
⇒ 측정값을 반올림하여 유효숫자만이
포함되도록 하여 생길 수 있는 uncertainty를 표시
30.2 ∼ 30.3 mL, ±0.02 mL 구분 가능
→ 30.24 mL로 보고
(유효숫자 4자리 = 확실한 수 3자리 + 불확실한 수 1자리)
• 30.24 mL → 0.03204 L : 유효숫자 4개
• 2.0 L : 유효숫자 2개
2000 mL →수백 mL의 uncertainty 가 존재 →
유효숫자 2개
유효숫자를 나타내는 가장 좋은 방법은 2.0
Х 103 mL
6D-2 Significant Figure in Numerical Computations
산술 계산시 → 적절한 유효숫자의 수를
결정하도록 함
Sums and Differences
3.4 + 0.020 + 7.31 = 10.730
(round to 10.7)
Products and Quotients
반올림
=
1.1
=
1.08
Relative
uncertainty in
the result
반올림
=
0.96
=
0.96
Relative
uncertainty in
the result
Logarithms and Antilogarithms
6D-3 Rounding Data
예) 61.06, 61.46, 61.55, 61.61 →
→ the result as 61.6 ± 0.1
= 61.555, s = 0.069
x
6D-4 Expressing Results of Chemical Computations
⇒ Two cases are encountered when reporting the results of chemical calculation.
• Standard deviation을 알 경우 → propagation error method와 유효숫자를 포함
하도록 결과를 반올림 한다.
→ 그러나, 종종 단지 유효숫자규칙에 의해 표시된 precision을 가진 data를 계산
함
• 각 숫자에서의 uncertainty에 대한 common sense assumption을 하도록 함
→ 이러한 가정하에, 6C의 방법을 이용하여 final result의 uncertainty를 추정한다.
→ 마지막으로 결과를 반올림하여 단지 유효숫자만을 가지도록 한다.
⇒ 모든 계산이 완결될 때 까지 반올림을 하지 않는다.
• 마지막 유효 숫자 바로 뒤에 있는 숫자(guard figure)도 계산이 끝날 때 까지
사용