Thư viện tri thức trực tuyến
Kho tài liệu với 50,000+ tài liệu học thuật
© 2023 Siêu thị PDF - Kho tài liệu học thuật hàng đầu Việt Nam
Giáo trình xử lý số liệu và quy hoạch thực nghiệm hóa học
Nội dung xem thử
Mô tả chi tiết
TS. LÊ ĐÌNH VŨ
GIÁO TRÌNH
XỬ LÝ SỐ LIỆU VÀ QUY HOẠCH
THỰC NGHIỆM HÓA HỌC
NHÀ XUẤT BẢN ĐẠI HỌC CÔNG NGHIỆP
THÀNH PHỐ HỒ CHÍ MINH
Lời nói đầu
LỜI NÓI ĐẦU
Trong nghiên cứu thực nghiệm nói chung và lĩnh vực Hóa học nói
riêng, thí nghiệm cần được thiết kế, phân tích và đánh giá thông qua các
phép tính toán thống kê nhằm bảo đảm tính khoa học và độ tin cậy của kết
quả. Vì vậy, xử lý số liệu và quy hoạch thực nghiệm là nội dung quan trọng
của ngành Hóa phân tích và Công nghệ hóa học.
Nội dung giáo trình “Xử lý số liệu và Quy hoạch thực nghiệm Hóa
học” tập trung vào việc vận dụng lý thuyết xác suất thống kê để giải quyết
các vấn đề thực tế của Hóa phân tích và Công nghệ Hóa học. Giáo trình
gồm 06 chương:
Chương 1. Đại lượng đặc trưng của tập số liệu thực nghiệm;
Chương 2. Hàm phân phối xác suất và chuẩn thống kê.
Hai chương đầu của giáo trình là các kiến thức cơ sở liên quan đến lý
thuyết thống kê và các đặc trưng cơ bản của một tập số liệu thực nghiệm.
Những bài tập thực tế được vận dụng để tính toán, mô tả thống kê các đặc
trưng của một hoặc nhiều tập số liệu thực nghiệm.
Chương 3. Kiểm định thống kê và ứng dụng;
Chương 4. Xử lý thống kê trong thẩm định phương pháp phân tích.
Chương 3 và chương 4 trình bày việc ứng dụng các công cụ xác suất
thống kê trong Hóa phân tích như: đánh giá phương pháp phân tích, đánh
giá thiết bị phân tích, thử nghiệm thành thạo, thẩm định phương pháp và
các vấn đề khác liên quan đến đảm bảo chất lượng trong hoạt động kiểm
nghiệm.
Chương 5. Phân tích tác động của các yếu tố tới kết quả thực nghiệm;
Chương 6. Thiết kế và phân tích thực nghiệm.
Hai chương cuối gồm những nội dung liên quan đến thiết kế và phân
tích thực nghiệm. Phần này trình bày chi tiết từ cơ sở lý thuyết tới ứng
dụng của toán học hồi quy trong thiết kế thực nghiệm với các mô hình khác
nhau; ứng dụng lý thuyết thống kê trong đánh giá kết quả mô hình; tối ưu
XỬ LÝ SỐ LIỆU VÀ QUY HOẠCH THỰC NGHIỆM HÓA HỌC
hóa mô hình để xác định giá trị các thông số đáp ứng với yêu cầu được đặt
ra cho bài toán thực nghiệm.
Giáo trình được biên soạn với các ví dụ thực tế, cập nhật trong lĩnh
vực Hóa phân tích và Công nghệ hóa học. Xuyên suốt nội dung của giáo
trình, hai phần mềm Microsoft Excel và Statgraphics được sử dụng để mô
tả thống kê, kiểm định thống kê tập số liệu thực nghiệm; thiết kế, phân tích
và tối ưu hóa thực nghiệm.
Giáo trình này là tài liệu học tập chính cho học viên cao học ngành
Hóa phân tích và Công nghệ hóa học. Ngoài ra, giáo trình còn có thể được
dùng làm tài liệu tham khảo cho bậc đại học hoặc ứng dụng trong xử lý số
liệu, thiết kế và phân tích thực nghiệm để thực hiện các đề tài nghiên cứu
và khóa luận tốt nghiệp.
Mặc dù nội dung đã được biên soạn cẩn thận, song khó tránh khỏi
những thiếu sót, tác giả rất mong được bạn đọc góp ý để giáo trình được
hoàn thiện hơn trong lần tái bản sau.
Thư góp ý xin gửi về địa chỉ email: ledinhvu@iuh.edu.vn
Trân trọng cảm ơn.
Mục lục
MỤC LỤC
Trang
Chương 1: Đại lượng đặc trưng của tập số liệu thực nghiệm................1
1.1. Đại lượng đặc trưng cho tâm phân bố và vị trí của tập số liệu .......... 1
1.2. Đại lượng đặc trưng cho sự phân tán của tập số liệu thực nghiệm.... 5
1.2.1. Phương sai................................................................................ 5
1.2.2. Độ lệch chuẩn........................................................................... 5
1.2.3. Độ sai chuẩn/độ lệch chuẩn trung bình .................................... 5
1.2.4. Khoảng biến thiên .................................................................... 6
1.2.5. Độ lệch chuẩn tương đối/hệ số biến sai.................................... 6
1.3. Sai số đo lường................................................................................... 8
1.3.1. Sai số tuyệt đối ......................................................................... 8
1.3.2. Sai số tương đối........................................................................ 8
1.3.3. Sai số hệ thống.......................................................................... 9
1.3.4. Sai số ngẫu nhiên...................................................................... 9
1.4. Ứng dụng Excel trong tính toán đại lượng đặc trưng của
tập số liệu thực nghiệm................................................................... 10
1.4.1. Ứng dụng hàm Excel tính các thông số của tập số liệu.......... 10
1.4.2. Công cụ Excel mô tả tập số liệu thực nghiệm........................ 13
Bài tập chương 1:.................................................................................... 16
Tài liệu tham khảo................................................................................... 17
Chương 2: Hàm phân phối xác suất và chuẩn thống kê ........................ 18
2.1. Phân phối xác suất Gauss và chuẩn Z.............................................. 18
2.1.1. Cơ sở thống kê và ứng dụng phân phối Gauss....................... 18
2.1.2. Tính toán phân phối Gauss bằng hàm Excel .......................... 20
2.2. Phân phối Student và chuẩn t........................................................... 23
2.2.1. Cơ sở thống kê và ứng dụng phân phối Student..................... 23
2.2.2. Hàm Excel tính toán phân phối Student................................. 25
2.3. Phân phối Fisher và chuẩn F............................................................ 27
2.3.1. Cơ sở thống kê và ứng dụng phân phối Fisher....................... 27
XỬ LÝ SỐ LIỆU VÀ QUY HOẠCH THỰC NGHIỆM HÓA HỌC
2.3.2. Tính toán phân phối Fisher bằng hàm Excel.......................... 29
2.4. Phân phối Chi bình phương và chuẩn χ2......................................... 30
2.4.1. Cơ sở thống kê và ứng dụng phân phối Chi bình phương...... 30
2.4.2. Tính toán phân phối Chi bình phương bằng hàm Excel......... 32
2.5. Phân phối Tam giác cân................................................................... 32
2.6. Phân phối Hình chữ nhật.................................................................. 34
Bài tập chương 2:.................................................................................... 36
Tài liệu tham khảo................................................................................... 37
Chương 3: Kiểm định thống kê và ứng dụng ............................................. 38
3.1. Giả thuyết thống kê và kết luận thống kê......................................... 38
3.1.1. Giả thuyết thống kê ................................................................ 38
3.1.2. Kết luận thống kê ................................................................... 38
3.1.3. Mối quan hệ giữa chuẩn thống kê và kết luận thống kê......... 40
3.2. Kiểm định Student và ứng dụng ...................................................... 41
3.2.1. Kiểm định Student so sánh giá trị trung bình của một tập
số liệu với giá trị cho trước.................................................... 42
3.2.2. Kiểm định Student liên quan từng đôi một ............................ 46
3.2.3. Kiểm định Student cho hai mẫu có phương sai đồng nhất..... 51
3.2.4. Kiểm định Student cho hai mẫu không đồng nhất
phương sai .............................................................................. 54
3.3. Kiểm định Gauss và ứng dụng......................................................... 57
3.3.1 Kiểm định Z cho một tập mẫu................................................. 57
3.3.2. Kiểm định Z cho hai tập mẫu ................................................. 58
3.3.3. Ứng dụng kiểm định Z trong đánh giá kết quả thử nghiệm
thành thạo ............................................................................... 60
3.3.4. Ứng dụng kiểm định Z xây dựng biểu đồ kiểm soát.............. 68
3.4. Kiểm định Grubbs và ứng dụng....................................................... 69
3.5. Kiểm định Fisher (F–test) và ứng dụng ........................................... 72
3.6. Kiểm định Chi bình phương (χ2–test) và ứng dụng......................... 76
3.6.1. Kiểm định Chi bình phương đánh giá tương quan giữa các
yếu tố không qua tham số...................................................... 77
3.6.2. Kiểm định Chi bình phương đánh giá đồng nhất phương
sai mẫu và phương sai chuẩn cho trước ................................ 80
Mục lục
3.6.3. Kiểm định Chi bình phương đánh giá đồng nhất nhiều
phương sai .............................................................................. 81
3.7. Kiểm định Cochran và ứng dụng ..................................................... 83
Bài tập chương 3 ..................................................................................... 86
Tài liệu tham khảo................................................................................... 88
Chương 4: Xử lý thống kê trong thẩm định phương pháp
phân tích ............................................................................................90
4.1. Tính đặc hiệu, tính chọn lọc............................................................. 90
4.1.1 Tính đặc hiệu........................................................................... 90
4.1.2. Tính chọn lọc.......................................................................... 93
4.2. Khoảng tuyến tính, độ tương quan của đường hiệu chuẩn .............. 93
4.2.1. Đường hiệu chuẩn .................................................................. 93
4.2.2. Độ tuyến tính.......................................................................... 96
4.3. Giới hạn phát hiện, giới hạn định lượng ........................................ 101
4.3.1. Tính LOD dựa trên độ lệch chuẩn khi phân tích lặp
mẫu trắng.............................................................................. 102
4.3.2. Xác định LOD/MDL bằng phân tích mẫu thêm chuẩn,
mẫu thật ................................................................................ 102
4.3.3. Tính LOD/MDL dựa trên S/N.............................................. 104
4.3.4. Tính LOD từ đường hiệu chuẩn ........................................... 105
4.3.5. Xác định LOD/MDL dựa trên mức tin cậy của tín hiệu....... 105
4.4. Độ chính xác của phương pháp phân tích...................................... 105
4.4.1. Độ chụm, độ lặp của phương pháp....................................... 106
4.4.2. Độ đúng ................................................................................ 111
4.5. Độ không đảm bảo đo .................................................................... 114
4.5.1. Số đo và chữ số có nghĩa...................................................... 114
4.5.2. Sai số tích lũy ....................................................................... 117
4.5.3. Độ không đảm bảo đo .......................................................... 120
4.5.4. Quy trình xác định độ không đảm bảo đo ............................ 121
4.5.5. Một số ví dụ.......................................................................... 134
Bài tập chương 4 ................................................................................... 145
Tài liệu tham khảo................................................................................. 147
XỬ LÝ SỐ LIỆU VÀ QUY HOẠCH THỰC NGHIỆM HÓA HỌC
Chương 5: Phân tích tác động của các yếu tố tới kết quả
thực nghiệm.................................................................................... 150
5.1. Phân tích phương sai một yếu tố.................................................... 151
5.2. Phân tích phương sai hai yếu tố không lặp .................................... 157
5.3. Phân tích phương sai hai yếu tố có lặp .......................................... 164
5.4. Phân tích phương sai ba yếu tố trở lên........................................... 172
5.4.1. Phân tích phương sai ba yếu tố không có lặp....................... 174
5.4.2. Phân tích phương sai ba yếu tố có lặp.................................. 178
Bài tập chương 5 ................................................................................... 186
Tài liệu tham khảo................................................................................. 188
Chương 6: Thiết kế và phân tích thực nghiệm ....................................... 189
6.1. Cơ sở lý thuyết về thiết kế và phân tích thực nghiệm.................... 189
6.1.1. Vai trò của thiết kế và phân tích thực nghiệm...................... 189
6.1.2. Thiết kế ma trận thực nghiệm............................................... 191
6.1.3. Thực nghiệm theo ma trận thiết kế....................................... 192
6.1.4. Tính toán hệ số của phương trình hồi quy........................... 193
6.1.5. Đánh giá hệ số hồi quy........................................................ 194
6.1.6. Đánh giá phương trình hồi quy ............................................ 195
6.2. Mô hình hóa thực nghiệm bậc một ................................................ 198
6.2.1. Mô hình hóa thực nghiệm bậc một đầy đủ........................... 198
6.2.2. Mô hình hóa thực nghiệm bậc một rút gọn .......................... 214
6.3. Mô hình mặt đáp ứng bậc hai......................................................... 223
6.3.1. Mô hình bậc hai tâm trực giao.............................................. 224
6.3.2. Mô hình bậc hai tâm xoay .................................................... 238
6.4. Mô hình thực nghiệm dạng hỗn hợp .............................................. 248
6.4.1. Ma trận thực nghiệm của mô hình hỗn hợp ......................... 248
6.4.2. Tính toán phương trình hồi quy............................................ 251
6.4.3. Đánh giá tính phù hợp của phương trình hồi quy................. 253
6.5. Mô hình đa mức thực nghiệm........................................................ 260
Bài tập chương 6:.................................................................................. 268
Tài liệu tham khảo................................................................................. 275
Phụ lục.................................................................................................. 276
Thuật ngữ viết tắt
DANH MỤC THUẬT NGỮ VIẾT TẮT
AAS (Atomic absorption
spectroscopy)
Phổ hấp thụ nguyên tử
ANOVA (Analysis of Variance) Phân tích phương sai
AOAC (Association of Official
Analytical Chemists)
Hiệp hội các nhà hóa học phân
tích
Crit (Criterial) Tiêu chí
EPA (Environmental Protection
Agency)
Cơ quan bảo vệ môi trường USA
HPLC (High Performance Liquid
Chromatography)
Sắc ký lỏng hiệu năng cao
GC (Gas Chromatography) Sắc ký khí
ISO (International Standard
Organization)
Tổ chức tiêu chuẩn quốc tế
LOD (Limit of Detection) Giới hạn phát hiện
LOQ (Limit of Quantification) Giới hạn định lượng
MDL (Method Detection Limit) Giới hạn phát hiện của phương
pháp
MQL (Method Quantitation Limit) Giới hạn định lượng của phương
pháp
MS (Mass Spectrometry) Phổ khối
PT (Proficiency Testing) Thử nghiệm thành thạo
QA/QC (Quality Assurance/ Quality
Control)
Đảm bảo chất lượng/Kiểm soát
chất lượng
RSD (Relative standard Deviation) Độ lệch chuẩn tương đối
S/N (Signal to noise) Tỉ lệ tín hiệu trên nhiễu nền
Sd (Standard Deviation) Độ lệch chuẩn
Stat (Statistical) Thống kê
TCVN Tiêu chuẩn Việt Nam
XỬ LÝ SỐ LIỆU VÀ QUY HOẠCH THỰC NGHIỆM HÓA HỌC
Chương 1. Đại lượng đặc trưng của tập số liệu thực nghiệm 1
Chương 1
ĐẠI LƯỢNG ĐẶC TRƯNG CỦA TẬP SỐ LIỆU
THỰC NGHIỆM
1.1. Đại lượng đặc trưng cho tâm phân bố và vị trí của tập số liệu
Giá trị trung bình (Mean) là trung bình cộng của một tập số liệu, ký
hiệu là x.
x =
1
N
∑ xi
N
i=1
(1.1)
Giá trị trung bình của một tập số liệu chính là tâm của tập số liệu đó.
Tâm của tập số liệu sẽ lệch về phía các giá trị có tần suất cao (lặp lại nhiều)
của tập số liệu. Khi tập số liệu có số lượng vô cùng lớn (N→ ∞), giá trị
trung bình sẽ tiến tới giá trị thực µ.
Giá trị trung bình có vai trò quan trọng trong đánh giá tập số liệu, đặc
biệt trong đảm bảo chất lượng và kiểm soát chất lượng (QA/QC) của hoạt
động kiểm nghiệm và đo lường. Giá trị trung bình thường được sử dụng
trong việc đánh giá độ đúng của phương pháp phân tích (trueness); đánh
giá tay nghề nhân viên kiểm nghiệm; thử nghiệm thành thạo (Proficiency
testing–PT).
Khoảng giá trị (Range) là khoảng cách giữa giá trị lớn nhất và giá trị
nhỏ nhất của tập số liệu kết quả đo.
Range = xmax – xmin (1.2)
Số trung vị (Median, Med) là giá trị có vị trí thứ tự ở giữa tập số liệu
khi sắp xếp từ nhỏ đến lớn. Trung vị bằng giá trị số liệu ở giữa nếu tập số
liệu (N) lẻ hoặc bằng trung bình hai số có vị trí thứ tự ở giữa nếu tập số
liệu chẵn.
Med = xN+1
2
nếu N lẻ; Med =
1
2
(xN
2
+ x
(
N
2
+1)
) nếu N chẵn (1.3)
Nếu giá trị trung vị gần bằng với giá trị trung bình, tập số liệu có sự
phân bố tương đối đều trong khoảng giá trị (range). Giá trị của trung vị
nhỏ hơn giá trị trung bình cho thấy tập số liệu thực nghiệm có xu hướng
2 XỬ LÝ SỐ LIỆU VÀ QUY HOẠCH THỰC NGHIỆM HÓA HỌC
lệch về phía các giá trị nhỏ. Ngược lại nếu trung vị lớn hơn giá trị trung
bình thì tập số liệu thực nghiệm có xu hướng lệch nhiều hơn về hướng các
giá trị lớn.
Trong nhiều phép phân tích thống kê, đặc biệt là kỹ thuật phân tích dữ
liệu lớn (Robust data analysis) cho tập số liệu gồm có nhiều tập dữ liệu
thành phần nhằm loại bỏ những giá trị bất thường của tập. Trung vị được
gán là giá trị ban đầu cho các phép tính lặp để tìm được giá trị trung bình
hoặc độ lệch chuẩn đặc trưng nhất cho tập dữ liệu.
Tần số (Frequency, f) của giá trị/nhóm giá trị là số lần xuất hiện giá
trị/nhóm giá trị đó trong tập số liệu thực nghiệm.
Tần suất (pi) của một giá trị/nhóm giá trị (xi) là tỉ số giữa số lần xuất
hiện giá trị/nhóm giá trị đó (f) so với tổng số số liệu thực nghiệm (N).
pi =
f
N
vì 0 f N nên 0 pi 1 (1.4)
Khi tập số liệu đủ lớn (N → ) tần suất pi được xem là xác suất xuất
hiện của giá trị xi (Probability, p).
Phân phối tần suất là đồ thị biểu diễn mối tương quan của tần suất
theo các giá trị của tập số liệu thực nghiệm. Dựa vào phân phối tần suất có
thể dễ dàng đánh giá mức độ tái hiện của các giá trị đo trong tập số liệu
thực nghiệm. Tần số, tần suất và phân phối tần suất của một tập số liệu đặc
biệt quan trọng đối với các nghiên cứu mang tính chất khảo sát trong hóa học
và hóa phân tích về đánh giá chất lượng của sản phẩm.
Tần số, tần suất và phân phối tần suất thông thường được quan sát cho
nhóm các giá trị (khoảng nhỏ) trong toàn bộ khoảng giá trị tập số liệu. Các
nhóm có thể được chia theo nhiều khoảng khác nhau tùy theo từng đặc
điểm hoặc yêu cầu của bài toán thực nghiệm.
Số trội (Mode) là giá trị/nhóm giá trị trong tập số liệu có tần suất cao
nhất.
Ví dụ 1.1: Kết quả phân tích hàm lượng lipit tổng số (g/kg) trong 40
mẫu sữa bột thu được như bảng sau:
18.3 18.4 18.5 18.9 19.3 20.1 20.2 21.3 21.4 21.4
25.5 25.5 26.1 26.3 26.6 27.6 27.7 27.9 21.6 21.7
Chương 1. Đại lượng đặc trưng của tập số liệu thực nghiệm 3
24.0 24.0 24.4 24.5 25.7 25.9 25.2 25.2 21.8 22.0
23.5 23.5 23.6 23.6 23.1 23.1 23.3 23.3 22.1 22.2
– Xác định khoảng giá trị, trung vị, giá trị trung bình của tập số liệu.
– Xác định tần suất, số trội, phân phối tần suất của tập giá trị trên
theo khoảng giá trị là 2g/kg. Mô tả phân phối tần suất của tập số liệu bằng
đồ thị.
Giải: Tập số liệu được sắp xếp lại theo thứ tự tăng dần, kết quả thu
được như bảng dưới đây:
18.3 18.4 18.5 18.9 19.3 20.1 20.2 21.3 21.4 21.4
21.6 21.7 21.8 22.0 22.1 22.2 23.1 23.1 23.3 23.3
23.5 23.5 23.6 23.6 24.0 24.0 24.4 24.5 25.2 25.2
25.5 25.5 25.7 25.9 26.1 26.3 26.6 27.6 27.7 27.9
Khoảng giá trị: R = xmax – xmin = 27.9 – 18.3 = 9.6
Giá trị trung bình: x =
1
N
∑ xi
N
i=1 =
928.3
40
≈ 23.1
Trung vị: Med =
1
2
(xN
2
+ x
(
N
2
+1)
) =
23.3+23.5
2
= 23.4
Ta thấy trung vị của tập số liệu có giá trị gần bằng giá trị trung bình,
tập số liệu phân bố tương đối đều về hai phía.
Các giá trị này được phân chia thành các nhóm như yêu cầu. Tần số,
tần suất được tính toán theo các khoảng giá trị. Kết quả được trình bày
trong bảng dưới đây:
Nhóm Khoảng nồng độ (g/kg) Tần số Tần suất (%)
1 18.1 – 20.0 5 12.5
2 20.1 – 22.0 9 22.5
3 22.1 – 24.0 12 30
4 24.1 – 26.0 8 20
5 26.1 – 28.0 6 15
Tổng số 40 100
4 XỬ LÝ SỐ LIỆU VÀ QUY HOẠCH THỰC NGHIỆM HÓA HỌC
Giá trị tần suất theo nhóm được thể hiện trên đồ thị ta thu được phân
phối tần suất như hình 1.1.
Hình 1.1. Đồ thị mối quan hệ giữa tần suất các giá trị theo các nhóm nồng độ
lipit có trong 40 mẫu sữa bột: nhóm 1: 18.0 – 20.0; nhóm 2: 20.1 – 22.0; nhóm
3: 22.1 – 24.0; nhóm 4: 24.1 – 26.0 và nhóm 5: 26.1 – 28.0
Hình 1.2. Đồ thị tần suất dồn theo các nhóm nồng độ lipit có trong 40 mẫu sữa
bột. Nhóm 1: 18.0 – 20.0; nhóm 2: 18.0 – 22.0; nhóm 3: 18.0 – 24.0; nhóm 4:
18.0 – 26.0 và nhóm 5: 18.0 – 28.0
Số trội của tập số liệu có giá trị tần suất lớn nhất với pi = 30% là nhóm
giá trị các mẫu có nồng độ từ 22.1– 24.0 g/kg. Ngược lại, nhóm giá trị với
nồng độ cao nhất (18.1 – 20.0 g/kg) có tần suất thấp nhất là 12.5%.
Chương 1. Đại lượng đặc trưng của tập số liệu thực nghiệm 5
1.2. Đại lượng đặc trưng cho sự phân tán của tập số liệu thực nghiệm
1.2.1. Phương sai (Variance, S
2
)
Tổng bình phương sai khác giữa các giá trị của tập số liệu so với giá
trị trung bình của tập số liệu ký hiệu là SS (Sum of square):
SS = ∑ (xi − x)
N 2
i=1
(1.5)
Phương sai của một tập số liệu là trung bình của tổng bình phương
sai khác giữa các giá trị của tập số liệu so với giá trị trung bình của tập số
liệu gồm N kết quả đo:
S
2 =
SS
f
=
1
f
∑ (xi − x)
N 2
i=1 =
1
f
(∑ xi
2 −
(∑ xi
N
i=1
)
2
N
N
i=1 ) (1.6)
Với: f là bậc tự do của tập số liệu kết quả đo, thông thường f = N – 1.
Khi số thực nghiệm đủ lớn (N ≥ 30) thì f = N – 1≈ N. Khi đó, phương sai
tập mẫu (S
2
) trở thành phương sai tổng thể và được kí hiệu là σ2
.
Phương sai biểu diễn độ phân tán/độ chụm/độ lặp của các giá trị so
với tâm của tập số liệu thực nghiệm (x). Phương sai càng nhỏ độ phân tán
càng nhỏ, độ lặp hoặc độ chụm càng lớn và ngược lại.
Phương sai được sử dụng nhiều trong xử lý số liệu cụ thể như: tính
khoảng biến thiên của kết quả đo lường (ε); đánh giá độ lặp, độ tái lặp của
phương pháp phân tích; ước lượng độ không đảm bảo đo; đánh giá độ ổn
định của thiết bị đo; đánh giá tay nghề nhân viên kiểm nghiệm; đánh giá
mức độ tác động của các yếu tố vào giá trị cần khảo sát;...
1.2.2. Độ lệch chuẩn (Standard deviation, Sd)
Độ lệch chuẩn của một tập số liệu là căn bậc hai giá trị phương sai
của tập số liệu:
Sd = √S
2 khi tập số liệu lớn người ta hay dùng σd = √σ
2 (1.7)
Độ lệch chuẩn có cùng thứ nguyên với giá trị của tập số liệu và có ý nghĩa
giống như phương sai.
1.2.3. Độ sai chuẩn/độ lệch chuẩn trung bình (Standard error, ����̅)
Độ sai chuẩn là tỉ số giữa độ lệch chuẩn và căn bậc hai của số giá trị
trong tập số liệu:
6 XỬ LÝ SỐ LIỆU VÀ QUY HOẠCH THỰC NGHIỆM HÓA HỌC
Sx̅ =
Sd
√N
= √
∑ (xi−x)
N 2
i=1
N(N−1)
(1.8)
Độ sai chuẩn chính là độ lệch chuẩn trung bình có cùng thứ nguyên và ý
nghĩa với độ lệch chuẩn. Độ sai chuẩn được dùng để biễu diễn khoảng biến
thiên chuẩn của giá trị thực hoặc dùng để tính khoảng biến thiên mở rộng của
của tập giá trị thực nghiệm ở một độ tin cậy nhất định.
1.2.4. Khoảng biến thiên (Confidence level, ε)
Khoảng biến thiên là khoảng dao động của giá trị thực (µ) tính từ tâm của
tập số liệu (x). Tập số liệu thực nghiệm là các giá trị rời rạc thu được tại những
lần đo cụ thể, độc lập với nhau. Sau khi tính toán thống kê ta có thể mô tả giá
trị thực nghiệm bằng một khoảng giá trị liên tục ở một độ tin cậy nhất định
dưới dạng:
µ = x ± ε hay x – ε ≤ µ ≤ x + ε (1.9)
Với ε = k. SX̅ trong đó k là hệ số phủ, hệ số phủ k sẽ khác nhau tùy
thuộc vào quy luật phân bố ở một độ tin cậy nhất định.
1.2.5. Độ lệch chuẩn tương đối/hệ số biến sai (Relative standard
deviation, RSD%)
Độ lệch chuẩn tương đối hay hệ số biến thiên là tỉ số giữa độ lệch
chuẩn với giá trị trung bình:
RSD (%) =
Sd
x
. 100 (1.10)
RSD (%) thông thường được dùng để đánh giá độ lặp của phương
pháp đo lường (repeatability), độ lặp trung gian/độ tái lặp nội bộ
(intermediate–precision). Tùy vào hệ thống tiêu chuẩn, đối tượng phân
tích, nồng độ định lượng, giá trị lớn nhất có thể chấp nhận của RSD sẽ
được quy định khác nhau.
Ví dụ 1.2: Để đánh giá tay nghề của kiểm nghiệm viên (KNV) trong
phòng thí nghiệm, bộ phận đảm bảo chất lượng tạo mẫu và yêu cầu các
KNV phân tích trên cùng một mẫu kiểm soát. Kết quả nồng độ (mg/Kg)
thu được như bảng sau: