Giáo trình: Lý thuyết thông tin 10

Giáo trình: Lý thuyết thông tin.

BÀI TẬP TỔNG HỢP

Mục tiêu

Sau khi hoàn tất bài học này bạn có thể:

- Hiểu rõ hơn về nội dung môn học.

- Vận dụng nội dung môn học để giải quyết một số bài tập tổng hợp.

Bài 1

Xét một mô hình chẩn đoán bệnh từ các triệu chứng: A, B và C; để chẩn đoán 1 trong 4 bệnh: 1,

2, 3 và 4 với ma trận chẩn đoán (hay ma trận truyền tin).

Bệnh

Triệu chứng

1 2 3 4

A 0,6 0,3 0 0,1

B 0,2 0,6 0,2 0

C 0 0 0,3 0,7

Yêu cầu:

Câu 1: Vẽ sơ đồ mô tả mô hình chẩn đoán bệnh trên và diễn giải các ý nghĩa của sơ đồ.

Câu 2: Nếu phân phối của Triệu chứng có dạng:

Triệu chứng A B C

P 0,5 0,3 0,2

Tính các lượng sau :

¾ Lượng ngẫu nhiên (Entropy) của Triệu chứng .

¾ Lượng ngẫu nhiên của Bệnh.

¾ Lượng ngẫu nhiên của Bệnh khi biết Triệu chứng.

¾ Lượng chẩn đoán đúng.(Lượng thông tin biết về Bệnh thông qua Triệu chứng) và tỷ lệ

chẩn đoán đúng là bao nhiêu phần trăm.

Câu 3: Bây giờ người ta sử dụng 2 bit để mã thông tin về Triệu chứng (có 1 triệu chứng dự trữ) và

5 bit để mã các triệu chứng khi chẩn đoán bệnh trực tuyến. Mô tả các đoạn của dãy 5 bit trong

phương pháp kiểm tra chẵn lẻ.

Câu 4: Nếu sử dụng ma trận kiểm tra chẵn lẻ dạng:

1 1 1 0 1

0 1 0 1 1

1 0 0 1 1

A =

Tính các từ mã.

Xây dựng Bộ sửa lỗi 1 bit dùng cho tự động sửa lỗi tối ưu trong quá trình chẩn đoán trực tuyến.

Cho một ví dụ.

Bài 2

Xét một kênh truyền tin đặc biệt dạng : Truyền X Æ Nhận Y.

Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 91