Giáo trình Lý thuyết tín hiệu và truyền tin doc

Giáo trình Lý thuyết tín hiệu và truyền tin

Lời nói đầu

Ngay nay, các lĩnh vực khoa học máy tính và truyền thông đã

thâm nhập lẫn nhau và gắn kết dẫn đến làm thay đổi rất nhiều lĩnh vực

công nghệ và sản xuất. Chính điều này đã làm cho rất nhiều lĩnh vực

khoa học công nghệ có những điều kiện cơ sở để phát triển mạnh mẽ.

Trong hoàn cảnh đó, việc nghiên cứu tìm hiểu về lý thuyết tín hiệu và

truyền tin ngày càng trở nên quan trọng và cần được đặt trong một

tình hình mới.

Với yêu cầu cần có một giáo trình cho sinh viên ngành Điện tử -

Viễn thông, giáo trình Lý thuyết tín hiệu và truyền tin đã được biên

soạn. Trong quá trình biên soạn không tránh khỏi thiếu sót mong đọc

giả góp ý để giáo trình ngày càng hoàn thiện hơn.

ThS. Đoàn Hữu Chức 3 Bộ môn Kỹ thuật Điện tử

Giáo trình Lý thuyết tín hiệu và truyền tin

Chương 1

Các khái niệm cơ bản của lý thuyết tín hiệu và truyền tin

1.1. Vị trí, vai trò và lịch sử phát triển

1.1.1. Vị trí, vai trò của lý thuyết thông tin

Trong cuộc sống con người luôn có nhu cầu trao đổi, giao tiếp

với nhau, cái mà mỗi người trao đổi với nhau gọi là thông tin. Nhờ sự

phát triển của khoa học công nghệ, con người cũng có thể nhận thông

tin từ đài, báo, mạng internet, truyền hình ... v.v. Hay đơn giản như

các bạn sinh viên nhận thông tin từ giảng viên và phức tạp hơn nữa là

sự liên lạc, thông tin giữa các mạng máy tính với nhau. Điều đó có

nghĩa là thông tin là cái gì đó được truyền từ đối tượng này tới đối

tượng khác để chuyển, thông báo một điều gì đó. Thông tin sẽ chỉ có ý

nghĩa khi điều gì đó mà bên nhận chưa biết.

Như những ví dụ trên trình bày, thông tin có thể được chứa trong

nhiều dạng như hình ảnh, âm thanh, văn bản. Những dạng này là vỏ

bọc vật chất của thông tin. Vở bọc có thể hiểu là phần xác, thông tin là

phần hồn.

Một trong những phương tiện để diễn đạt thông tin là ngôn ngữ,

thông tin chỉ có thể được truyền đạt, hiểu nếu cả hai bên truyền và

nhận hiểu được ngữ nghĩa của nhau.

Thông tin có thể được truyền hoặc lưu trữ. Môi trường thực hiện

việc đó được gọi là môi trường chứa tin hay kênh tin.

ThS. Đoàn Hữu Chức 4 Bộ môn Kỹ thuật Điện tử

Giáo trình Lý thuyết tín hiệu và truyền tin

Các đối tượng sống luôn có nhu cầu tìm hiểu về thế giới xung

quang để thích nghi tồn tại và phát triển. Thông tin trở thành một nhu

cầu cơ bản, một điều kiện cần cho sự tồn tại và phát triển. Ngày nay,

khi khoa học phát triển mạnh mẽ thì thông tin ngày càng trở nên quan

trọng đối với mỗi con người. Mỗi hành động của con người đều xuất

phát từ những suy nghĩ của người đó. Mỗi suy nghĩ đó lại chịu sự ảnh

hưởng của những thông tin mà người đó có được, do vậy hành động

của con người chịu sự ảnh hưởng của thông tin.

Đứng về khía cạnh khoa học lý thuyết tín hiệu và truyền tin

nghiên cứu nhằm tạo ra một điều kiện tốt cho việc xử lý phân tích tín

hiệu và truyền tin nhanh chóng, an toàn và lưu trữ hiệu quả. Một cách

tổng quát lý thuyết tín hiệu và truyền tin nghiên cứu các vấn đề về xử

lý thông tin.

Một số lĩnh vực nghiên cứu của môn học:

- Phân tích, tổng hợp tín hiệu

- Mã hoá chống nhiễu

- Nén dữ liệu

- Mật mã hoá

Lý thuyết thông tin đã có nhiều ứng dụng trong cuộc sống và

khoa học kỹ thuật. Sự bùng nổ về thông tin đang làm thay đổi diện

mạo cuộc sống của con người, tạo ra sự phát triển mạnh mẽ của các

phương thức truyền thông, truyền tin và lưu trữ thông tin. Cũng chính

nhờ thông tin mà con người được cung cấp những cơ sở lý thuyết và

cái nhìn triết học sâu sắc hơn về các vấn đề con người gặp phải hôm

nay và trong tương lai. Lý thuyết thông tin đã được áp dụng trong hầu

hết các lĩnh vực công nghệ như truyền thông, nén, bảo mật, đặc biệt đã

được áp dụng vào trong lĩnh vực giáo dục ở nhiều khía cạnh như đào

tạo, nghiên cứu và phát triển công nghệ.

Vậy lý thuyết tín hiệu và thông tin đã có lịch sử hình thành phát

triển như thế nào?

ThS. Đoàn Hữu Chức 5 Bộ môn Kỹ thuật Điện tử

Giáo trình Lý thuyết tín hiệu và truyền tin

1.1.2. Lịch sử hình thành và phát triển

Người đặt viên gạch đầu tiên để xây dựng lý thuyết thông tin là

Hartley R.V.L. Năm 1928, ông đã đưa ra số đo lượng thông tin là một

khái niệm trung tâm của lý thuyết thông tin. Dựa vào khái niệm này,

ta có thể so sánh định lượng các hệ truyền tin với nhau. Năm 1933,

V.A Kachenhicov chứng minh một loạt những luận điểm quan trọng

của lý thuyết thông tin trong bài báo “Về khả năng thông qua của

không trung và dây dẫn trong hệ thống liên lạc điện”.

Năm 1935, D.V Ageev đưa ra công trình “Lý thuyết tách tuyến

tính”, trong đó ông phát biểu những nguyên tắc cơ bản về lý thuyết

tách các tín hiệu.

Năm 1946, V.A Kachenhicov thông báo công trình “Lý thuyết

thế chống nhiễu’ đánh dấu một bước phát triển rất quan trọng của lý

thuyết thông tin.

Trong hai năm 1948 – 1949, Shanon C.E công bố một loạt các

công trình vĩ đại, đưa sự phát triển của lý thuyết thông tin lên một

bước tiến mới chưa từng có. Trong các công trình này, nhờ việc đưa

vào khái niệm lượng thông tin và tính đến cấu trúc thống kê của tin,

ông đã chứng minh một loạt định lý về khả năng thông qua của kênh

truyền tin khi có nhiễu và các định lý mã hoá. Những công trình này là

nền tảng vững chắc của lý thuyết thông tin. Ngày nay, lý thuyết thông

tin phát triển theo hai hướng chủ yếu sau:

Lý thuyết thông tin toán học: Xây dựng những luận điểm thuần

tuý toán học và những cơ sở toán học chặt chẽ của lý thuyết thông tin.

Cống hiến chủ yếu trong lĩnh vực này thuộc về các nhà bác học lỗi lạc

như: N.Wiener, A. Feinstain, C.E Shanon, A.N. Kanmôgorov, A.JA

Khintrin.

Lý thuyết thông tin ứng dụng: (lý thuyết truyền tin) Chuyên

nghiên cứu các bài toán thực tế quan trọng do kỹ thuật liên lạc đặt ra

có liên quan đến vấn đề chống nhiễu và nâng cao độ tin cậy của việc

ThS. Đoàn Hữu Chức 6 Bộ môn Kỹ thuật Điện tử

Giáo trình Lý thuyết tín hiệu và truyền tin

truyền tin. Các bác học C.E Shanon, S.O RiCe, D. Midleton, W.

Peterson, A.A Khakevich, V. Kachenhicov đã có những công trình

quý báu trong lĩnh vực này.

1.2. Tin tức và các khái niệm cơ bản

1.2.1. Các định nghĩa

1.2.1.1. Thông tin

Thông tin là một khái niệm trừu tượng, phi vật chất và rất khó

định nghĩa. Có nhiều cách định nghĩa về thông tin. Dưới đây là một số

định nghĩa:

Thông tin là sự cảm hiểu của con người về thế giới xung quanh

thông qua việc tiếp xúc với nó.

Thông tin là một hệ thống những tin báo và mệnh lệnh giúp loại

trừ sự không chắc chắn của nơi nhận tin. Nói một cách ngắn gọn,

thông tin là cái mà loại trừ sự không chắc chắn.

Định nghĩa đầu tiên chưa nêu rõ bản chất của thông tin, định

nghĩa thứ hai nói rõ hơn về bản chất của thông tin và được dùng để

định lượng thông tin trong kỹ thuật.

Ngoài ra có người còn định nghĩa thông tin là những tính chất xác

định của vật chất mà con người (hoặc hệ thống kỹ thuật) nhận được từ

thế giới vật chất bên ngoài hoặc từ những quá trình xảy ra trong bản

thân nó.

Với định nghĩa này, mọi ngành khoa học là khám phá ra các cấu

trúc thông qua việc thu thập, chế biến, xử lý thông tin. Ở đây “thông

tin” là một danh từ chứ không phải là động từ để chỉ một hành vi tác

động giữa hai đối tượng (người, máy) liên lạc với nhau. Theo quan

điểm triết học, thông tin là một quảng tính của thế giới vật chất (tương

tự như năng lượng, khối lượng). Thông tin không được tạo ra mà chỉ

được sử dụng bởi hệ thụ cảm.

ThS. Đoàn Hữu Chức 7 Bộ môn Kỹ thuật Điện tử

Giáo trình Lý thuyết tín hiệu và truyền tin

Thông tin tồn tại một cách khách quan, không phụ thuộc vào hệ

thụ cảm. Trong nghĩa khái quát nhất, thông tin là sự đa dạng. Sự đa

dạng ở đây có thể hiểu theo nhiều nghĩa khác nhau: Tính ngẫu nhiên,

trình độ tổ chức,…

1.2.1.2. Tin

Tin là dạng vật chất cụ thể để biểu diễn hoặc thể hiện thông tin.

Có hai dạng là tin rời rạc và tin liên tục.

Ví dụ các bức ảnh, bản nhạc, bài nói, bảng số liệu, ...v.v là các

tin.

1.2.1.3. Tín hiệu

Thông tin là một hiện tượng vật lý, nó thường tồn tại và được

truyền đi dưới dạng vật chất nào đó.

Những dạng vật chất để mang thông tin được gọi là tín hiệu.

Trong kỹ thuật có thể hiểu, tín hiệu là các đại lượng vật lý biến

thiên, phản ánh tin cần truyền.

Cần chú ý rằng không phải bản thân quá trình vật lý là tín hiệu

mà sự biến đổi các tham số riêng của quá trình vật lý mới là tín hiệu.

Các đặc trưng vật lý có thể là dòng điện, điện áp, ánh sáng, âm

thanh, ...v.v.

1.2.2. Sơ đồ khối hệ thống thông tin

Ngay nay, với sự phát triển mạnh mẽ của công nghệ điện tử viễn

thông, có rất nhiều các hệ thống thông tin khác nhau đã được hình

thành và phát triển. Khi đó việc phân loại các hệ thống thông tin có

thể được dựa trên nhiều cơ sở khác nhau. Ví dụ như dựa trên cơ sở về

năng lượng mang tin có thể chia các hệ thống truyền tin thành các loại

như:

- Hệ thống thông tin vô tuyến dùng sóng điện từ

ThS. Đoàn Hữu Chức 8 Bộ môn Kỹ thuật Điện tử

Giáo trình Lý thuyết tín hiệu và truyền tin

- Hệ thống thông tin quang hữu tuyến dùng ánh sáng

- Hệ thống thông tin dùng sóng âm, siêu âm (năng lượng cơ

học)...

Hay dựa vào các biểu hiện bên ngoài mà ta chia thành các hệ

thống như:

- Hệ thống truyền số liệu

- Hệ thống truyền hình

- Hệ thống điện thoại cố định công cộng

- Hệ thống thông tin di động,...v.v.

Chúng ta cũng có thể chia hệ thống thông tin thành hai loại hệ

thống:

- Hệ thống truyền tin rời rạc

- Hệ thống truyền tin liên tục

Tuy nhiên, một cách tổng quát hệ thống thông tin có thể được

biểu diễn bởi sơ đồ khối sau:

1.2.2.1. Nguồn tin

Nguồn tin là nơi sản sinh ra hay chứa các tin cần truyền đi. Khi

một đường truyền tin được thiết lập để truyền tin từ nguồn tin đến nơi

nhận tin, một dãy các phần tử cơ sở (các tin) của nguồn sẽ được truyền

đi với một phân bố xác suất nào đó. Dãy này được gọi là một bản tin.

Do đó có thể định nghĩa:

Nguồn tin là tập hợp các tin mà hệ thống truyền tin dùng để lập

các bản tin khác nhau để truyền tin.

ThS. Đoàn Hữu Chức 9 Bộ môn Kỹ thuật Điện tử

Nguồn tin Kênh tin Nhận tin

Nhiễu

Hình 1.1. Sơ đồ khối hệ thống thông tin