Nghiên cứu mạng nơron và ứng dụng trong khảo sát, đánh giá, thống kê kết quả học tập tại trường đại học Công nghiệp Quang Ninh

Số hóa bởi Trung tâm Học liệu http://lrc.tnu.edu.vn

ĐẠI HỌC THÁI NGUYÊN

TRƢỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG

MAI XUÂN ĐẠT

NGHIÊN CỨU MẠNG NƠRON VÀ ỨNG DỤNG

TRONG KHẢO SÁT, ĐÁNH GIÁ, THỐNG KÊ KẾT QUẢ

HỌC TẬP TẠI TRƯỜNG ĐẠI HỌC CÔNG NGHIỆP

QUẢNG NINH

LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH

Số hóa bởi Trung tâm Học liệu http://lrc.tnu.edu.vn

Thái Nguyên - 2013

Số hóa bởi Trung tâm Học liệu http://lrc.tnu.edu.vn

ĐẠI HỌC THÁI NGUYÊN

TRƢỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG

MAI XUÂN ĐẠT

NGHIÊN CỨU MẠNG NƠRON VÀ ỨNG DỤNG

TRONG KHẢO SÁT, ĐÁNH GIÁ, THỐNG KÊ KẾT QUẢ

HỌC TẬP TẠI TRƯỜNG ĐẠI HỌC CÔNG NGHIỆP

QUẢNG NINH

Chuyên ngành: KHOA HỌC MÁY TÍNH

Mã số: 60 48 01

LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH

Ngƣời hƣớng dẫn khoa học: PGS.TS NGÔ QUỐC TẠO

Thái Nguyên – 2013

Số hóa bởi Trung tâm Học liệu http://lrc.tnu.edu.vn

i

LỜI CAM ĐOAN

Tôi xin cam đoan luận văn là công trình nghiên cứu của riêng cá nhân tôi,

không sao chép của ai do tôi tự nghiên cứu, đọc, dịch tài liệu, tổng hợp và thực hiện.

Nội dung lý thuyết trong trong luận văn tôi có sử dụng một số tài liệu tham khảo nhƣ

đã trình bày trong phần tài liệu tham khảo. Các số liệu, chƣơng trình phần mềm và

những kết quả trong luận văn là trung thực và chƣa đƣợc công bố trong bất kỳ một

công trình nào khác.

Thái Nguyên, ngày 09 tháng 10 năm 2013

Học viên thực hiện

Mai Xuân Đạt

Số hóa bởi Trung tâm Học liệu http://lrc.tnu.edu.vn

ii

LỜI CẢM ƠN

Lời đầu tiên, em xin gửi lời biết ơn sâu sắc đến PGS.TS Ngô Quốc Tạo ngƣời

đã tận tình hƣớng dẫn, chỉ bảo, giúp đỡ em trong suốt quá trình làm luận văn.

Em cũng xin gửi lời cảm ơn đến các thầy cô giáo trƣờng Đại học Công nghệ

thông tin và Truyền thông - Đại học Thái Nguyên, các thầy cô Viện Công nghệ thông

tin đã truyền đạt những kiến thức và giúp đỡ em trong suốt quá trình học của mình.

Tôi cũng xin gửi lời cảm ơn tới các đồng nghiệp, gia đình và bạn bè những

ngƣời đã ủng hộ, động viên tạo mọi điều kiện giúp đỡ để tôi có thể hoàn thành tốt

luận văn.

Tôi cũng xin gửi lời cảm ơn tới Ban giám hiệu Trƣờng Đại học Công nghiệp

Quảng Ninh đã tạo kiện thuận lợi cho tôi tham gia khóa học và trong suốt quá trình

hoàn thành luận văn.

Một lần nữa, xin chân thành cảm ơn.

Thái Nguyên, ngày 09 tháng 10 năm 2013

Học viên

Mai Xuân Đạt

Số hóa bởi Trung tâm Học liệu http://lrc.tnu.edu.vn

iii

MỤC LỤC

LỜI CAM ĐOAN.............................................................................................................i

LỜI CẢM ƠN .................................................................................................................ii

MỤC LỤC.....................................................................................................................iii

DANH MỤC CÁC KÍ HIỆU, CHỮ CÁI VIẾT TẮT........................................................vi

DANH MỤC CÁC BẢNG.............................................................................................vii

DANH MỤC CÁC HÌNH .............................................................................................viii

MỞ ĐẦU ......................................................................................................................1

Chƣơng 1: GIỚI THIỆU VỀ MẠNG NƠRON........................................................3

1.1. Giới thiệu về mạng nơron nhân tạo....................................................................3

1.1.1. Cấu trúc và mô hình mạng nơron ................................................................3

1.1.2. Cấu tạo và phƣơng thức làm việc của mạng nơron .....................................6

1.1.3. Các luật học .................................................................................................8

1.2. Kết luận chƣơng 1 ............................................................................................11

Chƣơng 2: MẠNG SOM VÀ MỘT SỐ PHƢƠNG PHÁP PHÂN CỤM .............13

2.1. Thuật toán phân cụm dữ liệu............................................................................13

2.2. Một số thuật toán cơ bản trong phân cụm dữ liệu............................................14

2.2.1. Thuật toán phân cụm phân cấp ..................................................................14

2.2.2. Thuật toán phân cụm phân hoạch (Thuật toán K-means)..........................15

2.2.3. Thuật toán phân cụm dựa trên mật độ (Thuật toán DBSCAN).................17

2.2.4. Thuật toán phân cụm dựa trên lƣới (Thuật toán STING)..........................19

2.2.5. Các thuật toán phân cụm dựa trên mô hình (Thuật toán EM)...................20

2.3. Thuật toán phân cụm bằng mạng Kohonen......................................................21

2.3.1. Mạng Kohonen là gì?.................................................................................21

2.3.2. Cấu trúc mô hình mạng Kohonen..............................................................21

2.3.3. Thuật toán phân cụm bằng mạng Kohonen ...............................................22

2.4. Một số vấn đề phân cụm bằng mạng Kohonen ................................................25

2.4.1. Khởi tạo mạng Kohonen (SOM) ...............................................................25

2.4.2. Huấn luyện mạng Kohonen .......................................................................25

Số hóa bởi Trung tâm Học liệu http://lrc.tnu.edu.vn

iv

2.4.3. Tỉ lệ học .....................................................................................................26

2.4.4. Cập nhật lại trọng số ..................................................................................27

2.4.5. Xác định nơron chiến thắng.......................................................................28

2.5. Kohonen (SOM) sử dụng trong phân cụm dữ liệu...........................................29

2.5.1. SOM phân cụm với bản đồ một chiều .......................................................29

2.5.2. SOM phân cụm với bản đồ hai chiều .......................................................29

2.5.3. Xác định ranh giới các cụm.......................................................................30

2.5.4. Trực quan mạng........................................................................................31

2.5.5. Số lƣợng nhóm khi phân cụm....................................................................32

2.6. Kết luận chƣơng 2 ............................................................................................33

Chƣơng 3: ỨNG DỤNG MÔ HÌNH SOM TRONG BÀI TOÁN KHẢO SÁT,

ĐÁNH GIÁ, THỐNG KÊ KẾT QUẢ HỌC TẬP CỦA SINH VIÊN

TRƢỜNG ĐẠI HỌC CÔNG NGHIỆP QUẢNG NINH .......................................34

3.1. Phát biểu bài toán .............................................................................................34

3.2. Khảo sát, đánh giá, thống kê quá trình học tập của sinh viên trƣờng đại học

Công nghiệp Quảng Ninh.................................................................................34

3.2.1. Thu thập dữ liệu.........................................................................................34

3.3. Thực nghiệm sử dụng mô hình SOM để khảo sát, đánh giá, thống kê kết

quả học tập của sinh viên trƣờng đại học Công nghiệp Quảng Ninh ............43

3.3.1. Các chức năng của chƣơng trình ...............................................................43

3.3.2. Phân tích dữ liệu ........................................................................................43

3.3.3. Giao diện chƣơng trình ..............................................................................51

3.3.4. Kết quả và phân tích kết quả sau khi huấn luyện mô hình mạng kohonen..........53

3.4. Kết luận chƣơng 3 ...........................................................................................63

KẾT LUẬN................................................................................................................64

TÀI LIỆU THAM KHẢO ........................................................................................64