Phân đoạn cấu trúc tế bào thần kinh bằng mạng thần kinh học sâu U - NET :Luận văn thạc sĩ - Chuyên ngành: Khoa học máy tính

BỘ CÔNG THƯƠNG

TRƯỜNG ĐẠI HỌC CÔNG NGHIỆP THÀNH PHỐ HỒ CHÍ MINH

TRẦN CHÂU THANH THIỆN

PHÂN ĐOẠN CẤU TRÚC TẾ BÀO THẦN KINH

BẰNG MẠNG THẦN KINH HỌC SÂU U-NET

Chuyên ngành: KHOA HỌC MÁY TÍNH

Mã chuyên ngành: 60.48.01.01

LUẬN VĂN THẠC SĨ

THÀNH PHỐ HỒ CHÍ MINH, NĂM 2020

Mẫu PL1

Công trình được hoàn thành tại Trường Đại học Công nghiệp TP. Hồ Chí Minh.

Người hướng dẫn khoa học: PGS.TS. Nguyễn Việt Linh

(Ghi rõ họ, tên, học hàm, học vị và chữ ký)

Người phản biện 1: TS. Huỳnh Khả Tú

(Ghi rõ họ, tên, học hàm, học vị và chữ ký)

Người phản biện 2: TS. Lê Thành Sách

(Ghi rõ họ, tên, học hàm, học vị và chữ ký)

Luận văn thạc sĩ được bảo vệ tại Hội đồng chấm bảo vệ Luận văn thạc sĩ Trường Đại

học Công nghiệp thành phố Hồ Chí Minh ngày . . . . tháng . . . . năm . . . . .

Thành phần Hội đồng đánh giá luận văn thạc sĩ gồm:

1. PGS.TS. Huỳnh Trung Hiếu - Chủ tịch Hội đồng

2. TS. Huỳnh Khả Tú - Phản biện 1

3. TS. Lê Thành Sách - Phản biện 2

4. TS. Đăng Quang Vinh - Ủy viên

5. TS. Lê Nhật Duy - Thư ký

(Ghi rõ họ, tên, học hàm, học vị của Hội đồng chấm bảo vệ luận văn thạc sĩ)

CHỦ TỊCH HỘI ĐỒNG TRƯỞNG KHOA

CÔNG NGHỆ THÔNG TIN

NHIỆM VỤ LUẬN VĂN THẠC SĨ

Họ tên học viên: Trần Châu Thanh Thiện MSHV: 16002401

Ngày, tháng, năm sinh: 04/01/1983 Nơi sinh: TP.HCM

Chuyên ngành: Khoa học Máy tính Mã chuyên ngành: 60480101

I. TÊN ĐỀ TÀI:

Phân đoạn cấu trúc tế bào thần kinh bằng mạng thần kinh học sâu U-Net.

II. NHIỆM VỤ VÀ NỘI DUNG:

- Nghiên cứu các phương pháp Phân đoạn ảnh y sinh 2D.

- Nghiên cứu, hiện thực mô hình mạng học sâu U-Net cho phân đoạn ảnh y sinh 2D.

- Nghiên cứu cải tiến mô hình mạng học sâu U-Net.

- Phân tích kết quả và đưa ra hướng phát triển.

III. NGÀY GIAO NHIỆM VỤ: 28/11/2019 theo Quyết định số 2054/QĐ-ĐHCN

ngày 28/11/2019.

IV. NGÀY HOÀN THÀNH NHIỆM VỤ: 28/5/2020.

V. NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS.TS. Nguyễn Việt Linh

Tp. Hồ Chí Minh, ngày ……. tháng……năm 2020

NGƯỜI HƯỚNG DẪN CHỦ NHIỆM BỘ MÔN ĐÀO TẠO

TRƯỞNG KHOA CÔNG NGHỆ THÔNG TIN

BỘ CÔNG THƯƠNG

TRƯỜNG ĐẠI HỌC CÔNG NGHIỆP

THÀNH PHỐ HỒ CHÍ MINH

CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM

Độc lập - Tự do - Hạnh phúc

i

LỜI CẢM ƠN

Để hoàn thành được luận văn này, ngoài sự nỗ lực của cá nhân, tôi đã nhận được sự

giúp đỡ và hướng dẫn tận tình của PGS.TS. Nguyễn Việt Linh – người hướng dẫn

của tôi. Nhờ sự định hướng đúng đắn ngay từ đầu của thầy nên việc nghiên cứu luận

văn này diễn ra thuận lợi. Tôi xin gửi lời cảm ơn chân thành đến thầy. Kính chúc thầy

và gia đình luôn mạnh khoẻ và thành công!

Tôi xin chân thành cảm ơn TS. Lê Nhật Duy – Phó Trưởng khoa Công nghệ Thông

tin đã hướng dẫn và giúp đỡ tôi trong quá trình học tập cũng như các quy trình, biểu

mẫu để hoàn thành luận văn này, từ khi bắt đầu đăng ký đề cương đến khi bảo vệ luận

văn.

Và cuối cùng, tôi xin gửi lời cảm ơn đến quý thầy cô Lãnh đạo và giảng viên của

khoa Công nghệ Thông tin đã hướng dẫn và giúp đỡ tôi trong quá trình học tập tạo

nền tảng tri thức để tôi có thể hoàn thành luận văn này.

ii

TÓM TẮT LUẬN VĂN THẠC SĨ

Mạng thần kinh Học sâu U-Net (mạng U-Net) là một trong những mạng thần kinh

Học sâu đầu tiên được thiết kế riêng cho phân tích hình ảnh y sinh. Mạng U-Net về

cơ bản được xây dựng nhằm giải quyết hai vấn đề cụ thể đối với lĩnh vực phân đoạn

ảnh y sinh: Vấn đề thứ nhất là việc thiếu bộ dữ liệu đào tạo lớn trong lĩnh vực này.

Mục tiêu của kiến trúc này là tạo ra kết quả phân đoạn tốt hơn với số lượng dữ liệu

đào tạo tương đối ít. Các mạng thần kinh Học sâu truyền thống có một số lượng lớn

các tham số để tìm hiểu, do đó thường đòi hỏi các bộ dữ liệu đào tạo phải lớn. Trong

trường hợp phân đoạn hình ảnh y sinh, mô hình cần tối đa hóa thông tin học được từ

mỗi ví dụ. Vấn đề thứ hai mà mạng U-Net đã khắc phục là nắm bắt chính xác bối

cảnh và khoanh vùng các đối tượng ở những kích thước, độ phân giải ảnh khác nhau.

Luận văn trước hết tìm hiểu các phương pháp Phân đoạn ảnh, nhất là phân đoạn ảnh

y sinh 2D. Tiếp đến là tập trung nghiên cứu và hiện thực mô hình mạng U-Net với

bài toán phân đoạn cấu trúc tế bào thần kinh, qua đó rút ra được cách thức hoạt động,

cách tinh chỉnh các tham số của mạng U-Net.

Sau cùng luận văn đưa ra một kiến trúc mạng mới đó là kiến trúc mạng W-Net là một

mạng cải tiến của kiến trúc mạng U-Net. Kiến trúc mạng W-Net đã cho kết quả phân

đoạn rất tốt sau quá trình đào tạo, so với kiến trúc mạng U-Net ban đầu. Đây sẽ là nền

tảng cho việc thực hiện tiếp các nghiên cứu về phân đoạn ảnh y sinh trong tương lai.

iii

LỜI CAM ĐOAN

Tôi xin cam đoan đây là công trình nghiên cứu của bản thân tôi. Các kết quả nghiên

cứu và các kết luận trong luận văn là trung thực, không sao chép từ bất kỳ một nguồn

nào và dưới bất kỳ hình thức nào. Việc tham khảo các nguồn tài liệu (nếu có) đã được

thực hiện trích dẫn và ghi nguồn tài liệu tham khảo đúng quy định.

Học viên

Trần Châu Thanh Thiện

iv

MỤC LỤC

LỜI CảM ƠN ..................................................................................................................i

TÓM TẮT LUẬN VĂN THẠC SĨ........................................................................................ii

LỜI CAM ĐOAN ................................................................................................................iii

MỤC LỤC ...................................................................................................... iv

DANH MỤC HÌNH ẢNH ....................................................................................................vi

DANH MỤC BẢNG BIỂU ................................................................................................viii

DANH MỤC TỪ VIẾT TẮT ...............................................................................................ix

MỞ ĐẦU .................................................................................................................1

1. Tính cấp thiết của luận văn .....................................................................................1

2. Mục tiêu của luận văn .............................................................................................2

3. Cấu trúc của luận văn..............................................................................................2

CHƯƠNG 1 TỔNG QUAN VỀ PHÂN ĐOẠN ẢNH Y SINH 2D....................3

1.1 Khái niệm về phân đoạn ảnh:..................................................................3

1.1.1 Phân đoạn ngữ nghĩa (Semantic Segmentation): ....................................4

1.1.2 Phân đoạn cá thể (Instance Segmentation): ............................................5

1.1.3 Sự kết hợp giữa 2 loại phân đoạn (Panoptic Segmentation):..................6

1.2 Lịch sử phát triển của phân đoạn ảnh: ....................................................6

1.2.1 Phương pháp dựa trên khu vực (Region-based Methods):......................7

1.2.2 Phương pháp phân loại (Classification methods): ................................10

1.2.3 Phương pháp phân cụm (Clustering methods):.....................................13

1.2.4 Phương pháp lai (Hybrid Methods): .....................................................18

1.2.5 Phương pháp sử dụng Các mô hình đường viền hoạt động (Active

Contour Models): ..................................................................................19

1.3 Phân đoạn ảnh y sinh 2D: .....................................................................25

1.4 Lịch sử nghiên cứu phân đoạn ảnh y sinh 2D:......................................26

CHƯƠNG 2 MẠNG THẦN KINH HỌC SÂU VÀ MẠNG THẦN KINH HỌC

SÂU U-NET .................................................................................28

2.1 Khái niệm mạng thần kinh học sâu :.....................................................28

2.2 Lịch sử phát triển của mạng thần kinh học sâu:....................................30

2.3 Các lĩnh vực ứng dụng của mạng thần kinh học sâu :...........................34

2.4 Kiến trúc mạng thần kinh học sâu U-Net :............................................37

2.5 Các thành phần của kiến trúc mạng thần kinh học sâu U-Net : ............39

2.5.1 Encoder .................................................................................................39

v

2.5.2 Decoder .................................................................................................42

2.5.3 Bridge....................................................................................................50

2.6 Các nghiên cứu về kiến trúc mạng U-Net:............................................50

CHƯƠNG 3 ỨNG DỤNG MẠNG THẦN KINH HỌC SÂU U-NET PHÂN

ĐOẠN CẤU TRÚC TẾ BÀO THẦN KINH ...............................53

3.1 Hiện thực mô hình:................................................................................53

3.1.1 Mô hình kiến trúc mạng U-Net:............................................................53

3.1.2 Hiện thực một số mô hình cải tiến của kiến trúc mạng U-Net:.............56

3.2 Bộ dữ liệu đào tạo được sử dụng: .........................................................57

3.3 Đào tạo và kiểm thử mô hình:...............................................................59

3.3.1 Đào tạo: .................................................................................................59

3.3.2 Kiểm thử mô hình: ................................................................................60

3.4 Hàm mát mát (Loss Function) ..............................................................61

3.4.1 Định nghĩa:............................................................................................61

3.4.2 So sánh kết quả hàm mất mát của các mô hình sau đào tạo: ................62

3.5 Đề xuất mô hình kiến trúc mạng W-Net:..............................................64

3.6 Phương pháp đánh giá mô hình (Evaluation Metrics) ..........................71

3.7 Thực nghiệm và so sánh kết quả:..........................................................72

KẾT LUẬN VÀ KIẾN NGHỊ .............................................................................................75

TÀI LIỆU THAM KHẢO.........................................................................................76

LÝ LỊCH TRÍCH NGANG CỦA HỌC VIÊN .........................................................80

vi

DANH MỤC HÌNH ẢNH

Hình 1.1 Kết quả đầu ra của thuật toán Phân đoạn ảnh 3

Hình 1.2 Kết quả của Phân đoạn ngữ nghĩa (Semantic Segmentation) 4

Hình 1.3 Sự khác nhau giữa Object Detection, Semantic Segmentation và

Instance Segmentation.

5

Hình 1.4 Phân đoạn cá thể (Instance Segmentation) 5

Hình 1.5 Phân đoạn Panoptic Segmentation. 6

Hình 1.6 Minh hoạ kỹ thuật Phân ngưỡng, bên trái là ảnh cần phân đoạn,

bên phải là biểu đồ Histogram của ảnh cần phân đoạn.

8

Hình 1.7 [5] minh họa Phân đoạn ảnh chất xám 10

Hình 1.8 Minh hoạ kỹ thuật phân loại K-nearest neighbors. 11

Hình 1.9 Minh hoạ kỹ thuật phân loại K-means 15

Hình 1.10 Quy trình của thuật toán lai được [6] đề xuất. 19

Hình 1.11 Phân đoạn ảnh CT não bằng cách sử dụng các đường viền hoạt

động

20

Hình 1.12 Đường cong đóng và mở 20

Hình 1.13 Mô tả cách thức hoạt động của các đường viền hoạt động. 25

Hình 2.1 Mối quan hệ giữa học sâu, học máy và trí tuệ nhân tạo 28

Hình 2.2 Mức độ trừu tượng tăng dần qua các tầng học của học sâu 29

Hình 2.3 Hình ảnh mạng Học sâu tạo ra 30

Hình 2.4 Lịch sử phát triển của mạng thần kinh học sâu 31

Hình 2.5 Kiến trúc mạng Perceptron đơn giản của [15] 31

Hình 2.6 Kết quả ILSVRC qua các năm 34

Hình 2.7 Kiến trúc mạng U-Net của [13] 38

Hình 2.8 Minh họa hoạt động tích chập 40

Hình 2.9 Minh hoạt động gộp 41

Hình 2.10 Minh họa các bước thực hiện phép tích chập thông thường 43

Hình 2.11 Minh họa các bước thực hiện phép tích chập chuyển vị 44

Hình 2.12 Minh họa hoạt động tích chập 44