Kỹ thuật mạng nơron và giải thuật di truyền trong khai phá dữ liệu và thử nghiệm ứng dụng

bé gi¸o dôc vµ ®µo t¹o

tr−êng ®¹i häc b¸ch khoa hµ néi

D−¬ng thÞ hiÒn thanh

Kü thuËt m¹ng n¬ron vµ gi¶i thuËt

di truyÒn trong khai ph¸ d÷ liÖu

vµ thö nghiÖm øng dông

LuËn v¨n th¹c sü c«ng nghÖ th«ng tin

Hµ néi – 2008

Kü thuËt m¹ng n¬ron vµ gi¶i thuËt di truyÒn

trong khai ph¸ d÷ liÖu vµ thö nghiÖm øng dông

D−¬ng ThÞ HiÒn Thanh – CNTT 2006

1

Môc lôc

Môc lôc....................................................................................................................... 1

Danh môc c¸c tõ viÕt t¾t............................................................................................. 3

Danh môc c¸c b¶ng .................................................................................................... 4

Danh môc c¸c h×nh vÏ vµ ®å thÞ ................................................................................. 5

Lêi nãi ®Çu ................................................................................................................. 6

Ch−¬ng 1. khai ph¸ d÷ liÖu vµ ph¸t hiÖn tri thøc trong csdl ..................8

1.1. tæng quan vÒ khai ph¸ d÷ liÖu vµ ph¸t hiÖn tri thøc trong CSDL .......8

1.1.1. T¹i sao cÇn ph¸t hiÖn tri thøc? ......................................................................8

1.1.2. Khai ph¸ d÷ liÖu vµ ph¸t hiÖn tri thøc trong c¬ së d÷ liÖu ............................9

1.2. Qu¸ tr×nh ph¸T HIÖN TRI THøC trong C¥ Së D÷ LIÖU.....................................10

1.2.2. Thu thËp vµ tiÒn xö lý d÷ liÖu .....................................................................10

1.2.3. Khai ph¸ d÷ liÖu..........................................................................................12

1.2.4. Minh ho¹ vµ ®¸nh gi¸..................................................................................12

1.2.5. §−a kÕt qu¶ vµo thùc tÕ...............................................................................13

1.3. c¸c kü thuËt Khai ph¸ d÷ liÖu ..........................................................................13

1.3.1. KiÕn tróc cña hÖ thèng khai ph¸ d÷ liÖu .....................................................13

1.3.3. NhiÖm vô chÝnh cña khai ph¸ d÷ liÖu..........................................................17

1.3.4. Mét sè ph−¬ng ph¸p khai ph¸ d÷ liÖu phæ biÕn ..........................................19

1.3.5. Nh÷ng −u thÕ vµ khã kh¨n th¸ch thøc trong nghiªn cøu vµ øng dông kü

thuËt khai ph¸ d÷ liÖu .......................................................................................24

™ KÕt luËn ch−¬ng 1....................................................................................................27

Ch−¬ng 2. kü thuËt khai ph¸ d÷ liÖu sö dông m¹ng n¬ron vµ gi¶i

thuËt di truyÒn ......................................................................................................21

2.1. M¹ng n¬ron trong khai ph¸ d÷ liÖu ..............................................................28

2.1.1. Kh¸i niÖm m¹ng n¬ron ...............................................................................28

2.1.2. N¬ron sinh häc vµ m¹ng n¬ron sinh häc ....................................................29

2.1.3. M« h×nh vµ qu¸ tr×nh xö lý trong n¬ron nh©n t¹o .......................................30

2.1.4. CÊu tróc vµ ph©n lo¹i m¹ng n¬ron ..............................................................33

2.1.5. Häc vµ lan truyÒn trong m¹ng.....................................................................36

2.1.6. §¸nh gi¸ vÒ m¹ng n¬ron .............................................................................40

Kü thuËt m¹ng n¬ron vµ gi¶i thuËt di truyÒn

trong khai ph¸ d÷ liÖu vµ thö nghiÖm øng dông

D−¬ng ThÞ HiÒn Thanh – CNTT 2006

2

2.2. Gi¶i thuËt di truyÒn trong khaI PH¸ D÷ LIÖU ..............................................42

2.2.1. C¬ b¶n vÒ gi¶i thuËt di truyÒn .....................................................................42

2.2.2. Mét sè c¸ch biÓu diÔn lêi gi¶i cña gi¶i thuËt di truyÒn...............................45

2.2.3. C¸c to¸n tö di truyÒn...................................................................................46

2.2.4. C¬ së to¸n häc cña gi¶i thuËt di truyÒn.......................................................52

2.2.5. Nh÷ng c¶i tiÕn cña gi¶i thuËt di truyÒn.......................................................54

™ KÕt luËn ch−¬ng 2....................................................................................................56

Ch−¬ng 3. tÝch hîp gi¶i thuËt di truyÒn víi gi¶i thuËt huÊn luyÖn

m¹ng n¬ron truyÒn th¼ng nhiÒu líp ..........................................................50

3.1. §Æt vÊn ®Ò ................................................................................................................57

3.2. m¹ng n¬ron truyÒn th¼ng nhiÒu líp víi gi¶i thuËt lan truyÒn

ng−îc sai sè vµ mét sè c¶i tiÕn ..........................................................................57

3.2.1. KiÕn tróc cña m¹ng n¬ron truyÒn th¼ng nhiÒu líp......................................57

3.2.2. C¬ chÕ häc cña m¹ng n¬ ron truyÒn th¼ng nhiÒu líp..................................59

3.2.3. ThuËt to¸n lan truyÒn ng−îc sai sè .............................................................60

3.2.2. Mét sè c¶i tiÕn cña gi¶i thuËt BP ................................................................71

3.3. KÕt hîp gi¶i thuËt di truyÒn víi gi¶i thuËt BP..........................................73

3.3.1. Gi¶i thuËt GA trong huÊn luyÖn m¹ng n¬ron truyÒn th¼ng nhiÒu líp ........73

3.3.2. GhÐp nèi víi gi¶i thuËt lan truyÒn ng−îc sai sè..........................................75

™ KÕt luËn ch−¬ng 3....................................................................................................76

Ch−¬ng 4. øng dông trong bµi to¸n dù b¸o d÷ liÖu.....................................71

4.1. giíi thiÖu bµi to¸n................................................................................................78

4.2. m« h×nh ho¸ bµi to¸n, thiÕt kÕ d÷ liÖu vµ gi¶i thuËt..............................80

4.2.1. M« h×nh ho¸ bµi to¸n ..................................................................................80

4.2.2. ThiÕt kÕ d÷ liÖu ...........................................................................................81

4.2.3. ThiÕt kÕ gi¶i thuËt .......................................................................................82

4.3. ch−¬ng tr×nh dù b¸o d÷ liÖu.............................................................................93

™ KÕt luËn ch−¬ng 4....................................................................................................98

KÕt luËn .......................................................................................................... 99

Tµi liÖu tham kh¶o.........................................................................................100

Kü thuËt m¹ng n¬ron vµ gi¶i thuËt di truyÒn

trong khai ph¸ d÷ liÖu vµ thö nghiÖm øng dông

D−¬ng ThÞ HiÒn Thanh – CNTT 2006

3

Danh môc c¸c tõ viÕt t¾t

STT Tõ viÕt t¾t NghÜa tiÕng viÖt tiÕng anh

1 ANN M¹ng n¬ron nh©n t¹o Artficial Neural Network

2 BNN M¹ng n¬ron sinh häc Biological Neural Network

3 BP

Gi¶i thuËt lan truyÒn

ng−îc cña sai sè

Back-Propagation of error

4 Csdl C¬ së d÷ liÖu Data Base

5 dm Khai ph¸ d÷ liÖu Data Mining

6 GA Gi¶i thuËt di truyÒn Genetic Algorithm

7 Kdd Ph¸t hiÖn tri thøc

trong CSDL

Knowledge Discover in

Database

Kü thuËt m¹ng n¬ron vµ gi¶i thuËt di truyÒn

trong khai ph¸ d÷ liÖu vµ thö nghiÖm øng dông

D−¬ng ThÞ HiÒn Thanh – CNTT 2006

4

Danh môc c¸c b¶ng

B¶ng 1.1: D÷ liÖu häc trong vÝ dô quyÕt ®Þnh ®i ch¬i tennis.................................... 20

B¶ng 2.1: VÝ dô dïng phÐp t¸i t¹o............................................................................ 48

B¶ng 2.2: Qu¸ tr×nh t¸i t¹o ....................................................................................... 51

B¶ng 2.3: Qu¸ tr×nh lai ghÐp..................................................................................... 51

B¶ng 3.1: C¸c hµm kÝch ho¹t.................................................................................... 69

B¶ng 4.1: Sè liÖu thö nghiÖm cña bµi to¸n dù b¸o ....................................................79

Kü thuËt m¹ng n¬ron vµ gi¶i thuËt di truyÒn

trong khai ph¸ d÷ liÖu vµ thö nghiÖm øng dông

D−¬ng ThÞ HiÒn Thanh – CNTT 2006

5

Danh môc c¸c h×nh vÏ vµ ®å thÞ

H×nh 1.1: Qu¸ tr×nh ph¸t hiÖn tri thøc trong CSDL.................................................. 10

H×nh 1.2: KiÕn tróc cña hÖ thèng khai ph¸ d÷ liÖu .................................................. 14

H×nh 1.3: Qu¸ tr×nh khai ph¸ d÷ liÖu........................................................................ 15

H×nh 1.4: KÕt qu¶ cña ph©n côm.............................................................................. 18

H×nh 1.5: C©y quyÕt ®Þnh ®i ch¬i tennis................................................................... 20

H×nh 2.1: CÊu t¹o cña n¬ron..................................................................................... 29

H×nh 2.2: Thu nhËn tÝn hiÖu trong n¬ron.................................................................. 30

H×nh 2.3: M« h×nh cña mét n¬ron nh©n t¹o ............................................................. 31

H×nh 2.4: Hµm Sigmoidal......................................................................................... 33

H×nh 2.5: M¹ng n¬ron truyÒn th¼ng nhiÒu líp......................................................... 35

H×nh 2.6: M¹ng håi quy ........................................................................................... 35

H×nh 2.7: S¬ ®å häc tham sè cã gi¸m s¸t................................................................. 37

H×nh 2.8: S¬ ®å häc t¨ng c−êng ............................................................................... 38

H×nh 2.9: S¬ ®å häc kh«ng gi¸m s¸t ........................................................................ 38

H×nh 3.1: M¹ng n¬ron truyÒn th¼ng 2 líp................................................................ 58

H×nh 3.2: S¬ ®å hiÖu chØnh c¸c träng sè cña gi¶i thuËt BP ...................................... 59

H×nh 3.3: S¬ ®å m· ho¸ c¸c träng sè cña m¹ng n¬ron............................................. 74

H×nh 3.4: S¬ ®å cña gi¶i thuËt lai ............................................................................. 76

H×nh 4.1: S¬ ®å khèi gi¶i thuËt Ph©n hÖ 1 ............................................................... 84

H×nh 4.2: S¬ ®å khèi gi¶i thuËt Ph©n hÖ 1.1 ............................................................ 86

H×nh 4.3: S¬ ®å khèi gi¶i thuËt Ph©n hÖ 1.2 ............................................................ 89

H×nh 4.4: S¬ ®å khèi gi¶i thuËt Ph©n hÖ 2 ............................................................... 91

H×nh 4.5: Mµn h×nh chÝnh cña ch−¬ng tr×nh dù b¸o................................................. 93

H×nh 4.6: D÷ liÖu tÖp huÊn luyÖn ............................................................................. 94

H×nh 4.7: Mµn h×nh nhËp tham sè cho m¹ng n¬ron................................................. 94

H×nh 4.8: Mµn h×nh nhËp tham sè cho gi¶i thuËt GA .............................................. 95

H×nh 4.9: T×m kiÕm b»ng gi¶i thuËt GA................................................................... 95

H×nh 4.10: HuÊn luyÖn b»ng gi¶i thuËt BP............................................................... 96

H×nh 4.11: Mµn h×nh dù b¸o .................................................................................... 98

Kü thuËt m¹ng n¬ron vµ gi¶i thuËt di truyÒn

trong khai ph¸ d÷ liÖu vµ thö nghiÖm øng dông

D−¬ng ThÞ HiÒn Thanh – CNTT 2006

6

Lêi nãi ®Çu

Trong nh÷ng n¨m gÇn ®©y, vai trß cña m¸y tÝnh trong viÖc l−u tr÷ vµ xö lý

th«ng tin ngµy cµng trë nªn quan träng. Bªn c¹nh ®ã, c¸c thiÕt bÞ thu thËp d÷ liÖu tù

®éng còng ph¸t triÓn m¹nh gãp phÇn t¹o ra nh÷ng kho d÷ liÖu khæng lå. D÷ liÖu

®−îc thu thËp vµ l−u tr÷ ngµy cµng nhiÒu nh−ng ng−êi ra quyÕt ®Þnh l¹i cÇn cã

nh÷ng th«ng tin bæ Ých, nh÷ng “tri thøc” rót ra tõ nh÷ng nguån d÷ liÖu h¬n lµ chÝnh

d÷ liÖu ®ã cho viÖc ra quyÕt ®Þnh cña m×nh.

Víi nh÷ng yªu cÇu ®ã, c¸c m« h×nh CSDL truyÒn thèng vµ ng«n ng÷ thao t¸c

d÷ liÖu kh«ng cßn thÝch hîp n÷a. §Ó cã ®−îc tri thøc tõ CSDL, ng−êi ta ®· ph¸t triÓn

c¸c lÜnh vùc nghiªn cøu vÒ tæ chøc c¸c kho d÷ liÖu vµ kho th«ng tin, c¸c hÖ trî gióp

ra quyÕt ®Þnh, c¸c ph−¬ng ph¸p khai ph¸ d÷ liÖu vµ ph¸t hiÖn tri thøc trong CSDL.

Trong sè ®ã, khai ph¸ d÷ liÖu vµ ph¸t hiÖn tri thøc ®· trë thµnh mét lÜnh vùc nghiªn

cøu rÊt s«i ®éng.

LuËn v¨n tËp trung nghiªn cøu kü thuËt sö dông m¹ng n¬ron vµ gi¶i thuËt di

truyÒn trong khai ph¸ d÷ liÖu, ®Æc biÖt lµ gi¶i ph¸p tÝch hîp gi¶i thuËt di truyÒn víi

gi¶i thuËt huÊn luyÖn m¹ng n¬ron. Trªn c¬ së ®ã, luËn v¨n x©y dùng ch−¬ng tr×nh

dù b¸o d÷ liÖu sö dông m¹ng n¬ron truyÒn th¼ng huÊn luyÖn b»ng gi¶i thuËt lai GA￾BP.

LuËn v¨n ®−îc tr×nh bÇy gåm 4 ch−¬ng víi néi dung chÝnh nh− sau :

Ch−¬ng 1: Tr×nh bÇy mét c¸ch tæng quan vÒ khai ph¸ d÷ liÖu vµ ph¸t hiÖn tri

thøc trong CSDL. Trong ®ã ®Ò cËp ®Õn c¸c kh¸i nÖm, qu¸ tr×nh ph¸t hiÖn tri thøc,

nhiÖm vô chÝnh vµ c¸c ph−¬ng ph¸p khai ph¸ d÷ liÖu còng nh− nh÷ng vÊn ®Ò th¸ch

thøc trong nghiªn cøu vµ ¸p dông kü thuËt khai ph¸ d÷ liÖu vµo thùc tÕ.

Ch−¬ng 2: Nghiªn cøu kü thuËt khai ph¸ d÷ liÖu sö dông m¹ng n¬ron vµ gi¶i

thuËt di truyÒn, cô thÓ lµ nh÷ng vÊn ®Ò vÒ lùa chän cÊu tróc m¹ng vµ c¸c tham sè,

x©y dùng gi¶i thuËt häc vµ lan truyÒn trong m¹ng n¬ron, còng nh− c¸ch biÓu diÔn lêi

gi¶i, c¸c to¸n tö di truyÒn c¬ b¶n vµ nh÷ng c¶i tiÕn cña gi¶i thuËt di truyÒn. §ång

thêi, ch−¬ng 2 còng ®−a ra nh÷ng ®¸nh gi¸ vÒ hiÖu qu¶ cña kü thuËt sö dông m¹ng

n¬ron vµ gi¶i thuËt di truyÒn trong khai ph¸ d÷ liÖu, qua ®ã cã thÓ ®Þnh h−íng cho

viÖc lùa chän ph−¬ng ph¸p khai ph¸ thÝch hîp cho c¸c vÊn ®Ò thùc tÕ.

Kü thuËt m¹ng n¬ron vµ gi¶i thuËt di truyÒn

trong khai ph¸ d÷ liÖu vµ thö nghiÖm øng dông

D−¬ng ThÞ HiÒn Thanh – CNTT 2006

7

Ch−¬ng 3 : Giíi thiÖu kiÕn tróc m¹ng n¬ron truyÒn th¼ng nhiÒu líp, gi¶i

thuËt BP, c¸c vÊn ®Ò vÒ sö dông gi¶i thuËt BP vµ tr×nh bÇy gi¶i ph¸p tÝch hîp gi¶i

thuËt GA víi gi¶i thuËt BP trong huÊn luyÖn m¹ng n¬ron truyÒn th¼ng nhiÒu líp.

Ch−¬ng 4 : Giíi thiÖu bµi to¸n øng dông dù b¸o lò trªn s«ng, tõ ®ã m« h×nh

ho¸ bµi to¸n, thiÕt kÕ thuËt to¸n, d÷ liÖu vµ cµi ®Æt ch−¬ng tr×nh thö nghiÖm víi c«ng

cô m¹ng n¬ron truyÒn th¼ng huÊn luyÖn b»ng gi¶i thuËt lai GA-BP.

Kü thuËt m¹ng n¬ron vµ gi¶i thuËt di truyÒn

trong khai ph¸ d÷ liÖu vµ thö nghiÖm øng dông

D−¬ng ThÞ HiÒn Thanh – CNTT 2006

8

Ch−¬ng 1:

khai ph¸ d÷ liÖu vµ

ph¸t hiÖn tri thøc trong CSDL

1.1. tæng quan vÒ khai ph¸ d÷ liÖu vµ ph¸t hiÖn tri thøc trong

C¬ Së D÷ LiÖu

1.1.1. T¹i sao cÇn ph¸t hiÖn tri thøc?

H¬n hai thËp niªn trë l¹i ®©y, l−îng th«ng tin ®−îc l−u tr÷ trªn c¸c thiÕt bÞ

®iÖn tö kh«ng ngõng t¨ng lªn. ViÖc tÝch luü d÷ liÖu diÔn ra víi mét tèc ®é bïng næ.

Ng−êi ta −íc ®o¸n r»ng l−îng th«ng tin trªn toµn cÇu t¨ng gÊp ®«i sau kho¶ng hai

n¨m vµ theo ®ã kÝch th−íc c¬ së d÷ liÖu (CSDL) còng t¨ng lªn mét c¸ch nhanh

chãng, c¶ vÒ sè b¶n ghi cña CSDL lÉn sè tr−êng, thuéc tÝnh trong b¶n ghi.

L−îng d÷ liÖu khæng lå nµy thùc sù lµ nguån tµi nguyªn rÊt gi¸ trÞ v× th«ng

tin chÝnh lµ yÕu tè then chèt trong mäi ho¹t ®éng. Tuy nhiªn, d÷ liÖu sÏ kh«ng cã

®Çy ®ñ ý nghÜa nÕu kh«ng ph¸t hiÖn ra nh÷ng tri thøc tiÒm Èn cã gi¸ trÞ trong ®ã.

Nh÷ng tri thøc nµy th−êng rÊt nhá so víi l−îng d÷ liÖu, do ®ã ph¸t hiÖn ra chóng lµ

mét vÊn ®Ò kh¸ khã kh¨n.

ViÖc x©y dùng c¸c hÖ thèng cã kh¶ n¨ng ph¸t hiÖn ®−îc c¸c mÈu tri thøc cã

gi¸ trÞ trong khèi d÷ liÖu ®å sé nh− vËy gäi lµ ph¸t hiÖn tri thøc trong c¬ së d÷ liÖu

(Knowledge Discover in Database_KDD). C¸c kü thuËt xö lý c¬ b¶n chÝnh lµ kü

thuËt khai ph¸ d÷ liÖu (Data Mining_DM). ViÖc ph©n tÝch d÷ liÖu mét c¸ch tù ®éng

vµ mang tÝnh dù b¸o cña KDD cã −u thÕ h¬n h¼n so víi c¸c ph−¬ng ph¸p ph©n tÝch

th«ng th−êng, dùa trªn nh÷ng sù kiÖn trong qu¸ khø cña c¸c hÖ hç trî ra quyÕt ®Þnh

truyÒn thèng tr−íc ®©y.

Víi tÊt c¶ nh÷ng −u thÕ ®ã, KDD ®· chøng tá ®−îc tÝnh h÷u dông cña nã

trong m«i tr−êng ®Çy tÝnh c¹nh tranh ngµy nay. KDD ®· vµ ®ang trë thµnh mét

h−íng nghiªn cøu chÝnh cña lÜnh vùc khoa häc m¸y tÝnh vµ c«ng nghÖ tri thøc.

Ph¹m vi øng dông cña KDD ban ®Çu chØ lµ trong lÜnh vùc th−¬ng m¹i vµ tµi chÝnh.

Kü thuËt m¹ng n¬ron vµ gi¶i thuËt di truyÒn

trong khai ph¸ d÷ liÖu vµ thö nghiÖm øng dông

D−¬ng ThÞ HiÒn Thanh – CNTT 2006

9

Cho ®Õn nay, KDD ®· ®−îc øng dông réng r·i trong c¸c lÜnh vùc kh¸c nh− viÔn

th«ng, gi¸o dôc, ®iÒu trÞ y häc, … Cã thÓ nãi, KDD lµ mét sù cè g¾ng ®Ó gi¶i quyÕt

vÊn ®Ò nan gi¶i cña kû nguyªn th«ng tin sè: vÊn ®Ò trµn d÷ liÖu.

1.1.2. Khai ph¸ d÷ liÖu vµ ph¸t hiÖn tri thøc trong c¬ së d÷ liÖu

Kh¸i niÖm “ph¸t hiÖn tri thøc trong c¬ së d÷ liÖu” ®−îc ®−a ra lÇn ®Çu tiªn

vµo n¨m 1989, trong ®ã nhÊn m¹nh r»ng tri thøc lµ s¶n phÈm cuèi cïng cña qu¸

tr×nh khai ph¸ d÷ liÖu. Ph¸t hiÖn tri thøc trong c¬ së d÷ liÖu ®−îc ®Þnh nghÜa nh− lµ

qu¸ tr×nh ch¾t läc tri thøc tõ mét l−îng lín d÷ liÖu. Nãi c¸ch kh¸c, cã thÓ quan niÖm

KDD lµ mét ¸nh x¹ d÷ liÖu tõ møc thÊp thµnh c¸c d¹ng c« ®äng h¬n, tãm t¾t vµ h÷u

Ých h¬n. Mét vÝ dô trùc quan th−êng ®−îc dïng lµ viÖc khai th¸c vµng tõ ®¸ vµ c¸t,

ng−êi khai th¸c muèn ch¾t läc vµng tõ ®¸ vµ c¸t trong ®iÒu kiÖn l−îng ®¸ vµ c¸t rÊt

lín.

ThuËt ng÷ “data mining” ¸m chØ viÖc t×m kiÕm mét tËp hîp nhá tri thøc,

th«ng tin cã gi¸ trÞ tõ mét l−îng lín c¸c d÷ liÖu th« [7]. Nã bao hµm mét lo¹t c¸c kü

thuËt nh»m ph¸t hiÖn ra nh÷ng th«ng tin cã gi¸ trÞ tiÒm Èn trong c¸c CSDL lín.

NhiÒu thuËt ng÷ hiÖn ®−îc dïng còng cã nghÜa t−¬ng tù víi tõ data mining nh−

knowledge mining (khai ph¸ tri thøc), knowledge extraction (ch¾t läc tri thøc),

data/patern analysis (Ph©n tÝch d÷ liÖu/mÉu), data archaeology (kh¶o cæ d÷ liÖu),

data dredging (n¹o vÐt d÷ liÖu).

Nh− vËy, nÕu quan niÖm tri thøc lµ mèi quan hÖ gi÷a c¸c phÇn tö d÷ liÖu th×

ph¸t hiÖn tri thøc chØ qu¸ tr×nh chiÕt suÊt tri thøc tõ c¬ së d÷ liÖu, trong ®ã tr¶i qua

nhiÒu giai ®o¹n kh¸c nhau. Khai ph¸ d÷ liÖu sö dông c¸c gi¶i thuËt ®Æc biÖt ®Ó chiÕt

xuÊt ra c¸c mÉu, c¸c m« h×nh tõ d÷ liÖu vµ chØ lµ mét giai ®o¹n trong qu¸ tr×nh ph¸t

hiÖn tri thøc trong CSDL.

Ph¸t hiÖn tri thøc trong CSDL vµ khai ph¸ d÷ liÖu lµ mét kü thuËt míi xuÊt

hiÖn vµ cã tèc ®é ph¸t triÓn rÊt nhanh. Ngoµi ra nã cßn lµ mét lÜnh vùc ®a ngµnh,

liªn quan ®Õn nhiÒu lÜnh vùc kh¸c nh−: lý thuyÕt thuËt to¸n, Data Warehouse,

OLAP, tÝnh to¸n song song, … nh−ng chñ yÕu dùa trªn nÒn t¶ng cña x¸c suÊt thèng

kª, c¬ së d÷ liÖu vµ häc m¸y.