Nghiên cứu phát hiện luật kết hợp hiếm và ứng dụng
Nghiên cứu phát hiện luật kết hợp hiếm và ứng dụng
Xem bên trong

Nghiên cứu phát hiện luật kết hợp hiếm và ứng dụng

133 tr. + CD-ROM + tóm tắt
Luận án TS. Hệ thống thông tin — Trường Đại học Công nghệ. Đại học Quốc gia Hà Nội, 2012
Trình bày phát hiện luật kết hợp và luật kết hợp hiếm: phương pháp chung phát hiện luật kết hợp; phát hiện luật kết hợp từ CSDL tác vụ và định lượng; phát hiện luật kết hợp hiếm. Tìm hiểu phát hiện luật kết hợp hiếm trên cơ sở dữ liệu tác vụ: luật kết hợp Sporadic tuyệt đối hai ngưỡng và không tuyệt đối hai ngưỡng; luật kết hợp với ràng buộc mục dữ liệu âm. Nghiên cứu phát hiện luật kết hợp hiếm trên cơ sở dữ liệu định lượng, bao gồm: luật kết hợp Sporadic tuyệt đối hai ngưỡng mờ; luật kết hợp Sporadic không tuyệt đối hai ngưỡng mờ. Nêu ứng dụng luật kết hợp mẫu âm và mô hình hồi quy chuyển tiếp trơn trong phân tích và dự báo kinh tế
Electronic Resources

0.00

Tải về miễn phí bản đầy đủ PDF luận văn tại Link bản đầy đủ 1


ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC CÔNG NGHỆ
——-œ¯——-

CÙ THU THỦY

NGHIÊN CỨU PHÁT HIỆN LUẬT KẾT HỢP HIẾM
VÀ ỨNG DỤNG

LUẬN ÁN TIẾN SĨ CÔNG NGHỆ THÔNG TIN

HÀ NỘI – 2013
ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC CÔNG NGHỆ
——-œ¯——-

CÙ THU THỦY

NGHIÊN CỨU PHÁT HIỆN LUẬT KẾT HỢP HIẾM
VÀ ỨNG DỤNG

Chuyên ngành: Hệ thống thông tin
Mã số: 62 48 05 01

LUẬN ÁN TIẾN SĨ CÔNG NGHỆ THÔNG TIN

NGƯỜI HƯỚNG DẪN KHOA HỌC:
1. PGS. TS. Đỗ Văn Thành
2. PGS. TS. Hà Quang Thụy

HÀ NỘI – 2013
3

MỤC LỤC
LỜI CAM ĐOAN 1
LỜI CẢM ƠN 2
MỤC LỤC 3
DANH MỤC CÁC KÍ HIỆU VÀ CHỮ VIẾT TẮT 6
DANH MỤC CÁC BẢNG 7
DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ 8
MỞ ĐẦU 10
Lý do chọn đề tài 10
Mục tiêu cụ thể và phạm vi nghiên cứu của luận án 12
Ý nghĩa khoa học và thực tiễn của luận án 12
Đóng góp của luận án 13
Cấu trúc của luận án 14
Chương 1 – PHÁT HIỆN LUẬT KẾT HỢP VÀ LUẬT KẾT HỢP HIẾM 18
1.1. Luật kết hợp và phương pháp chung phát hiện luật kết hợp 18
1.1.1. Bài toán phát hiện luật kết hợp 18
1.1.2. Quy trình hai bước phát hiện luật kết hợp 19
1.2. Phát hiện luật kết hợp từ CSDL tác vụ 20
1.2.1. Phát hiện luật kết hợp với một ngưỡng độ hỗ trợ 20
1.2.2. Phát hiện luật kết hợp với độ hỗ trợ khác nhau 26
1.3. Phát hiện luật kết hợp từ CSDL định lượng 33
1.3.1. Phát hiện luật kết hợp định lượng 33
1.3.2. Phát hiện luật kết hợp mờ 34
1.3.3. Phân hoạch mờ 36
1.4. Phát hiện luật kết hợp hiếm 38
1.4.1. Giới thiệu chung về luật kết hợp hiếm 38
1.4.2. Một số hướng nghiên cứu chính phát hiện luật kết hợp hiếm 39
1.4.3. Luật hiếm Sporadic 44
4

1.4.4. Khuynh hướng nghiên cứu về luật hiếm 47
Chương 2 – PHÁT HIỆN LUẬT KẾT HỢP HIẾM TRÊN CƠ SỞ DỮ LIỆU TÁC
VỤ 49
2.1. Luật kết hợp Sporadic tuyệt đối hai ngưỡng 49
2.1.1. Giới thiệu về luật Sporadic tuyệt đối hai ngưỡng 49
2.1.2. Tập Sporadic tuyệt đối hai ngưỡng 50
2.1.3. Thuật toán tìm tập Sporadic tuyệt đối hai ngưỡng đóng 53
2.2. Luật kết hợp Sporadic không tuyệt đối hai ngưỡng 61
2.2.1. Giới thiệu về luật kết hợp Sporadic không tuyệt đối hai ngưỡng 61
2.2.2. Tập Sporadic không tuyệt đối hai ngưỡng 62
2.2.3. Thuật toán tìm tập Sporadic không tuyệt đối hai ngưỡng đóng 64
2.3. Luật kết hợp với ràng buộc mục dữ liệu âm 72
2.3.1. Giới thiệu về luật kết hợp với ràng buộc mục dữ liệu âm 72
2.3.2. Tập phổ biến có ràng buộc mục dữ liệu âm 74
2.3.3. Thuật toán tìm tập phổ biến với ràng buộc mục dữ liệu âm 77
Chương 3 – PHÁT HIỆN LUẬT KẾT HỢP HIẾM TRÊN CƠ SỞ DỮ LIỆU ĐỊNH
LƯỢNG 82
3.1. Giới thiệu về phát hiện luật kết hợp hiếm trên CSDL định lượng 82
3.2. Luật kết hợp Sporadic tuyệt đối hai ngưỡng mờ 82
3.2.1. Giới thiệu về luật Sporadic tuyệt đối hai ngưỡng mờ 82
3.2.2. Tập Sporadic tuyệt đối hai ngưỡng mờ 83
3.2.3. Thuật toán tìm tập Sporadic tuyệt đối hai ngưỡng mờ 84
3.3. Luật kết hợp Sporadic không tuyệt đối hai ngưỡng mờ 89
3.3.1. Giới thiệu về luật Sporadic không tuyệt đối hai ngưỡng mờ 89
3.3.2. Tập Sporadic không tuyệt đối hai ngưỡng mờ 90
3.3.3. Thuật toán tìm tập Sporadic không tuyệt đối hai ngưỡng mờ 90
Chương 4 – ỨNG DỤNG LUẬT KẾT HỢP MẪU ÂM VÀ MÔ HÌNH HỒI QUY
CHUYỂN TIẾP TRƠN TRONG PHÂN TÍCH VÀ DỰ BÁO KINH TẾ 96
4.1. Mô hình hồi quy chuyển tiếp trơn 96
5

4.1.1. Phân tích hồi quy 96
4.1.2. Mô hình hồi quy chuyển tiếp trơn logistic 97
4.1.3. Xây dựng mô hình hồi quy chuyển tiếp trơn logistic 98
4.2. Ứng dụng luật kết hợp mẫu âm và mô hình hồi quy chuyển tiếp trơn trong
xây dựng mô hình phân tích và dự báo chỉ số chứng khoán 100
4.2.1. Dữ liệu phục vụ xây dựng mô hình 103
4.2.2. Phát hiện mối quan hệ giữa chỉ số chứng khoán và các cổ phiếu 104
4.2.3. Xây dựng mô hình dự báo chỉ số chứng khoán 106
4.3. Ứng dụng luật kết hợp mẫu âm và mô hình hồi quy chuyển tiếp trơn trong
xây dựng mô hình dự báo chỉ số giá tiêu dùng (CPI) 112
4.3.1. Dữ liệu phục vụ xây dựng mô hình dự báo chỉ số CPI 113
4.3.2. Phát hiện mối quan hệ giữa giá hàng hóa và chỉ số CPI 114
4.3.3. Xây dựng mô hình dự báo chỉ số CPI 115
KẾT LUẬN 121
DANH MỤC CÔNG TRÌNH KHOA HỌC CỦA TÁC GIẢ CÓ LIÊN QUAN ĐẾN
LUẬN ÁN 123
TÀI LIỆU THAM KHẢO 124
6

DANH MỤC CÁC KÍ HIỆU VÀ CHỮ VIẾT TẮT
Kí hiệu Tiếng Anh Tiếng Việt
CSDL Database Cơ sở dữ liệu
CPI Consumer Price Index Chỉ số giá tiêu dùng
GDP Gross Domestic Product Tổng sản phẩm quốc nội
CHARM Closed Association Rules
Mining
Phát hiện luật kết hợp đóng
conf Confidence Độ tin cậy
NC-CHARM Negative Constrains – Closed
Association Rules Mining
Phát hiện luật kết hợp đóng
với ràng buộc mục dữ liệu
âm.
minAS Minimum absolute support Độ hỗ trợ cận dưới
minConf Minimum confidence Độ tin cậy cực tiểu
minSup Minimum support Độ hỗ trợ cực tiểu. Trong luật
kết hợp Sporadic hai ngưỡng
sẽ được coi là độ hỗ trợ cận
dưới.
maxSup Maximum support Độ hỗ trợ cận trên
MCISI Mining Closed Imperfectly
Sporadic Itemsets
Phát hiện tập mục Sporadic
tuyệt đối đóng
MCPSI Mining Closed Perfectly
Sporadic Itemsets
Phát hiện tập mục Sporadic
không tuyệt đối đóng
MFISI Mining Fuzzy Imperfectly
Sporadic Itemsets
Phát hiện tập mục Sporadic
tuyệt đối mờ
MFPSI Mining Fuzzy Perfectly
Sporadic Itemsets
Phát hiện tập mục Sporadic
không tuyệt đối mờ.
PPI Producer Price Index Chỉ số giá của người sản xuất
STR Smooth Transition Regression Hồi quy chuyển tiếp trơn
sup Support Độ hỗ trợ
WPI Wholesale Price Index Chỉ số giá bán buôn

7

DANH MỤC CÁC BẢNG
Bảng 0.1: CSDL tác vụ 16
Bảng 0.2: CSDL định lượng 17
Bảng 1.1: Bảng diễn giải các kí hiệu sử dụng trong thuật toán Apriori 21
Bảng 1.2: Rời rạc hoá thuộc tính định lượng có số giá trị nhỏ 33
Bảng 1.3: Rời rạc hoá thuộc tính định lượng có giá trị số 34
Bảng 2.1: Thông tin về các CSDL giả định 57
Bảng 2.2: Kết quả thực hiện MCPSI và Apriori-Inverse trên CSDL giả định 58
Bảng 2.3: Kết quả thực hiện MCPSI và Apriori-Inverse trên T5I1000D10K 59
Bảng 2.4: Kết quả thực hiện MCPSI và Apriori-Inverse trên CSDL thực 60
Bảng 2.5: Bảng kết quả thử nghiệm trên CSDL T5I1000D10K 69
Bảng 2.6: Bảng kết quả thử nghiệm trên CSDL giả định 70
Bảng 2.7: Thông tin về CSDL thực và kết quả thử nghiệm 70
Bảng 2.8: Kết quả tìm các tập Sporadic không tuyệt đối trên CSDL thực 71
Bảng 2.9: Kết quả thử nghiệm trên tệp dữ liệu Mushroom với minSup = 0,1 71
Bảng 2.10: Kết quả thử nghiệm trên tệp dữ liệu Mushroom với maxSup = 0,5 71
Bảng 2.11: Bảng dữ liệu với các mục dữ liệu âm của ví dụ 2.3 75
Bảng 2.12: Bảng dữ liệu minh họa cho ví dụ 2.4 75
Bảng 2.13: Bảng kết quả thử nghiệm thuật toán NC-CHARM 80
Bảng 3.1: CSDL mờ 87
Bảng 3.2: Các thuộc tính và độ hỗ trợ của các thuộc tính 87
Bảng 3.3: Các tập 2-thuộc tính và độ hỗ trợ của các tập dữ liệu 88
Bảng 3.4: Kết quả thực hiện thử nghiệm thuật toán MFPSI 89
Bảng 3.5: Các thuộc tính và độ hỗ trợ của các thuộc tính 92
Bảng 3.6: Các tập 2-thuộc tính và độ hỗ trợ của các tập dữ liệu 92
Bảng 3.7: Tập Sporadic không tuyệt đối mờ tìm được ở Nodes thứ nhất 93
Bảng 3.8: Kết quả thử nghiệm ở trường hợp 5 95
Bảng 4.1: Chỉ số HNX được tính theo mô hình xây dựng và thực tế 109
Bảng 4.2: Chỉ số CPI được tính theo mô hình xây dựng và thống kê 119
8

DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ
Hình 0.1: Phân bố các chủ đề phát hiện luật kết hợp trong nội dung của luận án 15
Hình 1.1: Thuật toán Apriori 22
Hình 1.2: Kết nối Galois và toán tử đóng Galois 24
Hình 1.3: Tính chất của các cặp Tập mục dữ liệu × Tập định danh 25
Hình 1.4: Thuật toán CHARM 27
Hình 1.5: Minh họa về các phân hoạch mờ 36
Hình 1.6: Thuật toán Apriori-Inverse 45
Hình 1.7: Thuật toán MIISR 46
Hình 2.1: Thuật toán MCPSI 54
Hình 2.2: Không gian tìm kiếm tập Sporadic tuyệt đối hai ngưỡng 56
Hình 2.3: Biểu đồ so sánh kết quả thực hiện MCPSI và Apriori-Inverse trên các
CSDL giả định 59
Hình 2.4: Đồ thị so sánh kết quả thực hiện MCPSI và Apriori-Inverse trên các
CSDL thực 61
Hình 2.5: Thuật toán MCISI 66
Hình 2.6: Kết quả thử nghiệm trên tệp dữ liệu Mushroom với minSup = 0,1 72
Hình 2.7: Kết quả thử nghiệm trên tệp dữ liệu Mushroom với maxSup = 0,5 72
Hình 2.8: Thuật toán NC-CHARM 78
Hình 2.9: Cây tìm kiếm tập phổ biến với ràng buộc mục dữ liệu âm 79
Hình 2.10: Kết quả thử nghiệm NC-CHARM trên tệp dữ liệu T30I1000D10K 81
Hình 3.1: Thuật toán MFPSI 85
Hình 3.2: Thuật toán MFISI 91
Hình 3.3: Kết quả thử nghiệm ở trường hợp 1 93
Hình 3.4: Kết quả thử nghiệm ở trường hợp 2 94
Hình 3.5: Kết quả thử nghiệm ở trường hợp 3 94
Hình 3.6: Kết quả thử nghiệm ở trường hợp 4 94
Hình 4.1: Tập dữ liệu về chứng khoán 103
9

Hình 4.2: Ước lượng các tham số của mô hình dự báo chứng khoán 107
Hình 4.3: Chỉ số HNX được tính theo mô hình xây dựng và thực tế 110
Hình 4.4: CSDL về giá của các mặt hàng 114
Hình 4.5: Ước lượng các tham số của mô hình dự báo CPI 117
10

MỞ ĐẦU
Lý do chọn đề tài
Trong lĩnh vực khai phá dữ liệu (data mining), luật kết hợp (association rule)
được dùng để chỉ mối quan hệ kiểu “điều kiện → hệ quả” giữa các phần tử dữ liệu
(chẳng hạn, sự xuất hiện của tập mặt hàng này “kéo theo” sự xuất hiện của tập mặt
hàng khác) trong một tập bao gồm nhiều đối tượng dữ liệu (chẳng hạn, các giao
dịch mua hàng). Phát hiện luật kết hợp là phát hiện các mối quan hệ đó trong phạm
vi của một tập dữ liệu đã cho. Lý thuyết luật kết hợp được Rakesh Agrawal và cộng
sự giới thiệu lần đầu tiên vào năm 1993 [13] và nhanh chóng trở thành một trong
những hướng nghiên cứu khai phá dữ liệu quan trọng, đặc biệt trong những năm gần
đây. Phát hiện luật kết hợp đã được ứng dụng thành công trong nhiều lĩnh vực kinh
tế – xã hội khác nhau như thương mại, y tế, sinh học, tài chính-ngân hàng,…[18, 23,
25, 44, 69, 86, 87]. Hiện tại, nhiều khuynh hướng nghiên cứu và ứng dụng liên quan
đến phát hiện luật kết hợp đã và đang tiếp tục được hình thành.
Một trong những vấn đề về phát hiện luật kết hợp hiện đang nhận được nhiều
quan tâm của các nhà nghiên cứu là phát hiện luật kết hợp hiếm [26, 47, 49, 50, 53,
58, 66, 68, 80]. Luật kết hợp hiếm (còn được gọi là luật hiếm) là những luật kết hợp
ít xảy ra. Mặc dù tần suất xảy ra thấp, nhưng trong nhiều trường hợp, các luật này
lại rất có giá trị. Trong [49], Y. S. Koh và N. Rountree trình bầy khái quát về ứng
dụng của khai phá luật hiếm, trong đó giới thiệu ví dụ luật kết hợp hiếm “máy pha
cà phê” → “máy xay cà phê” có độ hỗ trợ rất thấp là 0,8% song có độ tin cậy khá
cao tới 80% và giá trị bán hai mặt hàng này rất đáng kể. L. Szathmary và cộng sự
[76] giới thiệu luật kết hợp hiếm “ăn chay” → “bệnh tim mạch” trong CSDL điều
trị bệnh nhân Stanislas ở Pháp và luật kết hợp hiếm “thuốc hạ lipid trong máu
Cerivastatin” → “tác động xấu khi điều trị”.
Phần lớn các thuật toán phát hiện luật kết hợp hiện nay thường thực hiện tìm
các luật có độ hỗ trợ và độ tin cậy cao. Việc ứng dụng các thuật toán này để tìm các
luật kết hợp hiếm (có độ hỗ trợ thấp) là không hiệu quả do phải đặt ngưỡng độ hỗ
11

trợ cực tiểu rất nhỏ, nên số lượng các tập phổ biến tìm được sẽ khá lớn (trong khi
chỉ có một phần trong các tập tìm được có độ hỗ trợ nhỏ hơn ngưỡng độ hỗ trợ cực
tiểu minSup) và như vậy chi phí cho việc tìm kiếm sẽ tăng lên. Nhằm khắc phục
những khó khăn này, các thuật toán phát hiện luật kết hợp hiếm được phát triển. Hai
khuynh hướng phát hiện luật kết hợp hiếm được quan tâm nhiều nhất là:
(i) Sử dụng ràng buộc phần hệ quả của luật. Các phương pháp này đưa ra danh
sách các mục dữ liệu sẽ xuất hiện trong một phần của luật và được sử dụng làm điều
kiện khi sinh luật. Tuy nhiên, cách tiếp cận này chỉ hiệu quả khi biết trước thông tin
về các mục dữ liệu, chẳng hạn phải xác định trước được mục dữ liệu nào sẽ xuất
hiện trong phần hệ quả của luật [22, 56, 66].
(ii) Sử dụng đường ranh giới để phân chia tập không phổ biến với tập phổ biến
và chỉ phát hiện luật kết hợp hiếm từ những tập (được gọi là tập hiếm) thuộc không
gian các tập không phổ biến [49, 50, 58, 75, 76, 80]. Tuy đạt được những kết quả
nhất định nhưng hướng nghiên cứu này vẫn còn nhiều hạn chế như: do phải sinh ra
tất cả các tập không phổ biến nên chi phí cho không gian nhớ là rất cao, và xẩy ra
tình trạng dư thừa nhiều luật kết hợp được sinh ra từ các tập hiếm tìm được.
Cả hai hướng nghiên cứu nói trên tập trung chủ yếu vào vấn đề phát hiện luật
kết hợp hiếm trên CSDL tác vụ và vẫn chưa được giải quyết triệt để.
Vấn đề phát hiện luật kết hợp hiếm trên CSDL định lượng mới chỉ được đề
cập lần đầu trong [58] và cũng chỉ nhằm phát hiện luật kết hợp hiếm từ các tập chỉ
chứa các mục dữ liệu không phổ biến. Tuy nhiên, tập hiếm không chỉ gồm các mục
dữ liệu không phổ biến mà còn là sự kết hợp giữa một số mục dữ liệu không phổ
biến với mục dữ liệu phổ biến hay sự kết hợp giữa những mục dữ liệu phổ biến.
Như vậy, vấn đề phát hiện luật kết hợp hiếm trên CSDL định lượng hiện cũng chưa
được giải quyết đầy đủ.
Luận án này sẽ tiếp nối những nghiên cứu trước đó nhằm giải quyết những hạn
chế được nêu ra ở trên.
12

Mục tiêu cụ thể và phạm vi nghiên cứu của luận án
Mục tiêu cụ thể của luận án là phát triển vấn đề và đề xuất thuật toán phát hiện
luật kết hợp hiếm trên cả hai loại CSDL tác vụ và định lượng, đồng thời ứng dụng
ban đầu một phần kết quả nghiên cứu lý thuyết đạt được trong xây dựng mô hình
phân tích và dự báo một số vấn đề cụ thể do thực tiễn đặt ra.
Bài toán phát hiện luật kết hợp hiếm cũng được chia làm hai giai đoạn:
Giai đoạn 1: Tìm tất cả các tập mục dữ liệu để sinh ra các luật kết hợp hiếm.
Các tập mục dữ liệu này được gọi là tập mục dữ liệu hiếm (hay tập hiếm).
Giai đoạn 2: Với mỗi tập hiếm tìm được ở giai đoạn 1, sinh ra tất cả các luật
hiếm có độ tin cậy lớn hơn hoặc bằng độ tin cậy cực tiểu đã được xác định trước.
Trong hai giai đoạn trên thì giai đoạn 1 là khó khăn, phức tạp và tốn nhiều chi
phí nhất. Giai đoạn thứ 2 có thể giải quyết đơn giản hơn khi tìm được tất cả các tập
hiếm và độ hỗ trợ của chúng.
Tương tự như phát hiện luật kết hợp phổ biến, việc phát hiện luật kết hợp hiếm
cũng có một phạm vi rất rộng. Trong luận án này, nghiên cứu sinh tập trung chủ yếu
giải quyết giai đoạn 1 của bài toán phát hiện luật kết hợp hiếm. Cụ thể luận án phát
triển giải pháp hiệu quả để tìm tập hiếm trên cả CSDL tác vụ và định lượng. Ở Việt
Nam, đã có một số luận án tiến sĩ nghiên cứu về luật kết hợp [9, 10, 12] nhưng chưa
có một luận án nào nghiên cứu về phát hiện luật kết hợp hiếm.
Ý nghĩa khoa học và thực tiễn của luận án
Về mặt khoa học, luận án đề xuất hướng tiếp cận phát hiện luật kết hợp hiếm
trên CSDL tác vụ dựa trên không gian tập dữ liệu hiếm đóng. Nhờ đó, đã nâng cao
hiệu quả của việc phát hiện luật kết hợp hiếm vì không gian các tập dữ liệu hiếm và
đóng là nhỏ hơn không gian các tập dữ liệu hiếm. Luận án sử dụng lý thuyết tập mờ
trong vấn đề phát hiện luật kết hợp hiếm trên CSDL định lượng.
Luận án có tính thực tiễn vì đã đề cập việc ứng dụng luật kết hợp cùng với mô
hình hồi quy chuyển tiếp trơn để xây dựng mô hình phân tích và dự báo kinh tế.
13

Đóng góp của luận án
Về nghiên cứu lý thuyết, luận án tập trung xác định một số dạng luật kết hợp
hiếm Sporadic trên cả CSDL tác vụ và CSDL định lượng, đồng thời phát triển các
thuật toán phát hiện các tập dữ liệu hiếm tương ứng cho các dạng luật hiếm này.
Đối với bài toán phát hiện luật kết hợp hiếm trên CSDL tác vụ, luận án theo
hướng tiếp cận đi tìm các tập không phổ biến đóng cho các luật kết hợp hiếm thay
vì việc đi tìm tất cả các tập không phổ biến như các nghiên cứu về luật hiếm trước
đây. Cơ sở của hướng tiếp cận này của luận án dựa trên các tính chất sau đây: (1)
Tập tất cả các tập hiếm cực đại và tập tất cả các tập hiếm đóng cực đại là bằng nhau;
(2) Các luật kết hợp hiếm được sinh ra từ các tập hiếm và từ các tập hiếm cực đại là
như nhau. Tiếp cận nói trên là tương đồng với tư tưởng của thuật toán
CHARM [94], là một trong những thuật toán hiệu quả nhất để phát hiện luật kết hợp
mạnh trên CSDL tác vụ. Tập các tập không phổ biến đóng là nhỏ hơn tập các tập
không phổ biến, vì vậy, việc chỉ phải tìm tập hiếm đóng không những hạn chế được
chi phí mà còn hạn chế được các luật hiếm dư thừa. Luận án phát triển ba thuật toán
tìm các tập mục hiếm cho ba dạng luật kết hợp hiếm trên CSDL tác vụ là: thuật toán
MCPSI (Mining Closed Perfectly Sporadic Itemsets) phát hiện tập mục Sporadic
tuyệt đối hai ngưỡng [32], thuật toán MCISI (Mining Closed Imperfectly Sporadic
Itemsets) phát hiện tập mục Sporadic không tuyệt đối hai ngưỡng [33] và thuật toán
NC-CHARM (Negative Constrains – CHARM) phát hiện tập dữ liệu với ràng buộc
mục âm [2]. Cả ba thuật toán trên đây được phát triển theo hướng bổ sung, phát
triển các giải pháp cho phát hiện luật kết hợp Sporadic dựa theo cách tiếp cận và ý
tưởng của thuật toán CHARM.
Đối với bài toán phát hiện luật kết hợp hiếm trên CSDL định lượng, luận án
theo hướng tiếp cận tương tự như phát hiện luật kết hợp mạnh trên CSDL định
lượng là sử dụng lý thuyết tập mờ để chuyển CSDL định lượng về CSDL mờ và
thực hiện phát hiện luật hiếm trên CSDL mờ này. Tương tự như đối với luật kết hợp
mạnh, việc ứng dụng tập mờ sẽ giúp biểu diễn luật kết hợp hiếm tự nhiên hơn, gần
gũi hơn với người sử dụng và nhất là khắc phục được vấn đề “điểm biên gãy” trong
14

phân khoảng các thuộc tính định lượng. Hai dạng luật kết hợp Sporadic cho CSDL
định lượng đã được luận án đề xuất là luật kết hợp Sporadic tuyệt đối hai ngưỡng
mờ [3] và luật kết hợp Sporadic không tuyệt đối hai ngưỡng mờ [4]. Luận án đã
phát triển hai thuật toán tìm tập hiếm cho hai dạng luật này. Thuật toán MFPSI
(Mining Fuzzy Perfectly Sporadic Itemsets) phát hiện tập mục Sporadic tuyệt đối
hai ngưỡng mờ [3] được phát triển theo tư tưởng của thuật toán Apriori [16], còn
thuật toán MFISI (Mining Fuzzy Imperfectly Sporadic Itemsets) phát hiện tập mục
Sporadic không tuyệt đối hai ngưỡng mờ [4] được phát triển theo tư tưởng của thuật
toán của chúng tôi tìm tập hiếm cho luật Sporadic không tuyệt đối trên CSDL tác vụ
[33].
Về triển khai ứng dụng, luận án đã đề xuất kết hợp vấn đề phát hiện luật kết
hợp mẫu âm trong công nghệ thông tin và mô hình hồi quy chuyển tiếp trơn phi
tuyến trong kinh tế lượng để xây dựng mô hình phân tích và dự báo chỉ số giá tiêu
dùng CPI và chỉ số chứng khoán Việt Nam. Kết quả dự báo kiểm định theo mô hình
được xây dựng theo cách tiếp cận này cho thấy chất lượng dự báo được cải thiện rõ
rệt, độ chính xác của kết quả dự báo so với thực tiễn là khá cao [1, 7, 36].
Cấu trúc của luận án
Tiếp nối phần mở đầu này, nội dung chính của luận án được bố cục thành 4
chương và phần kết luận. Hình 0.1 trình bày phân bố các chủ đề phát hiện luật kết
hợp được đề cập trong bốn chương nội dung của luận án.
Các chủ đề nghiên cứu trong các hình chữ nhật với đường biên kép là các kết
quả đóng góp chính của luận án. Các chương luận án là tổng hợp nội dung các bài
báo công bố các kết quả nghiên cứu được thực hiện trong luận án (chương 2 với [2,
32-33], chương 3 với [3-4], chương 4 với [1, 7, 36]).
Phần kết luận tổng hợp các kết quả đạt được cũng như nêu lên một số hạn chế
của luận án, và đồng thời trình bầy một số định hướng nghiên cứu trong tương lai.

15

Hình 0.1: Phân bố các chủ đề phát hiện luật kết hợp trong nội dung của luận án
Về khái niệm cơ sở dữ liệu tác vụ và cơ sở dữ liệu định lượng
Để phù hợp với nhiều công trình nghiên cứu về luật kết hợp, luận án sử dụng
hai khái niệm cơ sở dữ liệu tác vụ và cơ sở dữ liệu định lượng. Hai khái niệm này
mang nội dung như được giới thiệu dưới đây và phạm vi tác động của chúng được
hạn chế trong luận án.
Trong công trình nghiên cứu khởi thủy về luật kết hợp, R. Agrawal và cộng sự
(1993) đã giới thiệu bài toán phát hiện luật kết hợp trong CSDL tác vụ (a database
of transactions) D [13], ở đó, mỗi tác vụ (transaction) t của CSDL được biểu diễn
Phát hiện luật
hiếm từ dữ
liệu nhị phân
(Chương 1)
Phát hiện luật
hiếm Sporadic
Phát hiện luật
phổ biến từ
dữ liệu nhị
phân
Phát hiện luật
phổ biến từ
dữ liệu định
lượng
Phát hiện luật với
ràng buộc mục dữ
liệu âm (Chương 2)
Phát hiện mẫu kết hợp
Phát hiện luật kết hợp Phát hiện luật chuỗi
Phát hiện luật phổ biến (Chương 1) Phát hiện luật hiếm (Chương 1)
Phát hiện luật
hiếm từ dữ liệu
định lượng
(Chương 1)
Ứng dụng
phát hiện
luật mẫu âm
(Chương 4)
Phát hiện
luật hiếm
khác
Phát hiện luật hiếm theo
đường ranh giới phân
tách tập phổ biến
Phát hiện luật
hiếm theo ràng
buộc về hệ quả
Phát hiện luật
hiếm Sporadic
hai ngưỡng
(Chương 2)
Phát hiện
luật hiếm
Sporadic hai
ngưỡng
(Chương 3)

Tác giả

Cù Thu Thủy

Nhà xuất bản

ĐHCN

Năm xuất bản

2012

Người hướng dẫn

Đỗ Văn Thành, Hà Quang Thụy

Định danh

00050002165

Kiểu

text

Định dạng

text/pdf

Nhà xuất bản

Khoa công nghệ thông tin,

Trường đại học Công nghệ

Các đánh giá

Hiện chưa có đánh giá cho sản phẩm.

Hãy là người đầu tiên đánh giá “Nghiên cứu phát hiện luật kết hợp hiếm và ứng dụng”

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *