Tiểu Luận Xây dựng ứng dụng DataWareHouse phục vụ cho việc dự báo giá vàng

Chia sẻ: Soap MacvTavit | Ngày: | Loại File: DOCX | Số trang:30

Thêm vào BST

Báo xấu

260
lượt xem 61
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Ngày nay, trong thời đại bùng nổ cách mạng thông tin, các hoạt động sản xuất kinh doanh luôn cần có sự đáp ứng nhanh nhạy, tức thời đối với các thay đổi liên tục, vì vậy các nhà quản lý buộc phải thường xuyên đưa ra nhiều quyết định đúng đắn trong cùng một lúc một cách nhanh chóng. Do đó vấn đề trợ giúp quyết định trở lên rất cần thiết. Người ta phải thu thập, tổng hợp và phân tích dữ liệu từ nhiều nguồn khác nhau một cách nhanh và hiệu quả thì mới có...

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Tiểu Luận Xây dựng ứng dụng DataWareHouse phục vụ cho việc dự báo giá vàng

Tiểu Luận Xây dựng ứng dụng DataWareHouse phục vụ cho việc dự báo giá vàng
LỜI MỞ ĐẦU Ngày nay, trong thời đại bùng nổ cách mạng thông tin, các hoạt động sản xuất kinh doanh luôn cần có sự đáp ứng nhanh nhạy, tức thời đối với các thay đổi liên tục, vì vậy các nhà qu ản lý buộc phải thư ờng xuyên đưa ra nhiều quyết định đúng đ ắn trong cùng một lúc một cách nhanh chóng. Do đó vấn đề trợ giúp quyết định trở lên rất cần thiết. Người ta phải thu thập, tổng hợp và phân tích dữ liệu từ nhiều n guồn khác nhau một cách nhanh và hiệu quả thì mới có thể đưa ra được những quyết định nhanh chóng và phù hợp. Điều n ày dẫn đến việc cần phát triển những hệ thống thông minh, biết cách trích chọn và phân tích d ữ liệu cho người sử dụng. Hiện nay có rất nhiều phần mềm cung cấp cho người sử dụng những khả năng truy vấn và lập các báo cáo thông tin, đặc b iệt là các h ệ quản trị CSDL quan hệ. Tuy nhiên CSDL quan hệ với cấu trúc hai chiều (h àng và cột) không được thiết kế để cung cấp những góc nhìn đa chiều trên dữ liệu đầu vào của những bài toán phân tích phức tạp. Sử dụng hệ thống này, chúng ta sẽ gặp rất nhiều khó khăn và b ất tiện trọng việc tổ chức dữ liệu đa chiều vào trong các b ảng hai chiều, không thể triển khai dữ liệu phân tích với số lượng lớn, các công cụ phân tích để tạo ra các dữ liệu quyết định không thực sự mạnh, không có sự linh hoạt, nhanh chóng và quan trọng nhất là không dễ dàng sử dụng với các nhà qu ản lý, những người ra quyết định. Như vậy, việc xây dựng một hệ thống có khả năng tổ chức dữ liệu đa chiều và có kh ả năng phân tích dữ liệu linh hoạt để trả lời được các truy vấn đa chiều một cách d ễ d àng, nhanh chóng nhằm hỗ trợ cho việc ra quyết định của các nhà quản lý là cần thiết. Thị trường vàng vốn đã là một thị trường nóng bỏng, phân tích và dự báo giá vàng là một nhu cầu không thể thiếu . Nhưng để có thể làm được điều này, chỉ có các dữ liệu trong quá khứ được lưu trữ trong một CSDL thường là chưa đủ, cần có một CSDL giúp cho người phân tích có một cách nhìn trực quan, từ tổng thể đến chi tiết về các vấn đề được quan tâm, và CSDL đó phải được tổ chức sao cho các thông tin trong đó được tru y nhập với tốc độ nhanh nhất có thể. Cách hiệu quả nhất để trợ giúp cho vấn đề này là tổ chức dữ liệu th ành kho d ữ liệu (data warehouse) để phục vụ cho các nhà kinh tế trong việc phân tích và dự báo giá vàng. Chính vì thế, sau một thời gian học tập và nghiên cứu, em đ ã quyết định chọn đề tài “Xây dựng ứng dụng DataWareHouse phục vụ cho việc dự báo giá vàng” nh ằm ứng dụng những kiến thức về công nghệ thông tin và kinh tế để xây dựng lên một kho dữ liệu chứa các thông tin về giá vàng trong các năm gần đây với cách tổ chức dữ liệu hoàn toàn m ới.
Mặc dù đã rất cố gắng để ho àn thành đề tài nhưng vì còn hạn chế về kinh n ghiệm và kiến thức nên chương trình còn nhiều sai sót cần được bổ sung. Vì vậy, em mong thầy cô và các bạn xem và đóng góp ý kiến giúp cho chương trình trở nên hoàn thiện hơn. Cuối cùng, em xin chân thành cảm ơn các thầy, cô giáophòng quản lý và nghiên cứu khoa học, Trường đại học CNTT và Truyền Thông, đặc biệt là cố vấn khoa học TS. Vũ Xuân Nam , đ ã trực tiếp hướng dẫn và tận tình giúp đỡ em ho àn thành đề tài. Em xin chân thành cảm ơn! Thái Nguyên, Tháng 1 1 Năm 2012
CHƯƠNG 1 : TỔNG QUAN VỀ XỬ LÝ PHÂN TÍCH TRỰC TUYẾN 1.1. Giới thiệu các phương pháp khai thác dữ liệu - Khai thác dữ liệu là quá trình phát hiện ra những mối quan h ệ liên thuộc, các mô hình và các xu hướng mới (Patterns & Trends) bằng việc khảo sát một số lượng lớn dữ liệu được lưu trữ trong các nh à kho (Repository) sử dụng các công nghệ về nhận dạng mẫu cũng như các kỹ thuật thống kê toán học. Khai thác dữ liệu có th ể h iểu là khoan dữ liệu theo chiều sâu và tổng hợp dữ liệu theo chiều ngược lại, là quá trình đ ào bới xem xét dữ liệu với nhiều góc độ nhằm tìm ra các mối liên h ệ giữa các thành phần dữ liệu và phát hiện ra những xu hướng, hình m ẫu, kinh nghiệm quá khứ tiềm ẩn trong kho dữ liệu. Vì vậy nó rất phù hợp với mục đích phân tích dữ liệu hỗ trợ điều h ành và ra quyết định. - Ph ần lớn các phương pháp khai thác dữ liệu đều dựa trên các lĩnh vực như thống kê và một số công cụ khác. Một số kỹ thuật thường dùng là m ạng Neuron (Neuron network), giải thuật di truyền (Genetic Algorithms) và xử lý phân tích trực tuyến (OnLine Analytical Processing - OLAP). - Xử lý phân tích trực tuyến chính là sử dụng kho dữ liệu cho mục đích ra quyết định. Ý tưởng mô phỏng trong các chiều được mở rộng: một bảng với n thuộc tính có thể đư ợc coi như một không gian n chiều. Người quản lý đặt ra những câu hỏi m à có thể phân tích trong những phân tích đa chiều. Các thông tin này sẽ rất khó phân tích khi bảng biểu diễn hai chiều và CSDL chu ẩn không th ể đáp ứng tốt cho công việc này, vây nên, trong những trường hợp như vậy, OLAP tỏ ra thích hợp với việc phân tích hỗ trợ quyết định hơn những phương pháp khác. 1.2. Tổng quan về kho dữ liệu (Dataware house) - Kho dữ liệu là tuyển tập các CSDL tích hợp, hư ớng chủ đề, được thiết kế với chức năng trợ giúp quyết định, mà mỗi đơn vị dữ liệu đều liên quan tới một khoảng th ời gian cụ thể. Kho dữ liệu thường rất lớn, có thể tới hàng trăm GB hay thậm chí h àng Terabyte. - Kho dữ liệu đ ược xây dựng để tiện lợi cho việc tru y cập theo nhiều nguồn, nhiều kiểu dữ liệu khác nhau sao cho có thể kết hợp được cả những ứng dụng của các công ngh ệ hiện đại và kế thừa được từ những hệ thống sẵn có từ trước. Dữ liệu phát sinh từ các hoạt động h àng ngày được thu thập và xử lý để phục vụ công việc n ghiệp vụ cụ thể của một tổ chức được gọi là dữ liệu tác nghiệp (operational data) và hoạt động thu thập xử lý loại dữ liệu n ày được gọi là xử lý giao dịch trực tuyến (Online Transaction Processing - OLTP)
1.2.1. Đặc điểm của kho dữ liệu - Tính tích hợp: Dữ liệu trong Dataware house được tổ chức theo nhiều cách khác nhau sao cho phù hợp với các quy ước đặt tên, thống nhất về số đo, cơ cấu m ã hóa và cấu trúc vật lý của dữ liệu. Một Datawarehouse là một khung nhìn thông tin mức tổng thể, to àn tổ chức, thống nhất các khung nhìn khác nhau thành một khung nhìn theo một chủ đề nào đó. Tính tích hợp thể hiện ở chỗ : Dữ liệu trong kho dữ liệu đ ược tập trung từ nhiều nguồn và được ghép với nhau tạo thành một thể thống nhất. Hình 1.1 Tích hợp dữ liệu - Hướng chủ đề: Dữ liệu trong Dataware house được tổ chức theo các chủ đề phục vụ cho những tổ chức dễ dàng xác định được những thông tin cần thiết trong từng hoạt động của mình. Ví d ụ trong doanh nghiệp, Dataware house được tổ chức thành các chủ đề như : Khách hàng, tài chính, sản phẩm…, tuy nhiên Dataware house khác các CSDL thông thường là không lưu dữ liệu chi tiết, chỉ lưu các dữ liệu có tính tổng hợp để phục vụ chủ yếu cho quá trình phân tích hỗ trợ ra quyết định. - Dữ liệu gắn thời gian và có tính lịch sử: Một kho dữ liệu bao hàm một khối lượng lớn khối lượng lịch sử. Dữ liệu trong Dataware house được gọi là các ảnh chụp dữ liệu (data snapshort), mỗi bản ghi phản ánh những giá trị của dữ liệu tại một thời điểm nhất định thể hiện một khung nhìn của một của một chủ điểm trong một giai đoạn. Yếu tố thời gian đóng vai trò nh ư một phần của khóa để đảm bảo tính đơn nh ất của mỗi bản ghi và cung cấp đặc trưng về thời gian cho dữ liệu. Dữ liệu trong CSDL tác nghiệp cần phải chính xác ở chính thời điểm truy cập, trong khi ở Dataware house chỉ cần có hiệu lực trong một khoảng thời gian nào đó, trong
khoảng 5 năm đến 10 năm hoặc lâu h ơn. Dữ liệu của CSDL sau một thời gian nhất đ ịnh sẽ trở thành dữ liệu lịch sử và chúng sẽ được chuyển vào kho dữ liệu. Hình 1.2 Tính th ời g ian của dữ liệu - Dữ liệu có tính ổn định: Dữ liệu trong Dataware house là d ữ liệu chỉ đọc và chỉ có thể được kiểm tra, không được sửa đổi bới ngư ời sử dụng đầu cuối. Datawarehouse chỉ cho người dùng được phép nạp thêm dữ liệu vào và truy cập tới các vùng trong nó. Hình 1.3 Cơ ch ế hoạt động của Dataware house - Dữ liệu không biến động: Thông tin được tải vào trong Dataware house khi nó được coi là quá cũ trong CSDL tác nghiệp với hệ thống điều hành doanh nghiệp, tuy nhiên các d ữ liệu trong Dataware house không có dữ liệu n ào được coi là cũ, trong Dataware house sẽ không có thao tác xóa dữ liệu, vì các dữ liệu này vẫn cung cấp thông tin về một khoảng thời gian d ài, cung cấp đủ số liệu cho các hệ thống dự b áo, phân tích, từ đó có được những quyết định hợp lý.
1.2.2. Các khái niệm trong kho dữ liệu 1.2.2.1. Data Mart (Kho dữ liệu cục bộ) - Kho dữ liệu cục bộ (Data Mart -DM) là CSDL có những đặc điểm giống với kho dữ liệu nhưng với quy mô nhỏ hơn và lưu trữ dữ liệu về một lĩnh vực, một chuyên ngành. Datamart là kho dữ liệu hướng chủ đề. - Các DM có th ể được hình thành từ một tập con dữ liệu của kho dữ liệu hoặc cũng có thể đư ợc xây dựng độc lập và sau khi xây dựng xong, các DM có thể được kết nối tích hợp lại với nhau tạo thành kho dữ liệu. Vì vậy có thể xây dựng kho dữ liệu bắt đầu bằng việc xây dựng các DM hay ngược lại xây dựng kho dữ liệu trước sau đó tạo ra các DM. - DM được chia ra là hai lo ại: + Data mart phụ thuộc (Dependent Data Mart): Chứa những dữ liệu được lấy từ DW và nh ững dữ liệu này sẽ đ ược trích lọc và tinh chế, tích hợp lại ở mức cao hơn đ ể phục vụ một chủ đề nhất định của Datamart. + Data m art độc lập (Independent Data Marts): Không giống như Data Mart phụ thuộc, Data mart độc lập được xây dựng trước DW và dữ liệu được trực tiếp lấy từ các nguồn khác n hau. 1.2.2.2. Metadata ( Siêu dữ liệu) - Siêu dữ liệu (metadata) dùng để mô tả tài nguyên thông tin. Thuật ngữ “meta” xu ất xứ là một từ Hy Lạp đùng để chỉ một cái gì đ ó có bản chất cơ bản h ơn hoặc cao hơn. Vì vậy metadata là dữ liệu về dữ liệu.Tứclà thông tin mô tả nội dung của cơ sở dữ liệu (CSDL). - Metadata báo cho người dùng biết thời gian cập nhật sau cùng của dữ liệu, đ ịnh dạng và mục đích sử dụng của nó. Những thông tin n ày có thể hướng dẫn n gười dùng duyệt qua CSDL và giúp họ hiểu đư ợc ý nghĩa và ngữ cảnh của dữ liệu tài chính, các bản ghi về khách hàng và các giao dịch kinh doanh . Một b ản ghi m etadata bao gồm một tập hợp những thuộc tính hoặc tập hợp những phần tử cần thiết để mô tả các tài nguuyên thông tin theo yêu cầu nghiệp vụ. Ví dụtrong hoạt động nghiệp vụ thông tin – thư viện bao gồm các yếu tố như: Nhan đề tài liệu, tác giả, thông tin về xuất bản, nơi/vị trí lưu giữ, kiểu/dạng tài liệu. - Metadata cung cấp cho người sử dụng sự truy nhập tương tác để giúp cho họ có th ể hiểu được nội dung và tìm th ấy được dữ liệu cần thiết. Một vấn đề trong thực tế là khả năng kết hợp của công cụ trích lọc dữ liệu và metadata còn khá thô. Do đó cần phải tạo ra những giao diện dùng megadata cho người sử dụng. - Tất cả các thành phần của Dataware house đều có thể lấy dữ liệu từ m egadata. Megadata được lưu trữ ở trung tâm Dataware house.
1.2.2.3. K ho dữ liệu tác nghiệp (Operational Data Store – ODS) - Kho dữ liệu tác nghiệp là hệ thống tác nghiệp tích hợp căn bản dùng cho công việc trợ giúp quyết định và phân tích trên dữ liệu giao dịch tác nghiệp. Nói một cách khác, ODS là một khái niệm có cấu trúc để hỗ trợ cho việc tạo quyết định tác nghiệp hàng ngày lưu trữ những giữ liệu có giá trị hiện thời được chuyển đến từ các ứng dụng tác nghiệp. ODS cung cấp một sự lựa chọn cho các ứng dụng trợ giúp quyết định tác nghiệp, truy cập dữ liệu một cách trực tiếp từ các hệ thống xử lý các giao dịch trực tuyến. - Trong tất cả các trường hợp, ODS cần đ ược xây dựng riêng biệt và là một phần của Dataware house. Hình 1.4 Sự phân cách giữa ODS và DW - ODS chỉ tập trung vào lưu trữ những dữ liệu thuần nhất và có giá trị hiện th ời, còn Dataware house có thể chứa rất nhiều dữ liệu không thuần nhất ở nhiều mức độ khá nhau. Hình 1.5: Sự phong phú về chúng loại dữ liệu trong Dataware house
1.3. Phân tích dữ liệu trực tuyến (Online Analytical Processing – O LAP) 1.3.1. Giới thiệu - OLAP là m ột k ỹ thuật sử dụng các thể hiện dữ liệu đa chiều gọi là các khối (cube) nh ằm cung cấp khả năng truy xuất nhanh đến dữ liệu của kho dữ liệu. Tạo khối(cube) trong các bảng chiều (dimension table) và bảng sự kiện (fact table) trong kho dữ liệu và cung cấp khả năng thực hiện các truy vấn tinh vi và phân tích cho các ứng dụng client. - Trong khi kho dữ liệu và data mart lưu d ữ cho phân tích, thì OLAP là k ỹ thuật cho phép các ứng dụng client truy xuất hiệu quả những dữ liệu này. OLAP cung cấp rất nhiều ích lợi cho người phân tích, ví dụ như: + Cung cấp mô hình dữ liệu đa chiều trực quan cho phép dễ d àng chọn lựa, định hướng và khám phá dữ liệu. + Cung cấp một ngôn ngữ truy vấn phân tích, cung cấp sức mạnh để khám phá các mối quan hệ trong dữ liệu kinh doanh phức tạp. + Dữ liệu đư ợc tính toán trước đối với các truy vấn th ường xuyên làm cho thời gian trả lời rất nhanh đối với các truy vấn đặc biệt. + Cung cấp các công cụ mạnh giúp người dùng tạo ra các khung nh ìn m ới của dữ liệu dựa trên một tập các hàm tính toán đ ặc biệt. - OLAP được đặt ra để xử lý các truy vấn liên quan đến lượng dữ liệu rất lớn m à n ếu cho thực thi các truy vấn này trong hệ thống OLTP sẽ không thể cho kết quả hoặc sẽ làm mất rất nhiều thời gian. 1.3.2. Đặc điểm của OLAP - Được biết đến nh ư là một phần của kho dữ liệu. - Cung cấp các báo cáo, phân tích tiền tính toán, các đồ thị, biểu đồ. - Cho phép phân tích trực tuyến dữ liệu. - Thăm dò sự tương tác dữ liệu. - Cung cấp các giao diện đa dạng cho người dùng. - Cung cấp khả năng phân tích dữ liệu phứ c tạp bằng phương pháp đơn giản. 1.3.3. Các mô hình OLAP 1.3.3.1. MOLAP (Multidimensional OLAP) - Mô hình MOLAP lưu trữ dữ liệu cơ sở (dữ liệu từ các bảng của kho dữ liệu) và thông tin tổng hợp (là các độ đo được tính toán từ các bảng) trong các khối (cube)
Hình 1.6 Mô hình dữ liệu MOLAP Dữ liệu được tìm th ấy tại điểm giao của các chiều Hình 1.7 Tổ chức dữ liệu trong mô hình MOLAP - Dữ liệu trong MOLAP cần process sau một thời gian nhất định để có thể cập nhật được những thay đổi trong Dataware house. - MOLAP thích hợp cho các truy vấn tổng hợp dữ liệu trong một thời gian dài. 1.3.3.2. ROLAP (Relational OLAP) - Mô hình ROLAP (OLAP quan hệ) lưu trữ dữ liệu cơ sở và thông tin tổng h ợp trên các b ảng quan hệ.
Hình 1.8 Mô hình dữ liệu ROLAP Dữ liệu được tìm th ấy tại một điểm giao của một cột và một h àng. - Hình 1.9 Tổ chức dữ liệu trong mô hình ROLAP - Có hai kiểu mô hình dữ liệu + Lược đồ h ình sao (star schema): Môi chiều chỉ được xây dựng từ một bảng một chiều
Hình 1.10 Lược đồ hình sao - Lược đồ hình bông tuyết (snowflake): Mỗi chiều được xây dựng từ nhiều b ảng chiều. Hình 1.11 Lược đồ h ình bông tuyết - ROLAP thích h ợp cho các truy vấn dữ liệu theo thời gian thực (đòi hỏi chính xác cao và tức thời) - 1.3.3.3. HOLAP (Hybryd OLAP) - Là mô hình kết hợp giữa hai mô hình MOLAP và ROLAP.
Hình 1.12 Mô hình HOLAP - HOLAP là mô hình lai giữa hai mô h ình MOLAP và ROLAP, kết hợp những ưu điểm và loại bỏ những khuyết điểm của hai mô hình trên nhằm tạo ra một mô h ình tối ưu. - Lợi ích của việc lưu trữ trong cấu trúc HOLAP là : + Lưu d ữ liệu tổng hợp trong cube (MOLAP) để tăng tốc độ xử lý những truy vấn phức tạp. + Lưu trữ dữ liệu cơ sở trong các bản quan hệ (ROLAP) nhằm tiết kiệm không gian lưu trữ.
CHƯƠNG 2 : OLAP TRONG MS SQL SERVER ANALYSIS SERVICES 2.1. Sơ lược về SSAS - Từ trước đến nay, SQL Server được biết đến với vai trò là một hệ quản trị cơ sở dữ liệu có trách nhiệm hỗ trợ quản lí, lưu trữ dữ liệu với Database Engine. Tuy nhiên, từ phiên bản SQL Server 2005 đến SQL Server 2008 và m ới nhất là SQL Server 2008 R2, thì bộ SQL Server đ ã đ ược tích hợp nhiều gói dịch vụ hỗ trợ việc tích hợp và khai thác khả năng tiềm tàng của một cơ sở dữ liệu như SQL Server Integrating Services, SQL Server Analysis Services và SQL Server Reporting Services. - Analysis Services là một dịch vụ hỗ trợ mạnh mẽ việc phân tích, khai thác thông tin tiềm tàng bên trong của một hệ cơ sở dữ liệu. - Analysis Services là công cụ dễ sử dụng, tích hợp và linh động giúp định nghĩ các chiều, xây dựng các khối dữ liệu đa chiều và cung cấp các ch ương trình ứng dụng truy xuất tới các khối n ày. 2.2. Kiến trúc các thành phần OLAP trong SSAS 2.2.1. Cube. - Cube (Khố i) là phần tử chính trong xử lý phân tích trực tuyến, là tập con(subset) d ữ liệu từ kho d ữ liệu, được tổ chức và tổng hợp trong các cấu trúc đa chiều. - Cube dùng các dimensions, fact table và các measure để mô tả dữ liệu trong cube. Hình 2.1 Ví dụ về một khối (cube) có 3 chiều
-Một cube có thể có nhiều chiều • Nếu có nhiều hơn 3 chiều sẽ được gọ i là ‘siêu khố i’ (”hypercube”) • Về m ặt lý thuyết thì số chiều là không hạn chế • Thường thì số chiều là từ 4 đến 112 - Một cube bao gồm nhiều ô dữ liệu • Là một liên kết giữa các giá trị của chiều • Một ô có thể là rỗng (không có dữ liệu cho liên kết này) • Khối thưa (sparsecube): có nhiều ô rỗng • Khối dày đ ặc (densecube): có ít ô rỗng Hình 2.2 Ví dụ về ô rỗng trong khối - Cube biễu diễn dữ liệu dưới d ạng tổng hợp nhiều hơn là chi tiết như khi dùngbảng thông thường. Do đó, cube cho người dùng thấy đư ợc cái nhìn tóm tắt, tổng hợp củ a toàn bộ dữ liệu. Một cube có thể chứa toàn bộ ho ặc một phần của dữ liệu nguồn (Data sourceview). Vì vậ y các cube chỉ được lưu trữ và truy cập qua giới h ạn riêng củ a nó. Dữ liệu đư ợc chuyển từ n guồn đến các cube qua công cụ ETL (Extract,Transform, and Load). 2.1.2.Dimension - Các chiều là cách mô tả chủng loại mà theo đó các dữ liệu trong Cube được phân chia để phân tích. - Mỗichiều có th ể được xây d ựng trên mộ t hoặc nhiều bảng chiều(dimension table) nh ằm mô tả cho chiều đó. - Các chiều được ánh xạ từ thông tin của các bảng chiều trong kho dữ liệu vào các mức phân cấp.
-Các chiều được tạo một cách độc lập và có thể chia sẻ giữa các OLAP Cube nhằm xây dựng các Cube d ễ d àng và đ ể chắc ch ắn rằng thông tin tổng hợp cho phân tích luôn ổn định. Hình 2.3 Ví dụ về các chiều - Chiều có sự phân cấp : Phân cấp là cột sống của việc gộp dữ liệu hay nói một cách khác là dựa vào các phân cấp mà việc gộp d ữ liệu mới có thể thự c hiện được. Ph ần lớn các chiều đều có một cấu trúc đa mức hay phân cấp. 2.1.3. Measure - Các đơn vị đo của khố i là các cộ t trong bảng Fact. Các đơn vị đo lường xác đ ịnh những giá trị số từ bảng Fact mà đư ợc tổng hợp phân tích như đ ịnh giá, trị giá, hoặc số lượng bán. - Là đơn vị đo đ ể đánh giá, phân tích dữ liệu. 2.1.4. Fact Table - Fact là bảng mô tả sự kiện mà hệ thống muốn phân tích, kết hợp với các d imension đã được xây dự ng sẵn nhằm tổ chức dữ liệu một cách có hệ thống. - Một fact gồm các trường chứa khoá chính của các dimension mà nó kết h ợp, đồng thời ch ứa các measure của cube. Mỗi fact có các measure khác nhau. - Fact được lưu tại mộ t cấp dữ liệu thô nào đó
Hình 2.4 Ví dụ về Fact Table (Sales_Fact) 2.1.5. Slice - Slice là một “lát cắt”, tương ứng một giá trị duy nhất cho chiều “được chiếu với các giá trị thành viên của các chiều khác. Hình 2.5 Ví dụ về slice 2.1.6.Partition - Tất cả các khố i đều có tối thiểu mộ t phân hoạch (Partition) để chứa dữ liệu của nó. Mộ t partition đơn được tự động tạo ra khi khối được đ ịnh ngh ĩa.
- Khi ta tạo mộ t partition mới cho một khối, partition m ới này được thêm vào trong tập hợp các partition đã tồn tại đố i với khối. - Khối phản ánh dữ liệu đã được kết nối có trong tất cả các partition của nó. Một b ảng partition của khối là vô hình đối với người dùng. - Các partition tiêu biểu cho một công cụ m ạnh, m ềm dẻo cho việc qu ản trị các khối OLAP, đặc biệt các khối lớn. 2.1.7. Role - Bảo m ật trong Analysis Services được tích hợp sẵn và dựa trên bảo mật củ a Microsoft Windows. Để Analysis Services được b ảo m ật, ta tạo các role trong d atabase OLAP. Mỗi role có thế chứa một hoặc nhiều user (group) được tạo trong h ệ điều hành. Mỗ i role được tạo ra sẽ liên kết với các cube trong database OLAP. Nhờ vậy, ta có thể qu ản lý sự bảo m ật của cube b ằng cách hạn ch ế truy cập m etadata (các member trong dimemsion) cũng như truy cập data (các giá trị lưu trữ trong cube). - Analysis Services có một role cốđịnh được tạo sẵn, bao gồm các thành viên của group Administrators trên máy chủ server, được gọi là server role. Để có thể thực thi mọi tác vụ trong h ệ thống Analysis Services, user đang dùngphải là thành viên của group Administrators. Tất cả thành viên trong group này được toàn quyền trên các cube và các database củ a server. Trong thực tế, người ta tạo ra các role trên mỗi database, gọi là database role, cho phép một user chỉ được quyền quản trị trên mộ t database. Ngoài ra, ta còn có thể tạo các role ở cấp độ cube (truy cập toàn bộ một số cube quy đ ịnh) hoặc ở cấp độ d imension (truy cập data ở một số dimension củ a một số cube nhất định) 2.1.8. Schedule (Lập lịch) - Tại một thời điểm nào đó, hệ thống OLAP server cần phải process lại đ ể update những thay đổ i từ phía Database Server, đ ảm bảo cho Client có thể truy xu ất được những dữ liệu mới nh ất và đầy đ ủ của hệ thống. Có 2 cách process: thủ công và tự động • Thủ công: có th ể tiến hành process thủ công khi cần thiết ( có sự thay đổ i dữ liệu h ay cấu trúc hệ thống). • Tự động: có th ể lập lịch cho hệ thống tự động process sau mộ t khoảng thời gian quy định trước.
2.2. Quy trình thiết kế các đối tượng trong SSAS Hình 2.5 Các đố i tượng trong SSAS 2.2.1. Sơ lược về quy trình tạo Datawarehouse 2.2.1.1. Quy trình chung - Nhận dạng dữ liệu nguồn (Identify the data source): • Một trong những bước đầu tiên đ ể xây dự ng Data Warehouse là ph ải nhận biết các nguồn dữ liệu. Ta cần phải tính toán và xem xét những dữ liệu nào cần thiết đ ểđưa vào Data Warehouse. • Trong một Data Warehouse, có hai loại nguồn dữ liệu cần xem xét, đó là n guồn dữ liệu bên trong (internal data source) và bên ngoài (external data source). Dữ liệu bên trong là những dữ liệu đ ã có sẵn trong hệ thống hiện tại. Dữ liệu bên n goài là những dữ liệu từ nhiều ngu ồn khác nhau ngoài h ệ thống. - Chọn lọc d ữ liệu (Extracting Transactional Data): • Đây là bư ớc chi phố i hầu hết th ời gian của quy trình, vì chúng ta cần ph ải lấ y dữ liệu từ nhiều nguồn đã nh ận dạng ra đ ể đưa vào kho lưu trữ trung tâm. • Do các nguồn dữ liệu xuất phát từ nhiều h ệ thống khác nhau nên các hệ quản trị CSDL của chúng cũng khác nhau, ch ẳng hạn như MS Access, MS SQL Server, Oracle, Sybase, hoặc cũng có thể là flat files, spreadsheets, mail systems và nhiều d ạng lưu trữ dữ liệu khác. Vì thế, ta cần quyết định sẽ sử dụng h ệ CSDL nào cho việc tổ chức kho dữ liệu.
- Chuyển đổ i dữ liệu (Transforming Transactional Data): • Là quá trình chuyển đ ổi nh ằm đảm b ảo tính nhất qu ản củ a dữ liệu sau khi đ ã được chọn lọc từ nhiều nguồn khác nhau. • Để có th ể chuyển đổ i dữ liệu vào Data Warehouse một cách chính xác, ta cần phải xác định ánh xạ của các trường (field) từ n guồn dữ liệu bên ngoài đến các trường củ a data warehouse. • Sự chuyển đổ i này có thể được thực hiện trong quá trình chọn lọc (extracting) hoặc trong khi dữ liệu được đưa vào data warehouse. - Tải dữ liệu (Loading the Data): • Khi quá trình ch ọn lọc, chuyển đổi và làm sạch đ ã hoàn tất, dữ liệu sẽ được tải vào data warehouse. • Việc tải d ữ liệu có thể phân thành hai lo ại: tải toàn bộ dữ liệu đang có trong CSDL nguồn và tải những dữ liệu có sự thay đổ i trong CSDL nguồn vào data warehouse. • Dữ liệu trong data warehouse phải luôn được làm tươi, có nghĩa ph ải cập nh ật những thay đổi củ a dữ liệu. • Trong khi cập nhật data warehouse cần phải đảm b ảo không có dữ liệu nào bị m ất, đồng th ời chi phí cho quá trình duyệt các file đ ã tồn tại phải đạt m ức thấp nhất. 2.2.1.2. Công cụ thực hiện - Extract-Transform -Load (ETL): điển hình như DTS (Data Transformation Services) trong SQL Server, Informatica,... Về công cụ ETL dạng Open source có th ể kểđ ến Talend, Kettle… - Lập lịch: SQL Server Agent dùng để lập lịch cho việc tựđộng chuyển đổi từ CSDL nguồn vào data warehouse. 2.2.2. Quy trình tạo cube - Công cụ và database m ẫu sử dụng: • Business Intelligence Studio (đi kèm với MS SQL Sever) • Adventure Work Cycle Sample Database 2.2.2.1. Tạo DataSource Các bước như sau: 1. Trong khung Solution Explorer, phải chuột Data Sources và chọn New Data Source 2. Tại màn hình Welcome to Data Source Wizard, nh ấn Next để chuyển sang cửa sổ Select how to define the connection 3. Tại cửa sổ Select how to define the connection page, ta có thể định ngh ĩa một d ata source b ằng cách tạo mới connection hoặc trên một connection đ ã có sẵn. Trong bài hướng dẫn này, ta sẽđ ịnh ngh ĩa một data source bằng cách tạo mới một connection, kiểm tra checkbox Create a data source based on an existing or new connection được chọn và nhấn New