Phân tích dữ liệu môi trường truyền thông xã hội và dữ liệu có cấu trúc với BigInsights InfoSphere

Chia sẻ: Nhung Nhung | Ngày: | Loại File: PDF | Số trang:28

Thêm vào BST

Báo xấu

168
lượt xem 19
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Bạn có thể đã nghe nói về Big Data (dữ liệu lớn) và tác động của nó đối với việc phân tích kinh doanh. Và có lẽ bạn đang tự hỏi tổ chức của mình có thể thu nhặt được những hiểu biết gì từ việc nắm bắt, xử lý và quản lý dữ liệu lớn được thu thập từ các trang web, các cảm biến điện tử hoặc các bản ghi nhật ký phần mềm, cùng với các dữ liệu truyền thống mà bạn đã có. Chắc chắn, không thiếu các dự án của bên thứ ba và nguồn...

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Phân tích dữ liệu môi trường truyền thông xã hội và dữ liệu có cấu trúc với BigInsights InfoSphere

Phân tích dữ liệu môi trường truyền thông xã hội và dữ liệu có cấu trúc với BigInsights InfoSphere Bạn có thể đã nghe nói về Big Data (dữ liệu lớn) và tác động của nó đối với việc phân tích kinh doanh. Và có lẽ bạn đang tự hỏi tổ chức của mình có thể thu nhặt được những hiểu biết gì từ việc nắm bắt, xử lý và quản lý dữ liệu lớn được thu thập từ các trang web, các cảm biến điện tử hoặc các bản ghi nhật ký phần mềm, cùng với các dữ liệu truyền thống mà bạn đã có. Chắc chắn, không thiếu các dự án của bên thứ ba và nguồn mở được thiết kế để giúp bạn giải quyết các khía cạnh khác nhau của các dự án Big Data của mình. Nhưng hầu hết các dự án đều được hướng về phía các lập trình viên, các quản trị viên và các chuyên gia kỹ thuật với các kỹ năng cụ thể. Điều gì sẽ xảy ra nếu bạn muốn làm cho Big Data có thể tới được các nhà phân tích kinh doanh, các nhà lãnh đạo ngành kinh doanh và các nhân viên khác, những người không phải là các lập trình viên? BigSheets đáng giá hơn vẻ bề ngoài của nó. Đó là một công cụ kiểu-bảng tính đi kèm với InfoSphere BigInsights, cho phép những người không phải là lập trình viên có thể khám phá, thao tác và hiển thị trực quan dữ liệu được lưu trữ trong hệ thống tệp phân tán của bạn. Các ứng dụng ví dụ mẫu kèm theo BigInsights giúp bạn thu thập và nhập dữ liệu từ nhiều nguồn khác nhau. Trong bài này, chúng tôi sẽ giới thiệu cho bạn về BigSheets và hai ứng dụng ví dụ mẫu đi kèm theo nó. Nền tảng BigInsights là một nền tảng phần mềm có thể giúp các công ty phát hiện và phân tích những hiểu biết kinh doanh ẩn dấu trong các khối lượng lớn của rất nhiều lĩnh vực dữ liệu — dữ liệu thường bị bỏ qua hoặc bị vứt bỏ vì nó quá không thực tế hoặc quá khó xử lý bằng cách sử dụng các phương tiện truyền thống. Để giúp các doanh nghiệp lấy được giá trị từ những dữ liệu đó một cách hiệu quả, Ấn bản Doanh nghiệp của BigInsights bao gồm một số dự án nguồn mở, gồm có Apache Hadoop và một số công nghệ đã phát triển của IBM, gồm BigSheets. Hadoop và các dự án liên quan của nó cung cấp một framework phần mềm hiệu quả cho các ứng dụng chuyên về dữ liệu, khai thác các môi trường tính toán phân tán để đạt được khả năng mở rộng quy mô cao. Các công nghệ của IBM làm phong phú thêm framework nguồn mở này với phần mềm phân tích, tích hợp phần mềm doanh nghiệp, các phần mở rộng nền tảng và các công cụ. Để biết thêm thông tin về BigInsights, hãy xem phần Tài nguyên. BigSheets là một công cụ phân tích dựa trên trình duyệt ban đầu được nhóm Emerging Technologies của IBM phát triển. Hiện nay, BigSheets được gắn với BigInsights để cho phép những người dùng doanh nghiệp và không phải là lập trình viên khám phá và phân tích dữ liệu trong các hệ thống tệp phân tán. BigSheets trình bày một giao diện như-bảng tính để người dùng có thể mô hình hóa, lọc, kết hợp, khám phá và vẽ biểu đồ dữ liệu được thu thập từ nhiều nguồn khác nhau. Giao diện bàn điều khiển web của BigInsights gồm có một ngăn (tab) ở trên đỉnh để truy cập BigSheets. Xem phần Tài nguyên để biết thêm chi tiết về giao diện bàn điều khiển web này.
Hình 1 mô tả một bộ sưu tập dữ liệu ví dụ mẫu trong BigSheets. Trong khi nó trông giống như một bảng tính điển hình, bộ sưu tập này chứa các dữ liệu từ các blog được đăng lên các trang web công cộng và các nhà phân tích thậm chí có thể nhấn chuột vào các liên kết có trong bộ sưu tập để truy cập vào trang web đã xuất bản nội dung nguồn. Hình 1. Bộ sưu tập ví dụ mẫu BigSheets dựa trên dữ liệu của môi trường truyền thông xã hội, có các liên kết đến nội dung nguồn Sau khi định nghĩa một bộ sưu tập BigSheets, một nhà phân tích có thể lọc hoặc chuyển đổi dữ liệu của nó như mong muốn. Ở hậu trường, BigSheets dịch các lệnh của người dùng, được thể hiện thông qua một giao diện đồ họa, thành các kịch bản lệnh Pig được thực hiện dựa vào một tập hợp con của các dữ liệu bên dưới. Theo cách này, một nhà phân tích có thể nhiều lần khám phá các biến đổi khác nhau một cách hiệu quả. Khi đã hài lòng, người sử dụng có thể lưu và chạy bộ sưu tập, làm cho BigSheets bắt đầu công việc MapReduce trên bộ dữ liệu đầy đủ, viết các kết quả vào hệ thống tệp phân tán và hiển thị các nội dung của bộ sưu tập mới. Các nhà phân tích có thể lật trang và thao tác tập hợp dữ liệu đầy đủ như mong muốn. Bổ sung cho BigSheets là một số ứng dụng ví dụ mẫu đã dựng sẵn mà những người dùng doanh nghiệp có thể khởi chạy chúng từ giao diện bàn điều khiển web của BigInsights để thu thập dữ liệu từ các trang web, các hệ thống quản lý cơ sở dữ liệu quan hệ (RDBMS), các hệ thống tệp từ xa và các nguồn khác. Chúng tôi sẽ dựa vào hai ứng dụng như vậy cho công việc được mô tả ở đây. Tuy nhiên, điều quan trọng cần hiểu rõ là các lập trình viên và các quản trị viên có thể sử dụng các công nghệ BigInsights khác để thu thập, xử lý và chuẩn bị dữ liệu cho việc phân tích tiếp theo trong BigSheets. Các công nghệ này gồm có Jaql, Flume, Pig, Hive, các ứng dụng MapReduce và các công nghệ khác. IBM Watson
IBM Watson là một dự án nghiên cứu mà nó thực hiện các phân tích phức tạp để trả lời các câu hỏi được trình bày theo một ngôn ngữ tự nhiên. Phần mềm của Watson tra cứu dữ liệu được thu thập từ nhiều nguồn khác nhau và sử dụng Hadoop để xử lý hiệu quả dữ liệu này qua một hệ thống các máy chủ IBM Power 750. IBM Watson đầu tiên được dùng trong một cuộc thi trò chơi trên truyền hình vào năm 2011, đánh bại hai người chơi dẫn đầu. Xem phần Tài nguyên để biết thêm các chi tiết về IBM Watson và chương trình trò chơi Jeopardy!. Trước khi bắt đầu, chúng ta hãy xem xét các kịch bản ứng dụng ví dụ mẫu. Việc này đòi hỏi phân tích dữ liệu của môi trường truyền thông xã hội về IBM Watson và, cuối cùng, nối dữ liệu này với dữ liệu nội bộ của IBM đã mô phỏng về các nỗ lực tiếp cận môi trường truyền thông được trích ra từ một DBMS quan hệ. Ý tưởng là khám phá khả năng hiển thị, đưa tin và "lan truyền" xung quanh một nhãn hàng, dịch vụ hay dự án nổi bật — một yêu cầu chung trong nhiều tổ chức. Chúng tôi sẽ không trình bày hết các khả năng phân tích cho một ứng dụng như vậy ở đây, do ý định của chúng tôi chỉ đơn giản là nêu bật cách các khía cạnh quan trọng của BigSheets có thể giúp các nhà phân tích bắt đầu nhanh chóng công việc với dữ liệu lớn như thế nào. Tuy nhiên, công việc mà chúng ta sẽ tìm hiểu sẽ giúp bạn hiểu những gì là có thể với một chút nỗ lực — và có lẽ mang đến một hay hai bất ngờ về sự nổi tiếng của IBM Watson. Về đầu trang Bước 1: Thu thập dữ liệu của bạn Trước khi khởi chạy BigSheets, bạn cần một số dữ liệu dùng cho việc phân tích của mình. Trước hết, chúng ta sẽ tập trung vào việc thu thập dữ liệu của môi trường truyền thông xã hội. Thu thập dữ liệu của môi trường truyền thông xã hội Như bạn có thể dự kiến, việc thu thập và xử lý dữ liệu được trích ra từ các trang web của môi trường truyền thông xã hội có thể là thách thức, do các trang web khác nhau nắm giữ thông tin khác nhau và sử dụng các cấu trúc dữ liệu khác nhau. Hơn nữa, việc xác định và dò tìm qua rất nhiều các trang web cá nhân có thể rất tốn thời gian. Ở đây, chúng tôi đã sử dụng ứng dụng ví dụ mẫu BoardReader kèm theo BigInsights để khởi chạy một tìm kiếm về các blog, các nguồn cấp tin tức, các diễn đàn thảo luận và các trang web video. Hình 2 minh họa các tham số đầu vào mà chúng tôi đã cung cấp cho ứng dụng BoardReader của BigInsights, chúng tôi đã khởi chạy nó từ trang Applications (Các ứng dụng của) giao diện bàn điều khiển Web của BigInsights. Nếu bạn chưa quen với giao diện bàn điều khiển web và danh mục các ứng dụng mẫu của nó, hãy xem phần Tài nguyên.
Hình 2. Gọi ứng dụng BoardReader từ giao diện bàn điều khiển web BigInsights Hãy xem xét nhanh các tham số đầu vào được hiển thị trong Hình 2. Results Path (Đường dẫn Các kết quả) chỉ rõ thư mục của hệ thống tệp phân tán Hadoop (HDFS) với kết quả của của ứng dụng. Các tham số tiếp theo cho biết rằng chúng tôi đã hạn chế các kết quả được trả về tới tối đa là 25.000 kết quả phù hợp và khoảng thời gian tìm kiếm bắt đầu từ 01.01.2011 đến cuối 31.03.2012. Properties File (Tệp Đặc tính) tham khảo kho lưu trữ thông tin của BigInsights mà chúng tôi đã điền vào bằng khóa bản quyền của BoardReader của chúng tôi. (Mỗi khách hàng phải liên hệ với BoardReader để nhận được một khóa bản quyền hợp lệ). Và "IBM Watson" là chủ đề tìm kiếm của chúng ta. Sau khi chạy ứng dụng, hệ thống tệp phân tán có chứa bốn tệp mới trong thư mục kết quả, như được hiển thị ở dưới cùng của Hình 3.
Hình 3. Kết quả của ứng dụng được lưu trữ trong BigInsights Để giữ cho mọi thứ đơn giản, trong bài này, chúng tôi sẽ chỉ sử dụng dữ liệu tin tức và blog. Nếu bạn muốn làm theo cùng với kịch bản ứng dụng ví dụ mẫu của chúng tôi, hãy thực hiện các ứng dụng BoardReader với các tham số mà chúng tôi đã quy định hoặc tải về dữ liệu ví dụ mẫu. Lưu ý rằng việc tệp tải xuống chỉ chứa một tập hợp con thông tin mà BoardReader thu thập từ các nguồn cấp tin tức và các blog. Cụ thể là, chúng tôi đã loại bỏ nội dung toàn văn bản/HTML của các bài đăng và các mục tin tức cũng như siêu dữ liệu cụ thể từ các tệp mẫu. Dữ liệu này không cần thiết cho các nhiệm vụ phân tích được trình bày ở đây và chúng tôi cũng muốn giữ cho kích cỡ của mỗi tệp ở mức dễ sử dụng. Mỗi tệp được ứng dụng BoardReader trả về đều theo định dạng JSON. Bạn có thể hiển thị một phần nhỏ của dữ liệu này như là văn bản trong trang Files (Các tệp) của giao diện bàn điều khiển web của BigInsights, nhưng khó đọc các kết quả. Lúc này, bạn sẽ thấy cách chuyển đổi dữ liệu này thành "các trang bảng tính" hoặc các bộ sưu tập dữ liệu BigSheets, đó là cách dễ hơn nhiều để tìm hiểu. Nhưng điều đáng lưu ý là mỗi tệp có chứa một cấu trúc JSON hơi khác một chút —
một tình huống cần giải quyết khi mô hình hóa một bộ sưu tập, mà nó hợp nhất các tập hợp dữ liệu blog và tin tức. Trong các dự án dữ liệu lớn, điều khá phổ biến là phải chuẩn bị hoặc chuyển đổi các cấu trúc dữ liệu của bạn theo cách nào đó để đơn giản hóa việc phân tích tiếp theo. Thu thập dữ liệu từ một DBMS quan hệ Sau khi tìm hiểu một số khía cạnh nhất định về dữ liệu của môi trường truyền thông xã hội này, chúng ta sẽ nối nó với dữ liệu được trích ra từ một DBMS quan hệ. Nhiều dự án dữ liệu lớn đòi hỏi phân tích các nguồn thông tin mới, chẳng hạn như dữ liệu của môi trường truyền thông xã hội, trong bối cảnh có mặt thông tin doanh nghiệp, bao gồm dữ liệu được lưu trữ trong một DBMS quan hệ. BigInsights cung cấp kết nối đến các DBMS quan hệ và các kho dữ liệu khác nhau, gồm có Netezza, DB2®, Informix®, Oracle, Teradata và những cái khác. Đối với kịch bản ví dụ mẫu của chúng tôi, chúng tôi đã điền vào một bảng DB2 có dữ liệu mô phỏng về các nỗ lực tiếp cận môi trường truyền thông của IBM. Việc nối dữ liệu quan hệ này với thông tin được trích ra từ các trang web môi trường truyền thông xã hội có thể cung cấp cho chúng ta một số dấu hiệu về tính hiệu quả và đạt được những nỗ lực công khai khác nhau. Trong khi BigInsights cung cấp truy cập truy vấn DBMS quan hệ động thông qua một giao diện dòng lệnh, chúng tôi đã sử dụng ứng dụng ví dụ mẫu Data Import (Nhập khẩu dữ liệu) của giao diện bàn điều khiển web của BigInsights để trích ra dữ liệu quan tâm. Hình 4 minh họa các tham số đầu vào mà chúng tôi đã cung cấp cho ứng dụng này. Tệp đặc tính mykeys trong kho lưu trữ thông tin BigInsights chứa các tham số đầu vào JDBC cần thiết để thiết lập một kết nối cơ sở dữ liệu, gồm URL JDBC (ví dụ, jdbc:db2://myserver.ibm.com:50000/sample), lớp trình điều khiển JDBC (ví dụ, com.ibm.db2.jcc.DB2Driver) và mã định danh (ID) và mật khẩu người dùng DBMS. Các tham số đầu vào khác gồm có một câu lệnh SQL SELECT đơn giản để lấy dữ liệu quan tâm từ cơ sở dữ liệu đích, định dạng kết quả (tệp các giá trị được phân cách bằng dấu phẩy) và thư mục kết quả của BigInsights cho các kết quả. Hình 4. Gọi ứng dụng nhập khẩu dữ liệu từ giao diện bàn điều khiển web BigInsights
Lưu ý rằng trước khi thực hiện ứng dụng này, chúng tôi đã tải lên các tệp trình điều khiển DBMS thích hợp vào thư mục hệ thống tệp phân tán BigInsights cần thiết (/biginsights/oozie/sharedLibraries/dbDrivers). Do DB2 Express-C đã là DBMS nguồn của chúng tôi, nên chúng tôi tải lên các tệp its db2jcc4.jar và db2jcc_license_cu.jar. Để làm theo cùng với công việc liên quan đến DBMS trong kịch bản ứng dụng ví dụ mẫu của chúng tôi, hãy tải về bản miễn phí của DB2 Express-C (xem phần Tài nguyên để có một liên kết), tạo ra và điền vào một bảng ví dụ mẫu và thực thi ứng dụng Data Import của BigInsights như đã mô tả. Ngoài ra, bạn có thể tải về tệp CSV được trích ra từ DB2 và tải nó lên trực tiếp vào BigInsights. Về đầu trang Bước 2: Tạo các bộ sưu tập BigSheets Để bắt đầu phân tích dữ liệu của bạn bằng BigSheets, bạn cần phải tạo ra các bộ sưu tập — các cấu trúc kiểu-bảng tính — mà nó mô hình hóa các tệp quan tâm trong hệ thống tệp phân tán của bạn. Đối với kịch bản của chúng tôi, những tệp này gồm dữ liệu blog dựa trên-JSON được ứng dụng BoardReader của IBM thu thập và dữ liệu dựa trên -CSV được trích ra từ DB2 bởi ứng dụng Data Import của IBM. Hãy làm theo những bước sau đây để tạo bộ sưu tập: 1. Từ trang Files của giao diện bàn điều khiển web, hãy sử dụng trình dẫn hướng hệ thống tệp để chọn tệp news-data.txt (xem Hình 3). 2. Trong ô cửa sổ bên phải, chọn nút Sheets (Các trang bảng tính) để thay đổi định dạng hiển thị từ Text (Văn bản) sang Sheets. Như thể hiện trong Hình 5, nút này được đặt ở bên phải của đặc tả Viewing Size (Kích cỡ khung nhìn). 3. Chỉ rõ "trình đọc" (reader) thích hợp hoặc trình chuyển dịch (translator) định dạng dữ liệu cho tệp của bạn. Như Hình 5 cũng cho thấy, BigSheets cung cấp các trình đọc dựng sẵn khác nhau để làm việc với các định dạng dữ liệu phổ biến. Đối với tệp ví dụ mẫu này, trình đọc JSON Array (Mảng JSON) là thích hợp. 4. Lưu bộ sưu tập mới của bạn, đặt tên nó là "Watson_news" (các tin tức_Watson).
Hình 5. Tạo một bộ sưu tập với một "trình đọc" thích hợp Làm theo quá trình tương tự để tạo ra một bộ sưu tập riêng cho tệp blogs-data.txt, đặt tên bộ sưu tập là "Watson_blogs". Cuối cùng, hãy tạo một bộ sưu tập thứ ba cho tệp CSV với dữ liệu DBMS, chọn Dữ liệu CSV (Comma Separated Values) của BigSheets làm trình đọc cho tệp này. Đặt tên bộ sưu tập này là "Media_Contacts". Điều đáng lưu ý là bạn có thể tạo ra một bộ sưu tập dựa trên các nội dung của một thư mục, chứ không phải là một tệp duy nhất. Để làm như vậy, hãy sử dụng trình dẫn hướng hệ thống tệp để nhận dạng thư mục đích, nhấn chuột vào nút Sheets trong ô cửa sổ bên phải và chỉ rõ trình đọc thích hợp được áp dụng cho tất cả các tệp trong thư mục. Tuy nhiên, kịch bản ứng dụng được mô tả trong bài này yêu cầu ba bộ sưu tập riêng, như được mô tả ở trên. Về đầu trang Bước 3: Điều chỉnh bộ sưu tập của bạn Rất nhiều lần, các nhà phân tích cũng muốn điều chỉnh định dạng, nội dung và cấu trúc của các bộ sưu tập của họ trước khi nghiên cứu các khía cạnh khác nhau của chính dữ liệu đó. BigSheets cung cấp một số các macro và các hàm để hỗ trợ các hoạt động chuẩn bị dữ liệu như vậy. Trong phần này, chúng ta sẽ tìm hiểu hai lựa chọn sau: loại bỏ dữ liệu không cần thiết bằng cách xóa các cột và hợp nhất dữ liệu từ hai bộ sưu tập thông qua một phép hợp. Xóa các cột
Ứng dụng BoardReader của BigInsights trả về dữ liệu tin tức và blog điền vào các cột khác nhau trong mỗi bộ sưu tập BigSheets. Chúng tôi chỉ cần một tập hợp con của các cột này dùng cho việc phân tích mà chúng tôi sẽ thảo luận trong bài này, do đó một bước đầu quan trọng đòi hỏi phải tạo ra các bộ sưu tập mới chỉ giữ lại các cột mà chúng tôi muốn: 1. Từ trang chủ BigSheets, hãy mở bộ sưu tập Watson_news mà bạn đã tạo ra từ tệp news- data.txt. 2. Nhấn chuột vào Build New Collection (Xây dựng bộ sưu tập mới). 3. Chuyển hướng đến cột IsAdult, như hiển thị trong Hình 6. Nhấn chuột vào mũi tên xuống trong tiêu đề cột và Remove (Loại bỏ) cột. Làm điều này với tất cả các cột trong bộ sưu tập, ngoại trừ các cột Country, FeedInfo, Language, Published, SubjectHtml, Tags, Type và Url. 4. Lưu và thoát ra, đặt tên cho bộ sưu tập mới là "Watson_news_revised". Khi được nhắc, hãy chạy bộ sưu tập này. Lưu ý rằng một thanh trạng thái ở bên phải của nút Run cho phép bạn theo dõi tiến trình công việc. (Ở hậu trường, BigSheets thực hiện các kịch bản lệnh Pig để bắt đầu các công việc MapReduce khi bạn chạy một bộ sưu tập. Như bạn có thể tưởng tượng, hiệu năng thời gian chạy phụ thuộc vào khối lượng dữ liệu được liên kết với bộ sưu tập của bạn và các tài nguyên hệ thống có sẵn). Hình 6. Loại bỏ một cột khỏi một bộ sưu tập Vì cuối cùng chúng tôi muốn hợp nhất dữ liệu blog và tin tức vào một bộ sưu tập duy nhất để phân tích thêm, hãy làm theo cách tiếp cận tương tự để tạo ra một bộ sưu tập mới của dữ liệu blog, mà nó chỉ chứa các cột dành cho Country, FeedInfo, Language, Published, SubjectHtml, Tags, Type và Url. Hãy đặt tên cho bộ sưu tập blog mới là "Watson_blogs_revised".
Sát nhập hai bộ sưu tập thành một thông qua một phép hợp Tiếp theo, sát nhập các bộ sưu tập vừa mới chỉnh sửa (Watson_news_revised và Watson_blogs_revised) thành một bộ sưu tập duy nhất, sẽ dùng như là cơ sở để tìm hiểu tin tức về IBM Watson. Để làm như vậy, sử dụng toán tử hợp của BigSheets. Lưu ý rằng nó đòi hỏi tất cả các trang bảng tính có cùng một cấu trúc. Nếu bạn đã làm theo các chỉ dẫn trong phần trước, bạn sẽ có hai bộ sưu tập như vậy để sát nhập, mỗi bộ có các cột Country, FeedInfo, Language, Published, SubjectHtml, Tags, Type và Url, theo thứ tự đó. Để sát nhập các bộ sưu tập: 1. Mở bộ sưu tập Watson_news_revised và nhấn chuột vào Build New Collection. 2. Nhấn vào Add sheets > Load để thêm các nội dung của bộ sưu tập khác vào mô hình làm việc của bạn. (Xem Hình 7.) Khi được nhắc, hãy chọn Watson_blogs_revised collection (bộ sưu tập Watson_blogs_revised), đặt tên trang bảng tính của bạn là "Blogs" và nhấn chuột vào dấu chọn màu xanh lá cây để áp dụng hoạt động này. Hình 7. Chuẩn bị nạp một bộ sưu tập vào một trang bảng tính mới 3. Kiểm tra màn hình của bạn, trong đó sẽ có trang bảng tính mới. Lưu ý rằng góc dưới bên trái của bộ sưu tập của bạn có một ngăn (tab) mới cho nó. (Xem Hình 8.)
Hình 8. Xem xét một trang bảng tính mới 4. Nhấn Add sheets > Union để tạo ra một trang bảng tính khác để hợp nhất dữ liệu blog với dữ liệu tin tức. Khi được nhắc, nhấn chuột vào trình đơn thả xuống và chọn Watson_news_revised làm trang bảng tính mà bạn sẽ hợp nhất với dữ liệu blog mà bạn vừa nạp. (Xem Hình 9.) Nhấn chuột vào dấu cộng (+) bên cạnh hộp, rồi nhấn vào dấu chọn màu xanh lá cây ở phía dưới cùng để bắt đầu hợp nhất.
Hình 9. Chỉ rõ các trang bảng tính để hợp nhất 5. Lưu và thoát ra, đặt tên nó là Watson_news_blogs. Chạy bộ sưu tập này. Tiếp theo, phân tích dữ liệu trong bộ sưu tập mới này. Về đầu trang Bước 4: Khai thác bộ sưu tập để kiểm tra tin tức về IBM Watson Một lĩnh vực mà chúng ta muốn khai thác đòi hỏi mối quan tâm và tin tức toàn cầu về IBM Watson. Ban đầu, bạn có thể bị lôi kéo lựa chọn bộ sưu tập Watson_news_blogs dựa trên các giá trị cột country. Tuy nhiên, nếu bạn kiểm tra dữ liệu, bạn sẽ thấy rằng nhiều hàng có chứa các giá trị rỗng (null) với cột này. Đây là trường hợp điển hình của dữ liệu được thu thập từ các trang web môi trường truyền thông xã hội và các nguồn khác. Thông thường, dữ liệu mong muốn còn thiếu, buộc các nhà phân tích phải xem xét các phương tiện khác để đi sâu vào các lĩnh vực quan tâm. Sắp xếp các bản ghi Hầu hết các mục blog và tin tức của chúng ta đều chỉ thị ngôn ngữ ban đầu, vì vậy chúng ta sẽ sắp xếp các bản ghi của mình theo ngôn ngữ và kiểu để giúp chúng ta tìm hiểu tin tức toàn cầu về IBM Watson trong các bài đăng tin tức và blog:
1. Mở bộ sưu tập Watson_news_blogs và nhấn vào Build New Collection. 2. Từ tiêu đề Language (Ngôn ngữ), hãy để lộ ra trình đơn thả xuống và nhấn vào Sort > Advanced. Khi được nhắc, hãy chọn cột Language và cột Type từ trình đơn Add Columns to Sort (Thêm các cột để sắp xếp). Thay đổi giá trị sắp xếp của Language là Descending (Giảm dần) và kiểm tra xem Language có là cột sắp xếp chính không, như thể hiện trong Hình 10. Nhấn chuột vào mũi tên màu xanh lá cây để áp dụng hoạt động này dựa vào một tập hợp con dữ liệu của bạn. Hình 10. Chuẩn bị sắp xếp một bộ sưu tập trên hai cột, với cột Language làm cột chính 3. Kiểm tra 50 bản ghi ví dụ mẫu được hiển thị và lưu ý các ngôn ngữ khác nhau được trích dẫn. 4. Lưu và thoát khỏi bộ sưu tập của bạn, đặt tên nó Watson_sorted. Sau đó chạy bộ sưu tập dựa vào tập hợp dữ liệu đầy đủ. Khi bạn kiểm tra các kết quả trả về, bạn sẽ thấy có nhiều bản ghi với các ngôn ngữ cụ thể, chẳng hạn như tiếng Việt, hơn so với bạn đã làm trong bước trước. Vẽ biểu đồ các kết quả Mặc dù bạn có thể lật trang thông qua các bộ sưu tập của mình để tìm hiểu tin tức về IBM Watson theo các ngôn ngữ khác nhau, cách dễ nhất để hiển thị trực quan "sự lan truyền" trên toàn thế giới chỉ có thể là vẽ biểu đồ các kết quả. Làm như vậy sẽ tạo ra một khung nhìn rộng, có thể dùng làm nguồn cảm hứng cho các nỗ lực thăm dò và phân tích thêm. BigSheets hỗ trợ một loạt kiểu biểu đồ, bao gồm các biểu đồ thanh, các biểu đồ tròn, đám mây thẻ và các biểu đồ khác. Chúng tôi sẽ sử dụng một biểu đồ hình tròn đơn giản ở đây: 1. Với bộ sưu tập Watson_sorted đã mở, hãy nhấn vào Add chart > Chart > Pie. (Thêm biểu đồ> Biểu đồ> Hình tròn). (Ngăn Add chart - Thêm biểu đồ ở góc dưới bên trái của bộ sưu tập bên cạnh ngăn Result). 2. Khi được nhắc, hãy cung cấp các giá trị mà bạn đã chọn cho tên và tiêu đề của biểu đồ. Chọn cột Language làm giá trị mà bạn muốn vẽ biểu đồ, giữ nguyên thiết lập trường
Count (Đếm) theo giá trị mặc định của nó. Thiết lập lại giá trị Limit (Giới hạn) là 12, vì thế biểu đồ hình tròn sẽ phản ánh dữ liệu về 12 ngôn ngữ xuất hiện thường xuyên nhất trong bộ sưu tập này. Xem Hình 11. Hình 11. Các tham số đầu vào để tạo ra một biểu đồ hình tròn 3. Nhấn chuột vào dấu chọn màu xanh lá cây và chạy biểu đồ khi được nhắc. Như bạn có thể dự kiến, biểu đồ hình tròn kết quả chỉ ra rằng gần 79% dữ liệu tin tức và blog mà chúng tôi đã thu thập đã được xuất bản bằng tiếng Anh. Nhưng bạn có thể dự đoán ngôn ngữ phổ biến nhất tiếp sau cho IBM Watson không? Biểu đồ hình tròn được minh họa trong Hình 12 chỉ ra rằng đó là tiếng Nga. Bằng cách di chuột trên bất kỳ lát mỏng nào của một biểu đồ hình tròn đã hiển thị trong BigSheets, bạn có thể xác định giá trị bên dưới của nó (trong trường hợp này là giá trị cột Language). Hình 12. Đo mối quan tâm toàn cầu về IBM Watson theo ngôn ngữ, dựa trên dữ liệu tin tức
và blog có sẵn Xóa các giá trị dữ liệu Nếu bạn di chuột qua các lát mỏng lớn nhất thứ năm và thứ sáu của biểu đồ hình tròn được hiện thị trong Hình 12 (với tỷ lệ phần trăm là 2,6 và 1,9), bạn sẽ thấy rằng chúng là hai biến thể tiếng Trung Quốc. Điều này minh họa một tình hình phổ biến khác liên quan đến dữ liệu được thu thập từ các nguồn dữ liệu khác nhau, chẳng hạn như các trang web môi trường truyền thông xã hội khác nhau — các giá trị dữ liệu mà bạn có thể muốn xử lý giống hệt thường được biểu diễn hơi khác một chút. Hãy tìm hiểu cách sử dụng BigSheets để thay đổi các giá trị này sao cho các biến thể tiếng Trung Quốc được thay thế bằng một giá trị duy nhất của "tiếng Trung Quốc": 1. Nếu cần, hãy mở bộ sưu tập Watson_sorted và nhấn vào nút Edit (bên dưới tên của bộ sưu tập ở góc trên bên trái). 2. Điều hướng đến cột Language và nhấn vào mũi tên xuống trong tiêu đề cột để trưng ra trình đơn thả xuống. Chọn Insert Right > New Column để tạo một cột mới để chứa dữ liệu đã xóa. Khi được nhắc, hãy đặt tên cột mới là LanguageRevised và nhấn chuột vào dấu chọn màu xanh lá cây để hoàn thành hoạt động này. 3. Với con trỏ của bạn được đặt trên cột LanguageRevised, hãy nhập công thức sau đây vào hộp fx (đặc tả công thức) ở phía trên cùng của trang bảng tính: IF(SEARCH('Chin*', #Language) > 0, 'Chinese', #Language). Xem Hình 13. Hình 13. Chỉ rõ một công thức để lấy một giá trị của cột
Công thức này làm cho BigSheets tìm kiếm các giá trị bắt đầu bằng "Chin" trong cột Language của trang bảng tính này. Khi nó tìm thấy các giá trị như vậy, nó ghi "Chinese" (tiếng Trung Quốc) vào cột LanguageRevised; nếu không, nó sao chép các giá trị đã tìm thấy trong cột Language vào cột LanguageRevised. InfoCenter BigInsights (đã có trong phần Tài nguyên). Nhấn vào dấu chọn màu xanh lá cây để áp dụng công thức này. 4. Lưu và thoát khỏi công việc của bạn. Khi một cảnh báo xuất hiện về dữ liệu không đồng bộ, hãy chạy định nghĩa sửa đổi của bộ sưu tập này. 5. Tạo một biểu đồ hình tròn 12-lát mới dựa trên các giá trị trong cột LanguageRevised và so sánh các kết quả với biểu đồ hình tròn mà bạn đã tạo ra trước đó (dựa trên dữ liệu "thô" trong cột Language). Lưu ý rằng biểu đồ hình tròn mới của bạn cho thấy rằng "tiếng Trung Quốc" là ngôn ngữ phổ biến nhất thứ hai, tiếp theo là Nga, Tây Ban Nha và Đức. Nghiên cứu sâu hơn: Lọc các kết quả và trích ra dữ liệu URL Dữ liệu mà bạn vừa mới kiểm tra có thể gây ra một loạt các câu hỏi yêu cầu kiểm tra thêm. Đây là trường hợp khá điển hình của việc phân tích dữ liệu lớn, thường được lặp lại và thăm dò theo tự nhiên. Hãy nghiên cứu sâu hơn một chút tin tức về IBM Watson theo các bài đăng tin tức và blog dựa trên tiếng Anh để cố gắng tìm ra việc đưa tin này ở Vương quốc Anh. Phù hợp với tính chất giới thiệu của bài này, chúng ta sẽ có cách tiếp cận đơn giản để kiểm tra chủ đề này. Cụ thể, chúng ta sẽ lấy một bộ sưu tập mới từ bộ sưu tập Watson_sorted vẫn giữ các bản ghi bằng tiếng Anh với các tên miền URL kết thúc bằng ".uk" hoặc một giá trị Country là "GB" (viết tắt của Great Britain). Để đạt được điều này, chúng ta sẽ cần sử dụng toán tử bộ lọc BigSheets cũng như một macro để trích ra dữ liệu máy chủ URL từ một chuỗi URL đầy đủ: 1. Mở bộ sưu tập Watson_sorted và xây dựng một bộ sưu tập mới. 2. Thêm một trang bảng tính có sử dụng hoạt động Filter (Lọc). 3. Khi được nhắc, hãy chọn Match all (So khớp tất cả) và chỉ rõ Language là tiếng Anh trong ba hộp trình đơn thả xuống, như thể hiện trong Hình 14. Sau đó nhấn chuột vào dấu chọn màu xanh lá cây để áp dụng hoạt động này cho một tập hợp con các dữ liệu của bộ sưu tập.
Hình 14. Lọc dựa trên một giá trị cột 4. Lưu công việc của bạn (đặt tên trang bảng tính này là Watson_sorted_English_UK ), nhưng không thoát ra, vì bạn sẽ tiếp tục tinh chỉnh bộ sưu tập này. 5. Thêm một trang bảng tính khác để gọi một Macro. Khi được nhắc, hãy nhấn vào Categories > url > URLHOST. Chọn cột URL của bộ sưu tập của bạn làm cột đích chứa các giá trị URL. (Macro sẽ đọc các giá trị trong cột này và trích ra thông tin máy chủ URL từ chuỗi lớn hơn. Ví dụ, dựa vào một giá trị URL của "http://www.georgeemsden.co.uk/2011/09/how-long-before-your-laptop-finds-a-cure-for- cancer/," macro này sẽ trả về "www.georgeemsden.co.uk" làm tên máy chủ URL). 6. Nhấn vào ngăn Carry Over (Để lại) ở dưới cùng của ô cửa sổ này, như thể hiện trong Hình 15. Điều này quan trọng bởi vì nó cho phép bạn chỉ rõ bạn muốn giữ lại các cột nào của bộ sưu tập hiện tại (hoặc "để lại").
Hình 15. Làm việc với macro URLHOST 7. Nhấn vào Add all (Thêm tất cả) để giữ lại tất cả các cột hiện có và áp dụng hoạt động này. Lưu công việc của bạn, nhưng không thoát ra. 8. Thêm một trang bảng tính khác để lọc thêm dữ liệu. Khi được nhắc, phối hợp bất kỳ trong hai tiêu chí sau đây: "URLHOST ends with uk" và "Country is GB", như thể hiện trong Hình 16. (Do tính chất dàn trải của dữ liệu trong bộ sưu tập này, chúng ta cần phối hợp cả hai điều kiện này để phát hiện các trang chủ URL đặt tại Anh). Áp dụng hoạt động này.
Hình 16. Lọc dữ liệu dựa trên hai cột 9. Lưu và thoát khỏi bộ sưu tập, sau đó chạy nó. Việc sắp xếp các kết quả trên cột URLHOST hoặc vẽ một biểu đồ sẽ cho phép bạn nhanh chóng xác định các trang web của Vương quốc Anh trong bộ sưu tập kết quả đã trình bày IBM Watson thường xuyên nhất. Ví dụ, Hình 17 mô tả một biểu đồ đám mây thẻ mà chúng tôi đã tạo ra cho10 trang web hàng đầu như vậy. Như với bất kỳ đám mây thẻ BigSheets nào, phông chữ càng lớn chỉ thị sự xuất hiện càng nhiều của giá trị dữ liệu và việc di chuyển trên một giá trị dữ liệu cho thấy số lần đã xuất hiện trong bộ sưu tập. Hình 17. 10 trang web hàng đầu của Vương quốc Anh có tin tức về IBM Watson Về đầu trang Bước 5: Kiểm tra thêm, kết hợp dữ liệu môi trường truyền thông xã hội và dữ liệu có cấu trúc Trước khi kết thúc giới thiệu này về BigSheets, chúng ta hãy tìm hiểu một vài lĩnh vực quan tâm khác liên quan đến bộ dữ liệu ví dụ mẫu của chúng tôi:  Số lượng các trang web riêng trình bày IBM Watson và 12 trang web hàng đầu trên thế giới có trình bày về IBM Watson. Để thực hiện điều này, chúng tôi sẽ giới thiệu thêm các macro và kiểu biểu đồ khác.
 Tin tức trên các trang web đã là chủ đề về các nỗ lực tiếp cận môi trường truyền thông của IBM. Để đạt được điều này, chúng tôi sẽ nối dữ liệu được trích ra từ một cơ sở dữ liệu quan hệ với dữ liệu môi trường truyền thông xã hội trong BigInsights. (Với bài này, chúng tôi đã tạo ra dữ liệu hư cấu về quan hệ công chúng của IBM). Cuối cùng, chúng ta sẽ thảo luận cách xuất khẩu các nội dung của một bộ sưu tập vào một định dạng dữ liệu phổ biến có thể dễ dàng được các ứng dụng của bên thứ ba sử dụng. Xác định quy mô tin tức và 12 trang web hàng đầu Một khía cạnh về đánh giá tính hiệu quả của chiến dịch tiếp cận môi trường truyền thông đòi hỏi việc đánh giá quy mô tin tức. Trong ví dụ này, bạn sẽ sử dụng BigSheets để xác định số lượng các trang blog và tin tức riêng có đưa tin về IBM Watson. 1. Mở bộ sưu tập Watson_news_blogs và xây dựng một bộ sưu tập mới. 2. Thêm một trang bảng tính có tên là "Url Hosts" sử dụng macro URLHOST để trích ra tên máy chủ URL từ chuỗi ký tự đầy đủ được cung cấp trong cột URL. Chỉ giữ lại cột URL. (Nếu cần, hãy tham khảo các chỉ dẫn trong Bước 4 để biết các chi tiết về macro URLHOST). 3. Thêm một trang bảng tính khác, áp dụng toán tử Distinct (Phân biệt) cho trang bảng tính mà bạn vừa tạo ra. 4. Lưu và thoát khỏi bộ sưu tập này, chạy nó khi được nhắc. Quan sát xem có nhiều hơn một chút so với 2.800 trang web riêng biệt không, như được hiển thị ở góc dưới bên phải của Hình 18. Nếu bạn mở bộ sưu tập Watson_news_blogs, bạn sẽ thấy có hơn 7.200 tổng số bản ghi.