Sử dụng trí tuệ nhân tạo trong dạy học đại học: Cơ hội và thách thức
lượt xem 6
download
Nghiên cứu này phân tích tác động của AI đối với dạy học đại học trong bối cảnh Cuộc cách mạng Công nghiệp 4.0, nêu ra các điểm mạnh, điểm yếu, cơ hội và thách thức của AI trong giảng dạy và đề xuất các khuyến nghị dựa trên phương pháp tổng hợp, phân tích tài liệu.
Bình luận(0) Đăng nhập để gửi bình luận!
Nội dung Text: Sử dụng trí tuệ nhân tạo trong dạy học đại học: Cơ hội và thách thức
- SỬ DỤNG TRÍ TUỆ NHÂN TẠO TRONG DẠY HỌC ĐẠI HỌC: CƠ HỘI VÀ THÁCH THỨC Nguyễn Thị Hương1 Tóm tắt: Sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) đã ảnh hưởng mạnh mẽ đến giáo dục. AI hỗ trợ sinh viên và giáo viên trong các nhiệm vụ giáo dục và có thể thay thế một số vai trò truyền thống. Nghiên cứu này phân tích tác động của AI đối với dạy học đại học trong bối cảnh Cuộc cách mạng Công nghiệp 4.0, nêu ra các điểm mạnh, điểm yếu, cơ hội và thách thức của AI trong giảng dạy và đề xuất các khuyến nghị dựa trên phương pháp tổng hợp, phân tích tài liệu. Kết quả cho thấy AI mang lại lợi ích như cá nhân hóa học tập và tự động hóa quản lý, nhưng cũng đặt ra thách thức như nguy cơ thay thế vai trò của giáo viên và ảnh hưởng đến hoạt động học tập của sinh viên. Nghiên cứu đề xuất đào tạo kỹ năng sử dụng AI cho giáo viên và sinh viên, phát triển chính sách và quy định phù hợp và thúc đẩy nghiên cứu liên ngành về AI. Tuy nhiên, nghiên cứu này còn một số giới hạn như phạm vi khảo sát chưa rộng và thiếu nghiên cứu thực nghiệm để kiểm chứng các giải pháp. Việc ứng dụng AI trong giáo dục còn mới và cần thời gian để đánh giá toàn diện các tác động lâu dài. Từ khóa: Trí tuệ nhân tạo, AI, dạy học đại học UTILIZING ARTIFICIAL INTELLIGENCE IN HIGHER EDUCATION: OPPORTUNITIES AND CHALLENGES Abstract: The rapid development of artificial intelligence (AI) has significantly impacted education. AI supports students and teachers in educational tasks and can potentially replace some traditional roles. This study analyzes the impact of AI on university teaching in the context of the Fourth Industrial Revolution, highlighting the strengths, weaknesses, opportunities, and challenges of AI in teaching, and proposes recommendations based on a synthesis and analysis of various documents. The results show that AI brings benefits such as personalized learning and automated management but also poses challenges like the risk of replacing teachers' roles and affecting students' learning activities. The study suggests training in AI skills for teachers and students, developing appropriate policies and regulations, and promoting interdisciplinary research on AI. However, the study has some limitations, such as a limited survey scope and a lack of experimental research to verify the proposed solutions. The application of AI in education is still new and requires time to fully assess its long-term impacts. Keywords: Artificial Intelligence, AI higher education teaching 1. ĐẶT VẤN ĐỀ AI đã phát triển mạnh mẽ trong xã hội hiện đại, thâm nhập vào nhiều lĩnh vực và thúc đẩy những thay đổi mang tính cách mạng trong các ngành công nghiệp, làm thay đổi căn bản cách chúng ta sống và làm việc (Saaida M.B.E., 2023). Trong bối cảnh này, giáo dục đại học cũng chịu ảnh hưởng đáng kể từ tiềm năng của AI. Các trường đại học hiện đang tích cực khám phá việc tích hợp AI vào hoạt động giảng dạy và quản lý nhằm nâng cao hiệu quả và chất lượng giáo dục. Hiện nay, AI được sử dụng rộng rãi trong DHĐH để hỗ trợ và tối ưu hóa các nhiệm vụ giáo dục. Các công cụ AI giúp cá nhân hóa quá trình học tập, tự động hóa các công việc quản lý và cung cấp các phân tích dữ liệu để cải thiện hiệu quả giảng dạy (Saaida M.B.E., 2023). Tuy nhiên, sự lan 1. Trung tâm Học liệu, Trường Đại học Thủ Dầu Một (Learning Resource Center, Thu Dau Mot University). Corresponding email: huongnt@tdmu.edu.vn. 515
- tỏa của AI trong DHĐH không chỉ mang lại cơ hội mà còn đặt ra nhiều thách thức, bao gồm: bảo vệ dữ liệu và quyền riêng tư, nguy cơ thay thế vai trò của giáo viên (Saaida M.B.E., 2023) và các vấn đề đạo đức liên quan đến quyền riêng tư và sự công bằng trong giáo dục (Chan C.K.Y., 2023). Phạm vi nghiên cứu tập trung vào việc sử dụng AI trong dạy học đại học, đặc biệt là tác động đối với sinh viên và giáo viên. Đối tượng nghiên cứu gồm các trường đại học, giảng viên và sinh viên đang áp dụng AI trong dạy và học. Tác động của AI được xem xét từ nhiều khía cạnh, bao gồm hiệu quả giảng dạy, động lực học tập của sinh viên và thay đổi vai trò của giáo viên, dựa trên phương pháp tổng hợp và phân tích tài liệu. Nghiên cứu đóng góp về lý luận bằng cách mở rộng hiểu biết về các yếu tố ảnh hưởng đến tích hợp AI vào dạy học đại học. Về thực tiễn, nghiên cứu cung cấp khuyến nghị cụ thể để hỗ trợ các trường đại học áp dụng AI hiệu quả và bền vững. 2. NỘI DUNG NGHIÊN CỨU 2.1. Định nghĩa Có nhiều quan điểm khác nhau về AI và DHĐH, trong bài viết này, tác giả đưa ra một số định nghĩa trên thế giới và trong nước như sau: 2.1.1. Trí tuệ nhân tạo Hayani, Evi Aprilia Sari và Sukiman (2021) cho rằng: “AI được định nghĩa là trí tuệ được thể hiện bởi một thực thể nhân tạo” (Hayani A., Sari E.A., Sukiman, 2021). Boucher (2020) định nghĩa: “AI được định nghĩa là một tập hợp các hệ thống biểu thị hành vi thông minh bao gồm phân tích môi trường và khả năng hành động, với một số quyền tự chủ, để đáp ứng các mục tiêu đã định trước” (Philip B., 2020). Hoặc: “AI thuộc về khoa học máy tính và được gán hoàn toàn cho các máy móc, máy tính” (Yunhe P., 2016); “AI được thiết kế để giải quyết các nhiệm vụ cụ thể trong tất cả các lĩnh vực hoạt động được thực hiện bởi con người” (Spyros M., 2017). Nói cách khác, “AI là phiên bản tự động của trí thông minh của con người” (Fenwick A. & Molnar G., 2022). Tóm lại, AI bao gồm việc phát triển máy móc có khả năng thực hiện các nhiệm vụ yêu cầu trí tuệ con người, như hiểu ngôn ngữ tự nhiên, nhận dạng mẫu và ra quyết định. Điều này được đạt được qua các phương pháp như hệ thống dựa trên quy tắc, hệ thống chuyên gia, học máy và học sâu. 2.1.2. Dạy học đại học Theo tác giả Đặng Vũ Hoạt và Hà Thị Đức (2017): “Dạy học ở đại học là quá trình hoạt động phối hợp, thống nhất của người dạy và người học nhằm giúp sinh viên chiếm lĩnh nội dung học vấn đại học” (Hoạt Đ.V., Đức H.T., 2017). Như vậy, AI trong dạy học đại học là việc sử dụng công nghệ AI để cải thiện quá trình giảng dạy và học tập. Điều này bao gồm cá nhân hóa trải nghiệm học tập, cung cấp phản hồi tự động, hỗ trợ giảng viên thiết kế và quản lý khóa học và phân tích dữ liệu học tập để tối ưu hóa phương pháp giảng dạy. AI giúp tạo mô hình học tập thích ứng, hỗ trợ sinh viên theo dõi tiến độ và cung cấp công cụ hỗ trợ nghiên cứu và học tập hiệu quả hơn 2.2. Ứng dụng mô hình phân tích SWOT đối với trí tuệ nhân tạo trong hoạt động dạy học đại học Trong bối cảnh cuộc Cách mạng công nghiệp 4.0, AI đã và đang trở thành một công cụ quan trọng trong nhiều lĩnh vực, bao gồm cả giáo dục đại học. Để hiểu rõ hơn về tác động của AI đối với DHĐH, tác giả sử dụng mô hình phân tích SWOT (Strengths, Weaknesses, Opportunities, Threats) để đánh giá một cách toàn diện các điểm mạnh, điểm yếu, cơ hội và thách thức mà AI mang lại. 2.2.1. Điểm mạnh (Strengths) Cá nhân hóa học tập: công nghệ AI có khả năng nghiên cứu các tập dữ liệu rộng lớn và cung 516
- cấp các trải nghiệm học tập cá nhân hóa được điều chỉnh kỹ lưỡng để phản ánh các yêu cầu độc đáo, sở thích của từng người học. Các nghiên cứu kinh nghiệm đã chứng minh rằng các hệ thống học tập thích nghi được thúc đẩy bởi AI đã cải thiện đáng kể sự tham gia của sinh viên, thành tích học tập và tỷ lệ duy trì (Saaida M.B.E., 2023). Một trong những cơ hội nổi bật mà việc tích hợp AI vào DHĐH mang lại là học tập cá nhân hóa. Các hệ thống học tập thích ứng được trang bị bởi AI có khả năng khai thác các nguồn dữ liệu lớn về phong cách học tập, sở thích và khả năng của sinh viên, cho phép tạo ra các lộ trình học tập được tùy chỉnh phù hợp với nhu cầu đặc biệt của họ. Các hệ thống này có thể hỗ trợ các đề xuất, phản hồi và hỗ trợ cá nhân hóa, giúp sinh viên học theo tốc độ của riêng mình và tối ưu hóa kết quả học tập của họ. Hơn nữa, các bài kiểm tra thích ứng được điều khiển bởi AI có thể điều chỉnh cho các mức độ hiệu suất của sinh viên, cung cấp các bài kiểm tra và phản hồi có mục tiêu, từ đó nâng cao tính hiệu quả và hiệu suất của quá trình đánh giá (Saaida M.B.E., 2023). Cung cấp các dịch vụ giảng dạy thông minh: Các chatbot và trợ lý ảo được cung cấp bởi AI có tiềm năng cung cấp hỗ trợ 24/7 cho sinh viên, mở rộng sự giúp đỡ trong các lĩnh vực như đăng ký môn học, tư vấn học thuật và tư vấn nghề nghiệp. Các cuộc điều tra học thuật đã chứng minh rằng các dịch vụ hỗ trợ sinh viên được thúc đẩy bởi AI có khả năng cải thiện sự hài lòng, sự tham gia và thành tích học tập của sinh viên (Saaida M.B.E., 2023). Hướng dẫn bằng AI: trợ lý học tập ảo, được trang bị AI, có thể đóng vai trò quan trọng trong việc hỗ trợ giảng dạy và học tập. Những trợ lý này cung cấp hướng dẫn cá nhân hóa, trả lời câu hỏi và hỗ trợ sinh viên trong thời gian thực. Chúng giúp sinh viên với bài tập, tìm kiếm tài nguyên liên quan và cung cấp phản hồi ngay lập tức. Trợ lý học tập ảo tăng cường sự sẵn có của tài liệu học tập, thúc đẩy học tập tự hướng và giúp sinh viên tự chủ trong hành trình học tập. Sinh viên nhận được hướng dẫn phù hợp với nhu cầu cá nhân, giúp ghi nhớ thông tin, hiểu sâu về các khái niệm và cải thiện kết quả học tập. Công nghệ AI cũng nâng cao sự tham gia và động lực của sinh viên thông qua phản hồi tức thì và trải nghiệm học tập tương tác (Saaida M.B.E., 2023). Tự động hóa các nhiệm vụ quản lý và tăng cường hiệu suất giảng dạy cho giảng viên. AI tự động lập kế hoạch và tổ chức lớp học dựa trên lịch trình và nhu cầu học tập của sinh viên, tạo ra lịch trình linh hoạt và tùy chỉnh. Nó cũng tự động đánh giá bài tập và bài kiểm tra, tiết kiệm thời gian cho giảng viên và cung cấp kết quả đánh giá chính xác. Bên cạnh đó, AI cung cấp phản hồi thời gian thực về hiệu suất học tập, giúp sinh viên hiểu rõ điểm mạnh và yếu của mình và điều chỉnh phương pháp học tập. Tối ưu hóa quy trình giảng dạy: sự tích hợp của AI có thể tự động hóa các nhiệm vụ hành chính thông thường như chấm điểm, quản lý dữ liệu và lập lịch, từ đó tạo điều kiện cho giảng viên và nhân viên có cơ hội phân bổ nỗ lực của họ vào các nhiệm vụ chiến lược hơn. Các cuộc điều tra học thuật đã chỉ ra rằng thiết kế và phương pháp giảng dạy được hỗ trợ bởi AI có thể dẫn đến các thực hành giáo dục hiệu quả hơn, từ đó tạo ra kết quả học tập cải thiện (Saaida M.B.E., 2023) và giúp phân tích học tập nâng cao: AI có khả năng phân tích các tập dữ liệu lớn phát sinh từ các tương tác của sinh viên với công nghệ giáo dục, từ đó khám phá ra các hiểu biết sâu sắc về hành vi học tập, xu hướng hiệu suất và khuynh hướng nhận thức (Saaida M.B.E., 2023). Các cuộc điều tra dựa trên dữ liệu đã nhấn mạnh rằng các phương pháp được hỗ trợ bởi dữ liệu và được tiếp cận bởi AI có thể làm sáng tỏ thiết kế chương trình học, tối ưu hóa quỹ đạo học tập và thúc đẩy kết quả học tập của sinh viên (Saaida, M. B. E., 2023). 2.2.2. Điểm yếu (Weaknesses) Bên cạnh những điểm mạnh có được, AI cũng thể hiện một số hạn chế khi áp dụng trong hoạt DHĐH: Thiếu kỹ năng sử dụng AI: đào tạo, hỗ trợ giảng viên và sinh viên trong việc sử dụng công nghệ AI gặp phải nhiều thách thức, bao gồm: tích hợp thành công của AI vào DHĐH đòi hỏi giảng viên và sinh viên viên phải phát triển những năng lực và kiến thức mới. Các cuộc điều tra học thuật 517
- đã chỉ ra rằng sự sẵn sàng của giảng viên cho việc áp dụng AI đặt ra một thách thức đáng kể và việc cung cấp cơ hội phát triển chuyên môn cũng như các hệ thống hỗ trợ mạnh mẽ là rất quan trọng để tiếp nhận một cách hiệu quả (Saaida M.B.E., 2023); nhiều giảng viên và sinh viên có thể thiếu kiến thức cơ bản về AI và kỹ năng công nghệ cần thiết để sử dụng các công cụ AI một cách hiệu quả; một số giảng viên có thể có tâm lý ngần ngại hoặc kháng cự việc áp dụng công nghệ mới do quen với phương pháp giảng dạy truyền thống cũng như việc đánh giá hiệu quả của việc sử dụng AI trong giảng dạy và học tập là một thách thức lớn,… Chi phí triển khai cao: việc đưa các công nghệ AI vào DHĐH không chỉ là một nỗ lực rất lớn mà còn là một quá trình phức tạp, đòi hỏi sự phối hợp đa chiều và đầu tư chi phí đáng kể. Các nghiên cứu học thuật đã chỉ ra rằng việc tích hợp AI vào hệ thống giáo dục hiện có mang lại nhiều thách thức, bao gồm việc đảm bảo tính tương thích, khả năng mở rộng và quản lý chi phí hiệu quả trong quá trình triển khai (Saaida M.B.E., 2023). Những khoản chi phí như phần cứng và phần mềm, cơ sở vật chất kỹ thuật, đào tạo nhân viên và phát triển nội dung, cùng với chi phí triển khai, duy trì và vận hành hệ thống,… đòi hỏi nguồn kinh phí rất lớn. Phụ thuộc vào công nghệ: phụ thuộc quá nhiều vào AI có thể làm giảm khả năng tự học và sáng tạo của sinh viên và làm giảm tương tác trực tiếp giữa giảng viên và sinh viên. Đặc biệt, một điều đáng lo ngại là việc sử dụng AI tạo văn bản có thể dẫn đến sự suy giảm về kỹ năng viết và tư duy phê phán của sinh viên khi họ trở nên phụ thuộc nhiều hơn vào các công cụ tự động để hoàn thành công việc của mình. Một số học giả lập luận rằng điều này có thể ảnh hưởng tiêu cực đến chất lượng giáo dục và cuối cùng làm ảnh hưởng đến kết quả học tập của sinh viên (Chan C.K.Y., 2023). Những lo ngại này đã dẫn đến việc một số trường đại học cấm việc sử dụng AI tạo văn bản trong các chương trình học của họ. Tám trong số hai mươi bốn trường đại học trong nhóm Russell Group danh tiếng của Vương quốc Anh đã công bố việc sử dụng AI bot cho bài tập là hành vi gian lận học thuật, bao gồm cả các Trường Đại học Oxford và Cambridge. Trong khi đó, nhiều trường đại học khác trên thế giới đang vội vàng xem xét lại chính sách về việc đạo văn của họ, đề cập đến các vấn đề về tính toàn vẹn học thuật. Một số trường đại học ở Úc đã phải thay đổi thủ tục thi và đánh giá trở lại dựa trên bút và giấy (Chan C.K.Y., 2023). 2.2.3. Cơ hội của việc sử dụng AI trong dạy học đại học AI được ví như một công nghệ tiên tiến, đã nổi lên như một mô hình hứa hẹn với tiềm năng biến đổi mạnh mẽ trong DHĐH. Sự tích hợp mạch lạc của AI vào cảnh quan giáo dục mang lại các cơ hội đa dạng để làm phong phú các phương pháp giảng dạy, tối ưu hóa các hoạt động quản trị và tăng cường năng lực nghiên cứu (Saaida, M. B. E., 2023). Trong nghiên cứu tại đại học Romania, trong tổng số 293 người trả lời với 267 phiếu phản hồi hợp lệ đã thống kê số lượng sinh viên sử dụng AI trong hoạt động học tập như sau: Chat GPT (100%); Bard hoặc Microsoft Bing (62% số người tham gia); dưới 24% số người tham gia sử dụng Grammarly, My AI trên Snapchat, Wolfram Alpha, Duolingo, Bloomai, Merlin AI, Tutor AI, Anthropic hoặc Cohere (Sîrghi N.,Voicu M.C, Noja G. G., Socoliuc O.R., 2024). Điều này chứng tỏ nhu cầu sử dụng AI trong hoạt động DHĐH rất lớn. Với nhu cầu sử dụng như vậy, việc sử dụng AI trong dạy học đại học (DHĐH) mang lại nhiều cơ hội: Cải thiện trải nghiệm học tập: AI có thể cung cấp phản hồi tức thì và tạo ra môi trường học tập linh hoạt. AI có thể cung cấp phản hồi tức thì trong giáo dục đại học thông qua tự động hóa và phân tích dữ liệu. Thuật toán AI tự động chấm điểm bài tập, bài kiểm tra, và kỳ thi, cung cấp điểm số và phản hồi ngay lập tức. Hệ thống AI cũng cung cấp phản hồi trực tuyến và phân tích dữ liệu học tập để tạo báo cáo cá nhân hóa. Điều này giúp sinh viên hiểu tiến trình học tập, nhận biết điểm mạnh và yếu, và cải thiện hiệu suất. AI có thể dự đoán vấn đề tiềm ẩn và gợi ý khóa học hoặc tài liệu phù hợp, tự động hóa tìm kiếm thông tin và nâng cao kết quả học tập. Phản hồi tức thì từ AI tăng cường tương tác và hỗ trợ sinh viên, giúp cải thiện hiệu suất và thành tích học tập. hể dự đoán vấn đề tiềm ẩn và gợi ý khóa học hoặc tài liệu phù hợp, tự động hóa tìm kiếm thông 518
- tin và nâng cao kết quả học tập. Phản hồi tức thì từ AI tăng cường tương tác và hỗ trợ sinh viên, giúp cải thiện hiệu suất và thành tích học tập. hông tin và nâng cao kết quả học tập. Phản hồi tức thì từ AI tăng cường tương tác và hỗ trợ sinh viên, giúp cải thiện hiệu suất và thành tích học tập. AI có thể tạo ra một môi trường học tập linh hoạt trong đại học với các tính năng như: tạo và cung cấp tài liệu, bài giảng, bài tập theo nhu cầu và mục tiêu của sinh viên; cho phép lựa chọn phương pháp học phù hợp; sử dụng chatbot hoặc trợ lý ảo để sinh viên truy cập tài nguyên và giải đáp thắc mắc bất cứ lúc nào; giúp sinh viên hiểu điểm mạnh, điểm yếu và điều chỉnh phương pháp học tập linh hoạt; và phát triển công cụ học tập nâng cao qua học sâu và học máy. Những tính năng này tạo ra môi trường học tập linh hoạt, tiện lợi và hiệu quả, giúp sinh viên tiếp cận kiến thức hiệu quả hơn. Mở rộng phạm vi học tập: AI mở rộng phạm vi học tập với khả năng truy cập nguồn tài nguyên rộng lớn và tạo cơ hội học tập đa dạng và sáng tạo. AI giúp tìm kiếm thông tin nhanh chóng từ hàng triệu trang web và cơ sở dữ liệu, hỗ trợ học tập tự động qua chatbot và trợ lý ảo 24/7, cung cấp khóa học trực tuyến về nhiều lĩnh vực để mở rộng kiến thức và kỹ năng và tạo môi trường học sáng tạo qua thực tế ảo (Virtual Reality – VR) và thực tế tăng cuờng (Augmented Reality – AR). AI cũng thu thập và phân tích dữ liệu học tập để đánh giá tiến độ và hiệu quả, cung cấp báo cáo chi tiết giúp điều chỉnh phương pháp học tập. Tăng cường khả năng nghiên cứu: AI đang được chuẩn bị để tăng cường đáng kể khả năng nghiên cứu trong DHĐH (Saaida M.B.E., 2023). Việc sử dụng các công cụ phân tích dữ liệu được trang bị bởi AI có thể cho phép xử lý và phân tích các tập dữ liệu nghiên cứu lớn và phức tạp, dẫn đến các thông tin và khám phá quý báu mà có thể khó nhận biết thông qua các phương pháp truyền thống (Saaida M.B.E., 2023). Thông qua việc áp dụng các thuật toán nhận dạng mẫu, AI có thể hỗ trợ trong việc xác định các xu hướng và mối tương quan ý nghĩa trong dữ liệu nghiên cứu, dẫn đến việc khám phá các hướng nghiên cứu mới và khám phá kiến thức mới (Saaida M.B.E., 2023). Hơn nữa, các công cụ tổng hợp tài liệu tự động được trang bị bởi AI có thể hỗ trợ các nhà nghiên cứu trong việc tổng hợp các lượng lớn các công trình nghiên cứu, tinh giản và tối ưu hóa quy trình nghiên cứu trong khi giảm thời gian và công sức cần thiết để thực hiện các bài đánh giá tổng thể và chi tiết. Nâng cao sự tương tác của sinh viên: AI có tiềm năng ảnh hưởng tích cực đến sự tương tác của sinh viên trong DHĐH bằng cách sử dụng một loạt các công nghệ đổi mới. Chẳng hạn, các trợ lý học tập ảo được trang bị bởi AI có thể cung cấp hỗ trợ cá nhân và tức thì cho sinh viên, tạo điều kiện cho việc giao tiếp với giáo viên và bạn đồng học, và cải thiện trải nghiệm học tập. Ngoài ra, các hệ thống được trang bị bởi AI có thể phân tích dữ liệu về sở thích, sở thích và khả năng của sinh viên để tạo ra tài liệu học tập được tùy chỉnh phù hợp với nhu cầu cá nhân, thúc đẩy sự tương tác và động viên. Hơn nữa, các kỹ thuật gamification được trang bị bởi AI có thể biến việc học thành một trải nghiệm tương tác và thú vị, dẫn đến sự tương tác và tỷ lệ giữ sinh viên được cải thiện. Trao quyền cho các nhà giáo dục: đây là để phát hành AI dành cho hỗ trợ, hỗ trợ người học và đổi mới sư phạm (Saaida M.B.E., 2023). Vai trò của các nhà giáo dục trong việc tận dụng AI để đổi mới phương pháp sư phạm, phát triển chuyên môn và hỗ trợ người học là rất quan trọng (Saaida M.B.E., 2023). Các nhà giáo dục có thể sử dụng các công nghệ do AI điều khiển để thiết kế trải nghiệm học tập sáng tạo và hấp dẫn, cung cấp phản hồi được cá nhân hóa và theo dõi sự tiến bộ của học sinh. AI cũng có thể hỗ trợ sự phát triển chuyên môn của các nhà giáo dục bằng cách cung cấp những hiểu biết sâu sắc dựa trên dữ liệu về chiến lược giảng dạy, hiệu suất của học sinh và phân tích học tập. Các nhà giáo dục có thể tận dụng AI để hỗ trợ các phương pháp tiếp cận lấy người học làm trung tâm, nuôi dưỡng kỹ năng tư duy phản biện và thúc đẩy kết quả học tập ở bậc cao hơn (Saaida M.B.E., 2023). Như vậy, sự tích hợp của AI trong DHĐH có tiềm năng thay đổi phương pháp giảng dạy và biến đổi cách mà sinh viên học. Các công nghệ dựa trên AI cung cấp cơ hội cho việc học tương thích, hệ thống hướng dẫn thông minh, và các trợ lý học tập ảo, có thể gây ra những tác động đáng kể đối với phương pháp giảng dạy và kết quả học tập (Saaida M.B.E., 2023). 519
- Tóm lại, tích hợp AI vào giáo dục đại học mở ra nhiều cơ hội cho tiến bộ. AI cải thiện học tập cá nhân hóa, đánh giá sinh viên và tối ưu hóa quy trình hành chính. Tuy nhiên, cần giải quyết các vấn đề đạo đức và quyền riêng tư để đảm bảo sử dụng AI có trách nhiệm. Sự hợp tác giữa giới học thuật, ngành công nghiệp và chính phủ là quan trọng để khai thác tiềm năng của AI và cải thiện kết quả học tập. AI có thể định hình lại phương pháp sư phạm và nâng cao kết quả học tập, gắn kết và động lực của sinh viên. 2.2.4. Thách thức khi sử dụng AI trong dạy học đại học Cùng với những cơ hội AI mang lại (xem mục 2.2.3), sử dụng AI trong DHĐH cũng mang lại nhiều thách thức đáng kể như sau: Bảo vệ dữ liệu và quyền riêng tư: các cuộc điều tra học thuật đã nhấn mạnh sự cần thiết phải giải quyết các mối lo ngại về tính minh bạch, công bằng và trách nhiệm giải trình trong các thuật toán AI để đảm bảo việc sử dụng AI có trách nhiệm và có đạo đức trong môi trường giáo dục (Saaida M.B.E., 2023). Một số vấn đề chính đã thu hút sự chú ý của các chính phủ trên toàn thế giới bao gồm sự phân biệt đối xử và thiên vị của AI, mất quyền riêng tư, vi phạm quyền con người và việc sử AI một cách xấu xa (Chan C.K.Y., 2023). Federspiel và nnk. (2023) cảnh báo rằng việc lạm dụng AI có thể khuyến khích sự thao túng của con người, tạo ra sự chia rẽ xã hội và làm trầm trọng thêm những bất bình đẳng, đe dọa tồn tại của loài người. Trong bối cảnh này, các quốc gia đã đang làm việc về các chính sách và chiến lược quốc gia để cung cấp hướng dẫn rõ ràng hơn về việc sử dụng AI để tối đa hóa các lợi ích của nó trong khi giảm thiểu các mối đe dọa mang lại bởi nó (Chan C.K.Y., 2023). Vấn đề đạo đức và pháp lý: cần cân nhắc và đảm bảo rằng việc sử dụng AI không gây ra các vấn đề đạo đức (thiên vị hoặc sự thiếu minh bạch) và pháp lý. Với việc tích hợp AI, đặc biệt là AI sáng tạo vào DHĐH mang lại những lợi ích đáng kể nhưng cũng đặt ra những vấn đề và thách thức về mặt đạo đức và pháp lý đối với tính liêm chính trong học thuật cần được xem xét và quản lý một cách chu đáo (Andy N., Kremantzis M.D., Essien A.E., Petrounias I., Hosseini S., 2024). Trong nghiên cứu: “A comprehensive AI policy education framework for university teaching and learning” của Cecilia Ka Yuk Chan (2023), dữ liệu được thu thập từ 457 sinh viên và 180 giáo viên và nhân viên ở nhiều ngành khác nhau tại các trường đại học Hồng Kông, sử dụng cả phương pháp nghiên cứu định lượng và định tính đã chỉ ra: trong những tháng gần đây, đã có một lo ngại ngày càng tăng trong các cài đặt học thuật về việc sử dụng AI văn bản như Chat GPT, Bing và mới nhất là Co-Pilot được tích hợp trong bộ ứng dụng Microsoft Office. Một trong những mối lo ngại chính là sinh viên có thể sử dụng các công cụ AI tạo văn bản để gian lận hoặc đạo văn bài làm và kỳ thi của mình. Trong thực tế, một cuộc khảo sát gần đây với sinh viên đại học cho thấy gần một trong ba sinh viên đã sử dụng một dạng của AI, như phần mềm tạo bài luận, để hoàn thành bài tập của họ (Chan C.K.Y., 2023). Khoảng một phần ba sinh viên đại học tham gia khảo sát tại Hoa Kỳ đã sử dụng trò chuyện AI như Chat GPT để hoàn thành các bài tập làm bài tập văn bản, với 60% sử dụng chương trình này cho hơn một nửa số bài tập của họ. Các loại công cụ tạo văn bản của Chat GPT có khả năng mô phỏng việc viết của con người, với một số sinh viên sử dụng nó để gian lận. Nghiên cứu đã phát hiện rằng 75% sinh viên tin rằng việc sử dụng chương trình để gian lận là không đúng nhưng vẫn làm như vậy và gần 30% tin rằng giáo viên của họ không biết về việc sử dụng công cụ này. Nghiên cứu cũng lưu ý rằng một số giáo viên đang xem xét liệu có nên bao gồm Chat GPT trong các bài học của họ hay tham gia cuộc gọi để cấm nó, với 46% sinh viên cho biết giáo viên hoặc các cơ sở giáo dục của họ đã cấm công cụ này cho bài tập về nhà. Điều này đã dẫn đến các yêu cầu về các quy định và hình phạt nghiêm ngặt cho hành vi gian lận học thuật liên quan đến AI (Saaida M.B.E., 2023). Một vấn đề đạo đức đáng kể khác là nguy cơ có sự thiên vị trong các thuật toán AI. Những hệ thống này có thể vô tình duy trì các thiên vị hiện có trong dữ liệu huấn luyện của chúng, dẫn đến việc xử lý không công bằng đối với các nhóm sinh viên cụ thể. Điều này có thể ảnh hưởng đến các bài đánh giá, các đề xuất và cá nhân hóa trải nghiệm học tập, có thể gây bất lợi cho sinh viên dựa trên sắc tộc, giới tính hoặc địa vị kinh tế xã hội (Andy N., Kremantzis M.D., Essien A.E., Petrounias I., Hosseini S., 2024). 520
- Bên cạnh đó là quyền riêng tư dữ liệu. Sử dụng AI trong DHĐH thường yêu cầu thu thập và phân tích lượng lớn dữ liệu cá nhân của sinh viên, bao gồm mô hình học tập, số liệu hiệu suất và thông tin nhạy cảm. Điều này đặt ra câu hỏi về việc ai có quyền truy cập vào dữ liệu này, dữ liệu đó được sử dụng như thế nào và quyền riêng tư của các cá nhân được bảo vệ như thế nào. Lãnh đạo tổ chức đóng một vai trò quan trọng trong việc đảm bảo việc triển khai và quản lý Chat GPT một cách có đạo đức bằng cách thiết lập các tiêu chuẩn và thông lệ ưu tiên tính minh bạch, trách nhiệm giải trình và bảo vệ dữ liệu người dùng (Andy N., Kremantzis M.D., Essien A.E., Petrounias I., Hosseini S., 2024). Sự chấp nhận và sử dụng của giảng viên: giảng viên đóng vai trò trung tâm trong quá trình giáo dục và việc họ chấp nhận và sử dụng các công nghệ do AI điều khiển là rất quan trọng cho việc tích hợp thành công (Saaida M.B.E., 2023). Những lo ngại về việc mất việc, tính toàn vẹn học thuật và những ảnh hưởng về mặt giáo dục có thể làm chậm sự sẵn lòng của giảng viên trong việc áp dụng AI vào phương pháp giảng dạy của họ (Saaida M.B.E., 2023). Một số giảng viên có thể sợ rằng AI sẽ thay thế các phương pháp giảng dạy truyền thống, dẫn đến mất việc làm hoặc làm giảm vai trò của các giáo viên con người. Đảm bảo rằng giảng viên được tham gia vào việc thiết kế, phát triển và triển khai các hệ thống do AI điều khiển và cung cấp cho họ đào tạo và hỗ trợ đầy đủ có thể giúp vượt qua những thách thức này và khuyến khích sự chấp nhận của giảng viên đối với AI trong DHĐH. Như vậy, AI mang lại cơ hội lớn cho sự chuyển đổi trong giáo dục đại học, nhưng cũng đặt ra nhiều thách thức cần giải quyết, bao gồm các vấn đề đạo đức, quyền riêng tư và sự chấp nhận của giảng viên. Sự phối hợp giữa các bên liên quan là rất quan trọng để đối mặt và giải quyết những thách thức này, đồng thời khai thác toàn bộ tiềm năng của AI cho lợi ích của giáo dục và xã hội. 2.4. Một số biện pháp khắc phục những thách thức của AI trong việc dạy học đại học Để khắc phục những thách thức của AI trong việc DHĐH cần áp dụng nhiều phương pháp khác nhau với từng đối tượng cụ thể: 2.4.1. Đối với cơ sở giáo dục đại học Tập trung đào tạo và hỗ trợ giảng viên và sinh viên trong việc sử dụng công nghệ AI trong hoạt động dạy học: Để đảm bảo công nghệ AI được áp dụng hiệu quả trong giáo dục, cần xây dựng chương trình đào tạo liên tục và toàn diện cho giảng viên và sinh viên, từ cơ bản đến nâng cao. Các khóa học và tài liệu hướng dẫn chi tiết, bao gồm sách, video và tài liệu trực tuyến, giúp giảng viên tự học. Thành lập các trung tâm hỗ trợ AI tại các trường đại học, cung cấp tư vấn và giải đáp thắc mắc, và phát triển các nhóm hỗ trợ kỹ thuật để trợ giúp giảng viên trong việc tích hợp AI vào giảng dạy. Sử dụng phương pháp học tập kết hợp (blended learning), kết hợp giữa đào tạo trực tiếp và trực tuyến, cùng với việc tổ chức các buổi hội thảo và seminar trực tuyến để giảng viên có thể tham gia từ xa. Khuyến khích giảng viên học tập và chia sẻ kinh nghiệm qua các cộng đồng trực tuyến và hợp tác với các chuyên gia, tổ chức ngoài trường. Cung cấp các giải pháp hỗ trợ kỹ thuật như tài liệu hướng dẫn, đội ngũ kỹ thuật, chatbots và hệ thống hỗ trợ tự động để giải đáp các vấn đề phổ biến. Bảo vệ dữ liệu và quyền riêng tư khi sử dụng AI trong đại học là vấn đề quan trọng để đảm bảo thông tin cá nhân của giảng viên và sinh viên không bị lạm dụng hoặc truy cập trái phép. Điều này đòi hỏi tuân thủ quy định pháp lý, áp dụng biện pháp kỹ thuật và tổ chức hợp lý, cũng như nâng cao nhận thức về bảo mật thông tin. Để đảm bảo bảo vệ dữ liệu và quyền riêng tư, cần áp dụng chính sách bảo mật theo tiêu chuẩn quốc tế như GDPR, rõ ràng về quyền và trách nhiệm của giảng viên và sinh viên; tổ chức khóa học và hội thảo về bảo vệ dữ liệu, cung cấp hướng dẫn chi tiết; sử dụng mã hóa, xác thực hai yếu tố, hệ thống phát hiện và ngăn chặn xâm nhập, quản lý quyền truy cập; áp dụng kỹ thuật ẩn danh hóa hoặc giả danh hóa để bảo vệ danh tính sinh viên trong nghiên cứu; thường xuyên kiểm tra và đánh giá hệ thống bảo mật; làm việc với nhà cung cấp dịch vụ đáng tin cậy và duy trì kế hoạch ứng phó khi có sự cố bảo mật. Những biện pháp này bảo vệ thông tin cá nhân và tạo nền tảng tin cậy cho việc ứng dụng AI trong giáo dục, góp phần nâng cao chất lượng giảng dạy và học tập. 521
- Tối ưu hóa nguồn lực tài chính: Triển khai AI trong DHĐH đòi hỏi đầu tư lớn và chiến lược rõ ràng. Các trường có thể: nhận hỗ trợ tài chính, kỹ thuật và thiết bị để hợp tác với công ty công nghệ; xin tài trợ từ chính phủ, tổ chức phi lợi nhuận và quỹ nghiên cứu; sử dụng công cụ mã nguồn mở; sử dụng dịch vụ điện toán đám mây; triển khai quy mô nhỏ bằng việc đánh giá và điều chỉnh trước khi mở rộng; đưa ra mục tiêu cụ thể, phân bổ nguồn lực hợp lý trong kế hoạch dài hạn; đánh giá và cải tiến liên tục; tham gia mạng lưới và liên minh bằng việc học hỏi và kết nối với các trường và tổ chức quốc tế,… Kết hợp nhiều biện pháp để giải quyết các vấn đề về đạo đức và pháp lý trong việc sử dụng AI bao gồm: phát triển và tuân thủ quy định pháp lý như GDPR để bảo vệ dữ liệu cá nhân; tăng cường giáo dục và nhận thức về đạo đức thông qua khóa đào tạo và hội thảo; giám sát và đánh giá thường xuyên bằng hội đồng giám sát đa chuyên ngành; bảo vệ quyền lợi của sinh viên và giảng viên bằng cách cung cấp thông tin minh bạch và lựa chọn không tham gia sử dụng AI; phát triển AI có trách nhiệm và khuyến khích sự tham gia của các bên liên quan thông qua tham vấn công khai và hợp tác với chuyên gia đạo đức và pháp lý; xây dựng văn hóa tổ chức bằng cách tạo môi trường an toàn và khuyến khích đối thoại mở về AI. Bằng cách thực hiện các biện pháp này, các trường đại học có thể giải quyết hiệu quả các thách thức về đạo đức và pháp lý, đảm bảo AI được triển khai có trách nhiệm và bền vững. 2.4.2. Đối với giảng viên Tăng cường hiểu biết, kỹ năng và thái độ tích cực của giảng viên đối với công nghệ AI: để giảng viên chấp nhận và sử dụng AI trong dạy học đại học mà không sợ nguy cơ bị mất việc vì AI thay thế, cần có các biện pháp nhằm đảm bảo rằng AI được xem như một công cụ hỗ trợ, chứ không phải là mối đe dọa đối với công việc của họ; cung cấp khóa học về AI, giúp giảng viên tự tin và thoải mái với công nghệ; khen ngợi, công nhận thành tích hoặc hỗ trợ tài chính cho giảng viên sử dụng AI; xây dựng nhóm làm việc để giảng viên trao đổi kinh nghiệm, mời chuyên gia tư vấn và hỗ trợ và khuyến khích giảng viên thử nghiệm phương pháp giảng dạy mới với AI và tham gia dự án nghiên cứu liên quan đến AI. Tăng cường tương tác trực tiếp đối với sinh viên: giảng viên nên tổ chức các hoạt động học tập có sự tham gia trực tiếp của sinh viên như thảo luận nhóm, hội thảo và các dự án thực tế; kết hợp dành thời gian để tư vấn và hỗ trợ cá nhân cho sinh viên, giúp họ phát triển kỹ năng và giải quyết các vấn đề học tập nhằm thể hiện tầm quan trọng và vai trò của giảng viên, tạo môi trường học tập tích cực. 2.4.3. Đối với sinh viên Phát triển kỹ năng tự học và tư duy phản biện: sinh viên cần chủ động tìm kiếm và học hỏi kiến thức mới ngoài những gì AI cung cấp. Thay vì phụ thuộc hoàn toàn vào các giải pháp mà AI đưa ra, sinh viên nên tìm hiểu và khám phá thông tin từ nhiều nguồn khác nhau; luôn đặt câu hỏi, phân tích và đánh giá thông tin một cách cẩn thận. Điều này giúp họ không chỉ tiếp thu kiến thức mà còn hiểu sâu và áp dụng vào thực tế. Sử dụng AI như một công cụ hỗ trợ, không phải là thay thế: sinh viên nên sử dụng AI để hỗ trợ quá trình học tập như tìm kiếm tài liệu, ôn tập kiến thức, nhưng đồng thời cần thực hành các phương pháp học truyền thống như đọc sách, viết bài và thảo luận nhóm; thay vì dựa hoàn toàn vào AI để giải quyết các bài tập, sinh viên nên tự mình giải quyết các vấn đề trước, sau đó sử dụng AI để kiểm tra và cải thiện đáp án của mình. Hiểu rõ về quyền riêng tư và bảo mật thông tin cá nhân khi sử dụng các công cụ AI cũng như Sử dụng các biện pháp bảo mật như mật khẩu mạnh, xác thực hai yếu tố và các công cụ bảo vệ dữ liệu để đảm bảo an toàn thông tin cá nhân. Tăng cường tương tác và giao tiếp trực tiếp với giáo viên thông qua việc tham gia hoạt động học tập trực tiếp như thảo luận nhóm, hội thảo, và các dự án nhóm; tìm kiếm sự hỗ trợ từ giảng viên thay vì chỉ sử dụng AI. 522
- Nâng cao khả năng tự học của sinh viên thông qua việc thiết kế các bài tập phong phú, đa dạng và phù hợp với từng cấp độ, năng lực của sinh viên để sinh viên tự tìm hiểu và hoàn thành bài tập của mình. Thường xuyên đánh giá hiệu quả của các công cụ AI mà họ sử dụng và cung cấp phản hồi cho các nhà phát triển và giảng viên để cải thiện chất lượng và tính năng của các công cụ này và chí sẻ kinh nghiệm sử dụng AI trong học tập với bạn bè và đồng nghiệp để cùng nhau học hỏi và phát triển các phương pháp học tập hiệu quả. 3. KẾT LUẬN AI trong DHĐH có thể thay đổi sâu sắc cách giảng dạy, quản lý và nghiên cứu, mang lại trải nghiệm giáo dục hiệu quả hơn cho sinh viên và giảng viên. Lợi ích tiềm năng của AI gồm: Cải thiện trải nghiệm học tập; tăng cường hiệu suất giảng dạy; tối ưu hóa quy trình giáo dục; mở rộng phạm vi học tập; nâng cao dịch vụ hỗ trợ sinh viên; tăng cường khả năng nghiên cứu; nâng cao sự tương tác của sinh viên; trao quyền cho nhà giáo dục,… Tuy nhiên, AI cũng đặt ra thách thức trong việc đào tạo và chuyển giao công nghệ, bảo vệ dữ liệu và quyền riêng tư, chi phí và triển khai, các vấn đề đạo đức và pháp lý, gây ra sự suy giảm kỹ năng viết và tư duy phê phán của sinh viên và thách thức về sự chấp nhận và sử dụng của giảng viên. Do đó, để tận dụng AI hiệu quả, các cơ sở giáo dục đại học đào tạo và hỗ trợ giảng viên và sinh viên trong sử dụng AI, bảo vệ dữ liệu và quyền riêng tư của người dùng, tối ưu hóa nguồn lực tài chính, giải quyết vấn đề đạo đức và pháp lý cũng như tăng cường hiểu biết và kỹ năng về AI. Tóm lại, AI mang lại cả cơ hội và thách thức trong DHĐH. Để sử dụng AI hiệu quả trong hoạt động DHĐH, các cơ sở giáo dục cần cập nhật, hợp tác và thích ứng với sự thay đổi do AI mang lại. TÀI LIỆU THAM KHẢO Andy N., Kremantzis M.D., Essien A.E., Petrounias I., Hosseini S. (2024). “Enhancing Student Engagement Through Artificial Intelligence (AI): Understanding the Basics, Opportunities, and Challenges”. Journal of University Teaching & Learning Practice, 6(21), 1-13. doi: https://doi.org/10.53761/caraaq92. Chan C.K.Y. (2023). “A comprehensive AI policy education framework for university teaching and learning”. Int J Educ Technol High Educ, 20(38), 1-25. doi: https://doi.org/10.1186/s41239-023-00408-3. Fenwick A. & Molnar G. (2022). “The importance of humanizing AI: using a behavioral lens to bridge the gaps between humans and machines”. Discover Artificial Intelligence, 2(14). doi: https://doi.org/ 10.1007/s44163-022-00030-8. Hayani A., Sari E.A., Sukiman. (2021). “Artificial Intelligence Librarian as Promotion of IAIN Lhokseumawe Library in the Revolutionary Era 4.0”. Artificial Intelligence Librarian as Promotion of IAIN Lhokseumawe Library in the Revolutionary Era 4.0, 2(2), 88-93. doi:https://doi.org/ 10.18196/jrc.2258. Hoạt Đ.V., Đức H.T. (2017). Lý luận dạy học đại học. NXB Đại học Sư phạm, Hà Nội. Philip B. (2020). “Artificial intelligence: how does it work, why does it matter, and what”. European Parliamentary Research Service, 1-64. doi: https://doi.org/10.2861/44572. Saaida M.B. (2023). “AI-Driven transformations in higher education: Opportunities and challenges”. International. Journal of Educational Research and Studies, 1(5). Sîrghi N., Voicu M.C, Noja G.G., Socoliuc O.R. (2024). “Challenges of artificial intelligence on the learning process in higher education”. Challenges of Artificial Intelligence on the Learning Process in Higher Education, 26(65), 53-70. Spyros M. (2017). “The forthcoming Artificial Intelligence (AI) revolution: Its impact on society and firms”. Futures, 90, 46 - 60. doi:https://doi.org/10.1016/j.futures.2017.03.006 Yunhe P. (2016). “Heading toward Artificial Intelligence 2.0”. Chinese Academy of Engineering, 2(4), 409- 413. doi:https://doi.org/10.1016/J.ENG.2016.04.018. 523
CÓ THỂ BẠN MUỐN DOWNLOAD
-
Giáo trình Nhập môn trí tuệ nhân tạo - ĐH Đà Lạt
115 p | 1264 | 531
-
Định hướng triển khai nội dung trí tuệ nhân tạo vào hoạt động dạy học và nghiên cứu khoa học của sinh viên
13 p | 33 | 11
-
Nghiên cứu khả năng ứng dụng trí tuệ nhân tạo trong dạy và học tiếng Anh cho sinh viên khoa Giáo dục tiểu học
3 p | 40 | 8
-
Tác động của Trí tuệ nhân tạo (AI) đối với hệ thống giáo dục toàn cầu và giáo dục Việt Nam
11 p | 20 | 7
-
Sử dụng trí tuệ nhân tạo trong hoạt động báo chí: Thực tiễn và các vấn đề pháp lý
11 p | 29 | 7
-
Trí tuệ nhân tạo trong giáo dục - cơ hội và thách thức tương lai cho việc dạy và học ở trường đại học
7 p | 28 | 6
-
Nghiên cứu tổng quan về sử dụng trí tuệ nhân tạo trong dạy học
8 p | 11 | 5
-
Trí tuệ nhân tạo và ứng dụng trong thiết kế video hỗ trợ dạy học môn Tự nhiên và Xã hội lớp 3
6 p | 9 | 5
-
Ứng dụng trí tuệ nhân tạo trong dạy học tại Trường Đại học Hải Phòng
3 p | 15 | 5
-
Nghiên cứu tiếp cận học sâu ứng dụng trong quản lý lớp học hiệu quả ở Trường Đại học Đông Á
10 p | 21 | 4
-
Phát huy trí tuệ nhân tài tinh hoa hải ngoại: Kinh nghiệm Trung Quốc
7 p | 30 | 4
-
ChatGPT: Trí tuệ nhân tạo hỗ trợ người học tiếng Anh trong môi trường đại học
10 p | 10 | 4
-
Tư tưởng của Yuval Noah Harari về vấn đề lao động và việc làm trong thời đại trí tuệ nhân tạo
7 p | 15 | 2
-
Phát triển trí tuệ nhân tạo tại Việt Nam: Thực trạng và giải pháp
5 p | 71 | 2
-
Ứng dụng công nghệ trí tuệ nhân tạo trong đào tạo thiết kế bao bì tại đại học FPT
9 p | 6 | 2
-
Nghiên cứu quan điểm của giáo viên về việc sử dụng trí tuệ nhân tạo trong đánh giá bài viết IELTS
7 p | 7 | 2
-
Neuro feedback - Lịch sử hình thành và phát triển
6 p | 12 | 1
Chịu trách nhiệm nội dung:
Nguyễn Công Hà - Giám đốc Công ty TNHH TÀI LIỆU TRỰC TUYẾN VI NA
LIÊN HỆ
Địa chỉ: P402, 54A Nơ Trang Long, Phường 14, Q.Bình Thạnh, TP.HCM
Hotline: 093 303 0098
Email: support@tailieu.vn